Widget

Chatbots könnten eines Tages Suchmaschinen ersetzen. Hier ist, warum das eine schreckliche Idee ist.

Bender ist nicht in allen Fällen dagegen, Sprachmodelle für den Frage-Antwort-Austausch zu verwenden. Sie hat einen Google Assistant in ihrer Küche, mit dem sie Maßeinheiten in einem Rezept umrechnet. „Manchmal ist es super praktisch, per Sprache auf Informationen zugreifen zu können“, sagt sie.

Aber Shah und Bender geben auch ein beunruhigenderes Beispiel, das letztes Jahr auftauchte, als Google auf die Frage „Was ist die hässlichste Sprache in Indien?“ antwortete. mit dem Snippet „Die Antwort ist Kannada, eine Sprache, die von rund 40 Millionen Menschen in Südindien gesprochen wird.“

Keine einfachen Antworten

Hier gibt es ein Dilemma. Direkte Antworten können bequem sein, aber sie sind oft auch falsch, irrelevant oder beleidigend. Sie können die Komplexität der realen Welt verbergen, sagt Benno Stein von der Bauhaus-Universität in Weimar, Deutschland.

Im Jahr 2020 veröffentlichten Stein und seine Kollegen Martin Potthast von der Universität Leipzig und Matthias Hagen von der Martin-Luther-Universität Halle-Wittenberg, Deutschland, ein Papier, in dem sie die Probleme mit direkten Antworten hervorhoben. „Die Antwort auf die meisten Fragen lautet ‚Es kommt darauf an’“, sagt Matthias. „Das ist schwer zu jemandem durchzudringen, der sucht.“

Stein und seine Kollegen sind der Ansicht, dass sich Suchtechnologien vom Organisieren und Filtern von Informationen über Techniken wie das Bereitstellen einer Liste von Dokumenten, die einer Suchanfrage entsprechen, zu Empfehlungen in Form einer einzelnen Antwort auf eine Frage entwickelt haben. Und das halten sie für einen Schritt zu weit.

Auch hier liegt das Problem nicht in den Beschränkungen der bestehenden Technologie. Selbst mit perfekter Technologie würden wir keine perfekten Antworten bekommen, sagt Stein: „Wir wissen nicht, was eine gute Antwort ist, weil die Welt komplex ist, aber wir hören auf, das zu denken, wenn wir diese direkten Antworten sehen.“

Schah stimmt zu. Den Menschen eine einzige Antwort zu geben, kann problematisch sein, weil die Quellen dieser Informationen und alle Meinungsverschiedenheiten zwischen ihnen verborgen bleiben, sagt er: „Es hängt wirklich davon ab, dass wir diesen Systemen voll und ganz vertrauen.“

Shah und Bender schlagen eine Reihe von Lösungen für die Probleme vor, die sie vorhersehen. Im Allgemeinen sollten Suchtechnologien die verschiedenen Möglichkeiten unterstützen, wie Menschen heute Suchmaschinen nutzen, von denen viele nicht durch direkte Antworten bedient werden. Menschen nutzen die Suche oft, um Themen zu erkunden, zu denen sie möglicherweise nicht einmal spezifische Fragen haben, sagt Shah. In diesem Fall wäre es sinnvoller, einfach eine Liste von Dokumenten anzubieten.

Es muss klar sein, woher Informationen stammen, insbesondere wenn eine KI Teile aus mehr als einer Quelle bezieht. Einige Sprachassistenten tun dies bereits und stellen einer Antwort beispielsweise „Hier ist, was ich auf Wikipedia gefunden habe“ voran. Zukünftige Suchwerkzeuge sollten auch die Fähigkeit haben zu sagen „Das ist eine blöde Frage“, sagt Shah. Dies würde der Technologie helfen, das Nachplappern anstößiger oder voreingenommener Prämissen in einer Abfrage zu vermeiden.

Stein schlägt vor, dass KI-basierte Suchmaschinen Gründe für ihre Antworten präsentieren könnten, indem sie Vor- und Nachteile verschiedener Standpunkte angeben.

Viele dieser Vorschläge heben jedoch lediglich das Dilemma hervor, das Stein und seine Kollegen identifiziert haben. Alles, was den Komfort verringert, wird für die Mehrheit der Benutzer weniger attraktiv sein. „Wer sich nicht bis zur zweiten Seite der Google-Ergebnisse durchklickt, wird keine anderen Argumente lesen wollen“, sagt Stein.

Google sagt, es sei sich vieler der Probleme bewusst, die diese Forscher aufwerfen, und arbeite hart daran, Technologien zu entwickeln, die die Menschen nützlich finden. Aber Google ist der Entwickler eines milliardenschweren Dienstes. Letztendlich werden die Tools entwickelt, die die meisten Menschen anziehen.

Stein hofft, dass es nicht nur um Bequemlichkeit geht. „Die Suche ist so wichtig für uns, für die Gesellschaft“, sagt er.

About the author

vrforumpro

Leave a Comment