Bing nutzt eine Kombination verschiedener Technologien, um in den Antworten des KI-Chats auch neueste Informationen berücksichtigen zu können.

 Anzeige

Ein wichtiger Unterschied zwischen der Integration des auf dem GPT-Modell basierenden Chats im neuen Bing und dem Standalone-ChatGPT besteht darin, dass die Chatantworten von Bing auch aktuelle Informationen und jüngste Ereignisse berücksichtigen können, während ChatGPT bisher auf seine Trainingsdaten beschränkt war, die etwa bis Ende 2021 reichen.

Doch wie ist es möglich, dass der Bing Chat sogar tagesaktuelle Ereignisse berücksichtigen kann? Dazu bedient sich die Suchmaschine einer Technologie mit dem Namen Prometheus. Der Name stammt aus der griechischen Mytologie. In diesem Zusammenhang ist Prometheus bekannt als derjenige, der den Menschen das Feuer gebracht hat und dafür bestraft wurde.

Prometheus bringt Bing Index und Large Language Model zusammen

In der Welt von Bing handelt es sich bei Prometheus um ein KI-Modell, das die Informationen aus dem Bing Index mit den Sprachfähigkeiten des aktuellen GPT-Modells kombiniert, auf dem der Bing Chat basiert. Prometheus nutzt die Stärken des Bing Index und von GPT, um einen Satz von internen Suchanfragen zu erzeugen, die iterativ durch eine Komponente mit dem Namen Bing Orchestrator laufen. Das Ziel besteht darin, eine genaue und gehaltvolle Antwort zu erzeugen, die zur Frage des Nutzers im gegebenen Kontext passt. Das alles passiert innerhalb von Millisekunden. Die sich daraus ergebende Antwort ist die Chat-Antwort.

Grounding sorgt für aktuelle Antworten

Die kritische Aufgabe, die Prometheus dabei zukommt, ist die Auswahl der richtigen internen Suchanfragen und die Nutzung der Bing Suchergebnisse. Relevante und aktuelle Informationen werden dabei dem Modell zugeführt, so dass auch aktuelle Fragen beantwortet und Ungenauigkeiten reduziert werden können. Diese Methode wird "Grounding" genannt.

Anders formuliert: Das Modell beruteilt die vom Bing Index gelieferten Daten und wird somit von diesen Daten über den Bing Orchestrator "geerdet" oder fundiert ("grounded").

Einfügen von Suchergebnissen und Links in die Chat-Antwort

Im letzten Schritt fügt Prometheus der Antwort noch relevante Suchergebnisse hinzu wie zum Beispiel die Wetterlage, Aktienkurse, Sportergebnisse oder Nachrichten. Dadurch wird die Chat-Antwort aufgewertet und für die Nutzer attraktiver. Prometheus kann außerdem Links in die einzelnen Sätze der Chat-Antwort einfügen, damit die Nutzer einfach auf die verwendeten Quellen zugreifen können. Das Senden von Traffic an diese Quellen sei laut Bing wichtig für ein gesundes Web-Ökosystem und bleibe eines der wichtigsten Ziele von Bing.

Weitere Verbesserungen sind geplant. Zum Beispiel soll die Menge der Daten, die zum Grounding verwendet werden, zukünftig auf das Vierfache gesteigert werden, um die Genauigkeit der Chat-Antworten weiter zu verbessern. Geplant ist außerdem eine Umschaltmöglichkeit zur Optimierung der User Experience je nach Aufgabe und Ziel.