Das von Google vorgestellte Pathways Language Model (PaLM) bietet bisher nicht gesehene Fähigkeiten beim Lösen logischer Aufgaben. Auch den Sinn von Witzen kann Google erkennen.
Googles Fähigkeiten zum Interpretieren menschlicher Sprache und vor allem beim Verstehen von inhaltlichen Zusammenhängen haben einen weiteren Meilenstein erreicht. Das von Google vorgestellte Pathways Language Model (PaLM) ist in der Lage, die Bedeutung von Aussagen zu verstehen und kann sogar den Sinn von Witzen nachvollziehen.
PaLM basiert auf Pathways, einer Architektur für künstliche Intelligenz, die in der Lage ist, verschiedene Aufgaben zugleich auszuführen.
PaLM verwendet 540 Milliarden Parameter und wird mithilfe von Pathways trainiert. Dadurch konnte ein einfaches Modell auf vielen TPU v4 Pods trainiert werden. TPU-Pods sind Gruppen spezieller Prozessoren, die Google für anspruchsvolle Rechenaufgaben und andere Anwendungen verwendet.
PaLM nutzt ein sogenanntes Few-Shot Learning. Das bedeutet, dass das System mit vergleichsweise wenigen Trainingsdaten auskommt.
Die beeindruckenden Fähigkeiten von PaLM liegen im Erkennen natürlicher Sprache sowie beispielsweise in der Möglichkeit, zwischen Ursache und Wirkung zu unterscheiden, die Bedeutung von kombinierten Emojis zu erkennen und konzeptuelle Kombinationen in ihrem jeweiligen Kontext zu deuten.
Nachfolgend sind einige Beispiele für die Leistungsfähigkeit von PaLM zu sehen:
- Das System erkennt bei einer Auswahl mehrerer Sätze, welcher Satz einen Sinn ergibt.
- Das System wählt aus einer Liste das passende Synonym aus.
- Das System kann die Konsequenzen einer beschriebenen Handlung deuten.
- Das System kann zwischen Ursache und Wirkung unterscheiden.
- Das System kann aus einer Kombination von Emojis einen Filmtitel bilden.
- Das System kann einen aus mehreren Sätzen denjenigen identifizieren, der eine vorgegebene Wortdefinition am besten trifft.
PaLM kann zudem mit dem sogenannten Chain-of-Thought Prompting kombiniert werden. Auf diese Weise werden Probleme in Teilschritte zerlegt, was der menschlichen Denkweise entspricht. Das zeigt die folgende exemplarische Denkaufgabe:
PaLM ist sogar in der Lage, die Bedeutung des folgenden Witzes zu erkennen:
Hinzu kommt die Möglichkeit, mithilfe von PaLM Programmcode zu erstellen. Dabei genügt eine Aufgabenstellung in natürlicher Sprache, während das System aus diesen Angaben den Code erzeugt.
Diese Beispiele zeigen, wozu Googles Systeme inzwischen in der Lage sind. All das wird sicherlich auch in der Suche zum Einsatz kommen, etwa dazu, die Ergebnisqualität der Suchergebnisse weiter zu steigern. Google wird dies aber auch zum Zwecke der Umsatzsteigerung nutzen wollen, etwa durch das Ausspielen besseren Sucheanzeigen.
