Start-up will mit neuartigem Ansatz KI-Halluzinationen reduzieren

Das noch wenig bekannte Start-up Augmented Intelligence (AUI) macht mit einem neuartigen KI-Modell von sich reden. Dieses soll eine Lösung für die Halluzinationen von LLM-basierten Technologien bieten. Laut der Fachwebsite "Venturebeat" hat das in New York und Tel Aviv ansässige Start-up unlängst 20 Millionen US-Dollar aufgebracht, womit seine Gesamtfinanzierung auf fast 60 Millionen US-Dollar steigt. Sein Wert wird auf 750 Millionen US-Dollar geschätzt und nähert sich damit der symbolischen Schwelle von einer Milliarde US-Dollar, die es in den Club der "Einhörner" bringen würde.

Ein alternativer Ansatz zu Transformer-Modellen

AUI hat ein neues Basismodell für aufgabenorientierte Dialoge entwickelt. Apollo-1, basiere auf einer neurosymbolischen Architektur und gewährleiste präzise Aktionen, die strengen Geschäftsregeln entsprechen, erklärt das Start-up in einem Blogbeitrag.

Während ChatGPT oder Gemini Transformer-Modelle verwenden, die sich durch offene Dialoge auszeichnen, verfolge Apollo-1 einen anderen Ansatz: Die Automatisierung von Gesprächen, die konkrete Aktionen auslösen, wie etwa die Buchung eines Fluges, die Bearbeitung einer Reklamation oder die Ausführung einer Überweisung. Gleichzeitig werde die strikte Ausführung spezifischer Betriebslogiken gewährleistet.

Laut Unternehmen beherrschen aktuelle grosse Sprachmodelle (LLMs) zwar das Sprachverständnis, seien aber noch nicht in der Lage, über mehrere Dialoge hinweg einen konsistenten Gesprächsstatus aufrechtzuerhalten oder bedingte Regeln systematisch anzuwenden. Diese Einschränkungen seien nicht auf die Grösse der Modelle zurückzuführen, sondern auf ihre Architektur, die auf der Vorhersage von Tokens (Wortteilen) basiere.

Argumentationsschleife und symbolische Sprache

Gemäss AUI ist das Herzstück des Systems eine Argumentationsschleife, die auf einer "neuro-symbolischen Zustandsmaschine" und einer "symbolischen Argumentationsmaschine basiert, die die nächsten Aktionen anhand des Zustands berechnet". Diese Architektur ermögliche es, "einen typisierten symbolischen Zustand über mehrstufige Workflows hinweg aufrechtzuerhalten". Laut Unternehmen ist das wesentlich, um sicherzustellen, dass jeder Schritt der Konversation bestimmte Geschäftsregeln einhält.

Diese Funktionsweise ermögliche die Ausführung von Geschäftsanweisungen ohne Abweichungen. Wenn beispielsweise eine Fluggesellschaft festlege, dass eine Rückerstattung von mehr als 200 Dollar systematisch eine Identitätsprüfung auslösen muss, werde Apollo-1 dies im Gegensatz zu herkömmlichen LLMs ausnahmslos umsetzen.

Das Modell sei anhand von Millionen von aufgabenorientierten Gesprächen trainiert worden, die ein Team aus 60'000 Personen seit 2017 strukturiert habe. AUI habe somit eine symbolische Sprache entwickelt, die prozedurales Wissen (Regeln, Einschränkungen, Verarbeitungsschritte) und deskriptives Wissen (Entitäten, Attribute) separat kodiere und dem Modell die Fähigkeit verleihe, sich an eine Vielzahl von Anwendungsbereichen anzupassen.

Apollo-1 wird gemäss "Venturebeat" bereits von mehreren Fortune-500-Unternehmen getestet, darunter Unternehmen aus den Bereichen Einzelhandel, Versicherungen und Luftfahrt. Nach den von AUI veröffentlichten Ergebnissen übertreffe das Modell LLM-Agenten in verschiedenen Referenz-Benchmarks.

AUI ist kein Einzelfall

Der neurosymbolische Ansatz stösst im gesamten KI-Ökosystem auf frisches Interesse. IBM entwickle seit mehreren Jahren neurosymbolische Systeme, um Deep Learning und symbolisches Denken zu kombinieren. Ein Artikel im “Wall Street Journal” (Paywall) beschreibt detailliert, wie Amazon neurosymbolische KI in verschiedenen Bereichen einsetzt, von Vulcan-Lagerrobotern bis hin zum Einkaufsassistenten Rufus. Auch in der Schweiz interessiert sich die Wissenschaft für diesen Bereich. Idiap, ein Forschungsinstitut für künstliche Intelligenz mit Sitz in Martigny, hat eine Forschungsgruppe für neurosymbolische KI gegründet, deren Ziel es ist, Modelle zu entwickeln, die komplexe, transparente und sichere Schlussfolgerungen ziehen können.

Unlängst haben KI-Entwickler von Anthropic Anzeichen für introspektive Fähigkeiten von KI entdeckt - so könnte KI möglicherweise ihre Denkprozesse erklären. Lesen Sie hier mehr dazu.