Französischer Chatbot nach Fauxpas in Schulungsphase zurückgeschickt

Die in Frankreich ansässige Linagora Group hat kürzlich in Zusammenarbeit mit der Arbeitsgemeinschaft OpenLLM-France "Lucie" lanciert, einen quelloffenen Chatbot. Doch nur drei Tage nach der Markteinführung nahm das Unternehmen die KI wieder vom Netz, wie "The Register" berichtet. Grund dafür waren diverse sinnlose Aussagen und Fehltritte des Bots. Diese gingen über das erwartbare Mass an KI-Halluzinationen hinaus. "The Register" berichtet von Beispielen wie der Weigerung des Chatbots, Rechenaufgaben zu lösen oder falsche Lösungen auszuspucken. Auch soll die webbasierte Lucie Rezepte zum Kochen von Meth angeboten oder die Eier von Kühen als reichhaltige Nahrungsquelle genannt haben. 

Die Linagora Group teilt in einer Stellungnahme mit, sie habe die Grenzen des Chatbots nicht angemessen kommuniziert. Der Lucie-Chatbot sei in seinem aktuellen Zustand nicht im Bildungs- oder Produktionskontext zu verwenden. Es handle sich eher um ein akademisches Forschungsprojekt im Anfangsstadium. Des Weiteren sei der Chatbot in erster Linie ein Sprach- und weniger ein Wissensmodell. Die Entwickler heben zudem hervor, Lucie sei "Rohmodell", dessen generierte Antworten nicht garantiert und fehlerfrei sind.

"Ohne diese üblichen Erklärungen und Vorsichtsmassnahmen hätten wir den Dienst lucie.chat nicht veröffentlichen dürfen. Wir waren von unserer eigenen Begeisterung mitgerissen. Wir werden daher künftig unseren Ansatz besser zu erläutern. Dafür brauchen wir Ruhe und Zeit. Ausserdem ziehen wir es vor, den Zugang auf die Plattform lucie.chat vorübergehend zu schliessen", so die Linagora Group in ihrer Mitteilung. 
 

Das könnte Sie auch interessieren: Forschende an der ETH Zürich haben aufgezeigt, wie grosse Sprachmodelle in der Lage sind, persönliche Details aus Posts oder scheinbar harmlosen Gesprächen mit einem Chatbot abzuleiten. Lesen Sie hier mehr darüber.