Salesforce-Chef fordert Haftungsregeln für KI-Anbieter

Salesforce-CEO Marc Benioff (r.) diskutierte am AI for Good Global Summit in Genf mit Nicholas Thompson, CEO des US-Magazins "The Atlantic", über die Regulierung von KI und die Haftung ihrer Anbieter. (Source: ITU / AI for Good)

Salesforce-CEO Marc Benioff (r.) diskutierte am AI for Good Global Summit in Genf mit Nicholas Thompson, CEO des US-Magazins "The Atlantic", über die Regulierung von KI und die Haftung ihrer Anbieter. (Source: ITU / AI for Good)

Wer KI-Systeme entwickelt und verkauft, soll nach Ansicht von Salesforce-CEO Marc Benioff auch für Schäden geradestehen, die diese Systeme verursachen. Am "AI for Good"-Gipfel in Genf warb er deshalb für klare Haftungsregeln für die KI-Branche. Mit Nicholas Thompson, CEO des US-Magazins "The Atlantic", diskutierte er zudem darüber, wie weit staatliche Eingriffe in die Entwicklung und Verbreitung leistungsfähiger KI-Modelle gehen sollten.

Mit zunehmender Autonomie von KI-Agenten genügten ethische Grundsätze und freiwillige Selbstverpflichtungen nicht mehr, argumentierte Benioff. Unternehmen, die solche Systeme entwickeln und vermarkten, müssten auch für Schäden einstehen, die ihre Produkte verursachen. Das gelte ausdrücklich auch für Salesforce, sagte der Konzernchef.

Vergleich mit der Pharmaindustrie

Als Vergleich zog Benioff die Pharmaindustrie heran. Verursache ein Medikament Schäden, könne der Hersteller dafür haftbar gemacht werden. Ein ähnlicher Grundsatz sollte seiner Ansicht nach auch für Anbieter von KI-Systemen gelten. Wie ein entsprechender Rechtsrahmen aussehen oder wie sich die Haftung zwischen Modellanbietern, Softwareherstellern, Integratoren und Anwenderunternehmen aufteilen liesse, führte er allerdings nicht aus.

Thompson weitete die Diskussion auf das Training von KI-Modellen aus. Das ethische Problem beginne bereits bei der Verwendung von Inhalten ohne ausreichende Zustimmung der Urheberinnen und Urheber oder anderer Rechteinhabender. Er warf KI-Unternehmen vor, ihre Systeme mit "gestohlenen" Daten aufgebaut zu haben, ohne dafür zur Rechenschaft gezogen worden zu sein. Benioff schloss sich der Kritik an und sah darin ein weiteres Beispiel für die mangelnde Rechenschaftspflicht der Branche.

Kontroverse um staatliche Eingriffe

Uneinig waren sich die beiden beim Vorgehen der US-Regierung gegen die KI-Modelle Claude Fable 5 und Mythos 5 von Anthropic. Im Juni verhängte sie Exportbeschränkungen, weil sie befürchtete, Angreifer könnten Schutzmechanismen umgehen und mit den Modellen Software-Schwachstellen aufspüren. Anthropic schränkte daraufhin den Zugang zu beiden Modellen vorübergehend ein. Nachdem das Unternehmen zusätzliche Sicherheitsvorkehrungen eingeführt hatte, stellte es Fable 5 wieder allgemein zur Verfügung.

Benioff begrüsste das Eingreifen der Behörden. Regierungen müssten handeln können, wenn KI-Systeme das Potenzial hätten, als Waffe missbraucht zu werden, argumentierte er. Gleichzeitig räumte er ein, dass der Entscheid in Europa Zweifel an der Verlässlichkeit US-amerikanischer KI-Anbieter geweckt habe. Unternehmen könnten befürchten, den Zugang zu einer geschäftlich wichtigen Technologie von einem Tag auf den anderen zu verlieren.

Thompson widersprach. Zwar sprach auch er sich für die Regulierung leistungsfähiger KI-Modelle aus. Gemessen an der festgestellten Schwachstelle sei die Reaktion der US-Regierung jedoch überstürzt und unverhältnismässig gewesen. Besonders kritisierte er, dass die Beschränkungen sämtliche ausländischen Staatsangehörigen trafen - selbst Mitarbeitende von Anthropic. Damit schwäche die US-Regierung aus seiner Sicht einen entscheidenden Standortvorteil der USA: die Fähigkeit, hochqualifizierte Fachkräfte aus aller Welt anzuziehen.

Übrigens: KI-Agenten agieren zunehmend autonom. Forschende warnen deshalb vor erheblichen Sicherheits- und Haftungsrisiken. Welche Schwachstellen aktuelle KI-Agenten aufweisen, zeigt eine Studie unter dem Titel "Agents of Chaos" - mehr dazu lesen Sie hier.