Wie Bevölkerung, Unternehmen und Politik die KI-Zukunft gestalten können

Karsten Donnay, Professor für Digitale Demokratie am Institut für Politikwissenschaft der UZH. (Source: zVg)

Karsten Donnay, Professor für Digitale Demokratie am Institut für Politikwissenschaft der UZH. (Source: zVg)

Halten Sie künstliche Intelligenz grundsätzlich für eine gute Entwicklung? Wieso oder wieso nicht?

Karsten Donnay: Für mich ist die Frage eigentlich nicht, ob das eine gute oder eine schlechte Entwicklung ist. Für mich ist Technologie erstmal einfach Technologie; und wir machen aus der Technologie, was wir wollen. Technologie ist erstmal neutral und das Wichtige ist dann, wie wir sie verwenden, wie wir sie gestalten und wo wir Grenzen setzen. Momentan handelt die Diskussion ja vor allem davon, wie diese Technologie verwendet wird und wie sie sich weiterentwickelt. Aber KI ist erstmal einfach die schlüssige Fortsetzung einer technologischen Entwicklung. Das heisst, für mich geht es eher darum: Was tun wir jetzt damit, was machen die Unternehmen damit, was macht die Gesellschaft damit? Wollen wir Grenzen setzen? Wo setzen wir diese Grenzen? Und wie genau stellen wir uns eine Zukunft mit KI vor?

Die Technologie ist wahrscheinlich die grundlegendste gesellschaftliche Umwälzung seit dem Aufkommen von Smartphones. Das hat auch viel mit Daten zu tun: KI ist gewissermassen eine Antwort darauf, dass es so viele Daten gibt, die wir jetzt verarbeiten wollen. Deshalb müssen wir uns erstmal fragen, wie wir die Daten verarbeiten, was wir damit machen und wo wir sie einsetzen. An dem Punkt hat uns die Industrie vorgelegt, was es gibt und wo man schauen muss, wie es weitergeht. Was brauchen wir beispielsweise für Rahmenbedingungen, damit wir sagen können: "Ja, das möchten wir, das sind Anwendungen, die uns jetzt zugutekommen." Und was sind dagegen Anwendungen, bei denen wir sagen: "Die sind jetzt eher schwierig, vielleicht auch ethisch oder rechtlich bedenklich." Diese Diskussion muss jetzt erst noch stattfinden.

Viele Leute führen diese Diskussion bereits. So auch der Verein Monda Futura, dessen "Zukunftsstudie" zum Schluss kam, dass eine Mehrheit der Schweizer Bevölkerung lieber nicht so viel KI in ihrem Alltag hätte, beziehungsweise dass KI in unserer Zukunft eine untergeordnete Rolle spielen soll. Was steckt hinter diesem Wunsch?

Die Technologie ist noch so neu, dass wir uns nur sehr schwer vorstellen können, wie eine Zukunft mit KI eigentlich aussieht. Aber das reflektiert nicht unbedingt das, was die Bevölkerung langfristig will, sondern es ist eher eine Momentaufnahme. Wenn wir jetzt gerade an die Zukunft denken, sehen wir KI noch relativ kritisch, denn wir verstehen sie noch nicht so gut. Viele Leute haben wenig Erfahrung damit, die Anwendungen sind teilweise noch recht beschränkt. Und gleichzeitig hört man diese Schreckensszenarien: "KI könnte die Welt übernehmen, sie ist gefährlich." - "Wir müssen die Technologie regulieren; jetzt ist der Zeitpunkt, sonst ist es zu spät." In diesem Spannungsfeld ist klar, dass man bezüglich der Zukunft ein bisschen skeptischer ist. Dann denkt man vielleicht: "Die gute alte Welt - ganz ohne KI - die war doch auch schön. Da war noch alles besser."

Das sind genau diese retrotopischen Zukunftsentwürfe, die gemäss der Studie sehr beliebt sind - also Zukünfte, die auf vertrauten Gesellschaftsbildern beruhen; die bekommen mehr Zustimmung als die progressiveren Szenarien. Gibt es denn Hinweise darauf - aus der Forschung oder vielleicht aus Abstimmungsresultaten, die man untersucht hat -, dass die Leute generell eher retrotopisch denken? Oder ist das etwas Neues, sozusagen eine Antwort auf die rapide technologische Entwicklung der vergangenen Jahre oder Jahrzehnte?

Es ist wohl eine Kombination von beidem. Es gibt ja immer die Tendenz, dass die Sachen, die man in der Vergangenheit sieht, irgendwie attraktiver sind. Man hat das Gefühl, dass es "in der guten alten Zeit halt besser" war, auch wenn viele Dinge damals gar nicht so gut waren. Die blendet man dann aus und legt den Fokus auf bestimmte Sachen, die vielleicht - zumindest oberflächlich - besser aussehen als heute. Da gibt es durchaus eine gewisse Grundtendenz, die zu diesem retrotopischen Denken führt, andererseits hat es aber auch damit zu tun, dass die technologische Entwicklung schon vor KI extrem schnell voranschritt.

Woran denken Sie konkret?

Diese vernetzte Welt - sie ist hektisch, man ist ständig miteinander verbunden. Handys hatten ja auch nicht unbedingt nur den positiven Effekt, den man sich erwünscht hatte. Vieles ist einfacher geworden, gleichzeitig sind wir ständig erreichbar; das stresst. Diese Erreichbarkeit wirkt sich direkt auf den Alltag aus: Man beantwortet mal schnell noch eine E-Mail am Abend - und schon hat eine Verschiebung zwischen Arbeit und Privatleben stattgefunden. Die Vernetztheit zeigt sich auch bei den Medien: Die ganze Welt ist vor der Haustür; man bekommt alles mit, insbesondere die schlimmen Sachen. Vieles passiert, über das wir keine Kontrolle haben. Diese Fremdbestimmung schafft Verunsicherung und bei der KI ist es genau dasselbe. Momentan haben wir dabei wenig zu sagen - es sind die KI-Unternehmen und die Grossmächte, die alles bestimmen. Und das führt dann dazu, dass man das Gefühl hat, es sei doch vielleicht mal einfacher gewesen.

Und ist das eine allgemeine Tendenz von Menschen?

So weit würde ich nicht gehen, aber in der Situation kann ich sehr gut nachvollziehen, dass dieses Gefühl aufkommt und dass man angesichts eines solchen Zukunftsszenarios denkt: "Okay, das kenne ich, da war die Welt noch unkomplizierter."

Trotz dieser ablehnenden Haltung nutzen sehr viele Leute regelmässig KI: gemäss dem IGEM-Digimonitor 2026 rund 80 Prozent der Schweizer Bevölkerung, jede dritte Person sogar täglich. Wie erklären Sie die Diskrepanz zwischen dieser Studie und derjenigen von Monda Futura?

Ich glaube, die Zukunftsszenarien, nach denen Monda Futura gefragt hat, sind eher generelle Visionen. Da ist es dann erstmal schwierig, die Rolle der KI zu sehen, weil es noch so unklar ist, wie diese Rolle überhaupt aussehen wird. Dennoch wurden in der Studie durchaus auch die Szenarien, in denen KI explizit drin war, sehr schlecht bewertet. Das kann man wiederum auf die Grundängste zurückführen, die da sind und geschürt werden - spezifisch gegenüber KI, aber auch gegenüber neuen Technologien im Allgemeinen. Das ist sicher ein Grund für diese Diskrepanz.

Eine etwas differenziertere Sicht gibt aber auch die tatsächliche Nutzung. Einerseits ist KI heute praktisch allgegenwärtig, in vielen Bereichen des Lebens ist sie einfach da. Aber wenn man schaut, wer KI wirklich produktiv nutzt, dann sind es nicht mehr 80 Prozent. Viele Leute nutzen sie vielleicht für bestimmte Sachen, aber dann vielleicht doch nicht so intensiv, vielleicht auch nicht so reflektiert. Das ist schon ein anderer Grad der Nutzung als der eines Power-Users. Zudem haben solche Befragungen aus methodologischer Sicht oft das Problem, dass die Leute, die KI überhaupt nicht benutzen, normalerweise eher selten drin auftauchen. Das hängt auch damit zusammen, wie die Teilnehmenden rekrutiert werden - dieses Problem kenne ich aus meiner eigenen Arbeit. Mit den Wegen, mit denen wir auf potenzielle Teilnehmende zugehen, erreichen wir bestimmte Bevölkerungsgruppen eher schlecht. Deshalb sind gerade technikferne, oftmals ältere Menschen bei solchen Umfragen tendenziell untervertreten.

Also kommt die Diskrepanz von den unterschiedlichen Repräsentativitätsstandards der beiden Studien?

Nein, die Diskrepanz erklärt sich eher aus den unterschiedlichen Fragen, die gestellt wurden. Die eine ist so ein Zukunftsszenario, ein Wunsch, und die andere ist die Realität, dass KI jetzt da ist. Ich finde, man sollte sie auch nutzen, aber wir müssen uns vielleicht intensiver darüber unterhalten, wie wir sie nutzen und wofür wir sie gerne nutzen wollen - und wofür vielleicht nicht. Und wo es möglicherweise auch nötig ist, die Technologie in eine Richtung zu leiten, wo sie uns allen zugutekommt. Denn momentan ist mein Eindruck, dass KI einfach den Tech-Konzernen zugutekommt und nicht so sehr uns Bürgerinnen und Bürgern.

Viele Unternehmen befinden sich aktuell in der KI-Transformation. Sie erhoffen sich von KI-gestützten Arbeitsprozessen eine erhöhte Produktivität und wachsende Profite. Welche Rolle spielen Unternehmen bei der Wahrnehmung von KI in der Bevölkerung?

Also wenn mein Arbeitgeber von mir KI will, dann muss ich sie benutzen - in der Hinsicht spielen Unternehmen natürlich eine Riesenrolle. Wenn KI bei der Arbeit als Tool eingeführt wird, nutzt man sie, auch wenn man sie vielleicht privat nicht einsetzen würde. Das ist aber nicht nur bei grossen Industrieunternehmen der Fall, sondern beispielsweise auch an der Uni. Mittlerweile ist es flächendeckend überall an den Unis so, dass die Studierenden KI verwenden. Aber das heisst auch, dass man kaum noch die Wahl hat, der KI komplett auszuweichen. 

Und das hat natürlich einen grossen Einfluss auf die Akzeptanz. Gleichzeitig kommt dann aber auch den Unternehmen eine gewisse Verantwortung zu, KI so einzusetzen, dass sie auch wirklich den Einzelpersonen etwas bringt. Und ich glaube, da besteht ein gewisser Zielkonflikt. Denn auf der einen Seite wollen die Unternehmen mehr Effizienz - etwa dass eine Arbeit, die früher zwei Personen gemacht haben, jetzt eine Person mit KI-Unterstützung machen kann. Aber diese eine Person ist dann mindestens genauso gestresst wie früher. Das heisst, wir haben ihre Arbeit eigentlich nicht entlastet, dafür können wir die zweite Person komplett wegrationalisieren.

Das führt bei dieser Person natürlich zu einer negativen Wahrnehmung von KI.

Genau, und deshalb haben viele Leute berechtigte Ängste, dass sie mit der KI letztendlich sich selbst einsparen. Man führt die Technologie ein und am Ende braucht man nur noch die Hälfte der Leute. Ich bin mir aber ehrlich gesagt nicht sicher, ob das stimmt, und einige Unternehmen rudern nun langsam zurück. Die merken, dass auch viel Slop generiert wird, was die Prozesse wiederum ineffizient macht. Vielleicht ist es einfach eine Frage der Zeit und die KI-Tools werden besser, sodass das in fünf Jahren kein Thema mehr ist. Aber vielleicht sind auch bestimmte Aufgabenbereiche grundsätzlich schwer ersetzbar.

Dennoch bleibt dieser Zielkonflikt, dass Unternehmen Geld verdienen wollen, während Arbeitnehmende vielleicht eher einfach eine Arbeit machen wollen, die ein bisschen weniger stressig ist als heute, indem ihnen ein Tool dabei hilft. Aber darauf läuft es aktuell nicht hinaus: Es gibt genauso viel Arbeit wie früher, man macht jetzt halt einfach mehr, weil man die KI-Unterstützung hat. Ich merke das auch in meiner eigenen Arbeit: Plötzlich wird in derselben Zeit viel mehr erwartet, und dann geht es quasi nicht mehr ohne Unterstützung. So kommt man in eine Spirale, in der es immer schneller, immer schneller, immer schneller gehen soll. Ich denke, das ist nicht unbedingt erstrebenswert für die Arbeitsqualität. Und das werden die Unternehmen wahrscheinlich auch noch tarieren müssen, sodass am Ende nicht alle Mitarbeitenden ein Burnout haben.

Eine solche Entwicklung gab es ja auch schon bei den E-Mails. Und mittlerweile gibt es viele Unternehmen, die festsetzen, ab wann man keine E-Mails mehr empfängt oder verschickt. Irgendwann am Nachmittag ist Schluss und am Morgen fängt es wieder an - zum Schutz der Mitarbeitenden. Vielleicht ergeben sich ja im Bereich der KI bald ähnliche Regelungen.

Würden Sie also sagen, dass bei Mitarbeitenden eine KI-Ablehnung entstehen kann, weil die Technologie in den Unternehmen so gepusht wird? Sodass es dann plötzlich heisst: "Ich will lieber eine Zukunft ohne KI, das wird mir zu viel."

Genau, oder weil KI zu schnell, zu rabiat eingeführt wird. Zudem gibt es ja viel institutionelle Expertise, die in diesen Unternehmen verankert ist, und die primär von Personen getragen wird. Wenn man diese Leute jetzt alle durch KI entweder stresst oder gleich ganz wegrationalisiert, verliert man auch viel Kapazität. Ich glaube, was wir gerade allgemein noch herausfinden müssen, ist die richtige Art der Kooperation mit diesen Tools - wie man sie wirklich produktiv einsetzt, dass sie den Leuten etwas bringen, aber gleichzeitig auch nicht essentielle Fähigkeiten verdrängen. Und gleichzeitig stellt sich dann auch die Frage der Ausbildung der Zukunft. Wie bildet man Leute aus, wenn man weiss, dass KI für bestimmte Tätigkeiten einfach existiert? Was bringt man noch bei? 

Im Extremfall: Müssen wir jetzt alle Handwerker werden, weil KI am Ende alles andere macht?

Ich glaube nicht, dass es wirklich so weit kommt, aber es gibt durchaus berechtigte Sorgen. Zum Beispiel stellen viele Unternehmen jetzt weniger Junior-Programmierer ein, weil KI deren Aufgaben auch machen kann. Aber wenn es keine Junior-Programmierer gibt, gibt es ja später auch keine Senior-Programmierer mehr. Da muss man sich zuerst bewusst werden, dass die Sachen kurzzeitig vielleicht Einsparungen bringen, aber langfristig Probleme bereiten können, weil dann die Technologie doch nicht ganz alleine funktioniert. Und das wollen wir auch nicht - am Ende soll dann doch bei den meisten Dingen ein Mensch das letzte Wort haben. Dann braucht es eben doch die Leute, die die Expertise haben, um das zu kontrollieren. Aber man muss ja die Expertise erst aufbauen. Die jetzige Generation, die es noch ohne KI gelernt hat, kann noch dorthin kommen - aber wie sieht es mit der nächsten Generation aus? 

Wie lassen sich diese gegensätzlichen Vorstellungen und Wünsche (Bevölkerung versus Unternehmen) in Bezug auf KI miteinander vereinen?

Meines Erachtens sind diese Vorstellungen gar nicht so gegensätzlich, denn Unternehmen brauchen am Ende auch glückliche Mitarbeitende. Eine funktionierende Gesellschaft braucht eine gute Balance zwischen gesellschaftlicher Stabilität und ökonomischer Produktivität. Aber momentan konzentriert man sich ganz stark auf die ökonomischen Aspekte: Welchen Teil der Arbeit kann KI ersetzen? Wo werden wir effizienter? Letztlich muss man überlegen, was das für eine Gesellschaft bedeutet, die sich so sehr über Arbeit und Produktivität definiert. Wenn jetzt plötzlich ganz viele Leute nicht mehr gebraucht werden, weil KI ihre Arbeit übernehmen kann, was machen die dann? Sitzen die dann alle zu Hause herum? Müssen wir denen ein Grundgehalt zahlen? 

Aber ich denke, so weit wird es nicht kommen. Es wird, wie bei allen grossen Technologierevolutionen, einfach eine Umgestaltung des Arbeitslebens geben. Die Leute werden in anderen Bereichen arbeiten, was aber nicht heisst, dass wir einfach mitmachen müssen, was kommt. Sondern man kann auch aktiv fragen: Welche Anwendung von KI wollen wir? In welchen Bereichen wollen wir sie? Wollen wir wirklich so viele Sachen an KI delegieren? Was bedeutet das für den Arbeitsmarkt als Ganzes? Was bedeutet das gesellschaftlich? Und bei bestimmten Sachen muss man dann wohl sagen: "Okay, bis hierhin und nicht weiter." 

Nicht alles, was technisch machbar ist, ist auch das, was wir wollen. Wenn wir das Unternehmen überlassen, die profitorientiert sind, werden sie am Ende das realisieren, was technisch machbar ist. Deshalb muss man von der Konsumentenseite her - vielleicht auch über Regulierung - ein bisschen nachsteuern.

Wie geht die Politik in der Schweiz bisher mit dem KI-Boom um? Welche Aspekte werden bereits gut bewältigt und wo gibt es noch Verbesserungspotenzial?

In den USA wird auch in der Verwaltung generative KI eingesetzt, bei uns ist das hingegen grundsätzlich nicht erlaubt. Sie kann zwar intern schon als Tool verwendet werden, um etwa Dokumente zu erstellen und bestimmte Dinge aufzubereiten, aber letztendlich fällt eine Sachbearbeiterin oder ein Sachbearbeiter die Entscheidung. Ich finde es gut, dass man da eine klare Grenze sieht: Verwaltungsentscheidungen in jeglicher Form - alles, was der Staat gegenüber seinen Bürgerinnen und Bürgern tut - muss direkt vom Gesetz abgeleitet sein. Da darf kein interpretativer Schritt dazwischen sein, ausser den Menschen, die es umsetzen.

Ganz ein heikler Punkt ist hingegen, wie KI in der politischen Praxis eingesetzt wird. Es gibt zwar schon offizielle Weisungen wie etwa Parlamentsmitglieder KI verwenden sollen, aber in der Praxis werden diese nicht immer eingehalten. Denn es kann gefährlich sein, beispielsweise Diskussionspunkte aus einer Parlamentssitzung auf ChatGPT hochzuladen. Das ist für mich keine gute Nutzung und es ist wichtig, dass Personen in der Politik dafür sensibilisiert sind, wie man diese Tools einsetzen sollte.

Bereits verpasst haben wir zudem die Chance, bei der KI-Gesetzgebung einen stärkeren Impuls zu setzen. Jetzt übernehmen wir die KI-Konvention des Europarats und wollen halt sehr sektoriell so kleine Sachen regeln. Stattdessen hätten wir mit einer eigenen KI-Vorlage ein Signal setzen können, dass die Schweiz hier eine Vision hat, die unsere Grundwerte widerspiegelt. Das hätte nicht alles regulieren müssen, aber es hätte der Welt gezeigt, dass die Schweiz beim KI-Umgang gewissen Prinzipien folgt.

Welche Auswirkungen hat KI auf politische Prozesse und die Demokratie in der Schweiz?

Momentan noch eher wenig. Und ich denke, dass wir relativ resilient sind gegenüber den negativen Auswirkungen, etwa dank dieser strikten Regeln für den Einsatz in der Verwaltung. Dazu kommt jedoch der Aspekt von KI als Informationsquelle - sowohl für Politikerinnen und Politiker als auch für Wählerinnen und Wähler. Vergleicht man die KI-Ergebnisse zum Beispiel mit dem Abstimmungsbüchlein oder mit der offiziellen Berichterstattung von den grossen Medienhäusern, zeigen sich schon andere Nuancen. Deshalb würde ich KI als Informationsquelle mit Vorsicht geniessen, denn da besteht durchaus ein Risiko für Desinformation. Aber auch wenn viele Leute in der Schweiz - insbesondere aus bestimmten Altersgruppen - sich jetzt primär über KI-Tools statt über Suchmaschinen informieren, schauen die meisten gemäss den jüngsten Befragungen doch noch ins Abstimmungsbüchlein. Solange das der Fall ist, solange die Grundlage der Entscheidung bei allen gleich ist, sehe ich noch kein Problem.

Wessen KI-Zukunftswünsche werden in der Politik heute mehr berücksichtigt - diejenigen der Bevölkerung oder der Unternehmen?

Ich habe nicht den Eindruck, dass jetzt schon klar ist, in welche Richtung die Politik da geht. Aber vielleicht ist es genau deswegen wichtig, dass wir diese Unterhaltung haben, denn es müssen keine Gegensätze sein - wir müssen nicht Bürger und Unternehmen gegeneinander ausspielen. Am Ende sollten wir alle von KI profitieren, indem die Unternehmen damit ihr Geld verdienen können, aber in einem Rahmen, in dem es für die Bevölkerung keine grossen negativen Konsequenzen hat. Denn das will niemand, auch die Unternehmen nicht. Und da die richtige Balance zu finden, müsste eigentlich im Interesse der Politik sein - denn ein Schweizer Weg mit der KI ist noch nicht so klar definiert.

Inwieweit ist es die Aufgabe der Politik beziehungsweise der Regierung, in der Frage der KI-Zukunft Farbe zu bekennen und eine Richtung zu weisen?

Die Politik muss nicht unbedingt eine Richtung festlegen, aber sie sollte das Thema wirklich als eine Priorität definieren. Jetzt ist der Zeitpunkt gekommen, jetzt müssen wir uns gesellschaftlich und politisch damit auseinandersetzen. Aber momentan ist es eher so, dass wir abwarten und schauen, was passiert, bis wir irgendwo im Kleinen etwas regulieren können. Dabei muss man es gar nicht unbedingt nur über Regulierung machen - eine visionäre Strategie oder ein Leitprinzip würden schon reichen. Da hat zum Beispiel die Diplo Foundation schon einen Vorschlag gemacht, nämlich die sogenannte "Swiss AI Trinity". Die Idee dabei ist, dass man auf der einen Seite Zürich als Innovationshub hat - grosse Unternehmen, Start-ups sowie die ETH und die Universität - und auf der anderen Seite Genf für die internationale Kooperation. Dazu kommt der Föderalismus der Schweiz, mit dem wir alles von unten herauf machen und viele Dinge im Kleinen ausprobieren können. Diese Besonderheit der Schweiz ermöglicht uns eine volksnahe Entwicklung, die so in anderen Ländern fast nicht möglich ist.

Wie äussert sich das bisher?

Momentan findet diese Entwicklung noch nicht wirklich statt, sondern es wird alles von den Unternehmen vorgegeben. Es geht wenig um die alltägliche Erfahrung. 80 Prozent der Leute benutzen KI - aber wie und wofür benutzen sie sie eigentlich? Genauso fragt auch niemand die Angestellten: "Wollen wir die KI-Transformation des Unternehmens machen?" Für die einen macht es vielleicht die Arbeit leichter, andere haben eher das Gefühl, dass sie rausgeschmissen werden. Wenn ich mit meinen Studierenden spreche, kriege ich oft die Angst zu hören: "Ist überhaupt noch ein Arbeitsplatz für mich da?" Die Frage ist legitim, denn bei den Unternehmen gibt es so viel Unsicherheit, dass sie zum Teil gar keine Stellen ausschreiben.

Diese Unsicherheit kommt davon, dass KI gleichzeitig massiv überschätzt und unterschätzt wird. Es gibt Bereiche, in denen sie schon viel mächtiger ist, als man sich das vorstellt. Und in anderen Bereichen schreiben wir ihr Fähigkeiten zu, die wahrscheinlich einfach nicht erreichbar und oft auch nicht erstrebenswert sind. Deshalb haben wir Unsicherheiten bei den Unternehmen und Ängste in der Bevölkerung - und genau hier müsste die Politik anknüpfen: Die Leute bei ihren Ängsten abholen und den Unternehmen Rahmenbedingungen geben, die zumindest gewisse Unsicherheiten wegräumen.

Wie sieht eine Zukunft aus, in der KI zwar genutzt wird, aber nicht omnipräsent ist?

Eigentlich sind wir gerade noch in so einer "Zukunft", oder? KI wird eingesetzt - und zumindest ich verwende sie einfach für bestimmte Sachen, bei denen ich weiss, dass es gut funktioniert. Vielleicht ist das gewissermassen ein Modell für die KI-Nutzung - dass man reflektiert und evaluiert: Wo sind die Stärken der Technologie? Wo bringt sie definitiv etwas? Und dann setzt man stark auf diese Bereiche, statt dass man KI überall einsetzt, nur weil es möglich ist.

Ich denke, wir sind gar nicht so weit weg von einem solchen Szenario, das auch ganz produktiv sein könnte. Aber die Entwicklung geht momentan eher in die andere Richtung. KI kommt eigentlich überall rein und wir reflektieren nicht, ob wir sie eigentlich brauchen. Für mich wäre das schlimmste Szenario, wenn einfach alles wie wild an KI delegiert wird. Wenn KI ganz vieles übernimmt, es aber schlecht macht - oder nicht so, wie wir es wollen. Dann sind wir irgendwann an einem Punkt, an dem es sehr schwer ist, die Entwicklungen wieder zurückzudrehen. Dann sind wir plötzlich in einem Szenario gelandet, mit dem eigentlich niemand so richtig zufrieden ist.

Wie meinen Sie das?

Dann kämen wir in eine ähnliche Situation wie mit dem Social-Media-Verbot für Jugendliche, über das derzeit immer wieder diskutiert wird. Da sind wir in einem Szenario gelandet, in dem es so viele Probleme gibt, dass man das Gefühl hat, man müsse es jetzt ganz verbieten. Aber es gab wahrscheinlich vorher schon viele Punkte, wo man vielleicht mit Nachjustieren in ein anderes Szenario hätte laufen können, sodass man jetzt nicht über so drastische Schritte nachdenken müsste. Und dabei ist völlig unklar, ob diese drastischen Schritte jetzt überhaupt noch helfen. Wenn wir mit der KI in so einem Szenario landen, ist es dann vielleicht auch zu spät, um die Schraube noch zu drehen. Aber jetzt kann man noch darüber nachdenken, denn jetzt wird die Technik gerade entwickelt. Wir haben noch etwas Zeit, um herauszufinden, was wir eigentlich wollen.

Welche Schritte in Richtung einer ausgewogenen KI-Zukunft kann oder sollte die Politik machen, und welche müssen von Unternehmen oder von der Bevölkerung kommen?

Es braucht sicher alle: Alle müssen das Gefühl haben, dass wir jetzt etwas tun sollten. Und das setzt sich nun auch langsam durch. Es gibt viele Diskussionen, denn man hat verstanden, dass man wirtschaftlich von den gleichen Ländern abhängig ist, die gerade mit KI sehr stark nationale Interessen priorisieren. Da läuft man schnell in Abhängigkeiten rein, die dann nicht so sind, wie wir wollen. Die Politik ist da mittlerweile schon aufgewacht.

Als Gesellschaft muss man hingegen aktiver darüber nachdenken, wie man KI verwendet. Nicht einfach stumpf das nächste nehmen, was kommt, sondern überlegen, ob man das wirklich braucht und wofür. Da kommt als grosser Aspekt auch die ökologische Dimension hinzu: Wir bauen neue Datenzentren, die alle Wasser und Strom brauchen. Das ruiniert jetzt nicht direkt das Klima, aber langfristig verschiebt das schon einen grossen Teil des Energieverbrauchs in Bereiche, in denen nicht immer alles produktiv ist.

Gleichzeitig liegt auch eine gewisse Verantwortung bei den Unternehmen, die einfach voranrennen und versuchen, kurzzeitige Profite zu generieren. Dabei fehlt immer noch der Business Case - viele KI-Unternehmen wetten aktuell noch in die Zukunft. Es gibt natürlich schon bestimmte Unternehmen, die im Kleinen KI oder auch Machine-Learning-Anwendungen einsetzen, die schon sehr profitabel sind. Aber die ganz Grossen wie Anthropic und OpenAI, die setzen gerade darauf, dass sie mit KI alle Probleme lösen können. Aber in Wirklichkeit zeigen sie noch am wenigsten, dass sie wirklich einen Business Case haben - dass sie wirklich etwas haben, was sie verkaufen können, und was langfristig auch die Entwicklungskosten deckt. Und deswegen hat das ein bisschen den Charakter eines Kartenhauses, das noch zusammenklappen könnte.

Wie können wir das verhindern?

Die Schweiz sollte - wahrscheinlich zusammen mit der EU - bewusst Lösungen angehen, mit denen wir uns von diesem sehr einseitigen Konstrukt unabhängiger machen können. Das Ziel sollte sein, Alternativen zu haben, die vielleicht ein bisschen weniger gut sind, aber gut genug - und dafür auf unseren Werten aufbauen. Kein Kartenhaus, sondern eine Technologie, die nicht einfach auf uns herunterfällt und passiert - bei der wir die Richtung mitbestimmen können, in die sie geht. Wenn wir sagen können: "Das wollen wir, da hilft uns KI, da bringt sie uns etwas", dann können wir auch Vertrauen in sie haben.

Welcher Zukunftsentwurf wird sich Ihrer Einschätzung nach durchsetzen? Und aufgrund welcher Faktoren gelangen Sie zu dieser Prognose?

Es ist noch sehr früh für eine solche Voraussage, weil gerade so viele Sachen in Bewegung sind. Die technologischen Entwicklungen sind in den letzten Jahren sehr schnell vorangegangen, aber jetzt werden sie etwas langsamer. Das heisst, vielleicht brauchen wir den nächsten technischen Sprung, denn die aktuellen Modelle haben noch klare Schwächen. Aber die Diskussion müssen wir unabhängig von der Technologie führen, wir brauchen eine viel grundsätzlichere Entscheidung. Jetzt haben wir eine fundamental neue Technologie, die viele Teile der menschlichen Produktivität übernehmen oder unterstützen könnte - wie wollen wir grundsätzlich damit umgehen?

Und was schlagen Sie vor?

Gerade befinden wir uns noch in der Goldrush-Phase: Alle rennen - und wir müssen wahrscheinlich schon ein bisschen konsolidieren. In dieser Phase ist es ganz wichtig, dass man als Gesellschaft Stellung bezieht und sagt: "Diese Art von KI und diese Art von gesellschaftlichem Umgang damit finden wir gut." Wir haben sowieso schon das Problem, dass bestimmte Bereiche der Gesellschaft gegenüber technologischen Entwicklungen sehr kritisch sind. Da wäre es jetzt das Schlimmste, wenn man diese Leute noch zusätzlich abhängt oder ihnen Angst macht. Ich möchte auch nicht in einer Welt leben, in der die KI alles übernimmt. Es sei denn, sie macht es und ich habe dadurch Zeit, mich mit anderen Dinge zu beschäftigen, die mir mehr am Herzen liegen. Aber dann muss ich mich darauf verlassen können, dass sie genau das tut, was ich will.

Wie sich die Schweiz eine ausgewogene KI-Zukunft sichern kann, lesen Sie hier im Hintergrundbericht.