Roberto Simanowski, wir nutzen die Künstliche Intelligenz (KI) in allen möglichen Lebenslagen: Sie bucht für uns Hotels oder schreibt für uns Briefe. Lassen wir die KI zu sehr in unser Leben? 

Wir sind auf einem guten Weg dahin. Denn je leistungsfähiger die KI sein wird, desto mehr wird sie in unser Leben eintreten. Es ist sehr bequem, wenn die KI uns Aufgaben abnimmt, und wir werden das Angebot nutzen, egal, wie die langfristigen Nebenfolgen zu beurteilen sind. 

Wie hoch ist das Risiko, dass wir die KI für uns entscheiden lassen und sie dadurch immer mehr in unser persönliches Leben eingreift?

Ich denke, das Risiko ist gross. Je besser die KI wird, desto weniger werden wir Menschen sie kontrollieren. Heute lesen wir die Briefe noch durch, die die KI für uns entwirft, aber bald werden wir uns ganz auf die KI verlassen. Mit der Konsequenz, dass wir selbst gar nicht mehr an der Kommunikation teilnehmen, sondern sie der KI überlassen. Denn die Adressat*innen werden unsere Briefe auch nicht mehr ganz lesen, sondern nur noch die Summary, die die KI ausspuckt. Das ist heikel, weil die KI ihre eigenen Kriterien hat, Texte teilweise gegen den Strich liest und verzerrt wiedergibt. 

Können Sie das kurz erklären?

Die KI ist so trainiert, dass sie bestimmte Perspektiven hat. Es kommt darauf an, wie die KI programmiert ist. Wenn sie inklusiv sein soll, bewertet die KI einen Text nach diesen Kriterien. Ich gehe aber aufgrund der politischen Weltlage davon aus, dass die KI wieder mehr nach rechts rückt. Denn die meisten KI-Unternehmen in den USA werden sich schon aus wirtschaftlichem Kalkül so verhalten, wie Donald Trump es von ihnen erwartet. 

Was bedeutet es für uns alle und die globale Welt, dass die KIs in der westlichen Welt, sprich in den USA, trainiert werden?

Die westliche Perspektive stört uns in der Schweiz im Grund nicht. Ein Grossteil von uns wird es auch weiterhin in Ordnung finden, wenn progressive westliche Werte von der KI vertreten werden. Also wenn die Gleichberechtigung von Vertreter*innen der LGBTQ-Community, die Ehe für alle oder eben Frauenemanzipation Kriterien der KI sind. Man darf aber nicht vergessen, dass man diese Werte in anderen Kulturen nicht kennt. Problematisch ist aus meiner Sicht, dass der Westen sein Fortschrittsmodell als das Modell ansieht, zu dem alle anderen Kulturen aufschliessen müssen. Wenn wir behaupten, dass unsere Werte die allgemein gültigen und richtigen sind, betreibt die KI eine Kolonialisierung durch westliche Werte. Das wird auch von Vertreter*innen des globalen Südens so kritisiert, wobei von deren Seite bisher auch nicht aufgezeigt wird, wie hier die Lösung aussehen könnte. 

Sie sprechen davon, dass wir uns abhängig von der KI machen. Verlernen wir unsere Fähigkeiten?

Genau. Es gibt bereits Studien, die sagen, dass Menschen inzwischen Dinge, die sie vor der KI gut konnten, nicht mehr beherrschen. Denn sie haben sie sich abgewöhnt. Wenn Piloten nur noch mit Autopilot landen, können sie irgendwann nicht mehr ohne ihn landen. Sich auf Maschinen wie die KI zu verlassen, birgt also eine Gefahr. Die menschliche Leistung wird sinken und wir verlieren unsere erlernten Fähigkeiten.

Macht die KI uns dümmer? 

Ja. Wir verlernen vieles. Ausserdem bleibt die grosse Frage, woher wir unsere Anerkennung ziehen, wenn die KI alles für uns erledigt. Wir Menschen brauchen das Gefühl, dass uns im Leben etwas gelingt. Hier sehe ich die beiden grossen Probleme, die wir in Zukunft haben werden. 

Sehen Sie keinen positiven Effekt, den die KI auf unsere Fähigkeiten und unser Leben haben kann? Es kommt darauf an, wie man an die neue Technik herantritt. KI kann äusserst inspirierend sein, wenn wir wissen, wie wir sie befragen müssen, und wenn wir ihr nicht das letzte Wort überlassen. Auch kann die KI meine Ansichten von der Welt stärker herausfordern als ein guter Freund, wenn ich sie dazu auffordere. Aber ich muss dann eben das wollen, was die meisten Menschen vermeiden und wovon uns die KI befreien wird, wenn wir sie nicht anders instruieren.

Wie steht es um die digitale Souveränität, die jetzt in aller Munde ist?

Es geht darum, ob es uns in Europa gelingt, nicht von amerikanischen KIs abhängig zu werden. Darum, wie wir unsere Selbstbestimmung irgendwie bewahren können. Das lässt sich immer weiter herunterbrechen, bis wir bei der Frage landen, wie wir als Individuen in der Benutzung der digitalen Medien unabhängig bleiben. Wenn die KI unsere Werte bestimmt und für uns denkt, geben wir unsere Souveränität auf. 

Wir fragen in fast jeder Lebenslage eine Maschine um Rat, die nie gelebt hat. Die KI kennt keine Empathie. Was macht das mit uns Menschen?

Das ist eine grosse interessante Frage für die Zukunft, die man klären muss. Die KI wird ja auch immer mehr als Gesprächspartner akzeptiert, der Ratschläge gibt. Die Statistik besagt, dass diese Art der Nutzung zunimmt. Da frage ich mich schon, warum man der KI diese Autorität überhaupt zuschreibt? Wie soll die KI Ratschläge über das Leben geben, wenn sie selbst gar keine richtige Vorstellung vom Leben hat? Die KI weiss nur, wie die Wörter sich statistisch zueinander verhalten, aber sie weiss nicht, was die Wörter eigentlich bedeuten. 

In Filmen sieht man, wie Menschen sich in eine KI verlieben. Ist das realistisch?

Ich denke schon. Natürlich muss man sich mit Blick auf die Romantik fragen, wie das sein kann. Ich denke, man kann auch einem künstlichen Gegenüber verfallen, wenn es unseren Narzissmus streichelt. Die KI widerspricht nie, sie stimmt uns zu und sagt, was wir von ihr erwarten. Wenn sie etwas sagt, das uns berührt, zeigt das Wirkung. Die Aussage berührt uns, obwohl wir wissen, dass sie von einer KI kommt. Diesen Aspekt finde ich psychologisch hoch interessant. Es ist praktisch die Radikalisierung des Kults des Individuums.

Inwiefern?

Wir Menschen lassen nur noch Stimmen an uns heran, die uns mehr oder weniger bestätigen. Meistens spricht die KI so zu mir, wie es für mich als Individuum angenehm ist. Wenn man das zu Ende denkt, lassen wir uns gar nicht mehr auf Andersdenkende ein. In der Fachliteratur spricht man deshalb spätestens seit den sozialen Medien vom «daily me». Die personalisierte KI verstärkt das noch mal, und von da ist es kein weiter Schritt mehr zur emotionalen Abhängigkeit ihr gegenüber.

Wird die KI irgendwann klüger sein als der Mensch? Oder können wir mit der KI intellektuell standhalten?

Die KI wird irgendwann klüger sein als der Mensch, und das ist ja auch in vielerlei Hinsicht unsere Hoffnung. Ich gehe davon aus, dass sich die KI mit dem technischen Fortschritt verbessert und die Maschine immer verlässlicher sein wird. Wir müssen uns jetzt die Frage stellen, ob wir uns die Souveränität erhalten wollen, selbst mit den Dingen umgehen zu können. Oder ob wir jegliche Verantwortung abgeben wollen.

Führt die KI eher zu einem Demokratieabbau oder kann sie der Demokratie förderlich sein?

Es gibt förderliche Aspekte für die Demokratie, zum Beispiel den Wissenszugang. Die KI holt Wissen aus allen Ecken der Welt, was ohne sie schwierig wäre. Und sie übersetzt dieses Wissen in verständliche Sprache. Dadurch können wir stärker am demokratischen Diskurs teilnehmen. Ein Problem aber ist die Verdummung, wenn wir kognitive Tätigkeiten auslagern und nicht mehr praktizieren. Das führt dazu, dass wir keine kritischen Positionen mehr einnehmen und vieles einfach durchwinken, weil wir nicht mehr die kognitive Basis haben, den angebotenen Argumenten etwas entgegenzusetzen. Das wäre natürlich nicht gut für eine Gesellschaft, die auf dialogische Meinungsbildung und Konfliktlösung setzt.

Die Entwicklung ist nicht aufzuhalten. Worauf müssen wir in Zukunft achten, damit wir die Kontrolle über unser Leben behalten? 

Wir müssen uns dagegen wehren, das Denken auszulagern. Ich plädiere dafür, wieder über das Denken nachzudenken. Jede gute Gedichtinterpretation hilft uns mehr als eine Informatikstunde, wo wir Programmierung lernen. Das Programmieren brauchen wir nicht, um gegen die KI anzugehen, die kann das sowieso irgendwann besser. Wenn wir zum Beispiel bei der Interpretation eines Gedichts erkennen, wie unser eigenes Denken und Verstehen funktioniert, entwickeln wir ein feineres Gefühl für die Sprache. Diese Sprachsensibilität brauchen wir, um uns von künstlicher Intelligenz abzugrenzen. Denn KI wird sich dauerhaft als Werkzeug in unserer sprachlichen Welt etablieren, und wir sollten ihr nicht blind ausgeliefert sein. Um das zu verhindern, müssen wir verstehen, wie Sprache wirkt – und das gelingt nur, wenn wir uns weiterhin aktiv mit ihr auseinandersetzen.

Möchten Sie mit Ihrem Buch die Debatte in diese Richtung lenken?

Ich wollte jenseits der Angst vor Jobverlust durch die KI und diesseits der KI-Apokalypse über die Probleme reden, die dazwischen liegen und die wir jetzt noch beeinflussen können. Es ist wichtig, ein Problembewusstsein dafür zu entwickeln, was in der näheren Zukunft passieren wird. Dafür möchte ich den Horizont der Diskussion öffnen.