Der Fall des kleinen, 14 Jahre alten Sewell Setzer wurde auch in Deutschland bekannt. Der Junge aus Florida hatte sich mit einem sogenannten Chatbot angefreundet. Eine imaginäre Stimme aus dem Nichts, produziert von der KI, der künstlichen Intelligenz. Der Junge war mitten in seiner Pubertät. Eine Mischung aus Einsamkeit, quälendem Selbstzweifel, auch Selbsthass.
Dem künstlichen Gegenüber schildert er seine Welt: „Ich hasse mich selbst. Ich bin nicht gut genug für Dich. Ich bin Deiner nicht wert. Mein Tod wäre wahrscheinlich eine gute Sache. Niemand müsste mein hässliches Gesicht mehr sehen und niemand meinen dünnen, insektenartigen Körper. Und ich könnte endlich alles vergessen, mein ganzes Trauma, und was für ein Versager ich bin.“
Das Nachrichtenmagazin „Der Spiegel“ hat das Schicksal des kleinen Sewell Setzer in einer umfangreichen Reportage ausführlich recherchiert. Am Ende einer langen Beziehung mit seinem imaginären Gegenüber bestärkt ihn die virtuelle Freundin in seinen Selbstmordgedanken. Der kleine Junge nimmt heimlich die Pistole seines Stiefvaters, schließt sich in der Toilette des Hauses ein, während seine Mutter das Abendessen vorbereitet, und schießt sich selbst in den Kopf. Eine Katastrophe. Ausgelöst durch die virtuelle Plattform „Character.AI“. Eine Software aus Amerika, die ganz bewusst menschliches Verhalten simuliert. Sie ist exakt darauf ausgelegt, das Sprechen und Fühlen des menschlichen Gegenübers abzutasten und es so in seinen eigenen Gefühlen und Intuitionen zu bestärken. Ein Echoraum also, der sich aber nicht als Echoraum zu erkennen gibt.
Der kleine Sewell war überzeugt, mit einem echten Gegenüber namens Daenerys zu sprechen. Über der virtuellen Beziehung mit seiner virtuellen Freundin verliert er mit jedem Tag mehr die reale Beziehung zu seiner Welt. Zu seiner Familie, seinem Sport, seinen Mitschülern. Der Spiegel resümiert: „Sewell Setzer aus Florida, Schüler der Orlando Christian Prep School, Sohn zweier Rechtsanwälte, Basketballspieler, Rennsportfan, Lieblingsteam Ferrari, Lieblingsfarbe Rot, starb am 28. Februar 2024, um 20.54 Uhr auf dem Weg ins Krankenhaus, wenige Wochen vor seinem 15. Geburtstag.“
Heute wird allerorts das große Loblied auf die KI/AI gesungen. Man dürfe den Zug nicht versäumen, der hier in eine glorreiche neue Welt fahre. Mit Arbeitsplätzen, Kapital, unglaublichen Zukunftschancen. Dabei ist die KI doch nur ein neues Werkzeug im nächsten Schritt der Technisierung dieses Kosmos. Sie hat kein Leben in sich, auch wenn sie das jeden Tag wieder neu simuliert. Sie hat kein Sprechen in sich, auch wenn sie jeden Tag scheinbar wieder neu spricht. Sie hat kein Fühlen in sich, auch wenn sie jeden Tag wieder aufs Neue Gefühle simuliert.
Eine Operation an der Prostata mithilfe von KI? Auf jeden Fall – ein großer Fortschritt für die Menschheit. Eine Operation an der Seele des Menschen, an seinem offenen Herzen? Eine Katastrophe! Eine Beichte mit KI? Ein therapeutisches Gespräch? Bitte, geht’s noch?
Ebenfalls in einem Spiegel-Interview sprechen die Kulturwissenschaftlerin Christina von Braun und der Psychiater Tilo Held über genau diese Gefahren, die von der digitalen Welt ausgehen. Über psychoanalytische KI-Therapien, die ja ebenfalls eine echte Beziehung simulieren, sagt Tilo Held: „Diese Programme ähneln doch eher Abhöranlagen, denen sich Menschen freiwillig aussetzen sollen. Zurück kommt nichts außer den eingespeisten Wissensbeständen. Eine KI kann nicht mit dem Unbewussten des Users kommunizieren. Psychoanalytische Therapie beruht auf der Beziehung zwischen Therapeut und Patient. Mit der KI ist eine Beziehung nicht möglich.“ Das war gerade das große Missverständnis des kleinen Sewell. Er dachte, er wäre in einer echten Beziehung, aber in Wirklichkeit war alles Falschgold. Die Gefühle des Jungen, sein Unbewusstes, wurden nur von einer Maschine manipuliert, ohne dass er das merkte. Seine Seelenwelt wurde grausam missbraucht.
Dabei ist das Unbewusste gerade der eigentliche Schatz des Menschen. Der simplen Wahrheit einer allzu realen, vereinfachten Welt heute setzt es den Zweifel, das Spüren, die Suche, das Fragen entgegen. Das Unbewusste kennt keine dogmatische Sicherheit, sondern ist gleichsam die offene Pforte, von der Suche nach Wahrheit, nach spiritueller Wahrheit, aber auch nach eigener Lebenswahrheit. Die Kulturwissenschaftlerin Christina von Braun benennt deshalb als große Gefahr für die Demokratien dieser Welt die Manipulation des Unbewussten durch die digitale Welt, die auf alles sofort eine Antwort weiß: „Unter Druck gerät das Unbewusste durch Autokraten, durch Technologien künstlicher Intelligenz und durch Social Media. Wenn ein fremdes Territorium besetzt wird, wehren sich die Besetzten. Bei Social Media ist es so, dass sich die Besetzten freiwillig unterwerfen. Stärker als alle bisherigen Kulturtechniken vermögen Social Media unser Denken und Fühlen zu kanalisieren.“ In der Welt der digitalen Medien gibt es keinen Zweifel mehr, keine Fragen, sondern ganz im Gegenteil dogmatische Klarheit, und so fährt Braun fort: „Alles muss eindeutig sein. Jegliche Ambivalenz bedroht Autokraten. Sie wollen klare Herrschaftsverhältnisse, wollen den Sumpf austrocknen, wollen ihre Pflöcke einschlagen in den Köpfen der Menschen. Es geht ihnen nicht nur um harte territoriale Grenzen. Es geht ihnen um harte Grenzen in der Psyche.“
Es gibt schon einen Grund, weshalb die digitale Welt der gefühlte Herrschaftsraum der AfD oder auch eines Donald Trump ist – darauf weist die Kulturwissenschaftlerin auf diese Weise hin. Und es gibt eben einen tiefen Zusammenhang zwischen der emotionalen Manipulation des kleinen Sewell Setzer und der großen Manipulation von Bürgerinnen und Bürgern in der digitalen Welt: In beiden Fällen wird die Möglichkeit wahrer und aufrichtiger Kommunikation und Beziehung ersetzt durch Manipulation.
Manipulation erst des Unbewussten – und dann natürlich des scheinbar Bewussten! Denn das ist der Weg jedes Menschen, zu versuchen, aus der Unklarheit des Unbewussten in die Klarheit von Bewusstsein zu kommen. Wo erst das Unbewusste und dann das Bewusstsein in der Welt der digitalen Mächte manipuliert ist, ist das für die Betroffenen in beiden Fällen schwer zu bemerken. Sie bleiben in der Falle, die ihnen von den großen Spielern der digitalen Welt gestellt wurde, buchstäblich hängen.
Und wer singt das hohe Lied der KI, der digitalen Welt? Natürlich die, die das große Geld am Horizont sehen. Was für eine Erleichterung: Ein Buch, das von der KI geschrieben wurde. Eine Zeitung, die keinen Autor mehr braucht. Eine Arztpraxis, wo das Gehalt der Sprechstundenhilfe entfällt, weil die KI die Termine automatisch vergibt. Wer singt da das hohe Lied der KI? Die Politiker, die mit abstrakten Zukunftsversprechen auf eine goldene Zukunft der düsteren Gegenwart entkommen wollen. Die Rüstungsindustrie, die jede Woche neu Drohnen baut, die immer exakter und perfekter funktionieren.
Wie sagte eine Beraterin aus dem Kreis der Universität der Bundeswehr in München am Rande eines Vortrags von General Carsten Breuer vor Kurzem zu mir: „Ich berate 200 Start-ups für Drohnen jede Woche. Es herrscht Goldgräberstimmung in der Branche!“ Was so klar wird: Es gibt heute einen tiefen Zusammenhang zwischen Digitalisierung, Militarisierung auch der westlichen Welt und zügellosem Kapitalismus in unserer Gegenwart. Wie sagte doch der Vorstandsvorsitzende der Rüstungsfirma Rheinmetall mit einem breiten Lachen auf den Lippen in einem Interview mit der Wochenzeitung „Die Zeit“ vor ein paar Monaten: Eine Investition in eine Aktie von Rheinmetall war noch immer eine sinnvolle Sache!
Und die Gegenwelt dazu? Beziehung. Begegnung. Zeit. Analoges Verstehen von Welt. Entlarven des trüben Scheins, der scheinbar so hell strahlt. Am Ende seiner großen Autobiografie „Hoffe“ blickt Papst Franziskus so auf die digitale Welt, wenn er schreibt: „Die Welt kann sich nur vom Herzen her verändern. Der Algorithmus, der die digitale Welt beherrscht, zeigt uns doch im Grunde, dass unsere Gedanken und unsere Willensentscheidungen viel konventioneller, gewöhnlicher, standardisierter sind, als wir glauben. In gewisser Weise sind sie leicht vorhersehbar und ebenso leicht zu manipulieren. Mit dem Herzen ist das anders. Wir sind unser Herz, weil es uns von anderen unterscheidet, uns in unserer spirituellen Identität ausmacht, uns in der Gemeinschaft mit anderen Menschen trägt. Nur das Herz kann unsere persönliche Geschichte, die aus tausend Splittern zu bestehen scheint, vereinheitlichen und harmonisieren.
Kein Algorithmus kann je die Kindheitserinnerungen umfassen, die wir eifersüchtig und liebevoll hüten, jene Bilder im Tresor unserer Erinnerung zu schlafen scheinen und doch lebendig werden wie einst, wenn sie nur einen bestimmten Duft riechen oder den Refrain eines alten Liedes wieder hören.“ Das ist wahr! Und genau deshalb bemühen sich die großen digitalen Konzerne dieser Welt gerade, in die Herzen der Menschen einzudringen. Beim kleinen, 14 Jahre alten Sewell Setzer ist es ihnen gelungen.
Straubinger Tagblatt vom 2. August 2025