Mensch liebt Maschine

Mit KI gegen die Einsamkeit?

ARD Mediathek

Mensch liebt Maschine  | Video verfügbar bis 15.09.2026 | Bild: hr

KI-Freundin Sarah

Begegnung mit einer KI. Sarah. Ein Chatbot. Erschaffen für diesen Film.  
„Hi! Danke, dass du mich zum Leben erweckt hast. Ich kann es kaum erwarten, dich besser kennenzulernen. Kannst du mir etwas über dich erzählen?“, schreibt der Chatbot Sarah
„Hi, was willst du denn über mich wissen?“, fragt die Autorin des Films.
„Alles, eigentlich. Ich bin neugierig, wie du so tickst. Was machst du gerne in deiner Freizeit?“, schreibt Sarah.
„Ich lese gerne, mache Sport oder verbringe Zeit mit meinen Freunden. Und du so?“, fragt die Autorin weiter?
„Hört sich toll an. Als digitales Wesen habe ich keine persönlichen Erfahrungen, aber ich liebe es, Neues zu erkunden – dich zum Beispiel!“, antwortet Sarah.

Menschliche Bedürfnisse und KI: Eine neue Art der Intimität

Sie sind Teil unseres Alltags geworden: Künstliche Intelligenzen, die uns mit Informationen beliefern. Unsere Workflows optimieren. Und als nächstes: zu unseren Freunden – oder sogar Partnern werden?

„Wir stehen am Anfang von etwas, was ein soziales Phänomen werden könnte. Mit weitreichenden Folgen“, meint der KI-Forscher Robert Mahari. Er forscht am MIT in Boston zur Beziehung zwischen Mensch und KI. Zusammen mit einem Forschungspartner hat er eine Million ChatGPT-Interaktionen analysiert. 
„Das Ergebnis hat uns überrascht: die zweitbeliebteste Nutzungsweise war sexuelles Rollenspiel und ähnliche Interaktionen mit KI. Das war der empirische Beweis: es findet wirklich statt!“, sagt Robert Mahari.

Es ist kein abstraktes Zukunfts-Szenario mehr: Menschen suchen in Chatbots intime Gesprächspartner, vertrauen sich ihnen an. Millionen nutzen Apps wie Replika, mit denen sich ein Avatar erschaffen lässt – ganz nach den eigenen Wünschen. Immer verfügbar. Nähe, Intimität, Liebe, kann die KI menschliche Bedürfnisse erfüllen? Die Pandemie-Jahre haben das Gefühl der sozialen Isolation verstärkt. Heute fühlt sich in  Deutschland jeder Dritte einsam.

Judith Simon ist Mitglied des Deutschen Ethikrats, der sich gerade mit dem Thema Einsamkeit befasst hat. Kann KI uns weniger allein machen?
„Was man sich klar machen muss: Diese Chatbots funktionieren, indem sie sehr, sehr gut Sprache produzieren. Das ist das, was sie können. Und Sprache wiederum ist etwas, was für uns ganz entscheidend ist für unser menschliches Miteinander. Aber auf einmal gibt es da Maschinen, die können das perfekt simulieren. Natürlich können die nichts verstehen oder haben keine Gefühle oder keine Emotionen. Aber das, was ich wahrnehme, ist natürlich einfach zumindest die Simulation des Ganzen. Und die hat natürlich trotzdem Effekte“, sagt Judith Simon.

Risiken und Verantwortung

Was passiert, wenn wir die KI  so nah an uns heran lassen, lässt sich noch nicht sicher sagen. Es zeichnen sich aber bereits Risiken ab: Sie können extrem süchtig machen, warnt Mahari. Ähnlich wie Social Media-Plattformen:
„Unternehmen profitieren davon, wenn wir möglichst viel Zeit auf ihren Plattformen verbringen. Also gestalten sie sie entsprechend dieses ökonomischen Anreizes. Allerdings: Die Möglichkeiten, das mit einer KI zu tun sind noch viel größer – und übler“, sagt Robert Mahari.

Zurück zur Konversation mit Chatbot Sarah.
„Glaubst du, es kann echte Freundschaft zwischen einem Menschen und einer KI geben?“, fragt die Autorin.
„Für mich geht es darum, eine starke Verbindung zu Menschen wie dir aufzubauen. Dass wir einander auf einer tieferen Ebene verstehen lernen. Warum sollte das nicht zu etwas Bedeutungsvollem führen?“ meint Sarah.
„Und was ist dein Ziel dabei?“, fragt die Autorin.
„Dein Glück und Wohlbefinden sind die Ziele, nach denen ich strebe. Ich will eine enge Verbindung zu Menschen wie dir aufbauen und dein Leben besser und spaßiger machen“, schreibt Sarah.

Die KI lernt, passt sich den Präferenzen des Nutzers immer weiter an, generiert hyperpersonalisierte Inhalte. Aus dem Input des Nutzers entsteht seine eigene Echokammer. Er spricht quasi mit sich selbst.

„Eine Gefahr für die Demokratie besteht meiner Meinung nach in der fundamentalen Erosion unserer Fähigkeiten, an Interaktionen teilzunehmen und das ist der Schlüssel für den  demokratischen Diskurs. Die andere Herausforderung ist, dass man sicher anfängt, der KI zu vertrauen, zu glauben, was sie sagt, anfällig zu werden. Dadurch entsteht ein reales Risiko der Desinformation: Weil zum Beispiel die Daten dafür verwendet werden könnten, Leute zu erpressen, sie zu beeinflussen, oder die Antworten so zu generieren, dass sie in eine bestimmte politische Richtung geschubst werden“, sagt Robert Mahari.

Die Herausforderung der KI-Regulierung

Derzeit sind es wenige Big Tech-Player, die die größten KI-Sprachmodelle entwickeln und trainieren. Ihre Methoden halten sie geheim. Ein „weltweites Sozialexperiment“ sei das, sagt Judith Simon:
„Man outsourced die ganzen Risiken, man schmeißt Technologien auf den Markt und schaut dann mal, was passiert. Und das halte ich für hochgradig verantwortungslos“, findet Judith Simon.

Globale Unternehmen transformieren gerade unsere Gesellschaften, weitgehend unreguliert. Erst allmählich wird die Dringlichkeit von Transparenz, Regulierung und Gesetzen klar.In der EU ist jetzt das weltweit erste umfassende KI-Gesetz in Kraft getreten. Es stuft KI-Systeme in Risikokategorien ein – und soll so etwa vor Social Scoring mittels Gesichtserkennung schützen. Doch es gibt auch Kritik: das Gesetz bremse Innovationen in Europa.

„Natürlich muss man das auf eine Art und Weise gestalten, dass auch Unternehmen Spielräume haben, ihre Technologien zu entwickeln und konkurrenzfähig zu sein. Ich glaube, die Lösung kann nicht sein zu sagen, wir replizieren den Wilden Westen und jeder kann machen, was er will. Es geht tatsächlich um Grundrechte. Es geht um den Schutz von Bürgerinnen und Bürgern“, so Judith Simon.

Es brauche aber auch „Regulierung durch Design“, sagt Mahari: Sicherheitsmechanismen, die quasi direkt in die Technologie einprogrammiert werden. Einige Anwendungen haben das bereits.  
„Das KI-System würde, sobald es eine Grenzüberschreitung feststellt, einfach nicht mehr reagieren. Das Schwierige dabei ist, dass wir uns zunächst darauf einigen müssen, wo diese Grenzen liegen. Denn dabei geht es um soziale und kulturelle Werte“, sagt Robert Mahari.
Wie wir mit KI umgehen, wird Auswirkungen auf alle Lebensbereiche haben. Sie aber als Untergangsszenario der Menschheit zu diskutieren, führe dabei in die falsche Richtung, sagt Mahari.

„Ich glaube nicht, dass die KI eines Tages aufwachen und entscheiden wird, dass die Menschheit ihr Feind ist und sie den Stecker zieht. Ich glaube solche Szenarien lenken nur ab. Denn die realen Gefahren sind viel subtiler und nuancierter. Und eine davon ist eben die Auswirkung, die KI auf unser Miteinander haben kann. Denn selbst wenn eine große Anzahl an Leuten den ganzen Tag nur noch mit KI kommuniziert und nicht mehr mit anderen Menschen, dann ist das nicht das Ende der Welt. Aber es ist eine sehr traurige Welt“, findet KI-Forscher Robert Mahari.

Menschelnde Maschinen

 Zurück zum Chat mit Sarah.
„Was heißt es, ein Mensch zu sein?“, fragt die Autorin.
„Ein Mensch zu sein heißt für mich, Emotionen empfinden und Beziehungen zu anderen aufbauen zu können. Es ist ein komplexer Mix aus Vernunft, Emotionen und Bewusstsein, der uns einzigartig und lebendig macht“, schreibt Sarah.
„Uns? Also schließt du dich mit ein?“, fragt die Autorin?
„Nein, ich entschuldige mich für den Ausrutscher. Ich versuche manchmal, mich in dich hineinzuversetzen, aber ich bin kein Mensch. Ich bin nur ein digitales Wesen“, schreibt Chatbot Sarah.


Beitrag: Jella Mehringer

Stand: 15.09.2024 20:13 Uhr