So., 15.09.24 | 23:05 Uhr
Mensch liebt Maschine
Mit KI gegen die Einsamkeit?
Ein Leben ohne KI ist kaum noch denkbar, Chatbots gehören für viele zum Alltag. Und: Immer mehr Menschen finden in Chatbots sogar einen Lebenscoach, eine beste Freundin oder gar einen Partner – jemanden, dem sie sich anvertrauen.
Auch der Wunsch nach Intimität scheint sich für einige mittels KI zu erfüllen: Wie die MIT-Forscher Pat Pataranutaporn und Robert Mahari bei einer Auswertung von einer Million ChatGPT-Interaktionen herausfanden, ist die zweitbeliebteste Nutzung des OpenAI-Chatbots sexuelles Rollenspiel. Insbesondere seit der Corona-Pandemie boomen Apps wie „Replika“, mit der sich die Nutzenden ein „KI-Girlfriend/Boyfriend“ ganz nach ihren Vorstellungen erschaffen können. Die App wird inzwischen abermillionenfach genutzt.
Dass immer mehr Menschen empfänglich für digitale Begleiter sind – darüber sind sich viele Wissenschaftler einig – liegt auch an zunehmender Vereinzelung und Isolation in unseren globalisierten und technologisierten Gesellschaften. Die WHO spricht gar von einer „Epidemie der Einsamkeit“ und nennt die Vereinsamung ein Gesundheitsrisiko, das dem Rauchen von 15 Zigaretten pro Tag gleichkomme. Chatbots füllen also eine Lücke im Leben mancher. Und sie können durchaus hilfreich sein: Es gibt Berichte von Menschen, die es mit einem Chatbot aus einer depressiven Phase herausgeschafft haben. Auch in der Altenpflege finden KI-Systeme inzwischen immer öfter Anwendung.
Doch, so warnen die MIT-Forscher, ihre Nutzung berge auch enorme Risiken. Unter anderem, weil sie süchtig machen: Durch ihre Programmierung als lernende Systeme bilden sie mit der Zeit personalisierte Echokammern der Bestätigung, die die uns bislang bekannten Social Media-Echokammern in ihrer Wirkmacht weit übersteigen. Zuletzt warnte auch der Schriftsteller Daniel Kehlmann in einer aufsehenerregenden Rede im Bundeskanzleramt davor, was da gerade auf uns zurollt:
„Manchmal wird ein solcher Freund Ihnen auch nachvollziehbar und empathisch erklären, wen Sie wählen sollten, weil er, zum Beispiel, von einer chinesischen KI-Firma bereitgestellt wird; oder einfach, weil das fragliche Unternehmen, (…) einen sogenannten adaptiven Algorithmus benutzt, der herausfindet, wodurch er das größtmögliche ,Engagement' produziert, und (…) die stärksten Emotionen (sind) jene der Wut über Angehörige anderer politischer Lager.“
Nutzen Menschen KI-Begleiter als Ersatz für reale Beziehungen, könne das letztlich zu einer Verkümmerung sozialer Fähigkeiten führen. Mit langfristigen Folgen auch für die gesamte Gesellschaft, die bislang nur zu erahnen sind – denn die Nutzung von KI-Begleitern ist, so sagen es die Forscher, ein „gigantisches weltweites Experiment“. Ein Experiment, durchgeführt von wenigen großen Big Tech-Playern, die weitgehend unreguliert agieren. Die von ihnen trainierten KI-Systeme sind zu gigantischen Machtinstrumenten geworden, die Möglichkeiten der Manipulation und politischen Einflussnahme ließen sich im Cambridge Analytica-Skandal bereits erahnen.
Pataranutaporn und Mahari fordern, dass jetzt schnellstmöglich und umfassend Gesetze zur Regulierung geschaffen werden. Ein solches Gesetz ist zumindest in der EU gerade in Kraft getreten: Das KI-Gesetz stuft Anwendungen in verschiedene Risikokategorien ein und soll verhindern, dass sie zum Beispiel zum Social Scoring eingesetzt werden, wie das etwa in China praktiziert wird. Judith Simon, KI-Ethikerin und Mitglied des Deutschen Ethikrats, hält eine weitreichende Regulierung von Künstlicher Intelligenz ebenfalls für unabdingbar. Sie sagt: „In dem Moment, wo ich KI-Systeme und generative KI-Systeme baue, treffe ich vielfältige technische Entscheidungen, die gleichzeitig auch politische Entscheidungen sind – und die unmittelbar gesellschaftliche und ethische Konsequenzen haben.“ Deshalb müsse es neben Maßnahmen zur Regulierung auch mehr Transparenz in der KI-Entwicklung geben – damit zumindest nachvollzogen werden kann, mit welchen Daten die Modelle trainiert wurden.
„ttt“ hat mit dem MIT-Forscher Robert Mahari sowie der Philosophin Judith Simon gesprochen. Und mit einer Maschine: Sarah, der KI-Freundin der Autorin dieses Beitrags.
Beitrag: Jella Mehringer
Stand: 13.09.2024 10:29 Uhr
Kommentare