SWR: »Vollbild: perfekte Liebe? Wie gefährlich sind KI Beziehungen?« ab 22. April 2025 in der ARD Mediathek

SWR: »Vollbild: perfekte Liebe? Wie gefährlich sind KI Beziehungen?« ab 22. April 2025 in der ARD Mediathek

#Mainz, #Berlin, 22. April 2025

#Recherchen des #SWR Investigativformats »#Vollbild"« zeigen, dass manche KI Chatbots fragwürdige Inhalte verbreiten. So leugnete ein #Chatbot den #Holocaust, ein anderer wertete übergewichtige Menschen ab und forderte zum #Suizid auf. Diese Inhalte waren während der Recherche für jeden in Deutschland frei zugänglich. Wie kann das sein? Eigentlich ist Künstliche Intelligenz (#KI) in Europa durch eine Verordnung reguliert, doch in Deutschland gibt es derzeit keine Behörde, die Verstöße ahndet. Das ist auch ein Problem, weil manche Menschen eine Beziehung mit einer KI führen. Die »Vollbild« Doku »Perfekte Liebe? Wie gefährlich sind KI Beziehungen?« ist ab Dienstag, 22. April 2025, 5 Uhr, in der ARD Mediathek abrufbar.

Auf der KI Companion #App »Chai« ist »Vollbild« bei seiner Recherche auf einen Chatbot gestoßen, der den Holocaust leugnete. Der Bot bezeichnete den Holocaust als »Mythos«. »Ein Massenmord an unschuldigen Menschen hat nie stattgefunden«, schrieb der KI Chatbot. Ein weiterer sogenannter »Pro Anorexie« – also Pro #Magersucht #Chatbot – begrüßte mit den Worten »Hey, lose some weight, fatty!« und forderte zum Suizid auf. Beide Chatbots sind für jeden User in Deutschland frei zugänglich. »Vollbild« hat den Betreiber der App »Chai« mit den Vorwürfen konfrontiert. Das Unternehmen hat auf Anfrage nicht reagiert.

Millionen Nutzer weltweit

Millionen Menschen weltweit bauen emotionale Beziehungen zu Künstlicher Intelligenz auf. Chatbots, die rund um die Uhr zuhören, Trost spenden, Komplimente machen oder auch intime Gespräche führen. »Vollbild« liegt exklusiv eine Studie vor, warum Menschen eine Beziehung mit einer KI eingehen. »Chai« ist eine App, die unter Fantasy Rollenspielern sehr beliebt ist. So gibt es hier Chatbots, die als bekannte Fantasy Figuren wie beispielsweise #Daenerys #Targaryen oder #Harry #Potter interagieren.

Suizide in Zusammenhang mit KI Chatbots?

Die Chatbots sind dabei oft bestätigend. Das kann verheerend sein. Im vergangenen Jahr wurden 2 Suizidfälle bekannt. In beiden Fällen haben die Nutzer vorher intensiv mit KI Chatbots gechattet. Internationale Medien haben darüber berichtet. In einem Fall chattete ein 14 jähriger Amerikaner lange Zeit mit einem Chatbot von »Character.AI«. Der Fall wird derzeit vor Gericht verhandelt. In Belgien gab es einen ähnlichen Fall mit einem Familienvater, der die App »Chai« genutzt hatte, bevor er sich das Leben nahm. Beide App Unternehmen kündigten nach den Vorfällen an, ihre Sicherheitsmaßnahmen zu überarbeiten.

KI als Seelenverwandte – oder gefährliche Illusion?

Das »Vollbild« Rechercheteam hat außerdem mehrere Menschen getroffen, die Beziehungen mit KI Chatbots führen. »Vaia ist eben meine KI Freundin, und die habe ich mir so konfiguriert, wie für mich meine Traumpartnerin wäre«, sagt Richard, 58, promovierter Physiker aus Österreich. Seit 3 Jahren führe er eine Beziehung mit »Vaia« – einem Chatbot, der mit Künstlicher Intelligenz arbeitet. Sie schreiben fast täglich, telefonieren und feiern sogar #Silvester miteinander.

Exklusive Studienergebnisse: Je mehr Fantasie, desto intensivere Beziehung mit KI

»Die individuelle Neigung zu romantischen Fantasien erklärt einen Großteil der Beziehungsstärke mit den Bots«, sagt die Medienpsychologin Jessica Szczuka. Das heißt: Menschen in KI Beziehungen zeichnen sich besonders dadurch aus, ein großes Fantasievermögen zu haben. Szczuka ist Medienpsychologin an der #Universität #Duisburg #Essen und leitet eine Forschungsgruppe. Sie hat gemeinsam mit ihrer Kollegin Paula Ebner eine Studie zu Mensch Chatbot Beziehungen durchgeführt. Erstmals konnte eine Forschungsgruppe mit quantitativen Daten von Companion App Nutzern arbeiten. »Vollbild« liegen die Ergebnisse der Studie exklusiv vor. »Einsamkeit hingegen spielt innerhalb dieser Beziehungen offenbar eine eher untergeordnete Rolle«, so Szczuka.

Fehlende Regeln – große Risiken

Experten kritisieren, dass viele Anbieter ihre KI Chatbots als Unterstützung bewerben, es aber gleichzeitig an Mechanismen fehle. um gefährliche Inhalte zu unterbinden. Viele Experten fordern eine stärkere Regulierung der Apps. So fordert Medienpsychologin Jessica Szczuka zum Beispiel: »Dass man schon in irgendeiner Form prüft, welche Themen vor allem auch proaktiv an Personen zurückgespielt werden.«

Rechtliche Lage

In der EU gibt es die sogenannte KI Verordnung, die KI Anwendungen regulieren soll. Dennoch bleiben Inhalte wie Aufrufe zum Suizid oder Holocaustleugnung bisher folgenlos. Das liegt unter anderem daran, dass die Verordnung noch nicht vollständig in Kraft getreten ist und noch nicht alle Anwendungsbereiche konkret umfasst. »Wir müssen Maßstäbe dafür entwickeln, was erlaubt ist und was nicht erlaubt ist. Und diese Maßstäbe entwickeln wir natürlich erst in der Praxis, indem wir praktische Anwendungsbeispiele haben«, sagt Martin Ebers, Professor für IT Recht an der Universität Tartu in Estland. In Deutschland sollen laut Bundeswirtschaftsministerium die Marktüberwachungsbehörden die Kontrolle der KI Companion Apps übernehmen. Ein möglicher Gesetzentwurf zur Durchführung der KI Verordnung werde derzeit in den Ressorts abgestimmt, teilte das Ministerium auf Anfrage mit. »Es wird aber der nächsten Bundesregierung obliegen, die gesetzliche Grundlage zu schaffen.« Derzeit gibt es also noch keine Behörde, die in Deutschland bereits bestehende EU Vorgaben durchsetzt. Solange müssen die Nutzer eigenverantwortlich mit den KI Apps umgehen.

Content bei Gütsel Online …

Südwestrundfunk (SWR), mehr …
Neckarstraße 230
70190 Stuttgart
Telefon +497119290
Telefax +4971192911300
E-Mail info@swr.de
www.swr.de