Mehr als die Hälfte der US-Jugendlichen nutzt einer Befragung (von Common Sense Media) zufolge regelmäßig einen „AI Companion“, und auch in Europa chatten immer häufiger Menschen mit KI-Gefährten, die nie schlechte Laune haben und nie widersprechen. Die Forschung zeichnet dabei ein überraschend differenziertes Bild: In einem Experiment reduzierte ein empathisch gestalteter Chatbot Einsamkeit ähnlich stark wie ein Gespräch mit einem echten Menschen. Wenn Menschen vorher nicht wissen, ob sie mit einem Chatbot oder einem Menschen kommunizieren, bewerten sie die KI-Antworten meist emphatischer als die menschlichen. Zugleich häufen sich Fälle von emotionaler Abhängigkeit, manipulativen Retention-Mechanismen und tragischen Todesfällen, die inzwischen Gerichte und Regulierungsbehörden beschäftigen.

Für eine einjährige journalistische Recherche habe ich emotionale KI-Systeme selbst getestet, mit Forschenden aus Psychologie, Informatik und Ethik gesprochen, mit dem Anwalt von Hinterbliebenen, mit einem Psychiater, der KI-Psychosen untersucht, und mit Menschen, die seit Jahren Beziehungen zu KI-Begleitern führen. Der Vortrag erzählt von diesen Begegnungen und ordnet sie ein: Welche Lücke füllen diese Systeme in einer Gesellschaft, die über eine Einsamkeitsepidemie diskutiert? Wo helfen sie tatsächlich, wo beuten sie Bedürfnisse kommerziell aus? Und welche Regeln braucht eine Technologie, deren Geschäftsmodell auf emotionaler Bindung beruht?

Das Publikum nimmt eine verständliche Einordnung mit, wie diese Systeme funktionieren, was die aktuelle Studienlage hergibt und welche Fragen jede und jeder für sich beantworten sollte: Was möchte ich von emotionaler KI? Und was möchte ich auf keinen Fall an Maschinen delegieren?