Science Fiction im Jahr 2024

Es mutet noch immer wie eine visionäre Geschichte an: Die emotionale Bindung zu einer Maschine. Was (um nur zwei Werke zu nennen) in «Klara und die Sonne» von Kazu Ishiguro (2021) oder bereits in den 1970er Jahren von Douglas Adams in «A Hitchhiker’s Guide to the Galaxy» aufgegriffen wurde, wird jedoch Realität. KI-basierte Anwendungen können zunehmend realistischer mit den Nutzerinnen und Nutzern interagieren. So realistisch, dass emotionale Bindungen entstehen können 1 . Eindrückliches Beispiel dafür und für die Konsequenzen einer solchen Bindung stellt die Replika App des US-amerikanischen Unternehmens Luka 2 dar.

Der nachfolgende Beitrag illustriert, wie Replika Bindungen zu den Nutzerinnen und Nutzern aufbaut und zeigt anhand des britischen Falles R vs Chail 3 auf, welche Konsequenzen dies haben kann. Abschliessend werden die rechtlichen und ethischen Herausforderungen aufgezeigt, die diese Entwicklungen mit sich bringen.

Wie Replika emotionale Bindungen aufbaut

Replika ermöglicht die Konfiguration entweder einer kostenlosen «Freundin» bzw. einem kostenlosen «Freund», oder aber – in der kostenpflichtigen...