iusNet Digitales Recht und Datenrecht

Schulthess Logo

Chatbot

Vertrauensschutz bei fehlerhaften Behördenauskünften durch Chatbots

Fachbeitrag
Künstliche Intelligenz
Der Einsatz von Chatbots in der öffentlichen Verwaltung wirft die Frage auf, wie mit fehlerhaften Auskünften umzugehen ist. Von Interesse ist dabei, ob der Grundsatz des Vertrauensschutzes auch bei einem Einsatz von Chatbots gilt. Da Chatbots als verlässliche Alternativen zur menschlichen Auskunft eingesetzt werden sollen, ist das Vertrauen in die Richtigkeit ihrer Auskünfte grundsätzlich zu schützen. Angesichts der Fehleranfälligkeit gewisser Modelle ist allerdings fraglich, ob alle Chatbots zur Erteilung von Behördenauskünften geeignet sind.
Nadja Braun Binder
Liliane Obrecht
Grace Wittmer
iusNet DigR 30.05.2024

Replika – Chatbot, Therapeutin, Anstifter?

Fachbeitrag
Die Grenzen zwischen Mensch und Maschinen verschieben sich zunehmend, durch den Einsatz von künstlicher Intelligenz wird die Interaktion zwischen Menschen und Chatbots zunehmend realistischer. Je enger die Beziehung zwischen Mensch und Chatbot bzw. Avatar wird, umso grösser aber auch das Risiko der Manipulation. Wie weit diese Manipulation gehen kann, zeigt der Fall "Chail": Während Jaswant Singh Chail ein Attentat auf die Queen plante, kommunizierte er intensiv mit der "Replika App". Der von ihm erstellte weibliche Avatar Sarai ermutigte ihn immer wieder, die von ihm geplante Tat auszuführen. Der Beitrag beleuchtet die Replika App, geht auf die Rechtsprechung zum Fall "Chail" ein und erörtert, ob der AI Act genügt, um derartige Phänomene zu verhindern.
Sandra Husi-Stämpfli
iusNet DigR 30.05.2024