Stellen Sie sich vor, Sie müssen Vorschläge für einen künftigen Regelungsrahmen von künstlicher Intelligenz (KI) ausarbeiten. – Die EU hat in einem im Februar 2020 veröffentlichen Weissbuch1 exakt dies getan und Ideen zur gesetzlichen Regelungen von KI vorgelegt. Diese basieren unter anderem auf den von der OECD 2019 veröffentlichten Grundsätzen zur KI2. Die EU legt den Fokus im genannten Weissbuch auf die Frage, wie sich gesetzliche Regelungen zur KI ausgestalten müssen, damit sich das Potenzial sowie aber auch die Gefahren von KI zielführend kana­lisieren lassen3. Die bis zum Som­mer 2020 durchgeführte Vernehmlassung zum Weissbuch ergab, dass 75 Prozent der Befragten der Ansicht sind, dass im Rahmen von KI Regelungsbedarf besteht4.

Maschinelles Lernen hat in den letzten Jahren eine unglaubliche Popularität erlangt. Neben spektakulären Siegen im Schach, Jeopardy! und Go gibt es zahlreiche erfolgreiche Anwendungen in der Bild- und Spracherkennung, die immer öfter menschliche Fähigkeiten übertreffen. Anlass genug, um diese Technologie in kritische Felder wie medizinische Bildgebung und selbstfahrende Autos zu integrieren. Die meisten Systeme werden aber nicht mit Blick auf Sicherheit und Resilienz entworfen und können von jedem motivierten Angreifer mit einem guten Verständnis des Systems getäuscht werden. Die Wirksamkeit von Anwendungen mit maschinellem Lernen sollte daher nicht nur an ihrer Präzision gemessen werden, sondern auch an ihrer Widerstandskraft in einer feindlichen Umgebung.