Vorschlag der EU-Kommission für eine Verordnung über künstliche Intelligenz

Fachbeitrag

Künstliche Intelligenz

Vorschlag der EU-Kommission für eine Verordnung über künstliche Intelligenz

Etwas mehr als ein Jahr, nachdem die EU-Kommission in einem Weissbuch über Künstliche Intelligenz (KI) ihre möglichen politischen Optionen für eine KI-Gesetzgebung skizziert hat, und als Ergebnis einer Vielzahl von Workshops, Foren, Expertengruppen, Berichten und Empfehlungen sowie Hunderten von Konsultationsantworten auf das Weissbuch selbst, ist die Verordnung der bahnbrechende erste Versuch der Kommission, ein Gesetz zu formulieren, das speziell auf KI Anwendung findet.

Alesch Staehelin

Die EDSA und der EDSB veröffentlichten eine gemeinsame Stellungnahme zum Entwurf des Gesetzes über künstliche Intelligenz der Europäischen Kommission

Gesetzgebung

Data Governance und Compliance

Künstliche Intelligenz

DSGVO

Die EDSA und der EDSB veröffentlichten eine gemeinsame Stellungnahme zum Entwurf des Gesetzes über künstliche Intelligenz der Europäischen Kommission

EDSA-EDSB Stellungnahme v. 18.06.2021

Am 21. April 2021 veröffentlichte die Europäische Kommission einen Entwurf zu einem Gesetz über Künstliche Intelligenz. Der Europäische Datenschutzausschuss (EDSA) und der Europäische Datenschutzbeauftragte (EDSB) veröffentlichen am 18. Juni 2021 eine gemeinsame Stellungnahme zu diesem Entwurf. Die EDSA und der EDSB begrüssen zwar den Vorschlag, fordern aber auch mehrere wesentliche Änderungen am bestehenden Entwurf. Dazu gehören eine klarere Regelung der zuständigen Aufsichtsbehörde zur Überwachung der KI-Verordnung, der Vorschlag KI in bestimmten Gesellschaftsbereichen zu verbieten und die Forderung nach einer besseren Abstimmung mit datenschutzrechtlichen Bestimmungen. Die öffentliche Konsultationsphase der EU-Kommission zur vorgeschlagenen KI-Verordnung läuft noch bis zum 6. August 2021.

Künstliche Intelligenz und die Herausforderungen einer Regulierung

Fachbeitrag

Data Governance und Compliance

Künstliche Intelligenz und die Herausforderungen einer Regulierung

Die Europäische Kommission hat am 21. April 2021 den weltweit ersten Rechtsrahmen für Künstliche Intelligenz, – kurz KI, – in Form einer Verordnung vorgelegt. Mit dem Beitrag soll beispielhaft gezeigt werden, dass die Anforderungen an einen Einsatz von KI über datenschutzrechtliche Anforderungen hinausgehen, eine Regulierung für KI-basierte Systeme sinnvoll sein kann, eine Einigung über die Inhalte einer solchen Regulierung aber nicht automatisch auf der Hand liegt.

Caroline Danner

EU veröffentlicht Verordnungsentwurf zur Regelung der Künstlichen Intelligenz

Gesetzgebung

Data Governance und Compliance

EU veröffentlicht Verordnungsentwurf zur Regelung der Künstlichen Intelligenz

Die EU-Kommission veröffentlichte am 21. Mai 2021 einen Entwurf für einen Rechtsrahmen zur Regelung der Künstlichen Intelligenz. Die Kommission wendet einen risikobasierten Ansatz an, um bestimmte KI-Systeme oder -Anwendungen abhängige von ihrem ausgehenden Risiko zu regulieren. Die KI-Verordnung soll es Unternehmen ermöglichen, neue Anwendungen zu entwickeln und in neue Vorhaben zu investieren. Zugleich will sie einen Rechtsrahmen schaffen, um den potenziell hohen Risiken für Sicherheit und Grundrechte gleichermassen zu begegnen.

EU veröffentlicht Rechtsrahmen für Künstliche Intelligenz

Fachbeitrag

Data Governance und Compliance

EU veröffentlicht Rechtsrahmen für Künstliche Intelligenz

Angesichts der raschen technologischen Entwicklung von System der Künstlichen Intelligenz in einem globalen politischen Kontext, in dem immer mehr Länder stark in diese Technologien investieren, will die EU die sich daraus ergebenden Chancen nutzen und die Herausforderungen der Künstlichen Intelligenz zukunftssicher anzugehen. Dazu veröffentlichte die EU-Kommission am 21. Mai 2021 einen Entwurf für einen Rechtsrahmen zur Regelung der Künstlichen Intelligenz, die sog. KI-Verordnung. Zugleich stellte sie einen überarbeiteten koordinierten Plan für KI-Systeme und -Anwendungen vor. Die EU-Kommission wendet keine pauschalen Vorschriften für alle Formen von KI an. Stattdessen folgt sie einem risikobasierten Ansatz. Ausgehend von definierten Risiken definierte sie Kategorien von KI-Systemen, die mehr oder weniger reguliert werden sollen. Unterschieden werden KI-Systeme die ausdrücklich verboten werden, weil diese als klare Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen gelten. Ein weiter Anwendungsbereich bilden KI-Systeme mit hohem Risiko, die stark reguliert werden. Schliesslich definiert die Verordnung KI-Systeme, von denen kein oder nur ein geringes Risiko ausgeht und die mit genügenden Transparenz-Regelungen begegnet werden können. Die Verordnung könnte in der zweiten Hälfte des Jahres 2022 in einer Übergangszeit in Kraft treten.

Olivier Heuberger

Quo vadis KI? Neues Weissbuch der EU

Fachbeitrag

Quo vadis KI? Neues Weissbuch der EU

Stellen Sie sich vor, Sie müssen Vorschläge für einen künftigen Regelungsrahmen von künstlicher Intelligenz (KI) ausarbeiten. – Die EU hat in einem im Februar 2020 veröffentlichen Weissbuch1 exakt dies getan und Ideen zur gesetzlichen Regelungen von KI vorgelegt. Diese basieren unter anderem auf den von der OECD 2019 veröffentlichten Grundsätzen zur KI2. Die EU legt den Fokus im genannten Weissbuch auf die Frage, wie sich gesetzliche Regelungen zur KI ausgestalten müssen, damit sich das Potenzial sowie aber auch die Gefahren von KI zielführend kanalisieren lassen3. Die bis zum Sommer 2020 durchgeführte Vernehmlassung zum Weissbuch ergab, dass 75 Prozent der Befragten der Ansicht sind, dass im Rahmen von KI Regelungsbedarf besteht4.

E-Persönlichkeit für Algorithmen?

Fachbeitrag

E-Persönlichkeit für Algorithmen?

Künstlich intelligente Algorithmen prägen in zuvor nie da gewesener Weise unser Leben. Sie treffen Entscheidungen und führen Handlungen aus, die bislang den Menschen vorbehalten waren. Dies wirft unter anderem die Frage auf, ob die entstehende Verantwortungslücke mit einem speziellen rechtlichen Status für diese künstlich intelligenten Algorithmen, die E-Persönlichkeit, geschlossen werden kann und soll.

Ist auf unsere digitalen Assistenten Verlass?

Fachbeitrag

Ist auf unsere digitalen Assistenten Verlass?

Sind intelligente Programme angreifbar? Sicherheitsbedenken beim maschinellen Lernen

Maschinelles Lernen hat in den letzten Jahren eine unglaubliche Popularität erlangt. Neben spektakulären Siegen im Schach, Jeopardy! und Go gibt es zahlreiche erfolgreiche Anwendungen in der Bild- und Spracherkennung, die immer öfter menschliche Fähigkeiten übertreffen. Anlass genug, um diese Technologie in kritische Felder wie medizinische Bildgebung und selbstfahrende Autos zu integrieren. Die meisten Systeme werden aber nicht mit Blick auf Sicherheit und Resilienz entworfen und können von jedem motivierten Angreifer mit einem guten Verständnis des Systems getäuscht werden. Die Wirksamkeit von Anwendungen mit maschinellem Lernen sollte daher nicht nur an ihrer Präzision gemessen werden, sondern auch an ihrer Widerstandskraft in einer feindlichen Umgebung.

Künstliche Intelligenz