iusNet Digitales Recht und Datenrecht

Schulthess Logo

Digitale Assistenten

Technische Gestaltung von Informed Consent

Fachbeitrag

Herausforderungen bei der Umsetzung der informierten Einwilligung bei modernen Mensch-Maschine-Schnittstellen

Die gesetzlichen Anforderungen an eine Einwilligung sind sehr hoch. Zudem gab es in den letzten zehn Jahren kaum Fortschritte in ihrer technischen Realisierung. Noch immer beruht das der Einwilligung zugrunde liegende Modell auf Transaktionen mit einen begrenzten Zweck und klar definierten Zeitpunkten für den Informationsaustausch. Die Identität der Organisationen, mit denen man es zu tun hatte, die gesammelten Informationen und wie die Informationen verwendet werden sollten, war bekannt. Im Gegensatz sind digitale Assistenten, mit denen wir reden, proaktiv und merken sich, was ihre Gesprächspartner schätzen. Dazu benötigen sie Informa­tionen, die sie aus dem persönlichen Kalender, Telefonaten und Interaktionen in sozialen Netzwerken gewinnen. Sie werden für die unterschiedlichsten Aufgaben eingesetzt, was es für den Auftraggeber schwierig macht zu wissen, welche Unternehmen ihre Daten verarbeiten und für welche Zwecke. Dies stellt zusätzliche Herausforderungen an die technische Umsetzung von Einwilligungen.
digma 2/2019

Ist auf unsere digitalen Assistenten Verlass?

Fachbeitrag

Sind intelligente Programme angreifbar? Sicherheitsbedenken beim maschinellen Lernen

Maschinelles Lernen hat in den letzten Jahren eine unglaubliche Popularität erlangt. Neben spektakulären Siegen im Schach, Jeopardy! und Go gibt es zahlreiche erfolgreiche Anwendungen in der Bild- und Spracherkennung, die immer öfter menschliche Fähigkeiten übertreffen. Anlass genug, um diese Technologie in kritische Felder wie medizinische Bildgebung und selbstfahrende Autos zu integrieren. Die meisten Systeme werden aber nicht mit Blick auf Sicherheit und Resilienz entworfen und können von jedem motivierten Angreifer mit einem guten Verständnis des Systems getäuscht werden. Die Wirksamkeit von Anwendungen mit maschinellem Lernen sollte daher nicht nur an ihrer Präzision gemessen werden, sondern auch an ihrer Widerstandskraft in einer feindlichen Umgebung.
digma 2/2017