Das Bundesamt für Sicherheit in der Informationstechnik (BSI) in Deutschland hat am 5. August 2024 ein Whitepaper zur Transparenz von AI-Systemen veröffentlicht, das auf den 1. Juli 2024 datiert ist. Als zentrale Behörde für Informationssicherheit betont das BSI die Bedeutung von Transparenz bei AI-Systemen über deren gesamten Lebenszyklus hinweg – von Planung und Design über Entwicklung und Validierung bis hin zu Anwendung und laufender Evaluation. Transparenz soll informierte Entscheidungen ermöglichen, die Vertrauenswürdigkeit stärken und den Schutz der Grundrechte sichern, wie es auch der AI Act fordert.

Das Whitepaper verweist auf konkrete Vorschriften des AI Acts, wie Art. 13, der Transparenzanforderungen für Hochrisiko-AI-Systeme definiert, sowie Art. 53, der die Erstellung technischer Dokumentationen für GPAI-Systeme regelt. Es werden auch weitere Bestimmungen erwähnt, die der Transparenz dienen, wie z.B. Art. 50 für Chatbots, die mit natürlichen Personen interagieren.

Gleichzeitig warnt das BSI davor, dass zu viel Transparenz auch schädlich sein kann, da sie potenzielle Angriffsvektoren offenlegen und Schwachstellen ausnutzbar machen kann. Daher betont...