Der kalifornische Senat hat das Gesetz SB 1047 verabschiedet, das neue Sicherheitsvorgaben für Entwickler von leistungsstarken KI-Modellen festlegt. Zu den Anforderungen gehören Cybersicherheitsmassnahmen, eine Abschaltmöglichkeit und ein Sicherheitsprotokoll. Entwickler müssen ausserdem Risiken abschätzen, die das Modell verursachen könnte, wie z.B. die Herstellung von Waffen oder erhebliche Schäden durch Cyberangriffe.

Es sind Massnahmen zur Risikominderung und Nachvollziehbarkeit des Modells erforderlich, sowie eine jährliche Einreichung eines Compliance-Berichts beim Attorney General. Betreiber von Infrastrukturen wie Rechenzentren müssen ebenfalls bestimmte Vorgaben erfüllen, darunter KYC-Pflichten und die Möglichkeit zur Notabschaltung. Das Gesetz wartet noch auf die Unterzeichnung durch Gouverneur Gavin Newsom.