Das vergangene Jahr war eines der bedeutendsten für KI seit Wissenschaftler das Konzept Ende der 1940er-Jahre erstmals vorschlugen. KI-Anbieter haben ihre Innovationen kontinuierlich vorangetrieben, immer leistungsfähigere KI-Modelle sind auf den Markt gekommen, und Technologieunternehmen integrieren diese eifrig in ihre Kernprodukte. Zwar hat das Weiße Haus eine Exekutivanordnung erlassen , um diese leistungsstarke Technologie einzuschränken, doch ohne die Unterstützung des Kongresses ist deren Wirkung begrenzt, und die Abgeordneten haben bisher kaum etwas unternommen. Es gibt nach wie vor keine übergreifende KI-Regulierung auf Bundesebene.

Dadurch mussten die Bundesstaaten die entstandene Lücke füllen und haben sich dieser Herausforderung gestellt. Laut der Business Software Alliance brachten die Landesparlamente 2023 440 % mehr Gesetzesentwürfe zum Thema KI ein als im Vorjahr. Diese Gesetze befassten sich mit verschiedenen KI-bezogenen Themen, darunter das Potenzial für Verzerrungen, Transparenz hinsichtlich der zum Training von KI-Systemen verwendeten Daten und spezifische Bedrohungen wie Deepfakes.

Eine Flut staatlicher Maßnahmen

Die von den einzelnen Bundesstaaten ergriffenen Regulierungsmaßnahmen sind sehr unterschiedlich. Einige, wie beispielsweise Texas, konzentrieren sich auf den Einsatz von KI durch den Staat selbst. Das im vergangenen Jahr in Kraft getretene Gesetz HB 2060 richtete einen KI-Beirat ein, der den Einsatz von KI-Systemen im Staat überprüfen und die Notwendigkeit eines Ethikkodex bewerten soll.

Weitere KI-Regulierungen umfassen die Nutzung dieser Systeme durch den Privatsektor und sind häufig in Verbraucherschutzgesetzen verankert. Oregons Gesetzesentwurf SB619 , der am 1. Juli dieses Jahres in Kraft tritt, enthält eine Opt-out-Klausel für Daten, die für automatisierte Profilerstellung verwendet werden. Montanas Verbraucherschutzgesetz SB384 , das im Februar 2023 eingebracht wurde, enthält eine ähnliche Bestimmung, ebenso wie Virginias Verbraucherdatenschutzgesetz und New Hampshires Gesetzesentwurf SB255 . Alle diese Gesetze sind bereits in Kraft getreten, ebenso wie Tennessees Gesetzesentwurf HB1181 , der Datenschutzprüfungen für die Datenprofilerstellung vorschreibt.

Einige konzentrieren sich auf generative KI. Utahs SB149 , das im März dieses Jahres in Kraft trat, schreibt vor, dass Personen darüber informiert werden müssen, wenn sie mit KI interagieren – eine regulierte Tätigkeit (eine, die eine Lizenz oder ein staatliches Zertifikat erfordert).

Andere Bundesstaaten haben versucht, über Opt-out-Bestimmungen für Profilerstellung hinauszugehen und weitere KI-bezogene Schutzmaßnahmen einzuführen. Connecticut, das im vergangenen Jahr eine solche Bestimmung in seinem Connecticut Privacy Act durchgesetzt hat, versuchte sich mit einem weiteren Gesetz – SB2 –, das die Entwicklung automatisierter Entscheidungstools und KI-Systeme selbst geregelt hätte. Es hätte eine umfassende Dokumentation solcher Systeme und ihres Verhaltens sowie der während der Entwicklung verwendeten Daten (dazu gehörten auch Trainingsdaten) verlangt. Es hätte auch Risikobewertungen rund um ihren Einsatz sowie Transparenz verlangt.

Der Senat des Staates Connecticut hat das Gesetz SB2 verabschiedet, es kam jedoch bis zur Frist im Mai nicht zur Abstimmung im Repräsentantenhaus, was teilweise auf die Ankündigung des Gouverneurs von Connecticut, Ned Lamont, zurückzuführen war, das Gesetz mit einem Veto abzulehnen.

Colorado hatte jedoch mehr Erfolg bei der Ausweitung der KI-Regulierung. Eine Woche nach dem Scheitern von SB2 verabschiedete das Parlament von Colorado SB24-205 , das KI gezielt reguliert. Das Gesetz führt einen ethischen Rahmen für die Entwicklung risikoreicher KI-Systeme ein, schreibt deren Nutzung vor und gibt Verbrauchern die Möglichkeit, die Ergebnisse anzufechten und alle vom KI-System verwendeten personenbezogenen Daten zu korrigieren. Risikoreiche KI-Systeme, die laut Gesetz zu „folgenreichenden Entscheidungen“ führen, unterliegen zudem einer Risikobewertung und jährlichen Überprüfung.

Andere Bundesstaaten haben sich auf spezifische Anwendungsbereiche von KI konzentriert. Im Jahr 2020 verabschiedete Illinois den 820 ILCS 42/1 (das Gesetz über künstliche Intelligenz bei Videointerviews ), das potenzielle Arbeitgeber dazu verpflichtet, die Zustimmung von Bewerbern einzuholen, wenn sie KI zur Analyse ihrer Videointerviews einsetzen.

Weitere weitreichende Gesetzesentwürfe sind in Vorbereitung. Im Mai verabschiedete der kalifornische Senat den Gesetzentwurf SB1047 mit 32 zu 1 Stimmen. Dieser Entwurf, der bis zum 31. August von der kalifornischen Staatsversammlung verabschiedet werden muss, ähnelt einigen Maßnahmen der Exekutivverordnung des Weißen Hauses zu KI. Er sieht insbesondere Sicherheitsvorkehrungen wie Red-Teaming und Cybersicherheitstests für große KI-Modelle vor. Zudem soll eine eigene Behörde zur Regulierung von KI geschaffen werden, eine öffentliche Cloud für das Training von KI-Modellen bereitgestellt werden und ein „Not-Aus-Schalter“ in KI-Modelle integriert werden, der diese im Fehlerfall deaktiviert.

Solange die Bundesregierung untätig bleibt, werden weiterhin Gesetze der einzelnen Bundesstaaten entstehen, die die Grenzen der KI-Regulierung ausloten. Es gab einige vielversprechende Ansätze, wie beispielsweise Senator Schumers SAFE Innovation Framework zur Untersuchung des verantwortungsvollen Einsatzes von KI. Diese Initiative kommt jedoch nur schleppend voran. Ein vorgeschlagenes Bundesgesetz zum Risikomanagement künstlicher Intelligenz würde Bundesbehörden zudem verpflichten, das NIST-Rahmenwerk für KI-Risikomanagement zu übernehmen und Richtlinien für die KI-Beschaffung zu erstellen. Aktuell spielt sich die Entwicklung jedoch hauptsächlich auf Ebene der Bundesstaaten ab.

Wie können Sie sich vorbereiten?

Wie können sich Unternehmen auf die zunehmende Flickenteppiche staatlicher Regulierungen rund um KI vorbereiten? Die Norm ISO 42001 dient als nützliche Referenz. Sie beschreibt die Anforderungen an ein Artificial Intelligence Management System (AIMS), das Richtlinien, Verfahren und Ziele als Teil einer Governance-Struktur für den Einsatz von KI-Systemen umfasst. Sie fordert außerdem Transparenz und Verantwortlichkeit bei KI-basierten Entscheidungen und hilft Unternehmen dabei, KI-bezogene Risiken zu identifizieren und zu mindern.

Angesichts der zunehmenden Zahl staatlicher Vorschriften ist ein ISO-Standard ein Maßstab, der in einer für die KI-Regulierung unsicheren Zeit gute Vorgehensweisen und Weitsicht demonstriert.