Wie Unternehmen den Überblick über neue und aufkommende Vorschriften zur künstlichen Intelligenz behalten können
Inhaltsverzeichnis:
Künstliche Intelligenz (KI) wird unser Leben und Arbeiten in den kommenden Jahren radikal verändern. Da diese Technologie jedoch in hohem Maße auf die Erfassung und Analyse großer Datenmengen angewiesen ist, birgt sie auch große Risiken für den Datenschutz.
Laut Forschungsprojekte Laut Cisco haben 60 % der Verbraucher Bedenken hinsichtlich der Art und Weise, wie Unternehmen KI-Systeme nutzen. Und 65 % haben weniger Vertrauen in Unternehmen, die diese Technologie in ihren Produkten und Dienstleistungen einsetzen.
Diese Befürchtungen haben viele Regierungsstellen und große Institutionen dazu veranlasst, Rahmenwerke zu entwickeln, um den Einsatz von KI-Technologie zu regulieren. Im Juni die EU angekündigt plant ein bahnbrechendes KI-Gesetz, um sicherzustellen, dass diese Technologie „sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich“ ist.
Sogar der Vatikan hat dies mit Hilfe des Markkula Center for Applied Ethics der Santa Clara University getan entwickelt ein Handbuch, das die ethischen Implikationen der KI-Technologie darlegt. Sie hoffen, „ein tieferes Nachdenken über die Auswirkungen der Technologie auf die Menschheit zu fördern“. Das National Institute of Standards and Technology hat ebenfalls eine entwickelt KI-Risikomanagement-Framework.
Mit der Weiterentwicklung der KI-Technologie werden zweifellos neue Gesetze für ihre Entwicklung und Nutzung entstehen. Gleichzeitig wird der Druck auf KI-Unternehmen und -Anwender zunehmen, neue Gesetze zu verstehen und einzuhalten. Doch wie gelingt ihnen das tatsächlich? Und gibt es sonst noch etwas, das sie wissen müssen? Wir haben mehrere Branchenexperten um Rat gefragt.
KI-Vorschriften sind keine schlechte Sache für die Branche
Während die Einführung von KI-Vorschriften für Unternehmen, die diese Technologie entwickeln und nutzen, wie eine entmutigende Aussicht klingen mag, könnte sie tatsächlich eine gute Sache für die Branche sein. Aleksandr Gornostal, Softwarearchitekt und KI-Experte bei Star glaubt, dass KI-Regeln „langfristig fairere und gleichberechtigtere Wettbewerbsbedingungen schaffen“ werden.
Gornostal geht davon aus, dass neue Vorschriften die Forschungs- und Entwicklungsbemühungen im Bereich KI kurzfristig beeinträchtigen werden. Aber das wird nicht ewig so bleiben; Er ist zuversichtlich, dass es für Technologieunternehmen irgendwann eine Chance geben wird, Produkte zu entwickeln, die einige der größten Probleme der KI lösen, insbesondere in Bezug auf menschliche Kontrolle, Privatsphäre und Nichtdiskriminierung.
Natürlich müssen Unternehmen sicherstellen, dass ihre KI-Systeme den neuen und aufkommenden Gesetzen entsprechen, wenn sie langfristig erfolgreich sein wollen. Gornostal rät Unternehmen, zunächst regelmäßig Folgenabschätzungen durchzuführen und für ständige Transparenz gegenüber den Stakeholdern zu sorgen. Sie müssen außerdem erhebliche Budgets und Ressourcen bereitstellen, um diese Regeln einzuhalten.
„Die Einhaltung der KI-Vorschriften wird zur Voraussetzung für den Eintritt in den europäischen Markt, und alle Unternehmen, die in der EU Handel treiben oder Geschäfte tätigen möchten, müssen sich an die Standards halten“, sagt er.
Neben Datenschutzbedenken birgt generative KI laut Gornostal Risiken hinsichtlich Vielfalt, Repräsentation und Inklusivität. „Die Modelle neigen dazu, die vorherrschende Meinung zu bekräftigen, ohne ein Urteil darüber zu fällen, wie fair oder richtig sie ist. Wir müssen uns dieser Mängel bewusst sein und vermeiden, dass durch den Einsatz von KI Echokammern entstehen.“
Übernahme eines By-Design-Prinzips
Unternehmen, die von der KI-Revolution profitieren möchten, werden keine andere Wahl haben, als sich auf neue und sich entwickelnde Branchenvorschriften vorzubereiten. Allerdings da Immuta Die leitende Datenschutzberaterin und Rechtsingenieurin Sophie Stalla-Bourdillon wies darauf hin, dass viele bereits an den Umgang mit Gesetzen wie der Datenschutz-Grundverordnung gewöhnt seien. Sie schlägt auch vor, dass die Einhaltung der neuen KI-Regeln ähnlich sein wird.
„Der beste Weg, neue Gesetze und Vorschriften zu antizipieren, besteht darin, den prinzipienbasierten Ansatz, der durch Vorschriften wie eingeführt wird, so früh wie möglich in die Praxis umzusetzen DSGVO; mit anderen Worten, einen By-Design-Ansatz zur Compliance zu verfolgen“, sagt sie.
Dazu gehört die Gestaltung kontrollierter Umgebungen, in denen Organisationen laut Stalla-Bourdillon routinemäßig nach „potenziellen Vorfällen und unerwünschten Praktiken“ suchen. Sie rät Unternehmen außerdem, diese anhand von Kriterien wie Vertraulichkeit und Fairness zu testen.
Sie erklärt weiter, dass Unternehmen zwischen zwei Designstrategien wählen können, um „zu zeigen, dass Datenschutz und Sicherheit tatsächlich zusammenwachsen“. Die erste nutzt Datenschutzprinzipien wie Minimierung und „Need-to-know“.
„Wenn dies in die Praxis umgesetzt wird, sollte dies zu fein abgestuften Zugangskontrollrichtlinien führen. Diese Richtlinien sind für Trainingsdaten, Modellparameter, Abfragen oder Eingabeaufforderungen, Ergebnisse oder Antworten relevant“, sagt sie.
Die zweite Designstrategie stellt Unternehmen Metriken, KPIs und Prüfprotokolle zur Verfügung, um die Transparenz und Beobachtbarkeit während der Systembestätigung, Schulung, Tests, Bereitstellung und vielen anderen Zeiträumen zu verbessern. Sie fügt hinzu: „Die Transparenz über den gesamten Datenlebenszyklus erhöht die Kontrolle und erleichtert die Teilnahme an regelmäßigen Bewertungen.“
Jeder muss die Risiken der KI verstehen
Obwohl KI-Regulierungen „dringend erforderlich“ seien, ESET Der globale Cybersicherheitsberater Jake Moore räumt ein, dass es Unternehmen wahrscheinlich schwerfallen wird, mit ihren sich ständig ändernden Anforderungen auf dem Laufenden zu bleiben.
„Vorschriften können Unternehmen stärken und ihnen das Gefühl geben, geschützt zu sein, für die Entwickler hochentwickelter Malware bedeuten sie jedoch nichts. Die britischen Vorschriften kommen bekanntermaßen zu spät, aber die jetzige Situation sieht bereits vielversprechender aus“, fährt er fort.
Er nennt staatliche Eingriffe in KI-Risiken „lebenswichtig“, fordert die Regulierungsbehörden jedoch auf, realistische Erwartungen zu setzen. „Die Kontrolle über das Biest [KI] wird mit der ständig verbesserten Technologie nahezu unmöglich sein“, sagt er. „Darüber hinaus wird die Polizeiarbeit wie immer bei internationalen, grenzübergreifenden Gerichtsbarkeiten erschwert.“
Neben der Einhaltung neuer KI-Vorschriften warnt er Unternehmen auch davor, die Bedrohung durch KI-gestützte Cyberangriffe zu ignorieren. Er geht davon aus, dass diese in den kommenden Jahren an Komplexität und Umfang zunehmen und sich an Unternehmen und Einzelpersonen richten werden.
Er fügt hinzu: „Es ist wichtig, den Mitarbeitern und der breiten Öffentlichkeit beizubringen, dass Sehen nicht immer gleichbedeutend mit Glauben ist und dass wir mehr denn je auf Nummer sicher gehen müssen, da die menschliche Komponente [der KI] immer noch stark missbraucht wird.“ ”
Aviv Raff, CIO von Bloomreach, stimmt zu, wie wichtig es ist, Einzelpersonen über die mit KI verbundenen Risiken und die Schritte aufzuklären, die sie unternehmen können, um diese Technologie sicher zu nutzen.
Er rät: „Für Unternehmen ist es wichtig, dass sie Richtlinien und Standards einführen, die den akzeptablen Einsatz von KI regeln, Mitarbeiterschulungen zum angemessenen Einsatz von KI organisieren, sicherstellen, dass sie nur private Instanzen von KI verwenden, die vertraglich gebunden sind, und sich von dem Modell abmelden.“ Schulungen durchführen und das Prinzip der geringsten Rechte anwenden, um unbefugten Zugriff zu verhindern. „
KI bietet immense Chancen für die Gesellschaft als Ganzes, birgt aber auch erhebliche ethische Risiken. Um das enorme Potenzial der KI-Technologie auszuschöpfen, ist es von entscheidender Bedeutung, das globale Verständnis dieser Risiken zu fördern und ihnen entgegenzuwirken.
Vorschriften werden in diesem Prozess eine wesentliche Rolle spielen, aber es ist klar, dass ihre Einhaltung eine Herausforderung für Unternehmen sein wird. Da sich die KI-Technologie weiterentwickelt und neue Risiken entstehen, müssen Regierungsbehörden ihre Vorschriften entsprechend anpassen, um sicherzustellen, dass sie relevant bleiben.
