Wir schreiben das Jahr 2023, und künstliche Intelligenz scheint allgegenwärtig zu sein. ChatGPT, die KI des von Elon Musk gegründeten Instituts OpenAI, verfasst studentische Essays , produziert Bücher und fechtet sogar Parktickets an . In einem Vorfall, der beweist, dass wir in einer Folge von Black Mirror leben, nutzte ein besonders gefühlloser Universitätsmitarbeiter sie sogar, um Studenten nach einem Massaker zu trösten.

Wie ChatGPT funktioniert

Datenschutz- und Sicherheitsexperten fragen sich möglicherweise, wie KI auch ihnen helfen könnte. Könnte es beispielsweise Ihre Datenschutzrichtlinie verfassen? Die Antwort ist ja – sozusagen.

Um die Frage genauer zu beantworten, lohnt es sich zu verstehen, wie die neuere KI-Marke von ChatGPT funktioniert. Es basiert auf einem sogenannten Large Language Model (LLM). Hierbei handelt es sich um ein KI-Modell, das mithilfe eines großen Textkorpus trainiert wird, der normalerweise aus dem Internet stammt. Der Trainingsprozess zerlegt diesen Text in Token, die Teile von Wörtern sein können. Anschließend wird enorme Rechenleistung benötigt, um Muster in der Sprache zu finden, die dabei helfen, die Zusammenhänge zwischen diesen Token zu verstehen.

Wenn jemand die KI mit einer Anfrage auffordert (z. B. „Erklären Sie Cold Fusion im Stil von Sherlock Holmes“), verwendet die KI ihr umfangreiches Trainingsmodell, um Wortblöcke zu nehmen und vorherzusagen, welche wahrscheinlich als nächstes kommen werden. Auf diese Weise kann eine überzeugende Sprache erzeugt werden, die den in der Eingabeaufforderung dargelegten Konzepten zu folgen scheint.

Selbstbewusst und dumm: Eine schlechte Kombination

Das Problem bei diesem Ansatz ist, dass die KI nicht versteht, worüber sie spricht. Forscher vergleichen sie mit einem „stochastischen Papagei“, der wahllos Wörter aneinanderreiht, ohne sie zu verstehen. In einer Veröffentlichung zu diesem Thema, „ Über die Gefahren stochastischer Papageien“ , wird darauf hingewiesen, dass „Sprachen Zeichensysteme sind, also Verbindungen von Form und Bedeutung“. Wenn jemand „Kaninchen“ sagt, versteht man das Konzept eines Kaninchens und dessen Bezug zu verschiedenen anderen Dingen (Ostern, Frühling, Haustiere, leckerer Eintopf usw.). „Die Trainingsdaten für Sprachmodelle bestehen jedoch nur aus der Form“, so die Forscher. „Sie haben keinen Zugriff auf die Bedeutung.“

Das schafft Probleme für LLMs, auf die Sie sich für sachliche Inhalte verlassen. Da sie Wörter auf der Grundlage statistischer Wahrscheinlichkeit und nicht auf der Grundlage von Wissen finden, neigen sie dazu, Dinge zu schreiben, die nicht wahr sind. Im KI-Jargon wird dies als „Halluzinieren“ bezeichnet und ist ein Problem, wenn man sich bei sachlichen Inhalten auf sie verlassen möchte.

Es gab Experimente mit ChatGPT zur Erstellung von Datenschutzrichtlinien, allerdings mit fragwürdigen Ergebnissen. Wie erwartet, waren die Ergebnisse umso schlechter, je mehr Lücken der LLM ausfüllen musste.

Durch einfache KI werden Richtlinien zurückgegeben, die nicht auf bestimmten Datenschutzgesetzen basieren und sich nicht auf bestimmte Geschäftspraktiken beziehen. Die Datenschutzrichtlinie verbesserte sich, als die Tester weitere Informationen hinzufügten, und führte zu einem beeindruckenden Ergebnis. Zu diesem Zeitpunkt müssen Sie jedoch „Stunden, Tage oder sogar Wochen damit verbringen, zunächst herauszufinden, welche Datenschutzgesetze für Sie gelten, die Offenlegungsanforderungen dieser Gesetze zu analysieren und diese Informationen dann zusammen mit Ihren spezifischen Geschäftspraktiken an ChatGPT weiterzuleiten.“ " Sie sagt. Da stellt sich die Frage: Warum nicht gleich das Ganze selbst machen?

Andere haben ChatGPT und ähnliche LLMs als „Wortrechner“ beschrieben. Sie sind für das Schreiben nur dann wirklich nützlich, wenn man sich selbst viel Mühe gibt und die Ergebnisse sorgfältig überprüft.

Der Umgang der Menschen mit KI ist oft auch selbstbewusst und dumm

Wir können KI-Tools nicht vertrauen, aber wir können darauf vertrauen, dass Menschen sie missbrauchen. Wir haben bereits die Folgen schlecht konzipierter und unangemessen eingesetzter KI gesehen, die zu erheblichen Folgen führen, die sich auf das wirkliche Leben auswirken.

Behörden haben KI-gestützte Systeme eingesetzt, die sich bei der Empfehlung von Strafen als voreingenommen erwiesen haben. So führte beispielsweise der Missbrauch von KI-Software durch die niederländische Steuerbehörde dazu, dass Eltern fälschlicherweise des Betrugs beschuldigt wurden – das blinde Vertrauen in fehlerhafte KI-gestützte Gesichtserkennungsalgorithmen führte zur unrechtmäßigen Verhaftung unschuldiger Menschen . Auch Amazons KI-gestütztes Rekrutierungssystem wies Voreingenommenheit auf und wurde eingestellt, nachdem es wiederholt qualifizierte Frauen nicht für Technologieberufe empfahl .

Wie können wir dieses Problem angehen? Einige Experten haben bereits ein sechsmonatiges Moratorium für die KI-Entwicklung gefordert , um uns einen Überblick über das ganze traurige Durcheinander zu verschaffen, bevor die Dinge noch weiter außer Kontrolle geraten.

An Richtlinien mangelt es nicht

Es gibt bereits zahlreiche Leitlinien für verantwortungsvolle KI, die sich in ihren Aussagen ähneln. Die Interessenvertretung Algorithm Watch führt eine Übersicht über KI-Leitlinien verschiedener Institutionen, darunter die EU -Ethikleitlinien für vertrauenswürdige KI . Eine Leitlinie, die zum Zeitpunkt der Veröffentlichung dieses Textes noch nicht enthalten war, ist das KI-Risikomanagement-Framework des National Institute of Standards and Technology (NIST) , das im Januar dieses Jahres veröffentlicht wurde. Wie die meisten anderen Leitlinien bietet auch das NIST-Framework Rahmenbedingungen für die Entwicklung und Anwendung von KI. Es spiegelt zudem einige gängige Prinzipien anderer ethischer Leitlinien wider, wie Transparenz, Verantwortlichkeit, Datenschutz, Sicherheit und Resilienz.

Laut OECD gibt es zum Zeitpunkt der Veröffentlichung dieses Artikels über 800 KI-Politikinitiativen in fast 70 Ländern. Dabei besteht jedoch ein großer Unterschied zwischen verbindlichen und unverbindlichen Richtlinien. Die Einhaltung der meisten Initiativen, einschließlich derer des NIST, ist freiwillig.

Ein Blick auf Unternehmen wie Clearview AI verdeutlicht, wie wichtig es ist, verantwortungsvolle KI-Richtlinien rechtlich durchzusetzen, anstatt nur höflich darum zu bitten. Das Startup, das Gesichtserkennungsdienste an Strafverfolgungsbehörden verkauft, nutzt dafür Millionen von Fotos, die ohne Zustimmung der Nutzer aus sozialen Netzwerken gestohlen wurden .

Nicht genügend Regulierung

Die Länder waren hinsichtlich ihres Ansatzes zur strikten Regulierung ihrer Politik gespalten. Alle stehen vor der gleichen Herausforderung: zu wenig Regulierung, und sie riskieren einen unvorhersehbaren und unverantwortlichen Einsatz der Technologie. Zu viel, und sie könnten potenziell lukrative KI-Innovatoren zum Abwandern zwingen.

Die USA haben KI bisher nicht reguliert. Der Kongress brachte 2022 den „Algorithmic Accountability Act“ ein, der jedoch ohne Abstimmung scheiterte. Die FTC hat zugesagt , ihre bestehenden Befugnisse zu nutzen, um die US-Bevölkerung vor dem Missbrauch von KI zu schützen. Sie hat außerdem eine Vorankündigung geplanter Regelungen veröffentlicht , die weitreichende neue Handelsbestimmungen für automatisierte Entscheidungs- und Überwachungssysteme einläuten könnten.

Die EU ist mit ihrem KI-Gesetz , das nach Ansicht von Befürwortern noch in diesem Jahr verabschiedet werden soll, deutlich aggressiver vorgegangen. Es würde alle KI-Produkte und -Dienstleistungen erfassen, sie nach ihrem wahrgenommenen Risikograd klassifizieren und für die risikoreicheren Produkte und Dienstleistungen strenge Prüfungen und Datenschutzbestimmungen anwenden. Zuwiderhandlungen würden mit hohen Geldstrafen geahndet.

Großbritannien verfolgt einen – wie es beschönigend nennt – „ innovationsfreundlichen Ansatz “. Anstatt eine einzige neue KI-Regulierungsbehörde zu ernennen, wird die Zuständigkeit für die KI-Regulierung auf die bestehenden Regulierungsbehörden aufgeteilt, ohne ihnen zunächst neue Befugnisse einzuräumen.

Während Politiker auf dem schmalen Grat zwischen Ethik und wirtschaftlichem Nutzen wandeln, steht die Zukunft der KI auf dem Spiel. Eines ist sicher: Verantwortungsvolles Handeln allein den Technologieunternehmen zu überlassen, wäre … unverantwortlich.