Seit der Vorlage des Online-Sicherheitsgesetzes wurden in und außerhalb von Westminster Debatten über seine verschiedenen Inhalte geführt. Dan Raywood betrachtet den aktuellen Zustand.
Es ist etwa zwei Jahre her, dass der erste Entwurf eines Gesetzes zur besseren Regulierung von Online-Inhalten eingebracht wurde, der vom damaligen britischen Premierminister Boris Johnson vorgeschlagen wurde.
Mit dem vorrangigen Ziel, schädliche und anstößige Inhalte einzudämmen, knüpft der Online-Sicherheitsgesetzentwurf an das Weißbuch zu Online-Schadensrisiken von 2019 an, das sich mit schädlichen Inhalten und Inhalten befasst, die einzelne Nutzer schädigen. Dieses Thema ist insbesondere in Großbritannien nach dem aufsehenerregenden Fall von Molly Russell , einer 14-Jährigen, die sich 2017 das Leben nahm, nachdem sie online Inhalte zu Suizid und Selbstverletzung gesehen hatte, von großer Bedeutung.
Ziel des Gesetzentwurfs ist es, eine Sorgfaltspflicht für Websites und Online-Plattformen zu schaffen und sie zu verpflichten, gegen illegale und legale, aber schädliche Inhalte vorzugehen, mit Geldstrafen von bis zu 18 Millionen Pfund oder 10 % des Jahresumsatzes, je nachdem, welcher Betrag höher ist , an diejenigen, die sich nicht daran halten.
Warum die Kontroverse
Alles in allem klingt das einigermaßen akzeptabel. Ziel ist es, das Internet aufzuräumen und gefährdete Menschen besser vor potenziell schädlichen und anstößigen Inhalten zu schützen. Warum hat es also zu solchen Kontroversen geführt?
Nun, auf der einen Seite handelt es sich hierbei um einen Vorschlag für ein Tool, mit dem Erwachsene mehr Kontrolle über die Arten von Inhalten haben, die sie sehen und mit wem sie online interagieren, und das dazu beitragen soll, die Wahrscheinlichkeit zu verringern, dass sie auf bestimmte Arten von Inhalten stoßen, die eingestellt werden draußen im Gesetzentwurf. Der Gesetzentwurf wird Kinder bereits davor schützen, diese Inhalte zu sehen.
Andererseits wurde dies als Versuch gewertet, Inhalte einzudämmen, die allgemein als schädlich gelten, auch wenn sie nicht gegen das Gesetz verstoßen.
Während es im Vereinigten Königreich Gesetze gibt, die Hassreden und Drohungen verbieten, wird der Gesetzentwurf die Entscheidung an Ofcom überlagern, um zu klären, ob große Technologieplattformen ihrer Sorgfaltspflicht angemessen nachkommen, indem sie Risikobewertungen durchführen und erklären, wie sie Risiken mindern.
Die Menschenrechtsorganisation Article 19 erklärt in ihrem Blog zu dem Gesetzentwurf, dass die „Auslagerung“ von Entscheidungen über Rechtswidrigkeit Unternehmen dazu verpflichten wird, zu beurteilen und zu entscheiden, ob die Äußerungen ihrer Nutzer legal sind oder nicht.
„Dies ist äußerst problematisch, da nur unabhängige Justizbehörden die Befugnis erhalten sollten, eine solche Entscheidung zu treffen“, heißt es darin. „Zusätzlich zu den berechtigten Bedenken, Entscheidungen über die Rechtmäßigkeit der Äußerungen von Nutzern an private Akteure auszulagern, stellen wir fest, dass diese Beurteilungen in den meisten Fällen äußerst komplex und kontextabhängig sind und daher von geschulten Personen vorgenommen werden sollten.“
Letztendlich wirft dies die Frage auf, wer bestimmt, was illegal ist und was nicht, da Online-Plattformen algorithmische Moderationssysteme wie automatisierte Hash-Matching- und prädiktive maschinelle Lerntools einsetzen, um die Moderation von Inhalten durchzuführen. Da es ihnen an Raffinesse mangelt, legale von illegalen Inhalten zuverlässig zu unterscheiden, „identifizieren sie regelmäßig Inhalte als illegal und entfernen große Mengen legitimer Inhalte.“
Ende-zu-Ende-Verschlüsselung brechen – Das Datenschutz-Rätsel
Der andere Knackpunkt für das Gesetz zur Online-Sicherheit waren Erklärungen zur Aufhebung der Ende-zu-Ende-Verschlüsselung (E2E) oder zumindest zum Zugriff auf die Gespräche, die über diese sicheren Anwendungen stattfinden.
Die Debatte um Hintertüren in Apps wie WhatsApp und Signal ist alles andere als neu. Schon Boris Johnsons Vorgänger, etwa David Cameron, diskutierten dieses Konzept Mitte des letzten Jahrzehnts. Nun könnte es jedoch in einem Regierungsgesetz verankert werden und hat sich für einige Organisationen zum Hauptgesprächsthema entwickelt.
Gemäß Artikel 19 wird Abschnitt 103(2)(b) Ofcom die Befugnis einräumen, einem Anbieter eines Benutzer-zu-Benutzer-Dienstes anzuweisen, „akkreditierte Technologie“ zu verwenden, um Inhalte zur sexuellen Ausbeutung und zum sexuellen Missbrauch von Kindern (CESA) zu identifizieren – unabhängig davon, ob es sich um solche Inhalte handelt öffentlich oder privat kommuniziert wird.
In Artikel 19 heißt es: „Das völlige Fehlen einer sinnvollen Unterscheidung zwischen den Anforderungen öffentlicher Plattformen und privater Messaging-Dienste im Gesetzentwurf bedeutet, dass ein echtes Risiko besteht, dass das Angebot einer Ende-zu-Ende-Verschlüsselung einen Verstoß gegen den Gesetzentwurf darstellt.“ ”
Sichere Kommunikation in Gefahr
Die Nutzung sicherer Kommunikationsmittel wurde vielfach hervorgehoben. Menschenrechtsgruppen, Journalisten, Whistleblower, Opfer häuslicher Gewalt und Angehörige von Minderheiten – allesamt regelmäßige Nutzer von Diensten wie WhatsApp, Signal und Telegram – äußerten sich kritisch zu dem Gesetzesentwurf und erklärten, sie würden lieber in Großbritannien gesperrt werden, als die dortige Technologie zu untergraben. Sie könnten sogar ihre Dienste in Großbritannien einstellen, sollte das Gesetz sie zum Scannen von Nachrichten verpflichten.
In einem Policy Brief der Open Rights Group heißt es, dass Ofcom Chat-Plattformen dazu zwingen könnte, staatlich anerkannte Technologie zur Inhaltsmoderation zu verwenden. Während der Gesetzentwurf keine Angaben zur genauen Umsetzung macht, wird darunter im Allgemeinen eine Form des clientseitigen Scannens verstanden, bei dem sich die Software auf den Smartphones der Benutzer befindet.
Dr. Monica Horten, Leiterin der Abteilung für Meinungsfreiheit bei der Open Rights Group , sagte: „Wir prüfen daher Maßnahmen, die zu einer Massenüberwachung von Kommunikationsdiensten führen werden, die von mehr als zwei Dritteln der britischen Bevölkerung für private Nachrichten, einschließlich Video- und Sprachanrufe, genutzt werden. Sie werden die Privatsphäre und die Meinungsfreiheit der britischen Bürger beeinträchtigen.“
Horten behauptet: „Das Parlament wird aufgefordert, Gesetze für unverhältnismäßig einschneidende Maßnahmen zu erlassen, die unsere Privatsphäre und Meinungsfreiheit beeinträchtigen, ohne dass konkrete Informationen über die Auswirkungen auf Benutzer oder Anbieter vorliegen.“ Menschen und Unternehmen haben ein Recht darauf, zu erfahren, um welche Maßnahmen es sich handelt und wie sie Maßnahmen ergreifen können, um Strafen zu vermeiden, bevor der Gesetzentwurf verabschiedet wird.
Datenschutz und Online-Sicherheit erreichen – wer hat die Antworten?
Die Einführung des Online-Sicherheitsgesetzes gestaltete sich zweifellos schwierig – viele argumentieren, dass ein besseres Internet, frei von anstößigen Inhalten, wünschenswert sei. Die Art und Weise, wie diese Faktoren berücksichtigt werden, gibt jedoch Anlass zu großer Besorgnis. Einerseits fordert die NSPCC „wirksame Maßnahmen“ gegen missbräuchliche Inhalte und appellierte an Meta (die Muttergesellschaft von WhatsApp und Facebook), die Pläne zur Aussetzung der Ende-zu-Ende-Verschlüsselung der Messenger-Dienste Facebook und Instagram vorerst auszusetzen. Andererseits erklärte sie jedoch, dass „das Online-Sicherheitsgesetz als Chance gesehen werden sollte, Unternehmen zu Investitionen in technologische Lösungen für eine Ende-zu-Ende-Verschlüsselung anzuregen, die die Privatsphäre von Erwachsenen schützt und die Sicherheit von Kindern gewährleistet.“ Gibt es also einen Mittelweg, der die Privatsphäre der Nutzer nicht beeinträchtigt, nicht auf die Aufhebung von Verschlüsselungstechnologien setzt und dennoch die Online-Sicherheit gewährleistet?
Natürlich ist die Debatte über den Datenschutz am lautesten, und Menschenrechtsorganisationen haben den Widerstand gegen die Aufhebung der E2E-Verschlüsselung angeführt. Befürworter des Gesetzentwurfs werden jedoch behaupten, dass diese Plattformen am häufigsten für den Austausch dieses Missbrauchsmaterials genutzt werden.
Das Ende zu bestimmen und wer auf der rechten Seite sitzt, ist problematisch. Seit seiner Einführung hat der Gesetzentwurf neue Diskussionen ausgelöst und andere Debatten fortgesetzt, und es wird interessant sein zu sehen, wie dies gelöst und abgeschlossen wird.
