Am 11. Mai 2022 hat die EU-Kommission den Gesetzesentwurf zur sogenannten Chatkontrolle veröffentlicht. Anbieter wie WhatsApp, Signal und Co. sollen damit dazu verpflichtet werden, vertrauliche Kommunikation zu prüfen. Das wird massiv kritisiert.

Chatkontrolle als Überwachung?

US-Forscher Matthew Green kommentiert den Gesetzentwurf der EU zur Chatkontrolle in einer Reihe von Twitter-Posts und schreibt unter anderem:

„Hier ist das Dokument. Es ist lang, aber lesenswert, weil es die ausgeklügeltste Massenüberwachungsmaschinerie beschreibt, die jemals außerhalb Chinas und der UdSSR eingesetzt wurde. Keine Übertreibung.“

Matthew Green

Green glaubt, dass „durch die gesetzlich vorgeschriebene Errichtung dieser Überwachungssysteme in Europa, die europäische Regierung diese Fähigkeiten letztendlich jeder Regierung zur Verfügung stellen wird.“

Doch worum geht es konkret bei der Chatkontrolle?

Das ist die Chatkontrolle

Mit der Chatkontrolle soll die Verbreitung und Betreibung von neuem und altem Material mit Kindesmissbrauch sowie die Anwerbung von Kindern entdeckt werden. Vizepräsidentin für Demokratie und Demografie, Dubravka Šuica, erklärt etwa:

„Die Wahrung und der Schutz der Kinderrechte sowohl online als auch offline ist für das Wohlergehen unserer Gesellschaften von entscheidender Bedeutung. Online-Material zum sexuellen Missbrauch von Kindern ist ein Produkt des manifestierten körperlichen sexuellen Missbrauchs von Kindern. Es ist hochgradig kriminell. Sexueller Missbrauch von Kindern im Internet hat weitreichende, langfristige Folgen für Kinder und hinterlässt ein tiefes Trauma. Einige können sich nie erholen und tun dies auch nicht. Sexueller Missbrauch von Kindern ist vermeidbar, wenn wir zusammenarbeiten, um Kinder zu schützen. Wir erlauben keinen sexuellen Missbrauch von Kindern offline, also dürfen wir ihn auch nicht online zulassen.“

Dubravka Šuica

Die neuen Regeln sollen helfen, Kinder vor (weiterem) Missbrauch zu retten. Straftäter*innen sollen vor Gericht gebracht werden.

Was sehen die Regeln vor?

Im Bericht der Europäischen Union werden vor allem sechs Regeln hervorgehoben:

1. Obligatorische Risikobewertung und Risikominderungsmaßnahmen: Anbieter müssen das Risiko bewerten, inwiefern ihre Dienste zur Verbreitung von sexuellen Missbrauch von Kindern/Anwerbung von Kindern missbraucht werden und eine Risikominderung vorschlagen.
2. Gezielte Erkennungsplichten: Mitgliedsstaaten etwa müssten nationale Behörden benennen, die dafür zuständig sind, eine Risikobewertung zu prüfen.
3. Strenge Sicherheitsvorkehrungen bei der Aufdeckung: Hier heißt es etwa: „Erkennungstechnologien dürfen nur zum Zweck der Erkennung von sexuellem Missbrauch von Kindern eingesetzt werden. Anbieter müssen Technologien einsetzen, die nach dem Stand der Technik in der Branche am wenigsten in die Privatsphäre eingreifen und die Fehlerrate von Fehlalarmen so weit wie möglich begrenzen.“
4. Klare Meldepflichten: Anbieter müssen dem EU-Zentrum melden, wenn sie sexuellen Missbrauch von Kindern im Internet aufgedeckt haben.
5. Effektive Entfernung: Etwa Internetzugangsanbieter werden verpflichtet, den Zugriff auf Bilder und Videos zu sperren, die nicht entfernt werden können – zum Beispiel, weil sie außerhalb der EU in „nicht kooperativen Gerichtsbarkeiten gehostet werden“.
6. Verringerung der Exposition gegenüber Körperpflege: App-Stores müssten etwa sicherstellen, dass Kinder keine Anwendungen herunterladen können, die genutzt werden können, um sie anzuwerben.

Wie soll die Chatkontrolle genau funktionieren?

Im Gesetzentwurf steht nicht drin, wie die jeweiligen Anbieter die Maßnahmen technisch durchsetzen sollen. Der Chaos Computer Club (CCC) spricht etwa von einem „Client-Side-Scanning“. Nachrichteninhalte und Bilder könnten so direkt auf unseren Geräten geprüft werden. Bei Verdachtsfällen würden diese an eine Kontrollinstanz oder die Polizei ausgeleitet werden.

Laut Golem.de müssten einige Anforderungen erfüllt werden:

• Sie dürfen „keine anderen Informationen aus den betreffenden Mitteilungen extrahieren können als die Informationen, die unbedingt erforderlich sind“
• Sie müssen auf dem aktuellen Stand der Technik und mit dem „geringsten Eingriff“ in die Rechte der Nutzer*innen auf das Privat- und Familienleben verbunden sein.
• Die Technik müsse „ausreichend zuverlässig“ sein.

Kritik an Chatkontrolle

Nicht nur Matthew Green übt Kritik an der geplanten Chatkontrolle der EU-Kommission. Unter anderem der CCC kritisiert sie scharf:

„Das massenhafte Scannen greift nicht nur vertrauliche Kommunikation an ihren Grundfesten an, sondern wäre obendrein unwirksam: Kriminelle nutzen bereits heute Verbreitungswege, die von diesen Scans nicht betroffen wären und werden auch in Zukunft den Scans leicht entgehen.“

Chaos Computer Club

So würden Täterinnen und Täter laut CCC öffentliche Hoster nutzen und nicht die Messenger, die ins Visier genommen würden, da diese zum Tauschen großer Dateisammlungen nicht geeignet seien. „Vor dem Tausch verschlüsseln sie die Daten zudem zusätzlich“, so der CCC. Alleine aus diesem Grund würde die Chatkontrolle die Weiterverbreitung von Kindesmissbrauchsmaterial nicht verhindern.

Zudem kritisiert der Chaos Computer Club, dass etwa Journalist*innen und Whistleblower*innen darauf angewiesen sind, dass Kommunikation vertrauenswürdig ist. Außerdem könnte die Fehlerquote hoch sein, da eine künstliche Intelligenz die Inhalte auf Missbrauch untersucht. Somit könnten zahlreiche Inhalte fälschlicherweise ausgeleitet werden.

Mitunter deshalb findet der CCC, dass „die Chatkontrolle als fundamental fehlgeleitete Technologie grundsätzlich abzulehnen ist“.

Quellen: European Commission: „Fighting child sexual abuse: Commission proposes new rules to protect children“, Golem.de, Chaos Computer Club , Twitter/Matthew Green

Seit dem 24. Februar 2022 herrscht Krieg in der Ukraine. Hier kannst du den Betroffenen helfen.