Unsere Nachrichten, Fotos und Videos – von Algorithmen und künstlicher Intelligenz durchleuchtet, bevor wir sie überhaupt selbst gesehen haben. Genau das droht, wenn die EU-Kommission die Verordnung zur Chatkontrolle beschließt und sie so in allen Ländern der EU gilt.

Was die Chatkontrolle konkret bedeutet

Ziel des Gesetzes ist es, Darstellungen sexualisierter Gewalt gegen Kinder in Chats digitaler Kommunikationsdienste – etwa auf WhatsApp, Signal oder anderen Hosting-Diensten, die es in der EU gibt – aufzuspüren. Dafür sollen Inhalte wie Textnachrichten, Fotos und Videos automatisiert überprüft werden – auch in Chats mit Ende-zu-Ende-Verschlüsselung. Dabei werden die Inhalte vor der Verschlüsselung mit der sogenannten „client-side scanning“-Technologie auf dem Endgerät der Empfänger*innen durchleuchtet. Der sichere Messenger-Dienst „Signal“ droht bereits, Deutschland und Europa zu verlassen. Millionen Menschen würden ihren sichersten Kommunikationskanal verlieren.

Kritiker*innen warnen: Der Vorschlag führt zu allgemeiner, anlassloser Massenüberwachung. Auch legale Inhalte könnten darunter fallen, Fehlalarme ließen sich kaum verhindern. Persönliche und vertrauliche Kommunikation geriete dadurch pauschal unter Verdacht. Die Entscheidung der EU für die Chatkontrolle hätte weitreichende Auswirkungen auf die digitale Kommunikation aller Bürger*innen.

Chatkontrolle: Aktueller Stand und was bisher geschah

Bereits 2022 plante die Europäische Union, eine Chatkontrolle einzuführen. Auch damals hieß es, sie sollte vor Kindesmissbrauch und Kinderpornografie schützen. Das Problem: Anbieter von Messenger-Diensten hätten von ihren Nutzer*innen verschicktes Material, wie Bilder und Videos, auf Grundlage der EU-Bestimmung mithilfe künstlicher Intelligenz automatisch prüfen und vermeintlich verdächtige Inhalte an Polizeibehörden melden müssen.

Damals stellten sich über 165.000 Campact-Unterstützer*innen in einem Appell gegen die Überwachungspläne. Im Dezember 2023 zeigte sich schließlich: Die EU-Staaten konnten sich nicht rechtzeitig auf eine gemeinsame Position verständigen. Eine Einigung blieb aus, die Abstimmung zur Chatkontrolle scheiterte im Parlament, und das geplante EU-Gesetz trat vorerst nicht in Kraft. 

Erneute Verhandlungen über Chatkontrolle

Nun beraten die EU-Staaten erneut über die Chatkontrolle. Am 14. Oktober wird es Verhandlungen und die nächste EU-Abstimmung über die Pläne zur Chatkontrolle geben. Dabei soll auch entschieden werden, ob Messenger-Dienste private Chats bereits vor der Verschlüsselung durchsuchen müssen. Auf WeAct, der Petitionsplattform von Campact, ruft das Bündnis Chatkontrolle die Bundesregierung dazu auf, die Pläne im EU-Rat klar abzulehnen. Schließe Dich an und unterzeichne die Petition.

Kritik von Wissenschaft und Zivilgesellschaft

In einem offenen Brief haben sich 400 Wissenschaftler*innen aus den Bereichen IT-Sicherheit, Datenschutz und Recht gegen das Vorhaben ausgesprochen. Sie halten die Maßnahme für gefährlich, weil sie sichere Verschlüsselung und private Kommunikation aushebeln könnte.

Laut der Gesellschaft für Freiheitsrechte (GFF) verfolgt das geplante EU-Gesetz zur Chatkontrolle zwar ein wichtiges Ziel: den Schutz von Kindern vor sexualisierter Gewalt. Doch die Mittel dafür greifen auch aus ihrer Sicht viel zu stark in die Grundrechte ein. Auch die GFF warnt vor einer anlasslosen Massenüberwachung. Der Entwurf wäre außerdem eine Gefahr für den Quellenschutz, verletze die anwaltliche Verschwiegenheitspflicht und ermögliche den politischen Missbrauch vertraulicher Kommunikation. Das gefährde besonders schutzbedürftige Gruppen wie Journalist*innen oder Whistleblower*innen. 

Zudem kritisiert die GFF, dass geplante sogenannte Netzsperren, also der Zugriff auf bestimmte Webseiten, nur durch Überwachung des Surfverhaltens möglich wären. Auch die angedachte Altersüberprüfung würde die anonyme Nutzung des Internets massiv erschweren. Aus ihrer Sicht verstoßen zentrale Teile des Gesetzentwurfs zur Chatkontrolle gegen die EU-Grundrechtecharta.

Auch die Plattform für digitale Freiheitsrechte Netzpolitik.org begleitet die Debatte kritisch und analysiert regelmäßig, wie es um die Chatkontrolle in der EU steht.

Grundrechte im digitalen Raum

Die Debatte um die EU-Chatkontrolle zeigt: Sicherheitspolitik und digitale Selbstbestimmung stehen in direktem Konflikt. Wie weit darf der Staat digitale Kommunikation überwachen? Welche Eingriffe sind überhaupt verhältnismäßig und rechtlich erlaubt?

Gleichzeitig treibt die Union den Ausbau des Überwachungsstaats voran: Sie plant, die Polizei bundesweit mit einer Software von Palantir auszustatten. Damit bekäme ein US-Konzern Zugriff auf hochsensible Daten von Millionen Bürger*innen. Deutsche Sicherheitsbehörden würden sich zudem von der Software des Unternehmers Peter Thiel abhängig machen – einem engen Vertrauten Donald Trumps und erklärten Gegner der Demokratie. Gegen die Überwachungspläne der Union hat Campact einen Appell gestartet, den bereits über 430.000 Menschen unterzeichnet haben.

Die Chatkontrolle lässt sich noch verhindern: Wenn die Bundesregierung in Brüssel dagegen stimmt, kippt die massenhafte Überwachung. Schon in den nächsten Tagen will die Regierung entscheiden. Fordere jetzt Finger weg von unseren Handys – keine Massenüberwachung unserer Chats!