Chatkontrolle

Die Abschaffung des Digitalen Briefgeheimnisses

Die EU will es Chat- und Messenger-Providern vorschreiben, private Chats, Nachrichten und E-Mails massenhaft, anlass- und unterschiedslos auf verdächtige Inhalte durchsuchen. Die Begründung: Strafverfolgung von Kinderpornographie. Die Konsequenz: Eine nie dagewesene Massenüberwachung durch vollautomatisierte Echtzeit-Chatkontrolle und damit die Abschaffung des digitalen Briefgeheimnisses.

Weitere Konsequenzen des Gesetzentwurfs zur Chatkontrolle sind unwirksame Netzsperren-Zensur, die Durchleuchtung persönlicher Cloudspeicher einschließlich privater Fotos, durch verpflichtende Altersüberprüfung das Ende anonymer Kommunikation, durch Appstore-Zensur das Ende sicherer Messengerapps und die Bevormundung Jugendlicher.

Chatkontrolle 2.0 auf jedem Smartphone droht

Am 6. Juli 2021 hat bereits eine Mehrheit der Abgeordneten des Europäische Parlaments dem freiwilligen Einsatz der Chatkontrolle zugestimmt, wovon bisher nur unverschlüsselte US-Dienste wie GMail, Meta/Facebook Messenger oder X-Box Gebrauch machen. Die Europäische Kommission hat am 11. Mai 2022 eine Folgeverordnung zum verpflichtenden Einsatz der Chatkontrolle durch alle Anbieter vorgestellt. Eine öffentliche Konsultation der Kommission zu diesem Vorhaben hatte vergeblich ergeben, dass die Mehrheit der Befragten Bürger:innen und Interessengruppen eine Verpflichtung zum Einsatz der verdachtslosen Nachrichten- und Chatkontrolle ablehnt. Über 80% der Befragten sprachen sich gegen eine Anwendung auf Ende-zu-Ende verschlüsselte Kommunikation aus.

Was konkret im Entwurf vorgesehen ist:

Chatkontrolle-Vorschlag	Konsequenzen
Vorgesehen ist die Chatkontrolle, Netzsperren, verpflichtende Altersverifikation für Kommunikations- und Speicherdienste, Altersverifikation und Ausschluss Minderjähriger aus Appstores
Als Kommunikationsdienste betroffen sind u.a. Telefonie, E-Mail, Messenger, Chats (auch als Teil von Spielen, auf Datingportalen usw.), Videokonferenzen	Durchsucht werden können Texte, Bilder, Videos und Sprache
Ende-zu-Ende verschlüsselte Messenger sind nicht ausgenommen	Die Anbieter müssen Nachrichten auf jedem Smartphone durchsuchen (client-side scanning) und ggf. unverschlüsselt ausleiten. Das zerstört das Vertrauen in sichere Verschlüsselung und erzwingt eine Hintertür, die eine Überwachung bisher sicher verschlüsselter Kommunikation auch für viele andere Zwecke ermöglicht.
Als Hostingdienste betroffen sind u.a. Webhoster, soziale Medien, Video-Streamingdienste, Filehoster und Clouddienste	Auch persönliche Speicher, die nicht geteilt werden, wie Apples iCloud sind betroffen
Auch Nicht-EU-Dienste sind betroffen, es gibt auch keine Ausnahme für kleine Dienste. Betroffen sind Dienste, die “in der Regel gegen Entgelt” angeboten werden oder für kommerzielle Tätigkeiten werben sollen.
Zur verdachtslosen und flächendeckenden Durchsuchung des Inhalts persönlicher Kommunikation und gespeicherter Daten (Chatkontrolle) verpflichtet werden Dienste, die wahrscheinlich auch für sexuell ausbeutende Darstellungen oder zur Kontaktaufnahme mit Kindern/Jugendlichen genutzt werden	Da vermutlich jeder Dienst auch für illegale Zwecke genutzt wird, werden sämtliche Dienste zur Chatkontrolle verpflichtet
Die Behörde des Sitzlandes ist zur Anordnung der Chatkontrolle verpflichtet	Es besteht kein Ermessen
Bei der Chatkontrolle muss nach bekannten Bildern und Videos gesucht werden, verdächtige Nachrichten/Dateien werden der Polizei angezeigt	Diese Hashverfahren führen laut Schweizer Bundespolizei bisher dazu, dass 87% der Meldungen strafrechtlich irrelevant sind
Bei der Chatkontrolle muss auch nach unbekannten Bildern und Videos gesucht werden, verdächtige Nachrichten/Dateien werden der Polizei angezeigt	Maschinell nach unbekannten Missbrauchsdarstellungen zu suchen ist ein experimentelles Verfahren unter Verwendung maschinellen Lernens („künstliche Intelligenz“). Die Algorithmen sind Öffentlichkeit und Wissenschaft nicht zugänglich, auch der Entwurf enthält keine Offenlegungspflicht. Die Fehlerquote ist unbekannt und wird durch den Verordnungsentwurf nicht begrenzt, vermutlich führen diese Verfahren zu massenhaft Falschmeldungen. Der Entwurf erlaubt es Providern, Treffermeldungen ungeprüft an die Polizei weiterzugeben.
Bei der Chatkontrolle muss maschinell nach möglichen Hinweisen auf Kontaktaufnahmen zu Kindern und Jugendlichen gesucht werden, verdächtige Nachrichten/Dateien werden der Polizei angezeigt	Maschinell nach Anbahnungsversuchen zu suchen ist ein experimentelles Verfahren unter Verwendung maschinellen Lernens („künstliche Intelligenz“). Die Algorithmen sind Öffentlichkeit und Wissenschaft nicht zugänglich, auch der Entwurf enthält keine Offenlegungspflicht. Die Fehlerquote ist unbekannt und wird durch den Verordnungsentwurf nicht begrenzt, vermutlich führen diese Verfahren zu massenhaft Falschmeldungen.
Kommunikationsdienste, die für Anbahnungsversuche missbraucht werden können (also alle), müssen das Alter ihrer Nutzer überprüfen	In der Praxis erfolgt eine Altersprüfung mittels vollständiger Identifizierung, so dass eine anonyme Kommunikation per E-Mail, Messenger usw. verboten wird. Auf den Schutz der Anonymität sind Whistleblower, Menschenrechtsverteidiger und marginalisierte Gruppen angewiesen.
Appstores müssen das Alter ihrer Nutzer überprüfen und Kindern/Jugendlichen die Installation von Apps verbieten, die für Anbahnungszwecke missbraucht werden können	Allen Kommunikationsdienste wie Messenger, Datingapps, Spiele können auch zur Anbahnung von Kontakten missbraucht werden und wären für Kinder/Jugendliche verboten. Und die Altersüberprüfung liefe auf eine Identifikationspflicht gegenüber Anbietern von Appstores heraus.
Internet-Zugangsanbieter können verpflichtet werden, den Zugang zu verbotenen und nicht zu löschenden Bildern und Videos außerhalb der EU mittels Netzsperren (URL-Sperren) zu blockieren	Netzsperren sind technisch unwirksam und leicht zu umgehen, außerdem bauen sie eine technische Zensurinfrastruktur auf

Protestieren

Protestiere jetzt bei der Bundesregierung, die im Rat mitentscheidet (z.B. Bundesjustizminister Buschmann, Bundesinnenministerin Faeser, Digital- und Verkehrsminister Wissing)! Teile ihnen höflich deine Bedenken gegen die Chatkontrolle mit (Argumente unten). Ein Anruf ist erfahrungsgemäß wirkungsvoller als E-Mails oder Briefe. Offiziell heißt die geplante Pflicht zur Nachrichten- und Chatkontrolle “Gesetz zur Verhinderung und Bekämpfung von Kindesmissbrauch”.

In Deutschland Petition gegen die Chatkontrolle von Campact unterschreiben.

In Österreich Petition gegen Chatkontrolle von #aufstehn unterschreiben.

Wir suchen Missbrauchsopfer für eine Klage gegen die Chatkontrolle: Die Chatkontrolle schadet Missbrauchsopfern, die auf vertrauliche Unterstützung angewiesen sind, besonders. Wir suchen Missbrauchsopfer für eine Klage gegen die Chatkontrolle – bitte melde dich für weitere Informationen.

Wie ist es soweit gekommen?

Die Europäische Kommission hat 2020 ein Gesetz auf den Weg gebracht, das es erlaubt, alle privaten Chats, Nachrichten und E-Mails verdachtslos und flächendeckend auf verbotene Darstellungen Minderjähriger und Anbahnungsversuche (Kontaktaufnahme zu Minderjährigen) zu durchsuchen. Das heißt: Facebook Messenger, Gmail & Co dürfen jede Kommunikation auf verdächtiges Text- und Bildmaterial scannen. Und zwar vollautomatisiert, durch den Einsatz von sog. ‘Künstlicher Intelligenz’ – ohne, dass ein Verdacht vorliegen muss. Meldet ein Algorithmus einen Verdachtsfall, werden alle Nachrichteninhalte und Kontaktdaten automatisch und ohne menschliche Prüfung an eine private Verteilstelle und weiter an Polizeibehörden weltweit geleitet. Die Betroffenen sollen nie davon erfahren.

Einige US-Dienste wie GMail und Outlook.com praktizieren diese automatische Nachrichten- und Chatkontrolle bereits. Verschlüsselte Nachrichten sind zurzeit noch ausgenommen.

Die EU-Kommission will mit einem zweiten Gesetz nun alle Anbieter zum Einsatz dieser Technologie verpflichten. Dabei zeigt eine im März 2021 durchgeführte Umfrage, dass die Mehrheit der EuropäerInnen den Einsatz der Chatkontrolle entschieden ablehnt. (Detaillierte Umfrageergebnisse hier)

Nach einem Urteil des Europäischen Gerichtshofs ist die dauerhafte und flächendeckende automatisierte Analyse privater Kommunikation grundrechtswidrig und verboten (Abs. 177). Die ehemalige EuGH-Richterin, Prof. Dr. Ninon Colneric, kommt in ihrem Rechtsgutachten (englisch) zu dem Ergebnis, dass die EU-Gesetzesvorhaben zur Chatkontrolle nicht im Einklang mit der Rechtsprechung des Europäischen Gerichtshofs stehen und die Grundrechte aller EU-Bürger*innen auf Achtung der Privatsphäre, auf Datenschutz und auf freie Meinungsäußerung verletzen. Auch der Wissenschaftliche Dienst des Bundestags stellt fest: “Die latente Dauergefahr der Begehung von (auch schwerwiegenden) Straftaten dürfte daher zur Rechtfertigung einer ständigen und umfassenden automatisierten Analyse wohl nicht genügen.” Der Europaabgeordnete Patrick Breyer hat aus diesem Grund das US-Unternehmen Meta wegen der freiwillig praktizierten Chatkontrolle verklagt.

Videos zur Chatkontrolle sind in dieser Playlist hinterlegt.

Was hat das Ganze mit dir zu tun?

Alle deine Chats und E-Mails werden automatisch auf verdächtige Inhalte durchsucht. Nichts ist mehr vertraulich oder geheim. Kein Gericht muss diese Durchsuchung anordnen. Sie passiert immer und automatisch.
Falls die Maschinenprüfung anschlägt, werden deine privaten Fotos und Videos von Mitarbeitern von internationalen Konzernen und Polizeibehörden angesehen. Auch intime Nacktbilder von dir werden dann von unbekannten Menschen auf der ganzen Welt gesichtet, in deren Hände sie nicht sicher sind.
Flirts und Sexting werden mitgelesen, denn Texterkennungsfilter schlagen besonders häufig auf solche intimen Chats an.
Du kannst unschuldig in den Verdacht geraten, Material von Kindesmissbrauch zu verschicken. Denn die Bilderkennungsfilter sind bekannt dafür, dass sie auch auf völlig legale Urlaubsfotos mit Kindern am Strand anschlagen. 86% aller maschinell gemeldeten Verdachtsfälle erweisen sich als unbegründet, so die Schweizer Bundespolizei. 40% aller in Deutschland eingeleiteten Ermittlungsverfahren richten sich gegen Minderjährige.

“Die Trefferquote ist dabei sehr tief: «2020 trafen bei uns rund 8000 Meldungen ein», sagt Fedpol-Sprecher Florian Näf. «Strafrechtlich relevant waren davon zirka 14 Prozent.»”
Quelle: Sonntagszeitung vom 14.03.2021, Seite 9

“Und auch hierzulande bekommen die Ermittler von Google jede Menge falsche Alarmmeldungen aufgetischt, ergaben die Recherchen der WELT AM SONNTAG schon 2021: Laut Experten des Landeskriminalamts NRW lag die Fehlerquote in der Vergangenheit bei etwa 40 Prozent.”
Quelle: Die Welt, 23.08.2022

Bei deiner nächsten Auslandsreise könnten dich große Probleme erwarten. Verdachtsmeldungen werden unkontrollierbar an Staaten wie die USA, wo es keinerlei Datenschutz gibt, weitergeleitet – mit unabsehbaren Konsequenzen.
Geheimdienste und Hacker können einfacher Zugriff auf deine privaten Chats und E-Mails erhalten. Denn sobald sichere Verschlüsselung für den Einsatz der Chatkontrolle ausgehebelt wird, ist die Tür offen zum massenhaften Auslesen deiner Nachrichten durch jeden, der die technischen Mittel dazu hat.
Das ist nur der Anfang. Ist die Technologie zur Nachrichten- und Chatkontrolle einmal etabliert, kann sie spielend leicht auch für andere Zwecke eingesetzt werden. Und wer garantiert, dass die Verdächtigungsmaschinen künftig nicht auch unsere Smartphones und Laptops kontrollieren?

Weitere Argumente gegen die Chatkontrolle

Was du gegen die Einführung der Chatkontrolle unternehmen kannst

Die Akteure: Berichterstatter und Schattenberichterstatter

	EVP	S&D	Renew	Die Grünen/ EFA	Die Linke	EKR	ID
LIBE	Javier Zarzalejos		Hilde Vautmans	Patrick Breyer
IMCO		Alex Aguis Saliba		Marcel Kolaja
CULT	Asim Ademov	Marcos Ros Sempere	Lucia Duris Nicolsonova	Marcel Koloja	Niyazi Kizilyürek	Elzbieta Kruk
BUDG
FEMM

Der Zeitplan

Das Europäische Parlament hat einen Gesetzesentwurf zur freiwilligen Chatkontrolle am 6. Juli 2021 angenommen.

Am 11. Mai 2022 hat die EU-Kommission einen zweiten Gesetzentwurf vorgelegt, der alle Anbieter von E-Mail-, Messaging- und Chatdiensten zur flächendeckenden und verdachtslosen Durchsuchung privater Nachrichten zwingen soll. Parlament und Rat werden über Änderungen beraten. Die Beratungen könnten noch 2022 abgeschlossen werden.

Anstehende Termine

11. Mai 2022: Gesetzesvorschlag der Kommission zum verpflichtenden Einsatz der Nachrichten- und Chatkontrolle

Was du tun kannst

Weiterführende Informationen und Argumente gegen die Nachrichten- und Chatkontrolle

Massenüberwachung ist der falsche Weg im Kampf gegen “Kinderpornografie” und sexuell ausbeutende Darstellungen

Das Scannen privater Nachrichten und Chats dämmt die Verbreitung ausbeutender Darstellungen nicht ein. Facebook beispielsweise praktiziert die Chatkontrolle seit Jahren und die Zahl der “Treffermeldungen” und automatisierten Strafanzeigen steigt von Jahr zu Jahr an auf zuletzt 22 Millionen im Jahr 2021.
Die verpflichtende Chatkontrolle trifft die Täter, die Kindesmissbrauch aufnehmen und weitergeben, nicht. Missbrauchstäter tauschen ihr Material nicht über kommerzielle E-Mail-, Messenger- oder Chatdienste, sondern organisieren sich über selbst betriebene geheime Foren, ohne Scanner zu installieren. Bilder und Videos laden Missbrauchstäter außerdem typischerweise als verschlüsselte Archive hoch und teilen nur die Links und Passwörter. Chatkontrolle-Algorithmen erkennen weder verschlüsselte Archive noch Links wieder.
Der richtige Weg wäre die Löschung bekannter Speicherorte ausbeutender Darstellungen im Netz. Weder Bundeskriminalamt noch Europol melden aber bekanntes Missbrauchsmaterial den Speicherdiensten.
Chatkontrolle schadet der Verfolgung von Kindesmissbrauch, weil sie Ermittler millionenfach mit Computermeldungen überlastet, die zum Großteil strafrechtlich irrelevant sind.

Nachrichten- und Chatkontrolle schadet allen

Alle Bürgerinnen und Bürger werden ohne Anlass unter Verdacht gestellt, Straftaten zu begehen. Die Text- und Bilderkennungsfilter werten unterschiedslos alle Nachrichten aus – unabhängig davon, ob ein konkreter Verdacht vorliegt oder nicht. Kein Richter muss dieser Durchsuchung zustimmen – ganz im Gegensatz zur analogen Welt, in der das Briefgeheimnis und damit die Vertraulichkeit der schriftlichen Kommunikation gewährleistet ist. Laut der Rechtsprechung des Europäischen Gerichtshofes ist eine permanente und verdachtslose automatische Auswertung privater Kommunikation grundrechtswidrig (Rechtssache C-511/18, Abs. 192). Die EU will die Gesetze trotzdem verabschieden. Sie vor Gericht zu stoppen kann Jahre dauern. Deswegen müssen die Gesetze bereits jetzt verhindert werden!
Die Vertraulichkeit privater Kommunikation wird nachhaltig zerstört. Nutzerinnen und Nutzer von Messenger-Diensten und E-Mail müssen davon ausgehen, dass alle ihre Nachrichten künftig in Echtzeit mitgelesen und ausgewertet werden. Sensible Bild- und Textinhalte können an unbekannte Personen weltweit vollautomatisiert weitergeleitet werden und in falsche Hände geraten. Es sind bereits Fälle bekannt geworden, in denen die Mitarbeiter von US-Behördenabgefangene Nacktbilder von Nutzer*innen in Umlauf gebracht haben. Auch Konzernmitarbeiter haben bereits Kinderdaten missbraucht.
Die Chatkontrolle zeigt Tausende zu Unrecht an. Nach Angaben der Schweizer Bundespolizei sind 90% der maschinell angezeigten Inhalte nicht strafbar, etwa Urlaubsfotos am Strand mit nackten Kindern.
Sicher verschlüsselte Kommunikation ist in Gefahr. Denn verschlüsselte Nachrichten können bisher nicht von den Algorithmen erfasst werden. Um die Chatkontrolle für jede Online-Kommunikation zu ermöglichen, müssen Hintertüren eingebaut werden. Sobald das geschieht, kann diese Sicherheitslücke von jeder und jedem, der oder die die technischen Mittel dazu hat, ausgenutzt werden. Private Kommunikation, aber auch Geschäftsgeheimnisse und sensible Regierungsinformationen, wären Angriffen ab dann schutzlos ausgesetzt. Sichere Verschlüsselung schützt Minderheiten, LGBTQI-Personen, Demokratieaktivisten, Journalisten usw.
Strafverfolgung wird privatisiert. Denn in Zukunft entscheiden die Algorithmen von Unternehmen wie Facebook, Google und Microsoft, welche Inhalte als verdächtig eingestuft werden und welche nicht. Dabei geht es nicht nur um Bilder, sondern auch bestimmte Wort-Kombinationen, die den Chatfiltern verdächtig erscheinen. Eine Transparenzpflicht über die Algorithmen ist nicht vorgesehen. In einem Rechtsstaat gehört die Ermittlung von Straftaten aber in die Hände unabhängiger Beamter unter gerichtlicher Aufsicht.
Die Chatkontrolle ist ein Dammbruch. Die Technologie zum automatischen Mitlesen privater online-Kommunikation ist gefährlich. Denn sie kann spielend leicht auch für andere Zwecke entfremdet werden. In autoritären Staaten werden solche Filter zur Verfolgung und Inhaftierung unliebsamer Regierungsgegner*innen verwendet. Für die Algorithmen macht es keinen Unterschied, ob nach Kindesmissbrauch, nach Urheberrechtsverstößen, Drogenmissbrauch oder unliebsamen Meinungsäußerungen gesucht wird. Ist die Technik erst einmal flächendeckend etabliert, gibt es kein Zurück.

Warum die Nachrichten- und Chatkontrolle Kindern und Missbrauchsopfern besonders schadet

Die EU-Kommission argumentiert, dass die Chatkontrolle die Strafverfolgung von Kindesmissbrauch erleichtern soll. Das ist jedoch selbst unter Betroffenen von Missbrauch umstritten. Tatsächlich fügt das Vorhaben Opfern sexuellen Missbrauchs sowie Kindern und Jugendlichen im Allgemeinen am meisten Schaden zu:

Schutzräume werden zerstört. Gerade Betroffene sexualisierter Gewalt sind auf die Möglichkeit angewiesen, sicher und vertraulich kommunizieren zu können. Räume zum sicheren Austausch untereinander oder etwa mit Therapeut*innen und Anwält*innen helfen Betroffenen bei der Verarbeitung und dem Umgang mit ihren Erfahrungen. Diese sicheren Räume werden ihnen nun durch die Einführung von Echtzeitüberwachung genommen. Das kann Opfer davon abhalten, Hilfe und Unterstützung zu suchen.
Selbst aufgenommene Nacktaufnahmen von Minderjährigen (Sexting) geraten in die Hände von Unternehmensmitarbeitern und Polizei, wo sie nicht hingehören und nicht sicher sind.
Jugendliche werden überproportional kriminalisiert. Laut Kriminalstatistik richten sich 54% aller eingeleiteten Ermittlungsverfahren wegen Kinderpornografie gegen Minderjährige.
Die Chatkontrollen dämmen den Austausch illegalen Materials nicht ein, sondern erschweren die Strafverfolgung von Kindesmissbrauch zusätzlich. Denn sie verdrängen kriminelle Täter in den Untergrund, wo sie kaum noch zu überwachen sind. Auch in offenen Kanälen haben die Kontrollen die Menge der weitergegebenen Darstellungen nicht eingedämmt, wie die von Jahr zu Jahr steigenden Zahlen an Verdachtsmeldungen belegen.

Alternativen zur Chatkontrolle

Ausbau der Kapazitäten der Strafverfolgung

Momentan sind die Kapazitäten der Strafverfolger so unzureichend, dass oft Monate und Jahre vergehen, bis Hinweisen nachgegangen und Daten ausgewertet sind. Bekanntes Material wird häufig lage weder gesichtet noch gelöscht. Die Hintermänner des Missbrauchs tauschen ihr Material nicht über Facebook und ähnliche Kanäle aus, sondern im Darknet. Um Produzenten von Missbrauchsmaterial aufzuspüren, muss verdeckte Polizeiarbeit stattfinden, statt die knappen Kapazitäten auf Massenverfahren zu verschwenden. Es ist außerdem unerlässlich, die verantwortlichen Ermittlungseinheiten personell und finanziell aufzustocken, damit gründliche und nachhaltige Ermittlungen über längere Zeiträume hinweg möglich sind. Auch müssen verlässliche Standards/Richtlinien für die polizeiliche Bearbeitung von Fällen sexuellen Missbrauchs erarbeitet und eingehalten werden.

Nicht nur Symptome bekämpfen, sondern die Ursache

Anstelle untauglicher Versuche Missbrauchsdarstellungen nachträglich wieder „einfangen“ zu wollen, muss alles daran gesetzt werden, dass solche Aufnahmen niemals entstehen und dass Missbrauch verhindert und gestoppt wird. Präventionskonzepte und Schulungen in Betreuungseinrichtungen spielen eine Schlüsselrolle, weil die allermeisten Missbrauchsfälle nie auch nur bekannt werden. Es fehlt auch den Opferschutzorganisationen meist eine stabile Finanzierung.

Schnelle und einfach verfügbare Hilfe für (potenzielle) Opfer

Verpflichtende Meldemechanismen bei Online-Diensten: Um die wirkungsvolle Prävention von Online-Missbrauch und insbesondere Grooming zu erreichen, sollten die Online-Dienste verpflichtet werden, Hinweis- und Meldefunktionen auf den Plattformen prominent zu platzieren. Wenn sich das Angebot an Jugendliche oder Kinder richtet und/oder von Jugendlichen und Kindern genutzt wird, sollten Anbieter auch verpflichtet sein, sie über die Risiken des Online-Groomings zu informieren.
Hotlines und Beratungsstellen: Viele nationale Hotlines, die sich mit Fällen von gemeldetem Missbrauchsmaterial befassen, haben mit finanziellen Problemen zu kämpfen. Hier muss unbedingt sicher gestellt werden, dass ausreichend Kapazität besteht, gemeldeten Fällen nachzugehen.

Verbesserung der Medienkompetenz

Die frühe Vermittlung von digitaler Kompetenz ist ein wesentlicher Bestandteil zum Schutz von Kindern und Jugendlichen online. Die Kinder selbst müssen über das Wissen und die Werkzeuge verfügen, sich im Internet sicher zu bewegen. Sie müssen darüber informiert werden, dass auch online Gefahren lauern und lernen, die Muster von Grooming zu erkennen und zu hinterfragen. Hierzu wären zum Beispiel gezielte Angebote in Schulen und Ausbildungsstätten sinnvoll, in denen geschultes Personal Wissen vermittelt und Diskussionen leitet.

Kinder müssen lernen, sich zu äußern, zu reagieren und Anzeige zu erstatten, selbst wenn der Missbrauch aus ihrem Vertrauensbereich kommt (d. h. von nahestehenden Personen oder anderen Personen, die sie kennen und denen sie vertrauen), was häufig der Fall ist. Sie müssen auch Zugang zu sicheren, zugänglichen und altersgerechten Kanälen haben, um Missbrauch ohne Angst melden zu können.

Dokumente zur Chatkontrolle

Technische Lösungen zur Durchleuchtung Ende-zu-Ende-verschlüsselter Kommunikation (September 2020)
Antworten der EU-Kommission auf Fragen der Parlamentsabgeordneten (28. September 2020)
Antworten der EU-Kommission auf Fragen der Parlamentsabgeordneten (27. Oktober 2020)
Gutachten des Wissenschaftlichen Dienstes des Europaparlaments (EPRS) (Englisch) (05. Februar 2021)
Rechtsgutachten zur Vereinbarkeit der Chatkontrolle mit der Rechtssprechung des EuGH (Englisch) (März 2021)
Antworten von Europol zu den Ermittlungsstatistiken in Bezug auf kinderpornografisches Material online (Englisch) (28. April 2021)
Gesetz zur freiwilligen Chatkontrolle (Englisch) (21. Mai 2021)
Antwort der EU Kommission auf einen parteiübergreifenden Brief gegen die geplante verpflichtende Chatkontrolle (9. März 2022)
Geleakte Stellungnahme der Kommission löst Bestürzung aus über Massenüberwachung der privaten Kommunikation (23. März 2022)
Verordnungsentwurf zur verpflichtenden Chatkontrolle (11. Mai 2022)

Kritische Stellungnahmen und Hintergrundartikel zur Nachrichtendurchleuchtung

Zivilgesellschaft und Gewerkschaftsverbände: “European Commission: uphold privacy, security and free expression by withdrawing new law” (8. Juni 2022)
Jeremy Malcolm: “How the War against Child Abuse Material was lost” (19. August 2020)

“Wir müssen bessere Lösungen für die Menschen schaffen, die sich dazu hingezogen fühlen.”

European Digital Rights (EDRi): “Is surveilling children really protecting them? Our concerns on the interim CSAM regulation” (24. September 2020)

“[D]die Verordnung überträgt privaten Unternehmen die Verantwortung für eine Angelegenheit, die von öffentlichen Behörden erledigt werden sollte.”

Civil Society Organisations: “Open Letter: Civil society views on defending privacy while preventing criminal acts” (27. Oktober 2020)

“Wir schlagen vor, dass die Kommission nicht-technischen Maßnahmen und der schnelleren Entfernung von anstößigen Websites den Vorrang vor clientseitiger Durchsuchung von Nachrichteninhalten einräumt“

Europäischer Datenschutzbeauftragter: “Opinion on the proposal for temporary derogations from Directive 2002/58/EC for the purpose of combatting child sexual abuse online” (10. November 2020)

“Die in dem Vorschlag vorgesehenen Maßnahmen würden einen Eingriff in die Grundrechte auf Achtung des Privatlebens und den Datenschutz aller Nutzer sehr beliebter elektronischer Kommunikationsdienste, wie Instant-Messaging-Plattformen und -Anwendungen, darstellen. Die Vertraulichkeit der Kommunikation ist ein Eckpfeiler der Grundrechte auf Achtung des Privat- und Familienlebens. Selbst freiwillige Maßnahmen privater Unternehmen stellen einen Eingriff in diese Rechte dar, wenn die Maßnahmen die Überwachung und Analyse des Inhalts der Kommunikation und die Verarbeitung personenbezogener Daten beinhalten.”

Gesellschaft für Informatik: Gegen Überwachung digitaler Kommunikation in Europa (08. November 2021)

“Mit der geplanten Regelung verstößt die EU-Kommission gegen die Grundrechte der Bürgerinnen und Bürger, die in der Europäische Grundrechtecharta (GRCh) garantiert werden: insbesondere Artikel 7 (Achtung des Privat- und Familienlebens), Artikel 8 (Schutz personenbezogener Daten) und Artikel 11 (Meinungsäußerungsfreiheit und Informationsfreiheit) garantieren grundsätzlich vertrauliche Kommunikation. Eine derartige Überwachung legt auch die verschlüsselte und unverschlüsselte Kommunikation von Unternehmen, Behörden offen – ebenso von Medienschaffenden und ihren Informantinnen und Informanten.”

Alexander Hanff (Victim of Child Abuse and Privacy Activist): “Why I don’t support privacy invasive measures to tackle child abuse.” (11. November 2020)

“Als Missbrauchsüberlebender bin ich (und Millionen anderer Überlebender auf der ganzen Welt) auf vertrauliche Kommunikation angewiesen, um Unterstützung zu finden und die Verbrechen gegen uns zu melden – unsere Rechte auf Privatsphäre und Vertraulichkeit zu beschneiden, bedeutet, uns weiteren Verletzungen auszusetzen, und offen gesagt, haben wir genug gelitten. […] es spielt keine Rolle, welche Schritte wir unternehmen, um Täter zu finden, es spielt keine Rolle, wie viele Freiheiten oder verfassungsmäßige Rechte wir zerstören, um diese Agenda zu erfüllen – es wird Kinder NICHT vor Missbrauch schützen, es wird den Missbrauch einfach weiter in den Untergrund treiben, es immer schwieriger machen, ihn zu entdecken und letztendlich dazu führen, dass mehr Kinder als Endergebnis missbraucht werden.”

AccessNow: “The fundamental rights concerns at the heart of new EU online content rules” (19. November 2020)

“In der Praxis bedeutet dies, dass private Unternehmen mit einer Angelegenheit betraut würden, die eigentlich von öffentlichen Behörden behandelt werden sollte”

Bundesrechtsanwaltskammer: “Stellungnahme zur Übergangsverordnung gegen Kindesmissbrauch im Internet” (24. November 2020)

“Sowohl hinsichtlich des Mandatsgeheimnisses als auch im Hinblick auf [die Rechte der Anwälte] erscheinen die mit den Vorschlägen der Kommission für Anwältinnen und Anwälte und […] für deren Mandantschaft einhergehenden Risiken besonders hoch. Denn die Bewertung von mit Kindesmissbrauch in Zusammenhang stehenden Sachverhalten gehört zum Aufgabenbereich der Anwaltschaft. Dementsprechend häufig wird die zwischen Anwälten und Mandanten ausgetauschten Kommunikation entsprechende Schlagwörter beinhalten. […] Nach den Vorschlägen der Kommission [steht] zu befürchten, dass es in allen genannten Konstellationen aufgrund der unvermeidbaren Verwendung einschlägiger Begrifflichkeiten regelmäßig zu einem Bruch der Vertraulichkeit kommen wird. Ein solches Ergebnis wäre aus Gründen der Rechtsstaatlichkeit sowie zum Schutze der Rechte von Mandanten und Rechtsanwälten schlechterdings inakzeptabel. Die Vertraulichkeit der Kommunikation zwischen Anwälten und Mandanten muss in jedem Fall gewährleistet bleiben. Sie ist nicht verhandelbar.“

Alexander Hanff (Victim of Child Abuse and Privacy Activist): “EU Parliament are about to pass a derogation which will result in the total surveillance of over 500M Europeans” (4. Dezember 2020)

“Ich hatte keine vertraulichen Kommunikationsmittel, als ich vergewaltigt wurde; meine gesamte Kommunikation wurde von meinen Tätern überwacht – es gab nichts, was ich tun konnte, es gab kein Vertrauen. […] Ich kann nicht umhin, mich zu fragen, wie viel anders mein Leben verlaufen wäre, wenn ich Zugang zu diesen modernen Technologien gehabt hätte. [Die geplante Abstimmung über die e-Privacy-Ausnahmeregelung] wird Missbrauch in den Untergrund treiben, was es viel schwieriger macht, ihn zu entdecken; es wird Selbsthilfegruppen daran hindern, Missbrauchsopfern zu helfen – ES WIRD LEBEN ZERSTÖREN.”

Bundesdatenschutzbeauftragter: „BfDI kritisiert versäumte Umsetzung von EU Richtlinie“ (17. Dezember 2020)

„Eine flächendeckende und anlasslose Überwachung von digitalen Kommunikationskanälen ist weder zielführend noch erforderlich, um Online-Kindesmissbrauch aufzuspüren. Die Bekämpfung von sexualisierter Gewalt an Kindern muss mit zielgerichteten und konkreteren Maßnahmen angegangen werden. Die Ermittlungsarbeit ist Aufgabe der Strafverfolgungsbehörden und darf nicht auf private Betreiber von Messenger-Diensten ausgelagert werden.“

European Digital Rights (EDRi): Wiretapping children’s private communications: Four sets of fundamental rights problems for children (and everyone else) (Englisch) (10. Februar 2021)

“Wie bei anderen Arten des Scannens von Inhalten (ob auf Plattformen wie YouTube oder in der privaten Kommunikation) schafft das ständige Scannen von allem und jedem ein enormes Risiko, zu einer Massenüberwachung zu führen, indem es den Test der Notwendigkeit und Verhältnismäßigkeit nicht besteht. Darüber hinaus entsteht ein Dammbruch, bei dem wir mit dem Scannen für weniger schädliche Fälle (Urheberrecht) beginnen und dann zu härteren Themen übergehen (sexueller Kindesmissbrauch, Terrorismus) und bevor wir wissen, was passiert ist, wird das ständige Scannen von allem zum neuen Normalzustand.”

Deutscher Anwaltsverein (DAV): “Anlassloses Inhalte-Scannen ist unverhältnismäßig” (8. März 2021)

“Der DAV spricht sich ausdrücklich dafür aus, die Vorbereitung und Begehung von sexuellem Kindesmissbrauch und deren Verbreitung über das Internet durch wirksame Maßnahmen auf europäischer Ebene zu bekämpfen. Die von der Kommission vorgeschlagene Übergangs-VO würde jedoch eklatant unverhältnismäßige Eingriffe in die Freiheitsgrundrechte von redlichen Nutzern internet-basierter Kommunikationsdienste ermöglichen. Darüber hinaus lässt der Verordnungsvorschlag hinreichende prozessuale Absicherungen für Betroffene vermissen. Das Gesetzesvorhaben ist daher insgesamt abzulehnen.”

Schreiben der Präsidentin des Deutschen Anwaltvereins (DAV) und des Präsidents der Bundesrechtsanwaltskammer (BRAK)(8. März 2021)

“Positive Treffer mit nachfolgender Offenbarung gegenüber staatlichen und nichtstaatlichen Stellen würden neben Beschuldigten vor allem die Opfer sexuellen Kindesmissbrauchs zu befürchten haben. Dabei ist die absolute Vertraulichkeit der anwaltlichen Beratung gerade in diesen häufig mit Scham behafteten Sachverhalten im Interesse der Opfer unabdingbar. Die Entscheidungshoheit darüber, welche Mandatsinhalte gegenüber wem offenbart werden dürfen, muss gerade in diesen Fällen bei der Mandantschaft verbleiben. Es stünde sonst zu befürchten, dass Opfer sexuellen Kindesmissbrauchs keine anwaltliche Beratung in Anspruch nehmen.”

Strategische Autonomie in Gefahr: Europäische Tech-Unternehmen warnen vor einer Absenkung des Datenschutzniveaus in der EU (Englisch) (15. April 2021)

“Im Zuge der Initiative “Fighting child sexual abuse: detection, removal, and reporting of illegal content” plant die Europäische Union die Abschaffung des digitalen Briefgeheimnisses. Um illegale Inhalte automatisch zu erkennen, sollen künftig alle privaten Chat-Nachrichten durchleuchtet werden. Dies soll auch für Inhalte gelten, die bisher mit einer starken Ende-zu-Ende-Verschlüsselung geschützt sind. Sollte diese Initiative nach dem jetzigen Plan umgesetzt werden, würde sie unseren europäischen Idealen und den unbestreitbaren Grundlagen unserer Demokratie, nämlich der Meinungsfreiheit und dem Schutz der Privatsphäre, enorm schaden […]. Die Initiative würde auch der strategischen Autonomie Europas und damit den in der EU ansässigen Unternehmen schwer schaden.”

Auszug aus “Welt.de: Kriminalscanner auf jedem Smartphone – EU plant den großen Überwachungsangriff“ (4. November 2021)

Experten aus Polizei und Wissenschaft sehen das Vorhaben der EU eher kritisch: Sie fürchten einerseits viele falsche Anzeigen durch die Scanner, andererseits eine Alibi-Funktion des Gesetzes. Daniel Kretzschmar, Sprecher des Bundesvorstandes des Bundes Deutscher Kriminalbeamter, sagt, dass seinem Verband die Bekämpfung von Kindesmissbrauchsdarstellungen “enorm wichtig” ist. Trotzdem ist er skeptisch: Es könnten leicht Unverdächtige in den Fokus der Ermittlungen geraten. Gleichzeitig bedeute eine Privatisierung dieser Initiativermittlungen eine “Abhängigkeit der Strafverfolgung von diesen Unternehmen, die eigentlich staatliche und hoheitliche Aufgabe ist.”
Auch Thomas-Gabriel Rüdiger, Leiter des Instituts für Cyberkriminologie an der Hochschule der Polizei in Brandenburg, sieht das EU-Vorhaben eher kritisch. “Am Ende wird es vermutlich vor allem wieder Minderjährige treffen”, sagte er WELT. Rüdiger verweist auf Zahlen aus der Kriminalitätsstatistik, wonach 43 Prozent der erfassten Straftaten im Bereich kinderpornographische Inhalte auf Kinder und Jugendliche selbst zurückgehen würden. Das ist etwa beim sogenannten “Sexting” und der “Schulhof-Pornografie” der Fall, wenn sich 13- und 14-Jährige anzügliche Bilder schicken.
Echte Täter, die man eigentlich erwischen wolle, würde man vermutlich eher nicht fassen. “Die sind sich nämlich ihrer Taten bewusst und weichen auf Alternativen aus. Vermutlich werden dann wieder vermehrt USB-Sticks und andere Datenträger genutzt”, so Rüdiger weiter.

European Digital Rights (EDRi): Prinzipien von EDRi für Ausnahmen von der Datenschutzrichtlinie für elektronische Kommunikation zum Zweck der Entdeckung von online verbreiteten Darstellungen des sexuellen Missbrauchs von Kindern (CSAM) (9. Februar 2022)

“Die automatische Durchsuchung der privaten Kommunikation eines jeden Menschen zu jeder Zeit stellt einen unverhältnismäßigen Eingriff in den Kern des Grundrechts auf Privatsphäre dar. Sie kann eine Form der undemokratischen Massenüberwachung darstellen und schwerwiegende und ungerechtfertigte Auswirkungen auch auf viele andere Grundrechte und Freiheiten haben.”

European Digital Rights (EDRi): Geleakte Stellungnahme der Kommission löst Bestürzung aus über Massenüberwachung der privaten Kommunikation (23. Februar 2022)

“Im Vorfeld des offiziellen Gesetzentwurfs im Laufe dieses Jahres fordern wir alle EU-Kommissare auf, sich an ihre Verantwortung für die Menschenrechte zu erinnern und sicherzustellen, dass kein Vorschlag vorgelegt wird, der das Recht der Menschen auf Privatsphäre und den Grundpfeiler der demokratischen Gesellschaft in Frage stellt.”

Council of European Professional Informatics Societies (CEPIS): Europe has a right to secure communication and effective encryption (März 2022)

“In the view of our experts, academics and IT professionals, all efforts to intercept and extensively monitor chat communication via client site scanning has a tremendous negative impact on the IT security of millions of European internet users and businesses. Therefore, a European right to secure communication and effective encryption for all must become a standard.”

Chaos Computer Club: EU-Kommission will alle Chatnachrichten durchleuchten (9. Mai 2022)

“Das massenhafte Scannen greift nicht nur vertrauliche Kommunikation an ihren Grundfesten an, sondern wäre obendrein unwirksam: Kriminelle nutzen bereits heute Verbreitungswege, die von diesen Scans nicht betroffen wären und werden auch in Zukunft den Scans leicht entgehen:
Die Täter*innen nutzen statt den von der Kommission ins Visier genommenen Messengern öffentliche Hoster – nicht zuletzt, weil Messenger zum Tauschen großer Dateisammlungen völlig ungeeignet sind. Vor dem Tausch verschlüsseln sie die Daten zudem zusätzlich.
Allein schon deshalb wird die geplante Überwachung die Weiterverbreitung von Missbrauchsabbildungen nicht verhindern.”
(…)
“Die Chatkontrolle ist als fundamental fehlgeleitete Technologie grundsätzlich abzulehnen.”

Kinderschutzbund gegen anlasslose Scans verschlüsselter Nachrichten (8. Mai 2022)

Es brauche „vor allem den Ausbau der personellen und technischen Ressourcen bei den Strafverfolgungsbehörden, mehr sichtbare Präsenz von Polizei im Netz, mehr staatliche Meldestellen sowie die Entkriminalisierung von der Verbreitung selbstgenerierten Materials unter Jugendlichen“.

Deutsche Strafverfolger kritisieren die EU-Pläne hinter vorgehaltener Hand (12. Mai 2022)

die aktuellen Pläne würden nicht unbedingt dazu führen, mehr Pädokriminelle festzunehmen, erläutern mehrere langjährige Ermittler. Einer der Gründe: Zwar würde das Gesetz zu mehr Meldungen von Missbrauchsbildern führen, aber diese führten nicht automatisch zu mehr Ermittlungserfolgen. Die Strafverfolger hätten heute schon genug Datenpunkte. Das Problem sei, all die Fälle mit den vorhandenen Ressourcen abzuarbeiten und die besonders gefährlichen Täter zu finden. »Wir haben heute schon ein Heuhaufen-Problem. Die Masse der neuen Meldungen nach den EU-Plänen droht unsere Strafverfolgung eher lahmzulegen«, beschreibt es ein Ermittler.

Rede darüber! Erzähle anderen von den Gefahren der Chatkontrolle. Dafür kannst du hier auf Sharepics und Videos zugreifen. Du kannst natürlich auch selbst Bilder und Videos erstellen.
Schaffe Aufmerksamkeit in den Sozialen Medien! Für einen Beispieltweet kannst du rechts auf die Schaltfläche klicken. Nutze dafür die Hashtags #Chatkontrolle und #digitalesBriefgeheimnis
Verantwortliche anschreiben! Protestiere bei deiner Regierung (z.B. Bundesjustizminister, Bundesinnenministerin)! Teile ihnen höflich deine Bedenken gegen die Chatkontrolle mit. Ein Anruf ist erfahrungsgemäß wirkungsvoller als E-Mails oder Briefe. Offiziell heißt die geplante Pflicht zur Nachrichten- und Chatkontrolle “Gesetz gegen Kindesmissbrauch im Netz” (“legislation to effectively tackle child sexual abuse online”). Kontaktdaten oben auf dieser Seite.
Medienberichte anstoßen! Journalistinnen und Journalisten haben die Nachrichten- und Chatkontrolle bisher kaum aufgegriffen. Wende dich direkt an Medienunternehmen und bitte sie, darüber zu schreiben – online und offline.
Sprich mit deinen Anbietern! Vermeide Gmail, Facebook Messenger, outlook.com und die Chatfunktion der X-Box, wo schon heute verdachtslos durchleuchtet wird. Frage deine E-Mail-, Messenger- und Chatanbieter, ob sie private Nachrichten verdachtslos nach verbotenen Inhalten durchsuchen oder dies planen.