Die kolloquial als Chatkontrolle bezeichnete „Verordnung des Europäischen Parlaments und des Rates zur Festlegung von Vorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern“ ist nach mehr als drei Jahren des Verhandelns weiterhin nicht beschlossen worden. Dieses begrüßenswerte Ziel soll mit verschiedenen Maßnahmen verfolgt werden, wie etwa Entfernungsanordnungen für bekanntes Material, aber auch, was besondere Aufmerksamkeit erfuhr, mit dem Scannen von interpersonellen Nachrichten. Die Chatkontrolle in ihrer ursprünglichen Form von 20221 sollte Kommunikationsanbieter verpflichten, die Daten ihrer Nutzerinnen und Nutzer nach missbräuchlichem Material von Kindern zu durchsuchen – sowohl Fotos als auch Textnachrichten wären davon betroffen gewesen. 

Seit dem ersten Gesetzesvorschlag zur Chatkontrolle gab es verschiedene Abwandlungen, letztlich konnte aber keine die Mehrheit der Mitgliedsstaaten gewinnen. Im Licht der weiter andauernden Bemühungen um die Realisierung lohnt es sich, die Schwierigkeiten einer möglichen Umsetzung genauer zu betrachten. 

Ob nun, wie zunächst vorgesehen, verpflichtend Textnachrichten und Bilder oder, wie im derzeitigen Vorschlag, nur ein freiwilliges Scannen normiert werden sollte – die Frage nach der technischen Umsetzung bleibt eine Herausforderung. Auch rechtlich haben die Maßnahmen Hürden zu nehmen, insbesondere soweit sie sich ohne konkreten Anlass gegen alle Nutzerinnen und Nutzer richten. Zudem könnten solche Maßnahmen bei der allgemeinen Bevölkerung unpopulär sein.

Technische Umsetzung

Insbesondere im Rahmen verschlüsselter Kommunikation ist bis heute unklar, in welcher Form das Scannen der Kommunikationsinhalte technisch umsetzbar ist. Das Grundproblem dabei ist ebenso einfach beschrieben wie schwer aufzulösen: Damit verschlüsselte Inhalte überhaupt überprüft werden können, müsste die Verschlüsselung an mindestens einer Stelle aufgehoben oder umgangen werden. In diesem Moment sind die Inhalte jedoch auch gefährdeter gegenüber fremden, nicht staatlichen Angriffen. Es existiert die Möglichkeit, zeitlich vor der Verschlüsselung „on device“, also bereits auf dem Endgerät, vor einem Absenden auf die Daten zuzugreifen. In solch einem Szenario ist jedoch je nach System fraglich, inwiefern dies im Hinblick auf den benötigten Speicherplatz technisch überhaupt möglich wäre.2 Weiter besteht die Gefahr, dass sich dem Scannen hier auch einfacher entzogen werden kann.3 Das lässt befürchten, dass die Belastung aller Nutzerinnen und Nutzer im Verhältnis groß ist, während die von den Strafverfolgungsbehörden gesuchten Personen das Scannen umgehen.  

Verschiedene technische Lösungsansätze wurden auch in einem geleakten Diskussionspapier von der Europäischen Kommission in Erwägung gezogen, ohne sich schließlich auf einen geeigneten Ansatz festlegen zu können: Im Vergleich mit der Baseline des Überwachens von nicht verschlüsselter Kommunikation findet sich keine Methode, die gleichermaßen effektiv, umsetzbar und sicher ist.4 

Das Folgeproblem ergibt sich aus dem Scanning der Inhalte, wenn der Zugriff auf sie erst einmal gelungen ist. Das Scannen von Fotos und Textnachrichten beinhaltet jeweils unterschiedliche Anforderungen. 

Scannen von Textnachrichten

Das Scannen von Textnachrichten sollte ursprünglich eine neue Möglichkeit sein, um komplexeres missbräuchliches Verhalten gegenüber Kindern, zum Beispiel in Form von „Grooming“, also der gezielten Kontaktaufnahme Erwachsener mit Minderjährigen in Missbrauchsabsicht, aufzudecken und direkt an die Strafverfolgung weiterzuleiten. Für die Umsetzung ist eine KI-Anwendung von der EU angedacht gewesen und vermutlich auch unumgänglich. Dabei ist allerdings die im Vergleich zu Bildern noch viel stärkere Kontextabhängigkeit von Textnachrichten eine große Herausforderung für KI-Modelle5.  

Nach Schätzungen dürfte ein effektives System zum Erkennen von missbräuchlichem Inhalt in Textnachrichten höchstens eine Rate von falsch-positiven Treffern von etwa 0,001 Prozent aufweisen.6 Das würde bei den täglich in der EU versendeten zehn Milliarden Nachrichten um die 100.000 Nachrichten betreffen, die folglich von menschlichem Personal überprüft werden müssten. Um überhaupt an diesen Punkt zu gelangen, müsste allerdings auch zunächst ein solches System entwickelt worden sein, wovon auch die EU nicht ausgeht – sie rechnete im Fall des Groomings 2022 intern mit einem Wert zwischen 5 und 10 Prozent7. In einem aktuellen Bericht über das freiwillige Scannen von Anbietern in 2023 und 2024 wird darauf hingewiesen, dass mit Methoden des maschinellen Lernens eine Korrektklassifikationsrate im besten Fall von bis zu 92 Prozent erreicht werden könne.8 Als Folge würden also weiterhin 8 Prozent aller Fälle falsch klassifiziert werden. Auch unter der Annahme, dass nur Chatvorgänge mit Minderjährigen auf Grooming gescannt werden, ist mit einer erheblichen Anzahl an falsch-positiven Treffern zu rechnen. Wie diese Menge an Meldungen, möglicherweise bis in die Hunderte Millionen, verarbeitet werden könnte, erscheint fraglich. Es würde außerdem bedeuten, dass eine große Zahl an privaten, nicht strafbaren Chats möglicherweise von Moderatoren gelesen würden und dieses Wissen zu einem Chilling-Effekt, einer Art der Selbstzensur aufgrund des Wissens um die Überwachung, führen könnte9. 

Scannen von Fotos

Bei Fotos stellt sich die Frage, ob die Abbildungen mit bekannten Darstellungen von missbräuchlichem Material abgeglichen werden sollen oder ob das System auch darauf ausgelegt sein soll, bislang unbekannte Bilder zu erkennen. 

Während Ersteres aktuell bereits auf freiwilliger Basis von Social-Media-Konzernen durchgeführt wird und im Jahr 2024 bereits zu mehr als 19 Millionen Meldungen geführt hat10, ist die Suche nach neuem missbräuchlichem Material zum aktuellen technischen Stand sehr herausfordernd. Wie soll etwa automatisiert zwischen einem Urlaubsfoto von einem Kind am Strand in einer Familiengruppe und missbräuchlichen Inhalten unterschieden werden? Hier müsste unter anderem auf Künstliche Intelligenz zurückgegriffen werden, allerdings mit der absehbaren Konsequenz, dass die Zahl falsch-positiver Treffer entsprechend steigt.11 Gerade die Alterseinschätzung, die selbst Menschen oft schwerfällt, birgt hier erhebliches Fehlerrisiko: Wird etwa das Alter von Teenagern falsch eingeschätzt, kann legale Kommunikation unter Jugendlichen fälschlich als missbräuchlich klassifiziert werden.12 

Rechtliche Einordnung

Neben der technischen Umsetzbarkeit stellt sich zugleich die Frage, wie eine solche Maßnahme rechtlich einzuordnen ist. Nach Einschätzung der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit verstieße ein flächendeckendes Scannen von Privatnachrichten gegen Grundrechte der europäischen Grundrechtecharta13, des Grundgesetzes und gegen den Verhältnismäßigkeitsgrundsatz.14 Betroffen wären hier zum einen das Recht auf die Achtung des Privat- und Familienlebens (Art. 7 der EU-Grundrechtecharta), das Recht auf Datenschutz (Art. 8 der EU-Grundrechtecharta), das Fernmeldegeheimnis (Art. 10 Abs. 1 des Grundgesetzes) sowie das IT-System-Grundrecht (als Ausprägung des allgemeinen Persönlichkeitsrechts, Art. 2 Abs. 1 i. V. m. Art. 1 Abs. 1 Grundgesetz). Als Folge eines Scannens von Privatnachrichten wird auch über Chilling-Effekte eine Auswirkung auf die Informations- und Meinungsfreiheit befürchtet15 (Art. 11 der EU-Grundrechtecharta).  

Die Chatkontrolle wird folglich von verschiedenen Stimmen aus der Rechtswissenschaft als nicht grundrechtskonform eingeschätzt.16 

Akzeptanz

Neben der technischen Realisierbarkeit und der rechtlichen Einordnung ist die gesellschaftliche Akzeptanz staatlicher Eingriffe in die Privatsphäre der Bürgerinnen und Bürger von zentraler Bedeutung. Denn die Akzeptanz staatlichen Handelns, gerade in grundrechtssensiblen Bereichen, ist aus politischer Perspektive von nicht zu unterschätzender Bedeutung. 

Zur gesellschaftlichen Akzeptanz gegenüber der Chatkontrolle gibt es unseres Wissens noch keine Forschungsergebnisse. Es gibt allerdings Forschung zur Akzeptanz anderer staatlicher Maßnahmen zur Überwachung von Kommunikation. Dies erlaubt es, fundiert Vermutungen über die gesellschaftliche Akzeptanz der Chatkontrolle anzustellen.  

Verschiedene Studien zeigen, dass generelle und anlasslose Kontrollen des Kommunikationsverhaltens, die sich gegen die gesamte Bevölkerung richten, gesellschaftlich deutlich weniger akzeptiert sind als gezielte Maßnahmen, die sich gegen einzelne Verdächtige richten.17 So zeigen repräsentative Umfragen in Deutschland beispielsweise, dass die Vorratsdatenspeicherung, also die generelle Speicherung von Telefon- und Internetverbindungsdaten durch Telekommunikationsanbieter, gesellschaftlich deutlich stärker abgelehnt wird als die unbemerkte Onlinedurchsuchung persönlicher Computer verdächtiger Personen. 18  

Daher kann davon ausgegangen werden, dass eine anlasslose und massenhafte Chatkontrolle ebenfalls auf geringe gesellschaftliche Akzeptanz stoßen würde. Wie groß der tatsächliche gesellschaftliche Widerstand ausfallen würde, hängt allerdings auch stark von medialer Berichterstattung und öffentlicher Aufmerksamkeit für das Thema ab. 

Ausblick

Trotz mehrerer Anläufe scheiterte die Chatkontrolle bisher immer wieder an einer Einigung im Rat der EU. Nun konnte sich der Ausschuss der Ständigen Vertreter (Unterorgan des Ministerrats) auf einen Entwurfsvorschlag einigen. Das bedeutet, dass der Vorschlag im Trilogverfahren verhandelt werden kann (informelles Verfahren der Einigung über Gesetzesvorhaben zwischen Parlament, Rat und Kommission). Dessen Ergebnis bleibt abzuwarten.  

Der nun diskutierte Vorschlag der Ratspräsidentschaft19 unterscheidet sich bezüglich der Kritikpunkte deutlich von der ursprünglichen Version. Markantester Unterschied ist, dass eine Verpflichtung zum automatischen Scannen ausgeschlossen ist. Das Scannen von Textnachrichten und Bildern bleibt aber auf freiwilliger Basis unter Bezug auf die Verordnung (EU) 2021/1232 möglich und kann als risikoreduzierende Maßnahme berücksichtigt werden. Damit werden für Anbieter Anreize gesetzt, das Scannen weiterhin anzuwenden – wenn auch auf freiwilliger Basis. Außerdem beinhaltet der Vorschlag eine Klausel, welche der Kommission die Prüfung der Notwendigkeit und Durchführbarkeit einer zukünftigen Aufdeckungsanordnung aufträgt. 

Während das Abschiednehmen von verpflichtendem Scannen als eine Reaktion auf die Kritik aufgefasst werden kann, ist auch das freiwillige Scannen nicht unproblematisch.20 

Stand: 18.12.2025

ForschungsProjekt

Staatliche Eingriffe in private Endgeräte zur Strafverfolgung (SEpES)

Literatur

1 Europäische Kommission. Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung von Vorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern. 11.05.2022, https://eur-lex.europa.eu/legal-content/DE/ALL/?uri=CELEX:52022PC0209 [16.12.2025].

2 Bäcker, M./Buermeyer, U. Mein Spion ist immer bei mir: Anmerkungen zu der geplanten Inpflichtnahme von Internet-Diensteanbietern zur Bekämpfung sexualisierter Gewalt gegen Kinder („Chatkontrolle“). VerfBlog, 11.08.2022, https://verfassungsblog.de/spion-bei-mir/ [16.12.2025], DOI: 10.17176/20220811-181838-0

3 Internet Society. Client-Side Scanning: What It Is and Why It Threatens Trustworthy, Private Communications. 08.2022, https://www.internetsociety.org/wp-content/uploads/2020/03/2022-Client-S... [25.11.2025].

4 Geleaktes Dokument der Europäischen Kommission, abzurufen unter https://www.politico.eu/wp-content/uploads/2020/09/SKM_C45820090717470-1... [25.11.2025].

5 FZI. FZI Position on Chat Control. Kalbfleisch, D./Rill, M./Vugrinic, A. (Hg.), 27.9.2024, https://www.fzi.de/wp-content/uploads/2024/05/FZI_Position_on_Chat_Contr... [25.11.2025].

6 Anderson, R. Chat Control or Child Protection? 11.10.2022, DOI: 10.48550/arXiv.2210.08958

7 Meineck, S./Reuter, M./Meister, A. Geleakter Bericht: EU-Kommission nimmt hohe Fehlerquoten bei Chatkontrolle in Kauf. netzpolitik.org, 29.06.2022, https://netzpolitik.org/2022/geleakter-bericht-eu-kommission-nimmt-hohe-... [25.11.2025].

8 Europäische Kommission. REPORT FROM THE COMMISSION TO THE EUROPEAN PARLIAMENT AND THE COUNCIL on the implementation of Regulation (EU) 2021/1232 of the European Parliament and of the Council of 14 July 2021 on a temporary derogation from certain provisions of Directive 2002/58/EC as regards the use of technologies by providers of number-independent interpersonal communications services for the processing of personal and other data for the purpose of combating online child sexual abuse. 27.11.2025, https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:52025DC0740 [12.01.2025]. Zitiert: Leiva-Bianchi, M./Castillo, N./Astudillo, C. A./Ahumada-Méndez, F. Effectiveness of machine learning methods in detecting grooming: a systematic meta-analytic review. In: Scientific Reports 15, Article number: 9008, 15.03.2025, https://doi.org/10.1038/s41598-024-83003-4

9 Eickstädt, E. Stellungnahme an den Ausschuss für Digitales zur CSA-Verordnung („Chatkontrolle“). 23.02.2023, https://www.bundestag.de/resource/blob/935528/Stellungnahme-Eickstaedt.pdf [16.12.2025].

10 Office of Justice Programs – U.S. Department of Justice. CY 2024 Report to the Committees on Appropriations National Center for Missing and Exploited Children (NCMEC) Transparency. 2025, https://www.missingkids.org/content/dam/missingkids/pdfs/cybertiplinedat... [25.11.2025].

11 Bäcker, M./Buermeyer, U. Mein Spion ist immer bei mir: Anmerkungen zu der geplanten Inpflichtnahme von Internet-Diensteanbietern zur Bekämpfung sexualisierter Gewalt gegen Kinder („Chatkontrolle“). VerfBlog, 11.08.2022, https://verfassungsblog.de/spion-bei-mir/ [16.12.2025], DOI: 10.17176/20220811-181838-0

12 FZI. FZI Position on Chat Control. Kalbfleisch, D./Rill, M./Vugrinic, A. (Hg.), 27.9.2024, https://www.fzi.de/wp-content/uploads/2024/05/FZI_Position_on_Chat_Contr... [25.11.2025].

13 Die Einschätzung bezüglich des Verstoßes gegen die Grundrechtecharta wird auch von der EDPB geteilt: European Data Protection Board; European Data Protection Supervisor. Joint Opinion on the Proposal for a Regulation of the European Parliament and of the Council laying down rules to prevent and combat child sexual abuse. https://www.edpb.europa.eu/system/files/2022-07/edpb_edps_jointopinion_2... [15.12.2025].

14 BfDI. Die geplante EU-Verordnung zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern – die sogenannte „Chatkontrolle“. bfdi.bund.de, https://www.bfdi.bund.de/DE/Fachthemen/Inhalte/Telemedien/CSA_Verordnung... [25.11.2025].

15 Tuchtfeld, E. Vielen Dank, Ihre Post ist unbedenklich: Wie die Europäische Kommission das digitale Briefgeheimnis abschaffen möchte. VerfBlog, 25.5.2022, https://verfassungsblog.de/vielen-dank-ihre-post-ist-unbedenklich/ [16.12.2025], DOI: 10.17176/20220525-182426-0

16 m. w. N.: Bering, J./Windwehr, S. Digitale Silver Bullets: Grundrechtswidrige Regulierungsvorhaben statt wirksamer Kinder- und Jugendschutz. VerfBlog, 30.08.2024, https://verfassungsblog.de/chat-kontrolle-effektiver-kinder-und-jugendsc... [16.12.2025], DOI: 10.59704/56dd28505f6a47b2; auch Colneric, N. Legal opinion commissioned by MEP Patrick Breyer, The Greens/EFA Group in the European Parliament. 03.2021, https://www.patrick-breyer.de/wp-content/uploads/2021/03/Legal-Opinion-S... [25.11.2025]; a. A. hingegen Schwarz, A. Vorratsdatenspeicherung – Die Odyssee des Kinderschutzes. In: Kriminalistik, 16.12.2022, 685.

17 Ziller, C./Helbling, M. Public support for state surveillance. In: European Journal of Political Research 60, 994. Antoine, L. Costs, Inconvenience, or Civil Rights? Investigating Determinants of Public Support for Surveillance. In: Surveillance & Society 21, 409. Jäger, F. Security vs. civil liberties: How citizens cope with threat, restriction, and ideology. In: Frontiers in Political Science 4, 1006711.

18 Lüdemann, C./Schlepper, C. Der überwachte Bürger zwischen Apathie und Protest – Eine empirische Studie zum Widerstand gegen staatliche Kontrolle. In: Zurawski, N. (Hg.). Überwachungspraxen. Praktiken der Überwachung und Kontrolle. (Leverkusen: Budrich UniPress, 2011), 119–138. Trüdinger, E.-M./Steckermeier, L. Trusting and controlling? Political trust, information and acceptance of surveillance policies: The case of Germany. In: Government Information Quarterly 34, 426.

19 Geleakter Text der Europäischen Ratspräsidentschaft, abzurufen unter https://cdn.netzpolitik.org/wp-upload/2025/11/2025-11-13_Council_Preside... [16.12.2025].

20 Colneric, N. Legal opinion commissioned by MEP Patrick Breyer, The Greens/EFA Group in the European Parliament. 03.2021, 34 https://www.patrick-breyer.de/wp-content/uploads/2021/03/Legal-Opinion-S... [25.11.2025]; verschiedene Stellungnahmen in Kulbatzki, J. Einigung bei Chatkontrolle. EU-Rat nimmt dänischen Vorschlag an. In: Tagesspiegel Background, 27.11.2025, https://background.tagesspiegel.de/digitalisierung-und-ki/briefing/eu-ra... [16.12.2025].

Die vom bidt veröffentlichten Blogbeiträge geben die Ansichten der Autorinnen und Autoren wieder; sie spiegeln nicht die Haltung des Instituts als Ganzes wider. 

Der Beitrag Chatkontrolle entschlüsselt: Eine interdisziplinäre Betrachtung erschien zuerst auf bidt DE.