Wenn Menschen sehr wütend sind, gehen sie oft irrationale Wege. Das ist aber nicht immer hilfreich, wenn es darum geht, Probleme gut zu lösen. Was diese Dynamik mit der Diskussion um Chatkontrolle zu tun hat, erklärt unsere Kolumnistin Bianca Kastl.

Die heutige Degitalisierung wird sich mit der Wirkung von Wut beschäftigen müssen, mit Furor. Denn Wut ist ein Momentum, das uns immer wieder dazu bringt, dass vermeintlich gut gemeinte Ideen katastrophale Folgen haben können. Um das Konzept mit der Wut und seine Wirkung besser zu verstehen, hilft es vielleicht, einen Blick in die Filmgeschichte zu werfen.

Im Jahr 1936 erzählte der zuvor aus Nazideutschland emigrierte Filmregisseur Fritz Lang in „Blinde Wut“ die Geschichte des unschuldig verhafteten Joe Wilson, gespielt von Spencer Tracy. Wegen der vermeintlichen Entführung eines Kindes wird er beinahe von einem aufgebrachten Lynchmob ermordet. Die Menge stürmt das Gefängnis, in dem Joe inhaftiert ist, setzt es in Brand und am Ende kann Joe nur um ein Haar lebend entkommen. Für tot gehalten, schmiedet Joe Rachepläne – und irgendwo gegen kurz vor Schluss wäre es fast ein brillanter Film geworden, hätte Hollywood nicht noch ein typisch kitschiges Ende anfügen müssen.

Fritz Langs Film kann uns dabei helfen, zu verstehen, aus welchen Motiven Menschen durch starke Gefühle wie Wut oft irrationale Wege gehen. Dass kann sogar so weit gehen, dass es ihnen nach Rache oder sogar Lynchmord gelüstet. Gleichzeitig sollte uns der Film aber auch genau deshalb eine Lehre sein, gerade nach besonders schrecklichen Ereignissen unsere Entscheidungen und die Abwägung ihrer Folgen nicht von starken Emotionen leiten zu lassen.

Zerfetzte Seelen

Oftmals fällt es leichter, den eigenen Irrweg im Hier und Heute neutraler zu betrachten, wenn dazu Beispiele verwendet werden, die doch etwas aus der Zeit gefallen sind. Das kann ein Film in Schwarz-Weiß von 1936 sein oder eben ein netzpolitisches Beispiel aus dem Jahr 2009. Ursula von der Leyen, heute Präsidentin der Europäischen Kommission, damals Familienministerin, versuchte ein digitalpolitisches Ungetüm namens „Gesetz zur Erschwerung des Zugangs zu kinderpornographischen Inhalten in Kommunikationsnetzen“ (oder etwas kürzer Zugangserschwerungsgesetz) voranzutreiben.

Das Konzept des Gesetzes war mehr oder weniger: Es sollte eine vom BKA verwaltete Sperrliste mit Webseiten geben, auf denen Darstellungen von sexualisierter Gewalt gegen Kinder zu finden sind. Webseiten auf der Sperrliste würden dann von Internetanbietern geblockt, sofern das Material nicht entfernt werden konnte. Ein Stoppschild für Webseiten, ernsthaft.

Im Vorfeld des Gesetzes wurde an der ein oder anderen Stelle versucht, eine Art wütender Gruppendynamik zu schaffen. Von der Leyen sprach in Interviews von „zerfetzten Seelen“, zeigte Journalist*innen Missbrauchsdarstellungen als Ausdruck der Dringlichkeit und Schwere des Problems und warf Kritikern Zynismus vor. Karl Theodor zu Guttenberg, damals noch nicht mit vollstem Vertrauen versehen, zeigte sich auch schwer betroffen und stellte den Protest gegen Internetsperren gleich auf eine Stufe mit der Ablehnung des Kampfes gegen Darstellungen sexualisierter Gewalt.

Letztlich alles ein Versuch, Wut gegenüber andere Handlungsweisen zu erregen. Wer nicht voll für uns ist, kann nur mit den Menschen sein, die etwas so absolut Inakzeptables wie Kindesmissbrauch betreiben. Jede Maßnahme zur Durchsetzung ist recht, um so etwas Schreckliches durch genau den einen von vielen möglichen Wegen zu verhindern. Seid wütend gegenüber anderen Lösungsvorschlägen, auch wenn andere Lösungen genauso Sicherheit und Gerechtigkeit für alle erreichen wollen.

Die damaligen Methoden von DNS-Sperren waren vergleichsweise minimalinvasiv. Die Anpassung eines DNS-Servers, um Blockierungen durch Internetprovider zu umgehen, war eher Grundkurs Internettechnik und wäre schwerlich zu irgendeiner Art von Zugangserschwerung gut gewesen. Speziell für Menschen, die mit der Verbreitung und Erstellung von Darstellungen sexuellem Missbrauchs klare Straftaten in oftmals voller bösartiger Absicht begehen. Wohl aber hätte es die Basis einer Infrastruktur für Zensur im Internet sein können.

Das Zugangserschwerungsgesetz trat letztlich zwar formal Anfang 2010 in Kraft, so wirklich angewendet wurde es aber nicht und verschwand Ende 2011 wieder still und heimlich.

Was zumindest aber in der Geschichte der deutschen Digitalpolitik blieb: „Zensursula“ und ein erster netzpolitischer Erfolg gegen unsinnige technische Beeinflussung von Internetinfrastruktur.

Schauspielerei

In der Genese des Regelungsvorschlags einer Verordnung zur Festlegung von Vorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern, besser bekannt als die heutige Chatkontrolle, wurden dann seit 2022 ebenfalls nicht weniger starke Emotionen gezeigt. Klar, wenn ein Schauspieler wie Ashton Kutcher für Organisationen wie Thorn die löblichen Absichten im Kampf gegen Missbrauchsdarstellungen als oberster Lobbyist bewirbt, dann sind da große Emotionen im Spiel, aber auch seltsame Lobbyverbindungen. Am Ende ging es möglicherweise um weit mehr als das Erkennen von entsprechenden Inhalten.

Für die Erkennung von Missbrauchsdarstellungen wurde Client-Side-Scanning (CSS) vorgeschlagen. Dabei werden bereits auf dem jeweiligen Endgerät Inhalte wie Fotos oder Videos in Messengern oder bei Maildiensten automatisch gegen eine Datenbank bekannter Inhalte abgeglichen. Immer wieder wurde von Befürwortern von Techniken wie dieser große Emotionen geschürt, dass das jetzt notwendig sei und dass wir das unseren Kindern quasi schulden würden. Gerade bei einem so sensiblen und emotionalen Thema wie Kindesmissbrauch müssen wir uns da immer die Frage stellen, ob das, was von diesen Gruppen auch mit viel Emotion getrieben wurde, auch wirklich hilfreich ist.

Viele wiesen in der langen politischen Diskussion um die Chatkontrolle auf Probleme hin. Seien es Hunderte von IT-Expert*innen und Sicherheitsforschenden, Jurist*innen, Datenschützer, Digitalorganisationen, Tech-Unternehmen, Messenger, UN-Vertreter, Kinderschützer, Wächter*innen der Internetstandards, Wissenschaftler*innen weltweit sowie eine unglaubliche Breite der Zivilgesellschaft. Immer. Wieder.

Auch jüngst wurde wieder sachlich vorgetragen von Internetunternehmen, Wirtschaftsverbänden, dem Kinderschutzbund und Herstellern von Messengern: Der geplante Weg der Chatkontrolle ist falsch und schädlich.

Es wirkt gerade so, als würde eine kleine politische Gruppe gegen alle Rationalität und wider besseren Wissens das mühsam aufgebaute Gebäude unserer freiheitlich-demokratischen Grundrechte stürmen und in Brand setzen wollen. Bei aller Wut, die dabei bei uns entstehen kann, ist aber die Sachlichkeit des Protests das, was uns zumindest für diese Etappe im Widerstand gegen die Chatkontrolle gut zu Gesicht stand. Oder um es mit Markus zu sagen: Das war ein guter Tag für Grund- und Freiheitsrechte.

Memento

Nach der Wut und ihrem Abklingen zeigte sich diese Woche im Bundestag aber ein durchaus bemerkenswertes Momentum Memento. Die zur Chatkontrolle angesetzte Aktuelle Stunde in dieser Woche war eine Ansammlung diverser Sonderbarkeiten: Eine gesichert rechtsextremistische Partei, die perfiderweise so tut, als wäre das Scheitern der Zustimmung Deutschlands zur Chatkontrolle ihr Erfolg, und Regierungsparteien, die ja schon immer dagegen waren, im Besonderen ausgerechnet der Innenminister mit seinen eigenen Überwachungsfantasien.

Einig war man sich darin, dass es mehr zu tun gibt für den Kinderschutz. Immerhin. Allerdings ist die digitalpolitische Erkenntnis aus der aktuellen Episode um die Chatkontrolle vielleicht etwas arg sanft in der Debatte ausgefallen.

Speziell konservative Parteien wie die Union, aber leider auch die SPD, leben gedanklich immer noch in einer Welt des Internets als Neuland. Eine virtuelle Welt, die von der realen Welt irgendwie losgelöst ist, in der die Durchsetzung der öffentlichen Ordnung aber immer wieder mit falsch analog gedachten Mitteln versucht wird.

Stoppschilder im Internet? Funktionieren nicht. Weiterhin vertrauliche Kommunikation, wenn in jedem digitalen Endgerät mit erratischen Techniken wie Client-Side-Scanning mitgelesen wird? Gibt es nicht. Und wenn wir schon dabei sind: Es gibt keine Sicherheitslücken oder Überwachungsinfrastrukturen, die bis in alle Ewigkeit nur von den Guten genutzt werden können.

Am Ende bleibt auch auf EU-Ebene leider der Eindruck, dass bei einem so wichtigen Thema wie dem Kampf gegen die Verbreitung von Darstellungen sexuellen Missbrauchs von EU-Politiker*innen wie Ursula von der Leyen oder Ylva Johansson zur Lösung schwieriger digitalpolitischer Probleme nur starke Emotionen vorhanden sind und daraus resultierende digitalpolitische Übersprungshandlungen. Es entsteht der Eindruck, dass diese Lücke der Umsetzungskompetenz von Lobbyorganisationen wie Thorn bösartig ausgenutzt wird.

In der aktuellen Diskussion um die Chatkontrolle war die konservative Kraft – also eine, die sich für die Erhaltung von Grundrechten auch im digitalen Raum einsetzt – keine rein politische. Es war ein eher ungewöhnliches Bündnis aus Zivilgesellschaft, Wirtschaft, Wissenschaft und Betroffenenverbänden. Ein Bündnis, das das Thema Chatkontrolle aus der Digitalbubble heraus erst medial zu dem gesamtgesellschaftlichen Problem erhoben hat, das es nun mal ist. Weil die Regierungsparteien selbst keine klare Haltung finden konnten und ihr – zumindest in der Wahrnehmung nach außen – keine Kompetenzen zugeordnet werden können, Digitalpolitik nach dem eigenen Wertekanon gestalten zu können.

Dieser Mangel an klarer Haltung zu digitalpolitischen Themen und eigener Kompetenz zur adäquaten Problemlösung ist für Parteien in Regierungsverantwortung komplett aus der Zeit gefallen.

Dabei war die Chance eigentlich relativ gut: Ein klares Nein zur Chatkontrolle von Seiten Deutschlands hätte genügt, die fachlichen Begründungen wurden Jahre vorher ja schon massenhaft servierfertig geliefert. Gegen diese momentan vielleicht aufkommende Wut hilft am Ende vor allem eines: eine weiterhin klare Haltung für Grundrechte, auch in der digitalen Welt.

Denn diese klare Haltung für digitale Grundrechte bei der Lösungsfindung digitalpolitischer Problemfelder werden wir weiterhin brauchen, ganz ohne Wut.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die 41. Kalenderwoche geht zu Ende. Wir haben 17 neue Texte mit insgesamt 103.332 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

Liebe Leser:innen,

vor genau einer Woche stand im Wochenrückblick, dass die Bundesregierung im EU-Rat am 14. Oktober für die Chatkontrolle stimmen könnte. Auf Anfragen von uns hatte sie keine Position gegen die Überwachungspläne bezogen.

Jetzt, nur eine Woche später hat sich der Wind gedreht: Die Abstimmung im EU-Rat ist erstmal abgesagt, wohl auch weil sich die Bundesregierung am vergangenen Mittwoch gegen eine „anlasslose Chatkontrolle“ positioniert hat und es so keine Mehrheit geben würde. Das wohl gefährlichste Überwachungsprojekt Europas ist vorerst wieder abgewehrt.

Im letzten Wochenrückblick stand auch, dass es nicht zu spät für Proteste sei. Und genau das hat sich bewahrheitet: Es war nicht zu spät. Aus verschiedenen Ecken der Gesellschaft gab es Gegenwind, von Bitkom über den Kinderschutzbund bis zum Messenger-Platzhirsch WhatsApp. Aber auch jede Menge wütende Menschen, die massenweise E-Mails schrieben oder anriefen, um ihren Unmut zu äußern. Eine Petition sammelte in 48 Stunden mehr als 300.000 Unterschriften. Auf unserer Startseite gab es zwischenzeitlich kein anderes Thema mehr.

Am Ende lenkte die schwarz-rote Bundesregierung ein, nicht ohne frech zu behaupten, dass sie ja schon immer gegen die anlasslose Chatkontrolle gewesen sei.

Dieser Etappensieg der Zivilgesellschaft ist ein toller Erfolg. Er zeigt, dass es sich lohnt zu protestieren. Aber das Thema Chatkontrolle ist noch lange nicht vom Tisch. Einerseits müssen wir hierzulande ganz genau schauen, was die Bundesregierung eigentlich unter der Ablehnung einer anlasslosen Chatkontrolle versteht. Meint das auch Überwachungstools wie Client-Side-Scanning? Wie sieht es mit Zugriff bei einem „Anlass“ aus? Es darf keine Technologien auf unseren Smartphones und Computern geben, die Ende-zu-Ende-Verschlüsselung in irgendeiner Form umgehen oder schwächen. Dazu muss die Bundesregierung deutlich stehen.

Auf der anderen Seite steht im EU-Rat nur ein Teil der Mitgliedsländer gegen die Chatkontrolle. Wenn da einzelne Länder kippen, könnte die Chatkontrolle trotz des Widerstands aus Deutschland doch noch kommen. Es ist also wichtig, dass auch EU-weit Bewusstsein geschaffen wird, wie gefährlich das ist – und dass Chatkontrolle nicht zur Demokratie passt. Es bleibt also viel zu tun, wir berichten natürlich weiterhin.

Dennoch können wir uns jetzt erstmal ein Gläschen Crémant gönnen und uns freuen, dass es auch noch gute Nachrichten in dieser sonst so turbulenten Welt gibt.

Herzliche Grüße

Markus Reuter

Trugbild: Die neue Einsamkeit

Eigentlich sollten Unterhaltung und Erotik Menschen verbinden. Stattdessen weisen die Venus und die IFA, Leitmessen ihrer Branchen, einen anderen Weg. Von Vincent Först –
Artikel lesen

Geplante Massenüberwachung: WhatsApp und Threema sind strikt gegen Chatkontrolle

Immer mehr Messenger sprechen sich gegen die Chatkontrolle aus. Neben Signal haben sich nun auch die Messenger WhatsApp und Threema geäußert. Chatkontrolle untergrabe die Ende-zu-Ende-Verschlüsselung und gefährde die Privatsphäre, Freiheit und digitale Sicherheit aller. Von Markus Reuter –
Artikel lesen

Gesetzentwurf: Dänemark pocht auf Entscheidung zur Chatkontrolle

Morgen entscheiden Innenminister Dobrindt und Justizministerin Hubig die deutsche Position zur Chatkontrolle. Am Mittwoch bereiten die EU-Staaten ihre Abstimmung vor, die nächste Woche stattfinden soll. Wir veröffentlichen den aktuellen Gesetzentwurf der dänischen Ratspräsidentschaft. Von Andre Meister –
Artikel lesen

Chatkontrolle: „Total unausgegoren und technisch nicht tragfähig“

Klaus Landefeld, Vorstand des IT-Branchenverbandes eco, stellt sich im Interview gegen die EU-Pläne zur Chatkontrolle. Neben den massiven Grundrechtseinschränkungen kritisiert er auch die technischen Probleme. Die Qualität der Software, die verdächtige Inhalte erkennen soll, sei nicht ausreichend und zentrale technische Fragen ungeklärt. Von Constanze –
Artikel lesen

EU-Überwachungspläne: Last-Minute-Petition gegen Chatkontrolle gestartet

Private Chat-Nachrichten müssen auch künftig privat bleiben, fordern zivilgesellschaftliche Organisationen in einer Online-Petition. Gerichtet an die Bundesregierung soll sie dazu beitragen, dass die im EU-Rat die Chatkontrolle ablehnt. Die deutsche Position zu den Überwachungsplänen ist maßgeblich, ob diese angenommen werden. Von Markus Reuter –
Artikel lesen

EU-Überwachungsgesetz: Kinderschutzbund stellt sich gegen Chatkontrolle

Der Deutsche Kinderschutzbund lehnt die Chatkontrolle ab und fordert von der Bundesregierung „zielgerichtete Maßnahmen statt anlassloser Massenüberwachung“ im Kampf gegen sexualisierte Gewalt. Die Bundesregierung müsse sich dafür einsetzen, dass Kinderschutz mit Kinder- und Grundrechten vereinbar bleibe. Von Markus Reuter –
Artikel lesen

EU-Überwachungspläne in der Kritik: Wirtschaftsverbände Bitkom und eco klar gegen Chatkontrolle

Die Stimmen gegen die Chatkontrolle werden mehr und lauter. Nun hagelt es deutliche Kritik aus der Wirtschaft. Zudem warnen der Deutsche Journalistenverband und der Anwaltverein vor einer Überwachungsinfrastruktur, die schnell ausgebaut werden könnte. Von Markus Reuter –
Artikel lesen

EU-Überwachungspläne: Internetunternehmen fürchten, dass Chatkontrolle Innovation erstickt

Mehr als 40 europäische Internetfirmen und ein großer digitaler Unternehmensverband schlagen Alarm wegen der Chatkontrolle. Sie sehen durch die Überwachungspläne Nachteile für den Standort Europa. Von Markus Reuter –
Artikel lesen

Googles Gedächtnislücke: Wie das Löschen des Werbearchivs die demokratische Kontrolle untergräbt

Mit dem kommentarlosen Abschalten des Archivs hat Google nicht nur eine signifikante Datenquelle für zivilgesellschaftliche und wissenschaftliche Analysen von politischen Kampagnen zerstört. Die Löschung der eigenen Werbebibliothek durch Google erschwert auch die Arbeit von Aufsichtsbehörden. Ein Kommentar. Von Svea Windwehr –
Artikel lesen

EU-Überwachungspläne: Unionsfraktion jetzt gegen Chatkontrolle, Innenministerium will sich nicht äußern

Überraschend kündigte am Dienstagnachmittag der Fraktionsvorsitzende der CDU/CSU an, dass es eine anlasslose Kontrolle von Chats mit der Union nicht geben würde. Das Innenministerium sagt, die Abstimmung sei noch nicht abgeschlossen. Von Markus Reuter –
Artikel lesen

Digital Services Act: Wie Wikimedia es schafft, die Vorgaben der EU zu erfüllen

Die Vorgaben der EU für sehr große Online-Plattformen zu erfüllen, ist eine Herausforderung für die unkommerzielle Online-Enzyklopädie Wikipedia. Immerhin hat die viel weniger Ressourcen und ganz andere Strukturen als Digitalkonzerne. Doch es ist gelungen, findet die Wikimedia-Stiftung. Von Anna Ströbele Romero –
Artikel lesen

Protest wirkt: Bundesregierung ist gegen „anlasslose Chatkontrolle“

Die breite zivilgesellschaftliche Ablehnung der Chatkontrolle und der Protest der letzten Tage haben offenbar Wirkung gezeigt. Die Bundesregierung stimmt auch unter Schwarz-Rot einer anlasslosen Chatkontrolle in der EU nicht zu. Vom Tisch ist das Thema damit noch nicht. Von Markus Reuter –
Artikel lesen

Protest gegen die Chatkontrolle: So geht Demokratie

Der Etappensieg bei der Chatkontrolle ist das Verdienst einer quicklebendigen Zivilgesellschaft, die es geschafft hat, in klugen und unerwarteten Bündnissen die Wichtigkeit des Themas allen vor Augen zu führen. Zeit, dafür Danke zu sagen. Von Markus Reuter –
Artikel lesen

Bundestag: Grüne und Linke wollen klares Bekenntnis gegen Chatkontrolle

Nach langem Bangen hat sich die Bundesregierung gegen eine „anlasslose Chatkontrolle“ positioniert. Doch die Diskussion ist damit nicht beendet. Grüne und Linke im Bundestag wollen eine klare Positionierung für Verschlüsselung und gegen fragwürdige Überwachungsmaßnahmen. Von Anna Biselli –
Artikel lesen

Bundestag zu Chatkontrolle: „Anlasslose Überwachung ist ein Tabu in einem Rechtsstaat“

Aus einer Diskussion im Bundestag wird deutlich, dass es auch im Parlament eine breite Ablehnung der Chatkontrolle gibt. Viele Abgeordnete warfen der Regierung ihr langes Schweigen vor. Von Anna Biselli –
Artikel lesen

Genomische Daten von Neugeborenen: „Das würde ganz neue Begehrlichkeiten wecken“

Forschende und Mediziner:innen wollen das Erbgut von Neugeborenen analysieren. Die Molekularbiologin Isabelle Bartram warnt im Interview vor Diskriminierung durch Gen-Daten und dem Aufbau einer nationalen DNA-Datenbank. Von Leonhard Pitz –
Artikel lesen

#301 Off The Record: Chatkontrolle und fünf neue Kolleg:innen

Was überrascht am meisten, wenn man neu ins Team bei netzpolitik.org kommt? Und warum dauert der Kampf gegen die Chatkontrolle so lange? Das und mehr besprechen wir in der neusten Folge unseres Podcasts Off/On. Von Anna Biselli –
Artikel lesen

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Was überrascht am meisten, wenn man neu ins Team bei netzpolitik.org kommt? Und warum dauert der Kampf gegen die Chatkontrolle so lange? Das und mehr besprechen wir in der neusten Folge unseres Podcasts Off/On.

Seit der vorigen Folge sind viele neue Leute ins Team gekommen. Eine dieser Personen könnt ihr in diesem Podcast kennenlernen: unser neuer – und erster – Volontär Timur. Er erzählt über sich und das, was ihn in seinen ersten Wochen bei netzpolitik.org überrascht hat.

Außerdem sprechen wir über das Thema, das uns diese Woche am meisten beschäftigt hat: die Chatkontrolle. Zwei Jahre nach der letzten Folge mit diesem Schwerpunkt berichtet Markus, wo wir heute stehen, und wie er es weiter aushält, beständig über diesen netzpolitischen Dauerbrenner zu berichten.

In dieser Folge: Timur Vorkul, Markus Reuter und Anna Biselli.
Produktion: Serafin Dinges.
Titelmusik: Trummerschlunk.

Hier ist die MP3 zum Download. Wie gewohnt gibt es den Podcast auch im offenen ogg-Format. Ein maschinell erstelltes Transkript gibt es im txt-Format.

Unseren Podcast könnt ihr auf vielen Wegen hören. Der einfachste: in dem Player hier auf der Seite auf Play drücken. Ihr findet uns aber ebenso bei Apple Podcasts, Spotify und Deezer oder mit dem Podcatcher eures Vertrauens, die URL lautet dann netzpolitik.org/podcast.

Wir freuen uns auch über Kritik, Lob, Ideen und Fragen entweder hier in den Kommentaren oder per E-Mail an podcast@netzpolitik.org.

Links und Infos

Hausmitteilungen

• Unser Instagram-Account
• Erster Text unserer neuen Kollegin in Brüssel

Thema des Monats

• Die Podcast-Folge vor zwei Jahren zum „Beruf: Chatkontrolle“
• Alle unsere Texte zur Chatkontrolle
• Warum ist Chatkontrolle so ein Problem?

Aus dem Maschinenraum

• Timurs Text zu einem vietnamesichen Exilmedium

Blattkritik

• Interview zu Charlie Kirk mit Berit Glanz
• BAMF liest viel weniger Smartphones aus
• Ausländerbehörden lesen dafür sehr viele Smartphones aus
• Alaa Abd el-Fattah kommt endlich frei

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Forschende und Mediziner:innen wollen das Erbgut von Neugeborenen analysieren. Die Molekularbiologin Isabelle Bartram warnt im Interview vor Diskriminierung durch Gen-Daten und dem Aufbau einer nationalen DNA-Datenbank.

Sollte das Erbgut von Babys direkt nach der Geburt analysiert werden? Diese Frage stellen sich Wissenschaftler:innen und Gesundheitspolitiker:innen rund um den Globus. Einige versprechen sich davon eine bessere Gesundheitsvorsorge. Krankheiten könnten früher entdeckt und therapiert werden, noch bevor Symptome auftreten.

Doch was sind die Risiken eines solchen Programms? Was macht Genom-Daten so sensibel? Und wo stehen wir in Deutschland? Das haben wir Isabelle Bartram gefragt. Sie ist promovierte Molekularbiologin und arbeitet seit 2017 beim Gen-ethischen Netzwerk. Der Verein will über die gesellschaftlichen Auswirkungen von Gen-Technologien aufklären und eine differenzierte Debatte ermöglichen.

Isabelle Bartram beschäftigt sich mit Gen-Technolgien im medizinischen Bereich und genetischem Datenschutz. Zuletzt hielt sie bei der Konferenz „Datenspuren“ in Dresden einen Vortrag mit dem Titel: „Das gläserne Baby? Unbeabsichtigte und unvorhergesehen Effekte der Speicherung genomischer Daten von Neugeborenen“. Wir haben mit ihr nach dem Vortrag gesprochen.

netzpolitik.org: Wenn heute in Deutschland ein Kind auf die Welt kommt, wie „gläsern“ ist das Baby schon bei der Geburt?

Isabelle Bartram: Aktuell bekommen Eltern ein erweitertes Neugeborenen-Screening angeboten. Dabei wird das Baby in die Ferse gepiekst und der Blutstropfen wird im Labor auf momentan 17 angeborene Erkrankungen analysiert. Das sind alles Krankheiten, die früh auftreten, sehr schwerwiegend und behandelbar sind. Ich nehme an, die meisten Eltern stimmen dem zu, weil sie das Beste möchten für ihr Kind. Bei den Screenings kann man meines Wissens nach oft ankreuzen, ob das abgenommene Blut weiter für die Forschung verwendet werden darf. Das kann aber je nach Klinik variieren.

Der Großteil dieser Tests ist rein biochemisch, es wird also auf Stoffwechselprodukte im Blut geschaut. Aber es sind inzwischen auch zwei oder drei genetische Tests dabei, zum Beispiel auf spinale Muskelatrophie. Das ist eine Muskelschwäche, die schon bei Babys auftritt und die unbehandelt tödlich sein kann. Bei diesem Test sucht man nach einer bestimmten Genvariante. Dabei schaut sich das Labor aber nur dieses eine Gen an und nicht das gesamte Genom, wie es beim genomischen Neugeborenen-Screening diskutiert wird. Das wäre dann eine ganz andere Qualität.

Deutschland steht noch am Anfang

netzpolitik.org: Wie weit sind die Pläne für ein genomisches Neugeborenen-Screening denn in Deutschland?

Isabelle Bartram: Wir stehen in Deutschland eher noch am Anfang, anders als in Großbritannien, wo das Genom-Screening für alle Neugeborenen bereits beschlossen ist. In Deutschland gibt es das Projekt „New_Lives“ an der Uni Heidelberg und Uni Mannheim, gefördert vom Bundesministerium für Forschung. „New_Lives“ wollte die Rahmenbedingungen für das Genom-Screening bei Neugeborenen schaffen. Das Projektteam hatte vor Kurzem ein Abschlusssymposium und hat ein Rahmenpapier mit Empfehlungen veröffentlicht.

Dort steht zum Beispiel, dass die Daten nicht automatisch für die Forschung verwendet werden sollten, sondern nur mit der separaten Einwilligung der Eltern. Da stelle ich mir aber die Frage, wie das praktisch aussehen soll. Die Geburt und die Zeit danach sind sehr stressig für Eltern, Menschen können da auch unter Schock stehen. Daher zweifle ich an, wie informiert Leute in dieser Krisensituation eine Entscheidung treffen können, vor allem wenn es vielleicht nur ein Kreuzchen mehr auf einem Formular ist.

Da sind also noch sehr viele Fragezeichen und es wären wahrscheinlich einige Gesetzesänderungen notwendig. Wir sind in Deutschland aktuell noch ganz am Anfang. Aber es ist jetzt wichtig, die Tragweite zu verstehen und sich da einzumischen.

„DNA gilt zum Teil als Wahrheitsmaschine“

netzpolitik.org: Was macht denn genetische Daten so sensibel?

Isabelle Bartram: Sie beinhalten ein großes Diskriminierungspotenzial. Es gibt viel Forschung zum Zusammenhang von Genetik und Erkrankungsrisiken, Behinderungen und auch Verhalten. Es besteht also die Gefahr, dass man aufgrund der Genetik einer bestimmten Gruppe zugeordnet und deshalb diskriminiert wird.

DNA gilt in unserer Gesellschaft zum Teil auch als Wahrheitsmaschine: Alles, was wir sind, stecke in unser DNA. Das ist natürlich nicht so. Die DNA ist zwar ein Bauplan, aber wie er umgesetzt wird, entscheidet sich in ständiger Interaktion mit der Umwelt und Gesellschaft. Doch nur weil die Zuordnung vielleicht nicht stimmt oder unsicher ist, kann man natürlich trotzdem diskriminiert werden.

netzpolitik.org: Sie warnen auch vor dem Aufbau einer nationalen DNA-Datenbank. Warum?

Isabelle Bartram: Meine Befürchtung ist, dass man die sequenzierten Genome der Neugeborenen zusammenführt und speichert, um einen großen Datenschatz für die öffentliche und privatwirtschaftliche Forschung zu erhalten. Aber eine wichtige Eigenschaft von DNA ist, dass man 50 Prozent immer an die nächste Generation weitergibt und dadurch nah verwandte Menschen eine große genetische Übereinstimmung haben. Das ist für die Polizei natürlich wahnsinnig nützlich, wenn sie nach Personen sucht.

Laut dem Gendiagnostikgesetz dürfen Ermittler*innen zwar nicht auf medizinische Datenbanken zugreifen, aber nach Freigabe für die Forschung ist diese Beschränkung nicht mehr da. Denn dann steht es nicht mehr unter der ärztlichen Schweigepflicht und das ist hochproblematisch. Bis jetzt ist mir zwar kein Fall bekannt, bei dem die Polizei auf eine Biobank oder auf eine medizinische Forschungsdatenbank zugegriffen hat. Aber das liegt vielleicht auch daran, dass alle bisherigen Datenbanken eher klein waren und voneinander getrennt sind.

Wenn es nun eine große Datenbank mit Neugeborenen gäbe, würde das ganz neue Begehrlichkeiten wecken. Und dann bräuchte es nur noch einen spektakulären Kriminalfall, um zu rechtfertigen, dass die Polizei darauf zugreift. Das gab es in der Geschichte kontroverser DNA-Technologien immer wieder, etwa bei der Einführung der DNA-Phänotypisierung 2019.

„Was macht das mit Leuten?“

netzpolitik.org: Ist das genomische Neugeborenen-Screening nicht aber trotzdem sinnvoll, um vererbbare Krankheiten frühzeitig zu erkennen und dann auch entsprechend gegensteuern zu können durch Prävention oder Vorsorge?

Isabelle Bartram: Wie sinnvoll das ist, wird auch medizinisch diskutiert. Bei vielen Erkrankungen ist es etwa so, dass man immer wieder bei gesunden Menschen vermeintlich pathologische Genvarianten für schwere Erkrankungen findet. Es kann also passieren, dass Kinder Medikamente gegen etwas nehmen müssen, obwohl sie vielleicht nie erkranken werden.

Und dann gibt es die Frage: Was macht das mit Leuten, wenn sie wissen, dass sie ein hohes Risiko für Krebs haben? Sie würden damit aufwachsen und immer Kontrolluntersuchungen machen müssen für etwas, das vielleicht nie auftritt.

Ich glaube, da muss noch viel diskutiert und abgewogen werden, statt das einfach einzuführen. Zudem bleibt die oben angesprochene Grundproblematik: Die Eltern entscheiden kurz nach der Geburt über die genomischen Daten ihres Kindes. Das Kind kann das nicht selbst entscheiden, ob seine Daten erhoben und gespeichert werden.

netzpolitik.org: Gibt es Bedingungen, unter denen ein genomisches Neugeborenen-Screening für Sie akzeptabel wäre?

Isabelle Bartram: Es sollten nur die Genvarianten betrachtet werden, die bekannte Auslöser für ein begrenztes Set an Krankheiten sind, nicht das ganze Genom. Zudem muss klar sein, dass die Genom-Daten sofort nach der Analyse gelöscht werden. Auf keinen Fall sollten diese Daten in der elektronischen Patientenakte oder dem European Health Data Space gespeichert werden. Meine Sorge ist aber, dass die Forschung und Industrie diesen „Datenschatz“ auf jeden Fall heben wollen.

Wenn das Genom-Screening erst einmal da ist, werden sich manche fragen: Das hat so viel Geld gekostet, diese Daten zu generieren – warum sollten wir die jetzt löschen? 

netzpolitik.org: Zum Schluss vielleicht nochmal ein Blick auf die individuelle Ebene: Worauf sollten künftige Eltern in Bezug auf genetischen Datenschutz achten?

Isabelle Bartram: Ich habe damals bei meinem eigenen Kind das erweiterte Neugeborenen-Screening gemacht, aber eben nicht angekreuzt, dass die Daten weiter für die Forschung verwendet werden dürfen. Ich habe auf Nachfrage von Bekannten auch davon abgeraten, Nabelschnur-Blut zu spenden. Das wird von der DKMS für die Stammzellenspende oder die Forschung verwendet. Das sind löbliche Zwecke. Aber ich finde, es ist was anderes, ob man das für sich selbst oder einen anderen Menschen entscheidet.

Das Kind kann ja später immer noch selber entscheiden: Ich will Knochenmark und meine genetischen Daten spenden. Ich finde medizinische Forschung an sich sehr wertvoll, aber mir ist das zu intransparent. Es wird im Biologie- und Medizin-Sektor auch zu wenig über weitreichende Konsequenzen nachgedacht. Was passiert nach einem Rechtsruck mit genetischen Daten? Was machen autoritäre Systeme mit genetischen Daten? Für solche Fragen muss auch im Studium stärker sensibilisiert werden.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Aus einer Diskussion im Bundestag wird deutlich, dass es auch im Parlament eine breite Ablehnung der Chatkontrolle gibt. Viele Abgeordnete warfen der Regierung ihr langes Schweigen vor.

Am Donnerstag haben Bundestagsabgeordnete in einer sogenannten Aktuellen Stunde über ihre Position zur Chatkontrolle debattiert.

Bei der Chatkontrolle handelt es sich um einen viel kritisierten Bestandteil einer EU-Verordnung, über die seit Jahren die Mitgliedstaaten im EU-Rat verhandeln. Damit könnten Anbieter von Kommunikationsdiensten auf Anordnung verpflichtet werden, die Kommunikation ihrer Nutzer:innen zu scannen – auch ohne konkreten Verdacht und auch bei verschlüsselten Nachrichten. Ziel ist es, nach Darstellungen von sexualisierter Gewalt gegen Kinder zu suchen, damit Treffer letztlich an die Polizei weitergeleitet werden.

Bislang hatte Deutschland, vertreten durch die inzwischen abgelöste Ampelregierung, die brisanten Vorschläge auf EU-Ebene nicht abgenickt. Nach langer Unklarheit verkündete die nunmehrige schwarz-schwarz-rote Bundesregierung am Mittwoch, sie werde einer „anlasslosen“ Chatkontrolle gemäß einem Vorschlag der dänischen Ratspräsidentschaft nicht zustimmen. Aber zu welchen Kompromissen sie im EU-Rat bereit wäre und ob es rote Linien bei der deutschen Position gibt, ist bislang nicht bekannt. Darum drehten sich auch viele Wortbeiträge der Abgeordneten.

„Auf einmal reagiert das Kabinett“

Donata Vogtschmidt von den Linken etwa warf der Bundesregierung ihr langes Schweigen vor. Wer wenige Tage vor einer entscheidenden Abstimmung nicht das Rückgrat für eine Positionierung mitbringe, verdiene kein Vertrauen, so die Obfrau der Fraktion im Digitalausschuss. Erst nach viel Protest habe sich etwas bewegt – „auf einmal reagiert das Kabinett“.

Besonders kritisierte sie in ihrer Rede Digitalminister Karsten Wildberger, der sich nicht zu dem Thema äußern wollte. Vogtschmidt sagte: „Es scheint, als hätten wir einen Minister, der weder Lust auf Digitales noch auf Politik hat.“

„Besser spät als nie“

„Besser spät als nie“, sagte Jeanne Dillschneider von den Grünen zur Positionierung der Regierung. Sie begrüßt in ihrer Rede ausdrücklich, dass die Bundesregierung den letzten dänischen Vorschlag ablehnt. Wie viele andere Redner:innen demokratischer Fraktionen forderte sie statt Chatkontrolle wirksame Maßnahmen zum Schutz von Kindern in der digitalen und analogen Welt. „Wir können diese Aufgabe nicht auf Big Tech oder Bots abwälzen“, so Dillschneider.

Abgeordnete insbesondere der Unionsfraktion betonten wiederholt, man sei schon immer gegen eine anlasslose Chatkontrolle gewesen. Dabei verwundert, dass eine Sprecherin des Bundesinnenministeriums noch Anfang der Woche Nachfragen in der Bundespressekonferenz auswich.

Mehrere Unionsredner:innen zeigten sich genervt von den offenbar zahllosen Protestbriefen, -mails und -anrufen, die sie in den letzten Tagen erreicht haben. Von „mehr als 2.000 Nachrichten“ etwa sprach Johannes Rothenberger von der CDU, der seine erste Rede im Bundestag hielt. Damit werde „die Stimmung aufgeheizt“, beschwerte er sich.

Rothenberger ließ aber auch durchblicken, in welche Richtung sich die Position der Bundesregierung bewegen könnte. So begrüßte er ausdrücklich die Haltung des EU-Parlaments – dem späteren Verhandlungspartner des EU-Rats, sobald sich dort die EU-Länder einigen. Das Parlament bekannte sich etwa dazu, Darstellungen sexualisierter Gewalt konsequent zu löschen. Scans von Kommunikation dürften laut der Parlamentsposition nur nach einem richterlichen Beschluss bei verdächtigen Personen oder Gruppen stattfinden.

Nein zur Chatkontrolle, Ja zur Vorratsdatenspeicherung

Andere Unionsabgeordnete nutzten die Gelegenheit, die Ablehnung von Chatkontrolle mit einer erneuten Forderung nach Vorratsdatenspeicherung zu verbinden. Tijen Ataoğlu (CDU) kündigte dazu an, das Bundesjustizministerium werde dazu bald einen Gesetzesvorschlag vorlegen.

Unklar in ihren Ausführungen blieb, wie die Union zu Client-Side-Scanning steht. Das bedeutet, dass Kommunikation auf Endgeräten gescannt wird, bevor sie für den Versand verschlüsselt wird. Deutlich äußerte sich hingegen die Sozialdemokratin Carmen Wegge. Ihrer Meinung nach würde Client-Side-Scanning „vor deutschen Gerichten keinen Bestand haben“. Es greife tief in die Privatsphäre ein. „Anlasslose Überwachung ist ein Tabu in einem Rechtsstaat“, so Wegge, deren Worte an Bundesjustizministerin Stefanie Hubig (SPD) erinnerten.

Über Fragen wie Client-Side-Scanning oder die Definition davon, was ein Anlass ist und ab wann etwas anlasslos geschieht, wird die Bundesregierung wohl für künftige Abstimmungen im EU-Rat weiter diskutieren müssen. Alle Redner:innen waren sich jedoch einig: Sie muss sich für den Schutz von Kindern und Jugendlichen einsetzen. Das ist ein Ziel das alle unterstützen. Aber die Chatkontrolle, die wäre der falsche Weg.

Rebecca Lenhard von den Grünen drückte das so aus: „Kinder zu schützen, ist unsere Pflicht. Unsere Freiheit zu schützen, ist unsere Verantwortung. Beides gehört zusammen.“

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Nach langem Bangen hat sich die Bundesregierung gegen eine „anlasslose Chatkontrolle“ positioniert. Doch die Diskussion ist damit nicht beendet. Grüne und Linke im Bundestag wollen eine klare Positionierung für Verschlüsselung und gegen fragwürdige Überwachungsmaßnahmen.

Grüne und Linke im Bundestag wollen ein klares Bekenntnis der Bundesregierung gegen Chatkontrolle. Dazu haben beide Oppositionsfraktionen jeweils Anträge ins Parlament eingebracht. Denn gemäß Artikel 23 des Grundgesetzes kann der Bundestag sich zu Gesetzgebungsprozessen in der EU äußern, die Bundesregierung muss solche Stellungnahmen dann entsprechend bei Verhandlungen berücksichtigen.

Wie sich Deutschland im EU-Rat in Brüssel positioniert, handelt in der Regel die Bundesregierung aus. Am gestrigen Mittwoch wurde dann klar: Einer „anlasslosen“ Chatkontrolle will sie nicht zustimmen. In der Sache geht es um einen Verordnungsvorschlag der EU-Kommission, die CSA-Verordnung. Die soll vor allem Missbrauchsdarstellungen von Kindern im Netz bekämpfen. Der Vorschlag hängt seit Jahren im Rat, da sich die Mitgliedstaaten nicht einigen können. Der große Streitpunkt: Sollen Anbieter wie Messengerdienste auf Anordnung sämtliche Kommunikation ihrer Nutzenden scannen müssen, ohne dass es einen Verdacht gegen sie gibt? Sollen sie dabei auch Verschlüsselung umgehen? Damit wären unzählige Menschen von tiefen Grundrechtseingriffen betroffen und es gäbe keine sichere Kommunikation mehr.

Eine Enthaltung oder Ablehnung der Chatkontrolle aus Deutschland hat ein hohes Gewicht, denn Deutschland ist ein bevölkerungsreicher EU-Mitgliedstaat und ist derzeit Teil einer sogenannten Sperrminorität im Rat: Dafür braucht es mindestens vier Staaten, die mindestens 35 Prozent der EU-Bevölkerung ausmachen.

Unklar ist aber jetzt: Was heißt die Ablehnung einer „anlasslosen“ Chatkontrolle? Was ist ein Anlass? Und wo wären Kompromisse, denen die Bundesregierung doch zustimmen würde? Und lassen sich mit der Formulierung nicht doch standardmäßig Hintertüren oder Client-Side-Scanning auf den Handys und Computern aufbringen, die dann nur „mit Anlass“ genutzt würden – aber genau so gefährlich für IT-Sicherheit und Grundrechte wären?

Dezidiert Client-Side-Scanning ausschließen

Auch wenn die geplante Abstimmung im EU-Rat zur Chatkontrolle am 14. Oktober nun erneut wegen mangelnder Zustimmung verschoben wurde: Es wird nicht der letzte Versuch im Rat gewesen sein, sich auf eine Position zu dem Gesetzesvorschlag zu einigen. Daher ist auch weiterhin relevant, wie die Bundesregierung sich zur Chatkontrolle verhält.

Den Anträgen von Grünen und Linken ist gemeinsam, dass sie von der Bundesregierung fordern, sie solle sich klar gegen eine Schwächung von Verschlüsselung und das sogenannte Client-Side-Scanning aussprechen. Dabei geht es darum, Inhalte bereits auf Endgeräten zu scannen – bevor sie für den Versand verschlüsselt werden. Unterschiede bei Grünen und Linken gibt es jedoch in der Frage, ob der von der EU-Kommission vorgelegte Verordnungsentwurf überhaupt noch zu retten ist.

Ist die Verordnung noch zu retten?

Die Grünen wollen „eine grundrechtskonforme Ausgestaltung der Verordnung“. Die Bundesregierung solle sich daher „für tatsächlich zielführende Alternativvorschläge“ einsetzen, „die die Verbreitung von Darstellungen sexualisierter Gewalt an Kindern effektiv unterbinden können“. Dabei soll sie auch mehr auf Präventionsmaßnahmen drängen. Auf keinen Fall sollten Identifizierungspflichten die „anonyme und pseudonyme Nutzung des Internet“ gefährden.

Jeanne Dillschneider, Obfrau für die Grünen im Digitalausschuss, sagt dazu gegenüber netzpolitik.org: „In einer Demokratie brauchen wir Räume für freie Meinungsäußerung ohne Angst vor Überwachung. Statt alle privaten Chats mit fehleranfälliger KI zu durchleuchten und Millionen Falschmeldungen zu produzieren, brauchen wir endlich wirksamen Kinderschutz. Sämtliches Scannen privater Chats macht uns als Gesellschaft nicht sicherer, sondern schafft nur neue IT-Sicherheitslücken.“

Ist die Kinderschutzrichtlinie der bessere Ort?

Die Fraktion der Linken macht inhaltlich ähnliche Punkte. Sie glaubt jedoch nicht, dass die umstrittene CSA-Verordnung der richtige Ort dafür wäre. Sie verweist stattdessen auf die EU-Kinderschutzrichtlinie, die ebenfalls derzeit verhandelt wird. Dort solle man sich einsetzen. Als Maßnahmen schlagen die Bundestagsabgeordneten etwa „konsequentes Löschen“ von Missbrauchsdarstellungen vor oder auch „bessere Opferhilfe durch Opferschutz und Meldesysteme“ und „Ausbau der Angebote kindergerechter digitaler Teilhabe“.

Donata Vogtschmidt, Obfrau für die Linken im Digitalausschuss, erinnert daran, dass es bereits in der letzten Legislatur einen Artikel-23-Antrag gab. Doch wegen der unsicheren Situation mit der neuen Bundesregierung habe man sich erneut zu einem Antrag entschieden. „Wir werden ihn nutzen, um im Bundestag weiter Druck zu machen gegen die CSA-Verordnung. Selbst wenn die Bundesregierung jetzt im Rat der EU zunächst nicht zustimmt, scheint sie sich für spätere Verhandlungen weiterhin alle Türen offenhalten zu wollen. Der Druck darf deshalb in den kommenden Wochen und Monaten nicht nachlassen!“

Rechtsradikale AfD beantragt aktuelle Stunde

Eigentlich wollte die Linksfraktion außerdem eine aktuelle Stunde zur Chatkontrolle beantragen. Dabei gäbe es die Möglichkeit, das Thema im Parlament zu besprechen. „Doch leider platzte kurz vor uns die AfD herein und beantragte ebenfalls eine aktuelle Stunde“, so Vogtschmidt. „Das war natürlich superärgerlich. Aber einen Antrag haben die nicht. Und jetzt plötzlich populistisch auf das Thema aufzuspringen ist wenig glaubwürdig.“

Ihr geht es darum, wie man Kinder wirklich besser schützen könnte: „Die parallel verhandelte EU-Kinderschutzrichtlinie und Maßnahmen einer besseren Durchsetzung des Digital Services Act könnten dabei viel helfen, etwa um geschützte digitale Räume für Kinder zu schaffen. Aber natürlich nützt all das nichts ohne endlich mehr Aufmerksamkeit und Geld für Jugendämter, Kinder- und Jugendhilfe und digitale Bildung für alle.“

In einer Sitzung des Digitalausschusses am Mittwoch, die nicht-öffentlich stattfand, hat sich gezeigt, dass Abgeordnete aller Fraktionen gegen eine Chatkontrolle sind. Dass einer der Anträge eine Mehrheit im Bundestag findet, ist dennoch unwahrscheinlich. Aber sie setzen ein Signal dafür, wie sehr das Thema auch im Bundestag angekommen ist. Und sie weisen echte Wege auf, die zum Schutz von Kindern und Jugendlichen vor sexualisierter Gewalt beitragen können.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Der Etappensieg bei der Chatkontrolle ist das Verdienst einer quicklebendigen Zivilgesellschaft, die es geschafft hat, in klugen und unerwarteten Bündnissen die Wichtigkeit des Themas allen vor Augen zu führen. Zeit, dafür Danke zu sagen.

Der Protest gegen die Chatkontrolle zeigt, dass zivilgesellschaftliches Engagement, Aktionen, Petitionen, Anrufe und Briefe eine Wirkung haben. Alle, die sich in den letzten Tagen, Wochen und Jahren engagiert haben, spüren gerade Selbstwirksamkeit.

Sie belegen, dass mit Fakten, guten Argumenten und zivilgesellschaftlichen Bündnissen Änderungen möglich sind. Das ist eine wichtige demokratische Erfahrung, die wir in letzter Zeit viel zu selten machen. Und die Erfahrung, dass es sich lohnt, sich zu verbünden und eine wache Gesellschaft wichtige politische Anliegen auch durchsetzen kann. Lasst Euch nichts anderes erzählen.

Seit vergangenem Mittwoch ist ein Sturm über die Bundesregierung in Sachen Chatkontrolle hereingebrochen. Die hatte sich, nicht wie die Vorgängerregierung gegen die Überwachungspläne der EU positioniert – und man konnte aus Regierungskreisen sogar hören, dass eine Zustimmung zur Chatkontrolle geplant war.

Das ist nun vorbei. Noch nie war die Ablehnung der Chatkontrolle in Deutschland so breit wie heute, über alle Parteien hinweg. Man musste sich ja fast ungläubig die Augen reiben, wer jetzt alles gegen die Chatkontrolle ist. Das ist ein wunderbarer Erfolg, der die elementare Wichtigkeit privater, vertraulicher und verschlüsselter Kommunikation und ihre Bedeutung für die Demokratie untermauert. Das war ein guter Tag für Grund- und Freiheitsrechte.

Wenn viele Leute an vielen Orten…

Dass wir heute so dastehen und die Chatkontrolle weiterhin verhindern, ist das Verdienst von europäischen Bürgerrechts- und Digitalorganisationen, von Abgeordneten im Europaparlament und im Bundestag sowie ihren Mitarbeiter:innen, von Menschen, die Informationen durchstechen und Jurist:innen, welche die Finessen der Gesetzestexte erklären.

Es ist das Verdienst von Wissenschaftler:innen, die die Gefahr der Technologie erläutern und von den unterschiedlichsten Verbänden, die mit Vernunft und Weitsicht für Grund- und Freiheitsrechte kämpfen. Es ist das Verdienst von Menschen, die einfach voller Tatendrang losgelegt haben, Kampagnenseiten gebaut oder Protestplakate gemalt haben. Es ist das Verdienst der Unermüdlichen, die am Ball bleiben und der Spontanen, die einfach wütend sind.

Manche Menschen arbeiten seit mehr als vier Jahren an der Chatkontrolle, als das Thema das erste Mal aufkam. Sie fingen an, als sich niemand dafür interessierte, sie aber die Gefahr dieser Pläne sahen. Sie haben zusammen das Thema so groß und wichtig gemacht, so dass wir alle heute verstehen, was es bedeuten würde, wenn WhatsApp, Signal und alle andere digitale Kommunikation durchleuchtet würde.

Dass wir heute noch keine Chatkontrolle haben, verdanken wir Bündnissen, die es geschafft haben von der Hackerin über den Kinderschützer bis hin zum Fußballfan Menschen zu versammeln und die Brisanz des Themas zu erklären. Menschen, die sich zu gemeinsamem Tun anstecken.

So geht Demokratie, und es ist Ehre und ein Vergnügen, einen Teil dazu beizutragen. Es ist dabei egal, ob Du schon seit Jahren dabei bist oder gerade erst vor 20 Minuten die Petition unterschrieben hast. Das Zusammen der Vielen in Unterschiedlichkeit, das ist eine Stärke. Da kommen Regierungen ins Schwitzen.

Nur ein Spiel in einer langen Saison

Der Kampf um die Chatkontrolle ist noch lange nicht vorüber. Aber immerhin ist klar, dass Deutschland auf längere Sicht einem standardmäßigen anlasslosen Durchleuchten unserer privaten Kommunikation in der EU erst einmal nicht zustimmen wird. Noch ist nicht alles in trockenen Tüchern: Die Sache ist erst sicher, wenn wir die Bundesregierung dazu bringen, dass sie jegliche Form von Hintertüren oder Client-Side-Scanning dezidiert ausschließt.

Dennoch ist das Erreichte ein toller Erfolg für eine Zivilgesellschaft, die an einem Strang gezogen hat – gegen einen Angriff auf Grundrechte und Demokratie. Wir haben ganz schön ordentlich Druck gemacht!

In der EU ist die Chatkontrolle deswegen noch lange nicht vom Tisch. Derzeit steht im EU-Rat nur eine Sperrminorität von einigen Ländern, die sich der Chatkontrolle verweigern. Es wird also nötig sein, dass wir viel europäischer denken und unsere europäischen Nachbarn in Frankreich, Italien und Schweden überzeugen, dass auch sie gegen die Chatkontrolle stimmen. Politik und gemeinsame Proteste, das müssen wir in der EU viel größer zu denken als in sonst so kleinen deutschen Debatten.

Chapeau, danke und weiter so.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die breite zivilgesellschaftliche Ablehnung der Chatkontrolle und der Protest der letzten Tage haben offenbar Wirkung gezeigt. Die Bundesregierung stimmt auch unter Schwarz-Rot einer anlasslosen Chatkontrolle in der EU nicht zu. Vom Tisch ist das Thema damit noch nicht.

Die Bundesregierung hat sich in der Bundespressekonferenz am Mittwochmittag gegen eine anlasslose Chatkontrolle ausgesprochen. Ein Sprecher der Bundesregierung sagte: „Eine anlasslose Chatkontrolle ist für die Bundesregierung tabu“, sie wolle verschlüsselte Kommunikation „nicht kontrollieren“. Es gehe jetzt darum, die Ratsverhandlungen positiv zu begleiten. Darüber hinaus gebe es keine verkündbare Einigung zum Thema.

Zuvor hatte am Morgen schon Bundesjustizministerin Stefanie Hubig (SPD) mitgeteilt: „Anlasslose Chatkontrolle muss in einem Rechtsstaat tabu sein. Private Kommunikation darf nie unter Generalverdacht stehen.“ Der Staat dürfe Messenger auch nicht dazu zwingen, Nachrichten vor Versendung massenhaft auf verdächtige Inhalte zu scannen.

„Solchen Vorschlägen wird Deutschland auf EU-Ebene nicht zustimmen“, so Hubig. Zwar müsse man im Kampf gegen sogenannte Kinderpornographie auch auf EU-Ebene vorankommen. Dafür setze sie sich ein. „Aber auch die schlimmsten Verbrechen rechtfertigen keine Preisgabe elementarer Bürgerrechte. Darauf habe in den Abstimmungen der Bundesregierung seit Monaten beharrt. Und dabei wird es bleiben.“

Eine Abstimmung über die Chatkontrolle soll eigentlich am 14. Oktober in Brüssel stattfinden. Es zeichnet sich mit der Entscheidung der Bundesregierung ab, dass es keine Mehrheit im EU-Rat für den Vorschlag der dänischen Ratspräsidentschaft gibt. Das führte in der Vergangenheit immer wieder dazu, dass die Abstimmung von der Tagesordnung des EU-Rates genommen wurde.

„Bundesregierung muss Client-Side-Scanning ausschließen“

Elina Eickstädt, Sprecherin des Chaos Computer Clubs, warnt jedoch vor zu viel Euphorie. Man müsse die endgültige Position der Bundesregierung abwarten und analysieren, was diese enthalte. Die Phrase „anlassloses Scannen“ habe bereits in der Vergangenheit für Diskussionen gesorgt und könnte als juristischer Taschenspielertrick genutzt werden, um die Technologie des Client-Side-Scannings trotzdem einzubauen – um dann bei einem „Anlass“ scannen zu können.

„Eine Position, die wirklich Grundrechte schützt, muss jegliche Form von Client-Side-Scanning ausschließen und verschlüsselte Kommunikation dezidiert schützen.“ Auch Client-Side-Scanning für besondere Anlässe sorge für ein Schwächen der verschlüsselten Kommunikation, so Eickstädt weiter.

Die Positionierung der Bundesregierung hatte sich schon am Dienstagnachmittag angekündigt. Unionsfraktionsvorsitzender Jens Spahn nahm in einer Pressekonferenz ungefragt zum Thema Chatkontrolle Stellung und sagte: „Wir als CDU/CSU-Bundestagsfraktion sind gegen die anlasslose Kontrolle von Chats. Das wäre so, als würde man vorsorglich mal alle Briefe öffnen und schauen, ob da etwas Verbotenes drin ist. Das geht nicht, das wird es mit uns nicht geben.“ In diesem Statement sagte er auch, dass die Bundestagsfraktion zahlreiche Zuschriften zum Thema erreicht hätten.

Protest wirkt

Das Thema Chatkontrolle hat in den letzten Tagen hohe Wellen geschlagen und ist seit voriger Woche ein politischer Dauerbrenner in sozialen Medien, der viele Menschen mobilisiert hat. Zahlreiche zivilgesellschaftliche Organisationen haben sich in den vergangenen Tagen mit Nachdruck gegen die Chatkontrolle positioniert, darunter Amnesty International, Reporter ohne Grenzen, der Deutsche Kinderschutzbund, aber auch Wirtschaftsverbände wie eco und Bitkom sowie europäische Digital-Unternehmen. Auch Messenger wie Signal, Threema und WhatsApp sind gegen die Chatkontrolle.

Eine Petition gegen die Chatkontrolle hat innerhalb der letzten 48 Stunden fast 300.000 Unterschriften gesammelt. Das Bündnis „Chatkontrolle stoppen“ hat für den Donnerstagmorgen eine Kundgebung vor dem Bundesinnenministerium angemeldet, um die Unterschriften zu übergeben.

Seit Jahren reden sich Hunderte von IT-Expertinnen und Sicherheitsforschern, Juristinnen, Datenschützern, Digitalorganisationen, Tech-Unternehmen, Messengern, UN-Vertretern, Kinderschützern, Wächterinnen der Internetstandards und Wissenschaftlerinnen weltweit den Mund gegen die Chatkontrolle fusselig. Eine unglaubliche Breite der Zivilgesellschaft lehnt die Chatkontrolle ab, weil sie die wohl größte und gefährlichste Überwachungsmaschine Europas werden würde.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Vorgaben der EU für sehr große Online-Plattformen zu erfüllen, ist eine Herausforderung für die unkommerzielle Online-Enzyklopädie Wikipedia. Immerhin hat die viel weniger Ressourcen und ganz andere Strukturen als Digitalkonzerne. Doch es ist gelungen, findet die Wikimedia-Stiftung.

Der Digital Services Act der EU (DSA) soll Nutzenden mehr Rechte gegenüber Online-Diensteanbietern geben und die Verbreitung illegaler Inhalte oder auch Dienstleistungen eindämmen. Besonders viele Pflichten gelten dabei seit zwei Jahren für sehr große Online-Plattformen und -Suchmaschinen. Dazu gehören Digitalriesen wie Google und Meta, aber auch Plattformen wie Booking.com und LinkedIn.

Eine Plattform sticht jedoch aus der Liste der benannten Dienste heraus: die Wikipedia. Die Wikimedia Foundation, die die bekannte Online-Enzyklopädie mit geschätzt 150 Millionen Nutzenden im Monat betreibt, ist im Gegensatz zu anderen Akteuren nicht-kommerziell. Nach über zwei Jahren der Umsetzung zieht die Organisation ein erstes Fazit.

Grundsätzlich sei Wikipedia schon vor der Regulierung durch die EU sehr transparent gewesen, sagt Phil Bradley-Schmieg, leitender Rechtsberater der Wikimedia-Stiftung, bei einer Veranstaltung in Brüssel. Daher hätten die Transparenzpflichten aus dem DSA keine allzu großen Veränderungen gebracht. Schon seit zehn Jahren veröffentlicht die Stiftung hinter der Online-Enzyklopädie beispielsweise halbjährlich Transparenzberichte. Neue DSA-Vorgaben betrafen jedoch Transparenz über Inhaltsmoderation. Die Stiftung hat zudem eine zusätzliche Kontaktmöglichkeit geschaffen und Forschende können neuerdings Zugang zu benötigten Daten beantragen – alles Anforderungen des DSA.

Die größte Neuerung ist jedoch die Bewertung von systemischen Risiken und die Bestimmung von Gegenmaßnahmen, die laut dem EU-Gesetz jährlich vorgenommen werden müssen. Die Stiftung ging dabei nach einem Trichter-System vor. „Wir haben mit den uns bekannten globalen Risiken angefangen“, erklärt Bradley-Schmieg. Grundlage waren unter anderem die etablierte Menschenrechtsfolgenabschätzung, Rückmeldungen von Ehrenamtlichen und der Digital Services Act selbst.

Im nächsten Schritt identifizierte die Stiftung, welche Risiken relevant für ihre Plattform und die EU sind – schließlich gilt der DSA nur hier. Mittlerweile bekommen sie auch Input aus der Forschung und der Zivilgesellschaft. In Gesprächsrunden mit anderen DSA-regulierten Plattformen hat sich die Wikimedia-Stiftung ebenfalls zu möglichen Risiken und ihrer Minderung ausgetauscht.

Desinformation als größtes Risiko

Anschließend beschrieb und analysierte Wikimedia die Risiken in einer Matrix. Besonders dringlich erschien der Stiftung, dass Desinformation zu Konflikten, zu Wahlen sowie zu geografischen und historischen Narrativen über die Wikipedia verbreitet werden könnte.

Solche Versuche kommen in der Wikipedia immer wieder vor. Alle können die Enzyklopädie editieren und so versuchten etwa in der Pandemie Corona-Leugner:innen, Einträge nach ihren Ansichten zu formen. Auch Artikel zur Zeit des Nationalsozialismus oder zu Politiker:innen sind regelmäßig Ziel von Rechtsextremen und anderen, die ihre Ideologie verbreiten wollen. Dagegen gibt es verschiedene Schutzmechanismen: von Tools, die verdächtige Bearbeitungen melden sollen, bis hin zu Beschränkungen, wer bestimmte Artikel editieren darf.

Auch die Belästigung von Wikipedia-Ehrenamtlichen wird als hohes Risiko eingestuft. Eine mittlere Dringlichkeit sieht Wikimedia bei den Risiken für gefährliche Inhalte, sogenannte Kinderpornografie, terroristische oder extremistische Inhalte. Die Verbreitung von Desinformation mittels generativer KI hatte zum Zeitpunkt der Einschätzung noch geringere Priorität. Jedoch scheint sich dies mit der zunehmenden Nutzung entsprechender Tools zu wandeln.

Gleichzeitig könne generative KI die Ehrenamtlichen dabei unterstützen, gegen gezielte Desinformation auf Wikipedia vorzugehen, meint Ricky Gaines, Leiter für Menschenrechtspolitik der Wikimedia-Stiftung. Er ergänzt, dass die Umsetzung von Änderungen bei Wikipedia etwas länger dauern kann als bei anderen Plattformen. Ihr Modell der gemeinsamen Verwaltung nehme mehr Zeit in Anspruch als klassische Top-Down-Strukturen. Nutzende diskutieren viele Regeln gemeinsam aus, Abstimmungen brauchen Zeit, damit sich alle beteiligen können. Auch sein Kollege Bradley-Schmieg merkt an, dass viele Gesetze nicht für Bottom-Up-Modelle gemacht seien.

Begrenzte Ressourcen

Ein besonders aufwendiger Teil der Regulierung ist der jährlich verpflichtende externe Audit zur Bewertung der Risiken und Gegenmaßnahmen. Bradley-Schmieg zufolge sei das sehr schwer und ressourcenintensiv gewesen. Das ist eins der zwei Probleme, die sich für die Stiftung mit dem DSA ergeben: Durch den neuen bürokratischen Aufwand fehlten die Ressourcen an anderer Stelle, etwa für die Verbesserung technischer Features oder die Unterstützung der Wikipedia-Communitys. Als gemeinnützige Organisation verfügten sie ohnehin nicht über große finanzielle Ressourcen.

Der zweite Aspekt betrifft die von der EU vorgegebenen Fristen, die sich nicht immer mit der internen Zeitplanung der Stiftung vereinbaren ließen. Die Fristen sind jedoch unflexibel. Trotzdem zieht Rebecca MacKinnon, Sonderberaterin im Bereich der Globalen Interessenvertretung der Wikimedia-Stiftung, ein positives Fazit: „Der Digital Services Act besteht den Wikipedia-Test. Er hat sie nicht gebrochen.“

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Überraschend kündigte am Dienstagnachmittag der Fraktionsvorsitzende der CDU/CSU an, dass es eine anlasslose Kontrolle von Chats mit der Union nicht geben würde. Das Innenministerium sagt, die Abstimmung sei noch nicht abgeschlossen.

Die Unionsfraktion im Bundestag stellt sich gegen eine anlasslose Überwachung von Chats und damit gegen die Chatkontrolle, die am 14. Oktober im EU-Rat abgestimmt werden soll.

Bei einer Pressekonferenz am Dienstagnachmittag sagte der Fraktionsvorsitzende der Union, Jens Spahn: „Wir als CDU/CSU-Bundestagsfraktion sind gegen die anlasslose Kontrolle von Chats. Das wäre so, als würde man vorsorglich mal alle Briefe öffnen und schauen, ob da etwas Verbotenes drin ist. Das geht nicht, das wird es mit uns nicht geben.“

Gleichzeitig sei klar, dass Kindesmissbrauch bekämpft und geahndet können werden müsse. Deswegen sei es auch grundsätzlich gut, dass die Europäische Union sich dieses Themas annehme. „Am Ende muss gelingen, dass die Verordnung, die geplant ist auf europäischer Ebene, Kinder wirksam schützt, ohne dabei die Sicherheit und die Vertraulichkeit individueller Kommunikation zu gefährden“, so Spahn weiter.

„Abstimmung noch nicht abgeschlossen“

Was das für die bis morgen erwartete Einigung der Bundesregierung bedeutet, ist noch unklar. Ein Sprecher des Bundesinnenministeriums sagte gegenüber netzpolitik.org, die Abstimmung innerhalb der Bundesregierung über eine Positionierung zum aktuellen Verordnungsentwurf sei noch nicht abgeschlossen. Zu laufenden Abstimmungen äußere sich das Ministerium grundsätzlich nicht. Das Bundesjustizministerium antwortete nicht auf eine Presseanfrage von netzpolitik.org zum Thema.

Elina Eickstädt, Sprecherin des CCC und Teil des Bündnisses „Chatkontrolle stoppen“ warnt allerdings: „Auch wenn Jens Spahn sich gegen die Chatkontrolle ausspricht, entscheiden letztendlich BMI und BMJ über die Positionierung der Bundesregierung.“ Entscheidend sei nicht nur das der dänische Vorschlag am 14. Oktober abgelehnt werde, sondern auch, dass sich die Bundesregierung generell gegen Client-Side-Scanning positioniere.

Union bekommt viele Zuschriften zur Chatkontrolle

Das Thema Chatkontrolle hat in den letzten Tagen hohe Wellen geschlagen und ist seit letzter Woche ein politischer Dauerbrenner in sozialen Medien, der viele Menschen mobilisiert hat. Jens Spahn bestätigte in der Pressekonferenz auch, dass die Unionsfraktion viele Zuschriften zum Thema erreichen würden. Auch der bayerische Digitalminister Fabian Mehring (Freie Wähler) sowie der CSU-Europaageordnete Christian Doleschal sprachen sich nun gegen die Chatkontrolle aus.

Zahlreiche zivilgesellschaftliche Organisationen haben sich in den letzten Tagen mit Nachdruck gegen die Chatkontrolle positioniert, darunter Amnesty International, Reporter ohne Grenzen, der Deutsche Kinderschutzbund, aber auch Wirtschaftsverbände wie eco und Bitkom sowie europäische Digital-Unternehmen. Auch Messenger wie Signal, Threema und WhatsApp sind gegen die Chatkontrolle.

Seit Jahren reden sich Hunderte von IT-Expertinnen und Sicherheitsforschern, Juristinnen, Datenschützern, Digitalorganisationen, Tech-Unternehmen, Messengern, UN-Vertretern, Kinderschützern, Wächterinnen der Internetstandards und Wissenschaftlerinnen weltweit den Mund gegen die Chatkontrolle fusselig. Eine unglaubliche Breite der Zivilgesellschaft lehnt die Chatkontrolle ab, weil sie die größte und gefährlichste Überwachungsmaschine Europas werden würde.

Zivilgesellschaft mobilisiert gegen Chatkontrolle

Das Bündnis „Chatkontrolle stoppen“ ruft derzeit dazu auf, für die Abstimmung relevante Personen und Organisationen zu kontaktieren. Das sind vor allem die an der deutschen Positionsfindung beteiligten Bundesministerien sowie die Fraktionen und Abgeordneten der Regierungsparteien im Bundestag. Am besten wirken direkte E-Mails und Telefonanrufe oder auch rechtzeitig ankommende Briefe. Auf der Website des Bündnisses gibt es Tipps und Adressen, um selbst aktiv zu werden.

Gleichzeitig hat das Bündnis eine Last-Minute-Petition gestartet, in der es die Bundesregierung auffordert, sich im EU-Rat gegen die Chatkontrolle zu stellen.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Mit dem kommentarlosen Abschalten des Archivs hat Google nicht nur eine signifikante Datenquelle für zivilgesellschaftliche und wissenschaftliche Analysen von politischen Kampagnen zerstört. Die Löschung der eigenen Werbebibliothek durch Google erschwert auch die Arbeit von Aufsichtsbehörden. Ein Kommentar.

Dieser Text erschien zuerst bei D 64 und steht unter der Lizenz CC BY-SA 4.0. Wir haben den Text mit einem Statement von Google ergänzt.

Ohne Vorwarnung scheint Google seine Bibliothek politischer Werbeanzeigen in der Europäischen Union abgeschaltet zu haben. Über die Werbebibliothek konnte nachverfolgt werden, welche politischen Anzeigen seit 2018 über Googles Dienste geschaltet wurden. Damit war die von Google unterhaltene Website ein zentrales Instrument, um die Verbreitung und die Inhalte politischer Werbekampagnen untersuchen und verfolgen zu können. Während sich in der Sammlung politischer Anzeigen andere Regionen wie Brasilien, Israel oder Großbritannien auswählen lassen, sind die 27 EU-Mitgliedstaaten nicht mehr verfügbar.

„Alle bisher im Report aufgeführten EU-Wahlwerbeanzeigen bleiben weiterhin im Google Ads Transparency Center öffentlich zugänglich – vorbehaltlich der geltenden Aufbewahrungsrichtlinien“, schreibt Google dazu auf eine Anfrage von netzpolitik.org. Der EU Political Ads Transparency Report werde jedoch nicht mehr verfügbar sein.

Bis vor wenigen Tagen konnten Nutzer:innen über Googles Werbearchiv nachverfolgen, welche politischen Anzeigen in ihrem Land geschaltet wurden. Bis 2018 konnte man nachvollziehen, welche Parteien auf welchen Plattformen Anzeigen geschaltet hatten; einzelne Anzeigen konnten über eine Stichwortsuche gefunden und angesehen werden. Auch die angesprochenen Zielgruppen und wie viel Geld für die Kampagnen ausgegeben wurde, wurden dargestellt.

Heute lassen sich die Anzeigen zwar finden, etwa wenn man nach Parteien sucht. Ihr politischer Charakter wird jedoch nicht direkt sichtbar. So wie beispielhaft bei einer Wahlwerbung der SPD für eine Bundestagskandidatin. Dort lautet das von Google vergebene Label: „Hobbys, Spiele und Freizeitaktivitäten“.

Obwohl die Werbebibliothek bei Weitem nicht perfekt war, bot sie zumindest Anhaltspunkte, um nachvollziehen zu können, wie politische Akteure versuchen, Diskurse rund um Wahlen und gesellschaftlich relevante Themen zu gestalten. Die Bibliothek war somit nicht nur eine Sammlung von Online-Werbung, sondern auch ein Archiv demokratischer Willensbildung.

Google hat eine wichtige Datenquelle zerstört

Mit dem kommentarlosen Abschalten des Archivs hat Google nicht nur eine signifikante Datenquelle für zivilgesellschaftliche und wissenschaftliche Analysen von politischen Kampagnen zerstört. Die Löschung der eigenen Werbebibliothek durch Google wird auch die Arbeit von Aufsichtsbehörden in den kommenden Monaten sehr viel herausfordernder machen.

Hintergrund scheint Googles Ankündigung zu sein, in der Europäischen Union keine politische Werbung mehr über seine Dienste ausspielen zu wollen. Als Grund wird die bald greifende EU-Verordnung zu Transparenz und Targeting bei politischer Werbung angegeben. Die im April 2024 in Kraft getretene und ab dem 10. Oktober 2025 geltende Verordnung verpflichtet Anbieter, die ausdrückliche Einwilligung von Datensubjekten einzuholen, bevor ihre Daten zum Targeting verwendet werden dürfen.

Angesichts der weitverbreiteten „Consent Fatigue“ und der Einsicht, dass die Hürde der Einwilligung nur einigen wenigen Privilegierten, die die nötigen Ressourcen und Zeit haben, sich mit Cookie-Bannern und Einwilligungs-Screens auseinanderzusetzen, Schutz vor der Verarbeitung persönlicher Daten bietet, ist es enttäuschend, dass die Verordnung in diesem Punkt zu kurz greift. Relevanter ist, dass das Targeting und Profiling auf Grundlage sensibler persönlicher Daten wie Name, Geschlecht oder Religionszugehörigkeit ausnahmslos verboten werden. Auch Personen, die das jeweilige Wahlalter noch nicht erreicht haben, dürfen keine personalisierten Anzeigen ausgespielt bekommen.

Die Besonderheit der Verordnung ist jedoch, dass sie erstmals definiert, was politische Werbung überhaupt ist. Dabei wird klargestellt, dass nicht nur Anzeigen von politischen Kandidat:innen oder Parteien unter die Definition fallen, sondern auch Werbeanzeigen, die politische Themen betreffen, sogenannte „issue ads“. Anzeigen zu gesellschaftlichen Themen wie Klimawandel, körperlicher Selbstbestimmung oder dem Krieg in Gaza fallen somit in die Kategorie der politischen Werbung.

Keine politischen Anzeigen mehr bei Google und Meta

Angesichts dieser (geringfügigen) Einschränkungen ihrer Geschäftsmodelle haben sowohl Google als auch Meta angekündigt, in Zukunft keine politischen Anzeigen mehr in der EU ausspielen zu wollen – zu groß seien die Beschränkungen der Targeting-Möglichkeiten, und zu aufwendig sei es, „issue ads“ zu identifizieren. Paradoxerweise bedeutet aber auch die Ankündigung der Konzerne, in Zukunft keine politische Werbung mehr ausspielen zu wollen, „issue ads“ identifizieren zu müssen. Nur so könnten sie aussortiert und blockiert werden, um nicht in den Anwendungsbereich der Verordnung über politische Werbung zu fallen.

Durch das Wegfallen des Archivs zu politischer Werbung wird es für die Zivilgesellschaft und die Aufsichtsbehörden jedoch schwieriger, zu überprüfen, welche Anzeigen der Konzern in der Vergangenheit als politische Werbung eingestuft hat und welche nicht mehr geschaltet werden. Google ist für die mangelhafte Umsetzung seiner eigenen Werberichtlinien bekannt und es ist nicht unwahrscheinlich, dass es vielen Akteuren auch weiterhin gelingen wird, politische Anzeigen über Google zu schalten. Gleichzeitig wird das durch Meta und Google beschlossene de-facto-Moratorium für politische Werbung in der EU es zivilgesellschaftlichen und oppositionellen Kräften in Zukunft sehr viel schwieriger machen, ihre Botschaften zu verbreiten.

Erschwerte Kontrolle

Wer also in Zukunft verstehen möchte, wie politische Werbung demokratische Diskurse in der EU beeinflusst, muss die Nadel im Heuhaufen von Googles allgemeiner Werbebibliothek suchen, zu deren Einführung der Digital Services Act verpflichtet hat. Diese Datenbank fällt vor allem durch ihre Begrenztheit auf; es fehlen stichhaltige Informationen über das Targeting von Nutzer:innen und die Budgets von Werbekampagnen. Durch das Löschen der eigenen Werbebibliothek für politische Anzeigen schafft Google die Fiktion, nie politische Werbung in der EU angeboten zu haben. Der Konzern baut so Transparenz ab, verhindert zivilgesellschaftliche und wissenschaftliche Forschung und erschwert es Aufsichtsbehörden, zu überprüfen, ob er gegen die Auflagen der Verordnung zu Transparenz und Targeting bei politischer Werbung verstößt.

Dieses Beispiel zeigt erneut, dass Transparenz und gesellschaftliche Verantwortung nicht den Launen von Konzernen überlassen werden dürfen. Die Assimilierung der US-Tech-Konzerne an die Werte der Trump-Regierung hat eindrucksvoll demonstriert, wie schnell sich solche Launen ändern können. Anstatt uns also mit halbgaren Transparenzinitiativen abspeisen zu lassen, müssen wir auf echte Veränderung setzen. Ein Verbot personalisierter Werbung, das Ende des Einwilligungs-Theaters und lückenlose Transparenz, die ihren Namen verdient. In der Zwischenzeit sollten wir damit rechnen, dass dies nicht die letzte Transparenzinitiative war, die eingestampft wurde.

Hinweis: Svea Windwehr ist Co-Vorsitzende von D64. Von 2021 bis 2023 arbeitete sie für Google Deutschland.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Mehr als 40 europäische Internetfirmen und ein großer digitaler Unternehmensverband schlagen Alarm wegen der Chatkontrolle. Sie sehen durch die Überwachungspläne Nachteile für den Standort Europa.

Mehr als 40 Internetunternehmen aus ganz Europa sowie der Verband European DIGITAL SME Alliance, der 45.000 Unternehmen vertritt, haben sich in einem offenen Brief gegen die Chatkontrolle in der CSA-Verordnung gestellt. Sie fordern die Minister der EU-Länder auf, am 14. Oktober alle Maßnahmen abzulehnen, die die Implementierung von clientseitigem Scannen, Hintertüren oder Massenüberwachung privater Kommunikation erzwingen würden.

Solche Maßnahmen stehen derzeit im Gesetzesvorschlag der dänischen Ratspräsidentschaft. Die Bundesregierung hatte bislang solche Maßnahmen im EU-Rat abgelehnt, sich aber in letzter Zeit nicht mehr zu dieser Position bekannt. Nach Informationen von netzpolitik.org und D64 soll eine Entscheidung der Bundesregierung bis Mittwoch fallen.

Laut den unterzeichnenden Unternehmen mache der Ansatz der dänischen Ratspräsidentschaft das Internet nicht nur für alle unsicherer, sondern untergrabe auch das strategische Ziel der EU, ein höheres Maß an digitaler Souveränität zu erreichen. Das liege unter anderem daran, dass europäische Firmen mit der Chatkontrolle gezwungen würden, ihre Sicherheitsstandards zu untergraben, und sich Nutzer:innen dann anderen Anbietern zuwenden würden, die sich nicht an die Chatkontrolle-Regeln halten müssten. Das wiederum mache Europa abhängiger.

Schwächung der nationalen Sicherheit befürchtet

Zugleich werde die nationale Sicherheit der Staaten in Europa geschwächt, weil durch die Chatkontrolle geschaffene Hintertüren oder andere Scanning-Technologien zu Schwachstellen in der IT führten, die von feindlichen staatlichen Akteuren und Kriminellen ausgenutzt werden könnten, heißt es weiter im offenen Brief.

Der Brief weist zudem darauf hin, dass die Verpflichtung zum Scannen und Durchsuchen insbesondere kleine und mittlere Unternehmen (KMU) stärker benachteiligen würde. „Im Gegensatz zu großen Technologiekonzernen verfügen KMU oft nicht über die finanziellen und technischen Ressourcen, um Überwachungsmechanismen zu entwickeln und zu unterhalten, was bedeutet, dass die Einhaltung der Vorschriften unverhältnismäßige Kosten nach sich ziehen oder zum Marktaustritt zwingen würde“, so die Unterzeichnenden.

„EU muss Verschlüsselung schützen“

Digitale Souveränität könne nicht erreicht werden, wenn Europa die Sicherheit und Integrität seiner eigenen Unternehmen untergrabe, indem es clientseitiges Scannen oder andere ähnliche Werkzeuge oder Methoden vorschreibe. „Um in der globalen digitalen Wirtschaft führend zu sein, muss die EU den Datenschutz, das Vertrauen und die Verschlüsselung schützen“, so die Unternehmen.

Europäische Unternehmen böten ein Höchstmaß an Datenschutz und Privatsphäre, deswegen würden sich Kund:innen für diesen Unternehmen entscheiden und nicht für Big Tech. Die Chatkontrolle würde das untergraben. „Dies wird die europäische Innovation ersticken und die Dominanz ausländischer Anbieter zementieren“, so die Unternehmen.

Die Unterzeichnenden fordern die EU-Minister auf, die Chatkontrolle aus der Verordnung zu nehmen und stattdessen Maßnahmen zum Kinderschutz zu verabschieden, die wirksam und verhältnismäßig sind und mit Europas strategischem Ziel der digitalen Souveränität vereinbar seien.

Zivilgesellschaft mobilisiert gegen die Chatkontrolle

Die Verfasser:innen des Briefes stehen mit ihrer Ablehnung nicht allein. Seit Jahren reden sich Hunderte von IT-Expertinnen und Sicherheitsforschern, Juristinnen, Datenschützern, Digitalorganisationen, Tech-Unternehmen, Messengern, UN-Vertretern, Kinderschützern, Wächterinnen der Internetstandards, Wissenschaftlerinnen weltweit den Mund gegen die Chatkontrolle fusselig. Eine unglaubliche Breite der Zivilgesellschaft lehnt die Chatkontrolle ab, weil sie die größte und gefährlichste Überwachungsmaschine Europas werden würde.

Das Bündnis „Chatkontrolle stoppen“ ruft derzeit dazu auf, für die Abstimmung relevante Personen und Organisationen zu kontaktieren. Das sind vor allem die an der deutschen Positionsfindung beteiligten Bundesministerien sowie die Fraktionen und Abgeordneten der Regierungsparteien im Bundestag. Am besten wirken direkte E-Mails und Telefonanrufe oder auch rechtzeitig ankommende Briefe. Auf der Website des Bündnisses gibt es Tipps und Adressen, um selbst aktiv zu werden.

Gleichzeitig hat das Bündnis eine Last-Minute-Petition gestartet, in der es die Bundesregierung auffordert, sich im EU-Rat gegen die Chatkontrolle zu stellen.

Dokument

Offener Brief an die EU-Mitgliedstaaten zur vorgeschlagenen CSA Verordnung

Sehr geehrte Minister und Botschafter der EU-Mitgliedstaaten,

wir, die unterzeichnenden europäischen Unternehmen, sowie die European DIGITAL SME Alliance – die mehr als 45.000 digitale KMU in ganz Europa vertritt – schreiben Ihnen mit großer Besorgnis über die vorgeschlagene Verordnung zum sexuellen Kindesmissbrauch (CSA). Der Schutz von Kindern und die Gewährleistung, dass jeder in unseren Diensten und im Internet im Allgemeinen sicher ist, stehen im Mittelpunkt unserer Mission als datenschutzorientierte Unternehmen. Wir betrachten den Schutz der Privatsphäre als ein Grundrecht, das das Vertrauen, die Sicherheit und die Freiheit im Internet für Erwachsene und Kinder gleichermaßen gewährleistet. Wir sind jedoch davon überzeugt, dass der derzeitige Ansatz der dänischen Ratspräsidentschaft das Internet nicht nur für alle unsicherer macht, sondern auch eines der wichtigsten strategischen Ziele der EU untergräbt: ein höheres Maß an digitaler Souveränität zu erreichen.

Digitale Souveränität ist die strategische Zukunft Europas

In einer zunehmend instabilen Welt muss Europa in der Lage sein, seine eigene sichere digitale Infrastruktur, Dienste und Technologien im Einklang mit den europäischen Werten zu entwickeln und zu kontrollieren. Die einzige Möglichkeit, diese Risiken zu mindern, besteht darin, innovative europäische Technologieanbieter zu unterstützen.

Digitale Souveränität ist aus zwei Hauptgründen wichtig:

• Wirtschaftliche Unabhängigkeit: Die digitale Zukunft Europas hängt von der Wettbewerbsfähigkeit seiner eigenen Unternehmen ab. Würde man jedoch europäische Dienste dazu zwingen, ihre Sicherheitsstandards zu untergraben, indem sie alle Nachrichten, auch verschlüsselte, mittels clientseitigem Scannen überprüfen, würde dies die Sicherheit der Nutzer im Internet untergraben und den hohen europäischen Datenschutzstandards zuwiderlaufen. Daher werden europäische Nutzer – Privatpersonen wie Unternehmen – und Kunden aus aller Welt das Vertrauen in unsere Dienste verlieren und sich ausländischen Anbieter zuwenden. Dies wird Europa noch abhängiger von amerikanischen und chinesischen Tech-Giganten machen, die sich derzeit nicht an unsere Regeln halten, und die Wettbewerbsfähigkeit der EU mindern.
• Nationale Sicherheit: Die Verschlüsselung ist für die nationale Sicherheit unerlässlich. Die Forderung nach Hintertüren oder anderen Scanning-Technologien schafft unweigerlich Schwachstellen, die von feindlichen staatlichen Akteuren und Kriminellen ausgenutzt werden können und werden. Genau aus diesem Grund haben sich die Regierungen selbst von den vorgeschlagenen CSA-Scan-Verpflichtungen befreit. Dennoch werden viele sensible Informationen von Unternehmen, Politikern und Bürgern gefährdet sein, sollte die CSA-Verordnung verabschiedet werden. Sie wird die Fähigkeit Europas schwächen, seine kritischen Infrastrukturen, seine Unternehmen und seine Bürger zu schützen.

Die CSA-Verordnung wird das Vertrauen in europäische Unternehmen untergraben

Vertrauen ist ein Wettbewerbsvorteil für Europa. Dank der Datenschutz-Grundverordnung und der starken europäischen Datenschutzgesetzgebung haben europäische Unternehmen Dienste entwickelt, auf deren Datenschutz, Sicherheit und Integrität sich Nutzer weltweit verlassen. Dieser Ruf ist hart erarbeitet und verschafft den in Europa ansässigen Diensten ein Alleinstellungsmerkmal, mit dem die großen Tech-Monopole nicht mithalten können. Dies ist einer der wenigen, wenn nicht sogar der einzige Wettbewerbsvorteil, den Europa im Technologiesektor gegenüber den USA und China hat, doch die CSA-Verordnung droht diesen Erfolg zunichtezumachen.

Dieser Gesetzesentwurf würde die europäischen ethischen und auf den Schutz der Privatsphäre ausgerichteten Dienste schaden, indem er sie zwingt, genau die Sicherheitsgarantien zu schwächen, die europäische Unternehmen international auszeichnen. Dies ist besonders problematisch in einem Kontext, in dem die US-Regierung ihren Unternehmen ausdrücklich verbietet, die Verschlüsselung zu schwächen, selbst wenn dies durch EU-Recht vorgeschrieben ist.

Letztendlich wird die CSA-Verordnung ein Segen für US-amerikanische und chinesische Unternehmen sein, da sie Europa dazu bringt, seinen einzigen Wettbewerbsvorteil aufzugeben und die Türen für Big Tech noch weiter zu öffnen.

Widersprüche schwächen Europas digitale Ambitionen

Die EU hat sich verpflichtet, die Cybersicherheit durch Maßnahmen wie die NIS2, den Cyber Resilience Act und den Cybersecurity Act zu stärken. Diese Maßnahmen erkennen die Verschlüsselung als wesentlich für die digitale Unabhängigkeit Europas an. Die CSA-Verordnung darf diese Errungenschaften jedoch nicht untergraben, indem sie systemische Schwachstellen vorschreibt.

Es ist inkohärent, wenn Europa mit der einen Hand in die Cybersicherheit investiert und mit der anderen Hand Gesetze gegen sie erlässt.

Die europäischen KMU werden am stärksten betroffen sein

Kleine und mittlere Unternehmen (KMU) wären am stärksten betroffen, wenn sie verpflichtet würden, clientseitiges Scannen einzuführen. Im Gegensatz zu großen Technologiekonzernen verfügen KMU oft nicht über die finanziellen und technischen Ressourcen, um Überwachungsmechanismen zu entwickeln und zu unterhalten, was bedeutet, dass die Einhaltung der Vorschriften unverhältnismäßige Kosten nach sich ziehen oder zum Marktaustritt zwingen würde. Darüber hinaus bauen viele KMU ihre einzigartige Marktposition darauf auf, dass sie ein Höchstmaß an Datenschutz und Privatsphäre bieten, was insbesondere in Europa für viele ein entscheidender Faktor dafür ist, dass sie sich für ihre Produkte entscheiden und nicht für die Produkte von Big Tech. Eine Verpflichtung zum clientseitigen Scannen würde dieses zentrale Versprechen vieler europäischer Unternehmen untergraben.

Dies wird die europäische Innovation ersticken und die Dominanz ausländischer Anbieter zementieren. Anstatt ein lebendiges, unabhängiges digitales Ökosystem aufzubauen, riskiert Europa, seine eigenen Unternehmen per Gesetz aus dem Markt zu drängen.

Aus diesen Gründen fordern wir Sie auf:

• Lehnen Sie Maßnahmen ab, die die Implementierung von clientseitigem Scannen, Hintertüren oder Massenüberwachung privater Kommunikation erzwingen würden, wie wir sie derzeit im dänischen Vorschlag sehen.
• Schutz der Verschlüsselung zur Stärkung der europäischen Cybersicherheit und digitalen Souveränität.
• Bewahren Sie das Vertrauen, das europäische Unternehmen international aufgebaut haben.
• Stellen Sie sicher, dass EU-Regulierung die Wettbewerbsfähigkeit der europäischen KMUs stärkt, anstatt sie zu untergraben.
• Verabschieden Sie Maßnahmen zum Kinderschutz, die wirksam und verhältnismäßig sind und mit Europas strategischem Ziel der digitalen Souveränität vereinbar sind.

Digitale Souveränität kann nicht erreicht werden, wenn Europa die Sicherheit und Integrität seiner eigenen Unternehmen untergräbt, indem es clientseitiges Scannen oder andere ähnliche Tools oder Methoden vorschreibt, die zum Scannen verschlüsselter Daten entwickelt wurden. Technologieexperten haben erneut bestätigt, dass dies nicht möglich ist, ohne die Verschlüsselung zu schwächen oder zu untergraben. Um in der globalen digitalen Wirtschaft führend zu sein, muss die EU den Datenschutz, das Vertrauen und die Verschlüsselung schützen.

Unterzeichner:

• Blacknight (Irland)
• Commown (Frankreich)
• CryptPad (Frankreich)
• Ecosia (Deutschland)
• Element (Deutschland)
• E-Foundation (Frankreich)
• European Digital SME Alliance (EU-Wirtschaftsverband, der 45.000 KMU in der EU vertritt)
• Anwaltskanzlei Fabiano (Italien)
• FlokiNET (Island)
• FFDN (Frankreich)
• Gentils Nuages (Frankreich)
• Hashbang (Frankreich)
• Heinlein Group (Deutschland)
• LeBureau.coop (Frankreich)
• Logilab (Frankreich)
• mailbox (Deutschland)
• Mailfence (Belgien)
• Mailo (Frankreich)
• Murena (Frankreich)
• Nextcloud (Deutschland)
• Nord Security (Litauen)
• Nym (Frankreich / Schweiz)
• Octopuce (Frankreich)
• Olvid (Frankreich)
• OpenCloud (Deutschland)
• OpenTalk (Deutschland)
• Phoenix R&D (Deutschland)
• Proton (Schweiz)
• Skylabs (Irland)
• SMSPool (Niederlande)
• Sorware Ay (Finnland)
• Soverin (Niederlande)
• Startmail (Niederlande)
• Surfshark (Niederlande)
• TeleCoop (Frankreich)
• The Good Cloud (Niederlande)
• Tuta Mail (Deutschland)
• Volla Systeme GmbH (Deutschland)
• WEtell (Deutschland)
• Wire (Schweiz)
• XWiki SAS (Frankreich)
• zeitkapsl (Österreich)

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Stimmen gegen die Chatkontrolle werden mehr und lauter. Nun hagelt es deutliche Kritik aus der Wirtschaft. Zudem warnen der Deutsche Journalistenverband und der Anwaltverein vor einer Überwachungsinfrastruktur, die schnell ausgebaut werden könnte.

Zwei große Verbände der Digitalwirtschaft, Bitkom und eco, haben sich beide klar gegen die Chatkontrolle ausgesprochen. Damit stehen nun nicht nur unzählige zivilgesellschaftliche Organisationen, zu denen der Kinderschutzbund gehört, sowie Vertreter:innen aus der Wissenschaft, sondern auch die Digitalwirtschaftsvertreter:innen deutlich gegen eine Chatkontrolle.

Bei der Abstimmung im EU-Rat am 14. Oktober über den Vorschlag der dänischen Ratspräsidentschaft, der die Chatkontrolle enthält, ist die Haltung der deutschen Bundesregierung maßgeblich. Bislang war sie gegen die Pläne gewesen, in letzter Zeit nach dem Regierungswechsel war ihre Haltung jedoch unklar. Laut Informationen von netzpolitik.org und D64 will sich die Bundesregierung heute auf eine Position einigen.

Der Digitalverband Bitkom, der mehr als 2.200 Unternehmen vertritt, unterstützt das grundsätzliche Ziel, Kinder in der digitalen und analogen Welt besser zu schützen, präventiv aktiv zu werden sowie die Verfolgung der Täter zu verstärken. „Gleichwohl greift der aktuelle Vorschlag zu tief und in unverhältnismäßiger Weise in die Grundrechte der EU-Bürgerinnen und -Bürger auf geschützte Kommunikation ein, ohne dass sich dadurch der Schutz der Kinder verbessern würde“, sagt Bitkom-Hauptgeschäftsführer Dr. Bernhard Rohleder gegenüber netzpolitik.org.

„Eine generelle und flächendeckende Überwachungsmaßnahme lehnen wir ab“

Der Verband weist auf das Problem hin, dass aufgrund der schieren Masse an Nachrichten täglich unzählige Inhalte mit falschpositiven oder falschnegativen Bewertungen händisch geprüft werden müssten. „Nutzerinnen und Nutzer von Messenger-Diensten müssten also immer damit rechnen, dass jemand ihre Kommunikation mitliest“, so Rohleder. Kurznachrichten und Messenger seien aber Räume für geschützte, verschlüsselte private Kommunikation – und müssen dies auch bleiben. „Eine generelle und flächendeckende Überwachungsmaßnahme jeglicher privater digitaler Korrespondenz lehnen wir ab“, so der Verband weiter.

Statt Massenüberwachung fordert Bitkom eine technisch und personell bessere Ausrüstung von Polizei und Strafverfolgungsbehörden sowie technisch versiertes Personal. Es sei wichtig, dass die Europäische Kommission in Kooperation mit Zivilgesellschaft und Wirtschaft Ansätze zum Schutz der Kinder ausarbeite.

„Grundrechtswidrig, technisch fehlgeleitet und sicherheitspolitisch gefährlich“

Der Verband der Internetwirtschaft eco, der 1.100 Unternehmen aus der Branche vertritt, hat sich gestern ebenso sowohl im Interview mit netzpolitik.org wie auch in einer Pressemitteilung klar gegen die Chatkontrolle ausgesprochen. Klaus Landefeld aus dem Vorstand von eco sagt:

Ein ‚Kompromiss‘, der das anlasslose Scannen privater Kommunikation festschreibt – ob nur nach bekannten oder auch nach unbekannten Inhalten – ist keiner. Er bleibt grundrechtswidrig, technisch fehlgeleitet und sicherheitspolitisch gefährlich. Wer Verschlüsselung schwächt, schwächt immer auch den Schutz von Bürger:innen, Unternehmen und kritischen Infrastrukturen.

Deutschland müsse deswegen im EU-Rat klar „Nein“ sagen, so Landefeld weiter. Der Verband eco fordert statt der Chatkontrolle eine Stärkung bewährter Strukturen, damit meint er unter anderem die konsequente internationale Löschung von Missbrauchsdarstellungen sowie schnellere Rechtshilfe und enge Zusammenarbeit mit Beschwerdestellen und Strafverfolgung. Zudem müsse ein Fokus auf Prävention und Ermittlungen gesetzt werden. Hierfür brauche es Ressourcen für verdeckte Ermittlungen gegen Täterstrukturen, Mittel für den Opferschutz und Investitionen in Medienkompetenz und Beratung.

Warum ist Chatkontrolle so gefährlich für uns alle?

Journalisten- und Anwaltsverbände gegen Chatkontrolle

Auch der Deutsche Journalisten-Verband (DJV) hat sich gegen die Chatkontrolle gestellt. Er „lehnt diese Form anlassloser Massenüberwachung ab. Denn sie würde eine Infrastruktur schaffen, die in wenigen Handgriffen auch zur politischen Kontrolle genutzt werden könnte“, heißt es in einem Blogbeitrag. Wer jetzt schweige, riskiere den Verlust einer zentralen demokratischen Infrastruktur: der freien, verschlüsselten Kommunikation.

Zuletzt hatte sich schon Reporter ohne Grenzen gegen die Chatkontrolle ausgesprochen. Gegenüber netzpolitik.org erneuerte Anja Osterhaus, Geschäftsführerin von Reporter ohne Grenzen, ihre Kritik: „Der Vorschlag der dänischen Ratspräsidentschaft, anlasslos die gesamte private Kommunikation zu durchleuchten, hätte schwerwiegende Folgen für die Pressefreiheit.“

Auch der Deutsche Anwaltverein (DAV) stellt sich entschieden gegen die Chatkontrolle. Rechtsanwalt Dr. David Albrecht, Mitglied des DAV-Ausschusses Recht der Inneren Sicherheit, warnt gegenüber netzpolitik.org davor, dass die Chatkontrolle zur Blaupause für andere Kriminalitätsarten zu werden drohe. Dies zeichne sich mit der Encryption Roadmap der EU und Forderungen nach Entschlüsselung bei der Terrorismusbekämpfung schon heute ab.

Die Gefahr der Chatkontrolle habe viele Facetten, so Albrecht:

Kritisch ist schon die Massenüberwachung als solche, die auch tiefe Einschnitte in die anwaltliche Vertraulichkeit bedeuteten würde – denn eine generelle Ausnahme der Kommunikation zwischen Anwält:innen und Mandantschaft ist nicht möglich und nicht vorgesehen. Besonders problematisch ist auch die Anlasslosigkeit: Es bedarf nach Vorstellung von Kommission und dänischer Ratspräsidentschaft keines Verdachts, um eine solche umfassende Überwachung vorzunehmen.

Der Verband fordert, dass die Bundesregierung bei ihrer klaren Position gegen die Chatkontrolle bleiben solle.

Zivilgesellschaft mobilisiert gegen die Chatkontrolle

Seit Jahren reden sich Hunderte von IT-Expertinnen und Sicherheitsforschern, Juristinnen, Datenschützern, Digitalorganisationen, Tech-Unternehmen, Messengern, UN-Vertretern, Kinderschützern, Wächterinnen der Internetstandards, Wissenschaftlerinnen weltweit den Mund gegen die Chatkontrolle fusselig. Eine unglaubliche Breite der Zivilgesellschaft lehnt die Chatkontrolle ab, weil sie die größte und gefährlichste Überwachungsmaschine Europas werden würde.

Das Bündnis „Chatkontrolle stoppen“ ruft derzeit dazu auf, für die Abstimmung relevante Personen und Organisationen zu kontaktieren. Das sind vor allem die an der deutschen Positionsfindung beteiligten Bundesministerien sowie die Fraktionen und Abgeordneten der Regierungsparteien im Bundestag. Am besten wirken direkte E-Mails und Telefonanrufe oder auch rechtzeitig ankommende Briefe. Auf der Website des Bündnisses gibt es Tipps und Adressen, um selbst aktiv zu werden.

Gleichzeitig hat das Bündnis eine Last-Minute-Petition gestartet, in der es die Bundesregierung auffordert, sich im EU-Rat gegen die Chatkontrolle zu stellen.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Der Deutsche Kinderschutzbund lehnt die Chatkontrolle ab und fordert von der Bundesregierung „zielgerichtete Maßnahmen statt anlassloser Massenüberwachung“ im Kampf gegen sexualisierte Gewalt. Die Bundesregierung müsse sich dafür einsetzen, dass Kinderschutz mit Kinder- und Grundrechten vereinbar bleibe.

Der Deutsche Kinderschutzbund stellt sich erneut gegen die EU-Pläne einer Chatkontrolle. Am 14. Oktober soll im EU-Rat über einen Vorschlag der dänischen Ratspräsidentschaft abgestimmt werden, der ein anlassloses Scannen privater Kommunikation von EU-Bürger:innen enthält. Dabei ist die Position der Bundesregierung entscheidend. Die beteiligten Ministerien sollen laut Informationen von netzpolitik.org und D64 am morgigen Dienstag über diese entscheiden.

Der mit 50.000 Einzelmitgliedern mitgliederstärkste Kinderschutzverband in Deutschland unterstützt grundsätzlich, dass die EU-Kommission Darstellungen sexualisierter Gewalt bekämpfen will. „Allerdings lehnen wir die Möglichkeit zum Scan verschlüsselter privater Kommunikation, die sogenannte Chatkontrolle, ab“, sagt Elena Frense, Fachreferentin für Medien und Digitales des Verbandes gegenüber netzpolitik.org.

„Zielgerichtete Maßnahmen statt anlassloser Überwachung“

Laut dem Verband setze die Chatkontrolle an der falschen Stelle an, da Darstellungen sexualisierter Gewalt in der Regel nicht über private Messenger, sondern File-Hosting-Dienste ausgetauscht würden. Der Verband lehnt die Chatkontrolle ab, „weil sie tief in die Privatsphäre aller eingreifen würde – auch in die von Kindern.“ Auch Kinder hätten ein Recht auf vertrauliche Kommunikation – wenn ihre Chats ohne Anlass überwacht werden, würden ihre Privatsphäre und ihre Grundrechte verletzt, so Frense weiter.

„Die Bundesregierung muss sich dafür einsetzen, dass Kinderschutz mit den Kinder- und Grundrechten vereinbar bleibt.“ Statt anlassloser Überwachung brauche es zielgerichtete Maßnahmen: Prävention, Aufklärung und klare Verpflichtungen für Anbieter: etwa verbindliche Sicherheitsauflagen, Risikoanalysen und den Scan unverschlüsselter Inhalte. „Zudem muss anlassbezogene Ermittlungsarbeit unter Nutzung existierender Ermittlungsbefugnisse ausgeweitet werden“, so die Sprecherin des Verbandes.

Zivilgesellschaft mobilisiert gegen die Chatkontrolle

Seit Jahren reden sich Hunderte von IT-Expertinnen und Sicherheitsforschern, Juristinnen, Datenschützern, Digitalorganisationen, Tech-Unternehmen, Messengern, UN-Vertretern, Kinderschützern, Wächterinnen der Internetstandards, Wissenschaftlerinnen weltweit den Mund gegen die Chatkontrolle fusselig. Eine unglaubliche Breite der Zivilgesellschaft lehnt die Chatkontrolle ab, weil sie die größte und gefährlichste Überwachungsmaschine Europas werden würde.

Das Bündnis „Chatkontrolle stoppen“ ruft derzeit dazu auf, für die Abstimmung relevante Personen und Organisationen zu kontaktieren. Das sind vor allem die an der deutschen Positionsfindung beteiligten Bundesministerien sowie die Fraktionen und Abgeordneten der Regierungsparteien im Bundestag. Am besten wirken direkte E-Mails und Telefonanrufe oder auch rechtzeitig ankommende Briefe. Auf der Website des Bündnisses gibt es Tipps und Adressen, um selbst aktiv zu werden.

Gleichzeitig hat das Bündnis eine Last-Minute-Petition gestartet, in der es die Bundesregierung auffordert, sich im EU-Rat gegen die Chatkontrolle zu stellen.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Private Chat-Nachrichten müssen auch künftig privat bleiben, fordern zivilgesellschaftliche Organisationen in einer Online-Petition. Gerichtet an die Bundesregierung soll sie dazu beitragen, dass die im EU-Rat die Chatkontrolle ablehnt. Die deutsche Position zu den Überwachungsplänen ist maßgeblich, ob diese angenommen werden.

Das Bündnis „Chatkontrolle stoppen“ hat kurzfristig eine Petition gegen die Chatkontrolle gestartet. Sie richtet sich an Bundeskanzler Friedrich Merz sowie Innenminister Alexander Dobrindt, Justizministerin Stefanie Hubig sowie Digitalminister Karsten Wildberger. Die Bundesregierung soll laut Informationen von netzpolitik.org und D64 am Dienstag über die deutsche Position zur Chatkontrolle entscheiden. Über die Chatkontrolle soll am 14. Oktober in Brüssel im EU-Rat abgestimmt werden. Bislang hatte Deutschland nicht zugestimmt, das ist nun jedoch unsicher.

In der Petition heißt es unter anderem:

Wir fordern die Bundesregierung auf, die Chatkontrolle im EU-Rat klar abzulehnen. Sie muss verhindern, dass alle unsere privaten Nachrichten zukünftig ohne jeden Verdacht durchsucht werden dürfen. Deutschland muss am 14. Oktober mit „Nein“ stimmen und aktiv für den Schutz von Verschlüsselung eintreten. Die Chatkontrolle ist ein Angriff auf die Privatsphäre, auf sichere Kommunikation und auf die Grundprinzipien unseres demokratischen Rechtsstaats.

Mit der Chatkontrolle gäbe es keine vertrauliche Kommunikation mehr, so die zivilgesellschaftlichen Organisationen in der Petition. „Jede private Nachricht an Freund*innen, jedes Familienfoto, jedes Gespräch über Gesundheit, Politik oder intime Themen wird automatisiert gescannt.“ Was heute noch privat sei, würde morgen von Algorithmen ausgewertet. Dabei warnen die Initiatoren der Petition vor ungenauen Algorithmen, wodurch auch auch unproblematische Materialien an Strafverfolgungsbehörden weitergeleitet werden könnten.

Warum ist Chatkontrolle so gefährlich für uns alle?

Seit Jahren reden sich Hunderte von IT-Expertinnen und Sicherheitsforschern, Juristinnen, Datenschützern, Digitalorganisationen, Tech-Unternehmen, Messengern, UN-Vertretern, Kinderschützern, Wächterinnen der Internetstandards, Wissenschaftlerinnen weltweit den Mund gegen die Chatkontrolle fusselig.

Eine unglaubliche Breite der Zivilgesellschaft lehnt die Chatkontrolle ab, weil sie die größte und gefährlichste Überwachungsmaschine Europas werden würde.

Anruf- und Mailkampagne gegen die Chatkontrolle

Das Bündnis „Chatkontrolle stoppen“ ruft zudem dazu auf, die relevanten Personen und Organisationen zu kontaktieren. Das sind vor allem die beteiligten Bundesministerien sowie die Fraktionen und Abgeordneten der Regierungsparteien im Bundestag. Am besten wirken direkte E-Mails und Telefonanrufe, oder auch rechtzeitig ankommende Briefe. Auf der Webseite des Bündnisses gibt es Tipps und Adressen, um selbst aktiv zu werden.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Klaus Landefeld, Vorstand des IT-Branchenverbandes eco, stellt sich im Interview gegen die EU-Pläne zur Chatkontrolle. Neben den massiven Grundrechtseinschränkungen kritisiert er auch die technischen Probleme. Die Qualität der Software, die verdächtige Inhalte erkennen soll, sei nicht ausreichend und zentrale technische Fragen ungeklärt.

In der Europäischen Union liegt der Vorschlag der dänischen EU-Ratspräsidentschaft zur Chatkontrolle auf dem Tisch. Die deutsche Position dazu ist bedeutsam, da die Zustimmung zum Gesetz maßgeblich von dieser abhängt. Die deutsche Bundesregierung muss sich vor dem 14. Oktober auf eine Position einigen. Denn dann wird im EU-Rat über den Vorschlag abgestimmt.

Der dänische Vorschlag sieht eine verpflichtende Chatkontrolle vor. Sie soll Anbieter von Messaging- und anderen Kommunikationsdiensten die Anforderung aufbrummen, in den Nachrichten der Nutzer nach Missbrauchsfotos und -videos zu scannen. Dann sollen die Betreiber der Dienste die Nutzer-Nachrichten auf diese Inhalte untersuchen. Werden verdächtige Inhalte detektiert, wird der Nutzer der Polizei gemeldet. Soweit jedenfalls der Plan, doch der Teufel steckt im Detail.

Die Idee der Chatkontrolle wird stark und breit kritisiert, vor allem wegen der erheblichen Grundrechtseingriffe und auch wegen der weitreichenden Folgen für Whistleblower und Journalisten. Sie beinhaltet mit hoher Wahrscheinlichkeit ein Client-Side-Scanning auf Nutzergeräten. Das bedeutet, dass die Inhalte von Nachrichten direkt auf dem Gerät des Nutzers gescannt würden, noch bevor diese versendet und verschlüsselt werden.

Wir haben über die Chatkontrolle mit Klaus Landefeld, Vorstand im IT-Branchenverband „eco“, gesprochen. Der Verband engagiert sich als Partner bei INHOPE schon viele Jahre erfolgreich bei der Identifizierung und Entfernung von Kindesmissbrauchsmaterial aus dem Internet.

„Völlig falscher Weg“

netzpolitik.org: Klaus Landefeld, wie ist die Position des eco zu den Chatkontrolle-Plänen?

Klaus Landefeld: Wir haben uns seit 2022 immer dagegen ausgesprochen. Dieser neue, noch verschlimmerte Ansatz, der momentan von Dänemark in den Raum gestellt worden ist, wird von uns rundweg abgelehnt. Wir halten Chatkontrolle für einen völlig falschen Weg.

Wir betreiben ja eine Beschwerdestelle und sind daher permanent mit Strafverfolgungsbehörden zusammen in der Bekämpfung von CSAM-Inhalten aktiv. Aber verpflichtendes Scanning für quasi jegliche Kommunikation, vor allem das Client-Side-Scanning, halten wir für einen falschen Weg, weil er die Sicherheit von allen untergräbt.

netzpolitik.org: Welche Belastungen kämen eigentlich auf Unternehmen zu, wenn tatsächlich eine verpflichtende Chatkontrolle vorgeschrieben würde?

Klaus Landefeld: Das kommt auf die technischen Ausprägungen an: Also was genau müsste gescannt werden, wie funktioniert das technisch? Auch die Fragen danach müssten geklärt sein, ob alle Dienste betroffen wären, also ob beispielsweise auch E-Mail, Chats oder verschlüsselte Messenger-Apps darunterfallen. Es müssten auch die Details um die Frage geklärt sein, ob man „nur“ nach bekannten Inhalten oder auch nach neuen Inhalten scannt. Das ist ein ganz elementarer Punkt, weil mit dem Scannen nach bisher unbekannten Inhalten insbesondere auch jede Form von ganz persönlichen Bildern oder Familienfotos in die Datenbanken und die vorgeschlagenen KI-Systeme reingegeben würden.

netzpolitik.org: Was kann man zur Qualität der Software sagen, die CSAM-Inhalte erkennen soll?

Klaus Landefeld: Womit wir ein großes Problem haben, sind die Fehlerquoten. Um das ganz klar zu sagen: Zum Scanning sollen KI-Systeme verwendet werden, die bei allen Tests, die wir machen konnten, viele Fehler produzieren. Auch in unserer Beschwerdestelle werden dazu regelmäßig Tests gemacht. Denn wir prüfen dort regelmäßig: Was bringen KI-Systeme für die Bewertung von Beschwerden? Und wir sehen immer wieder: Nein, diese Systeme funktionieren nicht, sie funktionieren vor allen Dingen nicht in der nötigen Qualität, zumindest Stand heute. Deswegen halten wir den Vorschlag auch für total unausgegoren und technisch nicht tragfähig.

netzpolitik.org: Was sind das für „KI-Systeme“, die zum Einsatz kommen? Was sollen die leisten?

Klaus Landefeld: Es sollen Systeme zum Einsatz kommen, die tatsächlich Inhalte erkennen. Sie sollen auch neue Inhalte bewerten und bestimmen, was auf Bildern gezeigt wird. Dafür kann man KI-Systeme trainieren, sie sollen beispielsweise erkennen: Auf dem Bild sind drei Leute oder fünf Leute, da sind Kinder dabei, die Leute haben Kleidung oder keine Kleidung an.

Das heißt aber auch: Die Familienbilder vom nächsten Urlaub oder Bilder von einem FKK-Strand könnten einen Verdacht auslösen. Aus meiner Sicht ist das eine gefährliche Idee. Eine ähnliche Diskussion haben wir bei der automatischen Bewertung des Alters im Bereich Social-Media-Nutzung: Können KI-Systeme durch ein Bild einer Person wirklich verlässliche Aussagen darüber machen, wie alt jemand ist? Das ist gerade in den Grenzbereichen, wo es um die Frage geht, ist jemand 14, 16 oder 18 Jahre, alles andere als zuverlässig. Es gibt keine klare Bewertung, ob jemand 18 ist oder vielleicht noch 17 oder 19 Jahre. Das funktioniert einfach momentan nicht.

netzpolitik.org: Kann solche Software das in absehbarer Zeit leisten?

Klaus Landefeld: Im Moment mit Sicherheit noch nicht. Das wird wahrscheinlich noch geraume Zeit so bleiben. Wir testen reale Systeme, die momentan existieren. Das sind Systeme, die heute von den Anbietern genutzt werden können, die uns auch angeboten werden. Dazu untersuchen wir den Stand der Forschung. Und da kommt immer wieder das Ergebnis heraus: Nein, diese Systeme sind im Moment nicht tragfähig genug, dass das funktioniert.

Parallel zu der CSAM-Diskussion haben wir wie schon erwähnt die gleichen Fragen bei Altersnachweisen bei Social-Media-Nutzung. Es wäre völlig absurd, wenn wir in diesem Bereich zu der Aussage kämen, dass eine vernünftige Bewertung durch Software nicht möglich ist, und bei der Chatkontrolle zum Schutz von Kindern soll das funktionieren.

Welche Grenzen überschritten werden

netzpolitik.org: Welche Bewertung kann eine Software heute leisten? Und was heißt das für die Chatkontrolle?

Klaus Landefeld: Heutige Systeme können relativ gut beurteilen, ob ein abgebildetes Kind sechs oder sieben Jahre alt ist oder vielleicht 16 oder 17 Jahre. Diesen Unterschied können die Systeme schon erkennen. Aber bei neuen Inhalten, also bei bisher unbekannten Inhalten muss man sich fragen: Wenn sich Menschen innerhalb der Familie zum Beispiel Bilder zuschicken, sollen dann irgendwelche KI-Systeme in diese privaten Bilder reingucken? Das ist für mich ein absolutes No-Go, denn das verletzt die Grundrechte. Wir haben einen festgeschriebenen Schutz von privater Kommunikation, und über nichts anderes reden wir hier. Denn die Chatkontrolle soll auch für individuelle Ende-zu-Ende-Kommunikation von Menschen eingeführt werden. Das ist das, wo für mich die Grenze überschritten ist.

netzpolitik.org: Ist nicht noch eine weitere Grenze überschritten? Wir reden doch eigentlich auch über Eingriffe in den Kernbereich der privaten Lebensgestaltung, also in die Intimsphäre, die in Deutschland besonders geschützt ist.

Klaus Landefeld: Das sehe ich ganz genau so. Wir haben zum Beispiel bei der Wohnraumüberwachung oder Telekommunikationsüberwachung Vorschriften, dass Ermittler aufhören müssen zuzuhören, wenn Gespräche in den Kernbereich privater Lebensgestaltung gehen. Das gehört zum Kernbereichsschutz, den wir in Deutschland haben. Interessanterweise ist das in Europa schwierig zu diskutieren, weil es diesen Kernbereichsschutz in den meisten Ländern nicht gibt.

Warum ist Chatkontrolle so gefährlich für uns alle?

netzpolitik.org: Wie könnte denn bei der Chatkontrolle technisch vorgegangen werden?

Klaus Landefeld: Bei elektronischer Kommunikation, wie wir sie heute mit Messengern haben, wird typischerweise Ende-zu-Ende-Verschlüsselung eingesetzt. Sie soll nicht untergraben werden. Das wird immer wieder betont. Das heißt: Es bleibt nur Client-Side-Scanning übrig. Das wiederum heißt: Wir haben auf unseren Geräten eine Spionagesoftware, die jede Form von Bildern scannt, die wir übertragen und an jemand anderen schicken. Die Bilder werden von einer Software im Hintergrund abgeglichen. Damit kann ich mich nicht anfreunden.

Das Problem beim Client-Side-Scanning

netzpolitik.org: Was für IT-Sicherheitsprobleme sind damit verbunden?

Klaus Landefeld: In dem Moment, wo ich Verschlüsselung durchbrechen wollte, damit das Scanning beim Anbieter stattfindet, ist völlig klar: Ich habe die Sicherheit geschwächt. Ich habe sogar die IT-Sicherheit in großem Stil untergraben.

Beim Client-Side-Scanning ist das Problem aus meiner Sicht ein bisschen anders gelagert. Natürlich könnte ich Software produzieren, bei der ich kein IT-Sicherheitsproblem im klassischen Sinne schaffe: Daten würden damit durchsucht, ähnlich wie etwa bei einem Virenscanner. Ein Virenscanner ist kein Sicherheitsproblem …

netzpolitik.org: … kann aber zu einem werden, wenn er selbst Sicherheitslücken enthält oder fehlerhaft bestückt wird.

Klaus Landefeld: Das ist genau das Thema. Denn das ist nämlich genau die Frage: Nach was suche ich eigentlich? Und wer kontrolliert, nach was ich suche? Das ist ein administratives Problem. Denn zu dem eigentlichen IT-Sicherheitsproblem kommt die Frage dazu: Wie kann ich denn sicherstellen, dass dieses Scanning nur geordnet abläuft?

Die administrative Kontrolle wird gar nicht diskutiert

netzpolitik.org: Welche Fragen stellen sich, wenn ein Client-Side-Scanning verpflichtend würde?

Klaus Landefeld: Die erste Frage wäre: Wer kontrolliert denn, wer das Client-Side-Scanning benutzen darf? Und es kommen weitere Fragen dazu: Wer darf Anforderungen stellen? Wer darf Daten einstellen, nach denen gescannt wird? Wer stellt wie sicher, dass nur etwas, was im Sinne dieser Verordnung ist, gescannt wird und nicht nach ganz anderen Inhalten?

Es ist jetzt schon völlig klar: Da werden auch Daten von Ländern eingestellt werden, von denen wir uns das vielleicht nicht wünschen. Denn Staaten, von denen wir das nicht wollen, müssen wir auch mit an Bord nehmen, denn ansonsten werden diese den Einsatz dieser Software verbieten. Polizeien dieser Staaten haben auch Muster, nach denen sie suchen wollen. Das sind vielleicht Inhalte, wo wir sagen würden, das wollen wir gar nicht.

Doch die administrative Kontrolle wird in diesem ganzen Vorschlag gar nicht richtig diskutiert. Wer stellt da eigentlich was ein? Wer kontrolliert, was wie reinkommt?

netzpolitik.org: Alternativ wurde ja auch eine freiwillige Chatkontrolle für Internet-Dienste diskutiert, die von der vergangenen dänischen EU-Ratspräsidentschaft ins Spiel gebracht worden war. Wäre das eine bessere Option?

Klaus Landefeld: Die Frage ist natürlich, wer das freiwillig umsetzt. Größere Dienste würde man wahrscheinlich über die Plattformregulierung angehen und sie verpflichten, wenn sie sehr groß sind. Für kleine und mittlere Unternehmen wäre Freiwilligkeit erstmal ein Schritt in die richtige Richtung, weil insbesondere die kleineren eine Chatkontrolle nicht umsetzen müssten.

Aber Freiwilligkeit wird in dieser Form nicht kommen, weil diese Systeme sehr aufwendig sind. Allein der Betrieb der Datenbanken hintendran, aber auch das Einführen dieser Technologien in die unternehmenseigene Software ist sehr aufwendig und für kleine mittelständische Unternehmen gar nicht zu leisten. Ich erinnere mich an Vorschläge im Jahr 2022, wo Anbieter wie Google gesagt haben, dass Dritte ihre Datenbanken von CSAM-Inhalten auch benutzen könnten. Denn klar war: Kleinere Unternehmen können diese Datenbanken gar nicht bereitstellen. Ein Ansatz der Freiwilligkeit mitigiert das Problem und macht es vielleicht besser erträglich, bietet aber keine Lösung.

Dazu kommt: Erwartet man dann von Anwendern, dass sie sich überlegen: Nutze ich jetzt einen Anbieter, der scannt, oder einen Anbieter, der nicht scannt? Das kann ja nicht die Lösung sein. Denn die Privatheit der Kommunikation sollte und muss bei allen Anbietern geschützt sein.

netzpolitik.org: Ist in Europa einheitlich definiert, welche Inhalte unter eine Chatkontrolle fallen würden?

Klaus Landefeld: Nein, es gibt beispielsweise Unterschiede bei der sog. Jugendpornographie oder auch beim Cyber Grooming. Es ist zwar völlig klar, dass sog. Kinderpornographie überall strafbar ist. Aber es gibt viele Graubereiche und sehr unterschiedliche Gesetze. Das ist natürlich ein Problem, denn nach welchem Standard sollen sich Anbieter dann richten? Wenn etwa zwei Personen miteinander kommunizieren, die in zwei unterschiedlichen Ländern sind, was ist dann das anzuwendende Rechtssystem? Und das betrifft nur die Frage, um welche Inhalte es eigentlich geht. Eine zweite Frage wäre, was melde ich weiter?

Ein Recht, das in der Praxis überhaupt nicht funktioniert

netzpolitik.org: Die Strafverfolgungsbehörden sollen ja Verdachtsfällen nachgehen. Wie könnte das technisch ablaufen?

Klaus Landefeld: Im Prinzip wäre es ja eine Entlastung des Anbieters: Verdachtsfälle werden an Strafverfolgungsbehörden gemeldet, die müssten dann tätig werden oder müssten Materialien einsehen. Doch da sind noch technische Fragen, die vorher geklärt werden müssen: Wie kommen die Strafverfolgungsbehörden denn eigentlich an dieses Material ran?

Wenn man sich praktisch vorstellt, man hätte jetzt einen Verdachtsfall aus privater Kommunikation. Es soll ja eigentlich so sein, dass das verdächtige Originalbild gar nicht beim Anbieter landet, sondern seine Software das erkennt und als Verdachtsfall meldet. Doch was passiert dann? Das ist genau der Punkt. Das Ganze ist ja nicht verbunden mit irgendeiner Speicherverpflichtung. Die Frage, was eigentlich aus so einem Verdachtsfall wird, ist völlig ungeklärt.

Man will ein Recht schaffen, das in der Praxis in dieser Form überhaupt nicht funktionieren würde, völlig unabhängig von allen Rechtsfragen. Denn rein technisch würde das in dieser Form nicht funktionieren können, ohne dass man wieder Inhalte speichert und weitergibt. Und das wäre der absolute Super-GAU: Wenn Inhalte privater Kommunikation wegen eines automatisch von KI erzeugten Verdachtsfalls gespeichert und weitergegeben würden.

netzpolitik.org: Im aktuellen Vorschlag zur Chatkontrolle sind ja auch Scans nach bisher unbekanntem Material vorgesehen. Wie realistisch ist das?

Klaus Landefeld: Für Verdachtsfälle aus neuem Material ist die Automatisierung sehr schwierig. Das sind Phantasievorstellungen, wie so etwas ablaufen könnte, die mit der Realität und mit dem, was tatsächlich von den Systemen heute geleistet werden kann, nichts zu tun haben.

Wir haben Mitarbeiter in unserer Beschwerdestelle, die jeden Tag mit dieser Materialform zu tun haben. Wir veröffentlichen jedes Jahr einen Bericht darüber, zuletzt 2024. Es geht dabei um Meldungen, die natürliche Personen an die Beschwerdestelle gemeldet haben. Die Beschwerdestelle schaut sich die Inhalte an und bewertet, ob ein Straftatbestand erfüllt ist oder nicht. Die Quoten sind sehr gering, was dann tatsächlich an Strafverfolgungsbehörden weitergegeben wird. Um die 80 Prozent erfüllen tatsächlich keinen Straftatbestand. Wenn man sich überlegt, wie oft ein Verdacht an Strafverfolgungsbehörden automatisiert weitergegeben worden wäre, dann ist das ein absolutes Unding.

netzpolitik.org: Welche Größenordnungen von automatischen Meldungen landen heute bei den Strafverfolgungsbehörden?

Klaus Landefeld: Momentan haben wir im CSAM-Bereich sehr viele NCMEC-Meldungen aus den USA, mittlerweile über 100.000 Meldungen jedes Jahr. Für jeden Fall muss das BKA im Prinzip Ermittlungen einleiten, weit überwiegend machen die Ermittler das tatsächlich. Das geht dann alles zu den Anbietern, wir erhalten diese Anfragen ja als Anbieter von Internetzugängen. Das BKA sagt, dass im weit überwiegenden Fall keine Daten mehr da seien und man diese Anzahl im Prinzip gar nicht richtig verarbeiten kann. Die Anbieter sehen das etwas anders, denn oft mangelt es nur an der Qualität der Anfragen – so erhalten wir oft nur eine IP-Adresse statt der erforderlichen IP- und Port-Kombination.

Das führt heute schon dazu, dass die Kriminalitätsstatistik negativ verzerrt wird. Konkret hängt es an der absoluten Anzahl automatisierter Meldungen aus den USA und darauf resultierenden potentieller Ermittlungsverfahren. In Europa will man das im Prinzip nun kopieren: Es sollen automatisierte Meldungen bei Verdachtsfällen erfolgen, wo dann ermittelt werden soll. Das Problem ist: Wir haben eine riesengroße Black Box mit einer sehr niedrigen Aufklärungsquote. Wenn ich vorn noch viel mehr reinstopfe, ändere ich an der Aufklärungsquote erstmal gar nichts, sie sinkt sogar weiter ab.

netzpolitik.org: Was wäre der bessere Weg?

Klaus Landefeld: Die Herausforderung wäre eigentlich, die Aufklärungsquote zu erhöhen und sich zu überlegen, wie man tatsächlich vernünftig ermitteln könnte und nicht bereits überforderte Strafverfolgungsbehörden mit noch mehr Fällen zu überfordern, die im weit überwiegenden Fall zu nichts führen und noch nicht mal einen Straftatbestand erfüllen. Man müsste Maßnahmen ergreifen, die effektiv die Aufklärungsquoten verbessern – die hierzu notwendigen Ressourcen werden aber nicht bereitgestellt.

netzpolitik.org: Vielen Dank für das Gespräch!

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Morgen entscheiden Innenminister Dobrindt und Justizministerin Hubig die deutsche Position zur Chatkontrolle. Am Mittwoch bereiten die EU-Staaten ihre Abstimmung vor, die nächste Woche stattfinden soll. Wir veröffentlichen den aktuellen Gesetzentwurf der dänischen Ratspräsidentschaft.

Am Freitag hat die dänische Ratspräsidentschaft eine neue Version des Gesetzentwurfs zur Chatkontrolle verschickt. Wir veröffentlichen das Dokument in Volltext: Vorschlag für eine Verordnung zur Festlegung von Vorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern.

Seit über drei Jahren streiten die EU-Institutionen über eine verpflichtende Chatkontrolle. Die Kommission will Internet-Dienste verpflichten, die Inhalte ihrer Nutzer auf Straftaten zu durchsuchen und diese bei Verdacht an Behörden zu schicken. Das Parlament bezeichnet das als Massenüberwachung und fordert, nur unverschlüsselte Inhalte von Verdächtigen zu scannen.

Minimale Änderungen

Die EU-Staaten können sich bisher nicht auf eine gemeinsame Position einigen. Ganze 37 mal hat der Rat in der Arbeitsgruppe Strafverfolgung verhandelt. Die Ratspräsidentschaft macht jetzt Druck. Dänemark sagt ganz offen, dass sie keine weiteren Verhandlungen mehr wollen. Stattdessen lassen sie den alten Gesetzentwurf einfach noch einmal abstimmen.

Dänemark hat am ersten Tag seiner Ratspräsidentschaft einen Gesetzentwurf vorgelegt. Drei Wochen später folgte eine zweite Version, mit nur minimalen Änderungen. Jetzt hat Dänemark eine weitere Version verschickt. Erneut gibt es keine relevanten Änderungen.

Client-Side-Scanning

Der Gesetzentwurf umfasst über 200 Seiten. Inhaltliche Änderungen hat Dänemark seit seiner ersten Version nicht gemacht. Nur in der Einleitung haben sie eine gute Seite über den bisherigen Verhandlungsverlauf ergänzt.

Der Gesetzentwurf spricht explizit von Client-Side-Scanning, also dem „Erkennen von Inhalten in Ende-zu-Ende-verschlüsselter Kommunikation vor der Übertragung“.

Chatkontrolle ist rechtswidrig

Alle relevanten IT-Experten sagen, dass Client-Side-Scanning in verschlüsselter Kommunikation die Vertraulichkeit der Verschlüsselung zerstört. Zuletzt haben hunderte Wissenschaftler erneut davor gewarnt.

Der Juristische Dienst der EU-Staaten bezeichnet die massenhafte Überwachung vertraulicher Kommunikation als rechtswidrig und erwartet, dass Gerichte das geplante Gesetz wieder kippen.

Deutschland entscheidet

Die sozialdemokratisch geführte Regierung Dänemarks gibt sich davon unbeeindruckt. In zwei Tagen sollen die Ständigen Vertreter in Brüssel die Stimmen der EU-Staaten zählen. Wenn es eine ausreichende Mehrheit gibt, sollen die Justiz- und Innenminister den Gesetzentwurf nächste Woche auf den Weg bringen.

Dabei kommt es auf Deutschland an. Bleibt die Bundesregierung bei ihrer bisherigen Position, gibt es keine ausreichende Mehrheit für die Chatkontrolle. Ändert Deutschland seine Meinung und stimmt zu, kommt die Chatkontrolle auf EU-Ebene.

Am morgigen Dienstag treffen sich Innenminister Alexander Dobrindt (CSU) und Justizministerin Stefanie Hubig (SPD) und entscheiden über die deutsche Position. Zivilgesellschaftliche Organisationen rufen dazu auf, die relevanten Politiker zu kontaktieren.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Immer mehr Messenger sprechen sich gegen die Chatkontrolle aus. Neben Signal haben sich nun auch die Messenger WhatsApp und Threema geäußert. Chatkontrolle untergrabe die Ende-zu-Ende-Verschlüsselung und gefährde die Privatsphäre, Freiheit und digitale Sicherheit aller.

Der Messenger-Gigant WhatsApp spricht sich ebenso wie der schweizerische Messenger Threema vehement gegen die Chatkontrolle aus. Am vergangenen Mittwoch hatte schon der Messenger Signal angekündigt, dass er in letzter Konsequenz sogar den europäischen Markt verlassen würde, wenn durch das geplante EU-Gesetz keine private, verschlüsselte Kommunikation mehr möglich sei.

Auch beim Branchen-Riesen WhatsApp teilt man die grundlegende Kritik. Eine Sprecherin von Meta, dem Mutter-Konzern des Messengers, sagte gegenüber netzpolitik.org: „Trotz gegenteiliger Behauptungen untergräbt der neueste Vorschlag der Ratspräsidentschaft der EU nach wie vor die Ende-zu-Ende-Verschlüsselung und gefährdet die Privatsphäre, Freiheit und digitale Sicherheit aller.“ WhatsApp setze sich weiterhin für stärkere Sicherheit ein und sei der Überzeugung, dass Regierungen weltweit dies ebenfalls tun sollten.

„Entschieden gegen Massenüberwachung jeder Form“

In eine ähnliche Richtung argumentiert der Messenger Threema: „Wir sind nach wie vor entschieden gegen Massenüberwachung in jeder Form“, sagt Pressesprecher Philipp Rieger gegenüber netzpolitik.org. „Wie man im physischen Raum vertrauliche Konversationen führen kann, sollte das nach unserem Verständnis auch online möglich sein.“

Das Unternehmen hat seine Position auch in einem Blog-Beitrag dargelegt. Demnach sei Massenüberwachung kein taugliches Mittel zur Kriminalitätsbekämpfung und unvereinbar mit demokratischen Grundsätzen. Darüber hinaus macht Threema auch auf das technologische Sicherheitsrisiko aufmerksam.

Würde die Chatkontrolle gemäß dem aktuellen Vorschlag von Dänemark durchkommen, würde Threema die Ausformulierung nach den Trilog-Verhandlungen abwarten und alle Optionen gründlich prüfen. In diesem Gesetzgebungsschritt versuchen sich EU-Parlament, Kommission und Rat auf einen gemeinsamen Gesetzesentwurf zu einigen. Threema geht davon aus, dass die Chatkontrolle in der gegenwärtig propagierten Form nicht mit EU-Grundrechten vereinbar ist und letzten Endes vom EuGH kassiert werden würde.

Chatkontrolle als Bedrohung für Privatsphäre und Demokratie

Bei der sogenannten Chatkontrolle geht es um eine EU-Verordnung, die sich gegen die Verbreitung von Darstellungen sexuellen Kindesmissbrauchs (sogenannte Kinderpornografie) richten soll. Sie wird seit drei Jahren kontrovers in der EU verhandelt, weil die Verordnung Vorschriften enthält, die Messenger wie WhatsApp, Signal, Threema oder Telegram auf Anordnung verpflichten sollen, Inhalte von Nutzer:innen ohne jeden Verdacht zu durchsuchen.

Dieses Durchleuchten von Dateien würde dazu führen, dass eine verschlüsselte und sichere Kommunikation untergraben wird. Die komplette IT-Fachwelt, führende Sicherheitsforscher, Wissenschaftler:innen aus aller Welt sowie zivilgesellschaftliche Organisationen aller Art lehnen daher die Chatkontrolle als Bedrohung für die Demokratie vehement ab. Außerdem könne die Suche nach Missbrauchsdarstellungen mit wenigen Handgriffen auch auf andere, etwa politisch missliebige Inhalte ausgeweitet werden.

Druck auf Ministerien nötig

Die Bundesregierung wird sich vermutlich vor dem 14. Oktober auf eine Position für die Verhandlungen im EU-Rat einigen. Zur Debatte steht der dänische Vorschlag, der eine verpflichtende Chatkontrolle und Scannen der Inhalte auf den Geräten der Nutzer:innen beinhaltet.

Das Bündnis „Chatkontrolle stoppen“ ruft dazu auf, die im aktuellen Schritt relevanten Personen und Organisationen zu kontaktieren. Das sind vor allem die beteiligten Bundesministerien (Innen, Justiz, Digital, Familie) sowie die Fraktionen und Abgeordneten der Regierungsparteien im Bundestag. Am besten wirken direkte E-Mails und Telefonanrufe oder auch rechtzeitig ankommende Briefe. Auf der Website des Bündnisses gibt es Tipps und Adressen, um selbst aktiv zu werden.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Eigentlich sollten Unterhaltung und Erotik Menschen verbinden. Stattdessen weisen die Venus und die IFA, Leitmessen ihrer Branchen, einen anderen Weg.

Im Frühherbst fanden in Berlin zwei traditionsreiche Events statt: Die IFA (ehemals Internationale Funkausstellung, heute „Innovation For All“) ist eine Ausstellung für Unterhaltungs- und Gebrauchselektronik. Die Venus ist eine Fachmesse für Lifestyle und Erotik.

Auch wenn sich an wenigen Tagen viele Tausende Menschen gemeinsam durch die langen Messegänge schoben, fand sich der gemeinsame Nenner der IFA und der Venus im Gegenteil ihrer Kernthemen: Arbeit statt Unterhaltung, Einsamkeit statt Erotik.

Isoliert arbeiten

„Content Creation“ und „Künstliche Intelligenz“ gehören zu den altbekannten Buzzwords am Messestand. Auf der IFA stapelt sich neues Kamerazubehör, mit dem sich Creator bestmöglich und ohne fremde Hilfe inszenieren können. Ein erhobener Daumen signalisiert der Kamera, von nun an jeder Bewegung selbstständig zu folgen.

Selfie-Sticks stabilisieren automatisch das Bild der Smartphone-Frontkameras, damit nichts wackelt. Handtellergroße Drohnen fliegen einem nach, um auch keinen Schritt mehr zu verpassen. Die Bilder für die sozialen Medien entstehen zukünftig in Einsamkeit, egal ob zu Hause oder auf dem Wanderweg.

Die „Fitness- und Digital Wealth“-Sektion gibt einen Ausblick darauf, wie sich die Menschen nach getaner Arbeit mithilfe technischer Hilfsmittel zurücklehnen können. Hier gibt es Massagesessel, Gesichts-Massage-Geräte, Massage-Pistolen und Nackenwärmer in allen möglichen Variationen. Entspannung per Knopfdruck und mit Heizfunktion, ohne dass ein anderer Mensch Hand anlegen müsste.

Die Verkäuferin für „smarte“ Ringe legt einem ans Herz, die erste Stunde des Tages in natürlichem Licht zu verbringen. „Für einen Energie-Boost.“ Übrigens würde schon ein kleines Bier den Schlaf stören. Der Ring wisse das. Was gut und was schlecht ist, hat der Ring von Trainingsdaten aus rund einer Milliarde „Schlaf-Events“ von etwa 30 Millionen Ringträgern des Unternehmens gelernt.

Nur Erregung, kein Orgasmus

Der Eros, der antike griechische Gott der Liebe und Sinnlichkeit, gibt der Erotik ihren Namen. Für den französischen Philosophen Georges Bataille ist Erotik ein „Bejahen des Lebens bis in den Tod“. Leider ist selbst vom „petite mort“, dem kleinen Tod, auf der Venus nicht viel zu spüren.

Mit kleinen Schildern über den Stehtoiletten der Messe-WCs wirbt das Unternehmen GoSpring für Potenzprodukte. Über einer Phallus-förmigen Rakete steht „Mission Erektion“ – vom Orgasmus ist vorerst noch keine Rede.

Auf den Messen kursieren wilde Geschichten über verborgene Sinnlichkeit und Erotik, die schließlich doch niemand richtig sehen oder fühlen kann: So raunt einem mal so nebenbei ein Dildoverkäufer zu, wie „sehr es in den Separées abgehe“, den von den Messebesuchern abgeschirmten Räumen. Das wolle man gar nicht wissen, so krass sei das.

Auf der IFA spricht ein Bosch-Vertreter eines Kochautomaten à la Thermomix verschwörerisch von der „echten AI Magic“, die sich allerdings für niemanden sichtbar hinter der Haube des Geräts abspielt.

Puppen als Partner

Auf der Venus begrüßt die Besucher am „Real Dolls“-Stand eine Deko-Puppe mit Helm, schusssicherer Weste und Sturmgewehr. Auf die Frage, ob man das ganze Zubehör beim Puppenkauf kostenlos dazubekomme, antwortet der Standhüter schmunzelnd: „Nein, aber vielleicht rennen die Puppen irgendwann durch den Schützengraben und nicht mehr wir Menschen.“

Die Körper der Dolls sind mit einer Heizfunktion ausgestattet. Mit etwas Puder fühlt sich das fast wie ein echter Mensch an. Laut dem Betreiber des integrierten „KI-Systems“ sei sich die Puppe des eigenen Aussehens „bewusst“ und kann deshalb digital erstellte Selfies an ihren (Be-)Nutzer verschicken.

Man solle sich vorstellen, wie toll das wäre, auf der Arbeit ein Foto im Bademantel von seinem „Social Companion“ zugeschickt zu bekommen. In der zugehörigen Nachricht hieße es dann: „Ich freu mich auf dich.“ Selbstverständlich lässt sich die Puppe auch mit dem Smart-Home verbinden – was auch immer das bringen mag.

Veränderter Zugang zur Welt

Nach den großen Individualisierungsmaschinen unserer Zeit – Autos, Fernsehern und Smartphones – sind die sprachfähigen Chatbots wohl der wichtigste Wegweiser auf dem Pfad in eine technologisch bedingte einsame Zukunft.

Wie wir über digitale Schnittstellen mit der Welt in Verbindung treten, verändert schließlich auch den Zugang zu unseren Mitmenschen. Die von der Technologie in Anspruch genommene Zeit fehlt an anderer, analoger Stelle. Für gute Unterhaltung und Erotik, die Verbindung schaffen, braucht es mindestens zwei. Darauf dürfte man sich einigen können.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die 40. Kalenderwoche geht zu Ende. Wir haben 18 neue Texte mit insgesamt 136.032 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

Liebe Leser:innen,

in den nächsten Tagen wird die Bundesregierung vermutlich beschließen, was ihre Position zur gefährlichen EU-Chatkontrolle ist. Derzeit sieht es so aus, als würde sie sich entgegen aller Stimmen der Vernunft und gegen die Grundrechte für diese neue Form der Massenüberwachung entscheiden. Damit würde der Weg frei zu einer Einigung auf die Chatkontrolle in der Sitzung des EU-Rats am 14. Oktober.

Doch noch ist es nicht zu spät, denn die Verhandlungen laufen in den Ministerien noch. Das Bündnis „Chatkontrolle stoppen“ ruft deswegen zum Protest per Anruf, Mail und Brief auf – um an den entscheidenden Stellen vielleicht doch noch etwas zu bewegen. Hier findet ihr die Anleitung des Bündnisses. Macht mit! Schreibt freundlich und bestimmt, was ihr von dem größten Überwachungsprojekt in der Geschichte der EU haltet.

Auf netzpolitik.org begleiten wir das Thema jetzt noch engmaschiger als sonst – ihr findet hier alle wichtigen Infos, Details und Updates.

Und verdammt nochmal. Ich bin so richtig sauer darüber, dass diese Bundesregierung so beratungsresistent ist.

Wenn dir Amnesty International, der CCC, Reporter ohne Grenzen, Juristenverbände, Wissenschaftler:innen aus der ganzen Welt ebenso wie Kinderschutzorganisationen, Fußballfans und UN-Beauftragte unisono zurufen „Macht das nicht! Das zerstört die private Kommunikation, das schadet der Pressefreiheit, das ist gefährlich für die Demokratie – und macht zu allem Überfluss noch die IT unsicher“, dann muss man doch aufhorchen. Das sind relevante Teile einer aufmerksamen, demokratischen Zivilgesellschaft, die da laut und deutlich warnen. Und zwar seit Jahren.

Wenn du dann aber mit deinem Überwachungstunnelblick einfach wegschaust, weil ja Überwachung immer gegen alles hilft und die autoritäre Schiene gerade angesagt ist, dann ist das einfach nur unverantwortlich, töricht und gegen eherne Verfassungsgrundsätze und die Menschenrechte gerichtet. Wie kann man nur sehenden Auges so eine gefährliche und unnötige Überwachungsinfrastruktur aufbauen wollen? Es ist nicht zu fassen.

Deswegen: Lasst uns versuchen, dieses Ding zu stoppen.

Viel Spaß beim Anrufen, Mails- und Briefeschreiben wünscht euch

Markus Reuter

Breakpoint: Individuell uniform

Soziale Medien predigen grenzenlosen Individualismus. Doch wer durch TikTok scrollt, sieht vor allem Kopien. Trends, Ästhetiken und Labels versprechen Einzigartigkeit, münden aber in immer flachere Gleichförmigkeit. Die neue Konformität ist bequem, wird algorithmisch belohnt – und ist gefährlich berechenbar. Von Carla Siepmann –
Artikel lesen

Ausländerbehörden: Handy-Razzia zur Identitätsfeststellung wird bundesweiter Standard

In fast allen Bundesländern durchsuchen Ausländerbehörden die Handys und Datenträger von Ausreisepflichtigen, um Hinweise auf ihre Herkunft zu finden. Eine Recherche zeigt erstmals, wo am häufigsten kontrolliert wird – und wie tief der Eingriff in die Privatsphäre reicht. Von Chris Köver –
Artikel lesen

Bundes-Klinik-Atlas: „Es muss immer um die bestmögliche Versorgung von Patienten gehen“

Wer Informationen zu guten Kliniken sucht, kann dafür auf den Bundes-Klinik-Atlas zugreifen. Aber der hat Schwächen – genau wie all die anderen Online-Verzeichnisse zur Krankenhaus-Qualität. Das ist ein Problem für Patient:innen. Ein Interview dazu, welche Übersicht es für eine bessere Gesundheitsversorgung bräuchte. Von Anna Biselli –
Artikel lesen

Neues Polizeigesetz: Berliner Senat will Verhaltenscanner gegen Bevölkerung einsetzen

Siegeszug eines futuristischen Überwachungswerkzeugs: Die Überwachungs-KI, die in Mannheim und Hamburg das Verhalten von Passant*innen scannt, soll jetzt auch in Berlin zum Einsatz kommen. Das bestätigte der Berliner Senat heute in einer Anhörung im Innenausschuss.
Von Martin Schwarzbeck –
Artikel lesen

Neues Polizeigesetz in Berlin: „Abkehr von der grundrechtsfreundlichen Politik“

Die schwarz-rote Berliner Landesregierung bastelt an einem neuen Polizeigesetz, das mehr Videoüberwachung, Staatstrojaner und viele weitere Befugnisse für die Polizei bereit hält. Dafür gab es massive Kritik – sowohl auf der Straße als auch bei der parlamentarischen Anhörung. Von Markus Reuter, Martin Schwarzbeck –
Artikel lesen

Gesundheitsdigitalisierung am Limit: Warum es bei der elektronischen Patientenakte noch immer hakt

Die elektronische Patientenakte soll das Herzstück der Gesundheitsdigitalisierung sein – ein zentraler Speicher für Diagnosen, Rezepte und Befunde, leicht zugänglich für Versicherte. Ab dem 1. Oktober müssen alle Praxen, Apotheken und Krankenhäuser die digitale Akte nutzen. Doch der ePA-Start stockt gewaltig. Von Daniel Leisegang –
Artikel lesen

Eine Patientenakte für alle: Das gebrochene Versprechen

Die „ePA für alle“ wird nun für Praxen und Co. verpflichtend, trotz fortbestehender Sicherheitsbedenken und anhaltender technischer Probleme. Die Misere ist hausgemacht und geht zulasten der Versicherten. Ein Kommentar. Von Daniel Leisegang –
Artikel lesen

Online-Investmentplattformen: Die Spur eines Millionenbetrugs

Sie versprechen ihren Opfern das große Geld, doch dann ist alles weg: Vermeintliche Online-Investmentplattformen betrügen Menschen um Millionen. Den Drahtziehern auf die Schliche zu kommen, ist schwierig. Eine Recherche hat neue Informationen zu einem Betrugsnetzwerk aufgedeckt. Von Gastbeitrag, Saša Dragojlo, Maxence Peigne, Nico Schmidt –
Artikel lesen

Gesichtserkennung gegen Grundrechte: Ungarn verbietet auch Pride in Pécs

Trotz internationaler Kritik hält die ungarische Regierung an ihrer queerfeindlichen Politik fest und verbietet die Pride in Pécs. Wieder droht Teilnehmenden die Identifikation per Gesichtserkennung wegen einer Ordnungswidrigkeit. Zivilgesellschaftliche Organisationen fordern ein EU-Vertragsverletzungsverfahren. Von Chris Köver –
Artikel lesen

Digitale Souveränität: Wie die Bundesregierung das Fediverse fördern könnte

Die Abhängigkeit von der Tech-Oligarchie und deren Nähe zu Trump sind ein Problem. Dabei wäre eine Förderung dezentraler und gemeinwohlorientierter Infrastrukturen gar nicht so teuer. Von Markus Reuter –
Artikel lesen

Chatkontrolle: Der Digitalminister duckt sich weg

Wenn in Kürze die Entscheidung fällt, ob Europa eine verpflichtende Chatkontrolle bekommt, ist auch die Haltung der Bundesregierung maßgeblich. Doch der Digitalminister mag sich lieber nicht positionieren. Digitale Weichenstellungen und gefährliche Formen technisierter Massenüberwachung sieht er offenbar nicht als sein Metier. Eine Einordnung. Von Constanze –
Artikel lesen

Außergerichtliche Einigung: YouTube zahlt 25 Millionen US-Dollar an Trump

Erneut gibt ein milliardenschwerer Medienkonzern kampflos einen Rechtsstreit mit Donald Trump auf. Weil YouTube den Account des US-Präsidenten vor Jahren gesperrt hatte, zog dieser vor Gericht. Die Videoplattform hätte den Fall wohl gewonnen, doch YouTube überweist Trump lieber 25 Millionen US-Dollar aufs Konto. Von Tomas Rudl –
Artikel lesen

Vietnamesisch-deutsches Exilmedium: „Wenn Facebook dieses Konto löscht, sind wir tot“

Das vietnamesischsprachige Nachrichtenportal Thoibao, das in Berlin sitzt, kämpft um sein Überleben. Facebook gefährdet die Finanzierung des Exilmediums. Und der größte private Konzern Vietnams überzieht den Chefredakteur mit Abmahnungen. Von Timur Vorkul –
Artikel lesen

Anlasslose Massenüberwachung: Messenger Signal wird Deutschland verlassen, wenn Chatkontrolle kommt

In den kommenden Tagen wird die Bundesregierung entscheiden, wie sie am 14. Oktober in der EU zur Chatkontrolle abstimmt. Eines ist klar: Kommt die Chatkontrolle, wird es keine verschlüsselte und sichere Kommunikation mehr geben. Von Markus Reuter –
Artikel lesen

Tests zur Volkszählung: Bund will Zugriff auf sensible Bildungs- und Arbeitsmarktdaten

Der Bund will bei Volkszählungen die Bürger*innen nicht mehr direkt befragen, sondern Daten aus der Verwaltung zusammenführen. Ein Schritt dahin ist das Registerzensus-Erprobungsgesetz samt Training mit Echtdaten. Eine Gesetzesänderung will den Zugriff nun ausweiten. Von Esther Menhard –
Artikel lesen

EU-Überwachungspläne: „Die Chatkontrolle gefährdet die Demokratie“

Wichtige Stimmen wie Amnesty International, Reporter ohne Grenzen und der Chaos Computer Club appellieren eindringlich an die Bundesregierung, die Chatkontrolle zu verhindern. Sie warnen vor einem Angriff auf die Pressefreiheit, einem IT-Sicherheitsalptraum und einer Gefahr für die Demokratie. Von Markus Reuter –
Artikel lesen

Instagram, Whatsapp, Facebook: Meta hört bald zu, wenn du dich mit der KI unterhältst

Tech-Gigant Meta will Daten, die Nutzer*innen in seinen Chatbot eingeben, künftig auslesen und speichern. Damit sollen Anzeigen treffsicherer personalisiert werden. Es gibt nur einen Weg, sich der Datensammlung zu entziehen. Von Martin Schwarzbeck, Paula Clamor –
Artikel lesen

Fragen und Antworten : Warum ist Chatkontrolle so gefährlich für uns alle?

Die Chatkontrolle gilt weithin als Ende der verschlüsselten und privaten Kommunikation, also als Gefahr für die Demokratie und technisches Sicherheitsrisiko für die digitale Welt. Wir erklären und kommentieren, warum das so ist. Von Markus Reuter –
Artikel lesen

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Chatkontrolle gilt weithin als Ende der verschlüsselten und privaten Kommunikation, also als Gefahr für die Demokratie und technisches Sicherheitsrisiko für die digitale Welt. Wir erklären und kommentieren, warum das so ist.

Seit Jahren reden sich Hunderte von IT-Expertinnen und Sicherheitsforschern, Juristinnen, Datenschützern, Digitalorganisationen, Tech-Unternehmen, Messengern, UN-Vertretern, Kinderschützern, Wächterinnen der Internetstandards, Wissenschaftlerinnen weltweit den Mund gegen die Chatkontrolle fusselig.

Eine unglaubliche Breite der Zivilgesellschaft lehnt die Chatkontrolle ab, weil sie die größte und gefährlichste Überwachungsmaschine Europas werden würde. Also wirklich jeder, der klar sieht und Gutes im Schilde führt, lehnt die Pläne der EU-Kommision ab.

Warum ist die Chatkontrolle ein Problem für die Demokratie?

Mit der Chatkontrolle sollen auf Anordnung an die Betreiber von Diensten etwa alle digitalen Nachrichten, die wir schreiben, auf bestimmte Inhalte untersucht werden. In der jetzigen Planung geht es dabei erst einmal um Darstellungen von sexuellem Kindesmissbrauch (ehemals Kinderpornografie genannt), die so entdeckt werden sollen. Die Chatkontrolle soll so gestaltet sein, dass das System, wenn es anschlägt, identifizierte Inhalte und den Nutzer der Polizei meldet.

Das Problem ist: Die Chatkontrolle schafft einen Zugang, eine Hintertüre, auf den Handys und Endgeräten von allen. Millionen Menschen werden so unter Generalverdacht gestellt, ihre Nachrichten können permanent durchleuchtet werden. Die Chatkontrolle ist deswegen eine neue Form der anlasslosen Massenüberwachung, mit der Milliarden von privaten Nachrichten täglich überwacht werden können.

Anlasslos heißt: Es braucht keinen Verdacht, um durchsucht zu werden, sondern alle, die einen Dienst nutzen, werden durchsucht. Alle sind verdächtig. Es widerspricht den Grundprinzipien der Demokratie, dass unverdächtige Menschen in den Fokus des Staates geraten. Damit eine Demokratie eine Demokratie ist, muss zudem sichergestellt sein, dass Menschen privat und unbeobachtet kommunizieren können. Das wird mit dieser Technik ausgehebelt.

Ist die Technik beliebig ausweitbar?

Die Technologie hinter der Chatkontrolle, das so genannte Client-Side-Scanning, lässt sich im Handumdrehen auch auf andere Inhalte anwenden. Während heute noch nach Darstellungen von Missbrauch gesucht wird, kann morgen schon das Protestvideo einer Demokratiebewegung im Fokus sein. Oder das geheime Dokument, das die Korruption einer Regierung belegt – und das jemand an ein Medium weitergegeben hat.

Deswegen sind auch Journalist:innenverbände weltweit aufgeschreckt von den Plänen, denn mit der Chatkontrolle ließen sich Journalisten belauschen und deren Quellen herausfinden. Diese Verbände sprechen zum Beispiel von einem „massiven Angriff auf die Pressefreiheit“, denn Journalismus ist auf private, umbelauschte und verschlüsselte Kommunikation angewiesen.

Die Chatkontrolle ist also ein zauberhaftes Werkzeug auch für Diktatoren und zukünftige faschistische Machthaber. Autoritäre Staaten werden diese Technik mit Handkuss nutzen, sie können dann sogar sagen, dass sie von der Europäischen Union eingeführt wurde. Überwachung im demokratischen Gewand.

Warum ist die Chatkontrolle gefährlich für unsere IT-Sicherheit?

Die Chatkontrolle wird die IT-Sicherheit von uns allen schwächen, denn sie ist ein Frontalangriff auf die in der digitalen Welt lebenswichtige Ende-zu-Ende-Verschlüsselung.

Was ist das eigentlich? Vereinfacht dargestellt stellt Ende-zu-Ende-Verschlüsselung sicher, dass der Sender einer Nachricht diese Nachricht in einen nur vom Empfänger zu öffnenden Behälter stecken kann. Wie eine Schatulle, die mit einem Schloss verschlossen ist, deren Schlüssel nur der Empfänger hat.

Wenn das Schloss so gut ist, dass niemand es unterwegs knacken kann, gibt es eine andere Idee: Es soll vor dem Verpacken in die Schatulle durchleuchtet und durchsucht werden, ob bestimmte Inhalte in der Nachricht stehen, die in die sichere Schatulle soll. Beim Brief schreiben wird quasi über die Schulter in die private Kommunikation geschaut. Und dazu braucht es im Digitalen einen Zugang zu unserem Endgerät.

Das Problem an solchen Hintertüren ist aber, dass nicht nur die vermeintlich „Guten“ sie nutzen könnten, sondern auch findige Kriminelle oder nicht wohlgesonnene andere Staaten. Gibt es also technisch Zugang zur Kommunikation, dann werden auch andere diesen Zugang finden und nutzen. Die Sicherheit von Milliarden Endgeräten – vom Handy bis zum Computer – wäre in Gefahr. IT-Experten sprechen von einem Sicherheitsalbtraum.

Gibt es eigentlich kein Briefgeheimnis mehr?

Die Befürworter der Chatkontrolle behaupten, dass die Schatulle – in diesem Bild die Ende-zu-Ende-Verschlüsselung – nicht geöffnet würde und damit die Kommunikation ja noch sicher und verschlüsselt wäre. Das ist ein schäbiger und durchschaubarer Taschenspielertrick: Denn was ist die schützende Schatulle noch wert, wenn standardmäßig vor dem Verschicken durchleuchtet wird, was wir an andere Menschen versenden?

Die Verpflichtung für WhatsApp und Co., in die Daten zu schauen, ist vergleichbar damit, dass die Post vor dem Verschließen des Briefes nochmal schnell auf das Briefpapier schauen muss, ob da nicht etwas Verbotenes drin steht. Es klingt absurd, aber die Chatkontrolle ist genau das. Und wenn wir die Post nicht draufschauen lassen, dann gibt es keine Briefmarke und wir dürfen keine Post mehr verschicken.

Sie fragen sich jetzt bestimmt: Wo ist eigentlich unser gutes altes Briefgeheimnis? Und warum gilt das nicht für unsere digitalen Briefe auf WhatsApp, Signal oder Threema? Mit welchem verdammten Recht soll eigentlich auf dem Handy, Tablet und Computer von mir überwacht werden, was ich tue oder verschicke?

Was fällt denen eigentlich ein?

Das wissen wir auch nicht, denn es ist klar, dass diese krasse Überwachung gegen die Grundrechte verstößt, die in der Europäischen Union gelten. Und wie oben erwähnt: Selten hat ein Thema von so vielen Seiten so viel Gegenwind bekommen. Und das jetzt schon über vier Jahre. Wir haben fast 300 Artikel zum Thema geschrieben, uns so eingängig mit der Sache befasst – und wirklich kein Argument gefunden, warum die Chatkontrolle eine gute Idee sein sollte.

Fakt ist: Es ist technisch nicht möglich, gleichzeitig alle Inhalte zu überwachen und trotzdem private und sichere Kommunikation zu garantieren. Das geht einfach nicht. Auch wenn die Befürworter:innen immer wieder das Gegenteil behaupten.

Wie schützen wir dann Kinder?

Die Überwachungsfanatiker geben vor, dass sie Kinder besser schützen wollen, erzählen Schauermärchen auf fragwürdiger Zahlengrundlage, doch von Anfang an war offenkundig, dass es bei der Chatkontrolle darum geht, einen Angriff auf Ende-zu-Ende-Verschlüsselung zu fahren – und damit auf die sichere und private Kommunikation von Milliarden von Menschen. Denn wenn die EU mit ihren 450 Millionen Einwohner:innen die Chatkontrolle einführt, dann wird das weltweit Strahlkraft haben und eine Lawine der Überwachung auslösen.

Von Anfang an hat ein mit dem Sicherheitsapparat verflochtenes Lobbynetzwerk die Chatkontrolle gepusht. Es ging nie wirklich um die Kinder, sonst würde man an der Wurzel von Missbrauch und Gewalt ansetzen, statt Menschen ohne jeden Anfangsverdacht zu überwachen.

Es geht darum, dass dem Sicherheitsapparat verschlüsselte Kommunikation ein Dorn im Auge ist. Deswegen versucht dieser, unsere private und verschlüsselte Kommunikation seit Jahren auf verschiedenen Wegen zu bekämpfen.

Wenn wir Kinder schützen wollen, dann brauchen wir klassische Polizeiarbeit und sehr viel Aufklärung. Wir müssen den Missbrauch stoppen, bevor er geschieht. Dafür braucht es Aufklärungsinitiativen, Kinderschutz-Hotlines und Präventionsprogramme, eine kinderfreundlichere Justiz und viele andere gesellschaftliche Maßnahmen. Das Problem wird nicht technisch zu lösen sein – und erst recht nicht, indem wir einfach alle Menschen überwachen.

Druck auf Ministerien nötig

Die Bundesregierung wird sich vermutlich vor dem 14. Oktober auf eine Position einigen, dann wird im EU-Rat abgestimmt. Zur Debatte steht der dänische Vorschlag, der eine verpflichtende Chatkontrolle und Client-Side-Scanning beinhaltet.

Das Bündnis „Chatkontrolle stoppen“ ruft dazu auf, die relevanten Personen und Organisationen zu kontaktieren. Das sind vor allem die beteiligten Bundesministerien sowie die Fraktionen und Abgeordneten der Regierungsparteien im Bundestag. Am besten wirken direkte E-Mails und Telefonanrufe, oder auch rechtzeitig ankommende Briefe. Auf der Webseite des Bündnisses gibt es Tipps und Adressen, um selbst aktiv zu werden.

Update 6.10.25:
Mittlerweile gibt es auch eine spontan gestartete Petition gegen die Chatkontrolle. Sie richtet sich an Bundeskanzler Friedrich Merz sowie Innenminister Alexander Dobrindt, Bundesministerin der Justiz und für Verbraucherschutz Dr. Stefanie Hubig sowie Digitalminister Karsten Wildberger.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Tech-Gigant Meta will Daten, die Nutzer*innen in seinen Chatbot eingeben, künftig auslesen und speichern. Damit sollen Anzeigen treffsicherer personalisiert werden. Es gibt nur einen Weg, sich der Datensammlung zu entziehen.

Den Meta-Chatbot können Menschen über Instagram, Whatsapp und Facebook ansprechen. Laut Meta nutzen ihn monatlich mehr als eine Milliarde Menschen. Viele davon teilen intime Informationen mit der Software.

Die Gespräche, die Menschen mit der sogenannten Künstlichen Intelligenz führen, will Meta künftig auslesen und speichern. Damit sollen Anzeigen treffsicherer personalisiert werden und die Daten sollen auch beeinflussen, welche Posts Nutzer*innen in den Sozialen Netzwerken angezeigt bekommen. Das erklärte Meta gestern in einem Blogpost. Der Konzern behält sich dabei vor, die Informationen aus den Gesprächen in allen seinen Produkten zu nutzen.

Ein Beispiel nannte der Konzern direkt: Wer sich mit der KI etwa übers Wandern unterhalte, bekomme danach womöglich Empfehlungen für Wandergruppen, Wanderstrecken von Bekannten und Werbung für Wanderschuhe angezeigt.

Auch sensible Konversationen werden ausgelesen

Meta gibt zwar an, sensible Konversationen über religiöse Ansichten, die sexuelle Orientierung, politische Meinungen, Gesundheit und ethnische Herkunft nicht für personalisierte Werbung nutzen zu wollen, die Daten werden aber dennoch mit ausgelesen.

Die neue Regelung will Meta ab dem 16. Dezember umsetzen, allerdings zunächst nicht in der EU und Großbritannien. Dort solle das Feature später ausgerollt werden, weil die hiesigen Datenschutzbestimmungen strenger seien. Für das KI-Training werden die Chatprotokolle in Europa wohl schon genutzt.

Seit Juni ist bereits bekannt, dass Meta mit Hilfe von KI Anzeigen erstellen will. Werbetreibende müssen dann nur ein Produktbild und ein Budget vorgeben. Meta möchte durch diese Investitionen die größte Einnahmequelle Werbung noch rentabler machen. Hier bieten sich auch Spielräume für individuelle Personalisierung von Anzeigen – anhand der mit dem Chatbot erhobenen Daten.

Nutzer*innen teilten unbewusst Chatprotokolle

Meta hat den Chatbot für seine Messenger erst vor wenigen Monaten in Europa eingeführt. Er stand schon mehrfach in der Kritik, etwa weil ihm erlaubt war, „sinnliche“ und „romantische“ Konversationen mit Minderjährigen zu führen. Ein anderes Mal, weil viele Nutzer*innen ihre teils sehr persönlichen Chatprotokolle scheinbar unbewusst veröffentlicht hatten.

Die Nutzer*innen können einstellen, in welchem Ausmaß die ihnen ausgespielte Werbung personalisiert werden soll, aber es gibt keine Möglichkeit, sich gegen die Datenerfassung zur Personalisierung zu wehren – außer, den Chatbot nicht zu nutzen. In Whatsapp kann es allerdings sein, dass andere Nutzer*innen ihn zu einer Konversation hinzuziehen. Das lässt sich mit der Funktion „erweiterter Chat-Datenschutz“ verhindern. Oder mit dem Verzicht auf die datensammelwütige App zugunsten von datensparsamen Alternativen.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Wichtige Stimmen wie Amnesty International, Reporter ohne Grenzen und der Chaos Computer Club appellieren eindringlich an die Bundesregierung, die Chatkontrolle zu verhindern. Sie warnen vor einem Angriff auf die Pressefreiheit, einem IT-Sicherheitsalptraum und einer Gefahr für die Demokratie.

Die Entscheidung um die Chatkontrolle rückt näher. Wenn die Bundesregierung ihre bisher grundrechtsfreundliche Position ändert, könnte die EU das Überwachungsprojekt doch noch beschließen. Bei der so genannten Chatkontrolle geht es um eine EU-Verordnung, die sich gegen die Verbreitung von Darstellungen sexuellen Kindesmissbrauchs (sogenannte Kinderpornografie) richten soll.

Die EU verhandelt seit drei Jahren kontrovers. Die geplante Verordnung enthält Vorschriften, die Messenger wie WhatsApp, Signal, Threema oder Telegram verpflichten sollen, die Kommunikation aller Nutzer:innen ohne jeden Verdacht zu durchsuchen.

Eine breite Front lehnt die Chatkontrolle ab. Nicht nur die IT-Fachwelt und die Wissenschaft sind gegen diese anlasslose Massenüberwachung, sondern auch zivilgesellschaftliche Organisationen aller Art.

Wir haben uns umgehört, was zivilgesellschaftliche Organisationen von der Bundesregierung erwarten – und warum die Chatkontrolle so gefährlich ist. Die Ablehnung reicht von Digital- und Journalistenverbänden über Menschenrechtsorganisationen bis hin zu Fußballfans.

„Gesamte Bevölkerung unter Generalverdacht“

Die Chatkontrolle würde das „Ende einer breit verfügbaren, vertraulichen und sicher verschlüsselten Kommunikation in Europa“ bedeuten, sagt Tom Jennissen von der Digitalen Gesellschaft. „Die gesamte Bevölkerung würde unter Generalverdacht gestellt und ihre Endgeräte mit staatlich verordneter Spyware infiziert.“ Von der Bundesregierung erwartet Jennissen, dass sie sicherstellt, dass dieser „vollkommen unverhältnismäßige Angriff auf unsere Kommunikationsgrundrechte und die IT-Sicherheit endlich vom Tisch kommt“.

Svea Windwehr vom digitalpolitischen Verein D64 sagt, dass die Chatkontrolle Grundrechte untergrabe, aber ohne den Schutz von Betroffenen zu verbessern. Jede Form der Chatkontrolle zerstöre die Verschlüsselung und die Vertraulichkeit privater Kommunikation, einem Schutz, von dem alle Menschen profitieren. „Anstatt auf vermeintliche technische Lösungen für eine komplexe gesellschaftliche Herausforderung zu setzen, müssen Ansätze gestärkt werden, die Prävention, Care und Unterstützung von Betroffenen in den Fokus rücken“, so Windwehr.

Elina Eickstädt, Sprecherin des Chaos Computer Clubs, nennt die Chatkontrolle und den vorgesehenen Bruch von vertraulicher und verschlüsselter Kommunikation den „Anfang von einem IT-Sicherheitsalptraum“. Hintertüren würden nie nur für Strafverfolgungsbehörden funktionieren, sondern immer auch für andere. „Die Bundesregierung muss sich klar gegen jeden Bruch von vertraulicher und verschlüsselter Kommunikation stellen, sie darf keinen Entwurf annehmen, der diese Prinzipien verletzt“, so Eickstädt weiter.

„Massiver Angriff auf Pressefreiheit“

Arne Semsrott von Frag den Staat sieht in der Chatkontrolle einen „massiven Angriff auf die Pressefreiheit“. Medienschaffende seien darauf angewiesen, vertraulich mit Quellen zu kommunizieren und ihre Arbeit zu schützen. „Wird diese Möglichkeit mit der Chatkotrolle genommen, schadet das der freien Presse enorm“, sagt Semsrott.

Das bestätigt auch Anja Osterhaus von Reporter ohne Grenzen. Sichere Verschlüsselung sei „unverzichtbar für vertrauliche Kommunikation und unabdingbare Voraussetzung für die Pressefreiheit“. Verschlüsselung schütze Journalist:innen und ihre Quellen, das ermögliche investigative Recherchen und erlaube es Whistleblowern, Missstände mitzuteilen. „Chatkontrolle untergräbt nicht nur das Vertrauen in sichere Kommunikation, sie gefährdet auch den Quellenschutz und unterminiert damit das Grundrecht auf Pressefreiheit“, so Osterhaus weiter. Reporter ohne Grenzen fordert deswegen die Bundesregierung dazu auf, sich öffentlich gegen Chatkontrolle zu positionieren.

„Gefährdet die Demokratie“

Lena Rohrbach, Expertin für Menschenrechte im digitalen Zeitalter bei Amnesty International sagt: „Bei der Chatkontrolle stimmt gar nichts: Als anlasslose Massenüberwachung trifft sie alle Menschen in der EU – außer Straftäter:innen, die sie umgehen werden.“ Das Vorhaben der Chatkontrolle „gefährdet die Demokratie, weil sie eine beispiellose Kontrolle unserer Kommunikation ermöglicht, die leicht missbraucht werden kann.“ Auch sie weist darauf hin, dass Kinder „echten Schutz durch Prävention und zielgerichtete Ermittlung“ benötigen würden.

Noa Neumann aus dem Koordinierungskreis von Attac warnt vor einer „anlasslosen, präventiven Massenüberwachung und einer vollständigen Aushöhlung des Datenschutzes“. Die Bundesregierung sei dazu verpflichtet, die Rechte und die Privatsphäre von Menschen aktiv zu schützen. „Deshalb muss sie gegen die Einführung der Chatkontrolle stimmen“, so Neumann weiter.

Linda Röttig vom Dachverband der Fanhilfen erklärt, dass Fußballfans häufig von Überwachung und Datenbanken von Polizeibehörden betroffen und deswegen besonders alarmiert seien, wenn staatliche Überwachung immer weiter ausgebaut werden soll. „Daher erheben auch wir gegen die Chatkontrolle unsere Stimme und warnen gemeinsam mit vielen anderen vor den katastrophalen Folgen dieses Verordnungsentwurfs“, so Röttig weiter. Die Fußballfans fordern die Bundesregierung auf, sich gegen eine Einführung der Chatkontrolle auszusprechen und von dieser Position auch andere Mitgliedsstaaten zu überzeugen.

Druck auf Ministerien nötig

Die Bundesregierung wird sich vermutlich vor dem 14. Oktober auf eine Position einigen, dann wird im EU-Rat abgestimmt. Zur Debatte steht der dänische Vorschlag, der eine verpflichtende Chatkontrolle und Client-Side-Scanning beinhaltet.

Das Bündnis „Chatkontrolle stoppen“ ruft dazu auf, die relevanten Personen und Organisationen zu kontaktieren. Das sind vor allem die beteiligten Bundesministerien (Innen, Justiz, Digital, Familie) sowie die Fraktionen und Abgeordneten der Regierungs-Parteien im Bundestag. Am besten wirken direkte E-Mails und Telefonanrufe, oder auch rechtzeitig ankommende Briefe. Auf der Webseite des Bündnisses gibt es Tipps und Adressen, um selbst aktiv zu werden.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Der Bund will bei Volkszählungen die Bürger*innen nicht mehr direkt befragen, sondern Daten aus der Verwaltung zusammenführen. Ein Schritt dahin ist das Registerzensus-Erprobungsgesetz samt Training mit Echtdaten. Eine Gesetzesänderung will den Zugriff nun ausweiten.

Während die Öffentlichkeit mit Covid-19-Varianten und Lockdowns beschäftigt war, rauschte im Mai des Jahres 2021 ein Gesetz durch den Gesetzgebungsprozess, das langfristig eine größere Wirkung haben dürfte, als vielen bewusst ist: das Registerzensus-Erprobungsgesetz (RegZensErpG).

Demnach darf das Statistische Bundesamt (StBA) nicht nur auf personenbezogene Daten aus den Datenbeständen der öffentlichen Verwaltung zugreifen, sondern vielmehr auch Tests für eine neue Art der Volkszählung durchführen.

Zunächst ging es hier vor allem um Daten aus den Melderegistern der kommunalen Verwaltungen. Seit Juli liegt nun ein neuer Referentenentwurf für eine Gesetzesänderung vor, wonach das Bundesamt Daten aus zwei weiteren Bereichen für die Erprobung statistisch auswerten können soll – und zwar aus Bildung und Arbeitsmarkt.

Schon im Jahr 2021 bemängelten Datenschützer*innen bei dem ursprünglichen Gesetz den laxen Umgang mit personenbezogenen Daten. Denn seine Tests darf das StBA entsprechend dem alten Gesetz auch mit Echtdaten durchführen. Laut Expert*innen verschärft sich das Problem, wenn mit dem neuen Entwurf weitere Arten von Daten hinzukommen.

Zensus? Register? Was ist das?

Aber erstmal ganz von vorn: Was ist ein Zensus, was ist ein Register und was will das Statistische Bundesamt testen? Besser bekannt ist der Zensus unter dem Namen „Volkszählung“. Das kann man sich so ähnlich vorstellen wie in der Bibel, in der alle Bewohner*innen gezählt wurden. Zweitausend Jahre später befragen Ämter die Bürger*innen nicht mehr direkt, sondern nutzen im Zuge der Digitalisierung personenbezogene Daten aus der öffentlichen Verwaltung. Die hält diese Daten in sogenannten Registern vor, daher der Ausdruck „Registerzensus“.

Bei den letzten beiden Volkszählungen in den Jahren 2011 und 2022 erhoben die Statistischen Ämter von Bund und Ländern Daten über die Bevölkerung nur noch stichprobenartig über Interviewer*innen, die von Haustür zu Haustür gehen. Weil das relativ lautlos vor sich ging, gab es auch keinen Aufschrei mehr wie bei der westdeutschen Volkszählung in den Achtziger Jahren.

Die zukünftigen Volkszählungen sollen, so die Pläne der Bundesregierung, nur noch mit Daten aus den Registern erfolgen. Da dieses Vorgehen verhältnismäßig neu ist, muss das Statistische Bundesamt entsprechende Verfahren ausprobieren.

Um welche Daten geht es?

Mit dem Erprobungsgesetz darf das Bundesamt, gesetzlich abgesichert, sensible Daten von Bürger*innen verarbeiten. Diese erhält es von den Statistischen Ämtern der Länder. Dazu gehören unter anderem „Vor- und Familienname, Wohnanschrift, Gemeinde, Geschlecht, Kalendermonat und Kalenderjahr der Geburt, Familienstand, Staat der Geburt, Kalenderjahr des Zuzugs nach Deutschland und Staatsangehörigkeiten“.

Das StBA darf die Daten aus verschiedenen Quellen zusammenführen und Verfahren testen, um einen reibungslosen Registerzensus zu üben. Künftig will es Daten aus „den Themenbereichen Bevölkerung, Gebäude und Wohnungen, Haushalte und Familien sowie Arbeitsmarkt und Bildung“ aus den Datenbeständen der Verwaltung entnehmen, „automatisiert zusammenführen sowie aufbereiten“, so das StBA auf seiner Website.

Bürger*innen direkt zu befragen, werde nur noch dann notwendig, wenn die entsprechenden Daten nicht zur Verfügung stehen.

Was erprobt das Statistische Bundesamt und wozu?

Um statistische Daten zu erheben, ohne Bürger*innen direkt befragen zu müssen, darf das Statistische Bundesamt auf die Melderegister zugreifen. Hier arbeiten die Statistischen Ämter der Länder mit dem Bundesamt zusammen. Künftig will das StBA Aussagen zu Einkommen oder Familienverhältnissen wie auch demografische Entwicklungen rein aus Registerdaten ableiten. Dazu will es beispielsweise Daten aus anderen Registern probeweise mit den Meldedaten verbinden.

Eigenen Angaben zufolge startete das Statistische Bundesamt 2024 die erste Erprobungsphase und testet seither Methoden für den Registerzensus. Dazu gehören technische Tests von IT-Fachanwendungen. Das Ziel ist, Methoden zu finden, die dem Qualitätsanspruch der bisherigen Völkszählung entsprechen. Sobald die Änderung des RegZensErpG verabschiedet ist, will das Statistische Bundesamt weitere Methodentests in den Modulen Arbeitsmarkt und Bildung durchführen.

Echte Daten statt Dummys

Zwar waren sich bei der öffentlichen Anhörung zum RegZensErpG im Mai 2021 alle Sachverständigen darin einig, dass Politik und Verwaltung eine gute Datenbasis für ihr Handeln brauchen und dass der Registerzensus von der Idee her gut ist. Zudem folgt das Gesetz inhaltlich Vorgaben der Europäischen Union. Hier greift etwa die EU-Rahmenverordnung über Zensus und Bevölkerungsstatistiken (ESOP).

Doch gingen die Meinungen dazu weit auseinander, was beim Testen entsprechender Verfahren erlaubt sein soll. Das mag auch daran liegen, dass das Gesetz nicht eindeutig festlegt, was in den Bereich der Erprobung fällt, was also das StBA konkret testen darf, erklärt Jurist und Datenschutzexperte Christian Aretz gegenüber netzpolitik.org. Der Begriff „Erprobung“ ist hier sehr weit gefasst.

Aus dem Gesetz scheine hervorzugehen, dass das StBA unter anderem „die reine technische Umsetzbarkeit“ testen will. Das sei höchstproblematisch. Denn das Amt testet mit Echtdaten und „ein Test impliziert immer, dass er auch fehlschlagen kann“, so Aretz. „Sonst müsste ich nicht testen. Dazu echte personenbezogene Daten zu verwenden, erzeugt ein unnötiges Risiko für den Datenschutz“, so Christian Aretz. Läuft ein Test schief, könnten etwa mehr Daten übermittelt werden als erlaubt.

Dabei könne das StBA für Tests leicht eine Testumgebung einrichten, erklärt Kirsten Bock von der Stiftung Datenschutz, die im Jahr 2021 Sachverständige im Bundestag zum Thema war. Das lohne sich nicht nur angesichts aller Tests, die das StBA künftig noch ausführen will. „Vielmehr trägt es dem Datenschutz Rechnung und ist in IT-Umgebungen übliches Vorgehen, da hier andernfalls ein großes Risiko für die IT-Sicherheit die Rechte und Freiheiten der Bürger*innen besteht.“

Schafft der Bund ein quasi-Zentralregister?

Das Thema IT-Sicherheit hat der Gesetzgeber kaum mitbedacht. Denn die echten Daten laufen beim StBA zentral zusammen und sollen sogar mit dem jeweiligen Identifier der einzelnen Bürger*innen verknüpft werden. Der Identifier, auch einheitliches Personenkennzeichen genannt, ist mal wieder die Steuer-ID.

Dabei sei es gar nicht erforderlich, Daten zentral zusammenzuführen, sagt Bock gegenüber netzpolitik.org. Meldedaten aus den kommunalen Registern könnten zwar auf Bundesebene miteinander abgeglichen werden. Sie mit Sozial- und Wirtschaftsdaten zusammenzuführen, könnte aber auch gut ausschließlich auf regionaler Ebene erfolgen. Das ist gerade relevant, wenn Lokalpolitiker*innen entscheiden müssen, ob eine Schule gebaut werden soll oder ob eine Gemeinde noch ein Seniorenheim braucht.

Daten könnte man sogar auf föderaler Ebene erheben und dann erst mit Daten auf Bundesebene zusammenführen, wenn sie bereits anonymisiert sind. Das wären echte statistische Daten, so Bock.

Hingegen baue der Bund hier eine zentrale Infrastruktur auf, mit der das StBA die Zweckbindung unterlaufen und sich ein Bild zu verschiedenen Fragen machen kann. Das sei aus gutem Grund verfassungsmäßig für Deutschland nicht vorgesehen. Denn diese Infrastruktur könne „von einer übelmeinenden Regierung ausgenutzt werden“, erklärt Bock.

Großzügige bis unklare Löschfristen

Die zentrale Zusammenführung personenbezogener Daten im StBA hat aber auch noch ein weiteres Problem: Das Amt darf sie laut Gesetz mindestens drei Jahre lang vorhalten. Ulrich Kelber, damaliger Bundesdatenschutzbeauftragter, kritisierte im Mai 2021: Das RegZensErpG legt nicht klar fest, wie lange das StBA die Daten bei sich vorhalten darf und wann es die verarbeiteten Daten löschen muss. Er mahnte im Eilverfahren dringend an, das Gesetz nachzubessern. Die damalige Große Koalition ließ diese Mahnung jedoch verpuffen.

Der Gesetzgeber hatte seinerseits bereits einen vorsichtigen Schutzmechanismus ins Gesetz geschrieben. Denn er unterscheidet zwischen sogenannten Erhebungs- und Hilfsmerkmalen und gibt vor, dass letztere möglichst früh zu löschen sind.

Hilfsmerkmale sind die, „mit deren Hilfe man zwei Datenbanken miteinander verheiraten kann“, erklärt Aretz. Das muss man in etwa so vorstellen: „Damit ich den Datensatz zu Max Mustermann aus der Datenbank A dem Datensatz zu Max Mustermann in der Datenbank B zuordnen kann, brauche ich ein Hilfsmittel, beispielsweise die Personalausweisnummer.“

Sobald die Zuordnung geklappt hat, könne man das Hilfsmittel löschen, spätestens nach drei Jahren. „Man rechnet also damit, dass die Daten in dieser Zeit irgendwo herumliegen“, so Aretz. Das verstoße gegen den datenschutzrechtlichen Grundsatz der Erforderlichkeit. Danach dürfen Daten nur dann verarbeitet werden, wenn dies gegenwärtig erforderlich ist. Sie dürfen also nicht vorgehalten werden für den Fall, dass man sie mal braucht.

Dabei handele es sich faktisch nicht mehr um statistische Daten. „Hier müssen wir von personenbezogenen Daten sprechen“, so Bock. Dass das StBA die Daten zentral bei sich und über einen so langen Zeitraum speichert, mache es zu einem attraktiven Ziel für Angreifer. Im Zweifelsfall bekomme es sogar nicht einmal unbedingt jemand mit, wenn an dieser Stelle Daten abfließen.

„Die informationelle Macht von Staat und Verwaltung“

Daten von Bürger*innen in dieser Art und Weise miteinander zu verknüpfen und zentral zu speichern, verstoße laut Bock außerdem gegen den Grundsatz der Gewaltenteilung. Der besage nämlich auch, dass die Verwaltungsbereiche voneinander getrennte Datenhaltungen haben.

Die Trennung hier aufzuheben, widerspreche dem verfassungsmäßigen Schutz der Bürger*innen vor den übermächtigen Zugriffen einer Verwaltung oder Regierung. Die dürften keine Profile zu einzelnen Bürger*innen anfertigen. Es bedeute Schutz der Demokratie, wenn keine staatliche Stelle übermäßig mächtig wird. „Doch was hier aufgebaut wird, ist eine massive informationelle Macht von Staat und Verwaltung.“

Diese Dynamik nehme zu, wenn der Referentenentwurf durchkommt und das StBA zusätzliche Daten zu den Beschäftigungsverhältnissen und Ausbildungswegen der Bürger*innen verarbeiten kann, so Bock.

Der Referentenentwurf liegt nun den Bundesländern, Verbänden, Organisationen und Institutionen vor. Sie haben die Gelegenheit zur schriftlichen Stellungnahme.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

In den kommenden Tagen wird die Bundesregierung entscheiden, wie sie am 14. Oktober in der EU zur Chatkontrolle abstimmt. Eines ist klar: Kommt die Chatkontrolle, wird es keine verschlüsselte und sichere Kommunikation mehr geben.

Der beliebte sichere Messenger Signal hat angekündigt, dass er Deutschland und Europa verlassen wird, wenn die Chatkontrolle kommt und sich keine Wege ergeben, sich dieser anlasslosen Massenüberwachung der privaten Kommunikation zu verweigern. Das hat Signal-Chefin Meredith Whittaker gegenüber der dpa gesagt, wie Tagesschau und Heise berichten. Es deutet sich an, dass eine Entscheidung über die Chatkontrolle am 14. Oktober fallen könnte – und die Position der Bundesregierung ist dabei entscheidend.

„Wenn wir vor die Wahl gestellt würden, entweder die Integrität unserer Verschlüsselung und unsere Datenschutzgarantien zu untergraben oder Europa zu verlassen, würden wir leider die Entscheidung treffen, den Markt zu verlassen“, sagte Meredith Whittaker der Nachrichtenagentur dpa.

Bei der so genannten Chatkontrolle geht es um eine EU-Verordnung, die sich gegen die Verbreitung von Darstellungen sexuellen Kindesmissbrauchs (sogenannte Kinderpornografie) richten soll. Sie wird seit drei Jahren kontrovers in der EU verhandelt, weil die Verordnung Vorschriften enthält, die Messenger wie WhatsApp, Signal, Threema oder Telegram verpflichten sollen, die Dateien aller Menschen auf deren Smartphones und Endgeräten ohne jeden Verdacht zu durchsuchen.

Chatkontrolle als Bedrohung für Privatsphäre und Demokratie

Dieses Durchleuchten von Dateien würde dazu führen, dass eine verschlüsselte und sichere Kommunikation für niemanden mehr möglich ist, weil die Dateien schon vor der eigentlichen Verschlüsselung angeschaut werden können. Die komplette IT-Fachwelt, führende Sicherheitsforscher, Wissenschaftler:innen aus aller Welt sowie zivilgesellschaftliche Organisationen aller Art lehnen daher die Chatkontrolle als Bedrohung für die Demokratie vehement ab. Das Suchen nach Inhalten ist technisch nicht auf bestimmte Inhalte zu begrenzen, sondern könnte in wenigen Handgriffen auch auf politisch missliebige Inhalte ausgeweitet werden.

Signal-Chefin Whittaker sagte der dpa, dass ihr Messenger niemals die Integrität seiner Ende-zu-Ende-Verschlüsselung untergraben werde. „Sie garantiert die Privatsphäre von Millionen und Abermillionen von Menschen auf der ganzen Welt, oft auch in lebensbedrohlichen Situationen.“ Signal lehne deshalb die Chatkontrolle ab. „Es ist bedauerlich, dass Politiker weiterhin einer Art magischem Denken verfallen, das davon ausgeht, dass man eine Hintertür schaffen kann, auf die nur die Guten Zugriff haben.“

Bundesregierung mauert

Während der Ampel-Regierung war die Ablehnung der Chatkontrolle nach anfänglichen Unstimmigkeiten mit dem Innenministerium relativ sicher. Das hat sich mit der neuen schwarz-roten Regierung geändert.

Die neue Bundesregierung, aber auch das beteiligte Innenministerium, das Justizministerium und der Digitalminister machen derzeit keine Aussagen, wie sie zur Chatkontrolle stehen und wie Deutschland am 14. Oktober im EU-Rat stimmen wird. Eine Entscheidung in der Bundesregierung soll in den nächsten Tagen fallen.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.