Es gibt keine wissenschaftlichen Belege für ein pauschales Social-Media-Verbot für Minderjährige, sagen Forscher*innen auf der Digitalkonferenz re:publica. Selbst viele Befürworter*innen eines Verbots zweifeln an dessen Wirksamkeit. Erste Zahlen aus Australien legen nahe, warum diese Skepsis berechtigt ist.

Für die 17-jährige Emilia, die seit kurzem das Abitur in der Tasche hat und sich in ihrer Stadt als Jugendgemeinderätin engagiert, ist das von der Politik aktuell vorangetriebene Social-Media-Verbot für Minderjährige eine „impulsive Aktion“, die „die Versäumnisse der letzten Jahre wettzumachen versucht“. Zum einen habe die Politik vernachlässigt, Kinder und Jugendliche im Umgang mit Digitalmedien umfassend zu schulen. Zum anderen sei die junge Generation vor allem durch die vielen politischen Krisen psychisch belastet und fühle sich von der Politik alleingelassen, wie kürzlich auch die Trendstudie „Jugend in Deutschland“ zeigte. Das Schlimmste daran: Das Gefühl, von politischen Entscheidungsprozessen ohnehin ausgeschlossen zu sein, werde durch das diskutierte Social-Media-Verbot nur noch verstärkt.

Mit dieser Einschätzung ist Emilia nicht allein. Bei einem Panel mit Expert*innen aus der Wissenschaft auf der Berliner Digitalkonferenz re:publica beleuchtete sie die Perspektive der Jugendlichen zum Social-Media-Verbot. Auch die anderen Panelist*innen waren sich durchweg einig, dass das Vorantreiben eines pauschalen Social-Media-Verbots nichts anderes als reine Symbolpolitik ist.

„Ein pauschales Verbot vermittelt den Eindruck, dass endlich etwas getan wird“, sagte Hannes-Vincent Krause, Psychologe und Wirtschaftsinformatiker am Weizenbaum-Institut. Wissenschaftlich lasse sich so ein Verbot jedoch nicht halten – weder in Hinblick auf Notwendigkeit noch Effektivität. „Der Zusammenhang zwischen der Nutzungszeit von Social Media und mentaler Gesundheit ist genau so groß wie der Zusammenhang zwischen Kartoffeln-Essen und mentaler Gesundheit“, so der Panelist.

Social-Media-Verbot empirisch nicht haltbar

Auch laut einem aktuellen Diskussionspapier des Weizenbaum-Instituts gibt es bislang keine wissenschaftlichen Belege für „konsistente, starke negative Effekte“ sozialer Medien auf Minderjährige. Vielmehr ist die Wirkung kontextabhängig und kommt stark auf individuelle Dispositionen und die soziale Umgebung der Nutzenden an.

Statt also in einem angstgetriebenen Diskurs in „blinden Aktionismus“ zu verfallen und einzelne Plattformen grundsätzlich zu verbieten, brauche es eine klare Regulierung von problematischen Inhalten durch die Provider und eine angemessene Vermittlung von Medienkompetenz. Denkbar wären beispielsweise abgestufte Altersbeschränkungen für verschiedene Arten von Inhalten, die sich nicht für Minderjährige eignen, so der Forscher.

Auch laut Josephine B. Schmitt, wissenschaftliche Koordinatorin am Center for Advanced Internet Studies (CAIS), fehle es der aktuellen Debatte rund um das Verbot an wissenschaftlichen Fakten – etwas, was Expert*innen schon seit geraumer Zeit bemängeln. „Pauschale Social-Media-Verbote suggerieren politische Handlungsfähigkeit, verschieben die Verantwortung aber auf junge Menschen, statt Plattformen konsequent zu regulieren.“

Soziale Medien seien für Jugendliche nicht nur Risikoräume, sondern auch Orte für Information, Austausch, Selbstorganisation und gesellschaftliche Teilhabe. „Verbote lösen viele Probleme nicht, sondern verschieben sie in weniger sichtbare Räume“, so Schmitt.

Mehrheit befürwortet Verbot, aber glaubt nicht daran

Die Ergebnisse einer neuen repräsentativen Meinungsumfrage stellte Roland A. Stürz vom Bayerischen Forschungsinstitut für Digitale Transformation (bidt) auf dem Panel vor. Demnach sprechen sich zwei Drittel der Befragten (66 Prozent) für ein Verbot von Sozialen Medien für Kinder unter 14 Jahren aus. Mit steigender Altersgrenze nimmt die Zustimmung deutlich ab: Ein Verbot für unter 16-jährige findet keine Mehrheit mehr (46 Prozent). Bei einem Verbot für unter 18-jährige wendet sich das Blatt komplett: Hier sind mehr Menschen gegen ein Verbot (24 Prozent) als dafür (11 Prozent). Dass die Zustimmung zu einem Verbot von der Altersgrenze abhängt, ist bereits in anderen Umfragen, wie beispielsweise der des Deutschen Instituts für Wirtschaftsforschung (DIW), deutlich geworden.

Ein interessantes Ergebnis liefert die Umfrage, für die statista+ Research im Auftrag von bidt 2.500 Personen ab 16 Jahren befragt hat, dennoch: Die Mehrheit der Befragten (59 Prozent) glaubt nicht daran, dass ein gesetzliches Verbot wirksam sein wird. Selbst unter den Befürworter*innen des Verbots für unter 14-jährige glaubt mehr als die Hälfte (55 Prozent) nicht, dass das Verbot Kinder von der Nutzung Sozialer Medien abhalten wird. „Dahinter steckt in meinen Augen das legitime Bedürfnis der Menschen nach Klarheit bei der Regulierung von Sozialen Medien, da die bisherige Regulierung sehr komplex erscheint und damit schwierig in der Umsetzung ist“, erklärt Stürz in einer Pressemitteilung anlässlich des Panels.

Dieses paradoxe Ergebnis ließe sich jedoch auch so deuten, dass Umfragen, die lediglich nach Verboten fragen, zu kurz kommen und das differenzierte Meinungsbild der Menschen in Deutschland nicht gänzlich abbilden können. Wie die bereits erwähnte Umfrage des DIW zeigt, sehen die meisten Menschen sowohl Risiken als auch Chancen von Social Media und befürworten ebenfalls mehrheitlich alternative, weniger drastische Maßnahmen wie eingeschränkte Konten („Basisaccounts“), engere Begleitung der Social-Media-Nutzung von Kindern durch ihre Eltern und die Förderung von Medienkompetenz.

Häufig fehlt in solchen Umfragen zu Verboten außerdem der Aspekt der konkreten Umsetzung. Denn altersbasierte Verbote gehen oft mit Alterskontrollen per Ausweis oder KI-basiertem biometrischen Gesichtsscan für alle – nicht nur für Kinder und Jugendliche – einher. Die meisten Befragten wollen solche Kontrollen jedoch nicht haben, wie die Umfrage des Instituts YouGov im Auftrag des Internet-Branchenverbands eco herausgefunden hat.

Social-Media-Verbot in Australien hat keinen großen Effekt

Die Skepsis in der Bevölkerung gegenüber einem pauschalen Verbot kommt nicht von ungefähr. Sie deckt sich mit neuen Erkenntnissen aus Australien, wo ein Social-Media-Verbot für Kinder unter 16 Jahren nun seit einem halben Jahr gilt. Seit Dezember dürfen sie Plattformen wie Instagram, TikTok oder Snapchat nicht mehr nutzen. Laut Schmitt ist eine überwältigende Mehrheit der australischen Jugendlichen – etwa 70 Prozent – dennoch weiterhin auf Social Media aktiv. Die Alterskontrollen umgehen sie mit von Fake Accounts, Fotos von Erwachsenen oder auch geschminkten Gesichtern, die die Software älter einschätzt als ungeschminkte. Lediglich 30 Prozent der Minderjährigen sind dem Verbot gefolgt.

„To be fair – alle Konzepte, die wir aufzeigen, sind deutlich komplexer als ein Verbot und erfordern viel Auseinandersetzung mit den Plattformen“, sagte Krause vom Weizenbaum-Institut. Gleichzeitig seien im Gesetz über digitale Dienste der EU bereits ausreichende Instrumente vorhanden, die die Politik zur Regulierung von Plattformen nutzen könnte, so Schmitt von CAIS.

In Australien seien zudem die Perspektiven Jugendlicher vor der Entscheidung kaum berücksichtigt worden, so die Forschenden. „Der wichtigste Punkt ist und bleibt aber die Einbeziehung von Jugendlichen selbst“, betonte Emilia. „Denn kaum jemand kann die Auswirkungen von Jugendschutzmaßnahmen auf die Lebenswelt der Jugendlichen so gut einschätzen wie die Jugendlichen selbst.“ Bei anderen Gesetzesprojekten erhalten Betroffene schließlich ebenfalls die Chance, Stellung zu nehmen.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Vor laufender Kamera wird der Bundeskanzler auf dem Katholikentag gefragt: „Verbot, Social Media, sind Sie dafür?“ Und Friedrich Merz sagt: „Nein.“ Was heißt das für die Debatte?

Auf dem Katholikentag in Würzburg hat Friedrich Merz (CDU) eine Wende in der Debatte um soziale Medien und Alterskontrollen angedeutet. Auf die Frage nach seiner Position zum Social-Media-Verbot („Sind Sie dafür?“) sagte der Bundeskanzler: „Nein. Ich bin der Meinung, dass wir die Frage behandeln müssen, ob wir die Plattformen besser regulieren.“

Hintergrund sind internationale Forderungen, dass junge Menschen nach australischem Vorbild keine sozialen Medien mehr nutzen sollen. Ein entsprechendes Verbot wollen hochrangige Politiker*innen in Deutschland und der EU, darunter Familienministerin Karin Prien (CDU), der französische Präsident Emmanuel Macron und EU-Kommissionspräsidentin Ursula von der Leyen (CDU).

Noch im Februar hatte der Kanzler im Podcast Machtwechsel „viel Sympathie“ für ein Verbot geäußert. Auf ein klares Ja zum Social-Media-Verbot bis 14 Jahre hatte sich die CDU per Parteitagsbeschluss kurz darauf geeinigt. Im April war der Kanzler Gast bei einem von Macron einberufenen virtuellen Gipfeltreffen von Befürworter*innen des Verbots in der EU.

„Hundertprozentige Zustimmung“ – aber wofür?

Dem entgegen steht das jüngste „Nein“ des Kanzlers auf dem Katholikentag am 15. Mai. Mit seinem Verweis auf „bessere“ Regulierung nähert sich Merz den Kritiker*innen eines Verbots an, die digitale Räume lieber sicherer machen wollen, statt junge Menschen auszusperren. In diese Richtung gehen Positionen von Fachleuten für unter anderem Kinderschutz, Medienpädagogik, Privatsphäre und IT-Sicherheit. Klappen soll das mit strengeren Regeln, etwa für algorithmisch sortierte Feeds oder manipulative Designs.

Zur Begründung seiner Position sagt der Kanzler:

Wie gehen wir so damit um, dass gerade Kinder und Jugendliche in ihrer wichtigsten Zeit, in der sie […] fürs Leben geprägt werden, so auch auf einen guten Weg gebracht werden, dass sie ihr Leben meistern können? Und wenn Social Media dazu beiträgt: hundertprozentige Zustimmung. Aber es gibt auch Risiken. Und über diese Risiken müssen wir sprechen.

Aus dem Zitat geht nicht klar hervor, wofür der Kanzler „hundertprozentige Zustimmung“ hat. Anscheinend hat es etwas mit dem Beitrag sozialer Medien fürs Leben junger Menschen zu tun. Im Kern verweist Merz an dieser Stelle jedenfalls auf Risiko-basierte Regulierung – das Gegenstück zu pauschalen Verboten. Dieses Modell verfolgt die EU etwa mit dem Gesetz über digitale Dienste (DSA) und mit Plänen für ein Gesetz über digitale Fairness (DFA).

Zustimmung für seine Aussage bekam Merz direkt auf der Bühne von Lisa Quarch, Theologin beim Bund der Deutschen Katholischen Jugend (BDKJ). Der Bund lehnt ein Social-Media-Verbot ab. Quarch pochte auf „Ausgewogenheit zwischen Teilhabe und Schutz“, woraufhin der Kanzler mehrfach nickte.

Merz sendet verschiedene Signale

Eine eindeutige Position lässt sich aus den Aussagen des Kanzlers vom Katholikentag allerdings nicht ableiten. Denn an anderer Stelle stärkt Merz die Forderung nach Altersgrenzen:

Wir haben eine Diskussion über die Frage Altersbegrenzung und Zugänge zu bestimmten Plattformen. Ich glaube, dass wir da auf dem richtigen Weg sind. Natürlich kann man alles umgehen. Aber wenn wir immer nur danach gehen, was man alles umgehen kann, dann können wir nichts mehr machen.

Merz versucht hier, ein zentrales Argument der Verbots-Gegner*innen zu entkräften: Dass Verbote keine Wirkung hätten, weil junge Menschen sie umgehen würden. Unklar ist, was Merz mit dem „richtigen Weg“ meint. Denn die Debatte um Altersbegrenzung geht in mehrere Richtungen. Viele prominent vorgebrachte Positionen sind nicht schlüssig oder ambivalent. EU-Kommissionspräsidentin von der Leyen spricht inzwischen von „Aufschub“ statt „Verbot“ – meint jedoch das gleiche.

Was die Kommentare des Kanzlers zur Debatte mindestens zeigen: Die Meinungsbildung in der Bundesregierung geht weiter. Während der Kanzler verschiedene Signale sendet, hat sich die SPD-Fraktion im Bundestag im April für ein Social-Media-Verbot ausgesprochen. CSU-Politiker wie Markus Söder lehnen das Vorhaben jedoch ab. Noch im April hatte die Bundesregierung mitgeteilt, sie habe noch keine Position. Bis zum Sommer sollen Fachleute in Deutschland und auf EU-Ebene Empfehlungen für digitalen Kinder- und Jugendschutz vorlegen.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Tommy Olsen nutzt soziale Medien, um Geflüchtete sichtbar zu machen und damit deren Pushbacks zu verhindern. In Griechenland soll ihm deshalb der Prozess gemacht werden. Die Auslieferung des Norwegers ist nun abgewendet – vorerst.

Das norwegische Berufungsgericht Hålogaland hat die Auslieferung des Aktivisten und Pushback-Dokumentars Tommy Olsen an Griechenland einstimmig abgelehnt. Das Gericht befand, dass die Handlungen, die griechische Behörden Olsen vorwerfen, nach norwegischem Recht keine Straftaten darstellen. Zudem erkannte es eine Gefahr der Verletzung des Rechts auf freie Meinungsäußerung, das in Artikel 10 der Europäischen Menschenrechtskonvention festgeschrieben ist. Der Beschluss eines Verwaltungsgerichts, das im März die Auslieferung Olsens grundsätzlich erlaubte, ist damit nichtig.

Der Norweger Tommy Olsen kam 2015 als Freiwilliger auf die Insel Lesbos, um Schutzsuchende auf Booten als Ersthelfer in Empfang zu nehmen und ihre Ankunft zu dokumentieren. 2017 gründete er dazu von Tromsø aus Aegean Boat Report, zunächst als Facebook-Seite und auf Twitter mit zehntausenden Followern, seit 2018 als formell registrierte Nichtregierungsorganisation.

Postings gegen das Verschwinden

Aegean Boat Report empfängt über Handy und andere digitale Kanäle Videos, GPS-Koordinaten und Lageberichte von Geflüchteten auf See und veröffentlicht sie umgehend. Die Logik dahinter: Wenn die Ankunft der Menschen auf dem Festland oder Inseln in Griechenland öffentlich nachvollziehbar ist, können Behörden sie schwerer zurückweisen – oder die Betroffenen leichter dagegen gerichtlich vorgehen.

Griechische Grenztruppen sind seit Jahren dafür berüchtigt, Geflüchtete in türkische Gewässer oder über die Landgrenze in Richtung der Türkei zu entführen, damit diese keinen Asylantrag stellen können. In der Ägäis kommt es dabei immer wieder zu vielen Toten. Zuletzt hatten Küstenwächter im Februar ein Schlauchboot vor Chios gerammt, 15 Menschen starben dabei.

Vor zwei Wochen wurde ein Frontex-Bericht öffentlich, wonach auch die EU-Grenzagentur bestätigt, wie die Besatzung eines griechischen Patrouillenbootes bei einem Vorfall vor einem Jahr in der Ägäis mit Stöcken auf ein Boot mit 31 Migrant:innen einschlug. Dieses sei daraufhin gesunken, sieben Menschen starben, darunter ein Kind.

Vorwurf wegen „krimineller Vereinigung“

Griechische Behörden hatten Olsen im Dezember 2025 mit einem Europäischen Haftbefehl verfolgen lassen. Am 16. März klingelten schließlich vier Polizist:innen an seiner Wohnung in Tromsø und nahmen ihn vorübergehend in Auslieferungshaft. Die Vorwürfe gehen auf griechische Ermittlungen aus dem Jahr 2022 zurück. Darin geht es um die angebliche Mitgliedschaft in einer kriminellen Vereinigung, Schleusung sowie Beihilfe zur irregulären Einreise.

Die Anklage bezieht sich auf einen Vorfall, bei dem ein Geflüchteter, der zweimal von griechischen Behörden in die Türkei zurückgedrängt worden war, die Vorfälle auf Videos öffentlich machte. Als er beim dritten Versuch gemeinsam mit weiteren Schutzsuchenden in Griechenland ankam, informierten Olsen und der Aktivist Panayote Dimitras von der griechischen NGO Helsinki-Monitor – der ebenfalls angeklagt ist – die griechischen Behörden. So wollten sie sicherstellen, dass die Neuangekommenen Zugang zum Asylverfahren erhalten.

Olsen bestreitet alle Vorwürfe. Bereits nach seiner Festnahme hatte er auf dem X‑Account von Aegean Boat Report geschrieben: „Griechische Behörden wollen mich zum Schweigen bringen und haben deshalb eine Geschichte fabriziert, in der sie mich beschuldigen, mit Schleusern zusammenzuarbeiten.“

Griechenland wegen Pushbacks verurteilt

Das norwegische Berufungsgericht stützte sich bei seiner Entscheidung auch auf Erkenntnisse des Europäischen Gerichtshofs für Menschenrechte, auf Berichte von UN-Sonderberichterstattern sowie EU-Rechtsstaatsberichte, die ebenfalls schwerwiegende Bedenken bezüglich der Pushback-Praxis Griechenlands dokumentieren. Kritisiert wird darin auch die gezielte Verfolgung von Menschenrechtsverteidiger:innen in Griechenland.

Erst im Juni 2025 war Athen wegen illegaler Pushbacks vom Europäischen Gerichtshof für Menschenrechte verurteilt worden. Das Berufungsgericht erkannte ausdrücklich an, dass die Tätigkeiten, wie sie griechische Behörden auch Olsen anlasten, durch das Völkerrecht und die Meinungsfreiheit geschützte Aktivitäten sind.

Urteil mit europäischer Tragweite

Das Urteil kommentierte die Organisation am Freitag: „Dies ist nicht nur ein wichtiger persönlicher Sieg für Tommy Olsen. Es ist auch eine wichtige Entscheidung für Journalist:innen, Menschenrechtsverteidiger:innen, humanitäre Helfer:innen und alle, die Rechtsverletzungen an Europas Grenzen dokumentieren.“

Olsens norwegischer Verteidiger Brynjulf Risnes sieht in der aktuellen Entscheidung des Berufungsgerichts eine Weichenstellung mit europäischer Tragweite, die „sowohl in Griechenland als auch in anderen Ländern Beachtung finden“ werde.

Auch sein griechischer Anwalt Zacharias Kesse kommentierte das Urteil als „deutliche Botschaft an die griechischen Gerichte und Staatsanwaltschaften hinsichtlich der Grenzen des Rechtsstaats, der Meinungsfreiheit und des Missbrauchs des Strafverfahrens“.

Kampf noch nicht beendet

Bereits in allen früheren, ähnlichen Prozessen gegen ihn in Griechenland war Olsen freigesprochen worden. „Das ist eine enorme Erleichterung“, sagte Olsen unmittelbar nach Bekanntgabe der aktuellen Entscheidung. „Auch meine Familie ist unglaublich erleichtert.“

Trotz des Erfolgs bleibt Olsens Bewegungsfreiheit eingeschränkt: Der Europäische Haftbefehl Athens kann in anderen EU-Staaten vollstreckt werden. „Das macht meine Arbeit schwierig, und ich kann auch meine Familie nicht in den Urlaub ins Ausland mitnehmen“, sagte Olsen am Freitag.

Ob die Staatsanwaltschaft Revision einlegen und das griechische Auslieferungsersuchen vor den Obersten Gerichtshof bringen wird, war zunächst offen. Auch muss sich zeigen, ob die Justiz in Athen womöglich in Abwesenheit gegen Olsen verhandelt. Zunächst feierte der Aktivist mit seiner Familie. „Dieser Prozess war wohl schlimmer für sie als für mich“, sagte Olsen.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die 20. Kalenderwoche geht zu Ende. Wir haben 10 neue Texte mit insgesamt 85.644 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

Liebe Leser*innen,

soll Europa Jugendlichen den Zugang zu Social Media verbieten? Eigentlich berät darüber gerade ein Expert*innengremium, die EU-Kommission hat es einberufen. Doch Kommissionspräsidentin von der Leyen kann das Ergebnis scheinbar nicht abwarten. In einer Rede klang sie diese Woche bereits sehr festgelegt. „Es ist meine Überzeugung, dass wir einen zeitlichen Aufschub für soziale Medien in Betracht ziehen müssen“, sagte sie.

„Zeitlicher Aufschub“ ist ihr Euphemismus für „Verbot für Jugendliche“. Von der Leyen hat ihn aus der Kommunikationsstrategie zum Social-Media-Verbot der australischen Regierung übernommen. Auch ihre Aufforderung „Geben wir den Kindern die Kindheit zurück“, stammt von dort. Mein Kollege Sebastian hat ihre Rede analysiert und erklärt, warum ein Social-Media-Verbot Kinder nicht zwingend glücklicher macht. Es nimmt ihnen soziale Kontakte und eine Möglichkeit zum Erwerb digitaler Kompetenzen.

Sebastian hat auch aufgeschrieben, was von der Leyen in ihrer Rede noch alles ausgelassen hat. Zum Beispiel, dass die Alterskontroll-App, die sie kürzlich vorgestellt hat, die Menschen zur Nutzung von iOS oder Android zwingt. Menschen mit freien Betriebssystemen wären demnach ebenfalls von altersgeschützten Inhalten ausgesperrt.

Und dann könnte das Alterskontroll-System auch noch mindestens ein wichtiges Privatsphäre-Tool in Gefahr bringen.

Aktuell nutzen in Australien – wie auch in Großbritannien, wo ebenfalls ein Social-Media-Verbot für Jugendliche gilt – viele Heranwachsende Dienste für virtuelle private Netzwerke (VPN), um die Alterssperren zu umgehen. Damit wird ihr Datenverkehr über Länder ohne Alterskontrollen geleitet. Mit diesem Trick ließe sich auch ein europäischer Alterskontroll-App-Zwang umgehen.

Alterskontrollen können nicht effektiv durchgesetzt werden, so lange es unbeschränkte VPNs gibt. Das hat auch der Wissenschaftliche Dienst des Europäischen Parlaments erkannt und dazu festgestellt, dass man Jugendlichen ja auch den Zugang zu VPNs sperren könne. Der Schritt läge nahe, wäre aber hochproblematisch.

VPNs nutzen auch Volljährige, um sich beispielsweise mit ihrer Büro-IT zu verbinden, weil sie ihr Internet-Nutzungsverhalten nicht mit ihrem WLAN oder Internet-Zugangsanbieter teilen wollen, oder auch weil sie kritische Journalist*innen oder Aktivisti mit erhöhtem Datenschutzbedürfnis sind. Für all sie gälte dann, wie auch für die Social-Media-Nutzer*innen, eine Ausweispflicht. Denn um von der Leyens App nutzen zu können, müssen Menschen damit ihren Ausweis scannen – und ihr Gesicht.

Um Kinder vor nicht-altersgerechten Inhalten und suchterzeugenden Mechanismen zu schützen, bräuchte man allerdings gar nicht alle Nutzer*innen zu kontrollieren, sondern nur die Plattformen.

Winkt von Mastodon aus:

Martin

---

Degitalisierung: Fremde Autos

Lehrvideos über Gefahren im Straßenverkehr sind genauso notwendig wie der Versuch, immer sicherere Autos zu bauen. Digitale Risiken sind im Vergleich dazu noch mal besonders, denn sie haben eine weitere Risikokomponente. Verknüpft damit ist eine gesamtgesellschaftliche Aufgabe. Von Bianca Kastl –
Artikel lesen

„Gemeinsam kämpfen“: Das sagen Pornodarsteller*innen zur Deepfake-Flut

Aufnahmen von Pornodarsteller*innen liefern die Vorlage für sexualisierte Deepfakes. Aber die Öffentlichkeit sieht sie nicht als Opfer, kritisiert Ana Ornelas von der European Sex Workers’ Rights Alliance. Ein Interview über gestohlene Nacktaufnahmen, patriarchale Gewalt und Kontrollverlust.
Von Chris Köver –
Artikel lesen

Wissenschaftlicher Dienst des EP: Wer Kinder ausschließen will, muss Anonymität verbieten

VPNs sind ein Schlupfloch für Jugendliche, um Social-Media-Verbote zu umgehen. Das konstatiert eine Analyse des Wissenschaftlichen Dienstes des Europäischen Parlaments. Er stellt deshalb eine Personalausweispflicht für die VPN-Nutzung in den Raum. Dabei sind Werkzeuge zur Identitätsverschleierung wichtige Bestandteile einer Demokratie. Von Martin Schwarzbeck –
Artikel lesen

Gemeinsames Europäisches Asylsystem: IT-Anpassungen in Deutschland kosten mindestens 150 Millionen Euro

Bis ein neues europäisches Asylsystem wirksam wird, ist es nur noch einen Monat Zeit. Die Mitgliedstaaten müssen dafür jede Menge Prozesse anpassen und IT-Systeme aktualisieren. In Deutschland wird das nicht nur knapp, sondern auch ziemlich teuer. Von Anna Biselli –
Artikel lesen

Iran dominiert im Slopaganda-Krieg: Mit Legosteinen gegen das Weiße Haus

Der Iran gewinnt mit KI-generierten Lego-Clips etliche Schlachten gegen die Trump-Regierung – zumindest im Netz. Millionenfach geklickt, weltweit geteilt: Der iranische Propaganda-Erfolg basiert auf einem Prinzip, das längst ein eigenständiges Genre geworden ist. Von Denis Glismann –
Artikel lesen

Statt Datenstrategie: Digitalministerium will KI-Agenten für die Verwaltung

Die Verwaltungsdigitalisierung ging in den vergangenen Jahren äußerst schleppend voran. Eine Ursache dafür: Die Verwaltung speichert ihr Wissen in Dokumenten ab statt als maschinenlesbare Daten. Statt das Problem anzugehen, macht sich das Digitalministerium für KI-Agenten stark. Die arbeiten jedoch intransparent und erzeugen übermäßig Fehler. Von Esther Menhard –
Artikel lesen

Petition gegen Digitalzwang: 64.000 Menschen wollen das Grundgesetz ändern

Das Recht auf analoges Leben soll ins Grundgesetz – mehr als 64.000 Unterzeichner*innen fordern das in einer Petition. Interessierte können sich bis 21. Mai anschließen. Im Interview erklären die Initiator*innen: Der ausufernde Digitalzwang schadet der Demokratie. Von Martin Schwarzbeck –
Artikel lesen

„Es ist meine Überzeugung“: Von der Leyen kommt eigenen Fachleuten zuvor und will Social-Media-Verbot

Bevor sich ihre Jugendschutz-Expert*innen dazu äußern können, fordert Ursula von der Leyen ein Social-Media-Verbot für Minderjährige plus Alterskontrollen. Unsere Analyse zeigt: Die Kommissionspräsidentin folgt dem Playbook der australischen Regierung. Von Sebastian Meineck –
Artikel lesen

re:publica 26: Dagegenhalten für ein besseres Morgen

Nächste Woche findet die diesjährige re:publica statt, die größte Konferenz für die digitale Gesellschaft in Europa. Das Programm bietet viele spannende Themen und Formate. Auf den Bühnen stehen auch Redakteur:innen und Autor:innen von netzpolitik.org. Von Daniel Leisegang –
Artikel lesen

Digitalministerkonferenz: Wildberger will Datenschutz für KI-Einsatz in der Verwaltung schleifen

Der durchdigitalisierte Staat soll her und das möglichst schnell. Darin sind sich Bund und Länder nach der Digitalministerkonferenz einig. Um Tempo zu machen, wollen die zuständigen Minister:innen mehr sogenannte Künstliche Intelligenz und weniger Datenschutz. Von Esther Menhard –
Artikel lesen

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Der durchdigitalisierte Staat soll her und das möglichst schnell. Darin sind sich Bund und Länder nach der Digitalministerkonferenz einig. Um Tempo zu machen, wollen die zuständigen Minister:innen mehr sogenannte Künstliche Intelligenz und weniger Datenschutz.

Bürokratieabbau, Registermodernisierung, DeutschlandID: Auf diese Themen blickt Bundesdigitalminister Karsten Wildberger (CDU) schon seit längerem mit der KI-Brille. Spätestens seit Mittwoch weiß er die Länder dabei hinter sich. Auf der Pressekonferenz zur Digitalministerkonferenz (DMK) demonstrierten Wildberger, die hessische Digitalministerin Kristina Sinemus (CDU) und der Chef der Senatskanzlei Hamburg Jan Pörksen (SPD) Einigkeit bei diesem Thema. Alle drei betonten, dass man beim KI-Einsatz in der öffentlichen Verwaltung an einem Strang ziehe.

Seit 2024 treffen sich die Minister:innen, Senatoren und Staatssekretär:innen der Länder regelmäßig, um über digitalpolitische Entscheidungen zu diskutieren. Die fünfte DMK fand in Hamburg statt und knüpfte inhaltlich an die Föderale Modernisierungsagenda an. Die hatten Bundeskanzler Friedrich Merz (CDU) und die Regierungschef:innen der Länder im Dezember beschlossen. Die 200 Maßnahmen der Föderalen Modernisierungsagenda zielen vor allem darauf ab, Bürokratie abzubauen. Bund und Länder wollen etwa bis Ende 2026 Berichtspflichten für die öffentliche Verwaltung prüfen, um mindestens die Hälfte von ihnen zu streichen.

Ein weiteres Ziel ist ein durchgehend digitalisierter Staat. Zwar lehnte die DMK einen Antrag Schleswig-Holsteins zu „digital only“ ab. Demnach sollen Verwaltungsbehörden nur noch rein digitale Prozesse anbieten und auf papiergebundene Arbeit verzichten. Doch die Uneinigkeit sei nicht inhaltlich begründet, so Sinemus und Wildberger, sondern darin, bis wann dieses Ziel erreicht sein soll. Das Ziel digital only sehen der Koalitionsvertrag und die Föderale Modernisierungsagenda vor. „Der Weg führt klar in diese Richtung“, sagt Wildberger.

Mit KI zurück an die Spitze

Und dieser Weg ist gepflastert mit KI-Projekten. Nur so ließen sich laut Digitalminister ein durchgehend digitaler Staat erreichen und die Wettbewerbsfähigkeit Deutschlands stärken. Daher freut sich Wildberger nach eigenen Angaben auch über Deutschlands Wirkmacht beim KI-Omnibus auf EU-Ebene. Mit der jüngst erzielten Einigung erhalte die Industrie nun „mehr Freiraum“, so der Minister. Die Industrie solle auch bei der Umsetzung des Deutschland-Stacks eine wichtigere Rolle einnehmen.

Seinen Fokus auf generative KI hat Wildberger bereits zu seinem Amtsantritt eingenommen. Besonders deutlich wurde das etwa auf dem Gipfel zur Europäischen Digitalen Souveränität im November vergangenen Jahres und auf der Münchener Sicherheitskonferenz im vergangenen Februar. Im November begrüßte der Minister ausdrücklich die Kooperation des französischen KI-Start-ups Mistral und des deutschen Softwareunternehmens SAP, die nun gemeinsam eine KI-Lösung für die öffentliche Verwaltung bereitstellen wollen. Und er unterzeichnete die deutsch-kanadische Absichtserklärung für nachhaltige Rechenzentren und „wertebasierte KI-Politik“.

Diese wertebasierte Politik sieht der Minister etwa in der bundeseigenen KI-Plattform KIPITZ vom ITZBund und im „preisgekrönten Projekt SPARK“ umgesetzt. Damit sei Deutschland bei KI-basierten Verwaltungsanwendungen sogar „weltweit führend“, lässt sich der Minister auf der Projektwebsite zitieren. Unter dem Projekt SPARK seien demnach mehrere KI-gestützte Genehmigungsverfahren entwickelt worden, die Beschäftigte wirksam entlasten sollen. Neben der Bundesverwaltung würden sie bereits im Stadtstaat Hamburg und im Land Mecklenburg-Vorpommern zum Einsatz kommen, so Wildberger.

Generative KI versus Datenschutz

Mit SPARK will Wildberger auch die schleppende Verwaltungsdigitalisierung adressieren. Fachleute sehen den Ansatz des Ministers kritisch, weil er KI einsetzt, statt Informationen in maschinenlesbare Formate zu übertragen, was die Automatisierung der Verwaltung deutlich beschleunigen und effizienter machen würde. Der Minister füge dem Problemberg nur noch weitere Schichten hinzu, so die Kritik.

Gleichzeitig will Wildberger Hindernisse aus dem Weg räumen, die aus seiner Sicht einer Nutzung von KI-Sprachmodellen im Wege stünden. Ganz oben auf der Liste: der Datenschutz. Laut Föderaler Modernisierungsagenda will der Bund spätestens Ende 2027 eine neue Regelung im Bundesdatenschutzgesetz vorschlagen, „die es öffentlichen Stellen zum Zwecke des Trainings und Einsatzes von KI erlaubt, personenbezogene Daten zu anonymisieren oder zu pseudonymisieren“.

Auch brauche es „eine stärker risikobasierte Ausrichtung der Datenschutz-Grundverordnung“, heißt es in der Modernisierungsagenda weiter, um etwa die Arbeit von KI-Reallaboren zu erleichtern. Das betreffe unter anderem die Einwilligung von Betroffenen und die Zweckbindung der verwendeten Daten.

Nach der Datenschutzgrundverordnung (DSGVO) wie auch nach dem Bundesdatenschutzgesetz dürfen personenbezogene Daten grundsätzlich nicht verarbeitet werden, es sei denn die betroffene Person willigt ausdrücklich ein oder es gibt für den entsprechenden Fall eine gesetzliche Grundlage.

Offene Fragen spielen keine Rolle auf der Digitalministerkonferenz

Die bestehenden datenschutzrechtlichen Bestimmungen würden zu streng ausgelegt und übererfüllt, aus Angst, etwas falsch zu machen, sagte Wildberger am Mittwoch. Außerdem brauche es nicht 17 unterschiedliche Datenschutzgesetze und auch keine Pflicht für die Länder, eigene Datenschutzbeauftragte zu bestellen. Das alles bremse die Digitalisierung staatlicher Verwaltungsprozesse aus, etwa mit Blick auf den Datenaustausch zwischen Behörden.

Auch die Datennutzung, die für das Training von KI-Sprachmodellen eine wesentliche Voraussetzung ist, will der Minister erleichtern. Dazu müssten Bund und Länder an den geltenden Datenschutz-Rechtsrahmen ran, der sich mit dem Einsatz von KI nur schwer vereinbaren ließe, wie auch die Bundesdatenschutzbeauftragte Louisa Specht-Riemenschneider im Dezember gegenüber netzpolitik.org sagte. So sei etwa unklar, wie man Betroffenenrechte und Löschansprüche bei KI-Systemen nach dem Training geltend macht, sagt Specht-Riemenschneider.

Derartige Fragen, die eigentlich einer größeren gesellschaftlichen Debatte bedürfen, tauchen im Beschluss zum „Paradigmenwechsel im Datenschutz“ der DMK allerdings nicht auf. Auch hier sind sich alle Beteiligten offenbar einig.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Nächste Woche findet die diesjährige re:publica statt, die größte Konferenz für die digitale Gesellschaft in Europa. Das Programm bietet viele spannende Themen und Formate. Auf den Bühnen stehen auch Redakteur:innen und Autor:innen von netzpolitik.org.

In der kommenden Woche werden viele von uns einen Rick-Astley-Ohrwurm haben. Denn das Motto der diesjährigen re:publica lautet „Never gonna give you up“. Im Fokus der Konferenz steht aber nicht (nur) der Titelsong des Internets, sondern das Dagegenhalten: Wie können wir solidarisch und zuversichtlich bleiben in Zeiten, in denen die Demokratie und das offene Netz unter immensem Druck steht? Und was ist unsere „Kampfansage für Morgen“?

Diesen Fragen gehen vom 18. bis 20. Mai zahlreiche Vorträge, Diskussionen und Workshops in der Station Berlin nach. Auch Redakteur:innen und Autor:innen von netzpolitik.org werden vor Ort sein und über aktuelle netzpolitische Themen sprechen.

Tag 1: Weiterkämpfen, digitale Befreiungsschläge und die Databroker Files

Gleich zu Beginn der re:publica diskutieren Constanze Kurz, Alice Hasters, Luisa Neubauer und Carolin Emcke am Montag um 11.15 Uhr auf Stage 2 über das Weitermachen in düsteren Zeiten. Aufgeben ist keine Option, so viel steht fest. Wie aber können wir optimistisch bleiben und uns gemeinsam für eine solidarische Gesellschaft einsetzen?

Im Anschluss geht es mit dem Thema digitale Souveränität weiter, das spätestens mit der zweiten Amtszeit von US-Präsident Trump intensiv debattiert wird. Wie kann der „digitale Befreiungsschlag“ der EU gelingen? Und was bringt er für Verbraucher:innen, Unternehmen und das Netz? Darüber sprechen Axel Voss, Alexandra Geese, Julia Pohle und Frank Karlitschek um 12.30 Uhr auf Stage 7, moderiert von Daniel Leisegang.

Seit zwei Jahren recherchieren netzpolitik.org und Bayerischer Rundfunk zum Handel mit Handy-Standortdaten. Er bedroht nicht nur unser aller Privatsphäre, sondern auch die nationale Sicherheit. Rebecca Ciesielski und Ingo Dachwitz zeigen Montagabend um 18.45 Uhr auf Stage 4 das ganze Ausmaß der Spionagegefahr und was passieren muss, um uns davor effektiv zu schützen.

Tag 2: Ein Jahr Überwachungs-GroKo, KI im Journalismus und Kontrolle bei den Öffentlich-Rechtlichen

Unsere Kolumnist:innen Erik Tuchtfeld und Svea Windwehr lassen am Dienstag um 10 Uhr auf Stage 7 das erste Jahr der Großen Koalition Revue passieren. Sie ordnen deren zahlreiche Überwachungsvorhaben ein, blicken nach Brüssel, wo die allwissenden Polizeibehörden der Zukunft geschaffen werden, und sie bringen Ideen mit, was wir gegen diese Massenüberwachung tun können.

Um 12.30 Uhr gehts dann auf der ARD ZDF Media Stage um die Frage, ob und wie die sogenannte KI im öffentlich-rechtlichen Journalismus mehr Vielfalt schaffen kann und was das für unsere Demokratie bedeutet. Mit dabei sind Anna-Verena Nosthoff, Andreas Grün, Gregor Schmalzried, Zamina Ahmad und Daniel Leisegang. Die Moderation übernimmt Alena Buyx.

Daran knüpft ebenfalls auf der ARD ZDF Media Stage um 16.15 Uhr eine weitere Veranstaltung an. Der öffentlich-rechtliche Rundfunk gehört uns allen. Doch wie funktioniert die Kontrolle in den Aufsichtsgremien? Und wie wird sichergestellt, dass die Interessen der Allgemeinheit berücksichtigt werden? Beate Bäumer, Claudia Schare und Erik Tuchtfeld stellen sich den Fragen des Publikums und geben Einblicke in ihre Arbeit; Konrad Spremberg moderiert.

Tag 3: Palantir, IT-Sicherheit und der Buckelwal als Hauptfigur

Am dritten und letzten Tag der re:publica erklären Constanze Kurz und Franziska Görlitz um 13:45 Uhr auf Stage 1, warum Palantir-Software ein grundrechtliches und grundsätzliches Problem darstellt, unabhängig vom US-Konzern dahinter. Sie legen dar, wie die Polizei Big-Data-Analysen nutzt, was das Bundesverfassungsgericht davon hält und wie wir uns gegen den gefährlichen Trend wehren können.

Um 15 Uhr cybert es im Atrium: Marcel Roth, Anke Domscheit-Berg, Caroline Krohn, Falk Steiner und unsere Kolumnistin Bianca Kastl diskutieren dann darüber, unter welchen Vorzeichen IT-Sicherheitsvorfälle in den Medien verhandelt werden. Denn oft stellt tagesaktueller Journalismus falsche Fragen und übersieht Gesamtzusammenhänge. Wie lässt sich das ändern?

Ebenfalls um 15 Uhr geht es auf Stage 6 dann noch einmal um Hoffnung und Aufmerksamkeit: In den vergangenen Wochen stand ein verirrter Buckelwal im Zentrum des Mediengeschehens. Warum aber werden Tiere zu medialen Hauptfiguren? Und was sagt das aus über unseren Umgang mit der ökologischen Krise? Darüber sprechen Patrick Stegemann und Janne Knödler gemeinsam mit den Moderator:innen Marlen Klaws und Serafin Dinges.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Bevor sich ihre Jugendschutz-Expert*innen dazu äußern können, fordert Ursula von der Leyen ein Social-Media-Verbot für Minderjährige plus Alterskontrollen. Unsere Analyse zeigt: Die Kommissionspräsidentin folgt dem Playbook der australischen Regierung.

In der seit Monaten laufenden Debatte um ein Social-Media-Verbot für Minderjährige hat Ursula von der Leyen (CDU) den Druck auf das von ihr einberufene Expert*innen-Gremium erhöht. In ihrer Rede auf dem Europäischen Gipfel zu künstlicher Intelligenz und Kindern in Kopenhagen sprach sie sich einmal mehr für ein solches Verbot aus. Zum Einsatz kommen soll dafür die geplante Alterskontroll-App der EU.

Im Vorfeld hatten mehrere EU-Staats- und Regierungschef*innen der Kommissionspräsidentin Druck gemacht, allen voran der französische Präsident Emmanuel Macron.

Die heutigen Äußerungen von Ursula von der Leyen sind ein Wink mit dem Zaunpfahl an das von der EU-Kommission selbst einberufene Gremium aus Fachleuten für Kinder- und Jugendschutz im Netz. Sie sollen bis zum Sommer Empfehlungen vorlegen. Nun dürfte den Expert*innen bewusst sein, dass die EU-Kommission dabei eine klare Erwartungshaltung hat.

Eine Überzeugung, die nichts vorwegnehmen soll

Konkret sagt von der Leyen:

Ohne Ergebnisse des Gremiums vorwegzunehmen: Es ist meine Überzeugung, dass wir einen zeitlichen Aufschub für soziale Medien in Betracht ziehen müssen. Je nachdem, wie die Ergebnisse ausfallen, könnten wir diesen Sommer einen Vorschlag für einen Rechtsakt vorlegen.

Zwei Aspekte fallen bei diesem Zitat ins Auge. Erstens: Die Kommissionspräsidentin nimmt klar Einfluss auf die Arbeit des Gremiums, auch wenn sie das mit dem vorangestellten Satz relativiert. Mit Blick auf ein Social-Media-Verbot für Minderjährige spricht sie von „Überzeugung“ und „müssen“. Dadurch macht sie klar: Falls die Expert*innen etwas anderes empfehlen, müssten sie ihr unmittelbar in die Parade fahren.

Zweitens: Von der Leyen spricht nicht von einem Verbot, sondern von einem „zeitlichen Aufschub“. In der englischen Fassung der Rede steht: „delay“. Diese Formulierung ist ein Euphemismus, also ein sprachliches Stilmittel zur Beschönigung. „Aufschub“ klingt weniger hart als „Verbot für Minderjährige“ – auch wenn es auf dasselbe hinausläuft.

Der Euphemismus ist jedoch keine Erfindung der Kommissionspräsidentin oder ihres Teams. Er stammt direkt aus der Kommunikations-Strategie der australischen Regierung, die von der Leyen in ihrer Rede als „Pionier“ bezeichnet. So schreibt die australische Aufsichtsbehörde am 10. Dezember 2025, als das australische Social-Media-Verbot in Kraft trat: „Es ist kein Verbot, es ist ein Aufschub, wann man Accounts haben darf.“

Emotionen statt Fakten

Die damalige Situation in Australien ist vergleichbar mit der in der EU. Während die Regierung auf ein Social-Media-Verbot mit Alterskontrollen drängt, warnen Fachleute aus den Bereichen Jugendschutz, Medienpädagogik, Bürgerrechte, Datenschutz und IT-Sicherheit eindringlich davor. Die Argumente australischer und europäischer Expert*innen sind im Kern die gleichen. Hier wie dort sprechen sich auch betroffene Jugendliche vehement gegen ein Verbot aus – zuletzt rund 30 europäische Jugendverbände. Die Reaktionen der Verbots-Befürworter*innen ähneln sich ebenso: strategische Kommunikation statt stichhaltige Argumente.

Besonders anschaulich macht das eine weitere Formulierung, die Ursula von der Leyen aus dem australischen Diskurs übernimmt. In ihrer Rede sagt sie: „Geben wir den Kindern die Kindheit zurück.“ In die gleiche Kerbe schlug die australische Kampagne „Let them be kids“ (auf Deutsch: „Lasst sie Kinder sein“). Dahinter steckte der Medienkonzern News Corp aus dem konservativen Murdoch-Firmenimperium.

Die Kommissionspräsidentin setzt an dieser Stelle nicht auf Fakten, sondern auf Emotionen. Über Kinder sagt sie weiter: „Ihre Seelen sind so empfindlich, ihre psychologische Verletzlichkeit ist so groß, psychische Wunden können sich auf das ganze Leben auswirken.“ Das ist korrekt – könnte aber ebenso ein Grund sein, junge Menschen nicht von sozialen Medien abzuschneiden, weil sie dort Gemeinschaft und Gleichgesinnte finden.

Im Vorfeld des australischen Social-Media-Verbots mahnte etwa die „Australian Psychological Society“: Ohne sinnvolle Alternativen könne der Entzug sozialer Medien eine Lücke ins soziale Leben junger Menschen reißen und Gefühle wie „Einsamkeit, Angst und Kummer“ erhöhen.

Vier Lücken in der Argumentation

Vier weitere inhaltliche Lücken stechen in von der Leyens Rede zum Social-Media-Verbot hervor.

Erstens: Die Kommissionspräsidentin sagt über Kinder: „Je mehr sie der digitalen Welt ausgesetzt sind, desto größer sind die Gefahren.“ Für diese Behauptung gibt es keine wissenschaftlichen Belege. Stattdessen zeigt die Forschung: Der Grad der Gefährdung lässt sich nicht anhand der Nutzungsdauer ablesen. Das geht auch aus dem Zwischenbericht der deutschen Jugendschutz-Expert*innen hervor, die im Auftrag des Familienministeriums den Forschungsstand zusammengefasst haben. Demnach sei es „entscheidend, nicht nur die Nutzungsdauer zu betrachten, sondern auch typische Nutzungsweisen sowie die Inhalte, denen Jugendliche ausgesetzt sind.“ Relevant seien demnach auch Persönlichkeit und Lebenslage junger Menschen.

Für eine im Frühjahr veröffentliche groß angelegte Studie hatten Forschende der Universität Manchester 25.000 Jugendliche zwischen 11 und 14 Jahren drei Schuljahre lang begleitet. Sie wollten wissen, ob die für Gaming und Social Media aufgebrachte Zeit ihrer psychischen Gesundheit schadet – und fanden darauf keine Hinweise.

Zweitens: Von der Leyen sagt, Kinder müssten die „Logik der sozialen Medien verstehen“ und „lernen, sich vor negativen Auswirkungen zu schützen und gleichzeitig die positiven Seiten zu nutzen“. Sie spricht von Lehrer*innen, „die Kindern helfen können, diese Kompetenzen von klein auf zu erwerben“. Mit einem Social-Media-Verbot ist das eher schwer zu vereinbaren: Kinder sollen demnach mehr digitale Kompetenzen aufbauen, obwohl die EU ihnen weniger Zugang zur digitalen Welt erlaubt.

Anders und schlüssiger argumentiert etwa der Präsident des Deutschen Lehrerverbands, Stefan Düll, in einer Stellungnahme vom Juni 2025. „Digitale Teilhabe ist Realität – und die muss man lernen, nicht verbieten“, schreibt er. Es könne nicht die Lösung sein, Jugendlichen „plötzlich mit dem 16. Geburtstag“ einen Zugang zu geben.

Drittens: Von der Leyen wiederholt ihre teilweise falschen Aussagen über die Alterskontroll-App der EU. Sie sagt erneut, die App „funktioniert auf jedem Gerät“. Das ist falsch. Die App funktioniert derzeit nur auf iOS und Google-basiertem Android – nicht etwa auf MacOS, Windows oder Linux. Das führt zu einem Handy-Zwang und zur Abhängigkeit von US-amerikanischen Tech-Unternehmen.

Weiter sagt von der Leyen, die App „bietet die höchsten Datenschutzstandards der Welt“. Das ist irreführend. Zum Beispiel ist der anonyme „Zero Knowledge Proof“ laut offiziellen Spezifikationen der App keine Pflicht („shall“), sondern nur eine Empfehlung („should“). Das heißt: Es gibt höhere Standards – und sie stehen sogar in den Spezifikationen der App selbst.

Viertens: Über das Social-Media-Verbot in Australien sagt die Kommissionspräsidentin: „Wir können die Fortschritte sehen“. Weniger Kinder und Jugendliche hätten Konten in den sozialen Medien. Das ist irreführend. Selbst die zuständige Aufsichtsbehörde in Australien hat festgestellt, dass viele unter 16-Jährige noch immer ihre Accounts haben oder neue erstellen, und deshalb Untersuchungen gegen Tech-Unternehmen angekündigt.

Der Erfolg der Regelung lässt sich zudem nicht anhand der Anzahl gesperrter Accounts messen – sondern daran, ob sich das Wohlbefinden von Kindern und Jugendlichen verbessert. Das muss noch erforscht werden.

Räume sicherer machen, Minderjährige ausschließen

Ein großer Teil der Rede handelt von Tech-Regulierung, die nicht nur Minderjährige betrifft, sondern alle. Das ist schlüssig, denn nicht nur Minderjährige sind Gefahren im Netz ausgesetzt. Auch unter Erwachsenen gibt es viele vulnerable Gruppen.

Von der Leyen sagt: „Technologieanbieter sind für die Sicherheit ihrer Produkte und deren sichere Verwendung verantwortlich.“ Der kommende Digital Fairness Act soll etwa „Design-Praktiken adressieren, die auf Abhängigkeit abzielen und schädlich sind“. Die Kommissionspräsidentin kritisiert zudem Geschäftsmodelle, die Aufmerksamkeit „als Ware nutzen“, sowie Spiele für junge Männer, „die darauf ausgelegt sind, sie zu manipulieren, damit sie immer mehr Geld ausgeben“.

Viele Kritiker*innen eines Social-Media-Verbots dürften diesen Ausführungen zustimmen. Im Kern fordern sie, dass Regulierung Risiken direkt adressieren sollte – sichere digitale Räume für alle statt Ausschluss von Minderjährigen. Die Kommissionspräsidentin will offenbar beides: digitale Räume sicherer machen und trotzdem Minderjährige davon ausschließen. Das ist nicht schlüssig.

Auf einer Pressekonferenz in Brüssel hieß es vonseiten der EU-Kommission: Man werde auf die Empfehlungen des Expert*innen-Gremiums im Juni warten. Noch im selben Sommer könne ein Gesetzentwurf folgen. Zeit sei dafür genug, der Sommer ende schließlich erst am 21. September.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Das Recht auf analoges Leben soll ins Grundgesetz – mehr als 64.000 Unterzeichner*innen fordern das in einer Petition. Interessierte können sich bis 21. Mai anschließen. Im Interview erklären die Initiator*innen: Der ausufernde Digitalzwang schadet der Demokratie.

Bahn fahren, Pakete abholen, einen Termin beim Bürgeramt buchen: Unternehmen und Behörden machen Menschen ohne Smartphone oder Computer das alltägliche Leben zunehmend schwer. Der Verein Digitalcourage fordert deshalb ein Recht auf Leben ohne Digitalzwang.

Am 21. Mai wollen die Aktivist*innen ihre Petition Abgeordneten des Bundestags überreichen. Bis dahin können sich Interessierte anschließen.

Hinter der Petition stehen unter anderem Jonas Grill, Rena Tangens und Max Hampel. Im Interview erklären sie, in wie viele Lebensbereiche der Digitalzwang bereits vordringt, was daran gefährlich ist – und ob er sich stoppen lässt.

Deutsche Bahn will Fahrgästen App aufdrücken

netzpolitik.org: Jonas, Rena, Max – was genau ist Digitalzwang?

Tangens: Der Zwang, digitale Zugangswege zu verwenden. Dass man Dinge nur übers Internet erledigen kann oder dafür ein Smartphone besitzen muss oder eine bestimmte App installieren muss, um einen Dienst wahrzunehmen.

Grill: Auch wenn die analoge Alternative extrem unpraktisch ist, ist das eine Form des Digitalzwangs.

netzpolitik.org: Menschen haben über euren Digitalzwang-Melder hunderte Beispiele eingereicht.

Hampel: Uns erreichen neben diesen Meldungen täglich mehrere E‑Mails und Anrufe zum Thema.

netzpolitik.org: Wo ist der Zwang am schlimmsten?

Hampel: Ganz oft geht es um Mobilität. Da beschweren sich beispielsweise Menschen, dass es die BahnCard nur noch in der Bahn-App gibt.

Tangens: Ohne Account bei der Bahn bekommt man die nicht mehr. Als die Bahn das eingeführt hat, haben wir zig E‑Mails von empörten Bahnfahrer*innen bekommen, die daraufhin ihre BahnCard gekündigt haben. Eine Person schrieb, dass sie nun ihre Enkelkinder nicht mehr so oft besuchen könne. Die Bahn ist ein bisschen zurückgerudert und ermöglicht es vorläufig, den QR-Code am Schalter ausdrucken zu lassen. Aber prinzipiell versucht die schon beständig, die Leute dazu zu bringen, die Bahn-App zu benutzen, sie baut zum Beispiel Fahrkartenautomaten ab. Dabei sind in der Bahn-App einige Tracker drin. Die übermitteln, von wo bis wo und mit wem man fährt. Seit 2022 klagen wir vor dem Landgericht Frankfurt, dass die Bahn die Tracker entfernt.

Länger warten beim Bürgeramt

netzpolitik.org: Welche Fälle gibt es noch?

Grill: Viele Beispiele für Digitalzwang stammen auch aus dem Bereich Finanzen. Menschen können ihre Lohnabrechnungen nur noch online einsehen, ihre Steuererklärung nur noch mit Umständen analog machen, kein Geld mehr überweisen, weil Filialen zumachen und sie kein Onlinebanking haben. Viele Fälle stammen auch aus dem Bereich kulturelle Teilhabe. Da kommen Menschen nicht mehr zu Konzerten, weil Eventim nur noch digitale Karten verkauft. Und dann gibt es ganz banale Alltäglichkeiten, wie beispielsweise, dass die Sperrmüllabfuhr in manchen Gegenden nur noch über Onlineportale bestellt werden kann.

Hampel: Ein großes Thema ist auch Doctolib. Facharzttermine bekommt man oft nicht mehr, ohne diese Plattform zu nutzen. Und auf dem Amt ist es so, dass man mit einem Onlinetermin viel zügiger behandelt wird, als wenn man hingeht und eine Nummer zieht. Was auch viele Menschen betrifft, ist, was DHL mit den Packstationen macht. Die haben teils keinen Bildschirm mehr, man muss die über das eigene Smartphone bedienen. Dafür haben wir DHL 2023 einen BigBrotherAward verliehen.

Tangens: Menschen, die kein Handy haben, stehen dann vor der Packstation und kommen nicht an ihr Paket ran. Oder anderes Beispiel: Es gibt hier in Berlin viele Restaurants, wo man einen QR-Code scannen muss, um die Speisekarte lesen zu können. Da sind Leute ohne Smartphone einfach aufgeschmissen. Und das sind auch Menschen, die ein Anrecht darauf haben, an der Gesellschaft teilzuhaben.

Millionen Menschen in Deutschland leben offline

netzpolitik.org: Wie viele Leute schließt der Digitalzwang aus?

Tangens: In der Altersgruppe von 16 bis 74 Jahren waren – laut statistischem Bundesamt – zwei Millionen Menschen in Deutschland noch nie im Internet. Und dann muss man ja noch die Menschen 75 plus dazurechnen.

Hampel: Und die Menschen, die zwar ein Handy haben, aber nicht gut damit umgehen können. Meine Mutter zum Beispiel: Ihr Handy mit Bluetooth mit einer Packstation zu verbinden, das stellt die vor ein unlösbares Rätsel.

netzpolitik.org: Ist Digitalzwang nur ein Problem für Senior*innen?

Tangens: Das betrifft nicht nur alte Leute. Wir lernen auch viele junge Leute kennen, die keinen Bock haben, ständig ein Smartphone dabeizuhaben. Weil das so einen Druck erzeugt, in irgendwelchen Netzwerken dabei zu sein, ständig auf Nachrichten zu reagieren, sich mit anderen zu vergleichen. Und ich kenne einen Menschen, der sagt, er kenne sein Suchtpotenzial und lasse deshalb das Smartphone so oft wie möglich zu Hause – damit er nicht ständig auf Social Media ist. Er hat das mit Alkoholismus verglichen. Digitalzwang ist dann, als würde man einen trockenen Alkoholiker zwingen, immer einen Flachmann dabeizuhaben.

Hampel: Dazu kommt, du musst für viele Apps ja ein relativ aktuelles Smartphone besitzen und das kostet Geld. Das als Voraussetzung zu machen, um am gesellschaftlichen Leben teilzunehmen, ist ja enorm diskriminierend.

Tangens: In Spanien engagiert sich ein Mensch gegen Digitalzwang, der aufgrund einer Parkinson-Erkrankung so zittert, dass es ihm schwerfällt, ein Smartphone zu bedienen. Und auch, wenn mir mein Smartphone gerade kaputt gegangen ist, muss ich doch grundlegende Dienste nutzen können.

Grill: Digitalzwang schließt Menschen aus, die körperliche Einschränkungen haben, die ihre Daten schützen möchten, die sich nicht privaten Unternehmen ausliefern möchten, das kann aus verschiedensten Gründen kommen.

„Das verbittert“

netzpolitik.org: Schadet der zunehmende Digitalzwang der Demokratie?

Hampel: Ja, weil sich Menschen von Grundversorgung ausgeschlossen fühlen. Viele haben die Befürchtung, durch die Digitalisierung Stück für Stück aus dem öffentlichen Leben zu fallen. Das verbittert, da fühlt man sich abgehängt. Und dann freuen sich die Populisten, die das Thema schon für sich entdeckt haben. Deswegen setzen wir uns mit der Petition und der politischen Arbeit dafür ein, dass die demokratischen Parteien im Bundestag das Thema ernst nehmen.

netzpolitik.org: Wie reagiert die Politik auf euch?

Tangens: Wir haben Vertreter aller demokratischen Parteien dafür gewinnen können, unsere Petition am 21. Mai feierlich entgegenzunehmen. Und die Koalitionsparteien scheinen tatsächlich nicht mehr so sicher, dass es eine gute Idee war, die „Digital-only“-Strategie für die Verwaltung in den Koalitionsvertrag zu schreiben.

netzpolitik.org: Was genau soll eure Petition ändern?

Tangens: Wir fordern, den Artikel drei des Grundgesetzes zu ergänzen. Darin gibt es diverse Eigenschaften, wegen derer ich nicht benachteiligt werden darf. Wir wollen ergänzen, dass ein Mensch, der einen digitalen Zugangsweg nicht nutzt, nicht deshalb benachteiligt werden darf. Ein juristisches Gutachten vom Netzwerk Datenschutzexpertise hält diese Grundgesetz-Erweiterung für möglich und sinnvoll. Und diese Regelung würde dann durch die sogenannte Drittwirkung nicht nur für den Staat, sondern auch für die Wirtschaft gelten. Das wäre ein absolut mächtiges Instrument. Wir wissen, dass wir für die Umsetzung einen langen Atem brauchen. Aber uns gibt es seit 1987. Ausdauer haben wir.

netzpolitik.org: Ich nehme an, die Petition kann man nicht nur online unterzeichnen?

Tangens: Wir haben auch viele tausend Unterschriften auf Papier erhalten. Der Briefträger hat schon gefragt, ob wir ein Preisausschreiben veranstalten.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Verwaltungsdigitalisierung ging in den vergangenen Jahren äußerst schleppend voran. Eine Ursache dafür: Die Verwaltung speichert ihr Wissen in Dokumenten ab statt als maschinenlesbare Daten. Statt das Problem anzugehen, macht sich das Digitalministerium für KI-Agenten stark. Die arbeiten jedoch intransparent und erzeugen übermäßig Fehler.

Ob für das Bearbeiten eines Antrags oder einer Bürger:innen-Anfrage, zur Entscheidungsfindung oder Haushaltsplanung – Verwaltungsarbeit ist zu großen Teilen Arbeit mit Informationen. Wichtig ist dabei, dass Mitarbeiter:innen diese Informationen leicht finden. Dafür müssen sie sich zurzeit noch durch einen Dschungel an Dokumenten schlagen. Vieles steckt in Akten, in physischen und digitalisierten, in PDFs oder Word-Dokumenten. Dokumente, die darauf warten, systematisch aufbereitet und durchsuchbar gemacht zu werden.

Seit Jahren fordern Expert:innen daher, für die öffentliche Verwaltung eine moderne Dateninfrastruktur zu bauen, Informationen als Linked Data (PDF) zu organisieren und verlässliche Daten-Standards zu nutzen. Das würde die Verwaltungsdigitalisierung beschleunigen.

Doch statt hier in eine nachhaltige Strategie zu investieren, setzt Digitalminister Karsten Wildberger (CDU) lieber auf KI-Sprachmodelle. Die haben es nun in den Katalog des Deutschland-Stacks geschafft. Allerdings ist es zweifelhaft, ob sie den großen Hoffnungen des Ministers gerecht werden.

Gehypte KI-Agenten

Seit März dieses Jahres fördert das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) im Rahmen des Agentic AI Hub kommunale Pilotprojekte, die mittels generativer KI Sachberarbeiter:innen Verwaltungsaufgaben abnehmen sollen.

Auch die Bundesverwaltung setze bereits KI-Agenten ein, erklärt Staatssekretär Thomas Jarzombek (CDU) im Ausschuss für Digitales und Staatsmodernisierung Mitte April zu seinem „Leib- und Magenthema“. Das sei im Digitalministerium in Sachen Verwaltungsdigitalisierung insgesamt das „Thema Nummer 1“.

So soll etwa der Agent „Spark“ dabei helfen, „Dutzende Aktenordner mit Gutachten und Unterlagen zu sichten und sie in wenigen Stunden auf Vollständigkeit und Plausibilität zu prüfen“. Damit könne die Verwaltung Vorgänge beschleunigen und bessere Entscheidungen treffen, so Jarzombek. Ziel sei es, die Versäumnisse bei der Verwaltungsdigitalisierung und Personalmangel auszugleichen.

Grundlegende Probleme bleiben ungelöst

Dass das Digitalministerium hier auf generative KI-Systeme setzt, wirke mehr wie eine kurzfristige Reaktion auf die Symptome der schleppenden Verwaltungsdigitalisierung als wie ein fundierter Umgang mit ihren ursächlichen Mängeln, so Stefan Kaufmann von Wikimedia Deutschland gegenüber netzpolitik.org.

Er fordert für die Verwaltung ein grundlegendes Umdenken. So sollten Informationen nicht wie bisher in Dokumenten, sondern in semantischen Daten und Wissensgraphen abgelegt werden. „Und wir brauchen die IT-Architekturen, um staatliche Informationen als semantische Daten zu speichern und wiederverwenden zu können“, sagt Kaufmann. Mit Wissengraphen können Informationen strukturiert dargestellt werden, sodass Computer Bedeutungzusammenhänge von Informationen verarbeiten können.

Vor gut einem Jahr veröffentlichte Wikimedia die Broschüre „Generative KI für die Verwaltung?“ und traf damit einen Nerv. Die gedruckte Fassung für die öffentliche Verwaltung war schnell vergriffen, vor Kurzem erschien ein Nachdruck.

Was Kaufmann unter anderem meint, wenn er sagt „in Daten denken“: Verwaltungswissen versteckt sich meistens in Texten, PDFs und Tabellen, die für menschliche Bearbeitung angelegt und gespeichert wurden. Einzelne Informationen müssen Suchende den Dokumenten meist mühsam entlocken. Es überrascht daher nicht, dass sich Verwaltungsmitarbeitende ein KI-System wünschen, das bestimmte Informationen aus einer Vielzahl von Dokumenten zusammensucht.

Automatisierung statt Sprachmodelle

In der Begeisterung für generative KI übersehen aus Sicht von Kaufmann sowohl Verwaltungsdigitalisierer als auch Minister Wildberger allerdings zweierlei: Zum einen sind generative KI-Systeme prinzipiell limitiert, zum anderen bieten gerade in der Verwaltung sogenannte logikbasierte Methoden ein bislang unausgeschöpftes Potenzial. Logikbasierte Methoden geben bei jeder Anfrage logisch das gleiche Ergebnis aus, das sich transparent auf die zugrundeliegenden Daten zurückführen lässt.

Doch dafür müssen staatliche Informationen als strukturierte und maschinenlesbare Daten vorliegen. Erst dann ließen sich zahlreiche Verwaltungsprozesse auf klassischem Wege automatisieren, sowohl in der internen Arbeit als auch in Kontakt mit Bürger:innen, Organisationen und Unternehmen.

Mitarbeitende in der Verwaltung erhielten so mehr Zeit für Beratung, weil sie weniger damit beschäftigt wären, Daten und Informationen manuell zusammenzutragen. „Sie könnten auch Sachverhalte automatisiert auswerten und zwar deterministisch und halluzinationsfrei“, so Kaufmann.

Verwaltungs-Chatbots machen Fehler

Ein solcher Ansatz würde allerdings eine nachhaltige Strategie erfordern, die bislang nicht in Sicht ist. Viele Kommunen setzen stattdessen auf Chatbots, um mit ihren Bürger:innen zu kommunizieren. Sie hoffen, so die bestehende Arbeitslast innerhalb der Behörden abzufedern. Aus ihrer Sicht sind die Bots außerdem attraktiv, weil sie diese bei externen IT-Dienstleistern einkaufen und dies haushalterisch abbilden können.

Der Berliner BärGPT, die Gersheimer Gerda Bürki oder der Hagener JOST – sie alle sollen auf Grundlage von Informationen, die auf einer städtischen Website zu finden sind, dazu Auskunft erteilen, wer eine Behördenabteilung leitet oder an wen sich Bürger:innen auf der Suche nach einem Kita-Platz wenden können.

Doch die Bots funktionieren so wie alle Large Language Models (LLMs, Sprachmodelle): nach dem Prinzip der statistischen Wahrscheinlichkeit. Und deshalb machen sie Fehler. Das belegte zuletzt etwa eine Studie der Europäischen Rundfunkunion im Oktober 2025. Demnach liegt die Fehlerquote in den Outputs von Chatbots wie Gemini, Copilot oder ChatGPT bei rund 45 Prozent. Bezeichnenderweise geben sie Informationen dann relativ korrekt aus, wenn die dafür nötigen Daten gut strukturiert vorliegen – also in der Form, die es auch als Grundlage für logikbasierte Auswertungen bräuchte.

Regelbasiert sticht Wahrscheinlichkeitsprinzip

Ob einem KI-Chatbot Fehler unterlaufen, wird allerdings erst dann ersichtlich, wenn Nutzer:innen die Ausgabe prüfen. Bezogen auf die Verwaltung hieße das, dass Sachbearbeiter:innen dafür zusätzliche Zeit einplanen müssen. Außerdem brauchen sie verlässliche Referenzdaten, um diese mit der KI-Antwort abgleichen zu können. Die Alternative dazu wäre ein automatischer Vorbehalt, sagt Kaufmann. „Wenn ich einen Bescheid bekomme, der mit generativer KI erstellt wurde, hätte ich damit das Recht auf nochmalige manuelle Prüfung.“

Auch bei Abfragen aus verteilten Wissensbeständen kämen Sprachmodelle schnell an ihre Grenzen, etwa wenn Nutzer:innen nach einer Liste deutscher Großstädte mit einer Oberbürgermeisterin fragen und diese nach Einwohnerzahl absteigend sortiert bekommen möchten. „Aus strukturierten Daten wie bei Wikidata lässt sich das mit simplen, regelbasierten Methoden und einem Bruchteil des Aufwands beantworten – und zwar verlässlich“, erklärt Kaufmann gegenüber netzpolitik.org. Dennoch investieren immer mehr Kommunen in Chatbots.

Statt den Umweg über KI-Sprachmodelle zu verfestigen, könnte die Verwaltung ihre Informationsbestände Schritt für Schritt in Richtung semantischer Datenspeicherung entwickeln. Das würde nicht nur die interne Weiterverwendung behördlicher Informationen vereinfachen, erklärt Kaufmann. Vielmehr könne man die Bestände auch mit symbolischen KI-Systemen verlässlich auswerten. „Das sind regelbasierte Systeme, die im Gegensatz zu LLMs und Agentensystemen nicht dem Zufall ausgesetzt sind.“ Außerdem seien sie deutlich sparsamer beim Energieverbrauch.

Auf diese Weise könne die Verwaltung Informationen, die bisher in Dokumenten oder Fachverfahren „gefangen“ waren, organisationsübergreifend auswerten und verwenden. Dabei könnten auch Unklarheiten in den Informationen auffallen, die Mitarbeitende direkt auf Quellenebene korrigieren könnten.

Aus Erfahrungswissen lernen

Die Verwaltung könnte hier aus vielen Jahren Vorarbeit von Projekten und Initiativen des digitalen Ehrenamts lernen, glaubt Kaufmann. Als Beispiel führt er das Projekt „kleineAnfragen“ an, wo Nutzer:innen alle kleinen und großen Anfragen deutscher Parlamente nach Stichwörtern durchsuchen, Anfragen automatisch analysieren und sie mit einer stabilen URL verlässlich verlinken konnten. Ein anderes Beispiel seien Web-Angebote wie „Meine Stadt Transparent“ und „Politik bei uns“, die Ratsdokumente besser durchsuchbar machten. Eine wesentliche Rolle spielte dabei der offene OParl-Standard, der es erlaubt, Dokumente maschinell auszuwerten.

Alle drei Angebote sind derzeit allerdings nicht mehr in Betrieb. „Sie waren als Freie-Software-Projekte quasi schlüsselfertig und „for public adoption“ gedacht – staatliche Stellen haben sie aber nie selbst übernommen“, erklärt Kaufmann. Es komme selten vor, dass in einer Behörde Menschen arbeiten, die die Potenziale dieser Systeme erkennen und sie dann, ohne lange Schleifen mit externen Dienstleistern durchlaufen zu müssen, selbst ausrollen können.

Das BMDS unter Karsten Wildberger ist hier offenbar keine Ausnahme. Die Bundestagsabgeordnete Sonja Lemke (Die Linke) fragte in der Ausschusssitzung Mitte April, ob das Digitalministerium regelbasierte Systeme prüfe oder auch Systeme, mit denen die Verwaltung ihre Informationen in maschinenlesbarer Form bringe und damit wiederverwendbar abspeichere. Einer klaren Beantwortung der Frage wich Staatssekretär Jarzombek aus.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Der Iran gewinnt mit KI-generierten Lego-Clips etliche Schlachten gegen die Trump-Regierung – zumindest im Netz. Millionenfach geklickt, weltweit geteilt: Der iranische Propaganda-Erfolg basiert auf einem Prinzip, das längst ein eigenständiges Genre geworden ist.

Im Propagandakrieg mit den USA hat der Iran eine Art neue Wunderwaffe entwickelt: KI-generierte Clips in Legostein-Optik. Die Trump-Administration erscheint in den Videos als inkompetent, verzweifelt, dysfunktional, korrupt und politisch angezählt. Mal ist Trump ein Zirkusclown, mal eine senile Karikatur mit einer Liebe zu Diet Coke. Die Lego-Clips sind oft mehrere Minuten lang und bestehen aus Memes, popkulturellen Referenzen sowie schnellen Cuts, mit Rock, Rap oder Trap unterlegt. Regelmäßig kommen neue Videos hinzu, die millionenfach geklickt werden. Dieser Typ von Produktionen wird „Slopaganda“ genannt. Ein Kofferwort aus Slop (englisch für massenhaft produzierten KI-Müll) und Propaganda.

Kaum war der Waffenstillstand zwischen den USA und dem Iran verkündet, veröffentlichten offizielle Kanäle des iranischen Regimes ein neues Video. Im Bild ein weinender Lego-Trump, der einen Taco isst. Der Post dazu schreibt: „TACO will always remain TACO“. Eine Anspielung auf „Trump Always Chickens Out“ – das Akronym stammt ursprünglich von der Wall Street. Trump habe demnach kapituliert, Iran gesiegt und der Welt damit gezeigt, wie man den US-Imperialismus zerschlage. Das iranische Konsulat im indischen Hyderabad trollte wenige Tage später nach und veröffentlichte einen KI-Clip, in dem ein frustrierter Trump mit einer abwesenden iranischen Delegation verhandelt. Die iranische Botschaft in Ghana postete darauf den Lego-Clip eines schlafenden Trumps: Er träume wohl davon, den Iran besiegt zu haben. „Lasst ihn schlafen.“

Viele Expert:innen sind vom Erfolg der viralen KI-Clips überrascht und sich in einer Sache einig: Der Iran hat die Propagandaschlacht im Netz längst gewonnen. Das Institute for Strategic Dialogue (ISD) drückt dies in konkreten Zahlen aus. Demnach haben Views und Likes offizieller iranischer Regierungs-Accounts in den ersten 50 Tagen seit Kriegsbeginn um das 30-Fache zugenommen. Zusammen kommen diese Accounts auf über 900 Millionen Views in den sozialen Medien. Die Trump-Administration ist mit ihrem Material weit entfernt von solchen Zahlen.

Hinter den Lego-Clips steht eine iranische Gruppe namens „Explosive Media“. Nach eigenen Angaben weniger als zehn junge Menschen zwischen 19 und 25 Jahren. Die Gruppe bezeichnet sich als „unabhängig“, ihr Sprecher räumte im Interview mit der BBC jedoch ein, dass das iranische Regime „Kunde“ sei und man eine Lizenz für die Internetnutzung habe. So unabhängig wie ein Internetzugang im Iran also sein kann. Für 99 Prozent der iranischen Bevölkerung ist der Internetzugang seit Januar schließlich gesperrt, kritisiert NetBlocks. Das iranische Regime begründet dies mit dem Schutz vor „Desinformation“.

Explosive Media sagte der BBC, das Ziel sei es, Menschen zu erreichen, die sich normalerweise nicht mit Nachrichten zum Iran-Krieg auseinandersetzen. Dass moralische Appelle nicht funktionieren, hat der Iran schnell gemerkt: Die New York Times hat die Evolution iranischer Posts unter die Lupe genommen. Hinweise auf die Zahl toter Kinder erzielten demnach keine Reichweite. KI-Clips gingen demgegenüber durch die Decke. Die Iran-Anthropologin Narges Bajoghli, die seit über einem Jahrzehnt politische Diskurse auf Social Media beobachtet, sagte laut Guardian, sie habe in 15 Jahren noch nie ein Thema erlebt, bei dem sich verschiedene politische Algorithmen so deutlich überlappten. Von MAGA-Konten über moderate Republikaner:innen bis hin zu Linken teilten demnach viele täglich iranische Propaganda-Inhalte.

Anschlussfähig an westliche Internetkultur

„Sie haben es geschafft, genau jene Ästhetik von Identität und Kultur zu treffen, für die das Internet eigentlich da ist“, sagt Renée DiResta gegenüber der New York Times über Explosive Media. „Sie haben ein Regime, das brutal und ziemlich schrecklich ist und weltweit nicht gerade einen guten Ruf genoss, in eine Art mutigen, sympathischen Underdog verwandelt.“

Dass die Lego-Clips aus dem Iran stammen, wird dabei nicht direkt offensichtlich. Die KI-Clips sollen anschlussfähig an die westliche Internetkultur sein. Dazu greifen sie insbesondere aktuelle innenpolitische Kontroversen um die Trump-Regierung auf. Der Iran-Krieg ist demnach ein Ablenkungsmanöver von den Epstein-Files. „Kriegsminister“ Pete Hegseth ein spielsüchtiger Trunkenbold und FBI-Chef Kash Patel ebenfalls eine Witzfigur mit Hang zum Alkoholexzess. Die Trump-Administration liefert genug Kontroversen für das Material. Doch auch große gesellschaftliche Zerwürfnisse und historische Kriegsverbrechen werden in den Clips verhandelt. Der Iran reiht sich so bei den historisch Unterdrückten ein. Verkörpert durch die Opfer des Vietnamkriegs, in Gaza, von Hiroshima und Nagasaki oder der Indigenen. Auch die Ikone der US-Bürgerrechtsbewegung Malcolm X ist mit von der Partie.

Der US-Krieg im Iran ist derweil so unpopulär wie der US-Präsident selbst. Der Iran weiß, dass der Krieg militärisch nicht gewonnen werden kann. Die beste Strategie sei es demnach, die öffentliche Meinung auf die eigene Seite zu bringen, sagte Medienanalytiker Marc Owen Jones zu Al Jazeera. In der heutigen Kommunikationslandschaft sei es so, dass „Troll-Propaganda“ und „Smack-Talk“ die Oberhand gewönnen. Trump selbst hatte dies lange Zeit mit seinen „Shitpostings“ auf Truth Social vorgemacht: Ein Clip etwa zeigt ihn in einem Kampfjet, der Exkremente auf „No Kings“-Demonstrierende abwirft.

Der Propagandaforscher Marcus Bösch von der Universität Münster ordnet die Welle an Lego-Clips deshalb nicht als isolierte iranische Erfindung ein, sondern als Reaktion. Das Weiße Haus habe monatelang selbst auf Memes, KI-Content und Referenzen aus Computerspielen  gesetzt. Was Iran jetzt liefere, sagt Bösch dem ZDF, sei eine Spiegelung dieser Logik mit eigenen Mitteln.

Es gibt jedoch auch eine technische Begründung für Lego: Die kindlich-unschuldige Comic-Optik ist weniger dem Risiko ausgesetzt, von den Plattformen herausgefiltert zu werden. Ein einfacher technischer Workaround, meint Radio Free Liberty. Hinzu komme, dass KI die Lego-Menschen viel schneller berechnen könne. Sinngemäß: Lego-Körper haben glatte Oberflächen und null Finger. Mimik und Gestik haben die Komplexität von Emojis. Für eine Propagandastrategie, die auch auf Quantität setzt, ist das ideal. Wie der Spielzeughersteller Lego Group das hingegen findet, weiß niemand. Er hat sich bisher nicht geäußert.

Lego-Viralität durch staatliche Propaganda-Strategie

Die Analyseplattform Graphika hat laut Forbes dokumentiert, wie Iran die Clips verbreitete: Explosive Media veröffentlichte das Material auf Telegram und binnen einer Stunde reposteten die staatsnahe iranische Nachrichtenagentur Tasnim und der russische Auslandssender RT diese auf Plattformen wie X. Parallel dazu amplifizierten tausende Accounts die Posts mit gleichen Hashtags und gleicher Rhetorik.

Hinter der organischen Viralität steht also eine koordinierte Verbreitungsstrategie. Das ISD beobachtet rund 150 X‑Accounts iranischer Diplomat:innen und Regierungsstellen und hat dokumentiert, wie sie sich seit Kriegsbeginn gegenseitig amplifizieren. Der Forscher Joseph Bodnar fasst das Prinzip knapp zusammen: Aus dem klassischen „shock and awe“ der Kriegspropaganda sei „shock and share“ geworden. Auf Lego-Optik allein setzt Iran dabei nicht. Die iranische Botschaft in Tadschikistan erzielte laut der ISD-Studie den meistgesehenen Einzelpost. 24,1 Millionen sahen sich an, wie Jesus den US-Präsidenten Trump in eine Feuergrube boxt – und zwar aus dem KI-Bild, das Trump zuvor gepostet hatte. Es zeigt ihn selbst als Jesus.

Die Lego-Propaganda sei nur der sichtbarste Teil einer breiteren iranischen KI-Propaganda, sagt das Reuters Institute: Im selben Informationsraum kursieren Inhalte, die nicht als Satire erkennbar seien. Die staatsnahe iranische Teheran Times postete demnach KI-Fakes von Satellitenbildern eines angeblich von iranischen Drohnen zerstörten US-Radars in Katar. Fast eine Million Views.

Echte Fotos können als KI-Fakes diskreditiert werden, KI-Fakes als echt erklärt werden. In dieser Umgebung nehmen, so das Reuters Institute, Lego-Clips eine Sonderrolle ein: Sie deklarieren sich selbst als Satire und liefern deshalb keine direkten Anhaltspunkte für Faktenchecks.

„Unsere größte Befürchtung ist eine Eskalation der Rhetorik, die den Krieg als Spiel darstellt“, sagt Sam Dubberley von Human Rights Watch. „Für uns ist es in Konflikten entscheidend, zivile Opfer so weit wie möglich zu vermeiden. Wenn man jedoch Memes, Videospiele oder Lego-Videos verwendet, wirkt der Krieg nicht real. Wenn es zu einer solchen ‚Memeifizierung’ des Krieges kommt, verschärft sich die Rhetorik, was zu weiteren Konflikten und mehr zivilen Opfern führen könnte.“

Slopaganda etabliert sich

Aus den KI-Clips ist ein Genre geworden: Slopaganda. Der Fokus liegt auf dem, was klickt und zirkuliert, nicht auf dem, was stimmt. Tote Schulkinder finden weniger Aufmerksamkeit als weinende Lego-Trumps. Iran hat lediglich die Logik der westlichen Internetkultur und Aufmerksamkeitsökonomie utilisiert. Authentizität wird dabei optional. Slopaganda, hat der Guardian präzisiert, ziele nicht auf Faktentreue. Sie wolle nicht überzeugen, sondern Assoziationen erzeugen.

Lucasz Olejnik vom King’s College London spricht von „War Gamification“: Die kindlich vertraute Optik senke die Abwehr des Publikums genau in dem Moment, in dem die politische Botschaft platziert wird. Daniel Butler, Professor für Politikwissenschaft, argumentiert ähnlich, dass Lego-Bilder Krieg und Leid „weniger drastisch“ und „leichter teilbar“ erscheinen lassen. Schreckliche Realitäten würden in die Bildsprache von Spielzeug und Kindheit übersetzt. Zerbombte Schulen würden in Plastikbausteine verwandelt. Der Wert menschlichen Lebens werde gemindert.

YouTube hat den Hauptkanal von Explosive Media Mitte April gesperrt. Er verstoße gegen die Richtlinien zu Spam und Täuschung. Auch Instagram ging teilweise gegen Accounts vor. Am 7. Mai schreibt Explosive Media im Telegram-Channel: „Drei Accounts auf einmal! So etwas machen nur Verlierer. Gibt es noch jemanden, der daran zweifelt, von wem Meta seine Anweisungen bekommt?“ Auf X und TikTok zirkulieren die Clips ungestört – mittlerweile auch auf Spotify.

Ungeachtet dessen, wie die Plattformen mit den iranischen Lego-Clips umgehen, hat sich der Stil längst verselbstständigt. Der US-Filmemacher Drew Ponder mit Sympathien für Bernie Sanders beispielsweise produziert nun eigene Videos wie „Strait Outta Iran“ und „What Shall We Do with the Drunken Hegseth?“. Ursprünglich für iranische Staatsinteressen konzipiert, dienen Lego-Clips nun auch innenpolitischer Trump-Kritik. Selbst im Iran werden sie inzwischen zur Regierungs-Kritik genutzt. Iranwire dokumentiert, dass Regime-Kritiker:innen die Lego-Ästhetik bereits gegen die neue Führung im Iran einsetzen. Ein Video zeigt, wie Mojtaba Khamenei durch eine Geisterbahn fährt und am Ende vom iranischen Volk davongejagt wird.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Bis ein neues europäisches Asylsystem wirksam wird, ist es nur noch einen Monat Zeit. Die Mitgliedstaaten müssen dafür jede Menge Prozesse anpassen und IT-Systeme aktualisieren. In Deutschland wird das nicht nur knapp, sondern auch ziemlich teuer.

Im Juni gelten für alle EU-Länder die Regeln des „Gemeinsamen Europäischen Asylsystems“ (GEAS). GEAS ist ein von der EU verabschiedetes Paket aus zehn Verordnungen und Richtlinien, das viele Verschärfungen am bisherigen Asylsystem mit sich bringt. Unter anderem sind das Schnellverfahren an EU-Außengrenzen, Freiheitseinschränkungen für Asylsuchende und eine erhebliche Ausweitung des europäischen Fingerabdrucksystems Eurodac.

Menschenrechts- und Asylorganisationen haben die GEAS-Reform immer wieder scharf kritisiert. Pro Asyl etwa nannte das Paket eine „Einigung auf Kosten der Menschenrechte von Geflüchteten“ und warf zuletzt der Bundesregierung vor, dass sie nationale Regelungen zur Reform „mit voller Härte“ umgesetzt habe. Denn auch wenn GEAS für einheitlichere Verfahren zwischen den Mitgliedstaaten sorgen soll, gibt es Spielraum für die einzelnen Länder. In Deutschland hat der Bundestag erst Ende Februar die nationalen Regeln beschlossen.

Doch mit den gesetzlichen Änderungen sind die Vorbereitungen auf das neue EU-Asylregime noch lange nicht abgeschlossenen. Die neuen Regeln aus den EU-Verordnungen von GEAS führen dazu, dass Prozesse und auch jede Menge IT-Systeme in Deutschland umgestellt werden müssen.

„Eine erhebliche Herausforderung“

Der Präsident des Bundesamts für Migration und Flüchtlinge (BAMF), Hans-Eckhard Sommer, schrieb in einer Stellungnahme im November 2025: „Neue Verfahren gilt es zu implementieren, nahezu alle Dienstanweisungen sind neu zu schreiben, das IT-System muss neu entwickelt werden.“ Die Bundesregierung schrieb im Januar 2026, die „umfassenden Abstimmungen stellen für alle Beteiligten eine erhebliche Herausforderung dar“.

Doch wie realistisch ist es, dass alles Nötige bis zum 12. Juni, dem offiziellen Startdatum von GEAS, funktioniert? Gerade vor dem Hintergrund, dass die nationalen Umsetzungsregeln erst im Februar beschlossen worden sind?

Die Bundestagsabgeordnete Clara Bünger von der Linksfraktion im Bundestag hat bei der Regierung nachgefragt. Die Antworten offenbaren, wie viele Anpassungen notwendig sind. Und dass es nicht nur zeitlich knapp wird, all das bis Juni fertig zu bekommen, sondern auch ziemlich teuer.

BAMF liegt im Zeitplan

Beim BAMF, der deutschen Asylbehörde, müssen demnach 14 IT-Anwendungen und Verfahren angepasst werden, darunter die Schnittstelle zur Erstregistrierung von Asylsuchenden und die Schnittstelle des BAMF zum Ausländerzentralregister, einer der größten zentralen Datenbanken in Deutschland. Dafür sind rund 18,5 Millionen Euro Budget im Haushalt eingeplant, schreibt die Bundesregierung. Man befinde sich im Zeitplan und eine rechtzeitige Umsetzung bis Juni sei vorgesehen.

---

---

Aufseiten der Polizei gibt es bei Bundespolizei und BKA Änderungsbedarf, allen voran beim INPOL-Zentralsystem. Mehr als die Hälfte der in INPOL gespeicherten Personen sind Geflüchtete. Doch der derzeitige Zeitplan sieht vor, dass einige Komponenten bis Juni funktionieren. Bei der Bundespolizei seien aber noch bis November 2026 Anpassungen geplant, beim BKA sogar bis „Ende 2028“.

Keine Kostenübersicht bei der Bundespolizei

Während das BKA bis dahin mit rund 15 Millionen Euro Kosten rechnet, kann die Bundespolizei zum erwarteten Geldaufwand nichts sagen: „Zur Gesamthöhe der erforderlichen Programmierkosten sowie deren anteilige Berechnung auf die einzelnen Kooperationspartner kann zum jetzigen Zeitpunkt noch keine Aussage getroffen werden“, heißt es in der Antwort.

Auch beim Bundesamt für Verfassungsschutz wird es wohl Änderungen geben. Aber welche das sind, ist offenbar bislang nicht final festgelegt. Es würden „derzeit fachliche und organisatorische Abläufe geprüft, um eventuellen Anpassungsbedarf festzustellen“, schreibt die Bundesregierung.

Eine Behörde, die weniger im Licht der Öffentlichkeit steht und die mit der GEAS-Reform noch wichtiger für das deutsche Asylsystem wird, ist das Bundesverwaltungsamt (BVA). Während das BAMF die Register-führende Behörde für das Ausländerzentralregister ist, übernimmt auch das BVA Aufgaben wie Datenverarbeitung und ‑pflege für die Riesendatensammlung, die Informationen über Asylsuchende und andere Menschen mit ausländischer Staatsbürgerschaft enthält. Das AZR braucht einige neue Datenfelder, etwa dazu, ob es bei der Abfrage von Datenbanken im Rahmen der Sicherheitskontrolle einen Treffer gab oder ob besondere Vulnerabilitäten wie Behinderungen oder Traumatisierungen bei der Person festgestellt wurden.

Bundesverwaltungsamt bekommt neue Aufgaben

Künftig bekommt das BVA weitere zentrale Verantwortlichkeit: Es wird der „nationale und technische Zugangspunkt für Eurodac“ sein – bislang übernimmt diese Aufgabe das BKA. Damit die Fingerabdruck- und weitere Daten aus Eurodac dann bei den Nutzer-Behörden landen, muss das BVA neue Software entwickeln. GEAS bringt für Eurodac einen weitreichenden Ausbau mit sich: Es werden beispielsweise weitaus mehr Daten gespeichert, etwa Gesichtsbilder, Passkopien und ob eine Person als Sicherheitsrisiko eingestuft wird. Strafverfolgungsbehörden sollen zudem leichter auf die Daten in Eurodac zugreifen können.

Durch die großen Anpassungen im BVA fallen dort wohl auch die höchsten Kosten für die GEAS-IT-Reform an: Rund 85 Millionen Euro Sachkosten schätzt die Bundesregierung, die wohl vor allem an externe Dienstleister gehen. Dazu kommen geschätzte 34 Millionen Euro für den „technische Betriebsdienstleister ITZBund“. Dazu heißt es aber:

Eine weitere Spezifizierung der Kosten ist noch nicht möglich, weil es sich wegen der langen Laufzeit des Projektes noch überwiegend um Expertenschätzungen handelt.

Das heißt, die Kosten könnten sich auch weiter erhöhen. Rechnet man allein die bezifferten Kosten aus der Antwort der Bundesregierung zusammen, sind das rund 150,2 Millionen Euro – ohne Bundespolizei, Verfassungsschutz und ohne die Länder, die ebenfalls ihre Systeme anpassen müssen.

Für eine unabhängige Asylverfahrensberatung, die Bundesinnenminister Dobrindt ab nächstem Jahr streichen will, sind im aktuellen Haushaltsjahr im Vergleich dazu 25 Millionen Euro vorgesehen.

Kritik an der Kostenkalkulation

Dass die Bundesregierung nicht in der Lage ist, die Kosten für die GEAS-Umsetzung seriös zu kalkulieren, hatte auch bereits der Normenkontrollrat (NKR) während des Gesetzgebungsprozesses zur deutschen Umsetzung kritisiert. Im GEAS-Anpassungsfolgengesetz geht es unter anderem um die Strukturen, die für die Auszahlungen von Asylbewerberleistungen nötig sind und dazu konnte die Bundesregierung keinerlei Kostenschätzung vorlegen, vor allem zum Aufwand in den Ländern.

„Die Darstellung der Regelungsfolgen ist weder nachvollziehbar noch methodengerecht“, schrieb der NKR, der prüft, welche Kosten neue Gesetze verursachen. „Aus Sicht des NKR hätte seit dem Beschluss des Bundeskabinetts in der vergangenen Legislaturperiode ausreichend Zeit bestanden“, den Aufwand gemeinsam mit den Ländern näherungsweise abzuschätzen. So fürchtet der NKR „unnötige Kosten durch mögliche Doppelentwicklungen sowie Abstimmungsaufwände“. Die Bundesregierung wies diese Kritik zurück.

Evaluieren will die Bundesregierung die entstehenden Ausgaben für die IT-seitige GEAS-Umsetzung auch im Nachhinein nicht. Denn, so schreibt sie als Begründung in ihrer Antwort auf die Kleine Anfrage: Die Kosten fielen „überwiegend durch die zwingende Umsetzung von EU-Recht“ an.

„Verzögerungen dürfen nicht zulasten Geflüchteter gehen“

Fragestellerin Clara Bünger sagt gegenüber netzpolitik.org: „Die Umsetzung der GEAS-Reform droht ins Chaos zu führen.“ Sie habe nicht den Eindruck, „dass die Behörden darauf vorbereitet sind oder auch nur realistisch abschätzen können, welche Probleme auf sie zukommen. Teilweise gibt es nicht einmal tragfähige Kostenabschätzungen.“

Sie befürchtet, dass das zulasten Geflüchteter geht und diese Nachteile erleiden, wenn IT-Systeme noch nicht funktionieren: „Dafür braucht es Lösungen, nicht erst in einem Jahr, sondern so schnell wie möglich.“

Neben Deutschland müssen auch alle anderen EU-Staaten die GEAS-Vorgaben umsetzen. Um den Stand der Umsetzung zu begleiten, erstellt die EU-Kommission Berichte zum „Stand der Umsetzung des Migrations- und Asylpakets“. Bislang gibt es drei dieser Berichte, aus Juni und November 2025 sowie vom 8. Mai 2026. Demnach haben fünf Mitgliedstaaten die nationalen Gesetzgebungsprozesse abgeschlossen, in den anderen Ländern stehen eigene Regelungen noch aus und befinden sich in verschiedenen Stadien. In Frankreich etwa fehlen weiterhin nationale Umsetzungsgesetze, eine Debatte im Parlament soll Ende Mai stattfinden.

Die Eurodac-Integration bezeichnet die EU-Kommission als „Schlüssel zur Verwirklichung“ von GEAS. 19 Mitgliedstaaten hätten bis Ende April Konformitätstests erfolgreich abgeschlossen, Deutschland befindet sich nicht in der Liste der aufgezählten Länder, liege aber bei der Eurodac „generell im Zeitplan“.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

VPNs sind ein Schlupfloch für Jugendliche, um Social-Media-Verbote zu umgehen. Das konstatiert eine Analyse des Wissenschaftlichen Dienstes des Europäischen Parlaments. Er stellt deshalb eine Personalausweispflicht für die VPN-Nutzung in den Raum. Dabei sind Werkzeuge zur Identitätsverschleierung wichtige Bestandteile einer Demokratie.

Alterskontrollen im Internet gefährden das Recht auf Anonymität. Sie schaffen eine umfassende Kontroll-Infrastruktur. Und zusätzlich scheinen sie weitgehend nutzlos zu sein. Jugendliche in Großbritannien umgehen sie mit falschen Schnurrbärten, elterlichen Ausweisen und der Nutzung von VPN-Diensten.

Diese Virtual Private Networks leiten Datenverkehr um und gaukeln den Diensteanbietern vor, dass sich die Nutzer*innen mit einer IP-Adresse aus einem Land einwählen, in dem keine Alterskontrollen gelten. Mit VPNs lassen sich auch staatliche Zensurmaßnahmen umgehen. Deswegen gehen autoritäre Regime, beispielsweise in Russland und China schon lange repressiv gegen sie vor.

Europa will den Zugang von Jugendlichen zu Social Media reglementieren. Eine dazu nötig App, mit der alle Nutzer*innen dann ihre Gesichter und Ausweise scannen müssten, ist laut Kommissionspräsidentin Ursula von der Leyen (CDU) angeblich bereits fertig.

Nun richtet sich auch in Europa der Blick auf die VPN-Anbieter. Der Wissenschaftliche Dienst des Europäischen Parlaments hat eine Analyse über VPNs und den „Schutz von Kindern“ geschrieben. Er sieht „eine Gesetzeslücke, die geschlossen werden muss“, so die Analyse, und stellt die Option vor, auch VPN-Anbietern Alterskontrollen aufzuzwingen. Er problematisiert, dass VPN-Dienste in Großbritannien enorm populär geworden seien, seit Jugendliche bestimmte Seiten nicht mehr betreten dürfen.

Das Ende der Anonymität im Netz?

In Großbritannien wird gerade verhandelt, welche Dienste künftig mit Alterskontrollen und Zugangssperren für Minderjährige versehen werden sollen. Im Gespräch sind auch VPN-Dienste. Gegen die Ausweitung von Alterskontrollen über die Big-Tech-Plattformen hinaus stellten sich kürzlich zivilgesellschaftliche Akteure wie die Electronic Frontier Foundation und Unternehmen wie Mozilla oder Proton. James Baker von der Open Rights Group schreibt in einem Statement: „Die Ausweitung der Altersverifizierung wird die Vormachtstellung großer Technologieunternehmen festigen und kleine sowie ehrenamtlich betriebene Dienste schädigen, die sich die Einhaltung der Vorschriften möglicherweise nicht leisten können.“

Tatsächlich ist das Problem noch deutlich größer: Müssten Menschen zur Nutzung von VPN tatsächlich ihren Personalausweis vorlegen, ginge beispielsweise Whistleblower*innen oder Oppositionellen ein wichtiges Werkzeug verloren, ihre Anonymität zu gewährleisten. Journalist*innen könnten nicht mehr undercover oder in regional beschränkten Inhalten im Netz recherchieren, zivilgesellschaftliche Akteur*innen ihre Daten nicht vor staatlichen Zugriffen schützen.

Alle datenschutzinteressierten Privatpersonen verlören eine populäre und einfach zu nutzende Möglichkeit, ihre Identität gegenüber Plattform- und Websitebetreibern zu verschleiern. Die Möglichkeit, anonym und frei kommunizieren zu können, ist grundlegende Eigenschaft einer Demokratie.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Aufnahmen von Pornodarsteller*innen liefern die Vorlage für sexualisierte Deepfakes. Aber die Öffentlichkeit sieht sie nicht als Opfer, kritisiert Ana Ornelas von der European Sex Workers’ Rights Alliance. Ein Interview über gestohlene Nacktaufnahmen, patriarchale Gewalt und Kontrollverlust.

Ana Ornelas hat viel zu tun in diesen Monaten. Sie ist Policy Officer für die European Sex Workers’ Rights Alliance, einem Netzwerk für die Rechte von Sexarbeiter*innen, und spricht mit EU-Abgeordneten über die Regulierung von KI. In Workshops informiert sie ihr Netzwerk über geplante Alterskontrollen im Netz. Und im Auftrag von AlgorithmWatch untersucht sie, wie Sexarbeiter*innen von sogenannten Nudifier-Apps betroffen sind. Mit diesen Apps können Nutzer*innen Aufnahmen manipulieren, sodass eine abgebildete Person nackt wirkt.

Es geht also um sexualisierte Deepfakes und um digitale Gewalt: Themen, über die in den vergangenen Wochen in Deutschland sehr viel gesprochen wurde. In den Tagen nach der Veröffentlichung einer Spiegel-Recherche zum Fall der Schauspielerin Collien Fernandes meldeten sich viele weitere Betroffene, etwa die Klimaaktivist*innen Luisa Neubauer und Theresia Crone. Im aktuellen Fall von Fernandes geht es zwar nicht um Deepfakes, sondern um Fake-Accounts, die ihr Ex-Mann erstellt haben soll – das haben später auch die Anwälte von Christian Ulmen klargestellt. Da war die Debatte zum Thema aber schon im vollen Gange.

Ob bei Caren Miosga oder in den Tagesthemen, plötzlich ging es vielerorts um digitale Gewalt und die Pläne der Bundesregierung für ein neues Gesetz, das unter anderem das Erstellen von sexualisierten Deepfakes unter Strafe stellen soll.

Wer dabei kaum zu Wort kam: Pornodarsteller*innen. Dabei spielen sie eine zentrale Rolle. Würden ihre Aufnahmen nicht als sogenanntes Trainingsmaterial für KI-Systeme genutzt, ließen sich sexualisierte Deepfakes gar nicht erst erstellen. Ihre Zustimmung dafür haben sie ebenso wenig erteilt wie die Betroffenen, deren Gesichter nun in den Deepfakes zu sehen sind. Zugleich werden Pornodarsteller*innen ebenfalls zum Ziel nicht-einvernehmlicher Deepfakes, berichtet Ana Ornelas im Interview mit netzpolitik.org.

Selbstbestimmung verletzt

netzpolitik.org: Für manche sexualisierte Deepfakes montieren Nutzer*innen das Gesicht einer Person in eine bereits existierende Pornoszene. Was heißt das für die ursprünglichen Darsteller*innen?

Ana Ornelas: Das ist einerseits nichts Neues. Es gab früher schon viele Pornoseiten, die die Gesichter von Prominenten auf die Körper von Pornostars montiert haben. Aber mit der heutigen Technologie wirkt das Ergebnis viel realistischer. Es ist teils nicht mehr zu unterscheiden, was echt ist und was gefälscht.

Darsteller*innen werden dadurch doppelt zum Opfer. Erstens wird, wie bei allen anderen Betroffenen auch, ihr Bild und ihr Körper auf eine Weise genutzt, der sie nicht zugestimmt haben. Und zweitens ist es Diebstahl. Für Pornodarsteller*innen sind ihr Körper und die Inhalte, die sie damit produzieren, ihr Lebensunterhalt. Wenn diese Inhalte gestohlen oder kopiert werden, um Deepfakes zu erstellen, hat das direkte Auswirkungen auf ihr Einkommen.

netzpolitik.org: Wie das?

Ana Ornelas: Menschen erstellen etwa Deepfake-Versionen von bekannten Darsteller*innen und geben sich auf OnlyFans oder in Telegram-Kanälen als diese aus. Da geht es schlicht um Geld, sie wollen selbst an den Inhalten verdienen und schädigen damit das Geschäft.

netzpolitik.org: Consent – also Einverständnis – spielt in der Pornobranche eine große Rolle: Mit wem man arbeitet, welche Art von sexuellen Handlungen stattfindet, wer das Material verbreiten darf. Deepfakes unterwandern dieses Prinzip, weil sie meist ohne Zustimmung entstehen. Was bedeutet das für Darsteller*innen?

Ana Ornelas: Nur weil man Nacktbilder von sich im Internet hat, heißt das noch lange nicht, dass damit alles erlaubt wäre. Vielleicht stimmt eine Darsteller*in einer bestimmten sexuellen Handlung zu, aber zeigt diese nur hinter einer Paywall oder schickt sie direkt an Kund*innen. Sie hat das Recht darüber zu entscheiden, wie, wo und mit wem sie ihre Inhalte teilt. Sich an ihren Inhalten einfach zu bedienen, verletzt diese Selbstbestimmung.

netzpolitik.org: Mehr noch, Menschen nutzen Aufnahmen von Pornodarsteller*innen als Vorlage für bildbasierte Gewalt. Was sagen Darsteller*innen dazu?

Ana Ornelas: Sexarbeiter*innen sind leider sehr vertraut damit, dass ihre Grenzen überschritten werden und ihre Privatsphäre verletzt wird. Sie kennen auch die Erfahrung, in solchen Situationen nicht ernst genommen zu werden. Sie können sich also sehr gut in andere Betroffene einfühlen, denen das passiert.

„Sexarbeiter*innen wurden zu oft in die Pfanne gehauen“

netzpolitik.org: Die Debatte kreist oft um die Technologie, aber sind Nudifier-Apps und die ihnen zugrunde liegenden KI-Modelle wirklich das Problem?

Ana Ornelas: Aus meiner Sicht: Nein. Meine Sorge ist, dass wir uns zu sehr auf die Ergebnisse fokussieren: Welche Arten von Deepfakes sollten erlaubt oder verboten sein? Wir sollten stattdessen mehr auf die Datenbanken schauen und darauf, wie diese Daten ohne Zustimmung geklaut werden.

netzpolitik.org: Die KI-Modelle hinter Nudifier-Apps basieren auf riesigen Mengen an Bildern und Videos, dem sogenannten Trainingsmaterial. Es stammt oftmals von Pornoplattformen, ohne Wissen und Zustimmung der gezeigten Personen. Wäre es auch möglich, sexualisierte Deepfakes einvernehmlich und gewaltfrei zu generieren?

Ana Ornelas: Ja. Darsteller*innen könnten ihre Bilder etwa gegen Bezahlung an eine Datenbank geben, mit der ein solches Modell trainiert wird. Sie würden für ihre Arbeit entlohnt und könnten zugleich die Kontrolle darüber behalten, welche Art von Inhalten damit generiert werden darf. Sie könnten zum Beispiel sagen, dass mit ihrem Material keine Szenarien von Pet Play erstellt werden dürfen, das sind erotische Rollenspiele, in denen ein Partner ein Tier spielt.

So ein Ansatz würde auch andere schützen. Denn das Trainingsmaterial für Deepfake-Generatoren stammt ja nicht nur aus Pornos. Viele der sogenannten Nudifier-Apps erstellen neben vermeintlichen Nacktbildern auch Bikini-Bilder. Diese reichen je nach Kontext oft schon aus, um jemanden gezielt anzugreifen und zu beschämen.

Das Trainingsmaterial dafür stammt von Instagram und Facebook, es wird dort ebenfalls ohne Zustimmung gescrapt. Wenn also jemand dein Bikini-Foto am Strand einsetzt, um ein Modell zu trainieren und mit diesem Modell ein Bikini-Bild einer anderen Person ohne deren Zustimmung zu generieren, wirst du davon nie erfahren.

netzpolitik.org: Einvernehmliche Datensets für sexualisierte Deepfakes – wie realistisch ist das?

Ana Ornelas: Technisch gesehen wäre das kein Problem. Wir sind dazu im Austausch mit einer Plattform für Trainingsdaten, die genau so eine Form von Einvernehmlichkeit und Kontrolle zulassen soll. Kollektive können dort selbst bestimmen: Wofür werden die Daten eingesetzt, wie viel sollen sie kosten?

Die Herausforderung liegt woanders: Sexarbeiter*innen wurden einfach zu oft von Tech-Konzernen in die Pfanne gehauen. Es würde also sehr viel Arbeit erfordern, um die Community von dieser Idee zu überzeugen.

„Frauenfeindlichkeit hindert Betroffene, gemeinsam zu kämpfen“

netzpolitik.org: Sexualisierte Deepfakes waren in Deutschland für ein paar Wochen Top-Thema. Endlich kamen Betroffene zu Wort, in Talkshows, Nachrichten und auf Bühnen. Von den betroffenen Darsteller*innen hat man aber kaum gehört. Warum?

Ana Ornelas: Die Öffentlichkeit sieht Pornodarsteller*innen im Allgemeinen nicht als Opfer – und ganz besonders nicht in diesem Fall. Die Mentalität ist: Deine Nacktaufnahmen sind doch eh im Internet, was hast du denn erwartet?

netzpolitik.org: Dabei ist die gemeinsame Betroffenheit doch eindeutig?

Ana Ornelas: Absolut. Wenn ich mit Überlebenden von Gewalt spreche, dann sind die Erfahrungen oft sehr ähnlich, egal ob es um Leute außerhalb der Szene geht oder um Sexarbeiter*innen. Die beschreiben das Gleiche: Ein Gefühl von Kontrollverlust oder dass ihnen ihr Körper nicht mehr gehört. Beide Seiten kennen auch diese Erfahrung, gesagt zu bekommen, man sei selbst Schuld an der Gewalt. Denn auch Nicht-Sexarbeiter*innen bekommen ja inzwischen zu hören: Warum hast du denn überhaupt Fotos von dir im Bikini im Internet veröffentlicht?

netzpolitik.org: Woran scheitert die Solidarität?

Ana Ornelas: Die meisten wollen nicht wie Sexarbeiter*innen behandelt werden, weil sie wissen, dass das eine schreckliche Behandlung ist. Sexualisierte Deepfakes stellen hier eine Bedrohung dar, denn es geht dabei auch um die Angst, dass es jede Frau treffen könnte – unabhängig davon wie “brav” sie ist oder wie sehr sie sich an die im Patriarchat vorgeschriebenen Grenzen von Sexualität und Lust hält. Die Botschaft ist: Deine Sexualität kann als Waffe gegen dich eingesetzt werden, unabhängig von deinem Verhalten.

Das heißt auch: Jede Frau kann jetzt wie eine Sexarbeiterin behandelt werden und die gleiche schreckliche Behandlung erfahren. Das will natürlich niemand, und so läuft hier ein erfolgreicher misogyner Mechanismus von “Teile und herrsche”.

Das alles ist übrigens nicht neu. Diese Spaltung zwischen vermeintlich respektablen Frauen und Sexarbeiter*innen passiert ja seit Jahrhunderten. Jetzt passiert es eben nur anhand einer neuen Technologie.

Deswegen frustriert es mich, dass wir über Deepfakes vor allem als technologisches Problem sprechen, das auf einer technischen Ebene gelöst werden kann. Wir sollten viel mehr über die darunter liegende Frauenfeindlichkeit sprechen. Frauenfeindlichkeit ist auch die Ursache für diese Kluft zwischen den Betroffenen, und hindert sie daran, sich zusammenzuschließen und gemeinsam zu kämpfen.

netzpolitik.org: Was würden Sie sich wünschen?

Ana Ornelas: Projekte und Selbsthilfegruppen könnten Sexarbeiter*innen öfter dazu einladen, ihre Erfahrungen und Perspektive zu teilen. Ich verstehe die Angst ziviler Betroffener, mit Sexarbeiter*innen in einen Topf geworfen zu werden. Aber wenn ich mir die Gespräche von beiden Seiten anhöre, gibt es tatsächlich viel mehr Gemeinsamkeiten als sich viele vorstellen. Wenn es also mehr sichere Räume für diesen Austausch gäbe, wäre das meiner Meinung nach hilfreich.

Mit neuen Gesetzen gegen Deepfakes

netzpolitik.org: In Deutschland hat das Bundesjustizministerium gerade einen Gesetzentwurf vorgelegt, der das Erstellen und Teilen von sexualisierten Deepfakes unter Strafe stellen soll. Die Täter*innen sollen mit bis zu zwei Jahren Haft bestraft werden. Halten Sie das für hilfreich?

Ana Ornelas: Derzeit sprechen wir nicht genug über die Täter*innen. Die Opfer werden aber von Menschen geschädigt, nicht von der Technologie.

Gleichzeitig sollten wir auf die finanzielle Motivation schauen, die dazu führt, dass etwa solche Nudifier-Apps angeboten werden. Die Verantwortlichen bieten ihre Apps teils unter täglich wechselnden Namen in den App Stores an, sie betreiben großen Aufwand und sie verdienen sehr viel Geld damit.

netzpolitik.org: Auf EU-Ebene haben sich Rat und Parlament gerade auf eine Vorschrift zu sexualisierten Deepfakes in der KI-Verordnung geeinigt. Verboten sind demnach KI-Anwendungen, mit denen man nicht-einvernehmlichen Deepfakes erstellen kann. Hat die EU Ihren Verband hierzu konsultiert?

Ana Ornelas: Ja, wir geben Rückmeldung zu den Vorschlägen. Ich freue mich sehr, dass der Fokus der Entwürfe von Parlament und Rat auf der fehlenden Zustimmung der Betroffenen liegt; das ist ein großer Schritt vorwärts. Gleichzeitig sollen Ausnahmen vom Verbot geschaffen werden. So soll es etwa erlaubt sein, Deepfakes zu erstellen, wenn die gezeigte Person nicht identifizierbar ist. Das halte ich für einen Fehler.

netzpolitik.org: Ihr Verband hat vor Kurzem eine Umfrage unter Sexarbeiter*innen gemacht, um deren Perspektiven auf Deepfakes abzufragen. Was kam dabei heraus?

Ana Ornelas: Der Bericht dazu ist noch nicht öffentlich. Was ich aber schon sagen kann: Die Community ist da sehr geteilt. Manche sind sehr optimistisch, was das Thema angeht. Sie sehen es vor allem als neue Möglichkeit, um Einnahmen zu generieren. Andere sind sehr besorgt und wünschen sich ein Verbot, zweifeln aber zugleich daran, dass Verbote tatsächlich helfen könnten. Es herrscht viel Unsicherheit, wie in der ganzen Gesellschaft. Wir sehen auch, dass die Technologie bereits gegen Sexarbeiter*innen eingesetzt wird, dass sie etwa mit Hilfe von Deepfakes erpresst werden.

netzpolitik.org: Wie können sich Darsteller*innen vor Deepfakes schützen?

Ana Ornelas: Sie tauschen sich untereinander aus, warnen sich etwa gegenseitig vor Kund*innen, die im Verdacht stehen, ihre Inhalte hinter der Paywall in andere Kanäle oder ins öffentliche Internet zu leaken. Manche experimentieren mit Fingerprinting-Technologien, um ihr Material zu kennzeichnen. Auch wir sind aber derzeit vor allem auf der Suche nach Lösungen dafür, wie wir mit diesen Technologien umgehen.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Lehrvideos über Gefahren im Straßenverkehr sind genauso notwendig wie der Versuch, immer sicherere Autos zu bauen. Digitale Risiken sind im Vergleich dazu noch mal besonders, denn sie haben eine weitere Risikokomponente. Verknüpft damit ist eine gesamtgesellschaftliche Aufgabe.

Die heutige Degitalisierung möchte ich mit einer Erinnerung aus meiner Kindheit einleiten. Es müsste in der ersten Klasse gewesen sein, da passierte in der Schule etwas Besonderes: Der Videowagen, sehr selten genutzt, wurde in ein großes Klassenzimmer gefahren und zwei Schulklassen sammelten sich vor einem Fernseher. Es wurde eine Videokassette in den VHS-Player geschoben und ein Film in ziemlich hartkontrastigem Schwarz-Weiß wurde abgespielt. Was folgte, war ein uns Kinder durchaus aufrüttelnder Film. In ein paar Minuten wurde uns Kindern erklärt, wie gefährlich es sein kann, in fremde Autos zu steigen. Gefahr der Kindesentführung, nicht machen, liebe Kinder. Dass ich mich heute noch an Teile dieses Films und den Vorführungskontext so genau erinnern kann, zeigt doch zumindest, dass der Film eine Wirkung auf uns Kinder gehabt haben muss.

Ich bin inzwischen kein Kind mehr, was allein schon aus der Beschreibung von Videokassetten klar werden sollte. Videokassetten im VHS-Format sind ein Aufzeichnungs- und Wiedergabesystem aus den 1970er-Jahren. Viele von den Kindern bis Minderjährigen, die heute von Social Media abgehalten werden sollen, durch Altersverifikation mit teils absurd in die Intimsphäre eingreifenden Methoden, haben solche klobigen Kassetten vielleicht noch nie zu Gesicht bekommen und das Klackern und Surren beim Einlegen einer solchen Kassette nie gehört.

Wenn ich meine Erinnerungen an die Schulzeit in Gedanken über die Jahre weitergehe, kommt mir dann der Fahrradführerschein in der vierten Klasse in den Sinn. Ging es doch auch dabei darum, Kindern beizubringen, wie sie sich sicher eigenständig im Straßenverkehr mit Fahrrädern bewegen können. Auch hier wurde viel Aufwand betrieben. Ganze Schulklassen wurden mit einem extra bestellten Bus zum nächsten Fahrradübungsplatz gefahren und durften dort im Kleinen Situationen im Straßenverkehr simulieren, um dann hoffentlich möglichst sicher auf echten Straßen unterwegs zu sein.

Ein paar Jahrzehnte später bin ich diesen pädagogischen Maßnahmen dankbar. Weil ich bisher keine kritischen Konfliktsituationen hatte, bei denen Autos eine Rolle spielten. Sei es durch eine nie stattgefundene Entziehung Minderjähriger nach § 235 StGB, wie das kleine Kind von damals, das jetzt wohl als Erwachsene nennen sollte, noch durch Unfälle im Straßenverkehr auf Fahrrädern. Es ist nicht klar nachweisbar, ob es konkret die Erziehung war, die all diese kritischen Situationen vermieden hat. Sie hatte aber zumindest im Sinne eines Präventionsparadoxons, also dem Gar-nicht-Entstehenlassen solcher kritischen Situationen, einen Anteil.

Digitalpädagogik

2026 vermisse ich einen vergleichbaren Ansatz von umfassender Digitalpädagogik, wenn wir die Versuche von Gefahrenprävention in Bezug auf den Straßenverkehr mit dem Digitalen in Relation setzen. Aber automobile Individualmobilität gibt es auch eher schon seit mehr als hundert Jahren und dieses Internet ist ja immer noch Neuland.

Wie neuartig dieses Digitale und seine Gefahren immer noch sind, zeigt sich zum Beispiel bei Julia Klöckner, als Bundestagspräsidentin immerhin im zweithöchsten politischen Amt in diesem Land. Julia Klöckner ist digital gesehen in gewisser Weise, rein bildlich gesprochen, ganz unbedarft in ein fremdes Auto eingestiegen und ihr Account wurde dann eben entführt.

Nun ist es eine mögliche Reaktion, eine eher schadenfrohe Haltung Julia Klöckner gegenüber einzunehmen oder anderen wohl auch betroffenen Teilen der Bundesregierung. Zumal Warnungen zu Phishing-Kampagnen ja durchaus seit längerem ausgesprochen wurden. Eigentlich auch schon seit Januar, zumindest nach Lektüre der relevanten Onlinemedien wie diesem hier.

Allerdings wäre das ja nicht besonders erwachsen und ich bin ja kein schadenfrohes Kind mehr. Inzwischen bin ich im Bereich digitaler Kompetenzen ja digitale Erklärbärin – Eigenaussage meiner Webseite –, versuche immer wieder, nicht nur Technik zu erklären, sondern vor allem auch die Technikfolgen. Manchmal braucht es dazu auch eine sehr plastische, anschauliche Demonstration der Gefahren und möglichen Folgen schlechter Digitalisierung und manchmal sagen sogar ehemalige Teile der Bundesregierung, dass sie im Digitalen viel gelernt hätten. Das passiert aber oftmals erst, nachdem etwas passiert ist.

Im Falle Signal passiert aber erstaunlich wenig Selbstreflexion der Betroffenen. Vielmehr wird die Lösung in Verantwortung anderer gesucht. Signal will in Zukunft etwa selbst mehr gegen Phishing unternehmen. Der Bundestag sucht für sich die Lösung gleich in einem anderen Messenger, nämlich Wire.

Oberflächliche Diskussionen

Aus rein technischer Sicht könnte jetzt eine sehr nerdige Diskussion über die Sicherheit von Messengern und das damit verbundene Sicherheitsrisiko für Nutzer*innen entbrennen. Telefonnummern für die Nutzung wie bei Signal, wenn auch inzwischen nur zum Onboarding, seien ja ein Sicherheitsrisiko per se und E‑Mails wie bei Wire seien ja viel besser. BSI-Zertifizierungen hätte ja nur Wire, aber auch nur befristet bis 2028, weil im Gegensatz zu Signal ist das ja nicht Post-Quanten…

Wire im Speziellen hat nach dem Hack auf Julia Klöckner die Gunst der Stunde genutzt und genau so eine Diskussion aufgemacht: Guck, hier ist ein besseres Produkt, weil dies und das und mehr souverän. Wire sei ganz anders, speziell für Unternehmen gedacht und so weiter.

Am Ende folgt dann zwar immer das Mantra, dass es ja keine absolute Sicherheit gebe. Ich halte die Diskussion zu diesem Zeitpunkt für falsch und eher für einen Lobbyismus-Vorstoß, um ein weiteres Produkt mit ähnlichen Problemen zu verkaufen. Gesamtgesellschaftlich ist damit wenig gewonnen, der Gewinn steigt nur für die dahinterstehenden Unternehmen. Julia Klöckner hat auch brav die Marketing-Stichpunkte von Wire im Bundestag versendet, so wirkt es zumindest von der Wortwahl her. Wire hat sich ebenso als Teil der supergeheimen KI‑Hypermega-Deutschland-App von SAP und Telekom platziert.

Nun ist es ja so, dass ich durchaus ein ganz klein wenig Erfahrung mit Informationssicherheit habe. Die Diskussionen speziell nach dem Signal-Vorfall innerhalb der Bundesregierung sind nur beschränkt nützlich. Denn Angriffe, etwa auch auf Signal, finden nach wie vor statt und schwappen weiter durch die Chatgruppen, sogar exponentiell [€] steigend. Signal wird an der ein oder anderen Stelle ein wenig am User-Interface und an Interaktionen schrauben. Es gibt öffentliche Interviews im Spiegel [€], in denen Besserung gelobt wird. Sichere Systeme sind immer ein erstrebenswertes Ziel, speziell nach Vorkommnissen wie jüngst.

Die Journalistin Eva Wolfangel hat etwa 2023 schon auf der re:publica zum Ausdruck gebracht, dass der Mensch nicht das Problem ist. Auf Phishing hereinzufallen, ist menschlich möglich und nicht vollständig verhinderbar. Es ist unabdingbar, immer weiter an per Design sicheren, aber gleichzeitig menschenzentrierten digitalen Lösungen zu arbeiten. Das wird aber allein nicht reichen.

So seltsam es klingen mag: Lehrvideos, die über die Gefahren von digitalen Tools aufklären, sind in gewisser Weise genauso notwendig wie der Versuch, immer sicherere Autos und sonstige Fortbewegungsmittel zu bauen, aber gleichzeitig Erziehung für den Straßenverkehr zu leisten. Ein kurzer Blick zum Vergleich auf die Gefahren im Straßenverkehr: Die Zahl der Unfälle im Straßenverkehr sinkt seit Jahrzehnten. Das liegt an besserer Technik und immer noch stattfindender Aufklärung. Nur gibt es diese Bildung für den Straßenverkehr eben schon ein paar Jahrzehnte und im Lehrplan ist sie seit langem institutionalisiert, wie etwa im Bildungsplan in Baden‑Württemberg.

Das Digitale als solches ist eine Domäne, bei der die digitale Bildung ebenso wie die digitalen Möglichkeiten im ständigen Wandel sind. Es ist gut, informationstechnische Lerninhalte in die schulische Laufbahn zu integrieren. Leider wird davon aber eine Bundesregierung nicht gleich phishingresistent. Lebenslanges Lernen im Digitalen ist für die gesamte Bevölkerung notwendig, nur drüber reden hilft allein genau nichts. Kompetenzbildung im Digitalen ist eine höchstindividuelle Aufgabe, von einer Bundestagspräsidentin bis zu jedem Schulkind.

Nur sind digitale Risiken auf politischer Ebene doch besonders, denn sie haben eine weitere Risikokomponente.

Der demokratische Anteil

Der Gedanke, dass der Bundestag oder die Bundesbehörden mit Lösungen wie Wire Bund in verschiedenen Netzen wie den Netzen des Bundes vertraulich kommunizieren können, mag erst einmal eine logische Schlussfolgerung sein. Vertrauliche politische Kommunikation durch vertraulichen, geschlossenen Rahmen.

Er greift aber zu kurz. Längst sitzen die Feinde der Demokratie nicht mehr außerhalb der Politik, sie haben inzwischen Zugang zu politischen Strukturen, sind Teil von Parteien und sitzen in unterschiedlichen Parlamenten. Der Gedanke, dass die Abschottung besonders schützenswerter politischer Kommunikation weitere Sicherheit bringe, greift in einer Welt viel zu kurz, in der die Demokratie durch Feinde der Demokratie von innen heraus angegriffen wird.

Dieses Risiko der demokratiefeindlichen politischen Einflussnahme einzudämmen, auch im digitalen Raum, ist leider keine rein technische Frage mehr, es ist eine gesamtgesellschaftliche Aufgabe. Bemerkenswert dabei ist aber, dass gerade die demokratischen Parteien im Ringen um mehr innere Sicherheit noch viel mehr Systeme schaffen, bei der sich eine demokratiefeindliche Übernahme besonders lohnen wird: Verhaltensscanner in Kombination mit Gesichtserkennung, Vorratsdatenspeicherung, Schatten-IT durch Europol oder Empfehlungen, Virtual Private Network Anbieter (VPNs) zu regulieren, weil diese übergreifende Online-Alterskontrollen unterwandern könnten…

Wenn die Phishing-Angriffe auf Signal eines sein sollten, dann mehr als eine rein technische Warnung. Sie sollten auch eine Warnung sein, dass unsere Demokratie und unsere Grundrechte eben auch durch unkluges digitalpolitisches Verhalten bedroht sind. Baut man in Demokratien übermäßige Überwachungsstrukturen, lohnt es sich umso mehr, dass uns irgendwann irgendwer unsere Demokratie mit dem vermeintlich gut gemeinten Überwachungsapparat entführt. Danach hilft leider auch kein Account-Reset mehr.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die 19. Kalenderwoche geht zu Ende. Wir haben 19 neue Texte mit insgesamt 147.247 Zeichen veröffentlicht. Willkommen zum netzpolitischen Wochenrückblick.

Liebe Leser:innen,

nach einem Jahr schwarz-roter Bundesregierung wurde in dieser Woche viel Bilanz gezogen. Und die fiel nicht gut aus. Weder in den Medien noch auf der Straße.

Die Regierung liefere nicht, was sie versprochen hat, heißt es. Und sie müsse sich endlich zusammenraufen. Sonst drohe im Herbst ein böses Erwachen. Aus dem „Herbst der Reformen“ sei der „Sommer der Wahrheit“ geworden.

Ich habe in dieser Woche nachgeschaut, was wir selbst zum Start der schwarz-roten Koalition geschrieben hatten. Und was soll ich sagen: Mit Blick auf Überwachung und Grundrechteabbau hat die Regierung leider durchaus geliefert.

Biometrische Videoüberwachung, die Rückkehr der Vorratsdatenspeicherung, Fotofahndung im Netz, automatisierte Datenanalyse à la Palantir, zunehmende Intransparenz und rechtswidrige „Zurückweisungen“ von Schutzsuchenden. Das ist stringente Kontroll- und Ordnungspolitik, von den Innenstädten bis an die deutschen Außengrenzen.

Zivilgesellschaftliche Organisationen, Menschenrechtler:innen und die Kirchen lehnen die Vorhaben ab – als verfassungs- und europarechtswidrig. Die Regierung schert das wenig. Mehr noch: Wenn die Zahlen den Law-and-Order-Kurs nicht rechtfertigen, verweist sie kurzerhand auf die „gefühlte Sicherheit“. So geht Populismus.

Dabei bräuchten wir in Zeiten multipler Dauerkrisen ein anderes Sicherheitsverständnis, wie auch meine Kollegin Anna schreibt. Unter Sicherheit sollten demnach vollkommen andere Fragen fallen: Wie senken wir die Mieten? Wie sichern wir die Renten? Wie stoppen wir die Klimakatastrophe? Wie verbessern wir die Schulen? Wie machen wir unsere Städte lebenswerter? Wie unsere Demokratie resistenter?

Gegen solche Sicherheitsfragen habe ich nichts einzuwenden, im Gegenteil.

Um darauf Antworten zu finden, bräuchte es eine Kehrtwende. Doch ein „Sommer der Kehrtwende“ ist von dieser Koalition am wenigsten zu erwarten. Dafür müssen wir selbst ran: vor dem Bundesverfassungsgericht, auf der Straße oder an der Wahlurne.

Habt ein gutes Wochenende
Daniel

---

Trugbild: Im Bann des Banalen

In den sozialen Medien präsentieren Content Creator alte Nazi-Architektur. Die beliebten Videos dienen mehr der Propaganda als der Aufklärung. Von Vincent Först –
Artikel lesen

Staatliches Hacken: Ermittler verwechseln Staatstrojaner mit Telefonüberwachung

Das Bundesjustizamt hat erneut falsche Zahlen zum Einsatz von Staatstrojanern veröffentlicht. Unsere Nachfrage ergab: Ermittlungsbehörden haben das Hacken von Geräten mit dem Abhören von Telefonaten verwechselt. Die selben Behörden führen die Überwachungsmaßnahme durch. Von Andre Meister –
Artikel lesen

FAQ: Das Überwachungspaket der Bundesregierung

Die schwarz-rote Koalition will ein Gesetzespaket verabschieden, das ein neues Zeitalter der Überwachung einläutet. Was steckt da konkret alles drin? Wir haben es durchgesehen, damit ihr es nicht tun müsst. Von Chris Köver, Markus Reuter, Martin Schwarzbeck –
Artikel lesen

Neue Welle: SPD, Linke und Grüne verlassen Musks Plattform X

Nach langer Diskussion kehren SPD, Linke und Grüne der Plattform X gemeinsam den Rücken. Sie begründen diesen Schritt mit Chaos und Desinformation auf Elon Musks Netzwerk. Viele der Accounts machen bei Bluesky weiter. Von Markus Reuter –
Artikel lesen

Konferenz für Menschenrechte: Druck aus China soll zu Absage der RightsCon geführt haben [Update]

Eine der wichtigsten Konferenzen zu digitalen Grund- und Menschenrechten sollte diese Woche in Sambia stattfinden. Doch die Veranstaltung in dem südafrikanischen Land wurde kurzfristig abgesagt. Die Veranstalter:innen erheben schwere Vorwürfe: Demnach ließ China wegen taiwanesischer Gäste die Muskeln spielen. Von Ingo Dachwitz –
Artikel lesen

Verhaltensscanner: „Eine reale Gefahr“

Gerade gibt es bundesweit Bestrebungen, Überwachungskameras mit Systemen zu koppeln, die vollautomatisiert erkennen, was die abgebildeten Menschen gerade tun. Davy Wang von der Gesellschaft für Freiheitsrechte erklärt, warum das eine schlechte Idee ist. Von Martin Schwarzbeck –
Artikel lesen

Ein Jahr Schwarz-Rot: „Neuer Tiefpunkt“ in Sachen Transparenz

Vom Lobby-Gipfel in den Alpen bis zum Buchhandlungspreis: Das erste Jahr Schwarz-Rot ist geprägt von skandalöser Intransparenz und zähem Ringen um Informationsfreiheit. Der vielleicht größte Umbruch: Unter Bundeskanzler Friedrich Merz ist Transparenz erstmals seit langem kein politisches Ziel mehr. Von Ingo Dachwitz –
Artikel lesen

Datenschutz Medienpreis: Auszeichnung für unsere Stalkerware-Recherche

Eine Recherche von Chris Köver und Martin Schwarzbeck wurde mit einem Sonderpreis bei der Verleihung des Datenschutz Medienpreises prämiert. Wir freuen uns sehr über die Auszeichnung und gratulieren den Kolleg:innen! Von netzpolitik.org –
Artikel lesen

Polizeigesetz Schleswig-Holstein: „Wie aus einem dystopischen Science-Fiction-Film“

Heute haben die Abgeordneten im Landtag von Schleswig-Holstein erstmals eine Novelle des Polizeigesetzes diskutiert. Es geht um Verhaltensscanner und Gesichtserkennung. Expert*innen zweifeln, ob das Gesetz verfassungsgemäß ist; die Opposition warnt vor einer Dystopie. Von Martin Schwarzbeck –
Artikel lesen

Anlasslose Massenüberwachung: Datenschutzbeauftragte kritisieren Chatkontrolle

Die Bundesdatenschutzbeauftragte warnt weiterhin vor der Chatkontrolle. Eine „anlasslose Massenüberwachung“ aller Bürger:innen „wäre in einem Rechtstaat beispiellos“. Auch die Datenschutzkonferenz fordert die EU-Gesetzgeber auf, die Chatkontrolle „endgültig abzusagen“. Von Markus Reuter –
Artikel lesen

Europäische Kommission: In der Alterskontroll-App schlägt ein Herz von Google

Die Alterskontroll-App der EU- Kommission nutzt ein Verfahren von Google-Entwicklern. IT-Fachleute warnen vor Abhängigkeiten und Datenschutzrisiken – auch mit Blick auf die geplante EUDI-Wallet. Von Daniel Leisegang –
Artikel lesen

Correctiv-Recherche : Europol betreibt mutmaßlich illegale Datenanalyseplattformen

Die europäische Polizeibehörde Europol hat offenbar jahrelang eine Schatten-IT betrieben. Mitarbeitende sollen damit widerrechtlich große Mengen an personenbezogenen Daten durchsucht und ausgewertet haben. Dennoch will die EU-Kommission Europol nun mit deutlich mehr Budget und Personal ausstatten. Von Denis Glismann –
Artikel lesen

Koalitionsvertrag Baden-Württemberg: Kameras sollen prüfen, wer und wie brav du bist

Grün-Schwarz will in Baden-Württemberg als erstem Bundesland doppelte KI-Videoüberwachung ausrollen: Kameras, die Menschen auf verdächtiges Verhalten überprüfen und sie gleichzeitig mit Gesichtserkennung analysieren. In Mannheim und zwei weiteren Städten soll das Pilotprojekt starten. Von Martin Schwarzbeck –
Artikel lesen

Du siehst aber jung aus: Meta will uns bis auf die Knochen überwachen

Auf der Suche nach Minderjährigen will Meta Nutzer*innen auf Facebook und Instagram umfassend durchleuchten. Der Konzern will sogar die Knochenstruktur von Menschen auf Fotos auswerten. Wie gefährlich ist das? Die Analyse. Von Sebastian Meineck –
Artikel lesen

Verfahren gegen Tech-Konzerne: EU-Kommission zögert, Abgeordnete verlieren Geduld

Wann setzt Europa seine Digitalgesetze gegen Tech-Konzerne durch? Die EU-Kommission knickt ein, fürchten Abgeordnete und Vertreter:innen der Zivilgesellschaft. Nun wollen sie Kommissionspräsidentin Ursula von der Leyen Beine machen. Von Tomas Rudl –
Artikel lesen

KI-Verordnung: EU-Parlament und Rat einigen sich auf gelockerte Pflichten für die Industrie

Die EU will die KI-Verordnung aufweichen. Eine erste Einigung sieht nun vor, bestimmte Regulierungen für die Industrie abzuschwächen und zeitlich deutlich nach hinten zu verschieben. Hinzugekommen ist ein Verbot von KI-Anwendungen, mit denen sexualisierte Deepfakes erstellt werden können. Von Denis Glismann, Chris Köver –
Artikel lesen

Digitales Bezahlen: „Die Leute haben sehr gute Gründe, Bargeld zu nutzen“

Digitale Zahlungen sind auch eine soziale Frage. Die Soziologin Barbara Brandl hat untersucht, wie digitale Zahlungen Ungleichheit verstärken. Im Interview erklärt sie, wie dabei von unten nach oben umverteilt wird und was uns Beispiele aus anderen Ländern für den Digitalen Euro lehren. Von Leonhard Pitz –
Artikel lesen

Widerstand gegen Überwachung: „Man kann Kameras auch kaputtmachen“

Verhaltensscanner, Gesichtserkennung, Datenanalyse: Immer mehr Bundesländer rüsten mit KI-Überwachung auf. Bislang lief das weitgehend geräuschlos. Jetzt regt sich Widerstand. Von Martin Schwarzbeck –
Artikel lesen

Attacke auf Messenger: Signal will in Zukunft stärker vor Phishing warnen

Signal reagiert auf die umfangreiche Phishing-Kampagne mit Änderungen in der App. Derweil wird die Dimension der Attacke deutlicher: Schon im Januar waren fast 14.000 Accounts gezielt angeschrieben worden. Von Markus Reuter –
Artikel lesen

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Signal reagiert auf die umfangreiche Phishing-Kampagne mit Änderungen in der App. Derweil wird die Dimension der Attacke deutlicher: Schon im Januar waren fast 14.000 Accounts gezielt angeschrieben worden.

In einem Interview mit dem Spiegel (€) hat Signal-Chefin Meredith Whittaker angekündigt, dass der Messenger in Zukunft zusätzliche Warnhinweise anzeigen wird, um Phishing besser zu verhindern. Hintergrund der Maßnahme sind die teilweise erfolgreichen Phishing-Versuche gegen Vertreter:innen aus Politik, Militär und Journalismus, der in Deutschland nach Medienberichten zwei Ministerinnen und die Bundestagspräsidentin zum Opfer fielen.

Im Interview sagte Whittaker:

Wenn jemand zum ersten Mal eine Nachricht von einer unbekannten Nummer erhält, werden künftig zusätzliche Warnhinweise angezeigt. Das Annehmen neuer, unbekannter Kontakte wird in Zukunft nicht mehr mit einem einzigen Klick möglich sein und zwingend einen Warnhinweis enthalten. Wir prüfen noch weitere Ideen und werden dazu bald mehr bekannt geben. Und um es noch einmal klar zu sagen: Signal wird Nutzer niemals in einem zweiseitigen Chat kontaktieren, um sie nach ihrer PIN, ihrem Schlüssel oder anderen Informationen zu fragen.

Öffentlich bekannt wurde die Attacke in Deutschland, als netzpolitik.org am 28. Januar darüber berichtete, dass zahlreiche Journalist:innen im Visier stünden. Gut eine Woche nach dem Bericht warnten dann der Verfassungsschutz (BfV) und das Bundesamt für Sicherheit in der Informationstechnik (BSI) vor der Angriffswelle. Mittlerweile haben die Behörden ein weiteres Update der Warnung samt Handlungsleitfaden veröffentlicht.

Am gestrigen Donnerstag war die Phishing-Kampagne auch Thema im Digital- und im Innenausschuss des Bundestages. In nicht-öffentlicher Sitzung wurde durch Verfassungsschutzchef Sinan Selen und BSI-Chefin Claudia Plattner die Kampagne nachgezeichnet und noch einmal vor Phishing gewarnt. Laut dem Bericht wussten die Behörden erst „im Januar“ über die Angriffe Bescheid. Nach Informationen von netzpolitik.org könnte allerdings ein Ende 2025 vom Phishing betroffener Bundestagsabgeordneter beide Behörden schon früher informiert haben.

Viel spricht für Russland als Urheber des Angriffs

Mittlerweile verdichtet sich, dass Russland hinter der Attacke stecken dürfte. Das niederländische Verteidigungsministerium hatte Anfang März verlautbart, dass Russland hinter der laufenden Phishing-Kampagne gegen hochrangige Personen aus Politik, Militär, Zivilgesellschaft und Journalismus stecken soll. BSI und Verfassungsschutz hatten vor den Attacken gewarnt und diese als „wahrscheinlich staatlich gesteuert“ bezeichnet. Die Bundesregierung schreibt den Angriff bislang nicht offiziell einem Land zu, ließ aber über Regierungskreise verbreiten, dass Russland dahinter stecke.

In einer Mitteilung auf der Webseite des niederländischen Verteidigungsministeriums sprechen sowohl der militärische Geheimdienst MIVD als auch der zivile Geheimdienst AIVD von „russischen Staatshackern“, die hinter dem Angriff auf Signal und WhatsApp stecken würden. Auch netzpolitik.org hat Hinweise, welche die Theorie einer russischen Urheberschaft des Angriffs untermauern.

Mehr als 13.700 Telefonnummern

Das Medienhaus Correctiv hatte zudem den Angriff auf den früheren Vizepräsidenten des Bundesnachrichtendienstes, Arndt Freytag von Loringhoven, ausgewertet und ist dabei auch auf digitale Spuren gestoßen, die nach Russland führen.

Weiteren Spuren nachgegangen sind auch die IT-Sicherheitsexperten des Security Labs von Amnesty International, die sich schon frühzeitig mit der Kampagne befasst haben. Sie haben einem Bericht des Spiegels (€) zufolge ein Angriffswerkzeug gefunden. Wie Donncha Ó Cearbhaill, der Leiter des Amnesty-Labs dem Medium mitteilte, soll es sich um ein in russischer Sprache programmiertes Werkzeug namens ApocalypseZ handeln.

Die Untersuchung konnte erstmals auch eine Zahl der angegriffenen Signal-Accounts offenlegen. In der Datenbank der Angreifer konnten die Amnesty-Expert:innen Mobilfunknummern potenzieller Opfer sehen. „Im Januar waren es mehr als 13.700“, sagte Ó Cearbhaill gegenüber dem Spiegel. In den Screenshots des Schadprogramms konnten die Forscher:innen zudem sehen, dass viele der Phishing-Nachrichten über polnische und niederländische Nummern verschickt wurden.

Laut dem Spiegel-Bericht bestätigt sich nun auch die Annahme, die Donncha Ó Cearbhaill schon im Januar gegenüber netzpolitik.org geäußert hatte: Die Angreifer lesen die Kontakte derjenigen aus, die auf das Phishing hereinfallen – und versenden dann neue Nachrichten. Ziel ist die Übernahme der Accounts samt Einblicken in Netzwerke und zukünftige Inhalte der Kommunikation.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Verhaltensscanner, Gesichtserkennung, Datenanalyse: Immer mehr Bundesländer rüsten mit KI-Überwachung auf. Bislang lief das weitgehend geräuschlos. Jetzt regt sich Widerstand.

Ende April, ein Platz im Görlitzer Park in Berlin: Etwa 100 Menschen stehen vor einer Bühne, am Rand eine Reihe Polizeifahrzeuge und Gruppen von Polizist*innen. Es gibt kostenloses Essen und Rap. Die Bühne haben Aktivist*innen mit Überwachungskameras dekoriert. Davor ist ein Banner gespannt, Aufschrift: „Gegen Überwachung und Ausgrenzung“. In kleinerer Schrift darunter: „Keine KI-Videoüberwachung unserer Parks, Plätze und Straßen!“

Diesen Park will die Polizei künftig mit Videokameras und Verhaltensscanner-Software kontrollieren, so wie weitere Orte in Berlin. Die Software, eine sogenannte Künstliche Intelligenz, soll analysieren, was die abgebildeten Menschen gerade tun und gutes von schlechtem Verhalten unterscheiden. Deshalb sind die Demonstrierenden hier. Sie lehnen die KI-Kontrolle ab. Die Person am Mikrofon ruft: „Man kann Kameras auch kaputt machen!“

Neun Bundesländer haben ihrer Polizei den Einsatz von Verhaltensscannern entweder bereits erlaubt – oder planen, dies zu tun. Bislang setzen Polizeien die Technologie nur in Mannheim und Hamburg ein. Doch die Zahl der Orte, die damit überwacht werden, wird sich wohl bald deutlich erhöhen.

Größere Polizeigesetz-Änderungen

Mehrere Bundesländer legalisieren derzeit Verhaltensscanner im Rahmen größerer Polizeigesetz-Reformen. Sie genehmigen den Beamt*innen unter anderem den Einsatz von Datenanalyse à la Palantir, Live-Gesichtserkennung oder Videodrohnen. In einigen Ländern, die gerade ihr Polizeigesetz verschärfen oder verschärft haben, formt sich auch außerparlamentarischer Widerstand.

Magdalena Finke, CDU-Innenministerin von Schleswig-Holstein hat mit ihrem Polizeigesetz-Entwurf Fans des Fußballvereins in Kiel gegen sich aufgebracht. Die mobilisieren in der Fanszene und vernetzen sich darüber hinaus mit zivilgesellschaftlichen Initiativen. „Das wurde komplett im Hinterzimmer ausgehandelt“, sagt Fußballfan Jan auf Anfrage von netzpolitik.org über das Polizeigesetz.

Jan und seine Mitstreiter*innen wollen eine große Demo durch die Landeshauptstadt Kiel organisieren. Kein bloßer Fanmarsch, sondern ein breites Bündnis. „Wir wollen Menschen aus dem ganzen Landesgebiet mobilisieren“, sagt Jan. Geplant sind außerdem Infoveranstaltungen für Fußballfans, Flyer und Aktionen mit Spruchbändern im Stadion. „Wir sehen das als unsere Aufgabe, das Polizeigesetz in unserer Kurve zum großen Thema zu machen.“

Das volle Programm High-Tech-Überwachung

Die schwarz-grüne Landesregierung von Schleswig-Holstein steht kurz davor, das volle Programm High-Tech-Überwachung genehmigt zu bekommen: Datenanalyse nach Palantir-Art, Verhaltensscanner, Live-Gesichtserkennung, Gesichtersuchmaschine. Am 6. Mai haben die Abgeordneten den Gesetzentwurf erstmals im Parlament besprochen.

Jan sagt: „Durch Überwachung und erst recht durch KI-Überwachung werden die Freiräume immer begrenzter. Freiräume sind aber ein wichtiger Teil der partizipativen Demokratie.“

Begründet werde die Ausweitung der Überwachung mit Messerangriffen. „Aber in Kiel gibt es kaum bis keine Messerangriffe. Dann kann man doch nicht deshalb der Polizei solche Befugnisse geben. Die lassen sich nicht wieder zurückdrehen“, sagt Jan. Er befürchtet, dass bald alle öffentlichen Plätze im Land KI-überwacht werden.

Wie wir bereits berichtet haben, gibt es auch in Thüringen Widerstand gegen das dortige Polizeigesetz. Der bekommt zunehmend Schwung, wie die Initiator*innen der Anti-Polizeigesetz-Kampagne ThürPAG stoppen berichten. Zu den Kritiker*innen gehören inzwischen die antifaschistischen Bündnisse Auf die Plätze Erfurt und Rechtsruck Stoppen, der Verein Vielfalt Leben – QueerWeg und der Hacker*innentreff Krautspace Jena.

Kunstaktionen gegen Überwachung

In Sachsen wehrt sich das antifaschistische Aktionsbündnis Leipzig nimmt Platz gegen die Polizeigesetz-Novelle. Die Dresdner Datenpunks planen Kunstaktionen zu Überwachung, um darüber mit Menschen ins Gespräch zu kommen.

Aufklärung zur niedersächsischen Polizeigesetznovelle leisten der Kleindatenverein und Freiheitsfoo.

Derweil agieren Initiativen wie Kameras stoppen aus Köln, Bündnis Hansaplatz aus Hamburg oder dieDatenschützer Rhein-Main seit Jahren nicht ohne Erfolg gegen Video- und KI-Überwachungs-Projekte – auch vor Gericht.

Ausdrücklich gegen die Massen-Datenanalyse positioniert sich das Bündnis Kein Palantir in Baden-Württemberg. Das Netzwerk Sicherheit ohne Überwachung macht derweil auf Bundesebene gegen verschärfte Gesetze mobil. Es geht einmal mehr um biometrische Gesichtersuche, um Datenanalyse nach Palantir-Art – und Vorratsdatenspeicherung. Unter anderem geplant ist eine Demonstration am 13. Juni 2026 ab 14 Uhr in Berlin.

Die Gewerkschaft der Osterhasen

Zurück zur Kundgebung im Görlitzer Park. Dahinter stehen drei Initiativen: Cables of Resistance, die in Berlin kürzlich einen Kongress zum Kampf gegen die Big-Tech-Übermacht veranstaltet hat; Wrangelkiez United, eine polizeikritische Anwohner*innengruppe – und Görli 24/7, die dagegen kämpft, dass die Stadt den Görlitzer Park inzwischen nachts verriegelt.

Für einen offen zugänglichen Görlitzer Park sind auch zwei Redner*innen, die als nächstes die Bühne betreten, maskiert mit rosa Hasenköpfen. Sie stellen sich als Vertreter*innen der „Osterhasen-Gewerkschaft“ vor und erzählen, dass Menschen bereits Nachschlüssel zu den Parktoren an Interessierte verteilt hätten. Einige Eingänge könne man auch selbst öffnen, wenn man eine Türklinke in die dafür vorgesehene Öffnung schiebt. „Klinken bekommt ihr am Info-Stand“, ruft einer der Hasen.

Bevor die Osterhasen die Bühne betreten, gibt es eine unfreiwillige Programm-Pause. Beamt*innen treten an die Bühne heran und wollen Personalien sehen – von der Person, die über kaputte Kameras gesprochen hatte. Gibt es jetzt Ärger?

Per Mikrofon hält eine andere Person aus dem Kreis der Veranstalter das Publikum auf dem Laufenden. Sie gibt weiter, dass die Polizei die Aussage über die Zerstörbarkeit von Kameras für eine Straftat hält. „Also sagt das nicht“, ruft sie durch die Lautsprecher. „Sagt nicht, dass man Kameras auch kaputtmachen kann.“

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Digitale Zahlungen sind auch eine soziale Frage. Die Soziologin Barbara Brandl hat untersucht, wie digitale Zahlungen Ungleichheit verstärken. Im Interview erklärt sie, wie dabei von unten nach oben umverteilt wird und was uns Beispiele aus anderen Ländern für den Digitalen Euro lehren.

Ob an der Eisdiele oder an der Kinokasse – immer weniger Menschen zahlen mit Bargeld. Viele zücken eine Plastikkarte oder gleich ihr Smartphone. Den Kostenanteil für den gemeinsamen Ausflug PayPal-en einem die Freund:innen sowieso lieber direkt auf der Rückfahrt.

Digitale Bezahlsysteme sind nicht nur längst Teil unseres Alltags, sondern auch Gegenstand politischer Debatten. Diese drehen sich – sofern sie den Dunstkreis technokratischer Diskurse verlassen – meist um Datenschutz oder Digitale Souveränität. Doch hinter den Apps und Karten versteckt sich auch eine soziale Frage.

Barbara Brandl ist Professorin für Soziologie an der Goethe-Universität in Frankfurt am Main, mit Schwerpunkt auf Wirtschafts- und Organisationssoziologie. Zudem ist sie Sprecherin des Forschungsprojektes „Die normativen Dimensionen des Digitalen Euro“. Wir haben mit ihr über soziale Ungleichheit, digitalisierte Zahlungen und Lektionen für den Digitalen Euro gesprochen.

netzpolitik.org: Frau Brandl, Sie sind Soziologin. Warum beschäftigen Sie sich mit PayPal und Kreditkarten?

Barbara Brandl: Ich beschäftige mich immer mit dem Zwischenfeld von Technologieentwicklung und Gesellschaft und bin eigentlich über das Thema Blockchain zum Thema Zahlungen gekommen. Ich habe aber festgestellt, dass Blockchain für den Alltag der meisten Menschen keine allzu große Bedeutung hat. Was hingegen eine große Bedeutung hat, sind alle Systeme, über die wir digital bezahlen.

Wir alle müssen zahlen: Um zu überleben, weil wir eben nicht alles selber herstellen und mit Nachbarn tauschen, sondern weil der absolut größte Teil über formale Märkte funktioniert. In meiner For­schung habe ich dann festgestellt, dass digitale Zahlungen und soziale Ungleichheit sehr stark mit­einander zusammenhängen. Und das ist natürlich das Kernthema der Soziologie.

Die drei Wellen der Zahlungsdigitalisierung

netzpolitik.org: Was sind überhaupt digitale Bezahlsysteme? Nur PayPal und GooglePay?

Barbara Brandl: „Digitale Bezahlsysteme“ umfasst erst einmal alles, was nicht Bargeld ist. Insgesamt gab es drei Wellen der Digitalisierung von Zahlungen im Globalen Norden. Die erste Welle der digitalen Zahlungen begann etwa 1950 mit den Kreditkarten in den USA. Das war lange auch das einzige vorhandene System. Die zweite Welle digitaler Zahlungen begann in den 1990er-Jahren umfasst alles, was Internet-basiert ist, auch PayPal war da ganz wichtig. Die dritte Welle sind für mich App-basierte-Lösungen, die sich mit der Nutzung von Smartphones in den 2010er-Jahren ausbreiteten. Beispiele dafür sind etwa Apple oder GooglePay aber auch „Buy Now, Pay Later“-Angebote wie Klarna.

netzpolitik.org: Das gilt aber nur für den Globalen Norden, wie ist das im Globalen Süden?

Barbara Brandl: Dort haben sich eigene Systeme digitaler Zahlungen herausgebildet, deren Entwicklungen sich mit denen im Globalen Norden überschneiden. Das erste und vielleicht spannendste ist das sogenannte „Mobile Money“. Der Hintergrund war, dass in Subsahara-Afrika der Großteil der Menschen überhaupt keinen Zugang zu Bankkonten hatte. Und auch Bankfilialen waren in den Flächen quasi nicht vorhan­den. Das war sehr ungünstig, denn viele Menschen waren darauf angewiesen, regelmäßig Geld zu versenden, zum Bei­spiel, weil jemand in der Stadt gearbeitet hat, aber die eigene Familie auf dem Land versorgen wollte. Oder weil die eigenen Kinder im Internat waren und Bücher brauchten.

In den 90er Jahren kam dann der Mobilfunk auf und das ist die Revolution. In ihrer Verzweif­lung erfanden die Menschen Geld neu und verschicken über SMS die Codes, die auf den PrePaid-Karten aufgedruckt waren. Die haben das also nicht mehr nur als Mobilfunkguthaben benutzt, sondern als Geld. Und dann gab es relativ schnell Leute, die das informell gewechselt haben, Mobilfunkguthaben in Bargeld und umgekehrt. Diese Dienste wurden dann rasch kommerzialisiert von den Mobilfunkanbietern und das war die erste Form einer digitalen Währung.

netzpolitik.org: Was sind die anderen Systeme digitaler Zahlungen im Globalen Süden?

Barbara Brandl: Einerseits Super-Apps wie Alipay oder Tencent, die in China entstehen und sich dann in Ostasien sowie teilwiese auch in Lateinamerika ausbreiten. Und anderseits Echtzeitzahlungssysteme wie das brasilianische PIX, die von Zentralbanken bereitgestellt werden und insbesondere in Lateinamerika populär sind, aber jüngst auch in Ländern wie Indien oder Israel eingerichtet wurden.

„Technologie ist nicht neutral“

netzpolitik.org: Sie forschen dazu, inwiefern digitale Bezahlmöglichkeiten soziale Ungleichheit verändern – was haben Sie herausgefunden?

Barbara Brandl: Technologie ist nicht neutral, auch nicht die Systeme digitaler Zahlung. Sie wurden von be­stimmten Schichten mit bestimmen Ideen eingerichtet. Am krassesten sieht man das bei den Kredit­karten in den Vereinigten Staaten. Die wurden eingerichtet, damit die Mittelschichten schnellen Zu­gang zu Krediten bekommen und einfach bezahlen können. Das waren vor allem die weißen Mittelschichten und die profitieren bis heute am stärksten von den Kreditkarten.

Es gibt verschiedene Dimensionen sozialer Ungleichheit. Eine davon ist Zugang. Weiße haben sehr viel häufiger Kredit­karten als Schwarze oder Hispanics. Die Mittelschicht hat viel häufiger Kreditkarten als die Unter­schicht. Man kann hier schon von Ausschluss sprechen. Das war bis in die 1990er-Jahre noch bruta­ler, dort haben Menschen gar keine Kreditkarte bekommen, wenn sie in bestimmten Vierteln ge­wohnt haben. Seither wurde der Zugang extrem ausgeweitet, man spricht auch von einer Demokratisierung der Kreditvergabe. Trotz allem haben Hispanics und Schwarze bis heute bei gleichen Einkommensverhältnissen seltener Kreditkarten als weiße US-Bürger.

Hinzu kommt die zweite Dimension: die systematische Benachteiligung in der Nutzung. Das funktioniert zum Beispiel durch massive Kreditkartenzinsen auf „Bad Credit“, also wenn sie mit ei­ner schlechten Bonität einen Kredit aufnehmen. Der Zins kann schon mal 30 Prozent betragen. Alle Schichten haben Kreditkartenschulden. Aber Menschen aus mittleren und oberen Schichten können diese Schulden mit einem guten Gehalt relativ schnell zurückzahlen. Aber die einkommensärmsten zehn Prozent der Bevölkerung müssen, sofern sie Kreditkartenschulden haben, durchschnittlich 80 Prozent ihres Einkommens für die Tilgung dieser Schulden aufwenden.

netzpolitik.org: Wie werden ärmere Menschen noch systematisch benachteiligt?

Barbara Brandl: Ein weiterer Faktor bei der Umverteilung von arm zu reich sind sogenannte „Loyality“- beziehungsweise Cashback-Programme. Das funktioniert so: Immer wenn sie mit ihrer Kreditkarte im Supermarkt zahlen, kriegen sie Punkte. Die reichen sie am Ende des Jahres ein und kriegen Geld zurück. Allerdings ist die Kre­ditkarte das teuerste Zahlungsmittel für die Händler:innen. Die schlagen das wiederum bei den Preisen drauf. In der untersten Schicht – in den USA – haben nur 30 Prozent der Menschen eine Kreditkarte. Die zahlen aber trotzdem natürlich alle die höheren Preise und subventionieren damit die höheren Preise für Güter sowie die Prämien quer, die den höheren Schichten ausgezahlt werden.

Ökonomen der US-amerikanischen Zentralbank haben ausgerechnet, dass alleine dieser Mechanismus über zwölf Milliarden Euro im Jahr umverteilt, von schlechter Bonität zu guter Bonität, also in der Regel von Menschen mit geringer Bildung zu Menschen mit höherer Bildung. Höhere Schichten profitieren von Kreditkarten und niedrigere Schichten tragen die Kosten.

„Der größte Teil der Gewinne kommt von Überziehungszinsen“

netzpolitik.org: Wie meinen Sie das?

Barbara Brandl: Der größte Teil der Gewinne von Kreditkartenfirmen – und generell innerhalb dieses Sektors – kommt durch Überziehungszinsen. Transaktionsgebühren, die bei jeder Zahlung anfallen, sind zwar die älteste Einnahmequelle, bringen aber nicht so viel Gewinn ein. Die modernste Einnahmequelle ist der Ver­kauf von Daten. Das machen etwa die Super-Apps in Asien. Aber auch Buy-Now-Pay-Later-Anbieter im Globalen Norden, wie PayPal, Klarna und AfterPay, verkaufen Daten für Werbezwecke. Dennoch sind die Zinsen auf Konsumkreditschulden immer noch die finanzstärkste Ein­nahmequelle.

netzpolitik.org: Am Ende nehmen die Menschen einen Kredit ja freiwillig auf. Sind sie dann nicht auch ein Stück weit selbst verantwortlich, wenn sie sich überschulden?

Barbara Brandl: Das ist genau der Punkt, wie das in unserer Gesellschaft moralisch funktioniert und warum hier nicht mehr reguliert wird. Eine sehr bekannte Kollegin von mir, Greta Krippner, argumentiert dazu wie folgt: Wir haben in der Gesellschaft immer asymmetrische Beziehungen. Eine ganz klassische asymmetrische Beziehung ist die zwischen Arbeitgeber und Arbeitnehmer und die regu­lieren wir sehr stark und es gibt starke Schutzmechanismen für Arbeitnehmer, wie etwa Kündi­gungsschutz für Schwangere.

Diese Schutzmechanismen fehlen in der Beziehung Kreditnehmer versus Kreditgeber, obwohl diese Beziehung ebenfalls hoch-asymmetrisch ist. Und diese Schutzlosigkeit ist bei Konsumkrediten am stärksten.

Aber es gibt noch eine weitere Ebene und da sehe ich eine Parallele zur Debatte um die Regulierung von Social-Media-Plattformen.

Geschäftspraktiken, die menschliche Schwächen ausnutzen

netzpolitik.org: Worin besteht diese Parallele?

Barbara Brandl: Es geht um Geschäftspraktiken, die systematisch menschliche Schwächen ausnutzen. Dazu gibt es ein ganzes Forschungsfeld, die sogenannten Behavioral Economics. Daraus wissen wir: Unser Ge­hirn funktioniert auf eine bestimmte Art und Weise und bestimmte Dinge können wir nicht gut ver­arbeiten, zum Beispiel Kosten und Nutzen von Kreditkarten.

Es gibt eine ganze Reihe von Studien, die sagen: Wir unterschätzen systematisch, wie viel uns Kreditkarten kos­ten und überschätzen den Nutzen. Wir kommen darauf, wenn wir länger nachdenken, aber so auf die Schnelle passieren syste­matische Fehleinschätzungen. Und diese systematischen Verzerrungen werden eben ausgenutzt. Dann ist es nun mal zynisch, immer zu schreien, dass wir mehr Finanzbildung und den mündigen Konsumenten bräuchten. Ebenso wie in der Plattform-Debatte derzeit oft nach Medienbildung gerufen und gefordert wird, die Eltern sollten sich jetzt mal bitte besser um ihre Kinder kümmern.

netzpolitik.org: Wir haben bisher viel über Kredite gesprochen, aber haben das Interview eigentlich bei digitalen Zahlungen angefangen. Das sind ja erst mal zwei verschiedene Dinge. Für Sie gehört aber beides zusammen, korrekt?

Barbara Brandl: Richtig, das ist ein zentraler Befund meiner Forschung. Ich habe mir fünf Systeme ange­schaut, wie digitale Zahlungen abgewickelt werden. Was mich erschreckt hat: Je mehr digitale Zah­lungen getätigt werden, desto stärker spielen Konsumkredite eine Rolle.

Das krasseste Beispiel ist vielleicht das Zahlungssystem PIX in Brasilien. PIX wird von der brasilianischen Zentralbank zur Ver­fügung gestellt und man sieht, für ein Prozent mehr PIX-Nutzer:innen erhöht sich die Menge der Kon­sumkredite um 0,8 Prozent. Das war das Ergebnis einer multivariaten Analyse. Das heißt, je mehr Leute, und das wissen wir auch aus anderen Studien, digital bezahlen, desto mehr geben sie aus und deswegen verschulden sie sich auch schneller.

Die Mechanismen dahinter sind ausführlich von den Verhaltensökonom:innen beschrieben worden. Ein Beispiel für diese Mechanismen ist: Sie gehen beispielsweise in die Stadt und wol­len sich einen Mantel kaufen. Dann nehmen Sie, je nachdem wie Ihr Budget ist, 100 oder 200 Euro mit und vielleicht noch 20 Euro extra. Wenn das ausgegeben ist, können Sie nicht mehr kau­fen. Wenn Sie aber digital bezahlen, haben Sie ihr ganzes Geld ja immer dabei. Dann können Sie sich auch einen Mantel kaufen, der doppelt so teuer ist wie ihr Budget – oder noch einen Gürtel ex­tra.

„Gut für die Finanzindustrie, aber nicht für uns“

netzpolitik.org: Wo sind da die Parallelen zum digitalen Euro?

Barbara Brandl: Die brasilianischen Banken setzen auf die PIX-Bezahlfunktion ihre eigenen Kreditprodukte drauf und nennen es dann PIX Parcellado, also Ratenzahlung. Das heißt, sie bezahlen es mit PIX und PIX wird immer über die App der Bank benutzt und dann bietet Ihnen die Bank in der App so­fort einen Kredit an, sofort eine Ratenzahlung an. Und da liegt die Parallele zum digitalen Euro.

Weil der viel Gegenwind aus der Finanzlobby bekommt, wirbt nun die Europäische Zentralbank mit dem Argument, dass die Banken ihre eigenen Finanzdienstleistungen auf den digitalen Euro draufbauen können. Und aus der brasilianischen Erfahrung würde ich sagen, das können wir eigentlich gar nicht wollen. Die EZB versucht, die Finanzindustrie mit dem Argument „Das ist doch gut für euch“ zu überzeugen. Ich würde sagen, das stimmt: Es ist auch für die Fi­nanzindustrie gut, aber nicht für uns.

netzpolitik.org: Wie muss ein digitaler Euro aus Ihrer Sicht ausgestaltet sein, dass er mög­lichst sozial gerecht wird?

Barbara Brandl: Die Verknüpfung zu anderen Dienstleistungen, insbesondere der Aufnahme von Konsum­krediten, muss maximal weit weg davon sein. Das hat in Kenia nicht gut geklappt, aber in anderen Mo­bile-Money-Systemen in Subsahara-Afrika hat es besser funktioniert, dass man damit nur bezahlen kann.

Natürlich ist auch der Zugang ein Thema. In der Europäischen Union haben 96 Prozent der Menschen ein Konto. Und neben dem Basiskonto gibt es auch im Entwurf der Kommission zum Digitalen Euro schon Vorschläge, um Menschen ohne Konto zu integrieren. Das viel größere Problem ist hier ein anderes, nämlich dass ein Sechstel der Menschen zwar Konten hat, aber nicht in der Lage ist, Online-Banking zu nutzen. Leider wird das in der Diskussion oft so dargestellt, als seien die einfach ein bisschen altmodisch.

Ich würde mittlerweile aber sagen: Die nutzen zurecht Bar­geld. Erstens behandeln die Banken Menschen aus einkommensschwächeren Schichten systema­tisch schlechter, das sehen wir überall auf der Welt. Deswegen ist das Misstrauen gegenüber Banken durchaus gerechtfertigt. Zweitens hat das natürlich auch was mit den Lebensumständen zu tun. Sie und ich sitzen den ganzen Tag am PC, da können wir das Online-Banking auch noch ne­benbei machen. Wer auf dem Bau arbeitet, für den ist das ein sehr viel größerer Aufwand, sich da am Feierabend für das Online-Banking noch einmal hinzusetzen. Und dann ist es für Menschen mit geringem Einkommen viel einfacher, die eigenen Ausgaben mit Bargeld zu kalkulieren.

Ich würde trotzdem sagen, es gibt letztlich wahrscheinlich keine Alternative zum Digitalen Euro. Das ist immer noch die beste Lö­sung, die es gibt, wenn wir weiterhin digital bezahlen wollen und dabei nicht auf ein US-amerikanisches Oligopol von Kreditkartenfirmen angewiesen sein wollen, das den Großteil seiner Gewinne mit Überziehungszinsen und dem Verkauf von Daten macht.

netzpolitik.org: Also Ja zum Digitalen Euro, aber Bargeld auf jeden Fall erhalten?

Barbara Brandl: Das Bargeld erhalten will ja auch die EZB, nach eigener Aussage. Mein Appell ist sehr viel stärker, den Hang zum Bargeld nicht abzutun als irgendeine Schrulligkeit oder eine Verschrobenheit: Die Leute haben wirklich sehr gute Gründe, Bargeld zu nutzen.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die EU will die KI-Verordnung aufweichen. Eine erste Einigung sieht nun vor, bestimmte Regulierungen für die Industrie abzuschwächen und zeitlich deutlich nach hinten zu verschieben. Hinzugekommen ist ein Verbot von KI-Anwendungen, mit denen sexualisierte Deepfakes erstellt werden können.

Nachdem die EU-Verhandlungen zum digitalen Omnibus Ende April 2026 vorübergehend geplatzt waren, konnten Rat und Parlament gestern Nacht im Trilog eine vorläufige Einigung erzielen; die Kommission war als Vermittlerin beteiligt.

Die Einigung betrifft die Aufnahme des Verbots von sogenannten KI-Nudifiern in die KI-Verordnung. „Nudifier“ sind Anwendungen, mit deren Hilfe sexualisierte Deepfakes erstellt werden können. Außerdem sollen Auflagen für die Industrie beim Einsatz von risikoreichen KI-Systemen begrenzt sowie zentrale Pflichten aus dem AI Act für Hochrisiko-Systeme deutlich nach hinten verschoben werden – auf Ende 2027 und 2028. Der vorliegende Kompromiss zwischen Rat und Parlament muss noch formal bestätigt werden.

Der Trilog war zuvor an der Frage gescheitert, wie in der Industrie mit der Hochrisiko-Kategorie für KI-Systeme umgegangen werden soll, die bereits durch sektorale Bestimmungen reguliert werden. Zentrale Pflichten des AI Acts für besonders risikoreiche KI-Systeme sollten eigentlich bereits ab dem 2. August 2026 wirksam werden. Der Kompromiss sieht nun vor, dass die Anwendung der KI-Verordnung dort begrenzt wird, wo sektorale Sicherheitsanforderungen vergleichbare KI-Regeln enthalten.

Die EU verabschiedete den AI Act (Verordnung über künstliche Intelligenz) im Mai 2024. Er ordnet KI-Technologie vier abgestuften Risikokategorien zu und regelt Pflichten für die Hersteller und Anbieter von KI-Systemen oder Produkten, die KI-Technologie enthalten. KI-Systeme mit inakzeptablem Risiko können verboten werden.

Die EU-Kommission möchte die Regelungen im Rahmen des sogenannten Digitalen Omnibus jedoch vereinfachen, um bürokratische Hürden für Unternehmen abzubauen und Europas Wettbewerbsfähigkeit zu steigern. Das Gesetzespaket ist umstritten. Es enthält unter anderem Lockerungen bei der Datenschutzgrundverordnung oder beim Training von KI mit personenbezogenen Daten.

Verbot von KI-„Nudifiern“

Konkret haben sich Parlament und Rat darauf geeinigt, in Zukunft KI-Anwendungen zu verbieten, mit deren Hilfe man sexualisierte Deepfakes erstellen kann. Das Thema wurde zu einem zentralen Vorhaben, nachdem Nutzer*innen mit dem Chatbot Grok Anfang des Jahres binnen weniger Tage Millionen von nicht-einvernehmlichen Deepfakes erstellt hatten.

Bereits Ende März hatte sich das Parlament dafür ausgesprochen, solche KI-Anwendungen zu verbieten. Im Trilog ging es noch um die Details der Formulierung. Das Verbot umfasst jetzt explizit auch das Erstellen von Inhalten, die sexuellen Missbrauch von Kindern zeigen. Zudem soll es untersagt sein, KI-Anwendungen auf den Markt zu bringen, die ohne Zustimmung Deepfakes von “intimen Teilen einer identifizierbaren Person” oder die Person bei sexuellen Handlungen zeigen.

Die geplante Verschärfung ist nicht die erste EU-Regelung zu Deepfakes. Eine andere Richtlinie sieht bereits vor, dass Mitgliedstaaten die Verbreitung von sexualisierten Deepfakes unter Strafe stellen, wenn diese geeignet sind, einer Person schweren Schaden zuzufügen. Deutschland setzt dies mit dem geplanten Gesetz gegen digitale Gewalt derzeit um. Das geplante Verbot in der KI-Verordnung würde den Fokus von der Bestrafung der Täter*innen auf die Anbieter solcher Anwendungen verschieben.

Im geplanten Text steht nun auch die fehlende Zustimmung der gezeigten Personen als definierendes Merkmal. Fachleute forderten das seit langem. Zugleich kritisiert etwa Ana Ornelas von der European Sex Workers’ Rights Alliance (ESWA), die Beschränkung auf „identifizierbare Personen“. Sie fürchtet, dass dies in der Durchsetzung zu Schlupflöchern führen könnte.

Lockerungen und Fristverlängerung für Industrie

Hochrisiko-KI-Systeme in Bereichen wie Beschäftigung, Bildung, Migration, Strafverfolgung oder kritische Infrastruktur sollen Anforderungen aus dem AI Act erst ab dem 2. Dezember 2027 erfüllen müssen. Für KI in Medizinprodukten, Maschinen oder Spielzeug gilt der 2. August 2028. Anbieter von KI-Systemen müssen diese grundsätzlich in der EU-Datenbank für risikoreiche Systeme registrieren – auch wenn sie der Ansicht sind, die Einstufung als risikoreich träfe nicht zu oder sei ausgenommen.

Die Sonderregelung für Maschinenverordnung schwächt nach Meinung des europäischen Verbraucherverbands BEUC den Verbraucherschutz. Konkret kritisiert der Verband, dass Alltagsgeräte wie Industriemaschinen aus der KI-Aufsicht herausfallen würden. Bei deren Versagen könnten Menschen zu Schaden kommen. Der Deal enthält offenbar auch eine Klausel, mit der die EU-Kommission später weitere KI-Systeme ohne neues Gesetzgebungsverfahren aus dem Geltungsbereich des AI Acts herausnehmen kann. Die Kommission erhalte damit eine Hintertür für künftige KI-Deregulierung.

BEUC-Generaldirektor Agustín Reyna meint, der überhastete Prozess habe ein Gesetz hervorgebracht, das komplizierter und weniger wirksam als vorher sei und vor allem der Industrie nutze.

Zumindest an manchen Stellen scheint der Kompromiss strenger. Die EU-Kommission wollte die Verarbeitung sensibler personenbezogener Daten – etwa Angaben, aus denen Ethnie oder Religion hervorgehen können – zur Bias-Erkennung erleichtern. Rat und Parlament begrenzten hier durch striktere Maßstäbe.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Wann setzt Europa seine Digitalgesetze gegen Tech-Konzerne durch? Die EU-Kommission knickt ein, fürchten Abgeordnete und Vertreter:innen der Zivilgesellschaft. Nun wollen sie Kommissionspräsidentin Ursula von der Leyen Beine machen.

Der Druck steigt auf die EU-Kommission, europäische Digitalgesetze konsequent durchzusetzen. In einem offenen Brief fordern dutzende zivilgesellschaftliche Organisationen EU-Kommissionspräsidentin Ursula von der Leyen (CDU) auf, den Digital Markets Act (DMA) „buchstabengetreu und frei von politischer Einflussnahme“ zu vollstrecken.

Ähnliche Töne kommen aus dem EU-Parlament. Externer Druck dürfe die Souveränität und Autonomie der EU bei der Festlegung ihrer eigenen Regeln nicht beeinträchtigen, mahnen die Abgeordneten in einer vergangene Woche verabschiedeten Resolution. Wirksame und verhältnismäßige Geldstrafen seien „unerlässlich, um Abschreckung zu gewährleisten und die Wirksamkeit des Gesetzes über digitale Märkte zu sichern“, so der Tenor der nicht bindenden Entschließung.

Hintergrund für die Appelle sind vermehrte Zeichen, dass die EU-Kommission Beißhemmungen gegenüber großen, vor allem in den USA ansässigen Tech-Unternehmen hat – genau die Unternehmen, deren Macht der DMA eigentlich einhegen soll. Das seit wenigen Jahren wirksame Gesetz macht sogenannten Gatekeepern, die in bestimmen Digitalsektoren übermäßig viel Marktmacht angesammelt haben, eine Reihe an Auflagen, um einen funktionierenden Wettbewerb sicherzustellen.

Ergebnis im Google-Verfahren überfällig

Zwar hat die EU-Kommission, die für die Aufsicht der Gatekeeper zuständig ist, zahlreiche Untersuchungen wegen Verdachts von DMA-Verletzungen eingeleitet. Vor über einem Jahr hatte sie etwa Google und Apple vorgeworfen, ihre App-Marktplätze nicht ausreichend zu öffnen. Zum anderen sollte Google in der Suchmaschine eigene Angebote für Shopping oder Reisen bevorzugt haben.

Auf das Ergebnis dieser Untersuchungen wartet die Öffentlichkeit jedoch weiterhin. Fällig wäre es Ende März gewesen. Darauf scheint sich Alphabet vorbereitet zu haben: Anonyme Quellen hatten der Nachrichtenagentur Reuters zufolge zu Beginn des Jahres in Aussicht gestellt, dass Google seine Wettbewerber prominenter in den Suchergebnissen anzeigen werde, um der drohenden Geldstrafe zu entgehen. Umgesetzt hat Google das nicht.

Von der Leyen soll auf der Bremse stehen

Tatsächlich soll die EU-Wettbewerbsabteilung zu dem Schluss gekommen sein, dass Alphabet gegen den DMA verstoßen habe, berichtete jüngst das Handelsblatt (€). Die Entscheidung – samt einer milliardenschweren Geldbuße – soll jedoch nach einer Intervention von Ursula von der Leyen wieder in der Schublade verschwunden sein.

Dem Fachblatt The Capitol Forum (€) zufolge soll die Kommissionspräsidentin bereits seit Januar auf der Bremse stehen. Anstelle einer Verurteilung setzte die Kommission seit Jahresanfang weitere Verfahren in die Welt: Unter anderem will sie Alphabet dabei unterstützen, das Android-Betriebssystem für Entwickler:innen weiter zu öffnen sowie Dritt-Anbietern den Zugriff auf bestimmte Daten der Google-Suchmaschine zu geben.

Auf Anfrage bestreitet die EU-Kommission die Vorwürfe. „Es gibt absolut keine politische Blockade von Fällen“, sagte heute ein Kommissionssprecher bei einem Presse-Briefing. Abgeschlossene Untersuchungen seien auch in ihrem Interesse. Es gehe nicht darum, eine Strafe nur der Strafe wegen zu verhängen. Eine Entscheidung werde von der Kommission erst dann final abgesegnet, wenn sie „technisch fertig und solide genug“ sei, so der Sprecher.

Europäische Digitalgesetze, neben dem DMA auch der Digital Services Act (DSA) oder die Datenschutz-Grundverordnung (DSGVO), sind für große Tech-Konzerne wie Alphabet oder Apple ein rotes Tuch. Jahrzehntelang konnten sie weitgehend ungehindert wachsen und bestimmte Marktsegmente besetzen, ohne auf nennenswerten Widerstand von Kartellbehörden zu stoßen. Vor allem der in der ersten Amtsperiode von der Leyens verabschiedete DMA hat das wachsende Ungleichgewicht auf digitalen Märkten im Visier.

Mit dem Wahlsieg Donald Trumps und seiner America-First-Agenda hat die Tech-Branche einen willigen Unterstützer in ihrem Kampf gegen angebliche Überregulierung gefunden. Unmittelbar nach seinem Amtsantritt im Januar 2025 legte der US-Präsident etwa in einem Memorandum mit Verweis auf DMA und DSA fest, US-amerikanische Unternehmen vor „Erpressung und unfairen Geldbußen aus dem Ausland“ schützen zu wollen.

Gedroht hatte Trump unter anderem mit Strafzöllen, die er einige Monate später tatsächlich vorstellte. Zwar konnte sich die EU im Spätsommer auf einen Deal mit den USA einigen, ohne auf dem Papier die Digitalgesetze anzufassen. Vom Tisch ist die Auseinandersetzung jedoch nicht: Bis heute haben sich die EU-Institutionen nicht darauf geeinigt, wie die Zollvereinbarung aus dem Vorjahr umgesetzt werden soll.

„Die EU-Kommission knickt ein“

Auch für die US-Seite ist die Angelegenheit nicht abgeschlossen. Hochrangige US-Vertreter schießen weiterhin gegen EU-Digitalgesetze und verknüpfen sie mit dem Handelsstreit. Die EU müsse ihre Regulierung von Big Tech lockern, um im Gegenzug geringere Zölle auf Stahl und Aluminium entrichten zu müssen, sagte US-Handelsminister Howard Lutnick im Herbst. Zugleich warnte der US-Botschafter bei der EU, Andrew Puzder, dass der DMA zu sehr auf US-amerikanische Tech-Konzerne ziele.

Im April war bekannt geworden, dass die EU-Kommission ein Gremium plant, um der Trump-Regierung entgegenzukommen. Darin soll sich die US-Regierung mit der EU zu Digitalregeln und Kartellverfahren abstimmen, wie die EU-Kommission dem Handelsblatt bestätigte.

Das nachgiebige und intransparente Vorgehen der EU-Kommission stößt jedoch immer mehr auf Kritik. Felix Duffy von der Nichtregierungsorganisation LobbyControl sagt etwa: „Die EU-Kommission knickt ein und sendet ein fatales Signal: Wenn Tech-Konzerne bei Verstößen gegen die EU-Digitalregeln keine Konsequenzen zu fürchten haben, bleiben Gesetze wie der DMA wirkungslos.“

Dem pflichtet Max Bank von der Organisation Rebalance Now bei: Zwar zeige der DMA Wirkung, drohe aber zum zahnlosen Tiger zu werden, weil die Kommission nicht konsequent handle. „Wenn selbst überfällige Strafzahlungen gegen Konzerne wie Google politisch gestoppt werden, untergräbt das die Glaubwürdigkeit des Gesetzes“, sagt Bank.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Auf der Suche nach Minderjährigen will Meta Nutzer*innen auf Facebook und Instagram umfassend durchleuchten. Der Konzern will sogar die Knochenstruktur von Menschen auf Fotos auswerten. Wie gefährlich ist das? Die Analyse.

Instagram und Facebook wollen ihre Nutzer*innen künftig noch genauer unter die Lupe nehmen. Eine als KI bezeichnete Software soll unter anderem Texte in Posts und Kurzbios kontrollieren und Objekte in Fotos und Videos scannen. Die Software soll sogar die Körpergröße und Knochenstruktur abgebildeter Personen auswerten. Das Ziel dieser Art von Rasterfahndung sind Minderjährige.

Schätzt die Software eine Person für verdächtig jung ein, soll sie ihr Alter nachweisen. Junge Menschen unter 18 Jahre sollen die Plattformen nur im Jugendschutz-Modus nutzen; Kinder unter 13 Jahre dürfen keinen Account haben.

Wer also künftig auf Instagram Fotos vom Kindergeburtstag postet oder über Schulnoten spricht, könnte Probleme bekommen. Die Software könnte das als Hinweis werten, dass man noch nicht erwachsen ist. Diese beiden Beispiele kommen aus der Pressemitteilung von Meta.

Die neue KI-Überwachung startet Instagram demnach jetzt in der EU und in Brasilien. Zuvor lief sie bereits in den USA, Australien, Kanada und dem Vereinigten Königreich. Auf Facebook rollt Meta die Überwachung zunächst in den USA aus; im Juni soll sie für EU und Vereinigtes Königreich folgen.

Hier kommen die fünf wichtigsten Fragen und Antworten zu Metas neuen Alterskontrollen.

• 1. Bergen Metas Alterskontrollen Gefahren?
• 2. Warum macht Meta das?
• 3. Ist das neu?
• 4. Darf Meta das?
• 5. Was passiert als nächstes?

1. Bergen Metas Alterskontrollen Gefahren?

Ein Fachbegriff für die von Meta geplanten Alterskontrollen ist Inferenz, einfacher ausgedrückt: schlussfolgern. Inferenz-Methoden kombinieren mehrere Anhaltspunkte, um das Alter einer Person zu schätzen. Dabei können Dinge schiefgehen – besonders wenn ein Tech-Konzern sogar Fotos und Videos mit sogenannter KI durchsuchen will.

• Datenmaximierung: In der EU verankert die Datenschutz-Grundverordnung (DSGVO) den Grundsatz der Datenminimierung. Das heißt im Fall von Meta: Der Konzern soll nicht mehr Daten sammeln und verarbeiten als nötig. Auf Datenminimierung pocht auch die EU-Kommission in ihren Leitlinien, die beschreiben, wie Online-Dienste Minderjährige schützen sollen; Grundlage is das Gesetzes über digitale Dienste (DSA). Passend dazu fordern in der aktuellen Debatte um Altersgrenzen und Social-Media-Verbote Politiker*innen durch die Bank weg, Alterskontrollen sollen datensparsam ein. Was Meta plant, ist jedoch das Gegenteil: Der Konzern will Daten nicht minimieren, sondern maximieren. Er will „mit KI-Technologie komplette Profile analysieren“.
• Kontrollverlust: Meta listet nicht vollständig auf, was die Software auf der Suche nach Minderjährigen alles einbezieht. Hinweise auf Geburtstage oder Schulnoten sind nur Beispiele; ebenso die Knochenstruktur von Menschen in Fotos und Videos. Nutzer*innen können deshalb nicht wissen, welche der Dinge, die sie posten, möglicherweise problematisch sein könnten. Sie wissen auch nicht, was genau mit den aus der Analyse gewonnenen Erkenntnissen passiert. Meta ist ein Datenschlucker; in der Vergangenheit hatte der Konzern mehrfach Datenschutz-Skandale. Die autoritäre US-Regierung hat potenziell Zugriff auf Daten von Meta-Nutzer*innen in der EU. Daraus folgt: Menschen auf Instagram und Facebook können kaum kontrollieren, was mit ihren Daten geschieht.
• Fehleinschätzungen: Inferenz-Methoden setzen auf Hinweise, aber Hinweise sind keine Fakten. Die Software könnte Menschen zu Unrecht als minderjährig einstufen. In der Folge müssten sie potenziell invasive Alterskontrollen überwinden; etwa auf Basis von Ausweisen oder biometrischen Gesichtsscans. Eventuell geraten manche Gruppen besonders oft in Verdacht, noch nicht erwachsen zu sein. Etwa Menschen, die sich aufgrund von Sprachschwierigkeiten nur sehr einfach ausdrücken. Oder eher kleine, schmale Menschen, deren Körper eine Software als jugendlich einstufen würde.
• Gesellschaftsbild: Die Maßnahme steht für einen radikalen gesellschaftlichen Wandel im Umgang mit Risiken. Auf der Suche nach Minderjährigen werden praktisch alle Nutzer*innen zu Verdächtigen – und all ihre Uploads zu potenziellem Beweismaterial. Die Überwachung wichtiger Schauplätze der digitalen Öffentlichkeit wird zunehmend lückenlos. Lange Zeit wurden KI-gestützte Überwachungsmethoden vor allem diskutiert, um schwere Verbrechen aufzuklären. Jetzt sollen sie sogar Kinder aufspüren. Es geht um junge Menschen, die neugierig sind und Regeln brechen, nicht um Schwerverbrecher*innen. Das normalisiert permanente Überwachung, selbst im Alltag.
• Function Creep ist die schrittweise Ausweitung einer Technologie über die ursprünglich beschriebenen Zwecke hinaus. Konkretes Beispiel: Schon jetzt nutzt die rassistische Trump-Regierung ein Arsenal an Überwachungstechnologie auf der Jagd nach Migrant*innen, um sie zu deportieren. Theoretisch könnte Meta die Systeme zur Suche nach Minderjährigen auch zur Suche nach Migrant*innen oder anderen vulnerablen Gruppen einsetzen. Entsprechende Gesetze könnten Konzerne dazu verpflichten, wenn die Infrastruktur erst einmal da ist.

2. Warum macht Meta das?

Meta reagiert mit den neuen Alterskontrollen wahrscheinlich auf die weltweite Debatte um Jugendschutz im Netz und Social-Media-Verbote. Jüngst hat etwa die EU-Kommission festgestellt, dass Meta nicht genug tut, um unter 13-Jährige von Facebook und Instagram fernzuhalten. Das ist ein möglicher Verstoß gegen den DSA; am Ende können Geldbußen drohen.

Die neuen Alterskontrollen könnte der Meta-Konzern als Argument dafür nutzen, dass er sich nun an die Regeln hält. Generell bieten Inferenz-Methoden mehrere Anreize für kommerzielle Online-Plattformen.

• Plattformen wollen ihre Nutzer*innen nicht abschrecken; immerhin ist deren Aufmerksamkeit die wichtigste Geldquelle. Während etwa Ausweiskontrollen für alle eine sichtbare Hürden sind, laufen Inferenz-Methoden zunächst unscheinbar im Hintergrund.
• Inferenz-Methoden basieren auf Wahrscheinlichkeiten. Plattformen können genau steuern, ab welcher Schwelle eines Verdachts die Software Alarm schlägt und von Nutzer*innen eine Altersverifikation verlangt. Auf diese Weise könnte ein Konzern stets optimieren, wie streng die Kontrollen ausfallen – auch mit Blick auf möglichst geringe finanzielle Einbußen.
• Die Systeme hinter Inferenz-Methoden können für Außenstehende komplex und intransparent sein. Kommerzielle Online-Plattformen sprechen gerne davon, dass sie ihre Systeme kontinuierlich verbessern. Das gibt ihnen viel Spielraum, etwaige Fehler zu relativieren mit Verweis auf eine überholte Version der Systeme, etwa gegenüber Aufsichtsbehörden.

3. Ist das neu?

Inferenz-Methoden zur Alterskontrolle auf Online-Plattformen gibt es schon länger. Selbst Meta schreibt, dass sie ihre Systeme lediglich weiter „stärken“. Auch beispielsweise TikTok, ChatGPT, die Google-Suche oder YouTube suchen im Hintergrund nach Hinweisen darauf, ob Nutzer*innen zu jung sein könnten.

Neu ist allerdings die beschriebene Tiefe der Eingriffe – bis hin zur Analyse von Objekten und Knochenstruktur in Bildern und Videos. Wie zur Beschwichtigung betont Meta in der Pressemitteilung: „Das ist keine Gesichtserkennung.“ Die Software identifiziere keine Personen. Das kann technisch korrekt sein, macht die Eingriffe aber nicht unbedenklich.

4. Darf Meta das?

Vielleicht nicht. Die Datenschutzjuristin Kleanthi Sardeli verfolgt die Neuerungen bei Meta jedenfalls mit Skepsis. Sie arbeitet für die spendenfinanzierte NGO noyb („none of your business“) mit Sitz in Wien. Auf Anfrage von netzpolitik.org geht sie darauf ein, dass biometrische Daten wie Knochenstruktur und Körpergröße in der DSGVO einem strengeren Schutz unterliegen.

Knochenstruktur und Körpergröße können als Gesundheitsdaten angesehen werden, die denselben Schutz wie biometrische Daten genießen. Diese dürfen nur in Ausnahmefällen und auf Grundlage spezifischer Rechtsgrundlagen verarbeitet werden. Dazu gehört unter anderem die Einwilligung. In Metas Datenschutzerklärung wird dieser spezifische Einsatzbereich bisher nicht erwähnt, und als Rechtsgrundlage wird lediglich das berechtigte Interesse genannt – was für den Einsatz dieser neuen KI-Technologie eindeutig nicht ausreichend wäre.

Nähere Einschätzungen seien schwierig, schreibt Sardeli. Dafür seien Metas Informationen zu zurückhaltend. „Es wird auch nicht näher erläutert, wie Metas KI-Modelle auf die Alterserkennung trainiert werden – und ob Inhalte auf Meta-Plattformen verwendet werden, um diese KI-Funktionen weiter zu trainieren.“

Scharfe Kritik an Meta kommt von der deutschen Europa-Abgeordneten Alexandra Geese (Grüne), Stellvertretende Vorsitzende im Ausschuss für Binnenmarkt und Verbraucherschutz. Auf Anfrage von netzpolitik.org schreibt sie:

Was Meta hier plant, ist nichts weniger als der nächste Tabubruch: Die systematische Auswertung von Körpermerkmalen wie Knochenstruktur zur Altersbestimmung ist ein massiver Eingriff in hochsensible personenbezogene Daten.

Geese verweist auf eine Regel im DSA, die besagt: Online-Plattformen sind „nicht verpflichtet, zusätzliche personenbezogene Daten zu verarbeiten, um festzustellen, ob der Nutzer minderjährig ist“. Meta tut es dennoch. Statt mehr Schutz reagiere Meta mit mehr Überwachung. „Wer glaubt, man könne Kinderschutz mit biometrischer Massenanalyse erreichen, opfert Grundrechte auf dem Altar eines kaputten Geschäftsmodells.“

5. Was passiert als nächstes?

Die EU-Kommission dürfte sich für das laufende DSA-Verfahren genau anschauen, ob Meta mit den neuen Alterskontrollen die gesetzlichen Vorgaben erfüllt. Einerseits könnte Meta auf diese Weise tatsächlich mehr Minderjährige finden – andererseits könnte die Kommission die datenhungrigen Maßnahmen als unverhältnismäßig einstufen.

Parallel diskutieren Expert*innen gerade auf Deutschland- und EU-Ebene über Maßnahmen für Kinder- und Jugendschutz im Netz. Spitzenpolitiker*innen fordern vehement Social-Media-Verbote und (datensparsame) Alterskontrollen, während Fachleute aus unter anderem Medienpädagogik, Kinderschutz oder IT-Sicherheit vor beidem warnen. Im Sommer sollen die von EU-Kommission und Bundesregierung einberufenen Expert*innen ihre Empfehlungen vorlegen.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Grün-Schwarz will in Baden-Württemberg als erstem Bundesland doppelte KI-Videoüberwachung ausrollen: Kameras, die Menschen auf verdächtiges Verhalten überprüfen und sie gleichzeitig mit Gesichtserkennung analysieren. In Mannheim und zwei weiteren Städten soll das Pilotprojekt starten.

Gestern haben Cem Özdemir und Manuel Hagel den grün-schwarzen Koalitionsvertrag für Baden-Württemberg vorgestellt. Hier sollen demnach erstmals in Deutschland Kameras eingesetzt werden, die sowohl das Verhalten der Abgebildeten analysieren und bewerten, als auch deren Gesichter vermessen, um per Gesichtserkennung herauszufinden, ob sie von polizeilichem Interesse sind.

Die Verhaltenskontrolle wird bereits seit acht Jahren in Mannheim trainiert. Das Modellprojekt soll nun räumlich ausgeweitet werden, auf zwei weitere, bislang ungenannte Städte. Auch der Umfang wird erweitert, denn zusätzlich zur Verhaltenserkennungs-Technologie sollen künftig auch Objekte und Gesichter von den Kameras erkannt werden.

Live-Gesichtserkennung läuft in Deutschland bislang nur in Frankfurt am Main hinter öffentlichen Überwachungskameras. Die Software vermisst jedes Gesicht im Erfassungsbereich und schlägt Alarm, sobald es einem gesuchten Gesicht sehr ähnlich ist. Gesucht wird damit nach Terrorist*innen, nach vermissten Menschen, nach Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung. Analysiert und mit den Polizeidatenbanken abgeglichen wird aber jedes Gesicht, das die Kameras aufnehmen.

Zusätzlich zur Echtzeit-Fernidentifizierung wollen Grüne und CDU der Polizei in Baden-Württemberg auch die Suche nach bestimmten Gesichtern im Internet erlauben. Auf Bundesebene gibt es aktuell ebenfalls Bestrebungen, das Tool einzuführen. Damit können Beamt*innen beispielsweise Menschen auf Social Media finden, etwa auf Bildern, die Vereine oder Arbeitgeber ins Netz stellen. Selbst auf Totalaufnahmen von Großveranstaltungen könnten Personen gefunden werden. Wenn die Verhaltensanalyse in einer der Pilotstädte eine Straftat detektiert, kann damit theoretisch auch die tatverdächtige Person retrograd identifiziert werden.

„Schonung der Grundrechte“

Für die Echtzeit-Fernidentifizierung und die Gesichtersuchmaschine muss die Koalition das Polizeigesetz von Baden-Württemberg ändern. Dabei hatte Grün-Schwarz das erst Ende vergangenen Jahres getan. Damals hatte die Landesregierung der Polizei Datenanalyse nach Palantir-Art erlaubt, die diese ohnehin schon lange betrieb. Außerdem genehmigten die alten und neuen Koalitionspartner der Polizei auch das KI-Training mit den persönlichen Daten von Bürger*innen sowie die Weitergabe dieser an externe Stellen.

Nun soll also eine neue Polizeigesetznovelle kommen, die auch Echtzeit-Fernidentifizierung ermöglicht. Niedersachsen, Sachsen und Schleswig-Holstein sind ebenfalls daran, Gesetzesgrundlagen dafür einzuführen. Die Technologie ist in Sicherheitsbehörden ziemlich beliebt, genauso wie der Verhaltensscanner, der in Mannheim trainiert wird. Vergangenes Jahr hat ihn Hamburg übernommen, Berlin folgt wohl als nächstes, Hessen, Niedersachsen, Sachsen, Schleswig-Holstein und Thüringen haben bereits Rechtsgrundlagen dafür oder arbeiten daran.

Bislang hat sich noch niemand getraut, beide Technologien auf einmal einzusetzen. Die Datenschutzbedenken sind bei beiden allein schon sehr hoch. In Baden-Württemberg gibt es nun aber scheinbar keine Scheu mehr. „KI-Videoschutz kann für mehr Sicherheit bei gleichzeitiger Schonung der Grundrechte sorgen“, schreiben Grüne und CDU in ihrem Koalitionsvertrag.

Dass es bei den drei Standorten bleibt, an denen die Koalition die multiple KI-Überwachung pilotieren will, ist vermutlich eher unrealistisch. Bereits vor der Wahl hatten sich Özdemir und Hagel dazu bekannt, den Einsatz von Videoüberwachungskameras entgrenzen zu wollen. Für den Einsatz soll keine erhöhte Kriminalitätsbelastung mehr nötig sein, die Kommunen sollen freihändig darüber entscheiden.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die europäische Polizeibehörde Europol hat offenbar jahrelang eine Schatten-IT betrieben. Mitarbeitende sollen damit widerrechtlich große Mengen an personenbezogenen Daten durchsucht und ausgewertet haben. Dennoch will die EU-Kommission Europol nun mit deutlich mehr Budget und Personal ausstatten.

Die europäische Polizeibehörde Europol hat offenbar umfangreiche Mengen sensibler Daten auf einer Schatten-IT gesammelt und ausgewertet. Darunter Ausweisdokumente, Telefonverbindungen, Finanz- und Standortdaten – auch von Personen, die keiner Straftat verdächtigt wurden. Das zeigt eine gemeinsame Recherche von Correctiv, Computer Weekly und Solomon.

„Sie schützen das Gesetz – und brechen es“, zitiert Correctiv einen der anonym bleibenden Europol-Insider, die im Text vorkommen. Internen Dokumenten, geleakten E‑Mails sowie Insiderinformationen von Whistleblower:innen zufolge haben Europol-Mitarbeitende diese Daten entgegen bestehender Sicherheitsvorkehrungen und Datenschutzbeschränkungen abrufen können. Es sei nicht nachvollziehbar, wer zu welchem Zeitpunkt auf die Daten zugegriffen, sie geändert oder gelöscht habe.

Die Veröffentlichung der Recherche fällt für Europol in eine politisch sensible Phase. Noch in diesem Jahr will die EU-Kommission voraussichtlich ein Gesetz einbringen, das Europol in eine „wirklich operative Polizeibehörde“ umwandeln soll. Dafür will die Kommission das Personal und das Budget der Behörde verdoppeln.

Europol habe laut der Recherche zwar einige Datenschutzprobleme öffentlich gemacht. Doch weite Teile ihrer Schatten-IT hat die Behörde mutmaßlich vor dem Europäischen Datenschutzbeauftragten geheimgehalten – darunter ein irreguläres System namens „Pressure Cooker“, mit der Europol offenbar geltende EU-Gesetze umging. Das System ist möglicherweise noch heute im Einsatz.

Das „Schwarze Loch“ für die unregulierte Datenanalyse

Auslöser dafür, die Schatten-IT zu entwickeln, waren die Terroranschläge unter anderem auf das Bataclan-Theater in Paris im November 2015. Damals gründete Europol die Task Force „Fraternité“, der EU-Mitgliedstaaten große Datenmengen zuspielte. Europols Cybercrime-Einheit übernahm daraufhin das sogenannte Computerforensik-Netzwerk (CFN), das im Jahr 2012 mit der Absicht eingerichtet worden war, digitales Beweismaterial zu sammeln.

Obwohl Europol das CFN gemeinsam mit der eigenen IT-Abteilung verwalten sollte, entzog sich das Netzwerk bald jener Aufsicht. Innerhalb weniger Jahre habe sich das CFN weit über seinen ursprünglichen Zweck hinaus entwickelt. Ein ehemaliger hochrangiger Europol-Mitarbeiter bezeichnet es laut der Correctiv-Recherche als „Schwarzes Loch“ für die unregulierte Datenanalyse.

Bis 2019 hätten sich im CFN rund 2.000 Terabyte an Daten angesammelt – fast 420-mal so viele Daten wie die reguläre Kriminaldatenbank von Europol enthielt. In mindestens einem Fall – dem Projekt „Focal Point Travellers“ – sollen sie auch vom US-amerikanischen Inlandsgeheimdienst FBI stammen.

„Europol-Analysten konnten so riesige Mengen an personenbezogenen Daten durchforsten, darunter auch Informationen, die sie nicht hätten speichern dürfen, und diese für kriminalistische Analysen zweckentfremden“, heißt es bei Correctiv.

Datenschutzbeauftragter schlug Alarm

Im Jahr 2019, ein Jahr nachdem die EU-Datenschutzgesetze in Kraft getreten waren, schlug der hauseigene Datenschutzbeauftragte von Europol, Daniel Drewer, intern Alarm. Er warnte die drei stellvertretenden Europol-Direktoren, dass im CFN rund 99 Prozent aller Europol-Daten verarbeitet würden. Laut der Recherche reichen die Sicherheitslücken und Versäumnisse von der „ineffektiven Zuweisung von Sicherheitsrollen und ‑verantwortlichkeiten“ über eine „unzureichende Verwaltung privilegierter Zugriffsrechte“ bis hin zur „Nichteinhaltung der Europol-Sicherheitsvorschriften“. Sollte Europol nicht reagieren, warnte Drewer, könnte ein Verbot des CFN das gesamte operative Geschäft von Europol lahmlegen.

Die Direktorin Catherine De Bolle informierte daraufhin im April 2019 den Europäischen Datenschutzbeauftragten. Nach einer jahrelangen Auseinandersetzung ordnete die Datenschutzbehörde schließlich an, die rechtswidrig gespeicherten Daten zu löschen. Erst im Februar 2026 teilte die Aufsichtsbehörde der Gemeinsamen Parlamentarischen Kontrollgruppe, ein Aufsichtsausschuss für Europol aus europäischen und nationalen Abgeordneten, mit, die fast zehnjährige Prüfung des CFN einzustellen – obwohl Europol zentrale Sicherheitsvorkehrungen noch immer nicht umgesetzt hatte.

„Europol hat über Jahre ein paralleles Datensystem betrieben, das jenseits rechtsstaatlicher Kontrolle arbeitet“, sagt Birgit Sippel (SPD) auf Anfrage von netzpolitik.org. Sie ist Europaabgeordnete und Mitglied des Ausschusses für bürgerliche Freiheiten, Justiz und Inneres. „Die Daten unschuldiger Menschen wurden gespeichert und analysiert, ohne dass nachvollziehbar war, wer darauf zugegriffen oder Einträge verändert hat. Das untergräbt das Vertrauen in die Beweissicherheit und die Rechtsstaatlichkeit europäischer Strafverfolgung.“

Obwohl Europol sich jahrelang der Kontrolle entziehen konnte, will die Kommission der Behörde nun mehr operative Befugnisse übertragen, sagt die Bürgerrechtsorganisation European Digital Rights gegenüber netzpolitik.org. „Es ist dringend erforderlich, dass die EU ihre Pläne überdenkt und Europol tatsächlich für seine rechtswidrigen Praktiken zur Rechenschaft zieht.“

Kocht der „Pressure Cooker“ noch?

Es ist derzeit unklar, ob etwa der „Pressure Cooker“ (zu Deutsch: Schnellkochtopf) weiterhin in Betrieb ist. Damit wird offenbar ein System bezeichnet, in dem operative Daten schnell und ohne Beschränkungen durch EU-Recht gespeichert und analysiert werden können.

Laut Europol sei der „Pressure Cooker“ lediglich eine interne Bezeichnung für das „Internet Facing Operational Environment“ (IFOE), das rechtskonform betrieben werde. Als Europol im Jahr 2025 die „IFOE-Quick Response Area“ dem Europäischen Datenschutzbeauftragten zur Konsultation vorlegte, warnte die Aufsichtsbehörde vor „einer vollwertigen Parallelumgebung zur regulären Betriebsumgebung von Europol“.

Der Europäische Datenschutzbeauftragte erklärte gegenüber Correctiv, er sehe „die Gefahr, dass Europol-Mitarbeiter ‚Angeltouren’ unternehmen könnten, also personenbezogene Daten sammeln, die für laufende strafrechtliche Ermittlungen irrelevant sind – und so Grundrechte verletzen“.

Wie solche Systeme trotz Inspektionen durch den Datenschutzbeauftragten lange Zeit verborgen blieben, beschreibt ein Europol-Insider. Demnach seien die Inspektionen „keine Razzia, bei der IT-Experten Systeme überwachen und Server beschlagnahmen“, sondern vielmehr ein „höfliches Gespräch“.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Alterskontroll-App der EU- Kommission nutzt ein Verfahren von Google-Entwicklern. IT-Fachleute warnen vor Abhängigkeiten und Datenschutzrisiken – auch mit Blick auf die geplante EUDI-Wallet.

Mit einer Handy-App sollen Menschen in der EU schon bald ihr Alter gegenüber Online-Diensten nachweisen können. Noch gibt es diese App nicht. Die EU-Kommission hat aber Code für Komponenten und Spezifikationen bereitgestellt, aus dem Entwickler:innen eigene Versionen der App bauen und auf den Markt bringen sollen. Die Alterskontroll-App könne ein weltweiter „Goldstandard“ werden, so die Hoffnung der Kommission.

Doch bei der App hat sich die Kommission für ein Verfahren zweier Software-Entwickler entschieden, die für den US-Konzern Google arbeiten. Die Technologie ist Open Source. Doch eine ebenfalls offene Alternative, die seit Jahren gut erforscht und nicht an ein kommerzielles Unternehmen gebunden ist, lehnte die Kommission ab.

Sicherheitsexpert:innen kritisieren die Entscheidung, weil die von der Kommission gewählten Verfahren weniger effizient und risikobehaftet seien. Außerdem fordern sie, Standards zu nutzen, die Abhängigkeiten von einzelnen Anbietern vermeiden. Nur so ließen sich bestimmte Funktionen und ein hohes Datenschutzniveau sicherstellen.

Der datensparsame Null-Wissen-Beweis

Die Alterskontroll-App ist quasi ein Vorläufer der geplanten EUDI-Wallet, die Ende 2026 EU-weit starten soll. Mit der App sollen Nutzer:innen gegenüber Online-Plattformen nachweisen können, dass sie ein bestimmtes Mindestalter erreicht haben.

Um ausschließlich die erforderliche Information – Mindestalter ja oder nein – zu offenbaren, lässt sich ein sogenannter Zero Knowledge Proof (ZKP) nutzen, zu Deutsch: Null-Wissen-Beweis. Das erlaubt eine datensparsame Verifizierung, ohne die zugrundeliegenden Daten der Nutzer:innen wie etwa das genaue Alter preiszugegeben.

Damit die Authentisierung sicher erfolgen kann, braucht es digitale Signaturen. Sie sichern weite Teile des Internets und die meisten digitalen Transaktionen ab, indem sie etwa – vergleichbar mit einer handschriftlichen Unterschrift – mathematisch beweisen, dass eine Nachricht von einem bestimmten Absender stammt.

Beweisen, dass es einen Beweis gibt

Bei der Alterskontroll-App wird das Attribut, das eine Person älter als X Jahre ist, vom sogenannten „Attestation Provider“ signiert. Diese Aufgabe können Banken, Mobilfunkanbieter oder staatliche Behörden übernehmen. Sie bestätigen so als vertrauenswürdige Stelle die Echtheit von Altersbestätigungen digital und geben diese an die App aus.

Allerdings gibt es noch ein Problem zu lösen: Wäre diese Bestätigung, die bei einem Altersnachweis mitgeliefert wird, immer gleich, lassen sich damit verschiedene Nachweisaktionen bei unterschiedlichen Behörden, Händlern oder Plattformen miteinander verknüpfen.

Das sollen „Anonymous Credentials“ verhindern, zu Deutsch: „anonyme Anmeldedaten“. Hier werden bei jeder Altersübermittlung neue, einmalige Beweise erzeugt, die an verschiedene Dienste, die den Nachweis prüfen, weitergegeben werden. Damit belegen Nutzer:innen, dass sie eine gültige Signatur für ihren Altersnachweis haben – ohne den Nachweis selbst oder die Signatur preiszugeben. Dank dieser wechselnden Beweise können die sogenannten Verifier nicht erkennen, dass es sich um dieselbe Person handelt – selbst wenn sie die Beweise untereinander vergleichen.

Zwei konkurrierende kryptografische Verfahren

Damit der Zero Knowledge Proof mit der Alterskontroll-App gelingt, kommen mehrere kryptografische Verfahren für Anonymous Credentials grundsätzlich infrage.

Aus Sicht vieler Kryptografen wäre etwa BBS ein etabliertes Verfahren. Es ist nach den Erfindern Dan Boneh, Xavier Boyen und Hovav Shacham benannt, wurde 2004 entwickelt und 2013 als ISO-Standard aufgenommen. BBS gilt als gut erforscht, ist allerdings bisher kaum im Praxiseinsatz.

Ein alternatives Verfahren baut auf ECDSA-Signaturen auf. Der „Elliptic Curve Digital Signature Algorithm“ ist als kryptografisches Verfahren weit verbreitet. Es wurde allerdings nicht dafür gebaut, um ZKP zu erstellen. Um einen Null-Wissen-Beweis auf Basis einer ECDSA-Signatur erzeugen zu können, braucht es technisch aufwendige Anpassungen. Im Vergleich zu BBS-basierten Verfahren gelten daher ECDSA-basierte Anonymous Credentials in der Fachwelt als langsamer und komplexer.

Kommission hat sich für ECDSA-Signaturen entschieden

Dennoch hat sich die Kommission bei ihrer Alterskontroll-App für ECDSA-basierte Anonymous Credentials entschieden. Laut dem technischen Blaupausen-Dokument hatte die Kommission zuvor fünf Optionen geprüft, drei von ihnen basieren auf BBS. „Unter diesen erscheinen ‚ECDSA Anonymous Credentials’ aufgrund ihrer Kompatibilität mit bestehenden Anmeldeformaten und Ausstellungsabläufen am vielversprechendsten“, schreibt die Kommission.

Anja Lehmann hält das für einen riskanten Ansatz. Sie ist Professorin am Hasso-Plattner-Institut der Universität Potsdam und forscht unter anderem zur datensparsamen Authentisierung in digitalen Wallets. „Nach außen wirkt der ECDSA-basierte Ansatz einfach, gerade weil er kompatibel mit bestehenden Systemen ist“, sagt Lehmann gegenüber netzpolitik.org. „Aber um diese Kompatibilität zu erreichen, braucht man ein kryptographisches Verfahren mit rund 20.000 Zeilen Code.“ Das sei langfristig eine große Herausforderung etwa für die Sicherheit und Standardisierung von kryptografischen Verfahren.

Auch Carmela Troncoso sieht die Entscheidung der Kommission kritisch: „Googles Ansatz ist neu, und obwohl er auf bekannter Kryptografie basiert, ist er noch nicht ausreichend erforscht“, sagt die IT-Sicherheitsexpertin vom Max-Planck-Institut für Sicherheit und Privatsphäre. „BBS ist hingegen eine etablierte Methode, um anonyme Zugangsdaten zu erzeugen, die wissenschaftlich gründlich untersucht wurde. Das ist ihr Hauptvorteil gegenüber Googles Verfahren.“

Beide IT-Sicherheitsfachleute gehören einer internationalen Gruppe von Kryptograf:innen an, die die EU-Kommission bereits im Juni 2024 dafür kritisierte, für die EUDI-Wallet veraltete Verschlüsselungsverfahren einsetzen zu wollen. Das Problem ließe sich nur beheben, wenn grundlegend andere kryptografische Lösungen wie BBS zum Einsatz kommen, lautete damals die Empfehlung der Kryptograf:innen.

Digitale Unabhängigkeit – mit Google?

Aus Sicht von Lehmann und Troncoso sprechen auch organisatorische Gründe gegen das Google-Verfahren. Entscheidet man sich für eine Lösung, die so komplex ist, dass die unterliegende Krypto-Bibliothek nur von sehr wenigen Fachleuten weiterentwickelt werden kann, begebe man sich in eine unnötige Abhängigkeit, warnt Lehmann. „Die Bibliothek bestimmt maßgeblich darüber, welche Funktionalität und welches Datenschutzniveau unterstützt wird“, sagt sie.

Dass die Technologie Open Source ist, verspricht aus Sicht von Carmela Troncoso nicht per se viel mehr Spielraum. „Google entscheidet darüber, was wie authentisiert und wie das angepasst werden kann“, sagt Troncoso. „Will man die hochgradig optimierten ZKP-Bibliotheken verändern, ist besonderes Fachwissen erforderlich, über das derzeit vor allem Google verfügt.“ Daher warnt Troncoso davor, „Google zum Herzen der europäischen Identitätsinfrastruktur zu machen“.

Die Kommission teilt diese Sorge offenkundig nicht. Auf Nachfrage von netzpolitik.org definiert sie digitale Souveränität als „operative Kontrolle“ etwa über Spezifikationen und die rechtlichen Rahmenbedingungen. Die ECDSA-basierten Verfahren erfüllten hier viele Anforderungen: Es gebe Open-Source-Implementierungen, eine unabhängige Sicherheitsüberprüfung durch die Internet Security Research Group und einen Standardisierungsprozess.

Tatsächlich ist ECDSA als Signaturverfahren standardisiert – „allerdings nicht das Anonymous-Credentials-Verfahren, das darauf aufbaut“, ordnet Anja Lehmann ein. Für BBS-Signaturen gebe es bereits seit 2013 einen ISO-Standard und auch eine aktuelle IRTF Standardisierung. Zwar decke der Standard nur ein einzelnes signiertes Attribut ab, eine Erweiterung auf mehrere Attribute sei aus kryptographischer Sicht aber trivial, so die Sicherheitsexpertin.

Mögliche Weichenstellung für die EUDI-Wallet

Ob die EU-Kommission mit ihrer Wahl für Google bei der Alterskontroll-App auch eine Weichenstellung für die EUDI-Wallet gewählt hat, wird sich vermutlich in den kommenden Monaten zeigen.

Eine Entscheidung will die Kommission nach einer Aussage erst dann treffen, wenn die technischen Arbeiten, die fortlaufende Überprüfung durch die European Cybersecurity Certification Group und die Konformitätswerkzeuge vorangeschritten sind. „Es wurde noch kein Termin festgelegt“, so ein Kommissionssprecher gegenüber netzpolitik.org.

Auch einen Vortrag von Paolo De Rosa will die Kommission nicht als Hinweis auf eine vorzeitige Richtungsentscheidung verstehen. De Rosa ist „EUDI-Wallet-CTO“ der EU-Kommission. Ende März präsentierte er gemeinsam mit Abhi Shelat die EUDI-Wallet auf einer IT-Sicherheitskonferenz in San Francisco. Shelat ist Co-Autor des ECDSA-basierten Anonymous-Credentials-Ansatzes und Entwickler bei Google.

Es gehöre zur Arbeitsweise der Kommission, direkt mit Forschenden zusammenzuarbeiten und mit ihnen „auf Augenhöhe“ Vorträge zu halten, schreibt die Kommission.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.

Die Bundesdatenschutzbeauftragte warnt weiterhin vor der Chatkontrolle. Eine „anlasslose Massenüberwachung“ aller Bürger:innen „wäre in einem Rechtstaat beispiellos“. Auch die Datenschutzkonferenz fordert die EU-Gesetzgeber auf, die Chatkontrolle „endgültig abzusagen“.

Die Bundesdatenschutzbeauftragte hofft, dass „die anlasslose und massenhafte Chatkontrolle hoffentlich endgültig vom Tisch“ ist. Das schreibt Louisa Specht-Riemenschneider in ihrem heute veröffentlichten Jahresbericht. Sie und andere Datenschutzaufsichtsbehörden kritisieren das Brechen von Ende-zu-Ende-Verschlüsselung und das verpflichtende Scannen von Nachrichten, das sogenannte Client-Side-Scanning.

Specht-Riemenschneider weiter: „Eine Chatkontrolle – also anlasslose Massenüberwachung gleichsam aller Bürgerinnen und Bürger – wäre in einem Rechtstaat beispiellos und schießt deutlich über das legitime Ziel (Bekämpfung sexualisierter Gewalt gegen Kinder und Jugendliche) hinaus.“

Trotz leichter Verbesserungen in der Rats-Position gäbe es weitere kritische Punkte bei dem EU-Gesetzesvorhaben. Neben der eigentlichen Chatkontrolle hat die Bundesdatenschutzbeauftragte hier unter anderem „pauschal verpflichtende Altersprüfungen in App-Stores“ im Auge, diese seien auszuschließen. „Solche Methoden können nur konkret risikoangemessen und datenminimiert eingesetzt werden, was einer pauschalen Vorschaltung entgegensteht“, heißt es weiter.

Datenschutzrechtliche Rechtsgrundlage fehlt

Auch eine freiwillige Chatkontrolle sieht Specht-Riemenschneider kritisch: „Für das von der CSA-Verordnung vorgesehene freiwillige CSAM-Scannen als Ausnahme vom Grundsatz der Vertraulichkeit der Kommunikation fehlt es an einer datenschutzrechtlichen Rechtsgrundlage. Eine solche ist bisher nicht in den Vorschlägen enthalten, aber aus meiner Sicht zwingend erforderlich.“ CSAM ist ein Sammelbegriff für Darstellungen und Inhalte sexualisierter Gewalt gegen Kinder.

Zudem würden durch die Einrichtung eines EU-Zentrums und Berichtspflichten an dieses Anreize für Diensteanbieter geschaffen, Chatkontrollen als faktisch verpflichtend anzusehen und durchzuführen. Dies könnte laut Specht-Riemenschneider dazu beitragen, dass Diensteanbieter ohne Rechtspflicht eingriffsintensivere Technologien entwickeln und verwenden. Ihre bisherige Kritik an diesen Technologien, wie zum Beispiel Client-Side-Scanning und Brechen der Ende-zu-Ende-Verschlüsselung, bleibe bestehen.

Specht-Riemenschneider warnt davor, dass derart intensive Eingriffe auf freiwilliger Basis „besonders kritisch“ seien. Nicht zuletzt bestünde das Risiko von doppelten Meldestrukturen, die eine effektive Strafverfolgung behindern könnten.

Anlasslose Chatkontrolle endgültig aufgeben

Bereits gestern hatte sich die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder zum Thema zu Wort gemeldet. Die Datenschützer appellierten in einer Entschließung an die Gesetzgebungsorgane der Europäischen Union sowie an die Bundesregierung, Pläne für eine anlasslose Chatkontrolle endgültig aufzugeben. Anlass dafür sei die voraussichtlich am 11. Mai beginnende vierten Verhandlungsrunde (Trilog) über die geplante EU-Verordnung zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern.

In ihrer jüngsten Entschließung wiesen die Datenschützer:innen zum wiederholten Male darauf hin, dass die anlasslose Chatkontrolle, also die flächendeckende Überwachung der privaten Kommunikation auf Messenger-Diensten, das Brechen der Ende-zu-Ende Verschlüsselung und auch die Umgehungen einer solchen durch Client-Side Scanning unverhältnismäßige Grundrechtseingriffe seien und Millionen Europäerinnen und Europäer unter Generalverdacht stellen würden.

---

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.