Das Thema „Social-Media-Verbot für Kinder und Jugendliche” kommt nicht zur Ruhe, in vielen Ländern und auf EU-Ebene wird heftig diskutiert und an Gesetzen gefeilt. Und da es dabei – in der Realität und der Argumentation – häufig um suchtfördernde Mechanismen und „Addictive Design” geht, bleiben wir auch dran und versuchen, den Überblick zu behalten. Hier eine kurze Übersicht darüber, was seit dem letzten Newsletter geschah:
Australien
Aus „Down under” mehren sich die Hinweise, dass das letztes Jahr erlassene Social-Media-Verbot für Unter-16-Jährige in der bisherigen Form nicht wirklich funktioniert: So sollen (s.a. unser letzter Newsletter) nach wie vor ca. 80% der Zielgruppe die Plattformen nutzen, was zunächst bei der australischen Regierung nur Beharren ausgelöst hat. – Bei allen methodischen Zweifeln an den ersten Untersuchungsergebnissen lässt sich dennoch anmerken: Ein großer Erfolg scheint die bisherige Regelung nicht zu sein.
Das scheint nach einer Schrecksekunde mittlerweile auch die australische Regierung so zu sehen und plant mittlerweile Maßnahmen, die nicht auf die User:innen, sondern die Plattformen abzielen. Diese sollen in einem "Digital Duty of Care"-Gesetz dazu verpflichtet werden, algorithmische Feeds abstellbar zu machen und schädlichen Content erst gar nicht auszuliefern. – Ein Schritt in die richtige Richtung …
Niederlande
Ähnliches ist in den Niederlanden schon Realität. Nach der Entscheidung eines Gerichts, auf der Basis von EU-Recht (Digital Services Act), im Jahr 2025 muss Meta (die Firma hinter Facebook und Instagram), User:innen ermöglichen, algorithmische Empfehlungen auszuschalten. Seither sieht Instagram in den Niederlanden anders aus – ob die Änderungen allerdings wirklich so weltbewegend sind bleibt offen …
Portugal
Nach dem Vergleich vor einem US-Gericht zwischen Meta und 29 US-Bundesstaaten werden sich Meta, ByteDance (Tiktok) und Google auch vor einem portugiesischen Gericht verantworten müssen: Die Initiative für digitale Rechte D3 hat die Konzerne vor einem Zivilgericht in Lissabon wegen der süchtig machenden Designs der jeweiligen Apps verklagt, wie Reuters meldet.
Frankreich
Der Conseil constitutionnel („Verfassungsrat”, das französische Pendant zu unserem Verfassungsgerichtshof) hat das vom Parlament beschlossene Social-Media-Verbot für Unter-15-Jährige noch vor In-Kraft-Treten gekippt, mit der Begründung, dass es einen unverhältnismäßigen Eingriff in die Meinungs- und Kommunikationsfreiheit darstelle. Schon zuvor hat die EU-Kommission einen ersten Entwurf des Gesetzes zurückgewiesen.
Einen Monat später legte Frankreich der EU-Kommission einen überarbeiteten Gesetzesentwurf vor, der nicht auf konkrete Plattformen, sondern auf süchtig machende Algorithmen abzielt. – Ob dieser Initiative mehr „Erfolg” beschieden sein wird bleibt abzuwarten, v.a. weil auf EU-Ebene selbst einiges los ist zu dem Thema (s.u.).
Österreich
Etwas später als angekündigt hat die österreichische Regierung einen Entwurf zum „Social-Media-Verbot für Kinder” vorgelegt, genauer: einen Entwurf zur Novelle des „Audiovisuelle Mediendienste-Gesetzes” und des „KommAustria-Gesetzes” in Begutachtung geschickt, und es trudeln Stellungnahmen in großer Zahl ein.
Interessant an dem Entwurf ist: Es kommt der Begriff „Social Media” nirgends vor, angesetzt wird an „Video-Sharing-Plattformen”, in Übereinstimmung mit EU-Recht (AVMD-RL), und es werden auch keine Plattformen genannt (von Frankreich gelernt?). In einer Fußnote der Erläuterungen gibt es einen Link auf die derzeit für die EU relevanten Video-Sharing-Plattformen: 114 an der Zahl, mit einem hohen Pornografie-Anteil, den üblichen Verdächtigen (Instagram, Tiktok, Youtube), aber auch LinkedIn, Reddit, Pinterest, Tumblr, Udemy, … Eine lange und heterogene Liste von Plattformen/Websites/Apps, für deren Nutzung eine Altersverifikation erforderlich werden könnte, zumindest wenn diese die inhaltlichen Kriterien erfüllen („wenn aufgrund spezifischer Funktionen der Schutz dieser Minderjährigen vor sie in ihrer körperlichen, geistigen oder sittlichen Entwicklung beeinträchtigenden Inhalten oder Verhaltensweisen nicht gewährleistet ist”).
Inhaltlich setzt das Gesetz an konkreten problematischen Funktionen/Mechanismen an, deren Einsatz auf Plattformen zur Beschränkung/Notwendigkeit der Altersüberprüfung führt. Die Liste liest sich wie eine gute Beschreibung der bekannten ”Dark patterns”.
Bei den Vorgaben zur Altersverifikation dürften die Autor:innen bei den Spezifikationen für das EUDI-Wallet (European Digital Identity) „abgeschrieben” haben, was erstens sinnvoll und zweitens begrüßenswert ist, weil diese eine datensparsame und technisch saubere Implementierung beschreiben (”Zero Knowledge Proof”). Problem dabei: Das Ganze existiert nur auf Papier bzw. in ersten Code-Entwürfen, es gibt derzeit keine öffentlichen (privaten sowieso nicht) Apps, weder auf österreichischer noch auf EU-Ebene, die diese Spezikationen umsetzen (auch die ID-Austria in ihrer derzeitigen Form erfüllt die Anforderungen nicht). Ob sich das bis Ende des Jahres (da soll die EUDI-Wallet in Betrieb gehen) ändert, ist fraglich.
Der erfahrene östereichische Tech-Journalist Erich Möchel fragt in einem lesenwerten Kommentar sich und die Wirtschaftskammer, von der er allerdings keine Antwort erhält, was wohl die 45 Millionen Tourist:innen pro Jahr in Österreich sagen werden, wenn sie mit einer Österreich zugerechneten IP-Adresse aber ohne ID-Austria oder eine andere österreichische Verifikationsapp im Urlaub ihre Fotos nicht mehr teilen können.
Auch von der Österreichischen ARGE Suchtvorbeugung liegt im Begutachtungsverfahren eine Stellungnahme vor. – Zitat daraus:
» Nicht Kinder und Jugendliche müssen lernen, sich gegen professionell entwickelte manipulative Mechanismen zu behaupten. Anbieter*innen müssen verpflichtet werden, digitale Angebote so zu gestalten, dass Kinder und Jugendliche diesen Mechanismen nicht ungeschützt ausgesetzt sind. «
(Erwachsene ebenso, wäre noch hinzuzufügen …)
Und wie geht es weiter? Angesichts dessen, dass der vorliegende Entwurf technisch (momentan) nicht umsetzbar ist und dass die EU derzeit am "EU Kids Act" arbeitet (s.u.) sagt unser Blick in die Kristallkugel, dass aus dieser österreichischen Gesetzesnovelle eher nichts werden wird.
Europäische Union
In ihrer jährlichen „Rede zur Lage der Union” verkündete Kommissionspräsidentin Ursula von der Leyen vor dem EU-Parlament den ”KIDS ACT”, mit der Geschichte eines 14-jährigen Mädchens, das sich nach Online-Mobbing suizidiert hat. Sie kündigte ein System von unterschiedlichen Konto-Typen für unterschiedliche Altersgruppen an und sprach davon, gegen die Macht von Big Tech vorzugehen – im Wesentlichen dürften allerdings v.a. Einschränkungen für User:innen geplant sein.
Wir haben den Gesetzesentwurf samt Begleittexten noch nicht durchgearbeitet und verweisen vorerst auf die ersten Stellungnahmen von netzpolitik.org, dem Chaos Computer Club und Nikolaus Forgó, Vorstand des Instituts für Innovation und Digitalisierung im Recht an der juristischen Fakultät der Universität Wien.
Und dieses Thema, vermutlich mit dem Fokus auf den "EU Kids Act", wird uns – als Gesellschaft und als Suchtpräventionsstelle – wohl noch länger beschäftigen. Wir bleiben dran :)
