Gegen unterdrückende Algorithmen und süchtig machendes Design können Eltern nicht immer mithalten

Bei einer kürzlich stattgefundenen TikTok-Veranstaltung auf den Philippinen zum Thema Teenager-Sicherheit fragte ich Yvez Gonzalez, den Leiter für öffentliche Politik, zusammen mit einem Panel von zivilgesellschaftlichen Organisationen und Content-Erstellern, die sich für die Sicherheit von Kindern in sozialen Medien einsetzen, nach den jüngsten Erkenntnissen der Europäischen Union (EU), die feststellten, dass wichtige Design-Merkmale auf der Plattform süchtig machend seien und geändert werden sollten. 

Gonzalez sagte, dass das Mutterunternehmen gegen die Erkenntnisse Berufung einlegen werde, und erwähnte, dass sie mehrere Funktionen haben, die Nutzer unter 18 Jahren schützen, wie z. B. ein 60-Minuten-App-Limit, elterliche Kontrolle über Inhalte, Sichtbarkeit von Followern und die Trennung des Feeds und der Inhalte von Minderjährigen von der Bevölkerung ab 18 Jahren. „Wir glauben, dass wir in der Branche eine der robustesten Schutzmaßnahmen haben", sagte er.

Die Geschichts-Content-Erstellerin Mona Magno-Veluz bot ihre eigene Sichtweise auf die Frage an und betonte, dass vor allem die elterliche Anleitung der Schlüssel zum Rätsel der Social-Media-Nutzung durch Teenager sei. 

„Ich stimme zu, dass die Plattformen alle ihre Maßnahmen getroffen haben, aber wir können unsere Verantwortung auch nicht aus dieser Gleichung entfernen. Ich habe das aufrichtige Gefühl, dass Eltern, die Erwachsenen im Raum, ebenfalls eine Verantwortung haben, wenn es um Zurückhaltung bei der Nutzung sozialer Medien geht. Ich denke also, es ist nicht nur eine Technologie, sondern es muss auch in unserer Kultur und in gesellschaftlichen Normen angegangen werden", sagte Magno-Veluz.

Riyan Portuguez, eine Psychologin und Befürworterin des digitalen Wohlbefindens, stellte fest, dass externe Faktoren dazu beitragen können, dass ein Kind süchtig wird, da soziale Medien zu einer der zugänglichsten Möglichkeiten der Bewältigung geworden sind.

Sie sagte: „Normalerweise ist der einfachste Weg für uns, damit umzugehen, die Nutzung von Social-Media-Plattformen, weil diese am verfügbarsten sind. Deshalb gibt es Süchte, weil jedes Mal, wenn es ein Problem gibt, Stress, nutze das Telefon."

Bei der ständigen Verfügbarkeit von sozialen Medien ist es wichtig, dass Eltern und die Familie für das Kind da sind. „Aber wenn die Kommunikation in der Familie in Ordnung ist, Sie jemanden haben, mit dem Sie außerhalb der sozialen Medien sprechen können, können Sie es regulieren. Es ist also nicht nur ein Problem der sozialen Medien", sagte sie.

Portugez' Aussage spiegelt tatsächlich die jüngste Aussage aus dem wegweisenden Prozess über Social-Media-Sucht in den USA von Klägerin Kaleys ehemaliger Therapeutin Victoria Burke am letzten Montag, dem 24. Februar, wider.

Burke identifizierte psychische Probleme des Kindes und sagte, dass soziale Medien ein „beitragender Faktor" bei ihren psychischen Problemen waren, aber sie machte ihnen nicht die gesamte Schuld. Kaley wurde auch als jemand beschrieben, der eine angespannte Beziehung zu ihren geschiedenen Eltern hat.

Währenddessen sagte Annalyn Capulong, Assistenzprofessorin an der Abteilung für Psychologie der UP Diliman, bei einer lokalen Senatsanhörung zur Regulierung sozialer Medien zu den Gesetzgebern: „Sentro 'yung ambag ng magulang." (Der Beitrag der Eltern ist zentral.)

Aber Capulong selbst erkannte die Realität an, dass Eltern manchmal auf Geräte und Bildschirme angewiesen sind, um ein Kind zu beschäftigen, während sie eine andere Aufgabe erledigen. 

Idealerweise ist das Elternteil die meiste Zeit anwesend. Wir wissen, dass das nicht immer möglich ist und nicht alle Familien eine ideale Situation haben, wie im Fall von Kaley in den USA zu sehen ist.

Was bedeuten diese? Das bedeutet, dass ein bestimmter Teil der minderjährigen Bevölkerung buchstäblich sich selbst überlassen wird, der Gnade der Design-Merkmale einer App ausgeliefert. Dies sind die verletzlichsten Mitglieder der Bevölkerung, und Plattformen müssen auf die Sicherheit dieser abgestimmt sein.

„Machen wir die Plattform für unsere am stärksten gefährdeten Nutzer sicher?" sollte idealerweise die Frage sein, die sie sich selbst stellen. Und da psychische Gesundheit sowie umwelt- und familienbedingte Faktoren Menschen über ihre minderjährigen Jahre hinaus betreffen, liegt es an den Plattformen, dieses Problem anzugehen – nicht nur für Minderjährige, auch wenn sich rechtliche und gesetzgeberische Gespräche im Moment auf diese konzentrieren.

Meta findet elterliche Vermittlung nicht effektiv

Interne, bisher unveröffentlichte Forschung von Meta, die erst kürzlich im Prozess offengelegt wurde, hatte auch festgestellt, dass sowohl elterliche Aufsicht als auch Zeitlimits nicht so effektiv sind wie angenommen.

Project MYST (Meta and Youth Social Emotional Trends) war eine Umfrage unter 1.000 Teenagern und Eltern zur Nutzung sozialer Medien, die zu dem Schluss kam: „Es gibt keine Assoziation zwischen entweder Berichten der Eltern oder Berichten von Teenagern über elterliche Aufsicht und den Umfragemaßen der Teenager zu Aufmerksamkeit oder Fähigkeit" und dass „elterliche und familiäre Faktoren wenig Verbindung zu den berichteten Aufmerksamkeitsniveaus der Teenager in Bezug auf ihre Social-Media-Nutzung haben."

Noch verletzlicher sind Jugendliche, die sich in einer stressigen Umgebung befinden. Laut den Umfrageergebnissen zeigen sie weit weniger Kontrolle über die Nutzung sozialer Medien. 

Beim Rückblick auf den EU-Bericht über TikTok sagte die Kommission: „Aktuelle Maßnahmen auf TikTok, insbesondere die Screentime-Management-Tools und elterlichen Kontrollwerkzeuge, scheinen die Risiken, die von TikToks süchtig machendem Design ausgehen, nicht effektiv zu reduzieren ... sie sind leicht abzulehnen und führen zu begrenzter Reibung."

Es geht zurück auf die Design-Merkmale einer Social-Media-Plattform – nicht nur TikTok – (unendliches Scrollen, Autoplay, Push-Benachrichtigungen, algorithmische Empfehlungen), die in den USA und der EU zunehmend als „süchtig machend" beschrieben werden. 

Sogar auf den Philippinen stehen die Worte „süchtig machend" und „zwanghafte Nutzung" bereits in mindestens zwei Gesetzesentwürfen. Senate Bill (SB) 185 definiert eine Social-Media-Plattform als eine Plattform, die algorithmische Inhaltsbereitstellung einsetzt und „süchtig machende Funktionen" hat. 

SB 601 ordnet Plattformen an, „Funktionen zu begrenzen, die die Nutzung der SMP (Social-Media-Plattform) durch das Kind erhöhen, aufrechterhalten oder verlängern, wie z. B. automatisches Abspielen von Medien, Belohnungssysteme für auf der Plattform verbrachte Zeit, Benachrichtigungen und andere Funktionen, die zu zwanghafter Nutzung führen." 

'Eine Option, den Algorithmus zu verlangsamen'

Die TIME „100 einflussreichsten Menschen im Gesundheitswesen"-Preisträgerin Laura Marquez-Garret, eine Anwältin beim in Seattle ansässigen Social Media Victims Law Center, sprach kürzlich mit Democracy Now. Sie sagte, dass diese Design-Merkmale eigentlich „Defekte" sind, und dies sind die, die angegangen werden müssen, abgesehen von einem vollständigen Verbot. 

„Und es letztendlich zu beheben – und sie (Social-Media-Unternehmen) wissen das; es steht in ihren Dokumenten, die öffentlich werden – sie könnten die süchtig machenden Mechanismen entfernen. Es ist so einfach wie – denken Sie an Ihr Fernsehgerät zu Hause. Wir haben diese Fernbedienung. Wir können die Lautstärke herunter-, hochstellen, die Kanäle wechseln. Sie haben diese Kontrollen im Backend behalten. Sie könnten Ihnen die Option geben, den Algorithmus zu verlangsamen", sagte Marquez-Garret. 

„Sie programmieren also vor allem auf Engagement ... Und im Fall von verletzlichen Kindern ist es tödlich", fügte sie hinzu. 

Der aktuelle Prozess und der Trend von Social-Media-Verboten weltweit zeigen, dass es Schwung gegen die Technologieunternehmen gibt. 

Big Tech lobbyiert aggressiv gegen staatliche Eingriffe

Und es ist Schwung, gegen den Plattformen aggressiv lobbyieren.

Was sie wollen, ist „die am wenigsten schlechte Option", sagte Bram Vranken vom Corporate Europe Observatory, einer Gruppe, die Unternehmenslobbying überwacht, der New York Times. 

Was ist die „am wenigsten schlechte" Option? 

Die Times berichtete: „Was diese Unternehmen bevorzugen, sind Gesetze, die verlangen, dass Eltern, nicht Regierungen, das letzte Wort über die Online-Gewohnheiten von Kindern haben ... Silicon-Valley-Titanen lobbyieren aggressiv für eine Alternative zu Verboten." 

Anstelle eines Verbots drängen die Unternehmen auf ein „Digitales Volljährigkeitsalter" in der EU, das die Verantwortung wieder auf die Eltern legt, zu genehmigen, ob ihre 15- oder 16-jährigen Kinder soziale Medien nutzen können oder nicht. 

Ein Sieg dort lenkt die Aufmerksamkeit wieder einmal weg von den Algorithmen und Funktionen ihrer Plattformen, die Bedingungen für zwanghafte Nutzung schaffen – und weg von einem vorgeschlagenen Digital Fairness Act, der unendliches Scrollen, Autoplay und engagement-basierte Empfehlungen verbieten würde. 

„Es würde wahrscheinlich komplexe Neugestaltungen von Plattformen erfordern und ihre Marketingmaschinen behindern", schrieb die New York Times. 

Derzeit unterstützen die Unternehmen auf den Philippinen einen ähnlichen „altersgerechten Rahmen" – unterschiedliche Zugangsregeln für unterschiedliche Altersgruppen.

Aber es scheint sich nicht so sehr vom „Digitalen Volljährigkeitsalter" zu unterscheiden, da die Verantwortung bei den Eltern liegt, durchzusetzen, und es wird die Anwendung von Altersverifizierungsprozessen erfordern, die nicht immer einfach durchzusetzen sind, anstatt die genannten Kern-Design-Merkmale anzugehen.

Vielleicht kann sich also auch hier der Fokus auf die süchtig machenden Funktionen selbst richten.

Die Facebook-Whistleblowerin Frances Haugen sagte Democracy Now: „Wenn Sie Kinder haben, deren Gehirne in so jungem Alter den ganzen Tag über vom Scrollen einfach in Dopamin getränkt werden, ändert es ihre Fähigkeit, im Unterricht still zu sitzen, sich von Angesicht zu Angesicht bedeutungsvoll mit ihrer Familie oder Freunden zu interagieren ... dennoch optimieren sie weiterhin darauf, mehr und mehr Zeit auf diesen Plattformen zu verbringen."

Plattformen wissen, was hier für sie auf dem Spiel steht. Was beim US-Prozess und bei EU-Untersuchungen passiert, kann weltweit einen Welleneffekt auf die Plattformen haben.

Es gibt Beweise für eine Bevölkerung, die anfällig für Social-Media-Sucht ist, sei es wegen eines schwierigen Familienlebens oder persönlicher psychischer Probleme. Es gibt auch Beweise dafür, dass Sicherheitsmaßnahmen nicht so effektiv waren, weil die „süchtig machenden" Funktionen, mangels besserer Worte, immer noch mächtiger sind. 

Und inmitten all dessen scheinen Plattformen immer noch zu lobbyieren, um die Verantwortung auf den Schultern der Eltern zu behalten, anstatt uns die Option zu geben, „den Algorithmus zu verlangsamen". Eltern, Familien brauchen mehr Hilfe.  – Rappler.com