Contra algoritmos opressivos e design viciante, os pais nem sempre conseguem acompanhar

Num recente evento do TikTok Filipinas sobre segurança de adolescentes, perguntei ao seu diretor de políticas públicas Yvez Gonzalez, juntamente com um painel de organizações da sociedade civil e criadores de conteúdo que defendem a segurança das crianças nas redes sociais, sobre as recentes conclusões da União Europeia (UE) que determinaram que as principais funcionalidades de design da plataforma eram viciantes e deveriam ser alteradas. 

Gonzalez disse que a empresa-mãe iria recorrer das conclusões e mencionou que têm várias funcionalidades que protegem utilizadores menores de 18 anos, como um limite de 60 minutos na app, controlos parentais sobre conteúdo, visibilidade de seguidores e ter o feed e conteúdo de menores isolado da população maior de 18 anos. "Acreditamos que na indústria, temos uma das proteções mais robustas", disse ele.

A criadora de conteúdo de história Mona Magno-Veluz ofereceu a sua própria perspetiva sobre a questão e destacou que, acima de tudo, a orientação parental é fundamental para o dilema do uso das redes sociais por adolescentes. 

"Concordo que as plataformas todas têm as suas ações implementadas, mas também não podemos remover a nossa responsabilidade dessa equação. Sinto genuinamente que os pais, os adultos na sala, também têm uma responsabilidade quando se trata de contenção no uso das redes sociais. Portanto, acho que não é apenas uma tecnologia, mas também tem de ser abordado na nossa cultura e nas normas sociais", disse Magno-Veluz.

Riyan Portuguez, psicóloga e defensora do bem-estar digital, observou que fatores externos podem contribuir para uma criança se tornar viciada, uma vez que as redes sociais se tornaram uma das formas mais acessíveis de lidar com problemas.

Ela disse: "Normalmente, a forma mais fácil de lidarmos é usar plataformas de redes sociais porque são as mais disponíveis. Por isso é que há vícios, porque sempre que há um problema, stress, usamos o telefone."

Com a disponibilidade constante das redes sociais, é vital que os pais e a família estejam presentes para a criança. "Mas se a comunicação estiver bem na família, se tiver alguém com quem falar fora das redes sociais, pode regulá-lo. Portanto, não é apenas uma questão das redes sociais", disse ela.

A declaração de Portuguez reflete efetivamente o mais recente testemunho do histórico julgamento sobre vício em redes sociais nos EUA da antiga terapeuta da queixosa Kaley, Victoria Burke, na segunda-feira passada, 24 de fevereiro.

Burke identificou problemas de saúde mental da criança e disse que as redes sociais foram um "fator contribuinte" nos seus problemas mentais, mas não atribuiu a culpa inteiramente a elas. Kaley também foi descrita como tendo uma relação tensa com os seus pais divorciados.

Entretanto, numa audiência no Senado local sobre regulamentação das redes sociais, Annalyn Capulong, professora assistente do Departamento de Psicologia da UP Diliman, disse aos legisladores: "Sentro 'yung ambag ng magulang." (A contribuição dos pais é central.)

Mas a própria Capulong reconheceu a realidade de que às vezes os pais dependem de dispositivos e ecrãs para manter uma criança ocupada enquanto tratam de outra tarefa. 

Idealmente, o pai está presente a maior parte do tempo. Sabemos que isso nem sempre é possível, e nem todas as famílias têm uma configuração ideal, como visto no caso Kaley nos EUA.

O que isto significa? Isto significa que uma certa parte da população menor será, literalmente, deixada aos seus próprios dispositivos, à mercê das funcionalidades de design de uma app. Estes são os membros mais vulneráveis da população, e as plataformas devem estar atentas à segurança destes.

"Estamos a tornar a plataforma segura para os nossos utilizadores mais em risco?" deveria idealmente ser a questão que colocam a si mesmas. E dado que a saúde mental e fatores ambientais e familiares afetam as pessoas para além dos seus anos de minoridade, cabe às plataformas abordar este problema — não apenas para menores, mesmo que, por agora, as discussões legais e legislativas estejam focadas nesses.

Meta considera que a mediação parental não é eficaz

Investigação interna, anteriormente não publicada, da Meta, revelada apenas recentemente no julgamento, também descobriu que tanto a supervisão parental como os limites de tempo não são tão eficazes como se acreditava.

O Projeto MYST (Meta and Youth Social Emotional Trends) foi um inquérito a 1.000 adolescentes e pais sobre o uso das redes sociais, que concluiu que "não existe associação entre os relatos parentais ou os relatos de adolescentes sobre supervisão parental, e as medidas de atenção ou capacidade dos adolescentes no inquérito" e que "os fatores parentais e domésticos têm pouca associação com os níveis relatados de atenção dos adolescentes ao seu uso das redes sociais."

Ainda mais vulneráveis são os jovens que estão num ambiente stressante. Diz-se que exibem muito menos controlo sobre o uso das redes sociais, de acordo com os resultados do inquérito. 

Olhando para trás no relatório da UE sobre o TikTok, a Comissão disse que "as medidas atuais no TikTok, particularmente as ferramentas de gestão de tempo de ecrã e ferramentas de controlo parental, não parecem reduzir eficazmente os riscos decorrentes do design viciante do TikTok... são fáceis de dispensar e introduzem fricção limitada."

Isto remete para as funcionalidades de design de uma plataforma de redes sociais — não apenas do TikTok — (scroll infinito, reprodução automática, notificações push, recomendações algorítmicas) que estão cada vez mais a ser descritas como "viciantes" nos EUA e na UE. 

Mesmo nas Filipinas, as palavras "viciante" e "uso compulsivo" já estão em pelo menos dois projetos de lei. O projeto de lei do Senado (SB) 185 define uma plataforma de redes sociais como uma plataforma que emprega entrega de conteúdo algorítmico e tem "funcionalidades viciantes." 

O SB 601 ordena às plataformas que "limitem funcionalidades que aumentem, sustentem ou prolonguem o uso da SMP (plataforma de redes sociais) pela criança, como reprodução automática de média, sistema de recompensas por tempo gasto na plataforma, notificações e outras funcionalidades que resultam em uso compulsivo." 

'Uma opção para abrandar o algoritmo'

Laura Marquez-Garret, homenageada pela TIME nas "100 Pessoas Mais Influentes na Saúde", advogada no Social Media Victims Law Center com sede em Seattle, falou recentemente à Democracy Now. Ela disse que essas funcionalidades de design são na verdade "defeitos", e são esses que devem ser abordados, aquém de uma proibição total. 

"E portanto, em última análise, corrigi-lo — e eles (empresas de redes sociais) sabem disto; está nos seus documentos que estão a tornar-se públicos — eles poderiam remover os mecanismos viciantes. É tão simples como — pense na sua televisão em casa. Temos este comando. Conseguimos baixar o volume, aumentar, mudar de canais. Eles mantiveram esses controlos no back-end. Eles poderiam dar-lhe a opção de abrandar o algoritmo", disse Marquez-Garret. 

"Portanto, eles estão a programar para envolvimento acima de tudo o resto... E no caso de crianças vulneráveis, é mortal", acrescentou. 

O julgamento atual e a tendência de proibições de redes sociais em todo o mundo mostram que há ímpeto contra as empresas tecnológicas. 

Big Tech a fazer lobby agressivamente contra intervenção governamental

E é um ímpeto contra o qual as plataformas têm feito lobby agressivamente.

O que eles querem é "a opção menos má", disse Bram Vranken do Corporate Europe Observatory, um grupo que monitoriza o lobby corporativo, ao New York Times. 

Qual é a opção "menos má"? 

O Times relatou: "O que estas empresas preferem são leis que exigem que os pais, e não os governos, tenham a palavra final sobre os hábitos online das crianças... Os titãs do Silicon Valley estão a fazer lobby agressivamente por uma alternativa às proibições." 

Em vez de uma proibição, as empresas estão a pressionar por uma "Idade Maioritária Digital" na UE que mais uma vez coloca o ónus nos pais para aprovarem se os seus filhos de 15 ou 16 anos podem ou não usar redes sociais. 

Uma vitória aí desvia a atenção mais uma vez do algoritmo e funcionalidades das suas plataformas que criam condições de uso compulsivo — e de uma proposta de Lei de Equidade Digital que proibiria o scroll infinito, reprodução automática e recomendação baseada em envolvimento. 

"Provavelmente exigiria redesigns complexos de plataformas e prejudicaria as suas máquinas de marketing", escreveu o New York Times. 

Atualmente, nas Filipinas, as empresas estão a apoiar uma "estrutura apropriada à idade" semelhante — regras de acesso diferentes para diferentes faixas etárias.

Mas parece não ser muito diferente da "Idade Maioritária Digital" na medida em que a responsabilidade está no pai para fazer cumprir, e exigirá o emprego de processos de verificação de idade que nem sempre são fáceis de fazer cumprir, em vez de abordar as ditas funcionalidades centrais de design.

Portanto, talvez aqui também o foco possa estar nas próprias funcionalidades viciantes.

A denunciante do Facebook Frances Haugen disse à Democracy Now: "Quando temos crianças cujos cérebros estão apenas a ser regados em dopamina por scrollarem o dia todo numa idade tão jovem, isso muda a sua capacidade de ficarem quietas na aula, de interagir significativamente cara a cara com a família ou amigos... no entanto, eles continuam a otimizar para gastar cada vez mais tempo nestas plataformas."

As plataformas sabem o que está em jogo para elas aqui. O que acontece no julgamento dos EUA e nas investigações da UE pode ter um efeito dominó nas plataformas globalmente.

Há evidências de uma população que é vulnerável ao vício em redes sociais, seja por causa de uma vida familiar difícil ou problemas pessoais de saúde mental. Há também evidências de que as medidas de segurança não têm sido tão eficazes porque as funcionalidades "viciantes" são, por falta de palavras melhores, ainda mais poderosas. 

E no meio disso, as plataformas ainda parecem estar a fazer lobby para manter a responsabilidade nos ombros dos pais, em vez de nos dar a opção de "abrandar o algoritmo". Os pais, as famílias precisam de mais ajuda.  – Rappler.com