Os legisladores dizem que as crianças não estão seguras nas redes sociais. Os CEOs de tecnologia estão de volta a DC esta semana (de novo) prometendo que vão lidar com isso

CNN
,

O Congresso esta semana questionará novamente os CEOs de várias grandes empresas de tecnologia, incluindo o CEO da Meta, Mark Zuckerberg, sobre os danos potenciais que seus produtos podem causar aos adolescentes. Até agora, a resposta na plataforma social tem sido basicamente a mesma: ajudaremos os adolescentes e as famílias a tomarem decisões inteligentes.

Mas agora, com alegações crescentes de que as redes sociais podem estar a prejudicar os utilizadores jovens, incluindo preocupações de que correm o risco de levá-los à depressão ou mesmo ao suicídio, os defensores da segurança online dizem que a reacção é muito baixa. E com a aproximação das eleições presidenciais – e com os legisladores estaduais a tirarem a atenção dos seus homólogos federais – o Congresso está preparado para pressionar as empresas tecnológicas a irem além das ferramentas que introduziram no passado.

Os principais executivos da TikTok, Snap, Discord e X devem testemunhar ao lado de Zuckerberg na audiência do Comitê Judiciário do Senado na quarta-feira. Para alguns, incluindo a CEO do X, Linda Yaccarino, o CEO da Snap, Evan Spiegel, e o CEO da Discord, Jason Citron, a audiência de quarta-feira é o primeiro depoimento perante o Congresso.

Muitos CEOs de tecnologia podem aproveitar a audiência de quarta-feira para promover ferramentas e políticas para proteger as crianças e dar aos pais mais controle sobre as experiências online de seus filhos.

Algumas empresas, como Snap e Discord, disseram à CNN que planejam se distanciar de empresas como a Meta, insistindo que evitem servir aos usuários conteúdo recomendado por algoritmos de uma forma potencialmente viciante ou prejudicial. Caminhos.

No entanto, os pais e os grupos de defesa da segurança online afirmam que muitas das ferramentas disponibilizadas pelas plataformas de redes sociais não vão suficientemente longe – a tarefa de proteger os adolescentes é largamente deixada aos pais e, em alguns casos, aos próprios jovens utilizadores. as plataformas tecnológicas não podem mais ser deixadas à auto-regulação.

Jeff Chester, diretor executivo da organização sem fins lucrativos de proteção ao consumidor online, disse: “O comitê precisa pressionar esses executivos a fazerem mudanças importantes, especialmente separando seus sistemas de publicidade e marketing de serviços que atraem os jovens e são conhecidos pelo público-alvo”. Centro para Democracia Digital.

E a proliferação de ferramentas generativas de inteligência artificial – que poderiam proporcionar aos malfeitores novas formas de criar e difundir conteúdos maliciosos nas redes sociais – só aumenta os riscos para garantir que as funcionalidades de segurança incorporadas nas plataformas tecnológicas por defeito não sejam implementadas.

Várias plataformas importantes, incluindo Meta, Snapchat, Discord e TikTok, introduziram ferramentas de monitoramento que permitem aos pais vincular suas contas às de seus filhos adolescentes para que possam obter informações sobre como estão usando a plataforma e ter algum controle sobre sua experiência.

Algumas plataformas, como Instagram e TikTok, também introduziram lembretes de “faça uma pausa” ou limites de tempo de uso para adolescentes e adicionaram recursos aos seus algoritmos para evitar o envio de adolescentes a conteúdos prejudiciais, como automutilação ou mídia sobre transtornos alimentares.

Este mês, a Meta anunciou uma proposta de projeto de legislação federal que exige que as lojas de aplicativos, e não as empresas de mídia social, verifiquem a idade dos usuários e imponham idades mínimas.

Meta também revelou vários novos esforços de segurança juvenil que incluíam a ocultação de “conteúdo impróprio para a idade”, como postagens discutindo automutilação e distúrbios alimentares em feeds e histórias de adolescentes no Instagram; incentivando os adolescentes a ativar configurações de segurança mais restritivas em seus aplicativos; um “gesto noturno” que incentiva os usuários adolescentes a parar de navegar pelo Instagram tarde da noite; E os adolescentes podem alterar suas configurações de privacidade padrão para impedir o envio de mensagens diretas a pessoas que não seguem ou com quem não estão conectados.

No início deste mês, o Snapchat permitiu que os pais impedissem que seus filhos interagissem com o chatbot My AI do aplicativo e deu aos pais a opção de ter mais visibilidade sobre as configurações de segurança e privacidade de seus filhos. Equipamentos de inspeção e centro familiar também foram expandidos.

A audiência de quarta-feira é o exemplo mais recente de líderes tecnológicos que apareceram no Capitólio para defender sua abordagem de proteção aos usuários jovens desde que o denunciante do Facebook, Francis Haugen, trouxe a questão para o primeiro plano das mentes dos legisladores no final de 2021.

Especialistas em segurança online dizem que algumas das novas atualizações, como a proibição de adultos estranhos enviarem mensagens a adolescentes, são mudanças bem-vindas, mas outras ainda colocam muita pressão sobre os pais para manterem seus filhos seguros.

Alguns também consideram que o facto de as plataformas terem demorado anos a fazer, em alguns casos, atualizações de segurança relativamente básicas, é um sinal de que já não se pode confiar nas empresas para se auto-regularem.

Quanto ao Meta e outras plataformas, “Não deveria ter levado uma década para que os predadores preparassem crianças no Instagram, não deveria ter sido necessária essa enorme quantidade de vergonha… ações judiciais, Mark Zuckerberg não precisa ser arrastado. frente ao Congresso na próxima semana foi.” Tais mudanças, disse Josh Golin, diretor executivo do grupo sem fins lucrativos de proteção infantil FairPlay.

Por sua vez, a Meta e outras plataformas afirmaram que pretendem trilhar um bom caminho: tentar manter os usuários jovens seguros, sem pensar muito sobre qual conteúdo é apropriado para eles assistirem ou quem não é., E, em vez disso, visa capacitar os pais para tomarem decisões.

À medida que os esforços para controlar as plataformas tecnológicas estagnaram no Capitólio, grande parte do impulso para regular as redes sociais saiu dos corredores do Congresso.

Nos últimos anos, Arkansas, Louisiana, Ohio, Utah e outros países aprovaram leis que restringem as redes sociais para adolescentes, em muitos casos estabelecendo idades mínimas para o uso das redes sociais ou proibindo menores de criarem contas. É necessária uma plataforma técnica para obter o consentimento dos pais. . ,

Se estes esforços serão frutíferos dependerá, em última análise, do tribunal.

Muitas destas leis estão a ser activamente contestadas pela indústria tecnológica, que tem argumentado que as leis ameaçam os direitos dos adolescentes da Primeira Emenda ao acesso a informações legais e à recolha de informações sobre idade, incluindo dados potencialmente biométricos. para De uma ampla gama de usuários, incluindo adultos.

Noutros lugares, as ações judiciais apoiadas pelo Estado e pelos consumidores contra empresas estão a aumentar a pressão para regular as plataformas tecnológicas, à medida que as ações judiciais revelam mais sobre o seu funcionamento interno.

“Os processos judiciais servem como um bom local para ver onde isto está a acontecer”, disse Zaman Qureshi, copresidente da coligação liderada por jovens Design It for Us, um grupo de defesa da segurança digital. “Temos todas essas novas informações e evidências… Acho que a situação mudou ou a temperatura mudou.”

Qureshi acrescentou: “Os legisladores estão dolorosamente conscientes, como todos os outros, de que essas pessoas estão voltando para inúmeras audiências”.

A audiência de quarta-feira será a primeira oportunidade para os legisladores investigarem participantes menores da indústria, como X e Discord, sobre seus esforços de segurança juvenil.

O Discord está sob crescente escrutínio devido ao seu papel na hospedagem de documentos confidenciais vazados, um suposto esquema de manipulação de ações e mensagens racistas e violentas de um suspeito de tiroteio em massa.

Discord disse que está trabalhando para educar os legisladores sobre a estrutura básica da plataforma e como ela difere das plataformas mais conhecidas. Discord disse que desde novembro, funcionários da empresa se reuniram com funcionários de mais de uma dúzia de membros do Comitê Judiciário em ambos os lados do corredor.

A audiência dará aos legisladores a chance de questionar pessoalmente o Axe pela primeira vez desde sua aquisição pelo proprietário Elon Musk e as lutas da plataforma contra o discurso de ódio e a segurança da marca. Antes da audiência de quarta-feira, Axe anunciou planos para um novo centro de confiança e segurança localizado em Austin, Texas.

“É bom ter tantos CEOs por aí porque acho que Meta recebe a esmagadora maioria da atenção tanto do Congresso quanto da mídia, mas esses são problemas de todo o setor que exigem soluções de todo o setor”, disse Golin.