O regulador britânico Ofcom vai auditar algoritmos das redes sociais para proteger menores de conteúdos nocivos, no âmbito da Lei de Segurança Online do Reino Unido. A diretora da entidade, Melanie Dawes, afirmou ao Financial Times que as plataformas enfrentarão sanções se não provarem que impedem jovens com menos de 18 anos de ver material prejudicial.
Algoritmos sob vigilância
De acordo com o FT, a Ofcom poderá ordenar “auditorias algorítmicas” a plataformas como YouTube, Facebook e Roblox. O objetivo é avaliar se os seus sistemas de recomendação e feeds protegem adequadamente as crianças.
Dawes explicou que o regulador quer confirmar se as empresas alteraram o funcionamento dos algoritmos para evitar a exposição a conteúdos adultos e se existem mecanismos contra aliciamento online.
Estamos focados em garantir que os feeds infantis aceitem apenas perfis de outras crianças e não permitam mensagens diretas de desconhecidos
Melanie Dawes, Diretora da Ofcom
Veja também: Adolescentes em risco com apps de IA, alerta relatório
Verificação de idade e IA generativa
Desde julho, as novas regras da Online Safety Act obrigam todas as plataformas com material adulto a bloquear o acesso de menores. Segundo Dawes, grandes redes e sites pornográficos já implementaram sistemas de verificação de idade, o que levou ao bloqueio de mais de 12 sites de alto risco no Reino Unido.
A Ofcom também mantém diálogo com empresas de inteligência artificial, como a OpenAI, para garantir que chatbots e ferramentas generativas, incluindo o ChatGPT, não exponham crianças a material pornográfico ou prejudicial.
Veja também: Violação expõe 184 milhões de contas Google, Meta e mais
Cooperação internacional e resistência política
Dawes confirmou que a Ofcom reuniu-se com o Comité Judicial da Câmara dos Representantes dos EUA para discutir a aplicação da lei e os riscos associados à IA. Apesar de críticas de políticos republicanos, que veem a lei como uma ameaça à liberdade de expressão, a responsável assegura que o público britânico apoia fortemente as medidas de proteção infantil.
Impacto inicial
Desde a introdução da verificação de idade, o tráfego para sites pornográficos caiu cerca de um terço. Ainda assim, a Ofcom investiga 69 sites que não cumpriram as novas regras e alerta que o uso de VPNs por menores será monitorizado.