Quando as redes sociais surgiram, poucos imaginavam o impacto que elas teriam sobre a saúde mental, o comportamento e a formação de crianças e adolescentes. Anos depois, governos e empresas ainda tentam criar mecanismos para reduzir esses efeitos. Agora, um dos profissionais que participou diretamente da construção desse ambiente digital acredita que a história pode se repetir — e de forma ainda mais intensa — com a inteligência artificial.
O alerta é de Tom Siegel, ex-chefe da área de Trust & Safety do Google. Para ele, a IA tem potencial para causar impactos maiores do que aqueles provocados pelas redes sociais, especialmente entre crianças e adolescentes, caso o desenvolvimento da tecnologia continue avançando sem mecanismos eficazes de proteção.
A declaração foi feita após sua entrada no Youth AI Safety Institute, iniciativa criada pela organização Common Sense Media para desenvolver padrões independentes de avaliação da segurança de ferramentas de inteligência artificial destinadas ao público jovem. O projeto reúne especialistas e organizações ligadas ao setor de tecnologia com o objetivo de incentivar práticas mais responsáveis no desenvolvimento dessas plataformas. (Reuters)
Segundo Siegel, a principal preocupação é que empresas de tecnologia repitam os mesmos erros cometidos durante a expansão das redes sociais, quando bilhões de usuários passaram a utilizar essas plataformas antes que existissem regras claras de proteção para menores.
A diferença, segundo ele, é que a inteligência artificial vai muito além da simples exibição de conteúdo. Ferramentas baseadas em IA são capazes de conversar, responder perguntas, lembrar preferências, adaptar respostas e criar vínculos cada vez mais personalizados com seus usuários. Esse nível de interação pode tornar crianças e adolescentes ainda mais suscetíveis à influência dessas tecnologias.
Especialistas apontam que assistentes virtuais e chatbots podem exercer um papel semelhante ao de um amigo ou conselheiro, principalmente entre usuários mais jovens. Sem supervisão adequada, isso pode favorecer dependência emocional, reduzir o pensamento crítico e influenciar decisões importantes do cotidiano.
Outro ponto levantado pelo ex-executivo é a necessidade de criar mecanismos de verificação de idade mais eficientes. Atualmente, muitas plataformas dependem apenas da informação fornecida pelo próprio usuário para identificar sua faixa etária, o que facilita o acesso de crianças a ferramentas desenvolvidas para adultos.
Além disso, Siegel defende que novos sistemas de inteligência artificial passem por avaliações independentes de segurança antes de serem disponibilizados ao público. Para ele, deixar que apenas as empresas decidam quando um produto está pronto para uso representa um risco semelhante ao observado no início das redes sociais.
O tema ganha importância justamente no momento em que a inteligência artificial deixa de ser uma tecnologia voltada apenas para profissionais e passa a fazer parte da rotina de milhões de pessoas. Crianças utilizam IA para fazer pesquisas escolares, criar textos, gerar imagens, estudar idiomas e até conversar sobre problemas pessoais.
Essa transformação levanta um novo desafio para famílias, escolas e governos: como aproveitar os benefícios da inteligência artificial sem expor crianças e adolescentes aos riscos que acompanham uma tecnologia ainda em rápida evolução.
A preocupação também aparece entre a população. Uma pesquisa Reuters/Ipsos divulgada nesta semana mostrou que 73% dos americanos acreditam que as empresas de inteligência artificial ainda não fazem o suficiente para evitar riscos associados à tecnologia. O levantamento indica que cresce a pressão por regras mais claras, auditorias independentes e maior transparência no desenvolvimento desses sistemas. (Reuters)
A inteligência artificial promete revolucionar praticamente todos os setores da sociedade, da educação à medicina. No entanto, especialistas alertam que inovação e responsabilidade precisam caminhar juntas. A experiência das redes sociais mostrou que agir apenas depois dos problemas aparecerem pode custar caro. Agora, o desafio é garantir que a próxima grande revolução tecnológica seja construída com segurança desde o início.
