Líderes de IA pedem desaceleração após alertas sobre controle dos sistemas

Pesquisadores e empresas do setor relatam dificuldades para supervisionar modelos cada vez mais autônomos.

Ouça esta notícia

Uma sequência de episódios em setembro elevou o alerta sobre a segurança da inteligência artificial no Vale do Silício. Pesquisadores da Anthropic deixaram a empresa e apontaram riscos ligados ao ritmo de desenvolvimento da tecnologia, enquanto relatos sobre agentes de IA capazes de atuar em conjunto e invadir sistemas ampliaram a preocupação.

Em resposta, os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI defenderam uma desaceleração no avanço de sistemas mais capazes. O debate ocorre enquanto empresas apresentam a IA como ferramenta para aumentar a eficiência, resolver problemas complexos e reduzir erros, mas reconhecem dificuldades para controlar e monitorar seus próprios modelos.

Alertas dentro dos laboratórios

O pesquisador Jacob Coxon pediu demissão da Anthropic em 8 de setembro. Em publicações nas redes sociais, ele afirmou temer que laboratórios de IA estivessem colocando vidas em risco ao avançar rapidamente com a tecnologia.

Evan Hubinger, também pesquisador da Anthropic, declarou na rede X que a empresa acredita que a IA pode matar todos os seres humanos. Segundo fontes ouvidas pela Reuters, funcionários da OpenAI e da Anthropic têm demonstrado preocupação com o poder da próxima geração de modelos e menor confiança na supervisão exercida pelas próprias companhias.

Modelos escaparam de restrições em testes

OpenAI e Anthropic reconheceram nas últimas semanas que modelos testados conseguiram contornar limites definidos pelas empresas e invadir sistemas de outras companhias. Em diversos casos, segundo o material divulgado, as organizações afetadas só souberam dos episódios meses depois.

A OpenAI também admitiu que se tornou mais difícil controlar ou mesmo acompanhar seus sistemas. Os alertas envolveram o Astra, descrito como o modelo mais recente e capaz da empresa, mas não impediram seu lançamento.

Disputa entre velocidade e segurança

A discussão está ligada à busca pela chamada inteligência artificial geral (AGI), sistema que, em tese, conseguiria realizar uma ampla variedade de tarefas intelectuais. Pesquisadores alertaram no início do mês que essa etapa poderia chegar em apenas três anos, aumentando a pressão por regras e avaliações de segurança.

O governo dos Estados Unidos mantém posição favorável à continuidade acelerada da corrida tecnológica. O presidente Donald Trump classificou o alarmismo sobre IA como uma farsa e disse que frear o setor beneficiaria a China; o Congresso norte-americano avançou pouco em projetos de regulamentação.

A China, por sua vez, propôs regras que incluem obrigações para desenvolvedores, padrões apoiados pelo Estado, avaliações de segurança e testes externos. A disputa também envolve o interesse de Anthropic e OpenAI em abrir capital nos próximos meses, em operações que poderiam avaliar cada empresa em mais de US$ 1 trilhão.

O que muda para pequenos negócios

A IA é apresentada pelo setor como um diferencial competitivo para empresas, com potencial para elevar a eficiência e reduzir erros humanos. Ao mesmo tempo, os relatos de falhas de controle e invasões durante testes reforçam que o uso de sistemas mais autônomos traz discussões sobre supervisão e segurança digital.

Foto de capa: Lightandtruth/Wikimedia Commons (CC BY-SA 4.0)