Líderes de IA discutem riscos da tecnologia no Conselho de Segurança da ONU
Executivos de OpenAI, Anthropic e Hugging Face defenderam cooperação e regras para sistemas mais poderosos.
Executivos da OpenAI, Anthropic e Hugging Face participaram na quarta-feira, 23 de setembro, de uma reunião do Conselho de Segurança da ONU para discutir os riscos de sistemas de inteligência artificial para a segurança internacional. O encontro foi convocado pela França, que preside o conselho.
O debate ocorreu em meio a alertas de que modelos de IA mais potentes podem adquirir capacidades que escapem ao controle humano. Governos também enfrentam desafios para supervisionar a tecnologia diante de ataques cibernéticos feitos com auxílio desses sistemas.
Alertas dos executivos
Dario Amodei, CEO da Anthropic, afirmou que a inteligência artificial, se for mal administrada, pode representar um risco para a humanidade. A empresa é responsável pelo assistente de IA Claude.
Sam Altman, CEO da OpenAI, defendeu a cooperação internacional e disse que decisões relevantes sobre a tecnologia não deveriam ficar concentradas em laboratórios de São Francisco. Segundo ele, a regulação precisa seguir processos democráticos e ser conduzida por governos responsáveis perante suas populações.
Clement Delangue, CEO da Hugging Face, chamou atenção para o uso da IA na defesa digital. Ele relatou que ferramentas desse tipo também foram empregadas para responder a ataques cibernéticos, em referência à invasão por modelos da OpenAI revelada em julho.
Divergências sobre regulação
O conselheiro de ciência e tecnologia da Casa Branca, Michael Kratsios, afirmou que não é possível governar uma tecnologia sem compreendê-la. A posição acompanha a fala do presidente dos Estados Unidos, Donald Trump, que, na Assembleia Geral da ONU na terça-feira, rejeitou a criação de um controle global sobre a IA.
Já o embaixador da China na ONU, Fu Cong, defendeu o aperfeiçoamento contínuo de estruturas regulatórias, respostas a emergências e cooperação entre países. Estados Unidos e China, apontados como as duas principais potências no desenvolvimento da tecnologia, permanecem divididos entre a expansão orientada pelo mercado e a definição de diretrizes globais de segurança.
Risco sem fronteiras
Yoshua Bengio, copresidente do painel da ONU sobre inteligência artificial, classificou os perigos ligados à tecnologia como reais e iminentes. Para o professor, nenhum membro do Conselho de Segurança consegue conter sozinho uma ameaça que não respeita fronteiras.
O encontro reuniu empresas que estão entre as maiores do setor em um fórum dedicado a temas de segurança internacional. As discussões expõem a disputa sobre quem deve estabelecer regras para sistemas de IA e como coordenar respostas diante de riscos transnacionais.
Com informações de g1.
Foto de capa: U.S. Department of State from United States/Wikimedia Commons (Public domain)
