Ética da inteligência artificial: empresas buscam orientação religiosa

A Anthropic afirma ter ouvido representantes de mais de 15 grupos religiosos e interculturais; especialistas alertam para o risco de simplificar tradições distintas.

Empresas de tecnologia têm recorrido a filósofos e representantes religiosos para discutir como orientar decisões de sistemas de inteligência artificial. Segundo o g1, a Anthropic informou em maio que conversou com especialistas de mais de 15 grupos religiosos e interculturais para tratar de ética da IA.

Em uma reunião da empresa, os participantes primeiro receberam explicações sobre os modelos e depois debateram questões morais levantadas pela tecnologia. O movimento busca princípios para orientar os sistemas, mas estudiosos ouvidos pelo g1 alertam que tradições religiosas não se resumem a regras universais e podem ter visões conflitantes.

O que é ética na inteligência artificial?

Ética na inteligência artificial é a discussão sobre os princípios que devem orientar o desenvolvimento e as decisões de sistemas de IA. A tecnologia inclui programas capazes de aprender com dados e executar tarefas, como produzir textos; no caso dos grandes modelos de linguagem, eles geram respostas a partir de padrões encontrados em conteúdos humanos, inclusive textos religiosos.

Na prática, as empresas tentam definir quais valores devem influenciar as respostas dos sistemas. A ideia de recorrer à religião é encontrar referências morais, mas não há consenso de que seja possível extrair delas um conjunto único de orientações.

Por que empresas de IA consultam religiões?

As empresas buscam ampliar as perspectivas consideradas ao desenvolver sistemas e responder a preocupações sobre os efeitos da inteligência artificial. Sam Altman, presidente-executivo da OpenAI, defendeu que o ChatGPT reflita uma espécie de média das visões morais da humanidade, segundo uma declaração feita no ano anterior à reportagem.

A Anthropic relatou que seus encontros reuniram acadêmicos, clérigos, filósofos e especialistas em ética. Representantes da Meta, do Google e da Amazon também se encontraram com pessoas ligadas ao Vaticano, enquanto a Microsoft ampliou o contato com comunidades religiosas, de acordo com o g1.

Quais são os riscos de usar a religião para orientar a IA?

Um risco apontado por especialistas é reduzir tradições diferentes a um catálogo de princípios morais e, com isso, apagar características próprias de cada uma. O antropólogo Webb Keane, da Universidade de Michigan, observa que religião também envolve práticas, relações e contextos culturais e políticos.

Paolo Carozza, integrante do Conselho de Supervisão independente da Meta, teme que a combinação de diferentes perspectivas produza uma visão genérica ou favoreça tradições ocidentais. Outros estudiosos também questionam tratar as religiões como sistemas claramente separados e comparáveis: essa classificação, segundo eles, foi consolidada por acadêmicos ocidentais e não corresponde necessariamente às categorias usadas pelas próprias comunidades.

Como foi a consulta da Anthropic?

A reunião descrita pela filósofa Meghan Sullivan teve duas etapas: a empresa apresentou seus modelos em linguagem simples, e depois os participantes discutiram questões morais relacionadas à IA. Entre os temas levantados estavam o acesso de crianças a chatbots para apoiar a alfabetização e a questão de os seres humanos terem alma.

Sullivan disse ter se impressionado com a profundidade das conversas. A Anthropic afirmou que pretende ampliar o grupo de pessoas consultadas, segundo uma publicação de maio mencionada pelo g1.