Mais de 560 funcionários do Google assinaram uma carta aberta ao CEO Sundar Pichai pedindo que este CEO não permita que o governo dos Estados Unidos use a sua tecnologia de IA (inteligência artificial) em operações militares sigilosas.
“Queremos ver a IA beneficiar a humanidade, não sendo usada de formas desumanas ou extremamente prejudiciais”, dizia a carta, que foi enviada a Pichai nesta segunda-feira (27). “Isso inclui armas autónomas letais e vigilância em massa, mas vai além.”
“A única forma de garantir que o Google não seja associado a tais danos é rejeitar qualquer carga de trabalho sigilosa”, continuava. “Caso contrário, tais usos podem ocorrer sem o nosso conhecimento ou poder de impedi-los.”
As grandes empresas de tecnologia estão sob pressão para se posicionarem sobre o uso militar e de inteligência dos seus produtos de IA após o embate entre o Pentágono e a startup de IA Anthropic.
O CEO da Anthropic, Dario Amodei, recusou-se a dar ao governo acesso irrestrito aos seus modelos. Este insistiu em salvaguardas para impedir que recursos fossem usados em armas autónomas letais e vigilância doméstica em massa.
Em resposta, o governo classificou a Anthropic como risco à cadeia de suprimentos e o presidente Donald Trump ordenou que todos os departamentos governamentais parassem de usar o Claude, chatbot da empresa. A Anthropic contestou a classificação na Justiça.
Os funcionários da Alphabet estão a reagir a relatos de que o Google está perto de fechar um acordo com o Departamento de Defesa que permitirá que o seu modelo Gemini seja usado em operações sigilosas sem as salvaguardas formais que a Anthropic exigiu.
Uma pessoa que atua na campanha diz que situação não envolve apenas os militares, mas também a ameaça da vigilância com IA para a liberdade civil dos americanos, citando como a tecnologia é usada para apoiar o autoritarismo na China.
Funcionários da DeepMind, o laboratório de IA do Google, coordenaram a carta a Pichai, disseram duas das pessoas envolvidas. Dois quintos dos signatários trabalham na divisão de IA, com uma parcela semelhante na unidade de Cloud e o restante espalhado pela Alphabet.
Mais de 18 funcionários seniores —incluindo diretores principais, diretores e vice-presidentes— assinaram, disseram as fontes. Cerca de dois terços optaram por ser identificados, com o restante decidindo permanecer anônimo.
O cientista-chefe da DeepMind, Jeff Dean, tem sido o executivo mais vocal sobre o assunto até agora. Em fevereiro, este postou no X que “A vigilância em massa viola a Quarta Emenda e tem um efeito inibidor sobre a liberdade de expressão”. Ele acrescentou que ainda apoia um compromisso de 2018 de banir armas autônomas letais.
O Google já enfrentou protestos anteriores contra seus vínculos militares. Em 2018, vários funcionários pediram demissão e milhares assinaram uma petição contra o Projeto Maven, que usava IA para melhorar ataques com drones. O Google não renovou o contrato e prometeu não trabalhar com IA para armas ou vigilância.
No entanto, no ano passado, a empresa abandonou discretamente essa posição numa revisão dos seus “Princípios de IA”. A atualização excluiu a promessa de não buscar “armas ou outras tecnologias cujo principal propósito ou implementação seja causar ou facilitar diretamente danos a pessoas”.
O cofundador Demis Hassabis justificou a decisão dizendo que o mundo mudou desde que o Google adquiriu a DeepMind em 2014. Múltiplos modelos de fronteira agora estão amplamente disponíveis e as empresas de tecnologia dos EUA têm o dever de ajudar o país a se defender.
Uma segunda pessoa que assina a carta afirma que o grupo se inspirou no protesto anti-Maven e acrescenta que há quase consenso contra o programa na DeepMind.
A OpenAI enfrentou uma reação negativa de seus pesquisadores por fechar o seu próprio acordo com o governo logo após a proibição da Anthropic. Depois disso, o CEO Sam Altman desculpou-se, apelidando as suas ações de “oportunistas e descuidadas”.
“Tomar a decisão errada agora causaria danos irreparáveis à reputação, aos negócios e ao papel do Google no mundo”, conclui a carta. “Sabemos por nossa própria história que nossos líderes podem fazer as escolhas certas, para nós mesmos e para o mundo, quando há muito em jogo.”
