Tudo começa mesmo pelo tal projeto Maven. Trata-se de um programa do Pentágono criado há mais de um ano para desenvolver tecnologias de visão computacional que, com base em inteligência artificial, possam melhorar a análise de imagens capturadas sobretudo por drones.
No mês passado, o Google confirmou que está contribuindo com a iniciativa, mais precisamente, dando acesso e suporte ao Pentágono para uso do TensorFlow, sua biblioteca de código aberto para aprendizagem de máquina. Diane Greene, líder da área de computação nas nuvens do Google e integrante do conselho de administração da Alphabet, disse que a colaboração não visa a operação dos drones ou o lançamento de armas autônomas. O projeto Maven, de acordo com o Pentágono, tem como objetivo melhorar os sistemas de reconhecimento de imagens para identificar ameaças e prevenir a morte de pessoas inocentes em ataques. Mas os funcionários não ficaram convencidos. Na carta, eles afirmam que a tecnologia está sendo desenvolvida para as forças armadas e que, quando entregue, poderá facilmente ser empregada em atividades diferentes.
“Não podemos terceirizar as responsabilidades morais das nossas tecnologias. Os valores internos do Google deixam isso claro: cada um de nossos usuários confia em nós. Esse contrato põe em risco a reputação do Google e contraria nossos principais valores”, diz outro trecho da carta. Ao New York Times, um representante do Google respondeu que “todo uso militar de aprendizagem de máquina naturalmente levanta preocupações válidas” e destacou que a companhia está disposta a discutir o assunto. Não ficou claro, porém, se o Google vai rever a sua colaboração com o Pentágono em virtude disso. Aparentemente, não: o representante ressaltou que “a tecnologia visa sinalizar imagens para revisão humana e tem intenção de salvar vidas, além de evitar que pessoas tenham que fazer um trabalho altamente tedioso”.
