É provável que os Estados Unidos tenham usado
inteligência artificial para ter certeza da localização do aiatolá
Quão legítimo é o uso de inteligência artificial numa
guerra? Da semana passada para cá, essa discussão veio para o centro do debate
político americano. E, pela primeira vez, o Vale do Silício rachou. Mais que
isso. O CEO da Anthropic, Dario Amodei, disse “não” ao governo Donald Trump.
Nunca um líder havia dito “não” para esta Casa Branca, bem pelo contrário. No
último ano e pouco, houve um festival de homenagens, elogios e até troféus
dados ao presidente por CEOs da alta tecnologia. Ainda assim, mesmo tendo
havido ruptura formal, a tecnologia da Anthropic fez parte do arsenal americano
neste ataque ao Irã. Em quê? Ainda não sabemos.
Das três principais companhias de IA — na
lista ainda estão OpenAI e Google —, a
Anthropic era a principal fornecedora do Pentágono, o Departamento de Guerra
americano. Mas mantinha uma posição clara, devidamente registrada em contrato,
a respeito dos limites de uso. Sua IA, o Claude, não poderia ser usada em campo
de batalha, nem para ajudar a definir alvos para uso letal à distância. Além
disso, a Anthropic não queria sua tecnologia em armas autônomas, que definem
alvos e atacam, sem participação de humanos na decisão. E, naturalmente, veto
completo para vigilância em massa de cidadãos americanos. (Que seria ilegal,
diga-se.)
Esses usos diversos se dividem em dois grupos. A IA, no
estado atual, já seria bastante útil para agilizar a tomada de decisões durante
uma batalha. Assim como para processar dados que levem à definição dos alvos
ideais para ataques à distância — um ataque desses matou o aiatolá Ali Khamenei
durante o fim de semana. Definir quem está onde, num país tão fechado quanto o
Irã, depende de espiões, naturalmente. E Teerã se tornou a cidade com mais
espiões por habitante do mundo nestes últimos anos. Mas não só. A informação
precisa ser confirmada. Para isso se conta com dados de satélite, fotografias,
conversas interceptadas. É uma massa de informação que, com um modelo
particularmente bom de processamento de dados como o Claude, é imensamente
facilitada sem perder precisão. Não sabemos se os Estados Unidos usaram a IA
para ter certeza da localização do aiatolá no momento do ataque. É bastante
provável que sim.
Outra coisa bastante distinta é o uso desses modelos para
armas autônomas. Um drone que levante voo, vá a algum canto, selecione onde
atacar — e puxe o gatilho por conta própria. Dispare sem que um ser humano
participe da conversa, entenda por que a IA decidiu tal coisa e corrobore se é
mesmo para disparar. Inteligências artificiais falham. Falham feio. Vidas
humanas não deveriam estar “nas mãos” de modelos como os que temos hoje.
É preciso compreender a natureza da Anthropic. Amodei e seu
time estavam na equipe que desenvolveu o GPT 1 e, principalmente, o 2. Foi essa
a primeira versão a deixar claro que IAs eram capazes de sustentar conversas
tal qual seres humanos. Esse núcleo de engenheiros deixou a OpenAI por ter a
impressão de que a empresa era relapsa com questões éticas e de segurança. De
que punha a velocidade de desenvolvimento na frente. Todo o branding da
Anthropic se baseia na ideia de que a segurança, de que responsabilidade ética
são princípios essenciais. De que humanos estarão sempre no comando. Quando o
Pentágono exigiu a remoção de determinadas cláusulas, o comando da empresa se
viu perante uma decisão existencial. Ou rompia com seus princípios fundadores,
ou dizia “não” ao governo Trump. Disse “não”.
A OpenAI disse “sim”. Segundo o CEO Sam Altman, o governo
não usará o GPT para vigilância em massa de cidadãos americanos nem para armas
autônomas. Então, qual é a diferença? Que fronteira a Anthropic se recusou a
ultrapassar, mas a OpenAI topou? É possível que a diferença esteja nas firulas
jurídicas, na maneira como as palavras se arranjam nas frases e abrem espaço a
interpretações diversas. Os dois CEOs sabem, perfeitamente, quem é Donald
Trump. Que ele é imprevisível. Que toma decisões no rompante, com frequência
irresponsavelmente.
Os Estados Unidos não ordenaram um ataque militar que
culmina com a morte de um chefe de Estado no pós-guerra. Operações da CIA, nos
anos 1960, houve. Mas eram secretas, nada assumido. Que se deixe claro:
Khamenei era um dos piores ditadores do mundo. Só nos últimos cinco anos, a ONU
e a Anistia Internacional documentaram estupros em série contra manifestantes,
homens e mulheres, presos nas cadeias iranianas. Uma das vítimas tinha 12 anos.
Chibatadas seguidas de choques elétricos. Em janeiro deste ano, o governo
ordenou que se abrisse fogo, de metralhadoras, contra passeatas. Morreram por
baixo 30 mil pessoas. São raras as ditaduras que abrem fogo aberto contra
passeatas. Nas que tivemos aqui na América Latina, nenhuma fez isso. Ainda
assim, o assassinato de um chefe de Estado é uma linha que não se cruza
impunemente. Abre a porteira para que se faça de novo, de novo e de novo. Ainda
mais quando os critérios de tomada de decisão não estão claros.
A inteligência artificial que os Estados Unidos desenvolvem
estará nas mãos de um governo que toma decisões graves sem objetivo claro e sem
permissão do Congresso? Por que o Pentágono quis extirpar do contrato a
proibição de uso para espionagem em massa de cidadãos americanos?
Essa conversa apenas começou.
Nenhum comentário:
Postar um comentário