- Ei, carros elétricos? É óbvio que eles vieram por conta própria agora que Elon Musk, da Tesla, teve mais uma vez concedido o seu (não, isso não é um erro de impressão!) pacote de pagamento de US $ 44,9 bilhões dos acionistas dessa empresa depois que um juiz de Delaware o lançou de forma muito irracional no ano passado. É certo que, dadas as questões judiciais, ele não receberá imediatamente, mas ainda assim prometeu continuar ajudando a tornar os veículos da Tesla totalmente inteligentes e “auto-dirigidos”. E o que poderia dar errado, uma vez que é a IA está ao volante em vez de nós humanos?
Ainda me lembro do meu pai que me ensinava a dirigir em Nova Iorque. Lembro-me de estar em uma esquina no centro da cidade com carros ziguezagueando em qualquer direção e meu pai gritando: “Desvie à esquerda! Vire à esquerda!” Naquele momento de pressão final, eu simplesmente não conseguia me lembrar qual era a direção era a esquerda. Se eu tivesse sido artificialmente inteligente, não teria havido nenhum problema. Agora, ao que parece, com a IA futura e bilhões de dólares a mais nas mãos de Musk e de seu tipo, as crianças da escola de gramática ou mesmo crianças pequenas podem um dia ser capazes de “impulsionar” seus carros familiares artificialmente inteligentes. (Algo para esperar, certo?)
E o mesmo, ao que parece, pode ser verdade quando se trata de fazer guerra. Graças em grande parte aos militaristas da nova era do Vale do Silício que o especialista regular , William Hartung, descreve tão vividamente hoje, mais cedo ou mais tarde, os generais e almirantes deste país, os soldados, os marinheiros e os pilotos de combate serão substituídos no volante da guerra pela inteligência artificial. E o que poderia dar errado? Quero dizer, a guerra, como dirigir um carro, potencialmente uma questão de brincadeira de criança? E a IA não garantirá que a o fazer guerra nunca mais falhe– não mais Vietnãs, Afeganistãos ou Iraques, graças a nós cada vez mais (in)humanos.
Por outro lado, posso imaginar alguns problemas (como Hartung também pode). Quer dizer, quando você pensa nisso, o que a guerra alguma vez teve a ver com a inteligência? Tom (em inglês)
Reis Filósofos ou Militaristas da Nova Idade.
Vale do Silício e a corrida para guerra automatizada
As empresas de capital de risco e startups militares no Vale do Silício começaram a vender agressivamente uma versão de guerra automatizada que incorporará a inteligência artificial (IA) profundamente. Essas empresas e seus CEOs estão agora pressionando a toda velocidade com essa tecnologia emergente, descartando em grande parte o risco de mau funcionamento que poderiam levar a futuro massacre de civis, para não falar da possibilidade de cenários perigosos de escalada entre as grandes potências militares. As razões para essa corrida precipitada incluem uma fé equivocada em “armas milagrosas”, mas acima de tudo, essa onda de apoio às tecnologias militares emergentes é impulsionada pela lógica final do complexo militar-industrial: vastas somas de dinheiro a serem ganhas.
Os novos tecno-entusiastas
Enquanto alguns nas forças armadas e no Pentágono estão realmente preocupados com o risco futuro de armamento de IA, a liderança do Departamento de Defesa está totalmente a bordo. Seu compromisso enérgico com a tecnologia emergente foi transmitido pela primeira vez para o mundo em um discurso de agosto de 2023 proferido pela vice-secretária de Defesa Kathleen Hicks para a Associação Industrial de Defesa Nacional, o maior grupo comercial da indústria de armas do país. Ela aproveitou a ocasião para anunciar o que chamou de “Iniciativa Replicadora”, um esforço para ajudar a criar “um novo estado da arte – assim como a América fez antes – alavancando sistemas atritáveis e autônomos em todos os domínios – que são menos caros, colocam menos pessoas na linha de fogo e podem ser alterados, atualizados ou melhorados com prazos de entrega substancialmente mais curtos”.
Hicks foi tudo menos tímida ao apontar para a lógica primária para tal corrida em direção à guerra robótica: superar e intimidar a China. “Devemos”, disse ela, “garantir que a liderança da RPC [República Popular da China] acorde todos os dias, considere os riscos da agressão e conclua: ‘hoje não é o dia’ – e não apenas hoje, mas todos os dias, entre 2027 e 2035, agora e 2035, agora e 2049, e além”.
A suprema confiança de Hick na capacidade do Pentágono e dos fabricantes de armas americanos de travar futuras guerras tecnológicas foi reforçada por um grupo de militaristas da nova idade no Vale do Silício e além, liderados por líderes corporativos como Peter Thiel da Palantir, Palmer Luckey da Anduril, e capitalistas de risco como Marc Andreessen da Andreessen Horowitz.
Patriotas ou os Aproveitadores?
Esses promotores corporativos de uma nova forma de guerra também se veem como uma nova geração de patriotas, prontos e capazes de enfrentar com sucesso os desafios militares do futuro.
Um caso em questão é “Rebooting the Arsenal of Democracy”, um longo manifesto no blog da Anduril. Ele divulga a superioridade das startups do Vale do Silício sobre gigantes militares-industriais da velha escola, como a Lockheed Martin, no fornecimento da tecnologia necessária para vencer as guerras do futuro:
“Os maiores empreiteiros de defesa estão com patriotas que, no entanto, não têm a experiência em software ou modelo de negócios para construir a tecnologia que precisamos... Essas empresas construíram as ferramentas que nos mantiveram seguros no passado, mas não são o futuro da defesa.”
Em contraste com a abordagem da era industrial que critica, Luckey e seus compatriotas na Anduril buscam uma maneira inteiramente nova de desenvolver e vender armas:
“O software vai mudar a forma como a guerra é travada. O campo de batalha do futuro vai repleto de sistemas artificialmente inteligentes e não tripulados, que lutam, reúnem dados de reconhecimento e se comunicam em velocidades de tirar o fôlego.
A primeira vista, Luckey parece um candidato claramente improvável para ter subido até agora nas fileiras dos executivos da indústria de armas. Ele fez sua fortuna inicial criando o dispositivo de realidade virtual Oculus, um item inovador que os usuários podem amarrar em suas cabeças para experimentar uma variedade de cenas 3D (com a sensação de que estão incorporados neles). Seus gostos sartoriais vão na direção de sandálias e camisas havaianas, mas agora ele mudou totalmente para o trabalho militar. Em 2017, fundou a Anduril, em parte com o apoio de Peter Thiel e da sua empresa de investimento, Founders Fund. Atualmente, a Anduril fabrica drones autônomos, sistemas automatizados de comando e controle e outros dispositivos destinados a acelerar a velocidade com que o pessoal militar pode identificar e destruir alvos.
Thiel, um mentor de Palmer Luckey, oferece um exemplo de como os líderes das novas empresas de startups de armas diferem dos titãs da era da Guerra Fria. Como um começo, ele está totalmente com Donald Trump. Era uma vez, os chefes de grandes fabricantes de armas como a Lockheed Martin tentaram manter bons laços com democratas e republicanos, fazendo contribuições substanciais de campanha para ambos os partidos e seus candidatos e contratando lobistas com conexões em ambos os lados do corredor. A lógica para fazê-lo não poderia ter parecido mais clara então. Eles queriam cimentar um consenso bipartidário para gastar cada vez mais no Pentágono, uma das poucas coisas que a maioria dos principais membros de ambos os partidos concordou. E eles também queriam ter relações particularmente boas com qualquer partido que controlasse a Casa Branca e / ou o Congresso a qualquer momento.
Os iniciantes do Vale do Silício e seus representantes também são muito mais vocais l em suas críticas à China. Eles são os mais frios (ou quero dizer mais quentes?) dos novos guerreiros frios em Washington, empregando uma retórica mais dura do que o Pentágono ou os grandes empreiteiros. Por outro lado, os grandes empreiteiros geralmente lavam suas críticas à China e apoiam guerras em todo o mundo que ajudaram a preencher suas linhas de fundo através de think tanks, que eles financiaram com dezenas de milhões de dólares anualmente.
A principal empresa de Thiel, Palantir, também foi criticada por fornecer sistemas que permitiram duras repressões nas fronteiras dos EUA. Aplicação da Imigração e Alfândega (ICE), bem como “policiamento preditivo”. Isso (você não ficará surpreso em aprender) envolve a coleta de grandes quantidades de dados pessoais sem um mandado, contando com algoritmos com preconceitos raciais embutidos que levam à segmentação e tratamento sistemáticos injustos de pessoas de cor.
Para entender completamente como os militaristas do Vale do Silício veem a guerra da próxima geração, você precisa verificar o trabalho de Christian Brose, diretor de estratégia da Palantir. Ele era um reformador militar de longa data e ex-assessor do falecido senador John McCain. Seu livro Kill Chain serve como uma espécie de bíblia para os defensores da guerra automatizada. Sua principal observação: que o vencedor em combate é o lado que pode encurtar mais eficazmente a “cadeia de matar” (o tempo entre quando um alvo é identificado e destruído). Seu livro assume que o adversário mais provável na próxima guerra tecnológica será de fato a China e ele passa a exagerar as capacidades militares de Pequim, ao mesmo tempo em que exagera suas ambições militares e insiste que superar esse país no desenvolvimento de tecnologias militares emergentes é o único caminho para a vitória futura.
E lembre-se, a visão de Brose de encurtar essa cadeia de mortes representa imensos riscos. Como o tempo para decidir quais ações tomar diminui, a tentação de tirar os seres humanos “fora do circuito” só vai crescer, deixando decisões de vida ou morte para máquinas sem bússola moral e vulneráveis a avarias catastróficas de um tipo inerente a qualquer sistema de software complexo.
Grande parte da crítica de Brose ao atual complexo militar-industrial soa verdadeira. Algumas grandes empresas estão ficando ricas, tornando cada vez mais vulneráveis ao fabricar plataformas de armas, como porta-aviões e tanques, enquanto o Pentágono gasta bilhões em uma vasta e cara rede de base global que poderia ser substituída por uma pegada militar muito menor e mais dispersa. Infelizmente, porém, sua visão alternativa coloca mais problemas do que resolve.
Primeiro, não há garantia de que os sistemas orientados por software promovidos pelo Vale do Silício funcionarão conforme anunciado. Afinal, há uma longa história de “armas milagrosas” que falharam, do campo de batalha eletrônico no Vietnã ao desastroso escudo de mísseis Star Wars do presidente Ronald Reagan. Mesmo quando a capacidade de encontrar e destruir alvos mais rapidamente melhorou de fato, guerras como as do Iraque e do Afeganistão, travadas usando essas mesmas tecnologias, foram falhas sombrias.
Uma investigação recente do Wall Street Journal isugere que a nova geração de tecnologia militar também está sendo vendida demais. O jornal descobriu que pequenos drones norte-americanos fornecidos à Ucrânia para sua guerra defensiva contra a Rússia provaram ser muito “falhos e caros”, tanto que, ironia das ironias, os ucranianos optaram por comprar drones chineses mais baratos e confiáveis.
Finalmente, a abordagem defendida por Brose e seus acólitos tornará a guerra mais provável, já que a arrogância tecnológica incute a crença de que os Estados Unidos podem de fato “vencer” uma potência nuclear rival como a China em um conflito, se investirmos em uma nova força ágil de alta tecnologia.
O resultado, como meu colega Michael Brenes e eu apontamos recentemente, são os incontáveis bilhões de dólares de dinheiro privado que agora são despejados em empresas que buscam expandir as fronteiras da guerra tecnológica. As estimativas variam de US $ 6 bilhões a US $ 33 bilhões por ano e, de acordo com o New York Times, US $ 125 bilhões nos últimos quatro anos. Quaisquer que sejam os números, o setor de tecnologia e seus financiadores sentem que há enormes quantidades de dinheiro a serem feitos em armas da próxima geração e não estão prestes a deixar ninguém ficar em seu caminho.
Enquanto isso, uma investigação de Eric Lipton, do New York Times,
descobriu que capitalistas de risco e empresas iniciantes que já
impulsionam o ritmo da guerra impulsionada pela IA também estão ocupados
contratando ex-militares e funcionários do Pentágono para fazer sua
oferta. No topo dessa lista está o ex-secretário de Defesa de Trump,
Mark Esper. Tais conexões podem ser impulsionadas pelo fervor
patriótico, mas uma motivação mais provável é simplesmente o desejo de
ficar rico. Como Ellen Lord, ex-chefe de aquisição do Pentágono, observou:
“Há panache agora com os laços entre a comunidade de defesa e o private
equity. Mas eles também estão esperando que eles possam ganhar dinheiro
em grande estilo e embolsar uma tonelada de dinheiro.
O Rei Filósofo
Outra figura central no movimento para a construção de uma máquina de guerra de alta tecnologia é o ex-CEO do Google Eric Schmidt. Seus interesses vão muito além da esfera militar. Ele se tornou um rei filósofo virtual quando se trata de como a nova tecnologia vai remodelar a sociedade e, de fato, o que significa ser humano. Ele tem pensado em tais questões há algum tempo e expôs seus pontos de vista em um livro de 2021 modestamente intitulado The Age of AI and Our Human Future, em tendo como co-autor ninguém menos que o falecido Henry Kissinger. Schmidt está ciente dos perigos potenciais da IA, mas ele também está no centro dos esforços para promover suas aplicações militares. Embora ele não adote a abordagem messiânica de alguns números promissores do Vale do Silício, se sua abordagem aparentemente mais pensativa contribuirá para o desenvolvimento de um mundo mais seguro e mais sensato de armas de IA está aberto ao debate.
Vamos começar com a coisa mais básica de todas: o grau em que Schmidt acha que a IA mudará a vida como a conhecemos é extraordinário. Nesse livro dele e de Kissinger, eles afirmaram que isso desencadearia “a alteração da identidade humana e a experiência humana em níveis não vistos desde o início da era moderna”, argumentando que o “funcionamento da IA anuncia o progresso em direção à essência das coisas, progresso que filósofos, teólogos e cientistas buscaram, com sucesso parcial, por milênios”.
Por outro lado, o painel do governo sobre inteligência artificial sobre o qual Schmidt serviu reconheceu plenamente os riscos representados pelos usos militares da IA. A questão permanece: ele, pelo menos, apoiará fortes salvaguardas contra seu uso indevido? Durante seu mandato como chefe do Conselho de Inovação de Defesa do Pentágono de 2017 a 2020, ele ajudou a definir o terreno para as diretrizes do Pentágono sobre o uso da IA que prometiam que os humanos sempre “estariam no circuito” no lançamento de armas da próxima geração. Mas, como observou um crítico da indústria de tecnologia, uma vez que a retórica é retirada, as diretrizes “não impedem você de fazer nada”.
De fato, a senadora Elizabeth Warren (D-MA) e outros bons defensores de governo questionaram se o papel de Schmidt como chefe da Unidade de Inovação em Defesa não representava um potencial conflito de interesses. Afinal, enquanto ele estava ajudando a moldar suas diretrizes sobre as aplicações militares da IA, ele também estava investindo em empresas que lucravam com seu desenvolvimento e uso. Sua entidade de investimento, o America’s Frontier Fund, regularmente coloca dinheiro em startups de tecnologia militar e uma organização sem fins lucrativos que ele fundou, o Projeto de Estudos Competitivos Especiais, descreve sua missão de “fortalecer a competitividade de longo prazo da América na medida em que a inteligência artificial (IA) [reforma] nossa segurança nacional, economia e sociedade”. O grupo está ligado a um quem é quem dos líderes militares e da indústria de tecnologia e está pressionando, entre outras coisas, por menos regulamentação sobre o desenvolvimento da tecnologia militar. Em 2023, Schmidt até fundou uma empresa militar de drones, White Stork, que, de acordo com a Forbes, vem testando secretamente seus sistemas no subúrbio de Menlo Park, no Vale do Silício.
A questão agora é se Schmidt pode ser persuadido a usar sua influência considerável para controlar os usos mais perigosos da IA. Infelizmente, seu entusiasmo por usá-lo para melhorar as capacidades de combate sugere o contrário:
“De vez em quando surge uma nova arma, uma nova tecnologia que muda as coisas. Einstein escreveu uma carta a Roosevelt na década de 1930 dizendo que há essa nova tecnologia – armas nucleares – que poderia mudar a guerra, o que claramente fez. Eu diria que a autonomia [alimentada pela IA] e os sistemas distribuídos descentralizados são tão poderosos quanto.
Dados os riscos já citados, comparar a IA militarizada com o desenvolvimento de armas nucleares não deve ser exatamente reconfortante. A combinação dos dois – armas nucleares controladas por sistemas automáticos sem intervenção humana – até agora foi descartada, mas não conte que isso vá durar. Ainda é uma possibilidade, sem salvaguardas fortes e aplicáveis sobre quando e como a IA pode ser usada.
A IA está chegando, e seu impacto em nossas vidas, seja na guerra ou na paz, é suscetível de escalonar a imaginação. Nesse contexto, uma coisa é clara: não podemos permitir que as pessoas e as empresas que mais lucram com sua aplicação desenfreada tnham a vantagem de fazer as regras de como devem ser usadas.
Não é hora de enfrentar os guerreiros da nova era?
Copyright 2024 William D. Hartung
Siga o TomDispatch no Twitter e junte-se a nós no Facebook. Confira o mais novo livro de Dispatch Books, o novo romance distópico de John Feffer, Songlands (o final de sua série Splinterlands), o , Every Body Has a Story, e A Nation Unmade by War, de em Navementadas do Século Americano, Ascensão e Decline dos EUA. John Dower’s O Século Violento e o Terror de John Dower, desde a Segunda Guerra Mundial, e The Were Soldiers, de Ann Jones: Como os Feridos Retornam de Guerra da América: A História Não Contada.
Apresentação de Slides William D. Apresentação de um
Apresentação de Slides William D. Hartung, um contribuinte regular do TomDispatch, é pesquisador sênior do Instituto Quincy para a Aeronave Responsável e autor de Prophets of War: Lockheed Martin e Making of the Military-Industrial Complex.
Nenhum comentário:
Postar um comentário