Do Counterpunch
Getty e Unsplash+ (em inglês).
A história se repete, primeiro como tragédia, depois como farsa. O aforismo de Marx parece novo presciente. Na semana passada, os Estados Unidos. O Departamento de Energia emitiu uma chamada jingoísta nas mídias sociais para um “novo Projeto Manhattan”, desta vez para vencer a chamada corrida pela supremacia da inteligência artificial.
Mas o Projeto Manhattan não é um projeto. É um aviso – um conto de advertência do que acontece quando a ciência é recrutada para o serviço do poder estatal, quando a investigação aberta dá lugar à rivalidade nacionalista e quando o culto do progresso é separado da responsabilidade ética. Isso mostra como o sigilo gera medo, corrói a confiança pública e mina as instituições democráticas.
O Projeto Manhattan pode ter sido, como afirmou o presidente Truman, “a maior aposta científica da história”. Mas também representou uma aposta com a continuidade da vida na Terra. Ele trouxe o mundo à beira da aniquilação – um abismo no qual ainda espreitamos. Um segundo projeto desse tipo pode nos empurrar para o limite.
Os paralelos entre as origens da era atômica e a ascensão da inteligência artificial são impressionantes. Em ambos, os próprios indivíduos na vanguarda da inovação tecnológica também estavam entre os primeiros a soar o alarme.
Durante a Segunda Guerra Mundial, os cientistas atômicos levantaram preocupações sobre a militarização da energia nuclear. No entanto, sua dissidência foi suprimida sob as restrições do sigilo em tempo de guerra, e sua participação contínua foi justificada pelo imperativo percebido de construir a bomba antes da Alemanha nazista. Na realidade, essa ameaça diminuiu em grande parte quando o Projeto Manhattan ganhou força, já que a Alemanha já havia abandonado seus esforços para desenvolver uma arma nuclear.
O primeiro estudo técnico que avaliou a viabilidade da bomba concluiu que ela poderia realmente ser construída, mas advertiu que “devido à propagação de substâncias radioativas com o vento, a bomba provavelmente não poderia ser usada sem matar um grande número de civis, e isso pode torná-la inadequada como arma ...”
Quando, em 1942, os cientistas teorizaram que a primeira reação em cadeia atômica poderia inflamar a atmosfera, Arthur Holly Compton lembrou-se de pensar que, se tal risco se mostrou real, então “essas bombas nunca devem ser feitas ... melhor para aceitar a escravidão dos nazistas do que correr uma chance de desenhar a cortina final sobre a humanidade”.
Leo Szilard elaborou uma petição pedindo ao presidente Truman que se abstenha de usá-la contra o Japão. Ele alertou que tais bombardeios seriam moralmente indefensáveis e estrategicamente míopes: “Uma nação que estabelece o precedente de usar essas forças recém-libertadas da natureza para fins de destruição”, escreveu ele, “pode ter que arcar com a responsabilidade de abrir a porta para uma era de devastação em uma escala inimaginável”.
Hoje, não podemos nos esconder por trás do pretexto da guerra mundial. Não podemos alegar ignorância. Também não podemos invocar o espectro de um adversário existencial. Os avisos em torno da inteligência artificial são claros, públicos e inequívocos.
Em 2014, Stephen Hawking advertiu que “o desenvolvimento da inteligência artificial completa poderia significar o fim da raça humana”. Em anos mais recentes, Geoffrey Hinton, referido como o “padrinho da IA”, renunciou ao Google, citando preocupações crescentes sobre o “risco existencial” representado pelo desenvolvimento descontrolado da IA. Logo depois, uma coalizão de pesquisadores e líderes da indústria emitiu uma declaração conjunta afirmando que “mitigar o risco de extinção da IA deve ser uma prioridade global ao lado de outros riscos de escala social, como pandemias e guerra nuclear”. Nessa época, uma carta aberta, assinada por mais de mil especialistas e dezenas de milhares de outros, pediu uma pausa temporária no desenvolvimento da IA para refletir sobre sua trajetória e consequências a longo prazo.
No entanto, a corrida para desenvolver uma inteligência artificial cada vez mais poderosa continua inabalável, impulsionada menos pela previsão do que pelo medo de que a interrupção do progresso signifique ficar para trás dos rivais, particularmente da China. Mas diante de riscos tão profundos, é preciso perguntar: vencer o quê, exatamente?
Refletindo sobre o fracasso semelhante para enfrentar os perigos do avanço tecnológico em seu próprio tempo, Albert Einstein advertiu: “o poder desencadeado do átomo mudou tudo, exceto o nosso modo de pensar, e assim nos desviamos para uma catástrofe sem paralelo”. Suas palavras não são menos urgentes hoje.
A lição deve ser óbvia: não podemos nos dar ao luxo de repetir os erros da era atômica. Invocar o Projeto Manhattan como um modelo para o desenvolvimento da IA não é apenas historicamente ignorante, mas também politicamente imprudente.
O que precisamos não é de uma corrida armamentista renovada alimentada pelo medo, competição e sigilo, mas seu oposto: uma iniciativa global para democratizar e desmilitarizar o desenvolvimento tecnológico, que priorize as necessidades humanas, acione a dignidade e a justiça e promova o bem-estar coletivo de todos.
Mais de trinta anos atrás, Daniel Ellsberg, ex-planejador de guerra nuclear que se tornou denunciante, pediu um tipo diferente de Projeto Manhattan. Não construir novas armas, mas desfazer o dano do primeiro e desmantelar as máquinas do juízo final que já temos. Essa visão continua sendo a única política racional e moralmente defensável Projeto Manhattan que vale a pena perseguir.
Não podemos nos dar ao luxo de reconhecer e agir sobre isso apenas em retrospectiva, como foi o caso da bomba atômica. Como Joseph Rotblat, o único cientista a renunciar ao Projeto por motivos éticos, refletiu sobre seu fracasso coletivo:
“A era nuclear é a criação de cientistas... em total desrespeito pelos princípios básicos da ciência... abertura e universalidade. Foi concebido em segredo, e usurpado - mesmo antes do nascimento - por um estado para dar-lhe domino político. Com tais defeitos congênitos, e sendo nutrido por um exército de Dr. Estranhos, não é de admirar que a criação se transformou em um monstro... Nós, cientistas, temos muito a responder.”
Se o caminho em que estamos leva ao desastre, a resposta é não acelerar. Como os médicos Bernard Lown e Evgeni Chazov alertaram durante o auge da corrida armamentista da Guerra Fria: “Ao correr em direção a um precipício, é progresso parar”.
Devemos parar não da oposição ao progresso, mas de buscar um tipo diferente de progresso: um tipo enraizado na ética científica, um respeito pela humanidade e um compromisso com a nossa sobrevivência coletiva.
Se somos sérios sobre as ameaças representadas pela inteligência artificial, devemos abandonar a ilusão de que a segurança está em superar nossos rivais. Como aqueles mais intimamente familiarizados com esta tecnologia alertaram, não pode haver vitória nesta corrida, apenas uma aceleração de uma catástrofe compartilhada.
Até agora, sobrevivemos por pouco à idade nuclear. Mas se deixarmos de dar ouvidos às suas lições e abandonar nossa própria inteligência humana, podemos não sobreviver à era da inteligência artificial.
Nenhum comentário:
Postar um comentário