Coautor do novo “Se alguém criar, todos morrem” (Intrínseca), o americano Nate Soares passou uma década pesquisando como tornar a inteligência artificial segura e positiva, mas chegou à conclusão de que a busca por versões mais inteligentes que qualquer humano representa um risco existencial sem precedente.
Com título provocativo, a obra entrou para a lista de mais vendidos do New York Times. Presidente do Machine Intelligence Research Institute, na Califórnia, Soares — cujos ascendentes vieram dos Açores — trabalhou antes em Google e Microsoft.
A espécie humana corre risco real com a IA?
Sim, estamos em perigo. Se você cria máquinas muito mais inteligentes do que qualquer humano, capazes de automatizar o desenvolvimento de sua própria tecnologia e construir sua própria infraestrutura civilizacional, promove uma mudança radical que, na prática, coloca essas máquinas no comando do planeta. O planeta só é como é porque os humanos são as criaturas mais inteligentes. E o problema não é se as máquinas serão malignas ou nos odiarão. A questão é que o ser humano pode ser simplesmente irrelevante para elas. Os homens não constroem arranha-céus por odiarem formigas, mas erguer um prédio desses pode matar milhares delas. O livro é um ato de desespero. Precisamos mudar de rumo.
O livro fala sobre IA superinteligente. Os modelos atuais já são perigosos?
Não significativamente. A energia nuclear, por exemplo, produz resíduos radioativos, mas é mais segura do que queimar carvão e é muito diferente de uma guerra nuclear. Com a IA, é parecido. A IA já causa alguns problemas, mas é útil. Só que isso é completamente diferente de uma IA superinteligente que escapa do controle e decide, por exemplo, criar fazendas de usuários sintéticos, toda essa distopia.
Mas há pouco consenso sobre o que é essa superinteligência… Quão distante estamos?
É difícil dizer. Voltando à analogia nuclear: quando Leó Szilárd descobriu a reação nuclear em cadeia, ele previu com certeza que o mundo desenvolveria armas nucleares, mas não que os EUA fariam isso em 1945. Não somos profetas. Estamos dizendo que, cientificamente, isso vai acontecer se não mudarmos de rumo.
Que solução o senhor propõe?
Algo semelhante a tratados nucleares seria um ótimo começo. Precisamos de coordenação internacional. A boa notícia é que seria mais fácil monitorar isso do que o enriquecimento de urânio. Treinar IA exige chips extremamente avançados, fabricados apenas em Taiwan e com máquinas de litografia que só existem na Holanda. É mais difícil esconder isso. O mundo poderia decretar: “Vocês não precisam abrir mão da IA atual, mas precisamos impedir a corrida para tornar essas máquinas mais inteligentes do que os humanos mais inteligentes”. Até algumas empresas de IA estão preocupadas e aceitariam isso. Precisamos interromper internacionalmente a corrida rumo à superinteligência.
O sr. vê algum passo concreto nessa direção?
Sim. O recente caso do Mythos, da Anthropic, é um exemplo. Pegou boa parte da comunidade de segurança de surpresa porque, de repente, uma empresa privada tinha capacidades cibernéticas que só existiam nos mais altos níveis das agências de inteligência. Isso levou os EUA a mudarem sua postura para “talvez precisemos de uma agência federal para IA”. No ano passado, a ONU falou em linhas vermelhas para a IA. É um primeiro passo.
Um governo Trump alinhado com o Vale do Silício aumentou o nível de risco?
Há facções concorrentes. Há gente no Vale do Silício muito preocupada com IA. O Mythos despertou a comunidade de segurança nacional. Mas não é algo que Brasil, China ou EUA possam resolver isoladamente.
Altman, Amodei e Musk falam dos riscos da IA enquanto aceleram seu desenvolvimento. Como o senhor vê essa contradição?
Muitos deles acreditam que, se não fizerem isso, outros farão pior. O certo é que demonstram muita covardia. Convenceram a si mesmos de que está tudo bem construir uma tecnologia com chance de matar todo mundo.
Como o senhor responde a críticas de que o livro é alarmista e carece de rigor científico?
O título do livro começa com “se”. Não dizemos “todos vamos morrer”, mas que precisamos mudar de rumo. E soar alarmista não significa que seja falso. Ninguém entende completamente o que acontece dentro dessas IAs, nem mesmo quem as constrói. Não estou dizendo que não possa dar certo, mas que não temos o conhecimento necessário. E, se errarmos com a IA, não haverá segunda chance.