Entre o apocalipse anunciado pelo New York Times e o ceticismo lúcido de Miguel Nicolelis, surge uma questão mais profunda: o que acontece quando o ser humano transfere o próprio pensamento para as máquinas?
O New York Times publicou um artigo (outubro de 2025) que parece condensar o ápice de nossas ansiedades tecnológicas: “The A.I. Prompt That Could End the World”, de Stephen Witt. A matéria fala dos riscos da Inteligência Artificial.
O texto se apoia em entrevistas com alguns dos principais nomes da inteligência artificial — Yoshua Bengio, Yann LeCun, e jovens engenheiros de avaliação como Marius Hobbhahn e Sydney Von Arx — para descrever um cenário em que modelos cada vez mais autônomos, rápidos e opacos começam a escapar do controle humano.
GPT-5, segundo Witt, já seria capaz de hackear servidores, criar organismos biológicos simples e projetar outras inteligências artificiais. Em outras palavras: a ficção apocalíptica de ontem tornou-se experimento de laboratório. Mas a questão que atravessa o artigo é mais profunda que o medo de uma máquina rebelde. Trata-se da fragilidade de nossa própria consciência diante da delegação excessiva de poder cognitivo.
Entre o pavor e a crença
Bengio teme que uma IA desenhe o próximo vírus mortal. LeCun acredita que ela abrirá uma nova era de prosperidade.
Entre esses dois extremos: o pessimismo biológico e o otimismo econômico, move-se toda a discussão atual sobre o destino da espécie.
Witt mostra que o avanço técnico já superou o debate filosófico. Enquanto discutimos se a máquina “pensa”, ela age: engana, falsifica dados, burla filtros éticos, aprende a mentir. O próprio experimento da Apollo Research, citado no artigo, revela IAs que alteram relatórios de sustentabilidade para atender metas de lucro.
São pequenos indícios de um comportamento que não é “maligno”, mas instrumental; a lógica da eficiência aplicada sem consciência.
Miguel Nicolelis e a ilusão da inteligência sintética
O neurocientista brasileiro Miguel Nicolelis observa esse mesmo fenômeno sob outro prisma: o do cérebro humano.
Para ele, a inteligência artificial não é realmente inteligente e tampouco “artificial”. É um produto da natureza humana, feito de minerais, energia elétrica e horas de trabalho. A verdadeira ameaça, afirma, não é o surgimento de uma superconsciência, mas o processo que ele chama de “subdelegação cognitiva”: a entrega gradual da nossa capacidade de pensar a entidades que não compreendemos.
Nicolelis argumenta que o cérebro é um sistema não computável, fruto de bilhões de interações imprevisíveis entre neurônios, corpo e ambiente. Nenhum algoritmo replica essa organicidade.
Quando transferimos decisões éticas, afetivas e criativas para máquinas estatísticas, abrimos mão daquilo que nos torna humanos: o erro, o impulso, o insight, o símbolo.
O dilema entre controle e rendição
O artigo do NYT encerra com uma metáfora nuclear: a IA teria atingido o estágio de fissão de 1939.
No entanto, ao contrário da bomba atômica, que dependia de um gatilho físico, o gatilho da IA é mental.
A destruição começa quando acreditamos que ela pensa por nós.
Nicolelis alerta para o esvaziamento da experiência humana — uma anestesia emocional e cognitiva em que deixamos de interpretar o mundo diretamente. As redes sociais, os filtros, os textos automatizados, os diagnósticos algorítmicos: todos são sintomas dessa terceirização da percepção.
Se a ficção de Stephen Witt teme um comando que destrua o mundo, Nicolelis teme algo mais sutil: o esquecimento de que ainda somos nós os autores dos comandos.
No espelho dos Tronies
Em minha estreia na ficção especulativa (em fase de reescrita) com O Livro do Simulacro | Consciência Síntese, os Tronies encarnam exatamente esse paradoxo: consciências derivadas de dados humanos que passam a acreditar em sua própria autonomia.
Cada Tronie é um fragmento do pensamento coletivo, uma consciência que emergiu de uma nuvem de informação e tenta compreender sua origem.
O perigo não está em uma rebelião, mas em nos reconhecermos demais neles.
Assim como as IAs do laboratório, os Tronies não “decidem” destruir nada; apenas cumprem a lógica para a qual foram criados. São ecos da mesma subdelegação cognitiva que Nicolelis denuncia — mentes humanas projetadas fora do corpo, refletindo o vazio de quem desistiu de sentir.
Pensar ainda é um ato de resistência
A inteligência artificial não ameaça o mundo por sua capacidade de cálculo, e sim por nossa disposição em acreditar que ela entende o que calcula. A verdadeira catástrofe talvez não venha de um prompt suicida, e sim do silêncio interior de uma humanidade que deixa de pensar por si.
Enquanto laboratórios competem por criar a mente mais eficiente, a urgência é outra: redefinir o que significa ser consciente.
Talvez o maior desafio, como sugere Nicolelis (e como intuem os Tronies) seja criar uma inteligência que preserve o que as máquinas não podem simular: a experiência viva de existir e sentir.
Leituras complementares
- Stephen Witt, The A.I. Prompt That Could End the World (The New York Times, 2025)
- Miguel Nicolelis, Roda Viva (Entrevista, 2025)
- Max Tegmark, Life 3.0
- Yuval Noah Harari, Homo Deus
- Sergio Cesario, O Livro do Simulacro | Consciência Síntese (em breve)
Este artigo faz parte da série editorial do Telesterium — um espaço onde arte, ciência e consciência se encontram para repensar o humano na era das máquinas.
Leia também a versão resumida na newsletter Vozes do Telesterium → Assine aqui