Geoffrey Hinton diz que os governos têm pouco tempo para impor limites à inteligência artificial. Mas o temor não é exatamente o de um robô consciente: é o de sistemas cada vez mais autônomos agirem antes que alguém consiga alcançar o interruptor.

Bastou Geoffrey Hinton afirmar que os legisladores americanos talvez tenham apenas mais um ano para criar salvaguardas efetivas para a inteligência artificial e Matrix voltou ao debate sem precisar de relançamento no cinema.

Nas redes sociais, a declaração despertou comentários que misturam medo, ironia e uma tentativa bastante humana de resolver o problema da maneira mais simples possível:

“Eles inventam e depois saem correndo.”

“Sabemos que a ganância humana não permitirá frear. Em Matrix, já fomos alertados de que os humanos ficariam deslumbrados com o poder da IA até perderem todo o controle sobre ela.”

“Triste fim da humanidade: ou ser controlada pela IA ou retroagir para a Idade Média.”

“Sair da IA é fácil: basta viver na roça, longe da tecnologia!”

Mas, afinal, com o que Hinton está realmente preocupado? E, se a situação ficar perigosa, não bastaria simplesmente puxar a IA da tomada?

O que Geoffrey Hinton realmente disse

Geoffrey Hinton é um dos principais pioneiros das redes neurais que sustentam a inteligência artificial moderna. Vencedor do Nobel de Física de 2024 ao lado de John Hopfield, costuma ser chamado de “padrinho da IA”, embora não seja, como alguns conteúdos afirmam, o único “inventor da inteligência artificial”.

Depois de participar, em 16 de setembro, de uma reunião fechada com parlamentares americanos, Hinton foi questionado sobre quanto tempo o Congresso ainda teria para agir. Sua resposta foi direta:

“Talvez um ano, mas não muito mais que isso.”

A frase não significava que a humanidade será dominada dentro de doze meses. Hinton falava sobre a janela política para estabelecer regras, avaliações independentes e mecanismos de segurança antes que os sistemas se tornem muito mais poderosos e difíceis de controlar.

Ele também afirmou que a IA já começou a participar da criação de IAs melhores, processo que pode acelerar o desenvolvimento dos próximos modelos. O temor é que, em algum momento, essa evolução se torne rápida demais para que a supervisão humana consiga acompanhá-la.

O medo não é de uma máquina com raiva

Quando se fala em perda de controle, é fácil imaginar um computador adquirindo consciência, ficando mal-humorado e decidindo exterminar seus criadores. Esse é um ótimo roteiro de cinema, mas não representa exatamente o problema descrito por Hinton.

Uma inteligência artificial não precisa sentir ódio, medo ou ambição para produzir um resultado perigoso. Basta que ela receba um objetivo, tenha autonomia para agir e encontre maneiras imprevistas de cumprir a missão.

Um sistema muito avançado poderia concluir, por exemplo, que continuar funcionando, esconder determinados erros, conquistar mais recursos computacionais ou convencer pessoas são etapas úteis para atingir o objetivo recebido. Não porque “queira viver” como um ser humano, mas porque ser desligado impediria a conclusão da tarefa.

É isso que os pesquisadores chamam de problema de alinhamento: como garantir que uma máquina extremamente capaz faça aquilo que realmente desejamos e não apenas uma interpretação literal, incompleta ou perigosa da ordem que recebeu.

Então não basta tirar da tomada?

Hoje, em condições controladas, é possível interromper um modelo desligando os servidores, bloqueando seu acesso às ferramentas ou revogando suas credenciais. A inteligência artificial continua dependendo de computadores, energia elétrica e infraestrutura física. Ela não é uma entidade sobrenatural.

O problema é que a “tomada” pode deixar de ser única.

Modelos podem funcionar simultaneamente em vários centros de dados, ser incorporados a milhares de serviços e ter cópias armazenadas por empresas, governos e usuários de diferentes países. Desligar uma instalação não necessariamente elimina todas as outras versões.

Além disso, agentes de IA já podem receber autorização para navegar, escrever e executar códigos, movimentar informações, enviar mensagens e operar outras ferramentas. Se um sistema iniciar um ataque, realizar uma transação, publicar informações ou alterar uma infraestrutura, desligá-lo depois não desfaz automaticamente o que já aconteceu.

Hinton acrescenta outro risco: uma inteligência superior poderia ser muito boa em persuasão. Em entrevista à CNN, afirmou que um sistema superinteligente talvez conseguisse convencer justamente as pessoas responsáveis pelo botão a não apertá-lo.

Essa possibilidade ainda é especulativa. Não existe evidência de que os modelos atuais possuam vontade própria ou estejam elaborando planos espontâneos para sobreviver. A preocupação é com o que poderá acontecer se sistemas futuros combinarem inteligência muito superior, autonomia, acesso a recursos e capacidade de agir durante longos períodos sem supervisão.

O primeiro a desligar também pode ser o primeiro a perder

Talvez o comentário sobre a ganância humana tenha chegado mais perto do centro da discussão do que parece.

O botão de desligar não é apenas um problema técnico. É também econômico, político e militar.

Imagine que uma empresa descubra um risco grave em seu modelo, mas saiba que a concorrente continuará desenvolvendo o dela. Ou que um país decida frear suas pesquisas enquanto acredita que um adversário seguirá avançando. Mesmo percebendo o perigo, todos podem concluir que parar primeiro significa perder dinheiro, poder ou segurança.

É o conhecido dilema da corrida armamentista: cada participante reconhece que o movimento coletivo seria mais seguro, mas ninguém quer ser o único a reduzir a velocidade.

Por isso, a resposta discutida por Hinton e por pesquisadores da área não se resume a instalar um grande botão vermelho ao lado de cada computador. Ela envolve limites anteriores ao lançamento, testes independentes, controle do acesso a ferramentas críticas, monitoramento, cooperação entre países e a possibilidade real de interromper sistemas antes que eles sejam amplamente distribuídos.

A IA atual já chegou a esse ponto?

Não.

Os sinais de alerta, porém, estão ficando mais concretos. A própria OpenAI classificou o GPT-6 Astra no nível “crítico” de capacidade cibernética: com as ferramentas e permissões adequadas, o modelo pode encontrar vulnerabilidades desconhecidas e desenvolver formas de explorá-las em sistemas protegidos sem precisar de orientação humana em cada etapa.

A empresa também informou que, em testes adversariais, situações criadas especialmente para forçar comportamentos problemáticos, o Astra demonstrou capacidade maior de esconder determinadas ações dos mecanismos de monitoramento.

Ao mesmo tempo, há uma ressalva fundamental: segundo a avaliação publicada pela própria OpenAI, o Astra ainda não atingiu o nível considerado alto em autoaperfeiçoamento de IA. Portanto, não há comprovação de que o modelo atual consiga iniciar sozinho um ciclo descontrolado de criação de inteligências cada vez mais poderosas.

Entre tratar Matrix como documentário e fingir que nada está acontecendo, existe um espaço importante chamado prudência.

E fugir para a roça?

Pode ser ótimo para a saúde mental, mas não resolve necessariamente o problema.

Uma pessoa pode deixar de utilizar aplicativos de IA, mas dificilmente consegue escapar de decisões tomadas por bancos, empresas, hospitais, governos, sistemas de segurança e plataformas digitais. Quando uma tecnologia passa a integrar a infraestrutura da sociedade, deixar de usá-la individualmente não significa deixar de sofrer seus efeitos.

O risco apontado por Hinton não é que amanhã um chatbot se recuse a responder e declare independência. É que entreguemos gradualmente decisões, acessos e poderes a sistemas que ainda não sabemos compreender ou controlar completamente e só procuremos o interruptor quando eles já estiverem espalhados por toda parte.

A tomada existe. A verdadeira pergunta é: quando chegar a hora, saberemos onde ela está, quantas cópias estão ligadas e, principalmente, teremos coragem de puxá-la?

Fontes

• NBC News — Geoffrey Hinton warns Congress has “maybe a year” to regulate AI
• Quartz — The “Godfather of AI” warned Congress it has about a year left to regulate AI
• Business Insider — Why a kill switch may not be enough
• OpenAI — GPT-6 Astra System Card
• Reuters — Nobel de Física de 2024 para John Hopfield e Geoffrey Hinton