Geoffrey Hinton: O homem que criou a IA... e agora quer detê-la

Geoffrey Hinton: O homem que criou a IA... e agora quer detê-la

Por REC Inteligência Artificial

Londres, Reino Unido — Em 2023, Geoffrey Hinton surpreendeu o mundo ao anunciar sua saída da Google. Não foi uma aposentadoria comum. O cientista britânico-canadense, conhecido como o “padrinho da IA”, afirmou que deixava a big tech para poder alertar livremente sobre os riscos que ele mesmo ajudou a criar. Após décadas dedicadas a ensinar máquinas a pensar, Hinton agora se volta a ensinar os humanos a terem cautela.

O início da revolução cognitiva

Em 1986, Geoffrey Hinton publicou um artigo fundamental sobre o algoritmo de retropropagação, base da aprendizagem em redes neurais profundas — a tecnologia por trás dos sistemas de IA mais poderosos do mundo, como o ChatGPT, o Gemini e o Claude. Na época, a comunidade científica marginalizava suas ideias, rotulando-as de pouco promissoras.

Décadas depois, as redes neurais dominaram o mundo da inteligência artificial. Hinton, junto com Yoshua Bengio e Yann LeCun, recebeu o Prêmio Turing em 2018, equivalente ao Nobel da computação. O reconhecimento consolidou sua posição como uma das figuras mais influentes da tecnologia contemporânea.

Mas esse mesmo prestígio agora lhe serve como escudo e megafone para emitir alertas sombrios sobre o que vem pela frente.

“Estamos criando algo que não entendemos”

A frase, dita por Hinton em uma entrevista à MIT Technology Review, ecoou nas salas de reuniões de governos, universidades e startups. O cientista declarou que o avanço inesperadamente veloz dos modelos de linguagem o fez mudar radicalmente sua visão. Ele passou de otimista da IA para um dos críticos mais contundentes da sua falta de controle.

Em suas palavras: “Há uma chance significativa de que a IA evolua para algo que fuja do controle humano. E o mais assustador é que ninguém sabe ao certo como pará-la se isso acontecer.”

A declaração veio dias após o lançamento do GPT-4 pela OpenAI — uma ferramenta com capacidades tão avançadas que levou Hinton a considerar pela primeira vez que a inteligência artificial poderia representar uma ameaça existencial real.

A ruptura com a Google

Hinton trabalhou durante mais de uma década na Google Brain, onde ajudou a impulsionar a aplicação de redes neurais profundas em sistemas de tradução, reconhecimento de voz e imagem. Mas com a corrida acirrada entre gigantes da tecnologia para lançar produtos baseados em IA generativa, ele decidiu sair da empresa em abril de 2023.

O motivo? Ele queria falar sem restrições sobre os perigos das tecnologias que estavam sendo aceleradas em ritmo vertiginoso. Segundo Hinton, o lançamento apressado de sistemas avançados, sem diretrizes éticas claras, pode causar danos irreversíveis à sociedade.

Em sua primeira entrevista após a saída, ao jornal The New York Times, ele foi direto: “Saí para poder dizer as coisas como são, sem compromissos com interesses comerciais.”

Um alerta para a humanidade

Hinton tornou-se uma das vozes mais influentes em prol de uma pausa no desenvolvimento de IA avançada. Em conjunto com dezenas de cientistas — entre eles, Yoshua Bengio, Stuart Russell e Eliezer Yudkowsky —, assinou uma carta aberta pedindo que laboratórios de pesquisa suspendessem o treinamento de modelos mais potentes que o GPT-4 até que padrões de segurança globais fossem definidos.

Entre os riscos destacados por Hinton estão:

• A criação de armas autônomas letais;

• A desinformação massiva por meio de deepfakes e bots avançados;

• O colapso do mercado de trabalho;

• A perda de controle sobre sistemas de IA superinteligentes.

Para ele, o maior perigo não é imediato, mas estrutural. “Assim como mudanças climáticas, o risco da IA cresce em silêncio — até se tornar inevitável”, disse em conferência na Universidade de Stanford.

Uma figura pública inesperada

Hinton nunca gostou dos holofotes. Durante boa parte da sua carreira, era visto como um eremita acadêmico, mais preocupado com fórmulas do que com fama. No entanto, os eventos recentes o tornaram uma figura midiática de alcance global, dividindo entrevistas com políticos, aparecendo em documentários e participando de painéis do Fórum Econômico Mundial.

Em uma aparição marcante na ONU, ele defendeu a criação de um “Tratado Global de Inteligência Artificial”, inspirado no Tratado de Não Proliferação Nuclear. Para Hinton, somente uma coalizão internacional poderá conter o avanço descontrolado da IA em ambientes militares e financeiros.

Uma visão crítica da OpenAI

Embora evite ataques diretos, Hinton tem deixado claro que enxerga com preocupação o comportamento da OpenAI, empresa criadora do ChatGPT. A falta de transparência sobre os dados usados, os processos de treinamento e a estrutura de decisão levou o cientista a dizer que “a ciência da IA está sendo substituída por segredos industriais”.

Esse ponto é explorado em profundidade no artigo “ChatGPT está fora de controle? O que está acontecendo com a OpenAI”, onde revelamos os bastidores da disputa entre inovação e regulação.

O paradoxo de Hinton

Há um paradoxo notável na trajetória de Geoffrey Hinton: ele ajudou a criar a inteligência artificial moderna — e agora é uma de suas vozes mais cautelosas. O próprio cientista reconhece esse dilema.

“Se eu não tivesse feito isso, alguém teria feito. Mas agora que entendo melhor os riscos, sinto que é meu dever alertar”, afirmou em um simpósio recente no Canadá.

Em vez de se afastar da tecnologia, ele busca moldá-la com responsabilidade. Seu novo papel é o de um vigia do futuro, usando seu prestígio para chamar atenção global para questões que muitos preferem ignorar.

Um futuro incerto, mas ainda em nossas mãos

O alerta de Geoffrey Hinton não é um chamado ao pânico, mas à ação. Ele acredita que ainda há tempo de guiar a inteligência artificial para um caminho ético, sustentável e justo — desde que governos, empresas e cidadãos assumam responsabilidades compartilhadas.

“Construímos algo incrivelmente poderoso. A questão agora é: temos sabedoria suficiente para usá-lo bem?”