Yoshua Bengio: Entre a matemática e a ética na era dos algoritmos

Yoshua Bengio: Entre a matemática e a ética na era dos algoritmos

Por REC Inteligência Artificial

Montreal, Canadá — Em um escritório silencioso da Universidade de Montreal, um dos maiores pensadores da era da inteligência artificial contempla com inquietação o futuro que ajudou a construir. Yoshua Bengio, considerado um dos “pais da IA moderna”, divide hoje sua rotina entre equações complexas e dilemas éticos profundos. À medida que as máquinas se tornam mais inteligentes, as perguntas que o inquietam vão além da matemática: elas tocam a essência da humanidade.

O início de uma revolução silenciosa

Nos anos 1980, quando a inteligência artificial era vista como um sonho distante e desmoralizado pelas limitações computacionais, Bengio começou a explorar redes neurais profundas — estruturas que imitavam vagamente o funcionamento do cérebro humano. Junto a Geoffrey Hinton e Yann LeCun, formaria mais tarde o trio vencedor do Prêmio Turing de 2018, pela consolidação do chamado “deep learning”, a base de quase toda IA contemporânea.

Mas ao contrário de muitos engenheiros que celebram os avanços com entusiasmo, Bengio se destaca por sua postura crítica e reflexiva. Em várias ocasiões, ele declarou que “não esperava que o progresso fosse tão rápido”. Em 2023, seu nome apareceu entre os signatários de uma carta pública que alertava para os riscos existenciais da IA, equiparando-os aos de pandemias e armas nucleares.

De matemático a conselheiro ético

A transição de cientista para uma espécie de “filósofo da IA” não foi planejada. Em entrevistas recentes, Bengio relatou um crescente desconforto com a forma como empresas privadas — especialmente OpenAI, Google e Meta — têm corrido para lançar modelos poderosos de linguagem e predição, muitas vezes sem testes de segurança robustos ou regulamentação clara.

“Quando vi o ChatGPT alcançar capacidades surpreendentes em tão pouco tempo, percebi que algo precisava mudar. Nós, pesquisadores, precisamos assumir responsabilidade”, declarou Bengio à BBC em 2024.

Ele passou, então, a investir tempo e recursos na promoção de uma IA mais segura e transparente. Criou o Mila (Montreal Institute for Learning Algorithms), um dos maiores centros de pesquisa de IA do mundo, com foco em responsabilidade, segurança e ética. Diferente de seus colegas mais voltados ao setor corporativo, Bengio manteve-se no mundo acadêmico e público — uma escolha que, segundo ele, é deliberada.

A crítica à corrida armamentista das big techs

Em fóruns internacionais, Bengio não mede palavras ao denunciar o que chama de “corrida armamentista da IA”. Ele argumenta que, ao transformar modelos como o GPT-4 e o Gemini em produtos comerciais sem governança global, as big techs estão “brincando com o fogo”.

Um ponto particularmente sensível é o desenvolvimento da AGI — Inteligência Artificial Geral, que teria habilidades cognitivas similares ou superiores às humanas. “Se não impusermos limites agora, poderemos enfrentar sistemas autônomos que não compreendemos completamente”, alertou em um painel do Fórum Econômico Mundial.

Essa visão se conecta diretamente à análise feita por Geoffrey Hinton, que recentemente deixou a Google para poder falar livremente sobre os riscos da IA. Ambos agora compõem um movimento crescente dentro da própria comunidade científica que pede uma pausa, ou pelo menos uma desaceleração significativa, no desenvolvimento de IAs ultraavançadas.

Ética, justiça social e o futuro do trabalho

Além da segurança técnica, Bengio também levanta bandeiras sociais. Uma de suas maiores preocupações é o impacto da IA sobre o emprego e a desigualdade. Em diversas publicações, ele defende que governos invistam em redes de proteção social e em programas de requalificação profissional, especialmente para trabalhadores afetados pela automação.

“Não se trata apenas de máquinas substituindo pessoas. Trata-se de como a riqueza gerada por essas máquinas será distribuída”, afirmou em um artigo no Nature Machine Intelligence. Para Bengio, a IA pode ser uma força de bem — mas apenas se for usada com equidade.

Uma proposta global de governança

Em 2024, Bengio apresentou uma proposta ousada: a criação de uma Agência Internacional de Supervisão da IA, nos moldes da Agência Internacional de Energia Atômica (AIEA). A ideia é monitorar os laboratórios mais poderosos do mundo e criar padrões de segurança mínimos, inclusive para tecnologias militares baseadas em IA.

Embora a proposta enfrente resistência de países e empresas, ela tem ganhado apoio de intelectuais, juristas e líderes políticos, especialmente na União Europeia. Para Bengio, essa é a única forma de evitar que o poder da IA seja monopolizado por poucos — ou usado para fins destrutivos.

Entre o otimismo e o alarme

Apesar de seu tom frequentemente alarmista, Bengio não perdeu a esperança. Ele acredita que a humanidade pode, sim, aprender a conviver com inteligências artificiais cada vez mais sofisticadas — desde que haja consciência, regulação e cooperação global.

“Criamos algo poderoso. Agora precisamos ser igualmente poderosos em nossa responsabilidade”, resume.

Seu trabalho continua. Entre algoritmos e audiências no Parlamento Europeu, Bengio mantém o olhar de quem vê longe — não apenas para onde a IA pode nos levar, mas para como escolhemos chegar lá.