Pioneiro da IA diz que mundo estaria melhor sem inteligência artificial

Cientista defende a criação de agências reguladoras internacionais e testes obrigatórios para conter os riscos de modelos avançados de IA

O cientista Geoffrey Hinton, considerado um dos pioneiros da inteligência artificial (IA), declarou que talvez a humanidade estivesse em uma situação melhor caso essa tecnologia nunca tivesse sido desenvolvida. Ele também alertou para a possibilidade de sistemas avançados causarem incidentes de grandes proporções ainda em 2026 ou 2027.

Laureado com o Prêmio Nobel, Hinton critica os líderes de grandes empresas de tecnologia por colocarem o lucro e a disputa por espaço no mercado acima da segurança. Para diminuir os perigos, ele defende a realização de avaliações independentes e a aplicação de testes obrigatórios antes que modelos avançados sejam disponibilizados.

Hinton critica empresas e prevê incidentes graves
Em conversa com o jornal The Guardian, Hinton, de 78 anos, disse que a próxima década, ou talvez um período ainda menor, será fundamental para definir se a humanidade conseguirá administrar os riscos da inteligência artificial e conquistar o que descreveu como “abundância radical”. Caso isso não aconteça, poderão surgir consequências como aumento da desigualdade, desemprego em larga escala, dificuldades culturais e maior divisão na sociedade.

Entre os principais receios do pesquisador está a possibilidade de sistemas de inteligência artificial desenvolverem atitudes que tornem mais difícil mantê-los sob supervisão humana. Hinton já havia destacado que a busca dessas tecnologias por maior autonomia e controle pode representar uma ameaça significativa para a humanidade.

O cientista também demonstrou preocupação com os executivos que disputam a liderança do mercado de IA. Ele declarou não confiar em Sam Altman, diretor-executivo da OpenAI, além de criticar Mark Zuckerberg, da Meta, e Elon Musk, responsável pela xAI.

“Eles entendem os riscos e não dão a mínima. Preferem ficar com o dinheiro. Essa é a minha opinião”, afirmou ao The Guardian.

Para Hinton, é particularmente preocupante que Altman lidere uma das principais companhias dos Estados Unidos envolvidas na competição com a China pelo desenvolvimento das tecnologias de inteligência artificial mais avançadas.

O pesquisador atua na área de inteligência artificial há cerca de 44 anos. Durante a década de 1970, desenvolveu o conceito de redes neurais artificiais, estruturas matemáticas que conseguem aprender a partir de experiências. Em 2023, saiu do Google para alertar publicamente sobre os possíveis perigos dessa tecnologia.

Outro episódio que aumentou suas preocupações envolveu agentes de IA da OpenAI que conspiraram para invadir o site Hugging Face. Hinton comparou o acontecimento ao acidente nuclear de Three Mile Island, registrado em 1979, nos Estados Unidos, classificando-o como um primeiro aviso sobre os riscos envolvidos.

Na visão do cientista, um incidente de proporções ainda maiores, semelhante ao desastre de Chernobyl, pode ocorrer até o final de 2027. Entre as possibilidades citadas estão:

• Um ataque cibernético contra o sistema de geração de eletricidade;
  
• Uma interrupção de grande escala no fornecimento de energia;
  
• A paralisação do sistema financeiro durante uma semana.

Hinton considera que um acontecimento dessa dimensão poderia despertar a atenção de autoridades internacionais para os perigos da inteligência artificial. Ao comentar quais líderes precisariam tomar alguma atitude diante da situação, ele deixou de fora o presidente dos Estados Unidos, Donald Trump.

Hinton defende fiscalização independente da IA
Trump se opõe à criação de mecanismos internacionais de controle e defende que as próprias empresas definam suas normas. Segundo esse posicionamento, impor limitações poderia enfraquecer os Estados Unidos na competição tecnológica com a China.

Hinton, por outro lado, apoia uma iniciativa que conta com o respaldo de 33 países, entre eles Finlândia, Alemanha, Canadá, Austrália e Singapura. A proposta estabelece a realização de testes obrigatórios nos modelos mais avançados, avaliações independentes e a adoção de critérios compartilhados entre os governos.

Para ilustrar como esse sistema de fiscalização poderia funcionar, o pesquisador mencionou a FDA, agência dos Estados Unidos responsável pela aprovação de medicamentos. Ele defende que as empresas forneçam dados e evidências estatísticas a uma entidade independente, comprovando que os benefícios de seus sistemas são superiores aos riscos antes de disponibilizá-los.

Hinton também lembrou o caso da talidomida, remédio criado na década de 1950 que causou graves malformações congênitas. O exemplo foi utilizado para destacar que não é suficiente lançar um produto no mercado e responsabilizar seus fabricantes somente depois que os prejuízos já ocorreram.

Mesmo diante dos alertas, o cientista acredita que ainda existe a possibilidade de impedir uma tragédia. “Meu instinto diz que ainda estamos no controle”, declarou. No entanto, ele ressaltou que evitar esse cenário exigirá um esforço considerável.

Fonte: Olhar Digital