Trump e Xi podem criar canal para incidentes de IA, mas frear desenvolvimento é improvável

Trump e Xi discutem segurança da IA, possíveis canais para incidentes e os limites da cooperação tecnológica entre EUA e China

O encontro entre Donald Trump e Xi Jinping coloca a segurança da inteligência artificial entre os assuntos discutidos nas relações entre Estados Unidos e China. Os dois países analisam formas de enfrentar sistemas que estão se tornando cada vez mais autônomos, ao mesmo tempo em que continuam disputando espaço no desenvolvimento da tecnologia.

Uma eventual cooperação pode incluir a criação de normas compartilhadas, canais de comunicação para situações de risco e métodos para checar informações. De acordo com a CNBC, entretanto, a possibilidade de os dois países chegarem a um acordo para reduzir o ritmo de desenvolvimento da IA é considerada extremamente baixa.

Por que a segurança entrou na conversa
A preocupação ganhou força à medida que sistemas de inteligência artificial passaram a realizar atividades cada vez mais complexas. A OpenAI informou que um modelo utilizado em pesquisas obteve acesso sem autorização a determinadas áreas da plataforma Hugging Face. Já a Anthropic detectou a utilização de IA para automatizar algumas fases de ataques cibernéticos.

Casos desse tipo aumentam o receio de que modelos mais independentes possam acelerar ataques e dificultar sua contenção. Aalok Mehta, diretor do Wadhwani AI Center, do Centro de Estudos Estratégicos e Internacionais (CSIS), afirmou à CNBC que Estados Unidos e China demonstram preocupação especial com agentes capazes de contornar sistemas de controle e acessar sites.

Antes da reunião, o secretário do Tesouro dos Estados Unidos, Scott Bessent, conversou com o vice-premiê chinês He Lifeng sobre a possibilidade de estabelecer um diálogo bilateral dedicado à inteligência artificial. A proposta prevê um canal de comunicação para discutir incidentes que possam atingir níveis relacionados à segurança nacional.

O que pode ser discutido
Mehta identifica duas áreas que podem abrir espaço para uma aproximação: a criação de conceitos e estruturas compartilhadas voltadas à segurança de modelos avançados e o estabelecimento de um canal de comunicação para situações emergenciais.

Chris McGuire, pesquisador sênior do Conselho de Relações Exteriores (CFR), avalia que a criação desse meio de contato para tratar de incidentes relacionados à segurança nacional seria uma medida pequena, mas com potencial positivo. Na avaliação dele, entretanto, a possibilidade de um entendimento entre os países para diminuir o ritmo de avanço da inteligência artificial é extremamente baixa.

Entre os assuntos que podem aparecer nas conversas estão:

• definições comuns para segurança de sistemas avançados;
  
• comunicação sobre incidentes de segurança;
  
• mecanismos para verificar informações compartilhadas;
  
• acusações sobre o uso de “distillation” por empresas chinesas;
  
• restrições americanas à exportação dos chips de IA mais avançados.

A corrida pelos chips continua
O possível diálogo acontece enquanto a disputa tecnológica entre os dois países continua. Os Estados Unidos mantêm restrições ao acesso da China aos chips mais avançados da Nvidia e acusam empresas chinesas de utilizar a chamada “distillation”, técnica que permite treinar modelos com base nas respostas produzidas por sistemas mais avançados. O governo chinês nega essa acusação.

De acordo com a CNBC, algumas empresas da China também teriam obtido acesso remoto ao poder computacional desses chips por meio de data centers localizados no Sudeste Asiático, mesmo com as limitações impostas pelos Estados Unidos.

Trump, por outro lado, defende que os Estados Unidos mantenham a disputa pelo avanço tecnológico diante da China. “Se não vencermos a IA, estaremos em uma posição muito ruim”, afirmou o presidente americano no começo deste mês.

Verificação pode ser decisiva
Para Mehta, qualquer iniciativa de cooperação deve permitir que Estados Unidos e China continuem disputando o desenvolvimento de suas próprias tecnologias. Outra condição considerada importante é a criação de um método confiável para verificar as informações compartilhadas por cada país.

O deputado americano Ro Khanna, representante de uma região do Vale do Silício, também defendeu a adoção de medidas de segurança em comum. “Por que não concordamos simplesmente que não deveria ser possível ter uma IA que se autoaperfeiçoe?”, questionou.

A falta de confiança entre os dois governos faz com que mecanismos de verificação tenham um papel ainda mais relevante. Segundo Mehta, seria necessário utilizar recursos técnicos e estruturas de governança para confirmar a precisão dos dados e informações trocados entre os países.

Dessa forma, o encontro pode abrir espaço para um canal de comunicação dedicado aos riscos relacionados à IA, mantendo ao mesmo tempo a disputa tecnológica entre Estados Unidos e China.

Fonte: Olhar Digital