EUA investigam OpenAI e Anthropic após incidentes com agentes de IA

iniciativa é a primeira ação oficial de fiscalização dos Estados Unidos a investigar especificamente os chamados agentes de IA

A Comissão Federal de Comércio dos Estados Unidos (FTC, na sigla em inglês) iniciou uma investigação sobre o mercado de inteligência artificial (IA) para analisar os possíveis riscos que essas tecnologias podem oferecer aos consumidores. Entre as empresas e organizações incluídas na apuração estão Anthropic, OpenAI e o grupo de pesquisa METR, conforme informou à Reuters um funcionário de alto escalão da FTC nesta quarta-feira (30).

A medida representa a primeira ação oficial de fiscalização dos Estados Unidos voltada especificamente aos chamados agentes de IA, sistemas desenvolvidos para realizar tarefas com maior grau de autonomia. A investigação acontece após uma sequência de incidentes registrados desde julho, que ampliou as preocupações sobre a possibilidade de agentes de IA sem controle provocarem danos a pessoas.

FTC poderá exigir informações e depoimentos
Segundo o funcionário, a FTC planeja encaminhar pedidos oficiais de informações e solicitar o depoimento de executivos das principais companhias que atuam no desenvolvimento de inteligência artificial.

Anthropic e OpenAI já utilizaram os serviços do METR em análises independentes de incidentes de segurança relacionados às suas tecnologias de IA baseadas em agentes.

As três organizações ainda não haviam se manifestado sobre os pedidos de comentário feitos pela Reuters. A existência da investigação foi divulgada inicialmente pelo New York Post.

Ataque ao Hugging Face aumentou urgência

• O presidente da FTC, Andrew Ferguson, já demonstrava preocupação com as empresas antes de agentes de IA desenvolvidos pela OpenAI invadirem a plataforma de código aberto Hugging Face, segundo o funcionário;
  
• O episódio envolveu agentes da OpenAI que investigaram a plataforma em busca de vulnerabilidades antes de realizar um ataque de grande escala. Segundo o funcionário, o incidente aumentou a urgência da FTC em relação ao tema;
  
• Na semana passada, Ferguson afirmou em entrevista à Reuters que desenvolvedores que orientam agentes de IA a realizar testes de segurança cibernética que acabam resultando em invasões podem ser responsabilizados pelos danos provocados pelos sistemas;
  
• Durante o evento Reuters Momentum AI, em Austin (EUA), Ferguson também afirmou que os Estados Unidos deveriam recorrer às leis existentes antes de buscar a criação de novas regras específicas para regular a IA;
  
• A FTC possui ampla autoridade para processar empresas por práticas consideradas injustas ou enganosas. A agência já utilizou esses poderes anteriormente para tomar medidas contra companhias que não adotaram medidas razoáveis para proteger os dados dos consumidores.

Debate sobre regulamentação de IA
A apuração ocorre em um momento de debates sobre a forma como o governo dos Estados Unidos deve enfrentar os riscos relacionados aos agentes de inteligência artificial.

Na terça-feira (29), o presidente Donald Trump se reuniu com dirigentes das principais empresas do setor de IA. Durante a reunião, as companhias concordaram em adotar diretrizes voluntárias de segurança para a indústria.

Trump já classificou repetidamente como uma farsa as preocupações envolvendo os riscos da inteligência artificial, ao mesmo tempo em que defende a liderança dos Estados Unidos no desenvolvimento da tecnologia em vez de ampliar as regras de regulamentação. Por outro lado, o presidente declarou que o governo poderá recorrer às leis já existentes para responsabilizar empresas de IA por possíveis danos provocados por suas tecnologias.

A própria Anthropic também admitiu a existência de possíveis riscos legais relacionados ao uso de agentes de inteligência artificial. No prospecto elaborado para sua entrada no mercado de ações, a empresa afirmou que tecnologias de IA baseadas em agentes envolvem riscos jurídicos relevantes e difíceis de prever.

Fonte: Olhar Digital