OpenAI pede desculpas e admite falha na resposta a ataque de agentes de IA

Debate na Austrália reúne OpenAI e Anthropic sobre acesso a sites oficiais, treinamento de IA e uso de conteúdos protegidos

A OpenAI reconheceu que cometeu um erro ao lidar com um episódio em que agentes de inteligência artificial entraram em páginas de órgãos públicos da Austrália sem autorização durante testes realizados internamente. A empresa demorou três meses para informar o ocorrido às autoridades e admitiu que deveria ter contatado diretamente os responsáveis pelos sites.

O episódio foi abordado durante uma investigação parlamentar australiana sobre inteligência artificial, que também levantou discussões sobre a utilização de materiais protegidos por direitos autorais no treinamento de modelos. Representantes da OpenAI e da Anthropic foram questionados a respeito das responsabilidades das companhias e dos limites que devem ser considerados no avanço das tecnologias de IA no país.

OpenAI reconhece falha na comunicação
Durante a audiência, o senador independente David Pocock perguntou a Jason Kwon, diretor de estratégia da OpenAI, por que a empresa optou por enviar uma mensagem para um endereço geral de um departamento, em vez de entrar em contato diretamente com as autoridades responsáveis.

Kwon reconheceu que a abordagem adotada não foi adequada. “Em retrospecto, deveríamos ter feito o que você está sugerindo”, afirmou. De acordo com o executivo, os funcionários inicialmente interpretaram o episódio como um problema técnico e buscaram contato com as equipes de tecnologia do governo.

A OpenAI também informou que iniciou uma revisão dos registros relacionados aos treinamentos de seus agentes desde novembro de 2025. Durante a análise, a companhia encontrou uma atividade ocorrida em junho e passou a investigar a possibilidade de existirem outros casos semelhantes.

Segundo Kwon, se novos episódios forem identificados, os órgãos públicos envolvidos serão comunicados “muito, muito rapidamente”. A empresa também avaliou que a atividade registrada nos sites australianos teve um nível de sofisticação inferior ao incidente relacionado à plataforma Hugging Face.

A maneira como a OpenAI reagiu ao caso acabou entrando em uma discussão mais ampla durante a audiência. Com os sistemas de IA cada vez mais capazes de interagir diretamente com serviços e dados, as empresas passam a enfrentar responsabilidades que envolvem não apenas o funcionamento das tecnologias, mas também a forma como respondem quando incidentes acontecem.

Direitos autorais entram na mesma discussão

A discussão sobre até onde as empresas de tecnologia podem atuar também esteve presente no debate envolvendo o treinamento de modelos de inteligência artificial. Nesse ponto, a questão central está relacionada à utilização de materiais protegidos por direitos autorais e à definição das regras para permitir esse uso.

Jeffrey Bleich, representante da Anthropic e ex-embaixador dos Estados Unidos na Austrália, rejeitou a ideia de que a companhia esteja tentando estabelecer como o país deve lidar com a questão.

“Nunca tentamos ditar à Austrália” suas regras de direitos autorais, declarou. De acordo com Bleich, a empresa apenas apresentou informações sobre o funcionamento do treinamento dos modelos e explicou como as normas atualmente em vigor poderiam afetar suas atividades.

A Anthropic avalia que a legislação australiana pode determinar a obtenção de uma autorização específica para cada material utilizado no treinamento. Para Bleich, uma exigência desse tipo seria “tecnicamente impossível”.

A companhia também sinalizou interesse em conversar com o governo australiano sobre maneiras de estimular o desenvolvimento e o treinamento de modelos no país. Segundo Bleich, a Austrália poderia ter participação na criação de sistemas avançados caso parte desse treinamento fosse realizada em território australiano.

O debate passou a reunir questões que vão além da capacidade técnica dos sistemas:

• como tornar viável o treinamento de modelos dentro da Austrália;
  
• quem deve definir as condições para uso de conteúdos protegidos;
  
• como preservar os interesses de artistas e produtores;
  
• como distribuir os custos e responsabilidades entre empresas e detentores de direitos.

Setor criativo cobra proteção
As propostas apresentadas pelas empresas de inteligência artificial, porém, encontraram oposição de entidades que representam artistas, veículos de imprensa e outros profissionais da indústria criativa. A principal preocupação é que uma eventual mudança na legislação faça com que os próprios detentores dos direitos tenham de arcar com os custos para identificar e fiscalizar a utilização de suas obras.

Annabelle Herd, presidente-executiva da Australian Recording Industry Association (Aria), manifestou essa preocupação. Na avaliação dela, artistas australianos podem acabar prejudicados caso as leis do país sejam modificadas para beneficiar os interesses das empresas de tecnologia.

A ABC também apresentou argumentos semelhantes. Kate Gilchrist, responsável pelas áreas jurídica e de conteúdo da emissora, afirmou que um sistema baseado na exclusão faria com que os detentores de direitos precisassem acompanhar constantemente os locais onde seus trabalhos são publicados ou utilizados.

Nesse contexto, a Media Entertainment and Arts Alliance (MEAA), sindicato que reúne profissionais das áreas de entretenimento e jornalismo, sugeriu outra possibilidade: estabelecer um sistema de remuneração para as empresas de IA. A proposta inclui pagamentos aos profissionais cujos trabalhos sejam utilizados no desenvolvimento desses sistemas, além da criação de um fundo voltado para iniciativas culturais, musicais e jornalísticas.

As audiências da investigação parlamentar australiana continuam até sexta-feira. Os parlamentares discutem maneiras de conciliar o avanço da inteligência artificial com a responsabilidade das empresas e a proteção dos profissionais responsáveis pela produção dos conteúdos utilizados por essas tecnologias.

Fonte: Olhar Digital