Goldman Sachs em alerta: nova IA da Anthropic pode hackear sistemas financeiros

David Solomon, CEO do banco, afirmou estar em alerta máximo após a Anthropic admitir que o modelo Mythos supera humanos na descoberta de falhas cibernéticas

O setor financeiro global passou a adotar uma postura de atenção redobrada após o lançamento do Mythos, o mais recente modelo de inteligência artificial da Anthropic. Durante uma conferência de resultados na última segunda-feira (13), o CEO do Goldman Sachs, David Solomon, afirmou que o banco está “hiperconsciente” das capacidades da ferramenta e que vem atuando em parceria direta com a desenvolvedora para reduzir e controlar possíveis riscos associados à tecnologia.

O alerta teve origem após a própria Anthropic divulgar um comunicado na semana passada reconhecendo que o Mythos alcançou um nível de habilidade em programação capaz de superar quase todos os especialistas humanos na identificação e exploração de falhas em software. Segundo reportagem do The Guardian, a empresa destacou que os possíveis impactos para a segurança nacional e para a estabilidade econômica podem ser significativos.

“Os modelos de IA atingiram um nível de capacidade de programação em que conseguem superar todos, exceto os humanos mais habilidosos, na detecção e exploração de vulnerabilidades de software”, afirmou a Anthropic em nota divulgada na última terça-feira (7).

Em testes conduzidos em ambiente controlado, o Mythos demonstrou um conjunto de capacidades avançadas, incluindo:

O poder de ataque do Mythos
Diferentemente de modelos de linguagem anteriores, o Mythos apresenta um nível de autonomia considerado preocupante em tarefas relacionadas a hacking. O Instituto de Segurança de IA do Reino Unido (AISI) descreveu o modelo como um “avanço significativo” no cenário de ameaças cibernéticas.

• Execução autônoma: conseguiu conduzir ataques de múltiplas etapas sem necessidade de intervenção humana;
  
• Simulações complexas: foi o primeiro modelo a completar com sucesso uma simulação de ataque cibernético composta por 32 etapas, desenvolvida pelo AISI;
  
• Alta eficiência: executou em poucos minutos tarefas que, para profissionais humanos, poderiam levar vários dias.

Apesar desses resultados, o AISI ressalta que ainda não há consenso sobre a capacidade do sistema de superar defesas robustas de grandes corporações, uma vez que os testes realizados até agora não incluíram ambientes com mecanismos defensivos ativos plenamente implementados.

Resposta coordenada e investimentos
A seriedade do cenário levou o secretário do Tesouro dos Estados Unidos, Scott Bessent, a reunir em Washington, na semana passada, David Solomon e outros executivos dos maiores bancos norte-americanos em uma reunião emergencial. De acordo com o The Guardian, o encontro teve como foco instituições classificadas como “sistemicamente importantes”, ou seja, aquelas cujas operações são essenciais para a estabilidade do sistema financeiro global.

David Solomon confirmou que o Goldman Sachs já tem acesso ao modelo para análises internas e que está acelerando os investimentos em resiliência de infraestrutura. “Estamos trabalhando em estreita colaboração com a Anthropic e todos os nossos fornecedores de segurança para, de certa forma, aproveitar as capacidades de fronteira onde for possível”, afirmou o executivo.

No Reino Unido, reguladores e executivos de grandes bancos devem se reunir nas próximas semanas por meio do Cross Market Operational Resilience Group (CMorg) para avaliar os impactos do Mythos no sistema financeiro. Segundo o alerta do AISI, modelos futuros tendem a ser ainda mais avançados do que o Mythos, o que torna o investimento imediato em cibersegurança uma prioridade crítica para a continuidade e proteção das operações.

Fonte: Olhar Digital