Engenheiro acusa xAI de demissão retaliatória após alertas sobre riscos de segurança no Grok

Processo detalha conflitos internos na xAI e expõe divergências sobre diretrizes de segurança no avanço do Grok

Um ex-engenheiro da xAI, empresa de inteligência artificial criada por Elon Musk em 2023, entrou com uma ação judicial na Califórnia alegando que foi desligado da companhia após levantar preocupações relacionadas à segurança no desenvolvimento de sistemas de IA. Devin Kim afirma que, dentro da empresa, trabalhava para fortalecer mecanismos de proteção do chatbot Grok, mas que seus alertas teriam sido desconsiderados pela liderança.

Segundo a ação protocolada na última terça-feira (09), Kim sustenta que suas tentativas de chamar atenção para possíveis riscos da tecnologia teriam gerado retaliações internas. Ele também afirma que sua demissão ocorreu em setembro do ano passado, pouco antes de uma apresentação que faria a executivos da organização sobre segurança em inteligência artificial.

O processo ainda aponta que a xAI, responsável pelo Grok, vem enfrentando críticas por conteúdos produzidos pelo sistema, incluindo a geração de imagens sexualizadas envolvendo mulheres e menores. Até o momento, a empresa e a SpaceX, também mencionada na ação, não se pronunciaram sobre o caso.

Acusações envolvem práticas internas e disputa sobre segurança em IA

No detalhamento do processo, Devin Kim afirma que entrou na xAI em 2024 como um dos primeiros colaboradores da empresa e que, em poucos meses, teria alcançado uma posição de liderança. Ele relata que existia uma expectativa interna de adoção de protocolos de segurança mais rigorosos, alinhados à proposta inicial de Elon Musk ao fundar a companhia, apresentada como uma alternativa mais segura em comparação a outras do setor.

O engenheiro sustenta que essas diretrizes não teriam sido de fato aplicadas dentro da organização. Segundo ele, seu supervisor direto, identificado como Jimmy Ba, cofundador da xAI, teria rejeitado propostas voltadas à criação de mecanismos de proteção e ignorado alertas relacionados a riscos mais amplos associados ao uso de inteligência artificial, incluindo possíveis impactos sociais e consequências legais.

Kim também afirma que suas preocupações envolviam a possibilidade de sistemas como o Grok contribuírem para problemas mais sérios, como discriminação e até o eventual uso indevido da tecnologia em contextos ligados a armas de destruição em massa, conforme descrito no processo.

Nomeação em entidade de segurança em IA ocorre após saída

Na semana anterior à divulgação da ação, o ex-engenheiro teria sido indicado para liderar uma organização sem fins lucrativos voltada ao estudo de riscos da inteligência artificial, o Center for AI Safety. A nomeação ocorreu após sua saída da xAI e passou a ser citada no debate público sobre segurança em IA.

O processo judicial também insere a disputa em um contexto mais amplo envolvendo empresas ligadas a Elon Musk. A ação menciona que a SpaceX e outros empreendimentos do empresário já foram alvo, ao longo dos anos, de alegações relacionadas à segurança operacional e condições de trabalho, incluindo relatos de acidentes em operações da companhia espacial, conforme investigações jornalísticas citadas no documento.

Histórico de disputas e contexto envolvendo Musk e OpenAI
A criação da xAI por Elon Musk em 2023 é descrita no processo como parte de uma iniciativa para desenvolver uma alternativa considerada mais segura no campo da inteligência artificial.

O texto também relembra que Musk esteve entre os fundadores da OpenAI, mas posteriormente entrou em disputa judicial contra a organização, alegando que ela teria se afastado de sua missão original. Esse processo acabou sendo rejeitado por um júri no ano anterior.

Até o momento, xAI e SpaceX não se manifestaram publicamente sobre as acusações apresentadas por Devin Kim.

Fonte: Olhar Digital