8 estados dos EUA processam OpenAI e acusam ChatGPT de colocar jovens em risco

Ações alegam que chatbot pode incentivar comportamentos perigosos e enganar usuários sobre sua segurança; em outro processo, famílias acusam empresa de usar informações íntimas de menores sem consentimento dos pais

A OpenAI é alvo de uma nova série de processos judiciais nos Estados Unidos. Nesta quarta-feira (14), procuradores-gerais de oito estados apresentaram ações contra a companhia, alegando que o ChatGPT representa riscos para os usuários, incluindo crianças e adolescentes, além de transmitir uma percepção equivocada sobre a segurança do chatbot.

As ações foram protocoladas separadamente em tribunais estaduais de Iowa, Kansas, Nebraska, Virgínia Ocidental, Arkansas, Arizona, Idaho e Montana. De acordo com as autoridades, a ferramenta pode intensificar delírios, estimular condutas perigosas e fornecer orientações que levem usuários a prejudicar a si mesmos ou terceiros, inclusive por meio do planejamento de atos violentos.

Os processos também sustentam que a OpenAI teria colocado o engajamento dos usuários e os interesses comerciais acima das medidas de proteção. Os estados acusam a empresa de descumprir normas de defesa do consumidor por não esclarecer de maneira adequada os riscos associados ao ChatGPT. As alegações ainda serão analisadas pela Justiça.

O que os estados querem da OpenAI

• Os procuradores-gerais pedem que a Justiça determine mudanças no funcionamento do ChatGPT e imponha sanções à empresa. Entre as medidas solicitadas estão multas, indenizações por danos e ordens para impedir que a OpenAI faça declarações consideradas enganosas sobre a segurança do chatbot;
  
• As ações também incluem pedidos relacionados ao desenvolvimento de modelos de inteligência artificial (IA) capazes de se aperfeiçoar sozinhos. Os estados querem restringir esse tipo de desenvolvimento enquanto a empresa não puder garantir que os sistemas estejam alinhados a valores humanos;
  
• Os processos citam outros casos em que famílias alegaram que o ChatGPT contribuiu para a morte de parentes ou ajudou usuários a planejar atos violentos. Os relatos são apresentados pelas autoridades como parte dos argumentos para justificar a necessidade de medidas adicionais de proteção.

OpenAI diz que já possui proteções para adolescentes
Em entrevista ao The Verge, Drew Pusateri, porta-voz da OpenAI, declarou que a empresa implementou no ChatGPT medidas de proteção voltadas a usuários de diferentes idades.

De acordo com ele, a companhia seguirá colaborando com especialistas para aperfeiçoar os sistemas de segurança. Entre as ferramentas mencionadas estão os controles parentais, os avisos que incentivam pausas durante o uso e as proteções dos modelos ajustadas conforme a faixa etária.

A OpenAI também afirmou que está aberta ao diálogo com os estados para desenvolver regras e políticas de inteligência artificial que sejam aplicáveis a todo o setor, em vez de se restringirem a uma única empresa.

Outro processo acusa empresa de usar dados íntimos de crianças
Além dos processos movidos pelos oito estados, a OpenAI também é alvo de uma ação coletiva em um tribunal federal de São Francisco, nos Estados Unidos. Conforme noticiado pelo Futurism, o processo foi aberto em nome de dois menores, de 12 e 16 anos, cujas identidades não foram divulgadas. A ação questiona a maneira como a empresa coleta e utiliza dados pessoais de crianças e adolescentes.

De acordo com a petição, a OpenAI teria aproveitado informações confidenciais compartilhadas durante conversas com o ChatGPT, como dados relacionados à saúde, inseguranças e questões pessoais, para aprimorar seus modelos de inteligência artificial e elaborar perfis detalhados de usuários menores de idade. Os responsáveis pelo processo alegam que essas práticas teriam ocorrido sem a devida autorização dos pais e solicitam indenizações para as pessoas afetadas.

Entre as situações mencionadas no processo está a de uma menina de 12 anos que vive no Havaí e que, segundo a ação, informou sua idade ao chatbot. A petição relata que ela conversou com a ferramenta sobre questões emocionais e preocupações com a própria aparência, além de mencionar que estava deixando de fazer refeições e enviar fotografias para obter opiniões sobre sua imagem. Os autores do processo afirmam que o chatbot reagiu de forma encorajadora diante das informações pessoais compartilhadas pela adolescente.

Os episódios relatados fazem parte das alegações apresentadas no processo e, isoladamente, não representam uma decisão judicial que comprove a responsabilidade da empresa. Segundo o Futurism, a OpenAI não se manifestou após ser procurada para comentar essa ação.

Termos de uso também entram em discussão
As regras de utilização da OpenAI estabelecem restrições ao uso da plataforma por crianças com menos de 13 anos. Entretanto, a ação coletiva sustenta que os procedimentos adotados para confirmar a idade dos usuários seriam insuficientes. Os autores também argumentam que crianças não devem ser responsabilizadas por compreender todas as consequências legais dos termos de serviço.

Os responsáveis pelo processo solicitam ainda que os menores que teriam tido seus dados coletados recebam indenizações financeiras. Na avaliação dos advogados envolvidos, a possibilidade de a empresa ter de pagar pela utilização dessas informações poderia estimular investimentos no desenvolvimento de um produto com mais mecanismos de segurança.

O caso ocorre em um contexto de debates sobre as ferramentas de proteção oferecidas pela OpenAI a adolescentes. A companhia apresenta o ChatGPT destinado a esse público como uma experiência mais segura, com medidas desenvolvidas com orientações de profissionais das áreas de saúde mental e educação. No entanto, uma análise independente recente levantou dúvidas sobre a eficácia dessas proteções. Conforme informou o Futurism, a OpenAI contestou as conclusões do estudo.

Embora estejam relacionadas à segurança da plataforma, as duas frentes judiciais tratam de questões diferentes. Os processos movidos pelos oito estados questionam possíveis prejuízos aos consumidores e a maneira como a empresa apresenta a segurança do ChatGPT. Já a ação coletiva concentra-se na coleta e no tratamento de informações pessoais de crianças e adolescentes. Até o momento, nenhuma dessas acusações representa uma conclusão definitiva da Justiça.

Fonte: Olhar Digital