Meta: ferramenta que monitora funcionários pode violar regulações da UE

Ferramenta chamada MCI foi desenvolvida para treinar modelos de IA por meio da coleta de dados sobre como pessoas usam computadores

A Meta passou a enfrentar críticas e questionamentos relacionados a uma nova tecnologia interna de monitoramento de computadores utilizada por funcionários nos Estados Unidos. Documentos internos analisados pela Reuters indicam que o sistema pode acabar coletando informações de colaboradores localizados na Europa, levantando preocupações sobre possíveis conflitos com as rígidas normas de privacidade da União Europeia (UE).

A ferramenta, denominada Model Capability Initiative (MCI), foi criada para auxiliar no treinamento de modelos de inteligência artificial por meio da observação de como usuários interagem com computadores. Entre os dados coletados estão movimentos do cursor, cliques, navegação por menus e outras ações realizadas durante o uso diário dos sistemas. Segundo informações compartilhadas internamente pela empresa, o monitoramento abrange mais de 200 aplicativos e sites.

Embora a Meta tenha informado que a iniciativa seria direcionada apenas a funcionários baseados nos Estados Unidos, a própria companhia reconheceu em um documento interno de perguntas e respostas que conteúdos de e-mails e mensagens diretas enviados para colaboradores norte-americanos podem ser capturados pelo sistema, independentemente do país onde o remetente esteja localizado.

Impacto no uso de internet e reclamações internas

• Desde o lançamento, funcionários da Meta relataram que a MCI estava consumindo tantos dados que causou picos no uso de internet doméstica, com alguns casos esgotando a cota mensal inteira em poucos dias, segundo postagens internas vistas pela Reuters;
  
• Dave Arnold, porta-voz da Meta, disse que a MCI foi instalada apenas em dispositivos de funcionários estadunidenses e que o foco está em como pessoas interagem com computadores, não no conteúdo das telas;
  
• “No interesse da transparência, notificamos funcionários fora dos EUA de que a ferramenta foi implantada nos computadores de colegas estadunidenses com quem podem trocar e-mails ou conversar durante o trabalho normal”, afirmou Arnold.

Questões de conformidade com o GDPR
As revelações podem aumentar a pressão regulatória enfrentada pela Meta na União Europeia, região onde grandes empresas de tecnologia já lidam frequentemente com investigações e disputas relacionadas à coleta e ao uso de dados pessoais. Pelo Regulamento Geral de Proteção de Dados (GDPR), as organizações precisam apresentar fundamentos legais claros para processar informações pessoais e seguir exigências ainda mais rigorosas quando os dados são considerados sensíveis.

Kleanthi Sardeli, especialista jurídica da organização de defesa da privacidade NOYB (“não é da sua conta”), afirmou à Reuters que mesmo uma captura limitada ou indireta de informações pertencentes a funcionários europeus poderia colocar a Meta em desacordo com as regras estabelecidas pelo GDPR.

Entre as principais questões levantadas estão a possibilidade de a coleta desses dados ser classificada como algo meramente incidental ou, ao contrário, caracterizar uma forma de monitoramento sujeita às exigências da legislação europeia. Outro ponto debatido envolve o princípio da “limitação de propósito”, um dos pilares do regulamento.

“Esses dados foram originalmente coletados para comunicação de trabalho e cumprimento de contrato de emprego. Pegar o chat de um funcionário e ingeri-lo em modelo de IA [inteligência artificial] é incompatível com esse propósito inicial”, disse Sardeli.

A Meta comunicou à Comissão de Proteção de Dados da Irlanda (DPC), autoridade que atua como seu principal órgão regulador de privacidade na União Europeia sob as regras do GDPR, que nem as informações de funcionários europeus nem a captura de conteúdos exibidos na tela fazem parte do objetivo central da ferramenta. A informação foi confirmada à Reuters por um porta-voz da própria DPC.

Segundo o regulador irlandês, a empresa afirmou que esses tipos de dados não estão incluídos na finalidade principal para a qual o sistema foi desenvolvido, em meio às discussões sobre os possíveis impactos da ferramenta nas normas europeias de proteção de dados.

Reação interna da Meta e análise de segurança
O projeto MCI integra uma transformação mais ampla conduzida pela Meta, que busca ampliar o uso de agentes de inteligência artificial para executar parte significativa das atividades atualmente realizadas por funcionários. A iniciativa gerou forte insatisfação entre colaboradores, alguns dos quais chegaram a comparar a empresa a uma “Fábrica de Extração de Dados de Funcionários”.

Em uma publicação interna, um funcionário divulgou conclusões obtidas após examinar detalhadamente os registros de atividade da ferramenta MCI. A análise teria sido realizada com auxílio do Claude, modelo de inteligência artificial desenvolvido pela Anthropic — uma das soluções de IA que a própria Meta vem incentivando seus colaboradores a utilizar em suas rotinas de trabalho.

De acordo com a análise, posteriormente confirmada por outros funcionários, a ferramenta MCI teria sido integrada ao sistema já existente de segurança e monitoramento de dados da Meta. Com isso, o sistema passaria a ter acesso a um conjunto ainda maior de informações, incluindo alterações realizadas em códigos de software, registros de ativação e suspensão de computadores, endereços de sites visitados e conteúdos copiados e colados por meio da área de transferência.

A investigação também apontou preocupações relacionadas ao armazenamento dessas informações. Segundo os relatos, parte dos dados estaria sendo mantida em formato não criptografado, levantando questionamentos internos sobre os níveis de proteção e segurança adotados para esse material.

Segundo o funcionário responsável pela análise, a reunião desse conjunto de informações permitiria criar um “modelo comportamental completo de como trabalhador do conhecimento faz seu trabalho”. “Não ‘uma IA que clica dropdown para você’, mas ‘uma IA que sabe qual dropdown clicar, o que selecionar, em qual documento colar e o que fazer em seguida’”, escreveu.

De acordo com dois funcionários ouvidos pela Reuters, a publicação interna acabou sendo removida posteriormente. Arnold classificou as conclusões apresentadas no texto como “fundamentalmente imprecisas”, mas não respondeu aos questionamentos sobre as alegações específicas nem confirmou se a empresa foi responsável pela remoção da postagem.

Johnny Ryan, diretor da unidade Enforce do Conselho Irlandês para Liberdades Civis, afirmou que as discussões internas reforçam a necessidade de uma investigação por parte da Comissão de Proteção de Dados da Irlanda (DPC). Segundo ele, “Esta situação, este caso, não se limita a funcionários da Meta. Relaciona-se com todo funcionário em todo setor em que podem ser substituídos. Todo mundo se importa com isso se entender o que é”.

Para Ryan, as questões levantadas pelo projeto vão além da Meta e podem ter implicações mais amplas sobre privacidade, monitoramento no ambiente de trabalho e o papel da inteligência artificial na automação de atividades profissionais.

Fonte: Olhar Digital