E se eles estiverem usando fotos do seu filho para treinar uma inteligência artificial?

 

No dia 22 de maio, metade da humanidade recebeu um email que não passou despercebido. O Facebook, que tem mais de 3 bilhões de usuários ativos mensais, e o Instagram, que tem outros 2.000 (embora alguns deles provavelmente também tenham Facebook), informaram a seus usuários que seus dados seriam usados para treinar modelos de inteligência artificial (IA). onde trabalha a Meta, controladora dessas redes sociais.

O Meta possibilitou uma forma para quem quisesse exercer o direito de não participar daquele jogo. No entanto, o processo era complicado e, por vezes, não funcionava. A autoridade de proteção de dados da Irlanda, país onde tem a sua sede europeia, pediu à empresa fundada por Mark Zuckerberg que congelasse a sua iniciativa. Finalmente, Meta cedeu e o paralisou na Europa em 14 de junho .

Quatro dias antes, a ONG Humans Rights Watch (HRW) publicou uma investigação revelando que fotografias de menores tiradas da Internet sem consentimento estavam a ser utilizadas para treinar “poderosas ferramentas de IA”. O repositório de imagens LAION-5B, que vários desenvolvedores utilizam para alimentar seus bancos de dados, “contém links para fotos identificáveis de crianças brasileiras”, afirmou a ONG. “Os nomes de alguns deles aparecem na legenda ou na URL onde a imagem está armazenada. Em muitos casos, as suas identidades são facilmente rastreáveis, incluindo informações sobre quando e onde a criança estava no momento em que a fotografia foi tirada”, conclui a HRW.

A organização detectou pelo menos 170 fotos de menores brasileiros inseridas no banco de dados sem autorização. Após a notificação da HRW, o LAION-5B reconheceu que possuía essas imagens e procedeu à sua remoção do seu repositório. “As crianças não devem viver com medo de que as suas fotos sejam roubadas e usadas contra elas”, disse Hye Jung Han, pesquisadora da HRW especializada em crianças e tecnologia. Pouco depois, Hye encontrou 190 fotos de meninos e meninas australianos também trazidos para o LAION-5B sem o consentimento dos pais. Alguns deles foram retirados do YouTube.

Brasil e Austrália são casos isolados? A análise de Hye sugere que não. Examinou apenas cerca de 5.000 imagens de crianças de cada país, o que representa cerca de 0,0001% do repositório LAION-5B. “Não temos conhecimento de que imagens de crianças sejam utilizadas na formação em IA na Europa. No entanto, é muito provável que estas imagens estejam a ser recolhidas e utilizadas em modelos de IA no nosso continente”, afirma Felix Mikolasch, advogado de proteção de dados da NOYB (sigla para None of Your Business , nenhum dos seus negócios), uma organização austríaca dedicada para defender os direitos digitais dos cidadãos europeus.

Que tipo de consentimento é necessário para usar fotos de crianças? “Menores de 14 anos não podem fornecer consentimento válido para esses fins. Abaixo dessa idade é necessário o consentimento de ambos os pais, do responsável ou similar”, explica Jorge García Herrero, advogado especializado em proteção de dados.

“Os modelos não memorizam imagens, apenas aprendem os padrões matemáticos subjacentes para fabricar imagens sintéticas precisas das do banco de dados de treinamento”, diz García Herrero, delegado de proteção de dados (figura que garante o cumprimento da regulamentação). de uma empresa que possui um importante banco de imagens. “Se você fizer as coisas direito, você pede consentimento aos modelos menores ou aos seus pais para usar a imagem e remove o contexto das fotos”, diz ele, referindo-se aos metadados (como a data ou local em que a foto foi tirada). que podem ajudar a identificar os assuntos.

O que devemos fazer se descobrirmos a foto de alguém que conhecemos num destes repositórios? “Os cidadãos podem solicitar sua exclusão diretamente. Você também pode entrar em contato com a AEPD. Além disso, existe a possibilidade de pedir indenização na Justiça”, afirma Mikolasch.

Reclamações para Meta

Horas depois de Meta enviar o e-mail a todos os usuários do Instagram e do Facebook informando que a empresa queria usar seus dados para treinar sua IA, o advogado Luis Gervás de la Pisa apresentou duas reclamações. Um perante a Agência Espanhola de Proteção de Dados (AEPD) e outro perante a autoridade irlandesa. “A medida viola meu direito de acesso e exclusão. Ou seja, quero saber se meus dados são realmente utilizados para essa tarefa e não estão me pedindo consentimento para fazer o que dizem que querem fazer”, afirma. As reclamações foram interrompidas, enquanto a Meta decidiu congelar a sua decisão.

A organização NOYB, por seu lado, apresentou outras 11 reclamações junto das autoridades de proteção de dados de vários países da UE. “Meta está basicamente dizendo que você pode usar qualquer dado de qualquer fonte para qualquer finalidade e disponibilizá-lo para qualquer pessoa no mundo, desde que seja feito usando tecnologia de IA. Isto é claramente o oposto de cumprir o Regulamento Geral de Proteção de Dados”, disse o advogado Max Schrems, fundador da NOYB.

O Facebook e o Instagram não são as únicas redes sociais que querem aproveitar os dados dos seus utilizadores para treinar a IA da sua empresa-mãe. X, o antigo Twitter, também faz isso por padrão. Aqueles que não desejam que seus tweets e mensagens privadas sejam usados para treinar Grok, a ferramenta generativa de IA de Elon Musk , deve desativar essa função (que está ativada por padrão) nas configurações da plataforma.

 

MANUEL G. PASCUAL 1º DE AGOSTO DE 2024 El Pais Espanha