Esta é a lei da UE para regular a IA: uma pioneira no mundo para proteger contra os riscos da IA

Por Euronews com EFE

A norma permite ou proíbe a utilização de inteligência artificial consoante o risco que gera para as pessoas e será aplicada faseadamente e contempla multas até 35 milhões de euros.

As instituições da União Europeia chegaram esta sexta-feira a acordo sobre a lei da inteligência artificial que permite ou proíbe o uso da tecnologia dependendo do risco que representa para as pessoas e que procura impulsionar a indústria europeia contra gigantes como a China e os Estados Unidos.

“A lei da UE sobre IA é pioneira no mundo. Um quadro jurídico único para o desenvolvimento da inteligência artificial em que se pode confiar ”, disse a presidente da Comissão Europeia, Ursula von der Leyen, numa mensagem na rede social.

Vigilância em tempo real

Um dos pontos mais sensíveis das negociações tem sido o uso que as autoridades policiais poderão fazer de câmeras de identificação biométrica em espaços públicos para garantir a segurança nacional. As câmeras poderão ser utilizadas mediante autorização judicial prévia para prevenir uma ameaça terrorista “genuína e previsível” ou “genuína e presente”, ou seja, aquela que esteja ocorrendo naquele momento.

Podem também ser utilizados para localizar ou identificar uma pessoa que tenha cometido crimes de terrorismo , tráfico de seres humanos, exploração sexual ou, por exemplo, um crime ambiental e para procurar as vítimas desses crimes. Durante as negociações, os governos pressionaram para expandir a lista de crimes , enquanto o Parlamento Europeu tentou limitá-la tanto quanto possível e obter fortes salvaguardas para os direitos fundamentais.

Sistemas proibidos

A regra também proíbe todos os sistemas de categorização biométrica baseados em crenças políticas, religiosas ou filosóficas ou por raça e orientação sexual. Nem serão utilizados sistemas que avaliem as pessoas com base no seu comportamento ou características pessoais ou inteligência artificial capaz de manipular o comportamento humano .

Também serão proibidos sistemas de expansão ou criação de bancos de dados faciais por meio da captura indiscriminada de dados por meio da Internet ou de gravações audiovisuais. Além disso, sistemas de inteligência artificial capazes de reconhecer emoções também serão proibidos em locais de trabalho ou escolas .

IA generativa

A outra grande questão que tem centrado as negociações é a regulamentação dos sistemas generativos de inteligência artificial , nos quais se baseiam modelos como o ChatGPT , da empresa OpenAI, ou o Bard , do Google. Terão que cumprir critérios de transparência , como especificar se um texto, uma música ou uma fotografia foi gerado através de inteligência artificial e garantir que os dados utilizados para treinar os sistemas respeitam os direitos de autor.

Inicialmente, a lei não se destinava a regular este tipo de sistemas, porque ainda não se tinham tornado populares quando Bruxelas propôs a lei em Abril de 2021, mas as instituições comunitárias viram a necessidade de os legislar desde o surgimento do ChatGPT no ano passado. O regulamento não proíbe a sua utilização, mas estabeleceu uma série de critérios para detectar modelos que podem gerar um risco elevado dependendo do contexto em que são utilizados e exige que os seus criadores cumpram salvaguardas mais rigorosas antes de os colocarem no mercado.

As negociações foram “apaixonadas”, já que o objetivo da lei é regulamentar o uso de uma tecnologia com grandes possibilidades para a sociedade , o que ao mesmo tempo levanta dúvidas e alguns questionamentos que os desenvolvedores da inteligência artificial ainda não sabem responder , segundo fontes familiarizadas com os debates. O regulamento permite ou proíbe o uso de inteligência artificial dependendo do risco que gera para as pessoas e identifica sistemas de alto risco que só podem ser utilizados se for demonstrado que respeitam os direitos fundamentais. Por exemplo, aqueles que podem ser usados para influenciar o resultado de uma eleição , aqueles usados pelas instituições financeiras para avaliar a solvência e estabelecer classificação de crédito.

A presidência espanhola do Conselho da UE alcançou um dos seus principais objetivos neste semestre com a aprovação desta norma pioneira no mundo. “Alcançamos um marco importante, que os cidadãos podem decidir o que pode ou não ser feito com a inteligência artificial”, disse a secretária de Estado espanhola de Telecomunicações e Infraestrutura Digital, Carme Artigas.

O regulamento prevê a criação do Gabinete Europeu de Inteligência Artificial , que coordenará a utilização da tecnologia entre as autoridades nacionais e será assessorado por um painel de cientistas e organizações da sociedade civil. A lei está prevista para entrar em vigor em 2026, mas será aplicada por fases : o gabinete europeu será criado imediatamente, a proibição de sistemas de inteligência artificial proibidos atingirá seis meses, e os requisitos para sistemas e modelos de IA generativos, aos 12.

O regulamento prevê multas que variam entre 35 milhões de euros (37,6 milhões de dólares) ou 7% do volume global de negócios das empresas, e 7,5 milhões de euros (8 milhões de dólares ou 1,5% do volume de negócios global).