Inteligência artificial em discussão na União Europeia

Inteligência artificial em discussão na União Europeia. O Parlamento Europeu, após o acordo político estabelecido em dezembro de 2023, acaba de aprovar o inédito regulamento sobre inteligência artificial (IA).

O documento ainda será objeto de uma verificação final pelos juristas-linguistas, e, na sequência, será direcionado para o Conselho Europeu para, formalmente, conceder seu apoio.

Superadas estas etapas, o regulamento entrará em vigor 20 dias após a publicação no jornal oficial, tendo eficácia 24 meses após sua entrada em vigor, exceto no que diz respeito: às práticas proibidas cujas restrições serão aplicáveis seis meses após a data de entrada em vigor; aos códigos de conduta (nove meses após a entrada em vigor); às regras para a IA de uso geral, incluindo a governança (12 meses após a entrada em vigor); e às obrigações para os sistemas de alto risco (36 meses).

O objetivo principal do Regulamento é proteger direitos fundamentais, democracia, Estado de direito e sustentabilidade ambiental contra os riscos associados à IA de alto impacto, sem prejuízo do estímulo à inovação.

O Regulamento de Inteligência Artificial, da União Europeia, “AI Act”, traz uma abordagem baseada em riscos, bem como apresenta a classificação dos sistemas de IA como práticas proibidas e de alto risco. Essa análise focada no risco inclui a avaliação obrigatória do impacto nos direitos fundamentais, além dos setores bancários e seguradores, juntamente com a análise de sistemas de IA usados para influência nas eleições e comportamento dos eleitores, todos estes tidos como de alto risco. O direito dos cidadãos a apresentar reclamações sobre esses sistemas automatizados, e obter explicações sobre decisões baseadas neles, em linha com a atual Lei Geral de Proteção de Dados (LGPD), também são classificados como de alto risco.

Destaca-se, ainda, que o AI Act dispõe um sistema de governança para a União Europeia e concede autonomia aos seus 27 Estados-membros para regularem o tema.

É importante, ainda, salientar que a lei em questão traz penalidades que podem resultar em multas de até 35 milhões de euros ou 7% do faturamento anual de negócios globais, dependendo da gravidade da infração e do porte da empresa, o que for maior. No Regulamento Geral de Proteção de Dados (GDPR) em vigor na Europa, que foi uma grande inspiração para nossa lei brasileira de proteção de dados, temos multas de até 4% do faturamento anual global, limitado a 20 milhões de euros, o que sinalizada o grau de preocupação associado ao tema em discussão.

A regulamentação da Inteligência Artificial é um desafio complexo, com várias questões associadas, incluindo a funcionalidade e a importância da tecnologia no mundo moderno. Nesta etapa, mais prudente é definir diretrizes macro sobre os principais temas e aprofundar as discussões com a sociedade, sempre atentos à posição dos especialistas, para que se normatize de forma consciente dos riscos, efeitos e danos gerados à sociedade.

A versão final da regulamentação para os sistemas de inteligência artificial da União Europeia (EU AI Act), foi aprovada no dia 13 de março de 2024, pelo Parlamento Europeu (com 523 votos a favor, 46 contra e 49 abstenções dos deputados). O EU AI Act foi aprovado após longo processo legislativo que começou em 2019. O regulamento traz um conjunto de definições e regras que visam garantir a segurança jurídica e o cumprimento dos direitos fundamentais, ao mesmo tempo que impulsiona a inovação e a transformação digital.

Nesse sentido é o que dispõe o artigo 1º do regulamento europeu de IA: “A finalidade do presente regulamento é melhorar o funcionamento do mercado interno e promover a adoção de uma inteligência artificial centrada no ser humano e de confiança, assegurando simultaneamente um elevado nível de proteção da saúde, da segurança e dos direitos fundamentais consagrados na Carta dos Direitos Fundamentais, incluindo a democracia, o Estado de direito e a proteção do ambiente, contra os efeitos nocivos dos sistemas de inteligência artificial (“sistemas de IA”) na União, bem como apoiar a inovação.”

O EU AI Act será a primeira regulamentação para as ferramentas de inteligência artificial no bloco da União Europeia, e certamente promoverá forte influência em nível global. Contudo, ainda depende de um período de vacatio legis, vinculado a certas obrigações específicas, para entrar efetivamente em vigor, conforme disposto no documento”, analisa a advogada Danielle Campello, especialista em Direito Digital, Proteção de Dados e Novas Tecnologias do Di Blasi, Parente & Associados.

A regulamentação traz uma ampla abordagem baseada na avaliação dos riscos inerentes ao sistema de IA apresentado e seus possíveis impactos, estabelecendo uma aplicabilidade extensiva, direcionando-se não apenas a entidades da UE mas também a fornecedores e usuários internacionais de sistemas de IA, sempre que os seus produtos ou serviços sejam utilizados na União Europeia.

Não foram inseridos na regulação, os programas de inteligência artificial concebidos para fins militares, de defesa e soberania nacional.

O objetivo principal do Regulamento é proteger direitos fundamentais, democracia, Estado de direito e sustentabilidade ambiental contra os riscos associados à IA de alto impacto, sem prejuízo do estímulo à inovação.

O Regulamento de Inteligência Artificial, da União Europeia, “AI Act”, traz uma abordagem baseada em riscos, bem como apresenta a classificação dos sistemas de IA como práticas proibidas e de alto risco. Essa análise focada no risco inclui a avaliação obrigatória do impacto nos direitos fundamentais, além dos setores bancários e seguradores, juntamente com a análise de sistemas de IA usados para influência nas eleições e comportamento dos eleitores, todos estes tidos como de alto risco. O direito dos cidadãos a apresentar reclamações sobre esses sistemas automatizados, e obter explicações sobre decisões baseadas neles, em linha com a atual Lei Geral de Proteção de Dados (LGPD), também são classificados como de alto risco.

Destaca-se, ainda, que o AI Act dispõe um sistema de governança para a União Europeia e concede autonomia aos seus 27 Estados-membros para regularem o tema.

É importante, ainda, salientar que a lei em questão traz penalidades que podem resultar em multas de até 35 milhões de euros ou 7% do faturamento anual de negócios globais, dependendo da gravidade da infração e do porte da empresa, o que for maior. No Regulamento Geral de Proteção de Dados (GDPR) em vigor na Europa, que foi uma grande inspiração para nossa lei brasileira de proteção de dados, temos multas de até 4% do faturamento anual global, limitado a 20 milhões de euros, o que sinalizada o grau de preocupação associado ao tema em discussão.

A regulamentação da Inteligência Artificial é um desafio complexo, com várias questões associadas, incluindo a funcionalidade e a importância da tecnologia no mundo moderno. Nesta etapa, mais prudente é definir diretrizes macro sobre os principais temas e aprofundar as discussões com a sociedade, sempre atentos à posição dos especialistas, para que se normatize de forma consciente dos riscos, efeitos e danos gerados à sociedade.

Há proibições para preservar privacidade

É importante ressaltar que esse regulamento proibiu determinados sistemas de IA que ameaçam direitos dos cidadãos, incluindo os sistemas de categorização biométrica que classifiquem individualmente as pessoas  com base nos seus dados biométricos para deduzir ou inferir a sua raça, opiniões políticas, filiação sindical, convicções religiosas ou filosóficas, vida sexual ou orientação sexual, bem como sistemas que coletam de forma não direcionada imagens faciais da Internet ou imagens de CCTV para criar bases de dados de reconhecimento facial e identificar pessoas em tempo real”, esclarece Dra. Danielle Campello.

Ficaram também proibidas as aplicações de IA que utilizam o reconhecimento de emoções no local de trabalho e nas escolas, pontuação social, o policiamento preditivo (que se baseia apenas no perfil de uma pessoa ou na avaliação das suas características a fim de avaliar ou prever a probabilidade de uma pessoa singular cometer uma infração penal), e o sistema de IA que manipula e engana o comportamento humano ou explora as vulnerabilidades das pessoas. Mas, será possível usar o reconhecimento facial para lidar com risco iminente à vida ou à segurança física de pessoas, situações de terrorismo, ou para ajudar na busca direcionada de uma pessoa desaparecida, na investigação de rapto, tráfico e exploração sexual, desde que com autorização judicial e estando associada a uma infração penal.

Dentro do contexto de abordagem de riscos, estão previstas obrigações e uma governança ainda mais rigorosa para os sistemas de IA definidos como de alto risco. Entre os exemplos de utilizações de IA de alto risco contam-se as infraestruturas críticas, a educação e a formação profissional, o emprego, os serviços públicos e privados essenciais (por exemplo, cuidados de saúde, serviços bancários e crédito), a migração e a gestão das fronteiras, a justiça e os processos democráticos (por exemplo, influenciar as eleições)”, comenta a advogada do Di Blasi, Parente & Associados.

Impactos no mundo

O regulamento para os sistemas de IA Europeu é o primeiro texto vinculativo aprovado no mundo. A regulação Europeia tem como eixo central, a defesa dos direitos fundamentais e dos princípios éticos, centrado no ser humano, e para esse fim, estabelece regras claras e sólidas que mitigam os riscos inerentes dos sistemas, privilegiando a transparência e informações adequadas, ao mesmo tempo que apoia e promove soluções inovadoras e explora o potencial da transformação digital, criando infinitas oportunidades, dentro de um contexto de governança e gestão de riscos, tendo em vista  a devida  adequação e conformidade dos sistemas de inteligência artificial.

Por: Thaissa Garcia, Mestre em Direito Civil pela PUC/SP, Especialista em Direito Digital/EBRADI & Izabelle Leite, Graduanda em Direito no FDV-ES e Estagiária do Albuquerque Melo Advogados &  Danielle Campello, advogada especialista em Direito Digital, Proteção de Dados e Novas Tecnologias

 

Veja também:

Sobre mindsecblog 2556 Artigos
Blog patrocinado por MindSec Segurança e Tecnologia da Informação Ltda.

1 Trackback / Pingback

  1. Forrester Wave: SAST Static Application Security Testing

Deixe sua opinião!