News

Entrou em vigor ontem, 01 de agosto, o Regulamento da Inteligência Artificial da União Europeia. O ato legislativo visa promover o desenvolvimento e a implantação responsáveis da inteligência artificial. A maior parte da legislação será aplicada a partir de 2026, mas algumas disposições já serão vinculativas no próximo ano.

Proposto pela Comissão em abril de 2021 e aprovado pelo Parlamento Europeu e pelo Conselho em dezembro de 2023, o Regulamento Inteligência Artificial aborda os potenciais riscos para a saúde, a segurança e os direitos fundamentais dos cidadãos, além de estabelecer requisitos de implementação e obrigações claras em matéria específica de Inteligência Artificial com base nos diferentes potenciais riscos e níveis de impacto.

Definição de Inteligência Artificial

O artigo 3º, nº1, do Regulamento defini os sistemas de Inteligência Artificial como:

” um sistema baseado em máquinas concebido para funcionar com vários níveis de autonomia, que pode apresentar adaptabilidade após a implantação e que, por motivos explícitos ou objetivos implícitos, infere, a partir das informações que recebe, como gerar resultados como previsões, conteúdos, recomendações ou decisões que podem influenciar atividades físicas ou virtuais ambientes.”

Aplicações proibidas – Inteligência Artificial de Risco Inaceitável

As novas regras proíbem determinadas aplicações de IA, consideradas de riscos inaceitáveis, que ameaçam os direitos dos cidadãos, incluindo sistemas de categorização biométrica baseados em características sensíveis e a recolha não direcionada de imagens faciais da Internet ou de televisão em circuito fechado para criar bases de dados de reconhecimento facial. Serão também proibidos o reconhecimento de emoções no local de trabalho e nas escolas, a classificação social, o policiamento preditivo (quando se baseia exclusivamente na definição de perfis de uma pessoa ou na avaliação das suas características) e a IA que manipula o comportamento humano ou explora as vulnerabilidades das pessoas.

Obrigações aplicáveis aos sistemas considerados de alto risco

Estão igualmente previstas obrigações claras para outros sistemas de IA, considerados de alto risco, devido aos seus potenciais danos significativos para a saúde, a segurança, os direitos fundamentais, o ambiente, a democracia e o Estado de direito. Exemplos de utilizações de IA de alto risco incluem infraestruturas críticas, educação e formação profissional, emprego, serviços públicos e privados essenciais (nomeadamente os cuidados de saúde e a banca), determinados sistemas de aplicação da lei, migração e gestão das fronteiras, justiça e processos democráticos (por exemplo, influenciando eleições). Esses sistemas devem avaliar e reduzir os riscos, manter registos de utilização, ser transparentes e exatos e garantir a supervisão humana. Os cidadãos terão o direito de apresentar queixas sobre os sistemas de IA e de receber explicações sobre as decisões baseadas em sistemas de IA de alto risco que afetem os seus direitos.

Requisitos de transparência

Os sistemas de IA de uso geral, considerados de riscos limitados, bem como os modelos de IA de uso geral em que tais sistemas se baseiam, devem cumprir determinados requisitos de transparência, incluindo o respeito pela legislação da UE sobre direitos de autor e publicar informação detalhada dos conteúdos usados para treino. Os modelos de IA de uso geral mais poderosos que possam colocar riscos sistémicos terão de cumprir requisitos adicionais, tais como realizar avaliações de modelos, avaliar e atenuar os riscos sistémicos e comunicar incidentes. Além disso, os conteúdos de imagem, áudio ou vídeo artificiais ou manipulados («falsificações profundas») devem ser claramente rotulados como tal.

Inteligência Artificial com risco mínimo ou inexistente

Os sistemas de IA com riscos insignificantes podem continuar sem regulamentação.

Isenções para fins de aplicação da lei

A utilização de sistemas de identificação biométrica à distância pelas autoridades policiais é, em princípio, proibida, exceto em situações enunciadas exaustivamente e definidas de modo restrito. A identificação biométrica à distância «em tempo real» só pode ser aplicada se forem cumpridas salvaguardas rigorosas, nomeadamente se a sua utilização for limitada no tempo e no âmbito geográfico e se estiver sujeita a uma autorização judicial ou administrativa prévia específica. Tais utilizações podem incluir, por exemplo, a busca seletiva de uma pessoa desaparecida ou a prevenção de um ataque terrorista. A utilização de sistemas de identificação biométrica à distância «em diferido» é considerada um caso de uso de alto risco, exigindo uma autorização judicial associada a uma infração penal.

Medidas de apoio à inovação

Terão de ser criados, a nível nacional dos Estados-membros, ambientes de testagem da regulamentação e de testes em condições reais e acessíveis a start-ups, a fim de desenvolver e treinar IA inovadoras antes da sua colocação no mercado. O Gabinete de Inteligência Artificial da União Europeia é criado para ajudar as empresas a começarem a cumprir as novas regras antes da entrada em vigor.

Este conteúdo é meramente informativo, para uma análise de caso e enquadramento específico da situação de sua empresa ou IA, entre em contato connosco.