O Regulamento Inteligência Artificial foi aprovado pelo Parlamento Europeu. Com o Regulamento os legisladores europeus pretendem garantir a segurança e o respeito dos direitos fundamentais, como a democracia, o Estado de direito e a sustentabilidade ambiental contra a Inteligência Artificial (IA) de alto risco.
Para os eurodeputados o Regulamento Inteligência Artificial vai também promover em simultâneo a inovação e tornar a Europa líder no domínio da IA. Assim, como estabelece obrigações para a IA com base nos seus potenciais riscos e nível de impacto.
“Finalmente, temos a primeira lei vinculativa do mundo em matéria de inteligência artificial, a fim de reduzir os riscos, criar oportunidades, combater a discriminação e trazer transparência. Graças ao Parlamento, as práticas inaceitáveis de IA serão proibidas na Europa e os direitos dos trabalhadores e dos cidadãos serão protegidos”, referiu o eurodeputado relator Brando Benifei.
Aplicações vedadas à IA
O Regulamento proíbe determinadas aplicações de IA que ameacem os direitos dos cidadãos, incluindo sistemas de categorização biométrica baseados em características sensíveis e a recolha não direcionada de imagens faciais da Internet ou de televisão em circuito fechado para criar bases de dados de reconhecimento facial.
São também proibidos o reconhecimento de emoções no local de trabalho e nas escolas, a classificação social, o policiamento preditivo (quando se baseia exclusivamente na definição de perfis de uma pessoa ou na avaliação das suas características) e a IA que manipula o comportamento humano ou explora as vulnerabilidades das pessoas.
Entre as aplicações proibidas há exceções
A utilização de sistemas de identificação biométrica à distância pelas autoridades policiais é proibida, mas pode ser aceite em determinadas situações que são enunciadas exaustivamente e definidas de modo restrito.
A identificação biométrica à distância “em tempo real” só pode ser aplicada se forem cumpridas salvaguardas rigorosas, nomeadamente se a sua utilização for limitada no tempo e no âmbito geográfico e se estiver sujeita a uma autorização judicial ou administrativa prévia específica. Tais utilizações podem incluir, por exemplo, a busca seletiva de uma pessoa desaparecida ou a prevenção de um ataque terrorista.
A utilização de sistemas de identificação biométrica à distância “em diferido” é considerada um caso de uso de alto risco, exigindo uma autorização judicial associada a uma infração penal.
Obrigações aplicáveis aos sistemas de alto risco
Estão igualmente previstas obrigações claras para outros sistemas de IA de alto risco, devido aos seus potenciais danos significativos para a saúde, a segurança, os direitos fundamentais, o ambiente, a democracia e o Estado de direito. Exemplos de utilizações de IA de alto risco incluem infraestruturas críticas, educação e formação profissional, emprego, serviços públicos e privados essenciais (nomeadamente os cuidados de saúde e a banca), determinados sistemas de aplicação da lei, migração e gestão das fronteiras, justiça e processos democráticos (por exemplo, influenciando eleições).
Os sistemas devem avaliar e reduzir os riscos, manter registos de utilização, ser transparentes e exatos e garantir a supervisão humana. Os cidadãos terão o direito de apresentar queixas sobre os sistemas de IA e de receber explicações sobre as decisões baseadas em sistemas de IA de alto risco que afetem os seus direitos.
Transparência no uso de IA
Os sistemas de IA de uso geral, bem como os modelos de IA de uso geral em que tais sistemas se baseiam, devem cumprir determinados requisitos de transparência, incluindo o respeito pela legislação da UE sobre direitos de autor e publicar informação detalhada dos conteúdos usados para treino.
Os modelos de IA de uso geral mais poderosos que possam colocar riscos sistémicos terão de cumprir requisitos adicionais, tais como realizar avaliações de modelos, avaliar e atenuar os riscos sistémicos e comunicar incidentes.
Além disso, os conteúdos de imagem, áudio ou vídeo artificiais ou manipulados (“falsificações profundas”) devem ser claramente rotulados como tal.
Medidas de apoio à inovação e às PME
Os eurodeputados consideraram que terão de ser criados, a nível nacional, ambientes de testagem da regulamentação e testes em condições reais, acessíveis às PME e às empresas em fase de arranque (start-ups), a fim de desenvolver e treinar IA inovadora antes da sua colocação no mercado.
“O Gabinete de Inteligência Artificial será agora criado para ajudar as empresas a começarem a cumprir as regras antes de entrarem em vigor. Garantimos que os seres humanos e os valores europeus estão no centro do desenvolvimento da IA”, afirmou o eurodeputado relator da Comissão do Mercado Interno, Brando Benifei.
Para o eurodeputado relator da Comissão das Liberdades Cívicas, Dragos Tudorache, “A UE obteve resultados. Ligámos o conceito de inteligência artificial aos valores fundamentais que formam a base das nossas sociedades. No entanto, há muito trabalho pela frente que vai além do próprio Ato de Inteligência Artificial. A IA levar-nos-á a repensar o contrato social no centro das nossas democracias, dos nossos modelos educativos, dos mercados de trabalho e da forma como conduzimos a guerra. A Lei da IA é um ponto de partida para um novo modelo de governação construído em torno da tecnologia. Devemos agora concentrar-nos em pôr esta lei em prática”.
