Comissão Europeia define novas regras para promover a confiança na inteligência artificial
30 de junho de 2021A Comissão propõe novas regras e ações destinadas a transformar a Europa no polo mundial da inteligência artificial fiável
Uma Europa Preparada para a Era Digital: Comissão propõe novas regras e ações para promover a excelência e a confiança na inteligência artificial
A conjunção do primeiro quadro jurídico em matéria de inteligência artificial e de um novo Plano Coordenado com os Estados-Membros garantirá a segurança e a defesa dos direitos fundamentais das pessoas e das empresas, reforçando simultaneamente o investimento, a inovação e a utilização da inteligência artificial, em toda a UE. As novas regras aplicáveis às máquinas complementarão esta abordagem, adaptando as regras de segurança, a fim de aumentar a confiança dos utilizadores na nova e versátil geração de produtos.
A vice-presidente executiva de Uma Europa Preparada para a Era Digital, Margrethe Vestager, declarou: «No domínio da inteligência artificial, a confiança é um imperativo, não um acessório. Com esta regulamentação histórica, a UE lidera o desenvolvimento de novas normas mundiais, para garantir uma inteligência artificial de confiança. Ao estabelecermos as normas, podemos abrir caminho à tecnologia ética em todo o mundo e garantir simultaneamente que a UE se mantenha competitiva. Preparadas para o futuro e favoráveis à inovação, as nossas regras serão aplicadas quando estritamente necessário: sempre que se trate da segurança e dos direitos fundamentais dos cidadãos da UE.»
O comissário responsável pelo Mercado Interno, Thierry Breton, afirmou: «A inteligência artificial é um meio, não um fim em si mesma. Existe há várias décadas, mas, graças ao aumento do poder de computação disponível, alcançou um novo nível de capacidades. Isto traduz-se num enorme potencial, em domínios tão diversos como a saúde, os transportes, a energia, a agricultura, o turismo ou a cibersegurança. Apresenta igualmente uma série de riscos. As propostas hoje apresentadas visam reforçar a posição da Europa enquanto polo mundial de excelência no domínio da inteligência artificial, do laboratório ao mercado, assegurar que a inteligência artificial na Europa respeita os nossos valores e regras e explorar o potencial da inteligência artificial para utilização industrial.»
O novo regulamento relativo à inteligência artificial permitirá aos europeus confiar no que a inteligência artificial tem para oferecer.
Estas regras, proporcionadas e flexíveis, abordarão os riscos específicos colocados pelos sistemas de inteligência artificial e estabelecerão os mais elevados padrões a nível mundial.
O Plano Coordenado descreve as mudanças políticas e o investimento necessários a nível dos Estados-Membros para reforçar a posição de liderança da Europa no desenvolvimento de uma inteligência artificial centrada no ser humano, sustentável, segura, inclusiva e fiável.
A abordagem europeia para uma inteligência artificial fiável
As novas regras serão aplicadas diretamente e da mesma forma em todos os Estados-Membros, com base numa definição de inteligência artificial orientada para o futuro. As regras seguem uma abordagem baseada no risco:
Risco inaceitável
Os sistemas de inteligência artificial considerados uma clara ameaça à segurança, aos meios de subsistência e aos direitos das pessoas serão proibidos. Tal inclui sistemas ou aplicações de inteligência artificial que manipulam o comportamento humano para iludir o livre arbítrio dos utilizadores (por exemplo, brinquedos para menores com assistência de voz que encorajam comportamentos perigosos) e sistemas que permitem uma «classificação social» por parte dos governos.
Risco elevado
Os sistemas de inteligência artificial identificados como de risco elevado incluem a tecnologia de inteligência artificial utilizada em:
Infraestruturas críticas
Por exemplo, transportes que possa pôr em risco a vida e a saúde dos cidadãos.
Educação ou formação profissional
Que possa determinar o acesso à educação e a evolução profissional de uma pessoa (por exemplo, classificação de exames.
Componentes de segurança de produtos
Por exemplo, utilização de inteligência artificial em cirurgia assistida por robôs.
Emprego, gestão de trabalhadores e acesso ao trabalho por conta própria
Por exemplo, utilização de software de análise de CV em procedimentos de recrutamento.
Serviços públicos e privados essenciais
Por exemplo, pontuação de crédito que impeça a obtenção de empréstimos.
Aplicação coerciva da lei
Que possa interferir com os direitos fundamentais das pessoas (por exemplo, avaliação da fiabilidade de provas.
Gestão da migração, do asilo e do controlo das fronteiras
Por exemplo, verificação da autenticidade de documentos de viagem.
Administração da justiça e processos democráticos
Por exemplo, aplicação da lei a um conjunto específico de factos.
Os sistemas de inteligência artificial de risco elevado terão de cumprir obrigações rigorosas antes de poderem ser colocados no mercado:
1 Sistemas adequados de avaliação e atenuação dos riscos.
2 Elevada qualidade dos conjuntos de dados que alimentam o sistema, a fim de minimizar os riscos e os resultados discriminatórios
3 Registo da atividade para assegurar a rastreabilidade dos resultados;
4 Documentação pormenorizada que forneça todas as informações necessárias sobre o sistema e o seu objetivo, para que as autoridades possam avaliar a sua conformidade;
5 Informações claras e adequadas para o utilizador;
6 Medidas de supervisão humana adequada, para minimizar os riscos;
7 Elevado nível de solidez, segurança e exatidão.
Em especial, todos os sistemas de identificação biométrica à distância são considerados de risco elevado e sujeitos a requisitos rigorosos.
A sua utilização em tempo real em espaços acessíveis ao público para fins policiais é, em princípio, proibida. As poucas exceções são estritamente definidas e regulamentadas (tais como quando estritamente necessário para procurar uma criança desaparecida, para prevenir uma ameaça terrorista específica e iminente ou para detetar, localizar, identificar ou julgar um autor ou suspeito de uma infração penal grave). Essa utilização está sujeita à autorização de um órgão judicial ou de outro organismo independente e a limites adequados em termos de prazos, alcance geográfico e bases de dados pesquisadas.
Risco limitado, ou seja, sistemas de inteligência artificial com obrigações de transparência específicas: Ao utilizarem sistemas de inteligência artificial como robôs de conversação, os utilizadores devem estar cientes de que estão a interagir com uma máquina, para poderem tomar a decisão informada de prosseguir ou não.
Risco mínimo: a proposta legislativa permite a livre utilização de aplicações como jogos de vídeo ou filtros de spam baseados em inteligência artificial. A grande maioria dos sistemas de inteligência artificial insere-se nesta categoria. O projeto de regulamento não intervém nestes casos, uma vez que estes sistemas de inteligência artificial representam apenas um risco mínimo ou nulo para os direitos ou para a segurança dos cidadãos.
Em termos de governação, a Comissão propõe que as autoridades nacionais competentes de fiscalização do mercado supervisionem o cumprimento das novas regras, cuja aplicação será facilitada pela criação de um Comité Europeu para a Inteligência Artificial, que também impulsionará o desenvolvimento de normas para a inteligência artificial. Além disso, são propostos códigos de conduta voluntários para a inteligência artificial de risco não elevado, bem como ambientes de testagem da regulamentação, para promover a inovação responsável.
A abordagem europeia para a excelência no domínio da inteligência artificial
A coordenação reforçará a posição de liderança da Europa em termos de inteligência artificial centrada no ser humano, sustentável, segura, inclusiva e fiável. Para se manter competitiva a nível mundial, a Comissão está empenhada em promover a inovação no desenvolvimento e utilização de tecnologias de inteligência artificial em todos os setores, em todos os Estados-Membros.
Publicado pela primeira vez em 2018 para definir ações e instrumentos de financiamento para o desenvolvimento e a adoção da inteligência artificial, o Plano Coordenado para a inteligência artificial tornou possível um panorama dinâmico de estratégias nacionais e de financiamento da UE para parcerias público-privadas e redes de investigação e inovação.
A atualização abrangente do Plano Coordenado propõe ações conjuntas específicas de colaboração, para assegurar que todos os esforços estão em consonância com a Estratégia Europeia para a inteligência artificial e o Pacto Ecológico Europeu, tendo simultaneamente em conta os novos desafios decorrentes da pandemia de COVID-19.
Apresenta uma visão para acelerar os investimentos na inteligência artificial, o que pode beneficiar a recuperação. Visa igualmente incentivar a execução de estratégias nacionais para a inteligência artificial, eliminar a fragmentação e enfrentar os desafios globais.
O Plano Coordenado atualizado utilizará o financiamento atribuído através dos programas Europa Digital e Horizonte Europa, bem como do Mecanismo de Recuperação e Resiliência, que prevê uma meta de 20 % de despesas digitais, e de programas da política de coesão para:
– Criar condições propícias ao desenvolvimento e à adoção da inteligência artificial através do intercâmbio de pontos de vista políticos, da partilha de dados e do investimento em capacidades de computação críticas;
– Promover a excelência da inteligência artificial «do laboratório ao mercado», criando uma parceria público-privada, desenvolvendo e mobilizando capacidades de investigação, desenvolvimento e inovação e disponibilizando instalações de teste e experimentação, bem como polos de inovação digital, às PME e às administrações públicas;
– Assegurar que a inteligência artificial está ao serviço das pessoas e é uma fonte de bem-estar na sociedade, estando na vanguarda do desenvolvimento e da implantação de uma inteligência artificial fiável, cultivando talentos e competências através do apoio a formações, redes de doutoramento e bolsas de pós-doutoramento no domínio digital, integrando a confiança nas políticas de inteligência artificial e promovendo a visão europeia de uma inteligência artificial sustentável e fiável a nível mundial;
– Desenvolver uma liderança estratégica em setores e tecnologias de elevado impacto (incluindo o ambiente, a saúde, o setor público, a mobilidade, a administração interna, a agricultura e a robótica), centrando-se no contributo da inteligência artificial para a produção sustentável e incrementando o intercâmbio transfronteiras de informações.
A abordagem europeia à nova geração de máquinas
A definição de «máquina» abrange uma vasta gama de produtos de uso pessoal e profissional, desde robôs a máquinas de cortar relva, impressoras 3D, equipamentos de construção e linhas de produção industrial. A Diretiva Máquinas, substituída pelo novo Regulamento Máquinas, definiu requisitos de saúde e segurança para estes produtos.
Este novo Regulamento Máquinas assegurará que a nova geração de máquinas garante a segurança dos utilizadores e consumidores e incentiva a inovação. Enquanto o Regulamento Inteligência Artificial abordará os riscos de segurança dos sistemas de inteligência artificial, o novo Regulamento Máquinas assegurará a integração segura de um sistema de inteligência artificial em toda a máquina. As empresas apenas terão de realizar uma única avaliação da conformidade.
Além disso, o novo Regulamento Máquinas dará resposta às necessidades do mercado, proporcionando maior clareza jurídica relativamente às disposições atuais, simplificando os encargos administrativos e os custos para as empresas, possibilitando a disponibilização da documentação em formatos digitais e adaptando as taxas de avaliação da conformidade para as PME, assegurando simultaneamente a coerência com o quadro normativo da UE para os produtos.
Próximas etapas
O Parlamento Europeu e os Estados-Membros terão de adotar, no âmbito do processo legislativo ordinário, as propostas da Comissão relativas a uma abordagem europeia à inteligência artificial e às máquinas. Uma vez adotados, os regulamentos serão diretamente aplicáveis em toda a UE. Paralelamente, a Comissão continuará a colaborar com os Estados-Membros na execução das ações anunciadas no Plano Coordenado.
Contexto
A Comissão tem vindo, desde há vários anos, a facilitar e a reforçar a cooperação em matéria de inteligência artificial em toda a UE, a fim de aumentar a sua competitividade e assegurar a confiança com base nos valores da UE.
Na sequência da publicação, em 2018, da Estratégia Europeia para a inteligência artificial, e após ampla consulta das partes interessadas, o Grupo de Peritos de Alto Nível em Inteligência Artificial (GPAN) elaborou, em 2019, orientações para uma inteligência artificial fiável e uma lista de avaliação para uma inteligência artificial fiável, em 2020. Paralelamente, o primeiro Plano Coordenado para a inteligência artificial foi publicado, em dezembro de 2018, enquanto compromisso conjunto com os Estados-Membros.
O Livro Branco da Comissão sobre a inteligência artificial, publicado em 2020, definiu uma visão clara para a inteligência artificial na Europa: um ecossistema de excelência e confiança, que preparou o terreno para a proposta hoje apresentada.
A consulta pública a respeito do Livro Branco sobre a inteligência artificial granjeou ampla participação mundial.
O «Relatório sobre as implicações em matéria de segurança e de responsabilidade decorrentes da inteligência artificial, da Internet das coisas e da robótica», que acompanha o Livro Branco, concluiu que a atual legislação sobre segurança dos produtos contém uma série de lacunas, a abordar, nomeadamente, na Diretiva Máquinas.
Para mais informações
Novas regras para a inteligência artificial – perguntas e respostas
Novas regras para a inteligência artificial – ficha informativa
Comunicação sobre a promoção de uma abordagem europeia à inteligência artificial
Regulamento sobre uma abordagem europeia à inteligência artificial
Novo Plano Coordenado para a Inteligência Artificial
