Inteligência Artificial Confiável – Considerações sobre privacidade e uso ético
30 de julho de 2021Por Erik Mattfeldt
Regulação no Brasil – Projeto de Lei 21/2020, tramitação e desafios
Projeto de Lei 21/2020
A câmara dos deputados instituiu o regime de urgência no Projeto de Lei 21/2020, que cria o Marco Legal do Desenvolvimento e Uso da Inteligência Artificial no Brasil.
Regime de urgência?
O regime de urgência dispensa algumas formalidades regimentais. Para tramitar neste regime, a proposição deve tratar de matéria que envolva a defesa da sociedade democrática e das liberdades fundamentais; tratar-se de providência para atender a calamidade pública; de Declaração de Guerra, Estado de Defesa, Estado de Sítio ou Intervenção Federal nos estados; acordos internacionais e fixação dos efetivos das Forças Armadas, entre outros casos.
Uma proposição também pode tramitar com urgência, quando houver apresentação de requerimento nesse sentido. Caso a urgência seja aprovada, a proposição será colocada na Ordem do Dia da sessão deliberativa seguinte, mesmo que seja no mesmo dia.
Tramitação
A tramitação acontece desde 03/02/2020, iniciando com a apresentação do Projeto de Lei n. 21/2020, pelo Deputado Eduardo Bismarck (PDT/CE), tramitando ainda em fev/2020 pela Mesa Diretora da Câmara dos Deputados, Comissão de Ciência e Tecnologia, Comunicação e Informática (CCTCI ) e Coordenação de Comissões Permanentes e ainda em fev/2020 o deputado Eduardo Bismarck fez requisição visando a inclusão da Comissão de Desenvolvimento Econômico, Indústria, Comércio e Serviços (CDEICS), quando a análise técnica constatou presentes elementos inseridos no campo temático desta comissão.
Ainda em fev/2020 foi apensado o PL 4120/2020, que disciplina o uso de algoritmos pelas plataformas digitais na internet, assegurando transparência no uso das ferramentas computacionais que possam induzir a tomada de decisão ou atuar sobre as preferências dos usuários, tema contiguo ao projeto.
Em março/2021, o Deputado Leo de Brito (PT/AC), fez requisição visando a realização de audiência pública na Comissão de Ciência e Tecnologia, Comunicação e Informática (CCTCI) para que seja aberto ao público debate sobre o Projeto de Lei, aprovado pela comissão no dia 17/março/2021, devido à complexidade técnica do tema e amplitude das aplicações e aspectos que precisam ser levados em conta na discussão da proposição em tramitação.
Em maio/2021 a Deputada Luisa Canziani (PTB/PR), que solicita novamente a realização de audiência pública por meio de novo requerimento citando que “O Projeto de Lei nº 21/2020, exige um debate amplamente qualificado para que possamos entender a importância e a maneira de se elaborar um quadro legal e regulatório atento aos anseios dos diferentes atores públicos e privados, além de desenhado para evitar abordagens excessivamente intervencionistas que possam impedir a sociedade de aproveitar todos os seus benefícios.”
Em 26/maio/2021 a Deputada Soraya Santos PL/RJ, apresentou o requerimento de urgência, aprovado na REQ Nº 1150/2021 por 357 votos e somente 3 votos contra, em 06/julho/2021.
A partir deste momento, o projeto de lei está em regime de urgência, aguardando somente a votação em plenário para ser aprovado pela Câmara dos Deputados.
E os outros projetos de Lei?
Como citado, foi apensado o PL 4120/2020, que discorre sobre o uso de algoritmos pelas plataformas digitais na internet, o PL 240/2020, que trata do mesmo tema, além do PL 872/2021 que tramita no Senado.
O PL 872/2021 estabelece somente fundamentos e objetivos, adicionalmente define diretrizes para os entes federativos, porém não detalha como aconteceria esta adoção, ele é destinado principalmente a questões institucionais e não define obrigações para os demais provedores de tecnologia.
O PL 4120/2020 por sua vez, tem muito em comum com o PL 21/2020 e trata principalmente da transparência e publicidade, estabelecendo a figura do relatório de impacto para sistemas de IA de alto risco, sua produção anual e publicação na internet, demanda que o governo federal publique um guia de padrões e boas práticas para o desenvolvimento e a operação de sistemas de decisão automatizada de elevado risco.
Além de definir sanções específicas, como advertências, multas e suspensão das atividades. Este PL não define quais seriam os sistemas de elevado risco, apesar de já termos um parâmetro para definição de riscos na norma europeia.
O PL 240/2020 estabelece a necessidade de uma Política Nacional de Inteligência Artificial, a ser publicada pelo governo, e sugere a necessidade de que todas as pesquisas e projetos devem ser submetidos aos órgãos de fiscalização, além da necessidade de período probatório na academia científica antes de obter o registro de operação.
Este processo de aprovação, se não for devidamente regrado, pode ser um gargalo e poderia demandar investimentos para estas fiscalizações, além de não existir definição dos órgãos específicos responsáveis para tal.
E o PL 21/2020?
O PL 21/2020 estabelece princípios, direitos, deveres e instrumentos de governança para o uso da IA pelo Poder Público, pelas entidades privadas e pessoas físicas, considerando como sistema de Inteligência Artificial aquele baseado em “processo computacional que pode, para determinado conjunto de objetivos definidos pelo homem, fazer previsões e recomendações ou tomar decisões que interfiram em ambientes físicos ou digitais”.
O PL estabelece como fundamentos para o uso da Inteligência Artificial no Brasil: (i) desenvolvimento tecnológico e inovação; (ii) livre iniciativa e livre concorrência; (iii) respeito aos direitos humanos e valores democráticos; (iv) igualdade, não discriminação, pluralidade e respeito aos direitos trabalhistas; e (v) privacidade e proteção de dados.
O PL define também responsabilidades para os agentes de inteligência artificial, sendo estes agentes de desenvolvimento e agente de operação, inclusive a necessidade de geração de relatório de impacto de inteligência artificial como instrumento de responsabilização e prestação de contas, que deve conter a descrição do ciclo de vida do sistema, além de outros deveres, como prover informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados, assegurar que os dados utilizados pelo sistema de inteligência artificial observem a Lei 13.709, de 2018 – Lei Geral de Proteção de Dados, implantar um sistema de inteligência artificial somente após avaliação adequada de seus objetivos, benefícios e riscos relacionados e encerrar o sistema se o seu controle humano não for mais possível.
Porém, não é citada ou definida qualquer sanção para os agentes de inteligência artificial, à exemplo do PL 4120/2020.
No final ele cita que cabe ao Poder Público, em conjunto com a sociedade civil e o setor empresarial, promover a capacitação humana e definição de boas práticas para o desenvolvimento ético e responsável dos sistemas de inteligência artificial no País.
Quais os desafios da correta regulação da IA no Brasil?
Apesar de já existir extensa regulação de sistemas de IA nos últimos anos, como normas, diretivas e regulamentos criados pela OCDE, União Europeia, NIST e outros.
A correta regulação no Brasil dependeria de instituição para implementar e fiscalizar o cumprimento destas normas e alinhamento com o setor produtivo e sociedade civil.
A ausência de sanções dificultaria também à adoção pelo setor privado destas normas, visto que o empresariado nacional normalmente prioriza investimentos atrelados ao risco.
Por exemplo, numa lei análoga como a Lei 13.709, a LGPD, apesar de início da vigência em 2020, as companhias levaram em consideração o início das multas em agosto/2021, como prazo final para adequação.
Numa analogia com a mesma lei, vemos os desafios da ANPD na definição de procedimentos de regulação e operacionalização destas fiscalizações.
Neste caso seria adequado que o governo federal criasse a estrutura para esta regulação e fiscalização dos sistemas de IA, ou o que é mais provável, atribuir a um órgão já existente, como ANPD, ITI, dentre outros, a responsabilidade para gestão deste processo.
A Necessidade de regulação de IA
Além da necessidade crescente à nível global, com utilização maciça de dados pelas redes sociais e grandes provedores de tecnologia, no Brasil estamos na expectativa de alguns movimentos importantes, endereçados durante o isolamento, como regulamentação da telemedicina, que trará oportunidades de acesso à dados de saúde, dados muito sensíveis para os usuários, a entrada do Open Banking, que possibilitará o acesso à dados bancários, além de movimentos já existentes, como a Justiça Digital.
Estas oportunidades para empresas especialistas em IA representam possíveis riscos para a sociedade civil de mau uso de algoritmos, portanto é salutar a definição do arcabouço legal para sistema de IA.
Com informações:
https://www.in.gov.br/en/web/dou/-/portaria-gm-n-4.617-de-6-de-abril-de-2021-312911562
https://www.camara.leg.br/propostas-legislativas/2236340
https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2259721
Sobre Erik Mattfeldt
Erik Mattfeldt possui uma carreira desenvolvida na área comercial, novos negócios, canais e parcerias no setor de soluções de tecnologia e segurança da informação atendendo a mercados como: Governo, Saúde, Educação, Varejo, Bancos, Oil & Gas e Energia, etc. Experiência na área comercial de 15 anos, sendo responsável pelo atendimento comercial de clientes corporativos de todos os segmentos contribuindo para uma visão holística de mercado.
Atuação no desenvolvimento de novos negócios, estratégias comerciais, Pricing e analise mercadológicas. Experiência em planejamento comercial, diagnostico de mercado, pontos fortes e fracos, construção da estratégia certa para o mercado alvo e monitoramento do pipeline de vendas por segmento.
Marco Legal da Inteligência Artificial ganha destaque na câmara dos deputados
Inteligência Artificial e Direito no Brasil
Comissão Europeia define novas regras para promover a confiança na inteligência artificial
