IA: relator apresenta proposta alinhada com regulamentos da Europa e dos EUA

A proposta está em sintonia com regulamentos já existentes na União Europeia, nos Estados Unidos e no Reino Unido, entre outros

Fonte: Agência Senado/Foto: Roque de Sá/Agência Senado - Publicada em 25 de abril de 2024 às 18:16

Relator Eduardo Gomes (esq.) conversa com Carlos Viana, presidente da comissão

O senador Eduardo Gomes (PL-TO) apresentou nesta quarta-feira (24) seu relatório preliminar sobre a regulação da Inteligência Artificial (IA) no Brasil. Ele é o relator da Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA), presidida pelo senador Carlos Viana (Podemos-MG). A proposta está em sintonia com regulamentos já existentes na União Europeia, nos Estados Unidos e no Reino Unido, entre outros.

— A regulação da IA não é urgente, como alguns querem pontuar. Urgente é a proteção dos direitos do cidadão. Podemos assumir riscos, mas não podemos tolerar injustiças. E o Congresso não vai se omitir quanto à regulação de tecnologias que podem trazer prejuízos ao cidadão — afirmou Eduardo.

Em seu relatório, o senador apresenta um texto alternativo ( substitutivo) que mescla vários projetos de lei em tramitação no Senado, em especial o PL 2.338/2023, do senador Rodrigo Pacheco (PSD-MG), presidente do Senado e do Congresso Nacional, e o PL 21/2020 — já aprovado na Câmara — de autoria do deputado Eduardo Bismarck (PDT-CE). O projeto de Pacheco é fruto do trabalho de uma comissão de juristas criada por ele em 2022.

O senador Eduardo disse que sua proposta é preliminar e que está aberta a debates e sugestões. Para ele, a regulação da IA precisa mirar a proteção dos direitos e garantias fundamentais sem prejudicar a inovação e o desenvolvimento do país.

— A IA é promessa de desenvolvimento e de competitividade, mas tem que ser sustentável e seu uso, responsável.

Ele explicou que o substitutivo prioriza a inovação e o desenvolvimento econômico inclusivos e apresenta diretrizes para investimento público em pesquisa e educação sustentáveis.

— Não existe inovação, ainda mais no Brasil, sem proteger a música, as artes, enfim, o jeito criativo brasileiro. Por isso, avançamos neste ponto. As propostas anteriores eram muito tímidas para a proteção do artista, do compositor, do jornalismo, enfim, do que é o humano na inteligência artificial. (...) Trazemos deveres para que não haja mais fake news, ódio e violência que desgastam a nossa democracia, preservando especialmente a integridade da informação.

O texto substitutivo do senador propõe uma lei para tratar “sobre o desenvolvimento, fomento, uso ético e responsável da inteligência artificial com base na centralidade da pessoa humana”.

Apresenta normas gerais para regular “concepção, desenvolvimento, implementação, utilização, adoção e governança responsável de sistemas de inteligência artificial no Brasil, com o objetivo de proteger os direitos fundamentais, estimular a inovação responsável e garantir a implementação de sistemas seguros e confiáveis, em benefício da pessoa humana, do regime democrático e do desenvolvimento econômico, científico e tecnológico”.

O substitutivo estabelece que o Brasil terá um Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), que será coordenado por autoridade a ser designada pelo Poder Executivo. O senador sugere que esta autoridade seja a já existente Autoridade Nacional de Proteção de Dados Pessoais (ANPD), que teria de ser aperfeiçoada e ampliada para o propósito. Essa regulação seria feita em harmonia com os demais órgãos reguladores brasileiros, como o Banco Central, Cade e as agências reguladoras Anatel, Anvisa, ANS e outros.

Em seu art. 4º, o substitutivo define dezenas de elementos relativos à regulação da IA, como ciclo de vida, modelos fundacionais, IA generativa, desenvolvedor de sistema de IA, fornecedor, aplicador, agentes de IA, discriminação direta e indireta, mineração de textos e dados, avaliação de impacto algorítmico, conteúdos sintéticos derivados, integridade informacional e outros.

O ‘sistema de inteligência artificial’ é definido como “sistema baseado em máquina que, com graus diferentes de autonomia e para objetivos explícitos ou implícitos, infere, a partir de um conjunto de dados ou informações que recebe, como gerar resultados, em especial, previsão, recomendação ou decisão que possa influenciar o ambiente virtual ou real”.

A proposta prevê avaliação preliminar de riscos antes da introdução de sistema de IA no mercado. Haverá também obrigatoriedade de ‘avaliação de impacto algorítmico’ em determinados casos. Também estabelece regras para o uso de ‘sistemas de armas autônomas’, letais ou não, que deverão garantir o ‘controle humano significativo’ e respeitar as regras do Direito Internacional Humanitário e do Direito Internacional dos Direitos Humanos.

O uso de sistemas de identificação biométrica à distância, em tempo real e em espaços acessíveis ao público, será proibido, salvo em situações que envolvam autorização judicial para instrução em processo criminal; busca de vítimas ou de pessoas desaparecidas; investigação e repressão de flagrantes de crimes com pena máxima de reclusão superior a dois anos; e recaptura de fugitivos, cumprimento de mandados de prisão e de medidas restritivas ordenadas pelo Poder Judiciário.

O texto apresentado por Eduardo também trata do fomento à inovação sustentável; proteção ao trabalho e aos trabalhadores; direitos autorais e demais direitos da personalidade conexos; formação e capacitação.

O senador Carlos Viana afirmou que a regulação da IA precisa garantir direitos como privacidade, combate ao preconceito e a todo tipo de discriminação, mas que também dê liberdade aos desenvolvedores para pesquisarem e inovarem na área em prol do desenvolvimento científico e econômico do Brasil. Ele disse que o relatório preliminar ficará à disposição de toda a sociedade e aberto a novas sugestões e aperfeiçoamentos.

Também participaram da reunião os senadores Astronauta Marcos Pontes (PL-SP) e Alessandro Vieira (MDB-SE), o ministro de Relações Institucionais, Alexandre Padilha, e os deputados federais Orlando Silva (PCdoB-SP), Eduardo Bismarck e Luise Canziani (PSD-PR), relatora do PL 21/2020 na Câmara.

Pontes opinou que a regulação deve proteger o cidadão sem prejudicar a pesquisa e a competitividade nacionais no setor. Ele elogiou a proposta por trazer pontos como as responsabilidades de desenvolvedores, operadores e usuários e análise de riscos.

Outras determinações do substitutivo

A lei não se aplicará a sistema de IA: usado por um indivíduo para fim particular não econômico  desenvolvido e utilizado exclusivamente para defesa nacional atividades de testagem, desenvolvimento e pesquisa que não sejam colocados em circulação no mercado padrões e formatos abertos e livres, com exceção daqueles considerados de alto risco

Fundamentos da IA no Brasil:  centralidade da pessoa humana; respeito aos direitos humanos e aos valores democráticos; livre desenvolvimento da personalidade e liberdade de expressão;  proteção ao meio ambiente e ao desenvolvimento ecologicamente equilibrado;  igualdade, não discriminação, pluralidade e diversidade;  direitos sociais, em especial a valorização do trabalho humano;  desenvolvimento econômico, científico e tecnológico e inovação; livre iniciativa, livre concorrência e defesa do consumidor; privacidade, proteção de dados pessoais e autodeterminação informativa;  promoção da pesquisa e do desenvolvimento; acesso à informação e à disseminação de dados, de forma aberta e estruturada;  proteção de direitos culturais e a promoção dos bens artísticos e históricos;  educação e conscientização sobre os sistemas de inteligência artificial;  proteção de grupos vulneráveis, em especial de idosos, de pessoas com deficiência e, com absoluta prioridade, de crianças e adolescentes, reconhecendo a vulnerabilidade agravada;  integridade da informação mediante a proteção e a promoção da confiabilidade, precisão e consistência das informações;  fortalecimento do processo democrático, pluralismo político e enfrentamento da desinformação e dos discursos que promovam o ódio ou a violência; proteção de direitos de propriedade intelectual; garantia da segurança da informação e segurança cibernética.

Princípios da IA no Brasil:  crescimento inclusivo, desenvolvimento sustentável e bem-estar, incluindo a proteção do trabalho e do trabalhador; autodeterminação e liberdade de decisão e de escolha;  supervisão humana efetiva no ciclo de vida da IA;  não discriminação ilícita e abusiva; justiça, equidade e inclusão; transparência e explicabilidade, observado o segredo comercial e industrial;  devida diligência e auditabilidade ao longo de todo o ciclo de vida do sistema de IA;  confiabilidade e robustez do sistema de IA; proteção dos direitos e garantias fundamentais, incluindo o devido processo legal, contestabilidade e contraditório; prestação de contas, responsabilização e reparação integral de danos; prevenção, precaução e mitigação de riscos e danos; não maleficência e proporcionalidade entre os métodos empregados e as finalidades determinadas e legítimas do sistema de IA;  desenvolvimento e uso ético e responsável da IA;  governança transparente, participativa e orientada à proteção de direitos fundamentais individuais, sociais e econômicos; promoção da interoperabilidade de IA para permitir acesso mais amplo e inovação colaborativa; possibilidade e condição de utilização de sistemas e tecnologias com segurança e autonomia por pessoa com deficiência, garantida a plena acessibilidade à informação e à comunicação; e  conformidade com a legislação aplicável.

Direitos das pessoas e grupos afetados pela IA: direito à informação prévia quanto às suas interações com sistemas de inteligência artificial, de forma acessível e de fácil compreensão, inclusive sobre caráter automatizado da interação;  direito à privacidade e à proteção de dados pessoais;  direito à determinação e à participação humana em decisões de sistemas de IA, levando-se em conta o contexto e o estado da arte do desenvolvimento tecnológico;  direito à não-discriminação e à correção de vieses discriminatórios diretos, indiretos, ilegais ou abusivos.

Proibição da implementação e uso de sistemas de IA:  que empreguem técnicas subliminares que tenham por objetivo ou por efeito induzir a pessoa a se comportar de forma prejudicial ou perigosa à saúde ou segurança própria ou de terceiros; que explorem quaisquer vulnerabilidades, tais como as associadas à idade, situação socioeconômica ou deficiência física ou mental, de modo a induzi-las a se comportar de forma prejudicial à saúde ou segurança própria ou de terceiros; pelo poder público, para avaliar, classificar ou ranquear as pessoas, com base no seu comportamento social ou em atributos da sua personalidade, por meio de pontuação universal, para o acesso a bens e serviços e políticas públicas, de forma ilegítima ou desproporcional; que possibilitem a produção, disseminação ou facilitem a criação de material que caracterize ou represente abuso ou exploração sexual infantil; que avaliem os traços de personalidade, as características ou o comportamento passado, criminal ou não, de pessoas singulares ou grupos, para avaliação de risco de cometimento de crime, infrações ou de reincidência; sistemas de armas autônomas que não permitam controle humano significativo, cujos efeitos sejam imprevisíveis ou indiscriminados ou cujo uso implique violação do Direito Internacional Humanitário.

Sanções a infrações à lei da IA:  advertência; multa simples, limitada, no total a R$ 50  milhões de reais por infração, sendo, no caso de pessoa jurídica de direito privado, de até 2% de seu faturamento, de seu grupo ou conglomerado no Brasil no seu último exercício, excluídos os tributos; publicização da infração; proibição ou restrição para participar de regime de sandbox regulatório, por até cinco anos;  suspensão parcial ou total, temporária ou definitiva, do desenvolvimento, fornecimento ou operação do sistema de IA; e  proibição de tratamento de determinadas bases de dados.