MPF envia ao Senado sugestões para o projeto de lei que vai regular uso da inteligência artificial no Brasil

As 12 propostas ao texto do substitutivo consideram normas internacionais sobre IA e leis nacionais que regulam outras atividades sensíveis

Fonte: MPF/Ilustração: Canva - Publicada em 14 de maio de 2024 às 14:51

MPF envia ao Senado sugestões para o projeto de lei que vai regular uso da inteligência artificial no Brasil

O Ministério Público Federal (MPF) enviou à Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA), do Senado Federal, estudo que analisa e apresenta uma série de sugestões ao projeto de lei que pretende regular o uso das ferramentas de IA no país. Produzido pelo Grupo de Trabalho Tecnologias da Informação e da Comunicação (GT-TIC) da Câmara de Ordem Econômica e Consumidor do MPF (3CCR), o documento sugere que a regulamentação defina a Política Nacional de Inteligência Artificial no Brasil, com um Conselho Nacional, integrado por representantes do setor público, sociedade, setor privado e setor acadêmico. 

Na CTIA, o tema está em discussão a partir de substitutivo que aproveita partes do PL 2.338/2023, do Senado Federal, e do PL 21/2020, da Câmara dos Deputados, com ajustes propostos pela Comissão de Juristas Responsável por Subsidiar Elaboração de Substitutivo sobre Inteligência Artificial no Brasil, criada pela Presidência do Senado.

Desafio mundial

Ao todo, foram apresentadas 12 propostas ao texto do substitutivo, elaboradas a partir da análise das normas internacionais sobre o tema e das leis nacionais que regulam outras atividades sensíveis, como energia nuclear, biossegurança, meio ambiente e proteção de dados. No estudo, o MPF lembra que o mundo vive um momento de acelerada expansão do uso da inteligência artificial em serviços, o que traz benefícios para os usuários e inúmeros riscos e dificuldades. O cenário impõe aos países o desafio de regular a matéria de modo a proteger os direitos das pessoas e assegurar o desenvolvimento sustentável dos países e sociedades, sem reproduzir males existentes nas relações humanas, opressão e desigualdades.

O MPF lembra que o aprendizado das ferramentas de IA não ocorre sozinho, mas está baseado em informações fornecidas por indivíduos, que podem acabar reproduzindo preconceitos e discriminações ao alimentar os bancos de dados. Assim, a lei deve prever mecanismos de garantia não só dos direitos das pessoas (como os direitos de personalidade), mas também de proteção da sociedade, com ênfase na defesa dos direitos fundamentais, do processo democrático e lisura das eleições. “A realidade que se apresenta exige, até por conta de sua complexidade, a conjugação de uma legislação estatal que fomente a tecnologia, a inovação e o empreendedorismo, mas que também esteja atenta para os perigos e a necessidade de priorização de direitos fundamentais”, afirma o texto. 

O documento ainda aponta a necessidade de a legislação enfrentar o fenômeno da desinformação, melhorar o regime de transparência e a responsabilização de atores na IA, e estabelecer um adequado regime de supervisão humana e o incentivo à cooperação nacional e internacional, inclusive na perspectiva da sustentabilidade ambiental.

Estrutura normativa

Para o MPF, a regulação da inteligência artificial no Brasil deve adotar uma estruturação normativa ampla. A proposta é que seja criada uma “Política Nacional de Inteligência Artificial, complementada por uma Estratégia Nacional de Inteligência Artificial, executada por um Sistema Nacional de Inteligência Artificial, liderado por um Conselho Nacional de Inteligência Artificial e um órgão técnico competente (agência, comissão, autoridade, etc) para regulação da inteligência artificial”, a exemplo da regulação já adotada pelo Congresso Nacional em leis de outras atividades sensíveis.

Segundo o texto, essa estrutura poderia garantir os mecanismos necessários para regulação, especialmente os destinados à proteção das pessoas e dos trabalhadores, à definição das responsabilidades e do procedimento administrativo regulatório, além de incentivos à cooperação com outros sistemas e órgãos e da previsão do fomento da atividade de inovação, empreendedorismo, pesquisa, capacitação e educação em inteligência artificial, devidamente integrado ao Sistema Nacional de Ciência, Tecnologia e Inovação. 

Sugestões específicas

Foto de mãos sobre o teclado de um notebook aberto. Sobre a imagem há símbolos de aplicativos e gráficos

Além dessa estruturação geral e dos temas que devem ser abordados pela lei (veja lista abaixo), o MPF apresenta sugestões específicas para alguns dispositivos, a exemplo da proposta que complementa a redação atual do art. 7º, adotando o padrão de integração da defesa de direitos sociais, difusos e coletivos ao sistema da Lei da Ação Civil Pública e do Código de Defesa do Consumidor.

Outra sugestão diz respeito à vedação do uso de sistemas de IA que avaliem traços de personalidade. Para o grupo responsável pelo estudo, essa proibição – que impede a utilização de sistemas para classificar pessoas por condutas ou comportamentos – não deve impedir o uso das ferramentas para apoiar a avaliação humana na prevenção, investigação, persecução e processo criminal, desde que embasados em fatos objetivos e verificáveis como diretamente ligados a uma atividade criminosa. 

Para o MPF, o rol de vedações para implementação e uso de sistemas de inteligência artificial não deverá ser taxativo. Como o cenário está em constante mutação e as novas aplicações de IA são criadas a todo o momento, a norma deve incluir a previsão para que o órgão do sistema regulatório competente possa incluir novas atividades e usos vedados, mediante procedimento administrativo pertinente. O grupo de trabalho entendeu, ainda, que a norma deve prever a possibilidade de uso de sistemas de identificação biométrica à distância (como reconhecimento facial, por exemplo) em caso de “ameaça real, substancial e iminente à vida ou à segurança física de pessoas singulares”. 

Além disso, o grupo de trabalho defende que a legislação preveja que o desenvolvimento e o uso de sistemas de IA estejam sujeitos ao princípio da precaução, que permite a restrição de atividades ou direitos com base em riscos potenciais ou incertos. Como as tecnologias de IA ainda estão em desenvolvimento, não é possível estimar seus desdobramentos tecnológicos, econômicos e sociais. Assim, é importante assegurar a possibilidade de que as atividades de IA possam sofrer restrições mesmo quando seus impactos ainda não estão completamente mapeados ou identificados. 

Continuidade do estudo

Até por conta da sua complexidade, o tema continuará sendo objeto de estudo pelo GT-TIC do MPF, e novas sugestões ao substitutivo poderão ser apresentadas no futuro. O documento enviado ao Senado foi produzido com o apoio do Centro de Informática da Universidade Federal de Pernambuco (CIN/UFPE), e de órgãos da 3CCR (Secretaria-Executiva e Assessoria de Coordenação) e da Secretaria de Perícia, Pesquisa e Análise (Sppea) da PGR.

Estruturação temática proposta pelo GT para a regulamentação

Da Política e da Estratégia Nacional de Inteligência Artificial 
Dos Princípios, Objetivos e Conceitos da Política Nacional de Inteligência Artificial 
Dos Direitos e Parâmetros Éticos 
Da Proteção ao Trabalho e aos Trabalhadores 
Do Sistema Nacional de Inteligência Artificial 
Do Conselho Nacional de Inteligência Artificial e do Órgão Técnico Competente de Regulação da Inteligência Artificial 
Dos Instrumentos da Política Nacional de Inteligência Artificial 
Do Sistema de Informações e Registro em Inteligência Artificial 
Da Integração com o Sistema Nacional de Ciência, Tecnologia e Inovação 
Da Integração com o Sistema de Proteção de Dados Pessoais e da Privacidade 
Da Integração com o Sistema de Defesa do Consumidor e de Defesa da Concorrência 
Da Integração com o Sistema Judicial e o Sistema de Defesa Nacional
Da Integração com Outros Órgãos Reguladores 
Da Cooperação Internacional 
Do Fomento e Incentivo à Inovação, Empreendedorismo, Pesquisa, Capacitação e Educação em Inteligência Artificial 
Da Regulação da Inteligência Artificial 
Da Responsabilidade Civil e Administrativa 
Do Ambiente Regulatório Dinâmico e Experimental 
Dos Aspectos Tecnológicos da Regulação 
Da Categorização dos Riscos 
Da Avaliação e Monitoramento dos Riscos e das Comissões Internas 
Dos Agentes de Inteligência Artificial 
Da Fiscalização e Procedimento Administrativo 
Das Sanções 
Das Disposições Finais e Transitórias

MPF envia ao Senado sugestões para o projeto de lei que vai regular uso da inteligência artificial no Brasil

As 12 propostas ao texto do substitutivo consideram normas internacionais sobre IA e leis nacionais que regulam outras atividades sensíveis

MPF/Ilustração: Canva
Publicada em 14 de maio de 2024 às 14:51
MPF envia ao Senado sugestões para o projeto de lei que vai regular uso da inteligência artificial no Brasil

O Ministério Público Federal (MPF) enviou à Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA), do Senado Federal, estudo que analisa e apresenta uma série de sugestões ao projeto de lei que pretende regular o uso das ferramentas de IA no país. Produzido pelo Grupo de Trabalho Tecnologias da Informação e da Comunicação (GT-TIC) da Câmara de Ordem Econômica e Consumidor do MPF (3CCR), o documento sugere que a regulamentação defina a Política Nacional de Inteligência Artificial no Brasil, com um Conselho Nacional, integrado por representantes do setor público, sociedade, setor privado e setor acadêmico. 

Na CTIA, o tema está em discussão a partir de substitutivo que aproveita partes do PL 2.338/2023, do Senado Federal, e do PL 21/2020, da Câmara dos Deputados, com ajustes propostos pela Comissão de Juristas Responsável por Subsidiar Elaboração de Substitutivo sobre Inteligência Artificial no Brasil, criada pela Presidência do Senado.

Desafio mundial

Ao todo, foram apresentadas 12 propostas ao texto do substitutivo, elaboradas a partir da análise das normas internacionais sobre o tema e das leis nacionais que regulam outras atividades sensíveis, como energia nuclear, biossegurança, meio ambiente e proteção de dados. No estudo, o MPF lembra que o mundo vive um momento de acelerada expansão do uso da inteligência artificial em serviços, o que traz benefícios para os usuários e inúmeros riscos e dificuldades. O cenário impõe aos países o desafio de regular a matéria de modo a proteger os direitos das pessoas e assegurar o desenvolvimento sustentável dos países e sociedades, sem reproduzir males existentes nas relações humanas, opressão e desigualdades.

O MPF lembra que o aprendizado das ferramentas de IA não ocorre sozinho, mas está baseado em informações fornecidas por indivíduos, que podem acabar reproduzindo preconceitos e discriminações ao alimentar os bancos de dados. Assim, a lei deve prever mecanismos de garantia não só dos direitos das pessoas (como os direitos de personalidade), mas também de proteção da sociedade, com ênfase na defesa dos direitos fundamentais, do processo democrático e lisura das eleições. “A realidade que se apresenta exige, até por conta de sua complexidade, a conjugação de uma legislação estatal que fomente a tecnologia, a inovação e o empreendedorismo, mas que também esteja atenta para os perigos e a necessidade de priorização de direitos fundamentais”, afirma o texto. 

O documento ainda aponta a necessidade de a legislação enfrentar o fenômeno da desinformação, melhorar o regime de transparência e a responsabilização de atores na IA, e estabelecer um adequado regime de supervisão humana e o incentivo à cooperação nacional e internacional, inclusive na perspectiva da sustentabilidade ambiental.

Estrutura normativa

Para o MPF, a regulação da inteligência artificial no Brasil deve adotar uma estruturação normativa ampla. A proposta é que seja criada uma “Política Nacional de Inteligência Artificial, complementada por uma Estratégia Nacional de Inteligência Artificial, executada por um Sistema Nacional de Inteligência Artificial, liderado por um Conselho Nacional de Inteligência Artificial e um órgão técnico competente (agência, comissão, autoridade, etc) para regulação da inteligência artificial”, a exemplo da regulação já adotada pelo Congresso Nacional em leis de outras atividades sensíveis.

Segundo o texto, essa estrutura poderia garantir os mecanismos necessários para regulação, especialmente os destinados à proteção das pessoas e dos trabalhadores, à definição das responsabilidades e do procedimento administrativo regulatório, além de incentivos à cooperação com outros sistemas e órgãos e da previsão do fomento da atividade de inovação, empreendedorismo, pesquisa, capacitação e educação em inteligência artificial, devidamente integrado ao Sistema Nacional de Ciência, Tecnologia e Inovação. 

Sugestões específicas

Foto de mãos sobre o teclado de um notebook aberto. Sobre a imagem há símbolos de aplicativos e gráficos

Além dessa estruturação geral e dos temas que devem ser abordados pela lei (veja lista abaixo), o MPF apresenta sugestões específicas para alguns dispositivos, a exemplo da proposta que complementa a redação atual do art. 7º, adotando o padrão de integração da defesa de direitos sociais, difusos e coletivos ao sistema da Lei da Ação Civil Pública e do Código de Defesa do Consumidor.

Outra sugestão diz respeito à vedação do uso de sistemas de IA que avaliem traços de personalidade. Para o grupo responsável pelo estudo, essa proibição – que impede a utilização de sistemas para classificar pessoas por condutas ou comportamentos – não deve impedir o uso das ferramentas para apoiar a avaliação humana na prevenção, investigação, persecução e processo criminal, desde que embasados em fatos objetivos e verificáveis como diretamente ligados a uma atividade criminosa. 

Para o MPF, o rol de vedações para implementação e uso de sistemas de inteligência artificial não deverá ser taxativo. Como o cenário está em constante mutação e as novas aplicações de IA são criadas a todo o momento, a norma deve incluir a previsão para que o órgão do sistema regulatório competente possa incluir novas atividades e usos vedados, mediante procedimento administrativo pertinente. O grupo de trabalho entendeu, ainda, que a norma deve prever a possibilidade de uso de sistemas de identificação biométrica à distância (como reconhecimento facial, por exemplo) em caso de “ameaça real, substancial e iminente à vida ou à segurança física de pessoas singulares”. 

Além disso, o grupo de trabalho defende que a legislação preveja que o desenvolvimento e o uso de sistemas de IA estejam sujeitos ao princípio da precaução, que permite a restrição de atividades ou direitos com base em riscos potenciais ou incertos. Como as tecnologias de IA ainda estão em desenvolvimento, não é possível estimar seus desdobramentos tecnológicos, econômicos e sociais. Assim, é importante assegurar a possibilidade de que as atividades de IA possam sofrer restrições mesmo quando seus impactos ainda não estão completamente mapeados ou identificados. 

Continuidade do estudo

Até por conta da sua complexidade, o tema continuará sendo objeto de estudo pelo GT-TIC do MPF, e novas sugestões ao substitutivo poderão ser apresentadas no futuro. O documento enviado ao Senado foi produzido com o apoio do Centro de Informática da Universidade Federal de Pernambuco (CIN/UFPE), e de órgãos da 3CCR (Secretaria-Executiva e Assessoria de Coordenação) e da Secretaria de Perícia, Pesquisa e Análise (Sppea) da PGR.

Estruturação temática proposta pelo GT para a regulamentação

Da Política e da Estratégia Nacional de Inteligência Artificial 
Dos Princípios, Objetivos e Conceitos da Política Nacional de Inteligência Artificial 
Dos Direitos e Parâmetros Éticos 
Da Proteção ao Trabalho e aos Trabalhadores 
Do Sistema Nacional de Inteligência Artificial 
Do Conselho Nacional de Inteligência Artificial e do Órgão Técnico Competente de Regulação da Inteligência Artificial 
Dos Instrumentos da Política Nacional de Inteligência Artificial 
Do Sistema de Informações e Registro em Inteligência Artificial 
Da Integração com o Sistema Nacional de Ciência, Tecnologia e Inovação 
Da Integração com o Sistema de Proteção de Dados Pessoais e da Privacidade 
Da Integração com o Sistema de Defesa do Consumidor e de Defesa da Concorrência 
Da Integração com o Sistema Judicial e o Sistema de Defesa Nacional
Da Integração com Outros Órgãos Reguladores 
Da Cooperação Internacional 
Do Fomento e Incentivo à Inovação, Empreendedorismo, Pesquisa, Capacitação e Educação em Inteligência Artificial 
Da Regulação da Inteligência Artificial 
Da Responsabilidade Civil e Administrativa 
Do Ambiente Regulatório Dinâmico e Experimental 
Dos Aspectos Tecnológicos da Regulação 
Da Categorização dos Riscos 
Da Avaliação e Monitoramento dos Riscos e das Comissões Internas 
Dos Agentes de Inteligência Artificial 
Da Fiscalização e Procedimento Administrativo 
Das Sanções 
Das Disposições Finais e Transitórias

Comentários

    Seja o primeiro a comentar

Envie seu Comentário

 
Winz

Envie Comentários utilizando sua conta do Facebook