Impactos da IA no sistema constitucional, na democracia e nos direitos fundamentais são temas de evento no STF

Debate teve participação de ministros e especialistas e aconteceu nesta terça-feira (19)

Fonte: STF - Publicada em 19 de agosto de 2024 às 19:26

Foto: Rosinei Coutinho/STF e Gustavo Moreno/STF

Os impactos da inteligência artificial (IA) no sistema constitucional, na democracia e nos direitos fundamentais foram temas do evento realizado no Supremo Tribunal Federal (STF), na manhã desta segunda-feira (19). O encontro reuniu ministros da Suprema Corte e especialistas brasileiros e internacionais, na sala de sessões da Primeira Turma do STF. Participaram da abertura o ministro presidente do STF, Luís Roberto Barroso, o decano da Corte, ministro Gilmar Mendes, e a ministra do Tribunal Superior Eleitoral (TSE), Edilene Lôbo.

Na fala de abertura, o ministro Barroso apresentou um breve contexto da evolução tecnológica da atualidade, falou dos projetos de inteligência artificial desenvolvidos pelo Supremo e tratou de como essas inovações têm transformado o sistema de justiça brasileiro. Para o presidente do STF, o Brasil está à frente de outros países no uso de tecnologias emergentes, em especial quando se trata de digitalização de documentos e automatização de processos, uma vez que “poucos países do mundo têm 83,3 milhões de processos em tramitação como o Brasil”, afirmou.

O ministro Gilmar Mendes destacou as mudanças sociais e jurídicas trazidas pelo advento das novas tecnologias. Observou também que direitos como o de proteção de dados emergem a partir do desenvolvimento de ecossistemas digitais, nos quais trafegam imensas quantidades de dados. “Os sistemas de IA frequentemente dependem de grandes volumes de dados pessoais para funcionar eficazmente. Isso cria riscos potenciais de violações de privacidade e uso indevido de informações sensíveis”, disse.

A ministra Edilene Lôbo lembrou que um dos conceitos de cibernética remete à ideia de comando ou leme. Por isso, defendeu que a inteligência artificial deve ter como “timão” os direitos fundamentais. Para ela, mais importante do que discutir os impactos dessas tecnologias no constitucionalismo é debater os efeitos dessa teoria jurídico-política na IA. “É isso que vai definir se o destino da inteligência artificial será servir à sociedade, aos direitos fundamentais, e, principalmente, combater a desigualdade.”

Impactos

O primeiro painel tratou do desenvolvimento de algoritmos e da aceleração no campo da IA generativa. A alta disponibilidade de dados, o avanço do poder computacional – acessível e barato – e a possibilidade de reprodução de informações são fatores que justificam essa transformação.

O painel debateu ainda as lacunas institucionais, normativas e autorregulatórias necessárias à regulação de todo o ciclo de vida da IA. Além disso, discutiu o advento do neurodireito – campo emergente que aborda as influências e implicações legais e éticas das novas tecnologias na liberdade de escolha, de expressão e de manifestação do pensamento – e os riscos das chamadas neurotecnologias para a liberdade de pensamento, a cognição e a autonomia decisória, o que pode gerar manipulação de comportamento, ações invasivas e, consequentemente, riscos para os sistemas democráticos.

Ética

O segundo e último painel tratou das potencialidades e riscos da IA, com destaque para os aspectos da ética e da regulação. Os participantes pontuaram ser necessário a regulação da inteligência artificial levando em conta as experiências legislativas de outros países, o que deve incluir formas de participação popular, com a garantia da justa distribuição dos benefícios gerados por essas tecnologias.
Os especialistas lembraram também que o algoritmo usado pelas empresas é o resultado de pessoas e máquinas interagindo. Ou seja, a tecnologia ajuda a ganhar escala na resolução de conflitos, mas o ser humano é quem deve considerar quais princípios serão preservados. Por fim, foi ressaltado que a IA gera mudanças na realidade que obrigam a discussão de aspectos constitucionais sob diferentes prismas.

Palestrantes

Participaram do primeiro painel Flavio Du Pin Calmon, professor assistente de engenharia elétrica na Universidade de Harvard; Laura Schertel Ferreira Mendes, professora de direito digital no IDP, diretora do Centro de Direito, Internet e Sociedade do IDP (CEDIS/IDP) e presidente da Comissão de Direito Digital da Ordem dos Advogados do Brasil (OAB) Nacional; Patrícia Perrone Campos Mello, secretária de Altos Estudos do STF e doutora pela Universidade do Estado do Rio de Janeiro (UERJ); e Frederico Franco Alvim, assessor da Coordenadoria de Combate à Desinformação do STF, doutor em ciências jurídicas e sociais e especialista em direito eleitoral. A mesa foi moderada por Victor Durigan, coordenador de Combate à Desinformação do STF.

O segundo painel foi moderado pela secretária-geral do STF, Aline Osori. Ele contou com as presenças de Ana de Oliveira Frazão V. Mello, advogada e professora da Universidade de Brasília (UnB); Juan David Gutierrez, doutor em política pública pela Universidade de Oxford, professor associado na Universidade de los Andes (Colômbia) e especialista da Parceria Global em Inteligência Artificial; e Caio César Vieira Machado, mestre em ciências sociais e internet pela Universidade de Oxford e mestre em direito e tecnologia pela Universidade Paris 1 – Panthéon-Sorbonne.

Leia mais

16/08/2024 – Ministros do STF e especialistas discutem desafios da Inteligência Artificial no Direito