Inteligência artificial no Poder Judiciário, discriminação algorítmica e direitos humanos-fundamentais

Autores

DOI:

https://doi.org/10.53798/suprema.2023.v3.n2.a250

Palavras-chave:

Discriminação algorítmica, Decisão algorítmica, Uso de inteligência artificial no Poder Judiciário brasileiro, Defesa de direitos humanos fundamentais

Resumo

O presente artigo examina o risco do uso de inteligência artificial pelo Poder Judiciário brasileiro. O trabalho, inicialmente, faz uma análise das decisões algorítmicas, do aprendizado de máquina e dos reflexos da programação humana. Além disso, verificam-se as iniciativas e implantações realizadas pelos tribunais brasileiros, bem como explora o conceito de discriminação algorítmica e a proteção da dignidade humana. Por fim, compara a regulamentação da utilização da inteligência artificial com a de outros países. O objetivo da pesquisa é trazer uma crítica do uso de inteligência artificial pelo Poder Judiciário, tendo como preocupação a tutela dos direitos humanos fundamentais.

Downloads

Não há dados estatísticos.

Biografia do Autor

Eduardo Augusto Salomão Cambi, Universidade Estadual do Norte do Paraná (Jacarezinho, PR, Brasil)

Pós-Doutor pela Università degli Studi di Pavia. Doutorado e Mestrado em Direito pela Universidade Federal do Paraná. Desembargador do Tribunal de Justiça do Estado do Paraná. Professor da Universidade Estadual do Norte do Paraná, da Faculdade de Direito do Centro Universitário Assis Gurgacz (FAG) e da Faculdade Pan-Americana (FAPAD). Presidente do Instituto Paranaense de Direito Processual e Membro da Academia Paranaense de Letras Jurídicas – Curitiba – Paraná – Brasil.

Maria Eduarda Toledo Pennacchi Tibiriçá Amaral, Universidade Estadual do Norte do Paraná (Jacarezinho, PR, Brasil)

Mestranda pela Universidade Estadual do Norte do Paraná. Especialista em Direito Civil e Processo Civil pelo Centro Universitário Antônio Eufrásio de Toledo de Presidente Prudente.

Referências

ANGWIN, Julia et al. Machine Bias: there’s software used across the country to predict future criminals and it’s biased against blacks. ProPublica, 2016. Disponível em: https://www.propublica.org/article/machine-bias-risk-assessments-incriminal-sentencing. Acesso em: 17 abr. 2023.

ÁVILA, Gustavo Noronha de; CORAZZA, Thais Aline Mazetto. Os vieses algorítmicos na função decisória dos sistemas de inteligência artificial. Revista da AJURIS, v. 49, n. 152, p. 181-210, jun. 2022.

BARROSO, Luís Roberto. A razão sem voto: o Supremo Tribunal Federal e o governo da maioria. Revista Brasileira de Políticas Públicas, v. 5, n. 2, p. 23-50, 2015. Disponível em: https://www.publicacoesacademicas.uniceub.br/RBPP/article/view/3180. Acesso em: 4 out. 2023.

BRITO, Thiago Souza; FERNANDES, Rodrigo Saldanha. Inteligência artificial e a crise do Poder Judiciário: linhas introdutórias sobre a experiência norteamericana, brasileira e sua aplicação no direito brasileiro. Revista Acadêmica da Faculdade de Direito do Recife, v. 91, n. 2, p. 84-107, jul./dez. 2019.59 BRASIL. Congresso Nacional. Senado Federal. Projeto de Lei nº 2.338, de 3 de maio de 2023. Brasília: Senado Federal, 2023. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 21 jun. 2023.

CAMBI, Eduardo Augusto Salomão; ALVES, Fernando de Brito; CORRÊA, Elídia Aparecida de Andrade. Interfaces artificiais e interpretação judicial: o problema do uso da inteligência artificial e da metodologia fuzzy na aplicação do direito. Revista de Direito Brasileira, v. 9, n. 23, p. 5-27, maio/ago. 2019.

CORBO, Wallace. O direito à adaptação razoável e a teoria da discriminação indireta: uma proposta metodológica. Revista da Faculdade de Direito da UERJ, n. 34, p. 201-239, dez. 2018.

COSTA, Diego Carneiro. A discriminação algorítmica e as novas perspectivas sobre o tratamento de dados pessoais sensíveis. In: REQUIÃO, Maurício (org.). Proteção de dados pessoais: novas perspectivas. Salvador: EDUFBA, 2022. p. 165-181.

DIVINO, Sthéfano Bruno Santosa. Desafios e benefícios da inteligência artificial para o direito do consumidor. Revista Brasileira de Políticas Públicas, v. 11, n. 1, p. 654-688, 2021. Disponível em: https://www.publicacoes.uniceub.br/RBPP/article/view/6669. Acesso em: 4 out. 2023.

ESTADOS UNIDOS. State of Wisconsin. Department of Corrections. COMPAS: [Correctional Offender Management Profiling for Alternative Sanctions]. Wisconsin.Gov, [20--?]. Disponível em: https://doc.wi.gov/Pages/AboutDOC/COMPAS.aspx. Acesso em: 23 jul. 2023.

FERRARI, Isabela; BECKER, Daniel; WOLKART, Erik Navarro. Arbitrium ex machina: panorama, riscos e a necessidade de regulação das decisões informadas por algoritmos. Revista dos Tribunais, v. 107, n. 995, p. 635-655, set. 2018.

LUDERMIR, Teresa Bernarda. Inteligência artificial e aprendizado de máquina: estado atual e tendências. Estudos Avançados, v. 35, n. 101, p. 85-94, jan./abr. 2021. Disponível em: https://www.scielo.br/j/ea/a/wXBdv8yHBV9xHz8qG5RCgZd/?format=pdf&lang=pt. Acesso em: 3 maio 2023.

MENDES, Laura Schertel; MATTIUZZO, Marcela. Discriminação algorítmica: conceito, fundamento legal e tipologia. Direito Público, v. 16, n. 90, p. 39-64, nov./dez. 2019. Disponível em: https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/3766/Schertel%20Mendes%3B%20Mattiuzzo%2C%202019. Acesso em: 17 abr. 2023.

PINHEIRO, Patrícia Peck. Direito digital. 7. ed. São Paulo: Saraiva jur, 2021.

PIOVESAN, Flávia. Ações afirmativas da perspectiva dos direitos humanos.Cadernos de Pesquisa, v. 35, n. 124, p. 43-55, jan./abr. 2005. Disponível em: https://www.scielo.br/j/cp/a/3bz9Ddq8YpxP87fXnhMZcJS/?format=pdf&lang=pt. Acesso em: 18 abr. 2023.

PIRES, Thatiane Cristina Fontão; SILVA, Rafael Peteffi da. A responsabilidade civil pelos atos autônomos da inteligência artificial: notas iniciais sobre a resolução do Parlamento Europeu. Revista Brasileira de Políticas Públicas, v. 7, n. 3, p. 238-254, dez. 2017. Disponível em: https://www.publicacoesacademicas.uniceub.br/RBPP/article/view/4951. Acesso em: 4 out. 2023.

PJBA lança mais uma ferramenta de comunicação com o cidadão: a assistente virtual pelo whatsapp. Poder Judiciário Tribunal de Justiça do Estado da Bahia,10 ago. 2021. Disponível em: http://www5.tjba.jus.br/portal/pjba-lanca-mais-umaferramenta-de-comunicacao-com-o-cidadao-a-assistente-virtual-pelo-whatsapp/. Acesso em: 20 jul. 2023.

PROJETO Victor avança em pesquisa e desenvolvimento para identificação dos temas de repercussão geral. STF Supremo Tribunal Federal, 19 ago. 2021. Disponível em: https://portal.stf.jus.br/noticias/verNoticiaDetalhe.asp?idConteudo=471331&ori. Acesso em: 20 jul. 2023.

REICHELT, Luis Alberto. Inteligência artificial e direitos fundamentais processuais no âmbito cível: uma primeira aproximação. Revista de Processo, v. 46, n. 312, p, 387-408, fev. 2021.

REQUIÃO, Maurício (org.). Proteção de dados pessoais: novas perspectivas. Salvador: EDUFBA, 2022. Disponível em: https://repositorio.ufba.br/handle/ri/35799. Acesso em: 17 abr. 2023.

REQUIÃO, Maurício; COSTA, Diego Carneiro. Discriminação algorítmica: ações afirmativas como estratégia de combate. Civilistica.com., Rio de Janeiro, ano 11, n. 3, 2022. Disponível em: https://civilistica.emnuvens.com.br/redc/article/view/804. Acesso em: 12 abr. 2023.

SALOMÃO, Luis Felipe (coord.). Inteligência artificial: tecnologia aplicada à gestão dos conflitos no âmbito do Poder Judiciário brasileiro. Rio de Janeiro: Fundação Getúlio Vargas, 2020. Disponível em: https://conhecimento.fgv.br/sites/default/files/2022-08/publicacoes/estudos_e_pesquisas_ia_1afase.pdf. Acesso em: 20 maio 2023.

SINAPSES: termo de cooperação técnica com o CNJ completa 1 ano. Poder Judiciário do Estado de Rondônia Tribunal de Justiça, 19 dez. 2019. Disponível em: https://www.tjro.jus.br/noticias/item/11953-sinapses-termo-de-cooperacaotecnica-com-o-cnj-completa-1-ano. Acesso em: 26 jul. 2023.

STEFFEN, Catiane. A inteligência artificial e o processo penal: a utilização da técnica na violação de direitos. Revista da EMERJ, v. 25, n. 1, p. 105-129, jan./abr. 2023.

TAKAKURA, Flávio Iassuo; DUARTE, Luciana Gaspar Melquíades. Inteligência artificial no direito: dilemas e contribuições. Revista de Direito, Inovação, Propriedade Intelectual e Concorrência, v. 8, n. 1, p. 1-23, jan./jul. 2022. Disponível em: https://www.indexlaw.org/index.php/revistadipic/article/view/8633/pdf. Acesso em: 4 out. 2023.

TAVARES, André Ramos. O juiz digital: da atuação em rede à justiça algorítmica.São Paulo: Expressa, 2022.

TEIXEIRA, Tarcisio. Direito digital e processo eletrônico. 6. ed. São Paulo: Saraiva jur, 2022.

TUCCI, José Rogério Cruz e. Perigo concreto da inteligência artificial na praxe do direito. Revista Consultor Jurídico, 9 jun. 2023. Disponível em: https://www.conjur.com.br/2023-jun-09/paradoxo-corte-perigo-concreto-inteligenciaartificial-praxe-direito. Acesso em: 12 jun. 2023.

TURING, Alan Mathison. Intelligent machinery. London: National Physical Laboratory, 1948. Disponível em: https://weightagnostic.github.io/papers/turing1948.pdf. Acesso em: 18 abr. 2023.

UNIÃO EUROPEIA. Comissão Europeia. Grupo de peritos de alto nível sobre a inteligência artificial. Orientações éticas para uma IA de confiança. Bruxelas: UE, 2019. Disponível em: https://digital-strategy.ec.europa.eu/en/library/ethicsguidelines-trustworthy-ai. Acesso em: 10 jun. 2023.

UNIÃO EUROPEIA. Conselho da Europa. Comissão Europeia para a Eficácia da Justiça. Carta Europeia de ética sobre o uso da inteligência artificial em sistemas judiciais e seu ambiente: adoptada pela CEPEJ na sua 31.ª reunião plenária (Estrasburgo, 3 e 4 de dezembro de 2018). Estrasburgo: UE, 2018. Disponível em: https://rm.coe.int/carta-etica-traduzida-para-portuguesrevista/168093b7e0. Acesso em: 24 maio 2023.

VOTAÇÃO escolhe Judi para o nome da assistente virtual do PJBA pelo whatsapp. Poder Judiciário Tribunal de Justiça do Estado da Bahia, 18 ago. 2021. Disponível em: http://www5.tjba.jus.br/portal/votacao-escolhe-judi-para-onome-da-assistente-virtual-do-pjba-pelo-whatsapp/. Acesso em: 20 jul. 2023.

BRASIL. Congresso Nacional. Câmara dos Deputados. Projeto de Lei nº 21, de 4 de fevereiro de 2020. Estabelece princípios, direitos e deveres para o uso de inteligência artificial no Brasil, e dá outras providências. Brasília: Câmara dos Deputados, 2020. Disponível em: https://www.camara.leg.br/propostaslegislativas/2236340. Acesso em: 21 jun. 2023.

BRASIL. Congresso Nacional. Senado Federal. Projeto de Lei nº 872, de 12 de março de 2021. Dispõe sobre o uso da Inteligência Artificial. Brasília: Senado Federal, 2021. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/147434. Acesso em: 21 jun. 2023.

BRASIL. Congresso Nacional. Senado Federal. Projeto de Lei nº 2338, de 3 de maio de 2023. Dispõe sobre o uso da Inteligência Artificial. Brasília: Senado Federal, 2023. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 21 jun. 2023.

BRASIL. Congresso Nacional. Senado Federal. Projeto de Lei nº 5051, de 16 de setembro de 2019. Estabelece os princípios para o uso da Inteligência Artificial no Brasil. Brasília: Senado Federal, 2019. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/138790. Acesso em: 21 jun. 2023.

BRASIL. Conselho Nacional de Justiça. Resolução nº 332, de 21 de agosto de 2020. Dispõe sobre a ética, a transparência e a governança na produção e no uso de inteligência artificial no Poder Judiciário e dá outras providências. Disponível em: https://atos.cnj.jus.br/atos/detalhar/3429.Acesso em: 16 abr. 2023.

BRASIL. [Constituição (1988)]. Constituição da República Federativa do Brasil de 1988. Brasília: Senado Federal, 2016. Disponível em: https://www2.senado.leg.br/bdsf/bitstream/handle/id/518231/CF88_Livro_EC91_2016.pdf. Acesso em: 18 abr. 2023.

Downloads

Publicado

2023-12-13

Como Citar

CAMBI, E. A. S.; AMARAL, M. E. T. P. T. . Inteligência artificial no Poder Judiciário, discriminação algorítmica e direitos humanos-fundamentais. Suprema - Revista de Estudos Constitucionais, Distrito Federal, Brasil, v. 3, n. 2, p. 189–218, 2023. DOI: 10.53798/suprema.2023.v3.n2.a250. Disponível em: https://suprema.stf.jus.br/index.php/suprema/article/view/250. Acesso em: 22 abr. 2024.