Artificial intelligence by the Judiciary, algorithmic discrimination and fundamental human rights
DOI:
https://doi.org/10.53798/suprema.2023.v3.n2.a250Keywords:
Algorithmic Discrimination, Algorithmic decision, Use of Artificial Intelligence in the Brazilian Judiciary, Defense of Fundamental-Human RightsAbstract
This scientific study examines the risk of implementing artificial intelligence by the Judiciary in Brazil. The research initially makes an analysis of algorithmic decisions, machine learning and the reflexes of the human programming. The initiatives and implementations carried out by the Brazilian courts are verified, as well as it explores the meaning of algorithmic discrimination and the protection of human dignity. Finally, it compares the regulation of the use of artificial intelligence with that of other countries. The objective of the research is to carry out a critical of the use of artificial intelligence by the judiciary, with the protection of fundamental human rights as a concern.
Downloads
References
ANGWIN, Julia et al. Machine Bias: there’s software used across the country to predict future criminals and it’s biased against blacks. ProPublica, 2016. Disponível em: https://www.propublica.org/article/machine-bias-risk-assessments-incriminal-sentencing. Acesso em: 17 abr. 2023.
ÁVILA, Gustavo Noronha de; CORAZZA, Thais Aline Mazetto. Os vieses algorítmicos na função decisória dos sistemas de inteligência artificial. Revista da AJURIS, v. 49, n. 152, p. 181-210, jun. 2022.
BARROSO, Luís Roberto. A razão sem voto: o Supremo Tribunal Federal e o governo da maioria. Revista Brasileira de Políticas Públicas, v. 5, n. 2, p. 23-50, 2015. Disponível em: https://www.publicacoesacademicas.uniceub.br/RBPP/article/view/3180. Acesso em: 4 out. 2023.
BRITO, Thiago Souza; FERNANDES, Rodrigo Saldanha. Inteligência artificial e a crise do Poder Judiciário: linhas introdutórias sobre a experiência norteamericana, brasileira e sua aplicação no direito brasileiro. Revista Acadêmica da Faculdade de Direito do Recife, v. 91, n. 2, p. 84-107, jul./dez. 2019.59 BRASIL. Congresso Nacional. Senado Federal. Projeto de Lei nº 2.338, de 3 de maio de 2023. Brasília: Senado Federal, 2023. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 21 jun. 2023.
CAMBI, Eduardo Augusto Salomão; ALVES, Fernando de Brito; CORRÊA, Elídia Aparecida de Andrade. Interfaces artificiais e interpretação judicial: o problema do uso da inteligência artificial e da metodologia fuzzy na aplicação do direito. Revista de Direito Brasileira, v. 9, n. 23, p. 5-27, maio/ago. 2019.
CORBO, Wallace. O direito à adaptação razoável e a teoria da discriminação indireta: uma proposta metodológica. Revista da Faculdade de Direito da UERJ, n. 34, p. 201-239, dez. 2018.
COSTA, Diego Carneiro. A discriminação algorítmica e as novas perspectivas sobre o tratamento de dados pessoais sensíveis. In: REQUIÃO, Maurício (org.). Proteção de dados pessoais: novas perspectivas. Salvador: EDUFBA, 2022. p. 165-181.
DIVINO, Sthéfano Bruno Santosa. Desafios e benefícios da inteligência artificial para o direito do consumidor. Revista Brasileira de Políticas Públicas, v. 11, n. 1, p. 654-688, 2021. Disponível em: https://www.publicacoes.uniceub.br/RBPP/article/view/6669. Acesso em: 4 out. 2023.
ESTADOS UNIDOS. State of Wisconsin. Department of Corrections. COMPAS: [Correctional Offender Management Profiling for Alternative Sanctions]. Wisconsin.Gov, [20--?]. Disponível em: https://doc.wi.gov/Pages/AboutDOC/COMPAS.aspx. Acesso em: 23 jul. 2023.
FERRARI, Isabela; BECKER, Daniel; WOLKART, Erik Navarro. Arbitrium ex machina: panorama, riscos e a necessidade de regulação das decisões informadas por algoritmos. Revista dos Tribunais, v. 107, n. 995, p. 635-655, set. 2018.
LUDERMIR, Teresa Bernarda. Inteligência artificial e aprendizado de máquina: estado atual e tendências. Estudos Avançados, v. 35, n. 101, p. 85-94, jan./abr. 2021. Disponível em: https://www.scielo.br/j/ea/a/wXBdv8yHBV9xHz8qG5RCgZd/?format=pdf&lang=pt. Acesso em: 3 maio 2023.
MENDES, Laura Schertel; MATTIUZZO, Marcela. Discriminação algorítmica: conceito, fundamento legal e tipologia. Direito Público, v. 16, n. 90, p. 39-64, nov./dez. 2019. Disponível em: https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/3766/Schertel%20Mendes%3B%20Mattiuzzo%2C%202019. Acesso em: 17 abr. 2023.
PINHEIRO, Patrícia Peck. Direito digital. 7. ed. São Paulo: Saraiva jur, 2021.
PIOVESAN, Flávia. Ações afirmativas da perspectiva dos direitos humanos.Cadernos de Pesquisa, v. 35, n. 124, p. 43-55, jan./abr. 2005. Disponível em: https://www.scielo.br/j/cp/a/3bz9Ddq8YpxP87fXnhMZcJS/?format=pdf&lang=pt. Acesso em: 18 abr. 2023.
PIRES, Thatiane Cristina Fontão; SILVA, Rafael Peteffi da. A responsabilidade civil pelos atos autônomos da inteligência artificial: notas iniciais sobre a resolução do Parlamento Europeu. Revista Brasileira de Políticas Públicas, v. 7, n. 3, p. 238-254, dez. 2017. Disponível em: https://www.publicacoesacademicas.uniceub.br/RBPP/article/view/4951. Acesso em: 4 out. 2023.
PJBA lança mais uma ferramenta de comunicação com o cidadão: a assistente virtual pelo whatsapp. Poder Judiciário Tribunal de Justiça do Estado da Bahia,10 ago. 2021. Disponível em: http://www5.tjba.jus.br/portal/pjba-lanca-mais-umaferramenta-de-comunicacao-com-o-cidadao-a-assistente-virtual-pelo-whatsapp/. Acesso em: 20 jul. 2023.
PROJETO Victor avança em pesquisa e desenvolvimento para identificação dos temas de repercussão geral. STF Supremo Tribunal Federal, 19 ago. 2021. Disponível em: https://portal.stf.jus.br/noticias/verNoticiaDetalhe.asp?idConteudo=471331&ori. Acesso em: 20 jul. 2023.
REICHELT, Luis Alberto. Inteligência artificial e direitos fundamentais processuais no âmbito cível: uma primeira aproximação. Revista de Processo, v. 46, n. 312, p, 387-408, fev. 2021.
REQUIÃO, Maurício (org.). Proteção de dados pessoais: novas perspectivas. Salvador: EDUFBA, 2022. Disponível em: https://repositorio.ufba.br/handle/ri/35799. Acesso em: 17 abr. 2023.
REQUIÃO, Maurício; COSTA, Diego Carneiro. Discriminação algorítmica: ações afirmativas como estratégia de combate. Civilistica.com., Rio de Janeiro, ano 11, n. 3, 2022. Disponível em: https://civilistica.emnuvens.com.br/redc/article/view/804. Acesso em: 12 abr. 2023.
SALOMÃO, Luis Felipe (coord.). Inteligência artificial: tecnologia aplicada à gestão dos conflitos no âmbito do Poder Judiciário brasileiro. Rio de Janeiro: Fundação Getúlio Vargas, 2020. Disponível em: https://conhecimento.fgv.br/sites/default/files/2022-08/publicacoes/estudos_e_pesquisas_ia_1afase.pdf. Acesso em: 20 maio 2023.
SINAPSES: termo de cooperação técnica com o CNJ completa 1 ano. Poder Judiciário do Estado de Rondônia Tribunal de Justiça, 19 dez. 2019. Disponível em: https://www.tjro.jus.br/noticias/item/11953-sinapses-termo-de-cooperacaotecnica-com-o-cnj-completa-1-ano. Acesso em: 26 jul. 2023.
STEFFEN, Catiane. A inteligência artificial e o processo penal: a utilização da técnica na violação de direitos. Revista da EMERJ, v. 25, n. 1, p. 105-129, jan./abr. 2023.
TAKAKURA, Flávio Iassuo; DUARTE, Luciana Gaspar Melquíades. Inteligência artificial no direito: dilemas e contribuições. Revista de Direito, Inovação, Propriedade Intelectual e Concorrência, v. 8, n. 1, p. 1-23, jan./jul. 2022. Disponível em: https://www.indexlaw.org/index.php/revistadipic/article/view/8633/pdf. Acesso em: 4 out. 2023.
TAVARES, André Ramos. O juiz digital: da atuação em rede à justiça algorítmica.São Paulo: Expressa, 2022.
TEIXEIRA, Tarcisio. Direito digital e processo eletrônico. 6. ed. São Paulo: Saraiva jur, 2022.
TUCCI, José Rogério Cruz e. Perigo concreto da inteligência artificial na praxe do direito. Revista Consultor Jurídico, 9 jun. 2023. Disponível em: https://www.conjur.com.br/2023-jun-09/paradoxo-corte-perigo-concreto-inteligenciaartificial-praxe-direito. Acesso em: 12 jun. 2023.
TURING, Alan Mathison. Intelligent machinery. London: National Physical Laboratory, 1948. Disponível em: https://weightagnostic.github.io/papers/turing1948.pdf. Acesso em: 18 abr. 2023.
UNIÃO EUROPEIA. Comissão Europeia. Grupo de peritos de alto nível sobre a inteligência artificial. Orientações éticas para uma IA de confiança. Bruxelas: UE, 2019. Disponível em: https://digital-strategy.ec.europa.eu/en/library/ethicsguidelines-trustworthy-ai. Acesso em: 10 jun. 2023.
UNIÃO EUROPEIA. Conselho da Europa. Comissão Europeia para a Eficácia da Justiça. Carta Europeia de ética sobre o uso da inteligência artificial em sistemas judiciais e seu ambiente: adoptada pela CEPEJ na sua 31.ª reunião plenária (Estrasburgo, 3 e 4 de dezembro de 2018). Estrasburgo: UE, 2018. Disponível em: https://rm.coe.int/carta-etica-traduzida-para-portuguesrevista/168093b7e0. Acesso em: 24 maio 2023.
VOTAÇÃO escolhe Judi para o nome da assistente virtual do PJBA pelo whatsapp. Poder Judiciário Tribunal de Justiça do Estado da Bahia, 18 ago. 2021. Disponível em: http://www5.tjba.jus.br/portal/votacao-escolhe-judi-para-onome-da-assistente-virtual-do-pjba-pelo-whatsapp/. Acesso em: 20 jul. 2023.
BRASIL. Congresso Nacional. Câmara dos Deputados. Projeto de Lei nº 21, de 4 de fevereiro de 2020. Estabelece princípios, direitos e deveres para o uso de inteligência artificial no Brasil, e dá outras providências. Brasília: Câmara dos Deputados, 2020. Disponível em: https://www.camara.leg.br/propostaslegislativas/2236340. Acesso em: 21 jun. 2023.
BRASIL. Congresso Nacional. Senado Federal. Projeto de Lei nº 872, de 12 de março de 2021. Dispõe sobre o uso da Inteligência Artificial. Brasília: Senado Federal, 2021. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/147434. Acesso em: 21 jun. 2023.
BRASIL. Congresso Nacional. Senado Federal. Projeto de Lei nº 2338, de 3 de maio de 2023. Dispõe sobre o uso da Inteligência Artificial. Brasília: Senado Federal, 2023. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 21 jun. 2023.
BRASIL. Congresso Nacional. Senado Federal. Projeto de Lei nº 5051, de 16 de setembro de 2019. Estabelece os princípios para o uso da Inteligência Artificial no Brasil. Brasília: Senado Federal, 2019. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/138790. Acesso em: 21 jun. 2023.
BRASIL. Conselho Nacional de Justiça. Resolução nº 332, de 21 de agosto de 2020. Dispõe sobre a ética, a transparência e a governança na produção e no uso de inteligência artificial no Poder Judiciário e dá outras providências. Disponível em: https://atos.cnj.jus.br/atos/detalhar/3429.Acesso em: 16 abr. 2023.
BRASIL. [Constituição (1988)]. Constituição da República Federativa do Brasil de 1988. Brasília: Senado Federal, 2016. Disponível em: https://www2.senado.leg.br/bdsf/bitstream/handle/id/518231/CF88_Livro_EC91_2016.pdf. Acesso em: 18 abr. 2023.
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2023 Eduardo Augusto Salomão Cambi, Maria Eduarda Toledo Pennacchi Tibiriçá Amaral
This work is licensed under a Creative Commons Attribution 4.0 International License.
