Governança tecnológica e auditabilidade do alinhamento ético-valorativo (alignment) das inteligências artificiais generativas
DOI:
https://doi.org/10.53798/suprema.2023.v3.n2.a225Palavras-chave:
alinhamento ético-valorativo, governança tecnológica, inteligência artificial generativa, auditabilidade, tribunaisResumo
O presente artigo investiga o desafio do alinhamento ético-valorativo (alignment) em inteligências artificiais generativas, com ênfase no contexto dos tribunais brasileiros. A pesquisa procura elucidar a importância da adequação dessas tecnologias aos padrões éticos e morais da sociedade, especialmente quando aplicadas ao Poder Judiciário. A inter-relação entre o alinhamento da Inteligências Artificial (IA) e o conceito de governança tecnológica é examinada, levantando o seguinte problema de pesquisa: a auditabilidade do alinhamento ético-valorativo é uma condição sine qua non para sua integração aos tribunais brasileiros? Empregando uma metodologia lógico-dedutiva e apoiando-se em pesquisa bibliográfica direta, de caráter exploratório, o artigo aborda as nuances das IAs generativas, os dilemas inerentes à sua regulamentação e os fundamentos da governança tecnológica em IA. Conclui-se que a possibilidade de auditar o alinhamento ético-valorativo das IAs generativas é imprescindível para sua utilização no Poder Judiciário brasileiro, tornando-se um critério mandatório no plano de governança tecnológica de entidades que as adotam.
Downloads
Referências
AI principles. future of life Institute, Aug. 2017. Disponível em: https://futureoflife.org/open-letter/ai-principles/. Acesso em: 8 abr. 2023.
ALTMAN, Sam. Things we need for a good AGI future: 1) the technical ability to align a superintelligence 2) sufficient coordination among most of the leading
AGI efforts 3) an effective global regulatory framework including democratic governance. San Francisco, 29 Mar. 2023. X Twitter: @sama. Disponível em: https://twitter.com/sama/status/1641229941131051008. Acesso em: 4 abr. 2023.
BRAGANÇA, Fernanda; BRAGANÇA, Laurinda Fátima da F.P.G. Revolução 4.0 no Poder Judiciário: levantamento do uso de inteligência artificial nos tribunais brasileiros. Revista da Seção Judiciária do Rio de Janeiro, Rio de Janeiro, v. 23, n. 46, p. 65-76, jul./out. 2019.
BRASIL. Congresso Nacional. Senado Federal. Projeto de Lei n° 2338, de 2023. Dispõe sobre o uso da Inteligência Artificial. Brasília, DF: Senado Federal, [2023]. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 10 ago. 2023.
BYRNE, Matthew D. Generative Artificial Intelligence and ChatGPT. Journal of PeriAnesthesia Nursing, v. 38, n. 3, p. 519-522, Apr. 2023.
CHAVES, Guilherme; VEIGA, Elizabeth. A inteligência artificial na formação dos precedentes do STJ: Sistema Sócrates 2.0. Migalhas, 31 maio 2021. Disponível em: https://www.migalhas.com.br/depeso/346278/a-inteligencia-artificial-naformacao-dos-precedentes-do-stj. Acesso em: 4 abr. 2023.
CORVALÁN, Juan Gustavo. Inteligencia Artificial GPT-3, PretorIA y oráculos algorítmicos en el Derecho. International Journal of Digital Law, Belo Horizonte, v.1, n. 1, p. 11-52, jan./abr. 2020. Disponível em: https://journal.nuped.com.br/index.php/revista/libraryFiles/downloadPublic/24. Acesso em: 22 ago. 2023.
DOSOVITSKIY, Alexey et al. An image is worth 16x16 words: transformers for image recognition at scale. In: INTERNATIONAL CONFERENCE ON LEARNING REPRESENTATIONS, 9, 2021. Annals [...]. ICLR, [2021]. Disponível em: https://iclr.cc/virtual/2021/poster/3013. Acesso em: 22 ago. 2023. p 1-9. 2021.
EMERGING technology governance: towards an anticipatory framework. In: OECD Science, Technology and Innovation Outlook. Paris: OECD Publishing, 2023. Disponível em: https://www.oecd-ilibrary.org/sites/d67d5380-en/index.html?itemId=/content/component/d67d5380-en. Acesso em: 23 ago. 2023.
ESTUDO revela que 44 tribunais, além do Conselho Nacional de Justiça, usam inteligência artificial. FGV, 20 jul. 2022. Disponível em: https://portal.fgv.br/noticias/estudo-revela-44-tribunais-alem-conselho-nacional-justica-usaminteligencia-artificial. Acesso em: 4 abr. 2023.
GENERATIVE AI could raise global GDP by 7%. Goldman Sachs, 5 Apr. 2023. Disponível em: https://www.goldmansachs.com/intelligence/pages/generative-aicould-raise-global-gdp-by-7-percent.html. Acesso em: 6 abr. 2023.
GOODFELLOW, Ian J. et al. Generative adversarial nets. In: GHAHRAMANI, Z. et al. (ed.). Advances in neural information processing systems 27 (NIPS 2014). Montréal: Université de Montréal, Département d’informatique et de recherche opérationnelle, 2014. p. 1-8. Disponível em: https://papers.nips.cc/paper_files/paper/2014/hash/5ca3e9b122f61f8f06494c97b1afccf3-Abstract.html. Acesso em: 23 ago. 2023.
GORDON, Cindy. ChatGPT is the fastest growing app in history of web applications. Forbes, Feb. 2023. Disponível em: https://www.forbes.com/sites/cindygordon/2023/02/02/chatgpt-is-the-fastest-growing-ap-in-the-history-ofweb-applications/?sh=6a692910678c. Acesso em: 6 abr. 2023.
GREWAL, Dalvinder Singh. A critical conceptual analysis of definitions of artificial intelligence as applicable to computer engineering. IOSR Journal of Computer Engineering, v. 16, n. 2, p. 9-13, Jan. 2014.
HECKBERT, Paul S. Survey of texture mapping. IEEE Computer Graphics and Applications. v. 6, n. 11, p. 56 –67, Nov. 1986.
JOVANOVIC, Mladan; CAMPBELL, Mark. Generative artificial intelligence: trends and prospects. Computer, v. 55, n. 10, p. 107-112, Oct. 2022.
KELLER, Clara Iglesias et al. Oito medidas para regular big techs. Folha de S. Paulo. fev. 2023. Disponível em: https://www1.folha.uol.com.br/ilustrissima/2023/02/oito-medidas-para-regular-big-techs-garantindo-liberdadede-expressao.shtml. Acesso em: 3 abr. de 2023.
KHANDELWAL, Urvashi et al. Sharp nearby, fuzzy far away: how neural language models use context. In: ANNUAL MEETING OF THE ASSOCIATION FOR COMPUTATIONAL LINGUISTICS, 56th, 2018, Melbourne, Australia. Proceedings […]. Melbourne, Australia: Association for Computational Linguistics, p. 284 –294, July 2018. (Long Papers, v.1). Disponível em: https://aclanthology.org/P18-1027/. Acesso em: 23 ago. 2023.
LEMOINE, Blake. Is LaMDA sentient?: an interview. Medium, Jun. 2022. Disponível em: https://cajundiscordian.medium.com/is-lamda-sentient-aninterview-ea64d916d917. Acesso em: 6 abr. 2023.
MANNES, Aaron. Governance, risk, and artificial intelligence. Ai Magazine, v. 41, n. 1, p. 61-69, Spring 2020. Disponível em: https://ojs.aaai.org/aimagazine/index.php/aimagazine/article/view/5200. Acesso em: 23 ago. 2023.
MELO, Jeferson. Judiciário ganha agilidade com uso de inteligência artificial. Conselho Nacional de Justiça, 3 abr. 2019. Disponível em: https://www.cnj.jus.br/judiciario-ganha-agilidade-com-uso-de-inteligencia-artificial/. Acesso em: 4 abr. 2023.
NUNES, Dierle José Coelho; MARQUES, Ana Luiza Pinto Coelho. Inteligência artificial e direito processual: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista de Processo, São Paulo, v. 43, n. 285, p. 421-447, nov. 2018.
PAUSE giant AI experiments: an open letter. future of life Institute, Mar. 2023. Disponível em: https://futureoflife.org/open-letter/pause-giant-ai-experiments/. Acesso em: 4 abr. 2023.
POR que o ChatGPT, o Midjourney e o Dall-E são uma nova era na inteligência artificial? Pequenas Empresas & Grandes Negócios, Rio de Janeiro, 31 mar. 2023. Disponível em: https://revistapegn.globo.com/tecnologia/noticia/2023/03/por-que-o-chatgpt-o-midjourney-e-o-dall-e-sao-uma-nova-era-na-inteligenciaartificial.ghtml. Acesso em: 23 ago. 2023.
PROJETO Victor avança em pesquisa e desenvolvimento para identificação dos temas de repercussão geral. Supremo Tribunal Federal, 19 ago. 2021. Disponível em: https://portal.stf.jus.br/noticias/verNoticiaDetalhe.asp?idConteudo=471331&ori#:~:text=O%20Victor%20%C3%A9%20uma%20intelig%C3%AAncia,aplica%20ao%20caso%20dos%20autos. Acesso em: 4 abr. 2023.
QINGXIU, Dong et al. A survey on in-context learning. arXiv, 1 Jun. 2023. Disponível em: https://arxiv.org/abs/2301.00234. Acesso em: 22 ago. 2023.
REVOLUÇÃO tecnológica e desafios da pandemia marcaram gestão do ministro Noronha na presidência do STJ. STJ, 23 ago. 2020. Disponível em: https://www.stj.jus.br/sites/portalp/Paginas/Comunicacao/Noticias/23082020-Revolucaotecnologica-e-desafios-da-pandemia-marcaram-gestao-do-ministro-Noronha-napresidencia-do-STJ.aspx. Acesso em: 23 ago. 2023.
ROQUETE, Felipe Leitão Valadares. Inteligência artificial, valores e incerteza: um problema insolúvel para a regulação? Internet&sociedade, São Paulo, v. 2, n. 2. p. 150-154, 2021. Disponível em: https://revista.internetlab.org.br/wp-content/uploads/2022/03/Inteligencia-artificial-valores-e-incerteza-um-problemainsoluvel-para-a-regulacao.pdf. Acesso em: 23 ago. 2023.
SABEL, Charles F.; SIMON, William H. Minimalism and experimentalism in the administrative state. Georgetown Law Journal, Washington, v. 100, n. 1, p. 53-93, 2011. Disponível em: https://heinonline.org/HOL/P?h=hein.journals/glj100&i=55. Acesso em: 23 ago. 2023.
SALOMÃO, Luis Felipe (coord.). Inteligência artificial: tecnologia aplicada à gestão dos conflitos no âmbito ao Poder Judiciário brasileiro. 2. ed. Rio de Janeiro: FGV Conhecimento, 2021. Disponível em: https://ciapj.fgv.br/sites/ciapj.fgv.br/files/relatorio_ia_2fase.pdf. Acesso em: 4 abr. 2023.
SRIRAM, Akash; KACHWALA, Zaheer. Rival do Twitter, Therads bate recorde e atinge 100 milhões de usuários em cinco dias. Edição de Sriraj Kalluvila, Rashmi Aich. CNN Brasil, 10 jul. 2023. Disponível em: https://www.cnnbrasil.com.br/tecnologia/rival-do-twitter-threads-bate-recorde-e-atinge-100-milhoes-deusuarios-em-cinco-dias. Acesso em: 10 ago. 2023.
TAEIHAGH, Araz. Governance of artificial intelligence. Policy and Society, Oxford, v. 40, n. 2, p. 137-157, 2021. Disponível em: https://academic.oup.com/policyandsociety/article/40/2/137/6509315. Acesso em: 23 ago. 2023.
TARANTINO, Anthony (ed.). Governance, risk and compliance handbook: technology, finance, environmental and international guidance and best practices. New Jersey: John Wiley & Sons, 2008.
TECHNOLOGY governance. OECD, [2019]. Disponível em: https://www.oecd.org/sti/science-technology-innovation-outlook/technology-governance/. Acesso em: 23 ago. 2023.
YIHAN, Cao et al. A comprehensive survey of AI-Generated Content (AIGC): a history of generative AI from GAN to ChatGPTJ. Association for Computing Machinery, v. 37, n. 4, Article 111, Aug. 2018. Disponível em: https://arxiv.org/pdf/2303.04226.pdf. Acesso em: 22 ago. 2023.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2023 Pablo Ademir de Souza, Victor Guilherme Esteche Filho, Fábio de Sousa Santos
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
