Gobernanza tecnológica y auditabilidad del alineamiento ético-valorativo (alignment) de las inteligencias artificiales generativas
DOI:
https://doi.org/10.53798/suprema.2023.v3.n2.a225Palabras clave:
gobernanza tecnológica, alineación ética-valor, inteligencia artificial generativa, auditabilidad, tribunalesResumen
Este artículo investiga el desafío del alineamiento ético-valorativo en las inteligencias artificiales generativas, con énfasis en el contexto de los tribunales brasileños. La investigación busca dilucidar la importancia de la adecuación de estas tecnologías a las normas éticas y morales de la sociedad, especialmente cuando se aplican al Poder Judicial. Se examina la interrelación entre el alineamiento de la Inteligencia Artificial (IA) y el concepto de gobernanza tecnológica, planteando el siguiente problema de investigación: ¿la auditabilidad del alineamiento éticovalorativo es condición sine qua non para su integración en los tribunales brasileños? Empleando una metodología lógico-deductiva y basándose en una investigación bibliográfica directa de carácter exploratorio, el artículo aborda los matices de las IAs generativas, los dilemas inherentes a su regulación y los fundamentos de la gobernanza tecnológica en IA. Concluye que la posibilidad de auditar el alineamiento ético-valorativo de las IAs generativas es esencial para su uso en el Poder Judicial brasileño, convirtiéndose en un criterio obligatorio en el plan de gobernanza tecnológica de las organizaciones que las adopten.
Descargas
Citas
AI principles. future of life Institute, Aug. 2017. Disponível em: https://futureoflife.org/open-letter/ai-principles/. Acesso em: 8 abr. 2023.
ALTMAN, Sam. Things we need for a good AGI future: 1) the technical ability to align a superintelligence 2) sufficient coordination among most of the leading
AGI efforts 3) an effective global regulatory framework including democratic governance. San Francisco, 29 Mar. 2023. X Twitter: @sama. Disponível em: https://twitter.com/sama/status/1641229941131051008. Acesso em: 4 abr. 2023.
BRAGANÇA, Fernanda; BRAGANÇA, Laurinda Fátima da F.P.G. Revolução 4.0 no Poder Judiciário: levantamento do uso de inteligência artificial nos tribunais brasileiros. Revista da Seção Judiciária do Rio de Janeiro, Rio de Janeiro, v. 23, n. 46, p. 65-76, jul./out. 2019.
BRASIL. Congresso Nacional. Senado Federal. Projeto de Lei n° 2338, de 2023. Dispõe sobre o uso da Inteligência Artificial. Brasília, DF: Senado Federal, [2023]. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 10 ago. 2023.
BYRNE, Matthew D. Generative Artificial Intelligence and ChatGPT. Journal of PeriAnesthesia Nursing, v. 38, n. 3, p. 519-522, Apr. 2023.
CHAVES, Guilherme; VEIGA, Elizabeth. A inteligência artificial na formação dos precedentes do STJ: Sistema Sócrates 2.0. Migalhas, 31 maio 2021. Disponível em: https://www.migalhas.com.br/depeso/346278/a-inteligencia-artificial-naformacao-dos-precedentes-do-stj. Acesso em: 4 abr. 2023.
CORVALÁN, Juan Gustavo. Inteligencia Artificial GPT-3, PretorIA y oráculos algorítmicos en el Derecho. International Journal of Digital Law, Belo Horizonte, v.1, n. 1, p. 11-52, jan./abr. 2020. Disponível em: https://journal.nuped.com.br/index.php/revista/libraryFiles/downloadPublic/24. Acesso em: 22 ago. 2023.
DOSOVITSKIY, Alexey et al. An image is worth 16x16 words: transformers for image recognition at scale. In: INTERNATIONAL CONFERENCE ON LEARNING REPRESENTATIONS, 9, 2021. Annals [...]. ICLR, [2021]. Disponível em: https://iclr.cc/virtual/2021/poster/3013. Acesso em: 22 ago. 2023. p 1-9. 2021.
EMERGING technology governance: towards an anticipatory framework. In: OECD Science, Technology and Innovation Outlook. Paris: OECD Publishing, 2023. Disponível em: https://www.oecd-ilibrary.org/sites/d67d5380-en/index.html?itemId=/content/component/d67d5380-en. Acesso em: 23 ago. 2023.
ESTUDO revela que 44 tribunais, além do Conselho Nacional de Justiça, usam inteligência artificial. FGV, 20 jul. 2022. Disponível em: https://portal.fgv.br/noticias/estudo-revela-44-tribunais-alem-conselho-nacional-justica-usaminteligencia-artificial. Acesso em: 4 abr. 2023.
GENERATIVE AI could raise global GDP by 7%. Goldman Sachs, 5 Apr. 2023. Disponível em: https://www.goldmansachs.com/intelligence/pages/generative-aicould-raise-global-gdp-by-7-percent.html. Acesso em: 6 abr. 2023.
GOODFELLOW, Ian J. et al. Generative adversarial nets. In: GHAHRAMANI, Z. et al. (ed.). Advances in neural information processing systems 27 (NIPS 2014). Montréal: Université de Montréal, Département d’informatique et de recherche opérationnelle, 2014. p. 1-8. Disponível em: https://papers.nips.cc/paper_files/paper/2014/hash/5ca3e9b122f61f8f06494c97b1afccf3-Abstract.html. Acesso em: 23 ago. 2023.
GORDON, Cindy. ChatGPT is the fastest growing app in history of web applications. Forbes, Feb. 2023. Disponível em: https://www.forbes.com/sites/cindygordon/2023/02/02/chatgpt-is-the-fastest-growing-ap-in-the-history-ofweb-applications/?sh=6a692910678c. Acesso em: 6 abr. 2023.
GREWAL, Dalvinder Singh. A critical conceptual analysis of definitions of artificial intelligence as applicable to computer engineering. IOSR Journal of Computer Engineering, v. 16, n. 2, p. 9-13, Jan. 2014.
HECKBERT, Paul S. Survey of texture mapping. IEEE Computer Graphics and Applications. v. 6, n. 11, p. 56 –67, Nov. 1986.
JOVANOVIC, Mladan; CAMPBELL, Mark. Generative artificial intelligence: trends and prospects. Computer, v. 55, n. 10, p. 107-112, Oct. 2022.
KELLER, Clara Iglesias et al. Oito medidas para regular big techs. Folha de S. Paulo. fev. 2023. Disponível em: https://www1.folha.uol.com.br/ilustrissima/2023/02/oito-medidas-para-regular-big-techs-garantindo-liberdadede-expressao.shtml. Acesso em: 3 abr. de 2023.
KHANDELWAL, Urvashi et al. Sharp nearby, fuzzy far away: how neural language models use context. In: ANNUAL MEETING OF THE ASSOCIATION FOR COMPUTATIONAL LINGUISTICS, 56th, 2018, Melbourne, Australia. Proceedings […]. Melbourne, Australia: Association for Computational Linguistics, p. 284 –294, July 2018. (Long Papers, v.1). Disponível em: https://aclanthology.org/P18-1027/. Acesso em: 23 ago. 2023.
LEMOINE, Blake. Is LaMDA sentient?: an interview. Medium, Jun. 2022. Disponível em: https://cajundiscordian.medium.com/is-lamda-sentient-aninterview-ea64d916d917. Acesso em: 6 abr. 2023.
MANNES, Aaron. Governance, risk, and artificial intelligence. Ai Magazine, v. 41, n. 1, p. 61-69, Spring 2020. Disponível em: https://ojs.aaai.org/aimagazine/index.php/aimagazine/article/view/5200. Acesso em: 23 ago. 2023.
MELO, Jeferson. Judiciário ganha agilidade com uso de inteligência artificial. Conselho Nacional de Justiça, 3 abr. 2019. Disponível em: https://www.cnj.jus.br/judiciario-ganha-agilidade-com-uso-de-inteligencia-artificial/. Acesso em: 4 abr. 2023.
NUNES, Dierle José Coelho; MARQUES, Ana Luiza Pinto Coelho. Inteligência artificial e direito processual: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista de Processo, São Paulo, v. 43, n. 285, p. 421-447, nov. 2018.
PAUSE giant AI experiments: an open letter. future of life Institute, Mar. 2023. Disponível em: https://futureoflife.org/open-letter/pause-giant-ai-experiments/. Acesso em: 4 abr. 2023.
POR que o ChatGPT, o Midjourney e o Dall-E são uma nova era na inteligência artificial? Pequenas Empresas & Grandes Negócios, Rio de Janeiro, 31 mar. 2023. Disponível em: https://revistapegn.globo.com/tecnologia/noticia/2023/03/por-que-o-chatgpt-o-midjourney-e-o-dall-e-sao-uma-nova-era-na-inteligenciaartificial.ghtml. Acesso em: 23 ago. 2023.
PROJETO Victor avança em pesquisa e desenvolvimento para identificação dos temas de repercussão geral. Supremo Tribunal Federal, 19 ago. 2021. Disponível em: https://portal.stf.jus.br/noticias/verNoticiaDetalhe.asp?idConteudo=471331&ori#:~:text=O%20Victor%20%C3%A9%20uma%20intelig%C3%AAncia,aplica%20ao%20caso%20dos%20autos. Acesso em: 4 abr. 2023.
QINGXIU, Dong et al. A survey on in-context learning. arXiv, 1 Jun. 2023. Disponível em: https://arxiv.org/abs/2301.00234. Acesso em: 22 ago. 2023.
REVOLUÇÃO tecnológica e desafios da pandemia marcaram gestão do ministro Noronha na presidência do STJ. STJ, 23 ago. 2020. Disponível em: https://www.stj.jus.br/sites/portalp/Paginas/Comunicacao/Noticias/23082020-Revolucaotecnologica-e-desafios-da-pandemia-marcaram-gestao-do-ministro-Noronha-napresidencia-do-STJ.aspx. Acesso em: 23 ago. 2023.
ROQUETE, Felipe Leitão Valadares. Inteligência artificial, valores e incerteza: um problema insolúvel para a regulação? Internet&sociedade, São Paulo, v. 2, n. 2. p. 150-154, 2021. Disponível em: https://revista.internetlab.org.br/wp-content/uploads/2022/03/Inteligencia-artificial-valores-e-incerteza-um-problemainsoluvel-para-a-regulacao.pdf. Acesso em: 23 ago. 2023.
SABEL, Charles F.; SIMON, William H. Minimalism and experimentalism in the administrative state. Georgetown Law Journal, Washington, v. 100, n. 1, p. 53-93, 2011. Disponível em: https://heinonline.org/HOL/P?h=hein.journals/glj100&i=55. Acesso em: 23 ago. 2023.
SALOMÃO, Luis Felipe (coord.). Inteligência artificial: tecnologia aplicada à gestão dos conflitos no âmbito ao Poder Judiciário brasileiro. 2. ed. Rio de Janeiro: FGV Conhecimento, 2021. Disponível em: https://ciapj.fgv.br/sites/ciapj.fgv.br/files/relatorio_ia_2fase.pdf. Acesso em: 4 abr. 2023.
SRIRAM, Akash; KACHWALA, Zaheer. Rival do Twitter, Therads bate recorde e atinge 100 milhões de usuários em cinco dias. Edição de Sriraj Kalluvila, Rashmi Aich. CNN Brasil, 10 jul. 2023. Disponível em: https://www.cnnbrasil.com.br/tecnologia/rival-do-twitter-threads-bate-recorde-e-atinge-100-milhoes-deusuarios-em-cinco-dias. Acesso em: 10 ago. 2023.
TAEIHAGH, Araz. Governance of artificial intelligence. Policy and Society, Oxford, v. 40, n. 2, p. 137-157, 2021. Disponível em: https://academic.oup.com/policyandsociety/article/40/2/137/6509315. Acesso em: 23 ago. 2023.
TARANTINO, Anthony (ed.). Governance, risk and compliance handbook: technology, finance, environmental and international guidance and best practices. New Jersey: John Wiley & Sons, 2008.
TECHNOLOGY governance. OECD, [2019]. Disponível em: https://www.oecd.org/sti/science-technology-innovation-outlook/technology-governance/. Acesso em: 23 ago. 2023.
YIHAN, Cao et al. A comprehensive survey of AI-Generated Content (AIGC): a history of generative AI from GAN to ChatGPTJ. Association for Computing Machinery, v. 37, n. 4, Article 111, Aug. 2018. Disponível em: https://arxiv.org/pdf/2303.04226.pdf. Acesso em: 22 ago. 2023.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2023 Pablo Ademir de Souza, Victor Guilherme Esteche Filho, Fábio de Sousa Santos
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
