Governança tecnológica e auditabilidade do alinhamento ético-valorativo (alignment) das inteligências artificiais generativas
DOI :
https://doi.org/10.53798/suprema.2023.v3.n2.a225Mots-clés :
alinhamento ético-valorativo, governança tecnológica, inteligência artificial generativa, auditabilidade, tribunaisRésumé
O presente artigo investiga o desafio do alinhamento ético-valorativo (alignment) em inteligências artificiais generativas, com ênfase no contexto dos tribunais brasileiros. A pesquisa procura elucidar a importância da adequação dessas tecnologias aos padrões éticos e morais da sociedade, especialmente quando aplicadas ao Poder Judiciário. A inter-relação entre o alinhamento da Inteligências Artificial (IA) e o conceito de governança tecnológica é examinada, levantando o seguinte problema de pesquisa: a auditabilidade do alinhamento ético-valorativo é uma condição sine qua non para sua integração aos tribunais brasileiros? Empregando uma metodologia lógico-dedutiva e apoiando-se em pesquisa bibliográfica direta, de caráter exploratório, o artigo aborda as nuances das IAs generativas, os dilemas inerentes à sua regulamentação e os fundamentos da governança tecnológica em IA. Conclui-se que a possibilidade de auditar o alinhamento ético-valorativo das IAs generativas é imprescindível para sua utilização no Poder Judiciário brasileiro, tornando-se um critério mandatório no plano de governança tecnológica de entidades que as adotam.
Téléchargements
Références
AI principles. future of life Institute, Aug. 2017. Disponível em: https://futureoflife.org/open-letter/ai-principles/. Acesso em: 8 abr. 2023.
ALTMAN, Sam. Things we need for a good AGI future: 1) the technical ability to align a superintelligence 2) sufficient coordination among most of the leading
AGI efforts 3) an effective global regulatory framework including democratic governance. San Francisco, 29 Mar. 2023. X Twitter: @sama. Disponível em: https://twitter.com/sama/status/1641229941131051008. Acesso em: 4 abr. 2023.
BRAGANÇA, Fernanda; BRAGANÇA, Laurinda Fátima da F.P.G. Revolução 4.0 no Poder Judiciário: levantamento do uso de inteligência artificial nos tribunais brasileiros. Revista da Seção Judiciária do Rio de Janeiro, Rio de Janeiro, v. 23, n. 46, p. 65-76, jul./out. 2019.
BRASIL. Congresso Nacional. Senado Federal. Projeto de Lei n° 2338, de 2023. Dispõe sobre o uso da Inteligência Artificial. Brasília, DF: Senado Federal, [2023]. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 10 ago. 2023.
BYRNE, Matthew D. Generative Artificial Intelligence and ChatGPT. Journal of PeriAnesthesia Nursing, v. 38, n. 3, p. 519-522, Apr. 2023.
CHAVES, Guilherme; VEIGA, Elizabeth. A inteligência artificial na formação dos precedentes do STJ: Sistema Sócrates 2.0. Migalhas, 31 maio 2021. Disponível em: https://www.migalhas.com.br/depeso/346278/a-inteligencia-artificial-naformacao-dos-precedentes-do-stj. Acesso em: 4 abr. 2023.
CORVALÁN, Juan Gustavo. Inteligencia Artificial GPT-3, PretorIA y oráculos algorítmicos en el Derecho. International Journal of Digital Law, Belo Horizonte, v.1, n. 1, p. 11-52, jan./abr. 2020. Disponível em: https://journal.nuped.com.br/index.php/revista/libraryFiles/downloadPublic/24. Acesso em: 22 ago. 2023.
DOSOVITSKIY, Alexey et al. An image is worth 16x16 words: transformers for image recognition at scale. In: INTERNATIONAL CONFERENCE ON LEARNING REPRESENTATIONS, 9, 2021. Annals [...]. ICLR, [2021]. Disponível em: https://iclr.cc/virtual/2021/poster/3013. Acesso em: 22 ago. 2023. p 1-9. 2021.
EMERGING technology governance: towards an anticipatory framework. In: OECD Science, Technology and Innovation Outlook. Paris: OECD Publishing, 2023. Disponível em: https://www.oecd-ilibrary.org/sites/d67d5380-en/index.html?itemId=/content/component/d67d5380-en. Acesso em: 23 ago. 2023.
ESTUDO revela que 44 tribunais, além do Conselho Nacional de Justiça, usam inteligência artificial. FGV, 20 jul. 2022. Disponível em: https://portal.fgv.br/noticias/estudo-revela-44-tribunais-alem-conselho-nacional-justica-usaminteligencia-artificial. Acesso em: 4 abr. 2023.
GENERATIVE AI could raise global GDP by 7%. Goldman Sachs, 5 Apr. 2023. Disponível em: https://www.goldmansachs.com/intelligence/pages/generative-aicould-raise-global-gdp-by-7-percent.html. Acesso em: 6 abr. 2023.
GOODFELLOW, Ian J. et al. Generative adversarial nets. In: GHAHRAMANI, Z. et al. (ed.). Advances in neural information processing systems 27 (NIPS 2014). Montréal: Université de Montréal, Département d’informatique et de recherche opérationnelle, 2014. p. 1-8. Disponível em: https://papers.nips.cc/paper_files/paper/2014/hash/5ca3e9b122f61f8f06494c97b1afccf3-Abstract.html. Acesso em: 23 ago. 2023.
GORDON, Cindy. ChatGPT is the fastest growing app in history of web applications. Forbes, Feb. 2023. Disponível em: https://www.forbes.com/sites/cindygordon/2023/02/02/chatgpt-is-the-fastest-growing-ap-in-the-history-ofweb-applications/?sh=6a692910678c. Acesso em: 6 abr. 2023.
GREWAL, Dalvinder Singh. A critical conceptual analysis of definitions of artificial intelligence as applicable to computer engineering. IOSR Journal of Computer Engineering, v. 16, n. 2, p. 9-13, Jan. 2014.
HECKBERT, Paul S. Survey of texture mapping. IEEE Computer Graphics and Applications. v. 6, n. 11, p. 56 –67, Nov. 1986.
JOVANOVIC, Mladan; CAMPBELL, Mark. Generative artificial intelligence: trends and prospects. Computer, v. 55, n. 10, p. 107-112, Oct. 2022.
KELLER, Clara Iglesias et al. Oito medidas para regular big techs. Folha de S. Paulo. fev. 2023. Disponível em: https://www1.folha.uol.com.br/ilustrissima/2023/02/oito-medidas-para-regular-big-techs-garantindo-liberdadede-expressao.shtml. Acesso em: 3 abr. de 2023.
KHANDELWAL, Urvashi et al. Sharp nearby, fuzzy far away: how neural language models use context. In: ANNUAL MEETING OF THE ASSOCIATION FOR COMPUTATIONAL LINGUISTICS, 56th, 2018, Melbourne, Australia. Proceedings […]. Melbourne, Australia: Association for Computational Linguistics, p. 284 –294, July 2018. (Long Papers, v.1). Disponível em: https://aclanthology.org/P18-1027/. Acesso em: 23 ago. 2023.
LEMOINE, Blake. Is LaMDA sentient?: an interview. Medium, Jun. 2022. Disponível em: https://cajundiscordian.medium.com/is-lamda-sentient-aninterview-ea64d916d917. Acesso em: 6 abr. 2023.
MANNES, Aaron. Governance, risk, and artificial intelligence. Ai Magazine, v. 41, n. 1, p. 61-69, Spring 2020. Disponível em: https://ojs.aaai.org/aimagazine/index.php/aimagazine/article/view/5200. Acesso em: 23 ago. 2023.
MELO, Jeferson. Judiciário ganha agilidade com uso de inteligência artificial. Conselho Nacional de Justiça, 3 abr. 2019. Disponível em: https://www.cnj.jus.br/judiciario-ganha-agilidade-com-uso-de-inteligencia-artificial/. Acesso em: 4 abr. 2023.
NUNES, Dierle José Coelho; MARQUES, Ana Luiza Pinto Coelho. Inteligência artificial e direito processual: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista de Processo, São Paulo, v. 43, n. 285, p. 421-447, nov. 2018.
PAUSE giant AI experiments: an open letter. future of life Institute, Mar. 2023. Disponível em: https://futureoflife.org/open-letter/pause-giant-ai-experiments/. Acesso em: 4 abr. 2023.
POR que o ChatGPT, o Midjourney e o Dall-E são uma nova era na inteligência artificial? Pequenas Empresas & Grandes Negócios, Rio de Janeiro, 31 mar. 2023. Disponível em: https://revistapegn.globo.com/tecnologia/noticia/2023/03/por-que-o-chatgpt-o-midjourney-e-o-dall-e-sao-uma-nova-era-na-inteligenciaartificial.ghtml. Acesso em: 23 ago. 2023.
PROJETO Victor avança em pesquisa e desenvolvimento para identificação dos temas de repercussão geral. Supremo Tribunal Federal, 19 ago. 2021. Disponível em: https://portal.stf.jus.br/noticias/verNoticiaDetalhe.asp?idConteudo=471331&ori#:~:text=O%20Victor%20%C3%A9%20uma%20intelig%C3%AAncia,aplica%20ao%20caso%20dos%20autos. Acesso em: 4 abr. 2023.
QINGXIU, Dong et al. A survey on in-context learning. arXiv, 1 Jun. 2023. Disponível em: https://arxiv.org/abs/2301.00234. Acesso em: 22 ago. 2023.
REVOLUÇÃO tecnológica e desafios da pandemia marcaram gestão do ministro Noronha na presidência do STJ. STJ, 23 ago. 2020. Disponível em: https://www.stj.jus.br/sites/portalp/Paginas/Comunicacao/Noticias/23082020-Revolucaotecnologica-e-desafios-da-pandemia-marcaram-gestao-do-ministro-Noronha-napresidencia-do-STJ.aspx. Acesso em: 23 ago. 2023.
ROQUETE, Felipe Leitão Valadares. Inteligência artificial, valores e incerteza: um problema insolúvel para a regulação? Internet&sociedade, São Paulo, v. 2, n. 2. p. 150-154, 2021. Disponível em: https://revista.internetlab.org.br/wp-content/uploads/2022/03/Inteligencia-artificial-valores-e-incerteza-um-problemainsoluvel-para-a-regulacao.pdf. Acesso em: 23 ago. 2023.
SABEL, Charles F.; SIMON, William H. Minimalism and experimentalism in the administrative state. Georgetown Law Journal, Washington, v. 100, n. 1, p. 53-93, 2011. Disponível em: https://heinonline.org/HOL/P?h=hein.journals/glj100&i=55. Acesso em: 23 ago. 2023.
SALOMÃO, Luis Felipe (coord.). Inteligência artificial: tecnologia aplicada à gestão dos conflitos no âmbito ao Poder Judiciário brasileiro. 2. ed. Rio de Janeiro: FGV Conhecimento, 2021. Disponível em: https://ciapj.fgv.br/sites/ciapj.fgv.br/files/relatorio_ia_2fase.pdf. Acesso em: 4 abr. 2023.
SRIRAM, Akash; KACHWALA, Zaheer. Rival do Twitter, Therads bate recorde e atinge 100 milhões de usuários em cinco dias. Edição de Sriraj Kalluvila, Rashmi Aich. CNN Brasil, 10 jul. 2023. Disponível em: https://www.cnnbrasil.com.br/tecnologia/rival-do-twitter-threads-bate-recorde-e-atinge-100-milhoes-deusuarios-em-cinco-dias. Acesso em: 10 ago. 2023.
TAEIHAGH, Araz. Governance of artificial intelligence. Policy and Society, Oxford, v. 40, n. 2, p. 137-157, 2021. Disponível em: https://academic.oup.com/policyandsociety/article/40/2/137/6509315. Acesso em: 23 ago. 2023.
TARANTINO, Anthony (ed.). Governance, risk and compliance handbook: technology, finance, environmental and international guidance and best practices. New Jersey: John Wiley & Sons, 2008.
TECHNOLOGY governance. OECD, [2019]. Disponível em: https://www.oecd.org/sti/science-technology-innovation-outlook/technology-governance/. Acesso em: 23 ago. 2023.
YIHAN, Cao et al. A comprehensive survey of AI-Generated Content (AIGC): a history of generative AI from GAN to ChatGPTJ. Association for Computing Machinery, v. 37, n. 4, Article 111, Aug. 2018. Disponível em: https://arxiv.org/pdf/2303.04226.pdf. Acesso em: 22 ago. 2023.
Téléchargements
Publiée
Comment citer
Numéro
Rubrique
Licence
© Pablo Ademir de Souza, Victor Guilherme Esteche Filho, Fábio de Sousa Santos 2023
Ce travail est disponible sous la licence Creative Commons Attribution 4.0 International .
