INTELIGÊNCIA ARTIFICIAL E DISCRIMINAÇÃO
UM PANORÂMA SOBRE A ANTAGONIZAÇÃO ENTRE EXCLUSÃO E O ESTADO DEMOCRÃTICO DE DIREITO BRASILEIRO À LUZ DOS DIREITOS DA PERSONALIDADE
DOI :
https://doi.org/10.25245/rdspp.v10i2.1311Résumé
La présente étude analyse les impacts de l'utilisation des technologies dotées d'intelligence artificielle sur les couches vulnérables de la société. La question est la suivante : en quoi cet outil, qui devrait servir à dynamiser l'humanité, peut-il contribuer à la propagation de stéréotypes infondés et, avec cela, porter atteinte à la sphère du principe de la dignité humaine en tant que partie directe de la personnalité ? Ainsi, à travers une analyse bibliographique approfondie, basée sur la méthode hypothético-déductive, l'objectif de ce travail était d'identifier des cas réels impliquant des algorithmes et des discriminations, soulignant ainsi l'insuffisance de la loi brésilienne dans la lutte contre les injustices commises dans un scénario dont la réalité est inconnue, partiellement ou totalement.
Références
ABRUSIO, Juliana; ARAUJO, André E. Dorster. Inteligência artificial: decisões automatizadas e discriminação nas relações de trabalho. Revista de Direito do Trabalho, vol. 223, p. 321-323, maio/jun. 2022.
ALBUQUERQUE, LetÃcia. Dicionário LGBTQ+: entenda os termos usados pelo movimento. Eguia do Estudante. DisponÃvel em: https://guiadoestudante.abril.com.br/estudo/dicionario-lgbtq-entenda-termomovimento/. Acesso em: 31 jul. 2022.
ALGORITMO, In: DICIO, Dicionário Online de Português. Porto: 7Graus, 2020. DisponÃvel em: https://www.dicio.com.br/algoritmo/. Acesso em: 23 jul. 2022.
BIANCHINI, Alice; BAZZO, Mariana; CHAKIAN, Silvia. Crimes contra mulheres. 3. ed. Salvador: JusPodivm, 2021.
BOEING, Daniel Henrique Arruda; ROSA, Alexandre Morais da. Ensinando um Robô a Julgar : pragmática, discricionaridade, heurÃsticas e vieses no uso do aprendizado de máquina no judiciário. Florianópolis: Emais Academia, 2020.
BONAT, Debora; PEIXOTO, Fabiano Hartmann. Racionalidade no Direito: Inteligência Artificial e Precedentes. Curitiba: Alteridade, 2020.
BRASIL. Constituição da República Federativa do Brasil de 1988. BrasÃlia, DF: Presidência da República, 1988. DisponÃvel em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm. Acesso em: 31 jul. 2022.
BRASIL. Lei nº 7.716, de 5 de janeiro de 1989. Define os crimes resultantes de preconceito de raça ou cor. DisponÃvel em: http://www.planalto.gov.br/ccivil_03/leis/l7716.htm. Acesso em 31 jul. 2022.
BRASIL. Lei nº 8.069, de 13 de julho de 1990. Dispõe sobre o estatuto da criança e do adolescente e dá outras providências. DisponÃvel em: http://www.planalto.gov.br/ccivil_03/leis/l8069.htm. Acesso em: 21 jul. 2022.
BRASIL. Lei nº 10.741, de 1 de outubro de 2003. Dispõe sobre o estatuto da pessoa idosa e dá outras providências. DisponÃvel em: http://www.planalto.gov.br/ccivil_03/leis/2003/l10.741.htm. Acesso em: 31 jul. 2022.
BRASIL. Lei nº 11.340, de 7 de agosto de 2006. Cria mecanismos para coibir a violência doméstica e familiar contra a mulher, nos termos do § 8º do art. 226 da constituição federal, da convenção sobre a eliminação de todas as formas de discriminação contra as mulheres e da convenção interamericana para prevenir, punir e erradicar a violência contra a mulher; dispõe sobre a criação dos juizados de violência doméstica e familiar contra a mulher; altera o código de processo penal, o código penal e a lei de execução penal; e dá outras providências. DisponÃvel em: http://www.planalto.gov.br/ccivil_03/_ato2004-2006/2006/lei/l11340.htm. Acesso em: 31 jul. 2022.
BRASIL. Lei nº 13.146, de 6 de julho de 2015. Institui a lei brasileira de inclusão da pessoa com deficiência (estatuto da pessoa com deficiência). DisponÃvel em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2015/lei/l13146.htm. Acesso em: 31 jul. 2022.
BRASIL. Lei nº 13.709, de 14 de agosto 2018. Lei geral de proteção de dados pessoais (LGPD). DisponÃvel em: http://www.planalto.gov.br/ccivil_03/_ato2015- 2018/2018/lei/l13709.htm. Acesso em: 21 jul. 2022.
BRASIL. Projeto de lei nº 21/2020. Estabelece princÃpios, direitos e deveres para o uso de inteligência artificial no Brasil, e dá outras providências. DisponÃvel em: https://www.camara.leg.br/propostas-legislativas/2236340. Acesso em: 31 jul. 2022.
BRASIL. Supremo Tribunal Federal. Ação direta de inconstitucionalidade por omissão nº 26/DF. Relator: Ministro Celso de Mello. DisponÃvel em: https://jurisprudencia.stf.jus.br/pages/search?classeNumeroIncidente=%22ADO%2026
%22&base=acordaos&sinonimo=true&plural=true&page=1&pageSize=10&sort=_scor e&sortBy=desc&isAdvanced=true. Acesso em: 31 jul. 2022.
BRASIL. Tribunal Regional do Trabalho da 4ª Região. Recurso ordinário rito sumarÃssimo. Autoriza o deferimento de diferenças salariais para compensar prejuÃzo. Recorrente: Marcelo Dias, Havan Lojas de Departamentos LTDA. Recorrido: Marcelo Dias, Havan Lojas de Departamentos LTDA. Relator: Gilberto Souza dos Santos. 12 jul. 2022. DisponÃvel em: https://trt-4.jusbrasil.com.br/jurisprudencia/1574023775/recurso- ordinario-rito-sumarissimo-rorsum-200815320215040662/inteiro-teor-1574023958.
Acesso em: 31 jul. 2022.
CARVALHO, Allan Pereira de. Viés algorÃtmico e discriminação : possÃveis soluções regulatórias para o Brasil. Trabalho de Conclusão de Curso (Bacharelado em Direito)
– Universidade Federal do Rio Grande do Sul – UFRS, 2020. DisponÃvel em: https://lume.ufrgs.br/handle/10183/221914. Acesso em: 23 jul. 2022.
DASTIN, Jeffrey. Amazon scraps secret AI recruiting tool that showed bias against women. Reuters. 10 out. 2018. DisponÃvel em: https://www.reuters.com/article/us- amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that- showed-bias-against-women-idUSKCN1MK08G. Acesso em: 23. jul. 2022.
EU, robô. AdoroCinema. DisponÃvel em: https://www.adorocinema.com/filmes/filme-47739/, Acesso em: 18 jul. 2022.
FALCÃO, João Pontual de Arruda; CIRILLO, Maria Eugenia. Introdução à inteligência artificial e impactos no ecossistema jurÃdico brasileiro. Revista de Direito e as Novas Tecnologias, vol. 9, out./dez. 2020.
FRAGOSO, Renato. Comissão de juristas debate discriminaça2o tecnológica por inteligência artificial. Senado Federal. 12 de maio de 2022. DisponÃvel em: https://www12.senado.leg.br/radio/1/noticia/2022/05/12/comissao-de-juristas-da- inteligencia-artificial-debate-discriminacao-tecnologica. Acesso em: 31 jul. 2022.
FRÖHLICH, Afonso VinÃcio Kirschner; ENGELMANN, Wilson. Inteligência Artificial e Decisão Judicial . Diálogo entre BenefÃcios e Riscos. Curitiba: Editora Appris, 2020.
FORNASIER, Mateus de Oliveira. Cinco questões ético-jurÃdicas fundamentais sobre a inteligência artificial. Rio de Janeiro: Lumen Juris, 2021.
GOMES, Alessandra; ANTONIALLI, Dennys; OLIVA, Thiago. Drag queens e inteligência artificial: computadores devem decidir o que é ‘tóxico’ na internet?. Internetlab, 28 jun. 2019. DisponÃvel em: https://internetlab.org.br/pt/noticias/drag- queens-e-inteligencia-artificial-computadores-devem-decidir-o-que-e-toxico-na- internet/. Acesso em: 31 jul. 2022.
GOMES, Giovana. A saga de Kasparov, o campeão enxadrista que perdeu um duelo para um computador. Aventuras na História, 9 jun. 2021. DisponÃvel em: https://aventurasnahistoria.uol.com.br/noticias/reportagem/saga-de-kasparov-o- campeao-enxadrista-que-perdeu-um-duelo-para-um-computador.phtml. Acesso em: 19 jul. 2022.
GONDIN, Victor Sampaio; FEITOSA, Gustavo Raposo Pereira. Algoritmização da justiça criminal: uma análise do aplicativo compas e seus vieses. Revista Brasileira de Ciências Criminais, vol. 188, p. 447-470, fev. 2022.
HARDESTY, Larry. Study finds gender and skin-type bias in commercial artificial- intelligence systems. MIT News, 11 fev. 2018. DisponÃvel em: https://news.mit.edu/2018/study- finds-gender-skin-type-bias-artificial-intelligence-systems-0212. Acesso em: 23 jul. 2022.
LAZCANO, Alfonso Jaime MartÃnez. Expansión de la protección de derechos humanos en latinoamérica por el control difuso de convencionalidad. Revista Direitos Sociais e PolÃticas Públicas – Unifafibe. V. 9, N. 1, 2021.
LINS, Bernardo Felipe Estellita. A evolução da internet: uma perspectiva histórica. In: Cadernos ASLEGIS– 20 anos da Internet no Brasil (Parte I), n. 48, jan./abr. 2013, p. 11- 45. DisponÃvel em: https://aslegis.org.br/files/cadernos/2013/caderno-48/2-INTRODUCAO.pdf. Acesso em: 19 jul. 2022.
LYONS, Kim. Facebook’s ad delivery system still has gender bias, new study finds. The Verge. 9 abr. 2022. DisponÃvel em: https://www.theverge.com/2021/4/9/22375366/facebook-ad-gender-bias-delivery-algorithm-discrimination. Acesso em: 31 jul. 2022.
MANGO, Cynthia Ferrari. Gestionando la polÃtica social territorialmente: el “Argentina trabaja†desde el “movimiento evita†(2009 -2018). Revista Direitos Sociais e PolÃticas Públicas – Unifafibe. V. 9, N. 1, 2021.
MORAES, Alexandre de. Direito constitucional. 22. ed. São Paulo: Atlas, 2007.
MORALES, Julio César Arellano. Derecho al libre desarrollo de la personalidad. Revista Direitos Sociais e PolÃticas Públicas – Unifafibe. V. 9, N. 1, 2021.
PÃDUA, Thiago Pádua; SOUTO João Carlos. Da propriedade à moradia: breve estudo sobre a evolução constitucional brasileira. Revista Direitos Sociais e PolÃticas Públicas – Unifafibe. V. 9, N. 1, 2021.
PEIXOTO, Fabiano Hartmann. Inteligência Artificial e Direito: Convergência Ética e Estratégica. Curitiba: Alteridade, 2020.
PIOVESAN, Flavia. Ações afirmativas no brasil: desafios e perspectivas. Revista Estudos Feministas, Florianópolis, vol. 16, n. 3, p. 887-896, set./dez. 2008. DisponÃvel em: https://www.scielo.br/j/ref/a/JXPnmdcRhtfnnv8FQsVZzFH/?lang=pt. Acesso em: 23 jul. 2022.
REIS, João José. Presença negra: conflitos e encontros. In: IBGE, Centro de Documentação e Disseminação de Informações. Brasil: 500 Anos de Povoamento, Rio de Janeiro, 2007, p. 79-99. DisponÃvel em: https://biblioteca.ibge.gov.br/visualizacao/livros/liv6687.pdf. Acesso em: 23 jul. 2022.
SANTIAGO, Luiz. CrÃtica metrópoles (1927). Plano CrÃtico, 26 dez. 2020. DisponÃvel em: https://www.planocritico.com/critica-metropolis-1927/. Acesso em: 18 jul. 2022.
SIQUEIRA, Dirceu Pereira; SOUZA, Bruna Caroline de. Eutanásia social, direito à saúde e os direitos da personalidade: um olhar sobre a pobreza extrema. Revista Meritum - FUMEC, vol. 15, n. 1, p. 231-259, 2020.
SIQUEIRA, Dirceu Pereira; ALMEIDA, Fernando Rodrigues de. O mal-estar do homo juridicus e a contra-genealogia da modernidade: o paradoxo entre a personalidade como direito e o imago-Dei como herança. Argumenta Journal Law - UENP (Jacarezinho), vol. 32, n. 20, jan.-jun./2020, p. 363-383, 2020.
SIQUEIRA, Dirceu Pereira; LARA, Fernanda Corrêa Pavesi; LIMA, Henriqueta Fernanda C.A.F. Direitos da personalidade e as polÃticas públicas de educação: programa educação em prática - a integração entre o ensino fundamental e médio com as universidades. Revista Húmus (UFMA), vol. 10, n. 28, p. 583 - 602, 2020.
SIQUEIRA, Dirceu Pereira; PASSAFARO, V. L. O. A eugenia social e os direitos da personalidade: uma leitura no campo da loucura. Revista JurÃdica Cesumar: Mestrado (online), v.20, p.11 - 28, 2020.
SIQUEIRA, Dirceu Pereira; PASSAFARO, V. L. O. Direitos da personalidade, vulnerabilidade e adolescente sob uma perspectiva winnicottiana. Revista Quaestio Iuris, v.13, p.25 - 46, 2020.
SIQUEIRA, Dirceu Pereira; PASSAFARO, Valesca Luzia de Oliveira. Abuso de poder nas relações de vulnerabilidade: direitos civis para quem? Revista Argumentum (UNIMAR), vol. 20, n. 1, jan. - abr. 2020.
SOARES, Marcelo Negri; KAUFFMAN, Marcos Eduardo; CHAO, Kuo-Ming. Inteligência artificial: impactos no direito e na advocacia. Revista Direito Público, vol. 17, n. 93, p. 104-133, maio/jun.2020. DisponÃvel em: https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/3555. Acesso em: 23 jul. 2022.
STORINI, Claudia. Pluralismo y buen vivir un camino hacia otro constitucionalismo posible. Revista Direitos Sociais e PolÃticas Públicas – Unifafibe. V. 9, N. 1, 2021.
TEIXEIRA, Rodrigo Valente Giublin; LOPES, Marcelos Dantas. O periculum in mora reverso como garantia dos direitos da personalidade. Revista Direitos Sociais e PolÃticas Públicas – Unifafibe. V. 9, N. 1, 2021.
TORRES, Dennis José Almanza Torres. La constitucionalización del derecho: debates en torno a la interpretación principiológica de las normas jurÃdicas. Revista Direitos Sociais e PolÃticas Públicas – Unifafibe. V. 9, N. 1, 2021.
VIEIRA, Leonardo Marques. A problemática da inteligência artificial e dos vieses algorÃtmicos: caso compas. Campinas: Brazilian Technology Symposium, 2019. DisponÃvel em: https://www.lcv.fee.unicamp.br/images/BTSym-19/Papers/090.pdf. Acesso em: 23 jul. 2022.
ZAMBAM, Neuro José; SILVEIRA, Margarete Magda da. Projeto renda mÃnima de cidadania: solução para equidade social. Revista Direitos Sociais e PolÃticas Públicas – Unifafibe. V. 9, N. 1, 2021.
ZANINI, Leonardo Estevam de Assis; QUEIROZ, Odete Novais Carneiro Queiroz. A autonomia privada na aceitação e na renúncia da herança. Revista Direitos Sociais e PolÃticas Públicas – Unifafibe. V. 9, N. 1, 2021.
