El ocaso de la causalidad en el análisis de riesgo
la correlación algorítmica como nueva gramática de las decisiones en las relaciones laborales
DOI:
https://doi.org/10.65674/rev-trf3.v37i163.775Palabras clave:
causalidad, correlación algorítmica, discriminación laboral, inteligencia artificial, protección de datosResumen
La investigación indaga sobre el potencial discriminatorio derivado del uso de la correlación algorítmica en las fases de selección, contratación y gestión de la relación laboral. El objetivo consiste en verificar, primeramente, si el uso de la correlación en la toma de decisiones en dichas relaciones, especialmente por algoritmos, impacta en la tutela protectora del trabajador contra la discriminación; además, se pretende delimitar qué datos podrían ser tratados legítimamente mediante correlación. El estudio adopta un enfoque metodológico cualitativo, valiéndose del método hipotético-deductivo y del análisis bibliográfico y legislativo. El trabajo concluye que, en Brasil, existe una laguna normativa sobre el uso de inteligencia artificial en estos procesos. De este modo, la ausencia de un marco regulatorio robusto pone en riesgo el derecho individual de los sujetos impactados, en especial en el entorno laboral y, sobre todo, de aquellos pertenecientes a grupos históricamente vulnerabilizados. Así, se propone la prohibición de la aplicación de la correlación algorítmica a criterios protegidos, salvo si el tratamiento diferencial configura una acción afirmativa tendiente a reducir desigualdades históricas relativas a grupos desfavorecidos.
Citas
ABBAGNANO, Nicola. Dicionário de Filosofia. Trad. Alfredo Bosi e Ivone Castilho Benedeti. São Paulo: Martins Fontes, 2007.
ARAGÃO, Francisca Alana Araújo; BENEVIDES, Pablo Severiano. Governamentalidade algorítmica e big data: o uso da correlação de dados como critério de tomada de decisão. In: Simpósio Internacional Lavits, IV, 2019, Salvador.
ARISTÓTELES. Metafísica. Trad. Leonel Vallandro. Porto Alegre: Globo, 1969.
BLOOMBERG. “Fui despedido por um robô”: como a Amazon deixa máquinas decidirem o destino dos trabalhadores. O Globo, 28 de jun. 2021. Disponível em: https://oglobo.globo.com/economia/tecnologia/fui-despedido-por-um-robo-como-amazon-deixa-maquinas-decidirem-destino-dos-trabalhadores-25079925. Acesso em: 11 maio 2025.
BRASIL. Senado Federal. Projeto de Lei nº 2.338, de 2023. Estabelece princípios, direitos e deveres para o uso da inteligência artificial no Brasil. Disponível em: https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2487262. Acesso em: 6 jul. 2025.
CARPES, Artur Thompsen. A prova do nexo de causalidade na responsabilidade civil. 2013. Tese (Doutorado em Direito Processual Civil) – Programa de Pós Graduação em Direito, Faculdade de Direito, Universidade Federal do Rio Grande do Sul, Porto Alegre, 2013. Disponível em: https://lume.ufrgs.br/handle/10183/207209. Acesso em: 6 jul. 2025.
COLOMBO, Cristiano; FACCHINI NETO, Eugênio. “Corpo eletrônico” como vítima de ofensas em matéria de tratamento de dados pessoais: reflexões acerca da responsabilidade civil por danos à luz da Lei Geral de Proteção de Dados Pessoais Brasileira e a viabilidade da aplicação da noção de dano estético ao mundo digital. In: ROSENVALD, Nelson et al. Responsabilidade civil novos riscos. Indaiatuba, SP: Foco, 2019.
CUNHA, José Ricardo. Direito e complexidade. In: BARRETO, Vicente de Paulo (Coord.). Dicionário de Filosofia de Direito. São Leopoldo: Unisinos, 2006.
DE CUPIS, Adriano. Il danno. 2. ed. Milano: Giuffrè, 1966.
DRESLER, Georg. Prompt injection for large language models. 3 fev. 2025. InfoQ. Disponível em: https://www.infoq.com/articles/large-language-models-prompt-injection-stealing/. Acesso em: 14 jul. 2025.
ECHARRI, Miguel. 150 demissões em um segundo: os algoritmos que decidem quem deve ser mandado embora. El País. Barcelona, 10 out. 2021. Disponível em: http://brasil.elpais.com/tecnologia/2021-10-10/150-demissoes-em-um-segundo-assim-funcionam-os-algoritmos-que-decidem-quem-deve-ser-mandado-embora.html. Acesso em: 14 jul. 2025.
FROTA, Pablo Malheiros Cunha. Imputação sem nexo causal e a responsabilidade por danos. Dissertação - Universidade Federal do Paraná, Curitiba, 2013. Disponível em: https://acervodigital.ufpr.br/xmlui/bitstream/handle/1884/31777/R%20-%20T%20-%20PABLO%20MALHEIROS%20DA%20CUNHA%20FROTA.pdf?sequence=1&isAllowed=y. Acesso em: 14 jul. 2025.
GOLDEMBERG, Isidoro H. La relación de causalidad en la responsabilidad civil. Buenos Aires: Astrea, 1989.
HAN, Byung-Chul. Infocracia: digitalização e crise da democracia. Trad. Gabriel S. Philipson. 5. Reimp. Petrópolis, RJ: Vozes, 2024a.
HAN, Byung-Chul. Sociedade do cansaço. Trad. Enio Paulo Giachini. 3. ed. Petrópolis, RJ: Vozes, 2024b.
HUME, David. Investigação acerca do entendimento humano. Trad. Anoar Aiex. São Paulo: Nova Cultural, 1996 (Os Pensadores).
HUME, David. Investigações sobre o entendimento humano e sobre os princípios da moral. São Paulo: Unesp, 2004.
JUNQUEIRA, Thiago. Tratamento de dados pessoais e discriminação algorítmica nos seguros. São Paulo: Thomson Reuters Brasil, 2020.
LIU, Ian Ch. Invisible prompt injection: a threat to AI security. Trend Micro, 22 jan. 2025. Disponível em: https://www.trendmicro.com/en_us/research/25/a/invisible-prompt-injection-secure-ai.html. Acesso em: 14 jul. 2025.
LOPEZ, Teresa Ancona. Nexo causal e produtos potencialmente nocivos: a experiência brasileira do tabaco. São Paulo: Quartier Latin, 2008.
MARLER, Janet H.; BOUDREAU, John W. An evidence-based review of HR analytics. The International Journal of Human Resource Management, v. 28, p. 3-26, 2017.
MATOS, Larissa. Inteligência artificial, algoritmos e direito do trabalho: conceitos, impactos e limites. São Paulo: Mizuno, 2024.
MELLO, Marcos Bernardes de. Teoria do fato jurídico: plano da eficácia: 1ª Parte. 3. ed. São Paulo: Saraiva, 2007.
MIRAGEM, Bruno. A Lei Geral de Proteção de Dados (Lei 13.709/2018) e o direito do consumidor. Revista dos Tribunais, São Paulo, v. 1009, nov. 2019.
MONTEIRO, Rosangela; RABELLO, Guilherme de Castro Machado; ARRUDA JÚNIOR, Francismar Vidal de; JATENE, Fabio Biscegli. Inteligência artificial, deep learning, machine learning, redes neurais na medicina e biomarcadores vocais: conceitos, onde estamos e para onde vamos. Revista da Sociedade de Cardiologia do Estado de São Paulo, São Paulo, v. 32, n. 1, p. 11–17, 2022. Disponível em: http://dx.doi.org/10.29381/0103-8559/2022320111-7. Acesso em: 9 maio 2025.
MORA, José Ferrater. Dicionário de Filosofia. Trad. Roberto Leal Ferreira e Álvaro Cabral. São Paulo: Martins Fontes, 2001.
MORGAN, Kate; NOLAN, Delaney. Como a vigilância dos empregados está se voltando contra os empregadores. BBC News Brasil, 5 mar. 2023. Disponível em: https://www.bbc.com/portuguese/articles/c4n08l9wzqdo. Acesso em: 5 maio 2024.
MURTEIRA, Bento et al. Introdução à estatística. Lisboa: Escolar, 2010.
O’NEIL, Cathy. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. São Paulo: Rua do Sabão, 2020.
ORGANIZAÇÃO INTERNACIONAL DO TRABALHO (OIT). Revolucionar a segurança e saúde no trabalho: o papel da IA e da digitalização. Genebra: OIT, 2025. Disponível em: https://www.ilo.org/pt-pt/resource/news/ia-e-digitalizacao-estao-transformar-seguranca-e-saude-no-trabalho. Acesso em: 6 jul. 2025.
ORGAZ, Alfredo. El daño resarcible. Buenos Aires: Córdoba, 1980.
ORWAT, Carsten. Risks of discrimination through the use of algorithms: a study compiled with a grant from the Federal Anti-Discrimination Agency. Karlsruhe: Karlsruhe Institute of Technology (KIT), Institute for Technology Assessment and Systems Analysis (ITAS), 2020. Disponível em: https://www.antidiskriminierungsstelle.de/EN/homepage/_documents/download_diskr_risiken_verwendung_von_algorithmen.pdf?__blob=publicationFile&v=1. Acesso em: 5 jul. 2025.
PASQUALOTTO, Alberto. Causalidade e imputação na responsabilidade civil objetiva: uma reflexão sobre os assaltos em estacionamentos. Revista dos Tribunais, v. 7, abr./jun. 2016.
PATRÍCIO, Miguel. Correlações e causalidade: breves reflexões numa perspectiva económica. Revista Jurídica Luso-Brasileira, Lisboa, ano 02, n. 04, 2016, p. 1347-1380. Disponível em: https://www.cidp.pt/revistas/rjlb/2016/4/2016_04_1347_1380.pdf. Acesso em: 5 jul. 2025.
PRUITT, Pru. Prompt injection: the hidden threat every ai business and user should understand. Medium, 29 abr. 2025. Disponível em: https://medium.com/@Justpruitt/prompt-injection-the-hidden-threat-every-ai-business-and-user-should-understand-71821f16b366. Acesso em: 14 jul. 2025.
REUTERS. Amazon desiste de ferramenta secreta de recrutamento que mostrou viés contra mulheres. O Globo, 10 out. 2018. Disponível em: https://epocanegocios.globo.com/Empresa/noticia/2018/10/amazon-desiste-de-ferramenta-secreta-de-recrutamento-que-mostrou-vies-contra-mulheres.html. Acesso em: 02 maio 2025.
SAHU, Anubhab. Understanding invisible prompt injection attack. Keysight Technologies, 16 maio 2025. Disponível em: https://www.keysight.com/blogs/en/tech/nwvs/2025/05/16/invisible-prompt-injection-attack. Acesso em: 14 jul. 2025.
SCHNEIER. Hiding prompt injections in academic papers. Schneier on Security (blog), 7 jul. 2025. Disponível em: https://www.schneier.com/blog/archives/2025/07/hiding-prompt-injections-in-academic-papers.html. Acesso em: 14 jul. 2025.
SCHREIBER, Anderson. Novos paradigmas da responsabilidade civil. São Paulo: Atlas, 2007.
SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminações nas redes sociais. São Paulo: Edições SESC, 2022.
TARTUCE, Flávio. Responsabilidade civil objetiva e risco - a teoria do risco concorrente. Rio de Janeiro: Forense; São Paulo: Método, 2011.
UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que estabelece regras harmonizadas em matéria de inteligência artificial (Lei da Inteligência Artificial) e altera os Regulamentos (CE) n. 300/2008, (UE) 2018/858, (UE) 2019/2144 e (UE) 2019/2115 e as Diretivas 2014/90/UE, (UE) 2016/797 e (UE) 2020/1828. Diário Oficial da União Europeia, L, n. 1689, 12 jul. 2024. Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/?uri=CELEX%3A32024R1689. Acesso em: 6 jul. 2025.
VILANOVA, Lourival. Causalidade e relação no direito. 4. ed. São Paulo: Revista dos Tribunais, 2000.
VIOLA, Mario. Gênero e diferenciação de prêmios: reflexões sobre o princípio da igualdade. Cadernos de Seguro, Rio de Janeiro, ano XXXIV, n. 180, v. especial, abr. 2014, p. 28-31.
WALSH, Dylan. Don’t let artificial intelligence pick your employees. Stanford Business, 8 fev. 2019. Disponível em: https://www.gsb.stanford.edu/insights/dont-let-artificial-intelligence-pick-your-employees?utm_source=Stanford+Business&utm_campaign=8de21a7c50-Stanford-Business-Issue-156-2-24-2019&utm_medium=email&utm_term=0_0b5214e34b-8de21a7c50-73763977&ct=t(Stanford-Business-Issue-156-2-24-2019. Acesso em: 2 maio 2025.
ZAPATA, Dawn. New study finds AI-enabled anti-Black bias in recruiting. Thomson Reuters, 18 jun. 2021. Disponível em: https://www.thomsonreuters.com/en-us/posts/legal/ai-enabled-anti-black-bias/. Acesso em: 5 maio 2024.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2026 Yasmin Saba, Rodrigo Coimbra Santos
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
Al someter el texto académico a la Revista del Tribunal Regional Federal de la 3ª Región (Revista do Tribunal Regional Federal da 3ª Região), los autores declaran ser titulares de los derechos de autor, respondiendo exclusivamente por cualesquiera reclamaciones relacionadas con dichos derechos; así como garantizan la inexistencia de cualquier infracción a la ética académica.
Los autores mantienen los derechos de autor y conceden a la Revista del Tribunal Regional Federal de la 3ª Región el derecho de publicación, sin gravamen y sin limitaciones en cuanto al plazo, al territorio o a cualquier otra.
Los conceptos y las opiniones expresadas en los trabajos firmados son de responsabilidad exclusiva de sus autores, no reflejando, necesariamente, el posicionamiento de esta Revista, ni del Tribunal Regional Federal de la 3ª Región.
