INTERSEÇÕES ENTRE RACISMO ALGORÍTMICO, RECONHECIMENTO FACIAL E SEGURANÇA PÚBLICA NO BRASIL

Resumo

RESUMO:Na trilha das problematizações sobre o uso ético de ferramentas tecnológicas, o presente artigo explora a problemática do racismo em sua dimensão algorítmica, buscando demonstrar a sua manifestação no âmbito da segurança pública a partir do específico caso da instrumentalização do reconhecimento facial. Nesse sentido, ao se analisar as tendências do racismo algorítmico no uso de tecnologias, demonstra-se como esses sistemas podem vir a perpetuar preconceitos raciais no aparato de controle no contexto brasileiro. De modo mais detido, avalia-se o funcionamento e a aplicação das tecnologias almejando compreender como elas são utilizadas em investigações criminais, no monitoramento urbano e em políticas de segurança. Para tanto, mediante revisão bibliográfica de referencial teórico pautado em estudos sobre controvérsias multisetoriais na regulação da inteligência artificial – envolvendo especialmente algoritmos, discriminação e gestão de políticas públicas –, a nível nacional e internacional, a investigação sustenta que a adoção acrítica (pretensamente neutra) de tecnologias de reconhecimento facial como estratégia de segurança pública, a considerar o racismo estrutural condicionante, dá margem e possibilita que vieses cognitivos sejam reproduzidos e, em última análise, a injustiça racial seja perpetuada.   

ABSTRACT: In the wake of discussions about the ethical use of technological tools, this article explores the issue of racism in its algorithmic dimension, aiming to demonstrate its manifestation in the realm of public security, specifically focusing on the instrumentalization of facial recognition. In this sense, by analyzing the trends of algorithmic racism in the use of technologies, it is shown how these systems may perpetuate racial biases in the control apparatus within the Brazilian context. In a more detailed manner, the functioning and application of technologies are assessed with the aim of understanding how they are used in criminal investigations, urban monitoring, and security policies. To do so, through a bibliographic review of a theoretical framework based on studies of multisectoral controversies in the regulation of artificial intelligence – especially involving algorithms, discrimination, and public policy management –, both nationally and internationally, the research argues that the uncritical (supposedly neutral) adoption of facial recognition technologies as a strategy for public security, considering the conditioning structural racism, provides room for and enables cognitive biases to be reproduced, ultimately perpetuating racial injustice.