Saiba como a implantação de câmeras inteligentes podem aumentar o preconceito em São Paulo

A Prefeitura de São Paulo anunciou recentemente a retomada da licitação do programa Smart Sampa, que tem como objetivo instalar 20 mil câmeras inteligentes com capacidade de reconhecimento facial. Desse total, aproximadamente 2.500 equipamentos serão implantados na região central da capital, visando melhorar a segurança nessa área.

Além das câmeras, o programa prevê a criação de uma central de monitoramento capaz de identificar indivíduos por meio do reconhecimento facial. Para isso, serão utilizadas imagens capturadas por instituições durante a emissão de documentos, como Carteira Nacional de Identidade (CNI) ou Carteira Nacional de Habilitação (CNH), como base de dados.

O cruzamento das imagens captadas pelas câmeras nas ruas com o banco de dados da Prefeitura será realizado por meio de um software. Quando a tecnologia identificar uma pessoa com pendências judiciais, por exemplo, um alerta será acionado. Segundo a administração municipal, será necessário um nível de correspondência de 90% ou mais para que o sinal seja emitido, e a confirmação da identificação deverá ser validada por um operador treinado de acordo com padrões internacionais. Caso seja confirmada, as informações e a localização serão enviadas para os órgãos competentes, como a Polícia Militar e a Polícia Civil.

Marca de produtos de limpeza alerta para lotes contaminados; confira

Lula sobre tragédia no RS: "não sei o que Deus está pensando"

No entanto, especialistas entrevistados pelo R7 alertam para questões relacionadas ao desenvolvimento desse tipo de software, que muitas vezes enfrenta dificuldades em diferenciar com precisão características de grupos frequentemente marginalizados, como pessoas negras e latinas.

Marcelo Crespo, coordenador do curso de direito da ESPM e especialista em direito digital e penal, explica: "É muito fácil que o algoritmo seja treinado de forma a ter preconceito, uma vez que as pessoas que desenvolvem esses programas podem ter preconceitos. A construção da grande base de dados precisa ser feita com cautela e ressalvas."

Relatórios preliminares do Tribunal de Contas do Município (TCM) levantaram preocupações em relação ao Smart Sampa, alertando para a possibilidade de violação dos direitos de pessoas negras e da comunidade LGBTQIA+. A professora associada do Instituto de Computação da UFF (Universidade Federal Fluminense), Aline Paes, também destaca essa questão, afirmando: "Importar um software treinado com dados globais ou de grupos sociodemográficos que não representem a população brasileira é um problema sério. Diversas pesquisas já mostraram que os dados de treinamento disponibilizados publicamente possuem viés racial e de gênero."