Utilizar o reconhecimento facial para prever quais estudantes têm mais probabilidade de reprovar de ano, sem detalhar quais os critérios para se definir tal diagnóstico, é uma das funções identificadas e criticadas pelos pesquisadores que assinam o relatório Tecnologias de vigilância e educação: um mapeamento das políticas de reconhecimento facial em escolas públicas brasileiras, do InternetLab, um centro de pesquisa interdisciplinar que promove debates acadêmicos e a produção de conhecimento nas áreas de direito e tecnologia.

Para a coordenadora da área de Desigualdades e Identidades do InternetLab, Clarice Tavares, as empresas que oferecem o serviço às escolas devem trabalhar a partir de estereótipos. "É um pouco difícil não pensar que isso não esteja associado a essa predição sobre quem tem mais tendência a ser reprovado na escola ou cometerem atos que reprovam na escola a questões mais estruturais, como raça, classe e gênero. Como essas tecnologias são construídas também para prever possíveis ações, isso é um pouco preocupante, principalmente quando se fala em crianças e adolescentes, que são populações que precisam ser mais protegidas ainda", disse.

No documento, consta uma lista de iniciativas encontradas pela equipe do centro de pesquisa. São 15 casos, um número reduzido, segundo os pesquisadores.

O modo como os autores do relatório chegaram aos projetos implementados nas escolas já indica um problema, a falta de transparência. Eles tomaram conhecimento das ações a partir de notícias, sites de prefeituras e governos estaduais, portal da transparência, entrevistas com gestores e, algumas vezes, em respostas a solicitações apresentadas com base na Lei de Acesso à Informação (LAI).

"Esse foi um dos principais achados. Não existe um projeto muito claro, entre todos esses municípios, de informar ao cidadão como estão fazendo essas políticas. Muitas vezes, no próprio site das prefeituras, a gente encontra pouquíssima informação. Então, a gente precisa olhar em portais mais locais. E, em alguns casos, a gente fez pedido via LAI e não obteve resposta ou obteve respostas um pouco vagas. Isso indica uma necessidade de melhora desses mecanismos de transparência, principalmente no âmbito municipal", disse Clarice.

Escolas no estado de Tocantins adotaram políticas de reconhecimento facial. Também foram achados projetos semelhantes nas capitais Fortaleza, Goiânia, Rio de Janeiro e Porto Alegre, e nos municípios de Mata de São João (BA), Jaboatão dos Guararapes (PE), Águas Lindas (GO), Morrinhos (GO), Betim (MG), Angra dos Reis (RJ), Itanhaém (SP), Potirendaba (SP), Santos (SP) e Xaxim (SC).

Todos os projetos têm um ponto em comum, que é a razão pela qual as escolas justificam a adoção do reconhecimento facial. As instituições defendem que a ferramenta permite que façam o registro da frequência dos alunos. Outros argumentos são o de empregá-la como instrumento de segurança da comunidade escolar, o de ser um meio de se combater a evasão de estudantes e o de aproveitá-lo para se aprimorar a gestão do ambiente escolar e dos alunos.

Contudo, alertam os pesquisadores do InternetLab, há brechas para ocorrerem desvios de finalidade, e as consequências chegam a pontos já apontados por outros especialistas da área. Um dos efeitos pode ser a discriminação de grupos historicamente minorizados, como as mulheres, os negros e a população LGBTQIA+, conforme menciona o relatório.

"Há diversos estudos que pontuam como as tecnologias de reconhecimento facial são menos precisas quando o público alvo da ferramenta são pessoas não pertencentes ao gênero masculino ou não brancas, uma vez que são treinadas por meio de bancos de dados fracos em termos de diversidade de gênero, raça e registros culturais. Há, assim, reprodução de vieses discriminatórios que podem levar a erros persistentes na operação da tecnologia, tais como falsos negativos e/ou falsos positivos.", dizem os pesquisadores.

"Ademais, há também a possibilidade de inferências discriminatórias quando o reconhecimento facial busca não apenas verificar ou identificar determinada pessoa, mas também atribuir características físicas ou comportamentais a ela, tais como sua raça, gênero, humor, temperatura corporal, dentre outras possibilidades", alertam.

Outro aspecto em destaque, entre os alertas, é o fato de que não há clareza sobre o acesso aos bancos de dados onde ficam armazenados aqueles que foram coletados da comunidade escolar, o que pode ameaçar princípios como a privacidade. Como recomendação, a equipe do InternetLab cita, entre outras questões, o uso de software livre, o letramento digital de educadores e gestores, a produção de relatórios de impacto à proteção de dados e aos direitos humanos e a participação dos estudantes, ao se adotar as políticas, que, também envolve ampliar sua compreensão sobre o assunto.