Um relatório produzido pelo InternetLab, um centro de pesquisa interdisciplinar, aponta que algumas escolas públicas brasileiras estão usando o reconhecimento facial como ferramenta para prever quais estudantes têm mais chance de reprovar de ano. Entretanto, sem detalhar como são feitas essas previsões, os pesquisadores criticam o uso da tecnologia, afirmando que as empresas que oferecem esse serviço às escolas podem trabalhar a partir de estereótipos. Para os pesquisadores, isso pode estar associado a questões mais estruturais, como raça, classe e gênero.
O relatório indica uma lista de 15 iniciativas de uso de reconhecimento facial encontradas pela equipe do centro de pesquisa, em escolas em capitais e municípios brasileiros, mas aponta que o número de projetos encontrados foi reduzido. Os autores do relatório destacam a falta de transparência na divulgação dessas ações, já que muitas vezes, é necessário recorrer a sites locais de prefeituras ou fazer pedidos via Lei de Acesso à Informação (LAI) para obter informações.
As escolas que adotaram políticas de reconhecimento facial em seus sistemas de frequência alegam que a ferramenta permite que façam o registro da frequência dos alunos, além de ser utilizada como instrumento de segurança da comunidade escolar e combater a evasão de estudantes. Também é mencionado o uso da tecnologia para aprimorar a gestão do ambiente escolar e dos alunos. Contudo, há brechas para ocorrerem desvios de finalidade, alertam os pesquisadores do InternetLab.
O relatório destaca que a tecnologia de reconhecimento facial pode levar à discriminação de grupos historicamente minorizados, como mulheres, negros e a população LGBTQIA+. Os pesquisadores afirmam que há reprodução de vieses discriminatórios que podem levar a erros persistentes na operação da tecnologia, tais como falsos negativos e/ou falsos positivos. Além disso, a tecnologia pode ser usada para inferências discriminatórias, como atribuir características físicas ou comportamentais a uma pessoa.
Por fim, o relatório indica que não há clareza sobre o acesso aos bancos de dados onde ficam armazenados aqueles que foram coletados. Os pesquisadores alertam para a necessidade de melhorar os mecanismos de transparência na divulgação dessas políticas, principalmente no âmbito municipal, e para a importância de se garantir a privacidade dos alunos.