O medo de atiradores fez crescer a adoção de um sistema de vigilância de alunos em escolas nos EUA. As primeiras medidas incluíram o monitoramento das redes sociais de adolescentes, para prevenir comportamentos agressivos. Mas o método tem crescido a ponto de incluir, em algumas regiões, a supervisão de postagens de quem está no entorno de escolas, incluindo adultos, e a identificação do uso de palavras que podem ser associadas a massacres, assim como a tecnologia de reconhecimento facial.
Há empresas que vendem uma “análise psicológica” das postagens de alunos e aplicativos de “inteligência emocional” para avisar os pais sobre as buscas feitas na internet com palavras-chave como “morte”, “matar” ou “armas”.
Se o monitoramento de redes sociais já era controvertido, o debate sobre o direito à privacidade ganhou um novo componente na última semana. O distrito escolar de Lockport, no Estado de Nova York, anunciou a instalação de um projeto de reconhecimento facial dos alunos. A ideia é cruzar os rostos de quem transita pela escola com uma base de dados de criminosos, acusados de crimes sexuais e alunos expulsos.
Autoridades locais pediram que o projeto seja adiado. Os métodos de vigilância têm sido alvo de críticas de especialistas que consideram que os sistemas minam a privacidade dos jovens, a liberdade de expressão e podem criar traumas por possíveis falsas acusações. Os pais também temem o compartilhamento dessas informações com autoridades públicas ou para fins comerciais, já que a coleta de dados é feita por empresas privadas. Testes de sistemas de reconhecimento facial mostram que a precisão varia de acordo com a cor de pele ou gênero do rosto analisado. Segundo o professor de Massachusetts Erik Learned-Miller, o sistema, se não for bem testado, pode se tornar tendencioso.
É com isso que Latarndra Strong se preocupa. Mãe de dois adolescentes, de 13 e 15 anos, ela foi informada de que a escola dos filhos, em Orange County, na Carolina do Norte, havia contratado uma empresa para analisar as postagens dos alunos.
“Morte, tiros, assassinato” são palavras que pulam no celular de um diretor de escolas que contrata esses serviços, com custo de aproximadamente US$ 2 por aluno. Em alguns casos, o monitoramento das redes cria situações caricatas, como um alerta para postagens inofensivas com variações da palavra morte: é o caso de um alerta gerado a partir as mensagens “eu adoro meu gato e morreria por ele” ou “estresse pode matar”.
“Eles decidem quem será criminalizado. Como mãe, estou preocupada com o que é feito com esses dados”, diz Latarndra. Segundo ela, a escola avisou da contratação do sistema de monitoramento, mas não consultou os pais. “Quero entender os gatilhos que fazem com que um aluno se torne suspeito.”
A empresa contratada na Carolina do Norte é a Social Sentinel, uma companhia privada presente em distritos escolares de 35 dos 50 Estados americanos. Como ela, outras companhias se espalharam pelos EUA. O trabalho consiste em analisar o conteúdo postado pelo aluno ou contido em e-mails do servidor da escola para identificar alunos que precisam de ajuda.
A empresa argumenta que a organização Educators School Safety Network estima que 40% das pessoas que machucam a si mesmas ou a outros já expressaram esse desejo nas redes sociais. “É nossa missão identificar essas postagens e dar a nossos clientes a oportunidade de intervir”, informou um porta-voz da empresa ao Estado.
Segundo a Social Sentinel, a tecnologia é continuamente refinada e o modelo é conservador, para criar um “número mínimo de falsos positivos”. A empresa afirma que não gera dados para outros propósitos, como marketing, não monitora usuários específicos nem dados privados.
Regulação
O advogado Brad Shear é especialista em redes sociais. Nos últimos anos, passou a defender jovens rejeitados em universidades em razão de postagens online. Com dois filhos na escola, ele é crítico do sistema. “É preciso haver regulação e lei”, critica ele. “O melhor a fazer é educar as crianças. Há casos de falsos positivos, essas empresas estão tentando assombrar educadores e pais dizendo que precisam disso para se tornarem seguros.” Segundo ele, há casos em que adolescentes postam letras de músicas nas redes sociais e já entram na mira dos alertas.
Em artigo, as pesquisadoras Rachel Levinson-Waldman e Faiza Patel, do Centro de Justiça Brennan, da New York University, apontam que 92% dos adolescentes ficam online diariamente e 24% estão conectados quase constantemente.
“Os programas de monitoramento podem funcionar como dispositivos de escuta que registram cada fala e os transmitem aos diretores escolares. Esse escrutínio pode revelar um comportamento de risco que requer intervenção. Mas, com muito mais frequência, também reprimirá a capacidade dos jovens de se expressarem”, afirmam.
O escritório nova-iorquino da Associação Americana para Liberdades Civis (ACLU) tem sido uma das vozes críticas à proposta de reconhecimento facial, sob o argumento de que o sistema de identificação passa aos estudantes a mensagem de que eles são criminosos em potencial e, por isso, precisam ter os rostos escaneados enquanto estudam ou brincam. “Está claro que o Estado deve intervir e garantir que a tecnologia imprecisa, preconceituosa e perigosa não seja imposta a alunos, professores e pais sem a devida consideração de seus direitos”, afirmou Stefanie Coyle, conselheira de educação do NYCLU.
Mas nem toda a comunidade de Lockport é cética sobre o projeto. Morador da cidade, o jornalista esportivo Khari Demos assume que não é fã da tecnologia, mas diz que não é algo ruim aumentar a segurança das crianças. “É melhor ser prevenido do que arrependido”, afirma. “Acho que a comunidade vê da mesma forma. Nós não vemos a necessidade absoluta disso, mas preferimos ter a tecnologia do que viver o luto da perda de alguma das crianças”, diz Demos, que tem uma irmã na escola da cidade.
Os oficiais do distrito escolar de Lockport argumentam que os dados não serão repassados às autoridades. O custo estimado para a instalação do sistema de reconhecimento é de US$ 1,4 milhão (o equivalente a R$ 5,5 milhões).
Isso só aumenta o estresse
Ethan Sommers, de 19 anos, entrou para o movimento March For Our Lives depois de ter amigos que foram vítimas de tiros nas escolas. O grupo foi criado por jovens depois do massacre de Parkland, na Flórida. Para ele, não está claro como o monitoramento de redes sociais ou reconhecimento facial pode tornar o ambiente estudantil mais seguro.
“Achamos que isso não ajuda, porque só aumenta o estresse”, afirma. “Não só falha na proteção, como não contribui com a qualidade da saúde mental dos estudantes, que é a nossa ênfase”, afirmou.
Erik Learned-Miller, professor de ciência da computação da Universidade de Massachusetts, tem se dedicado a pesquisas sobre os sistemas de reconhecimento facial. Segundo ele, ainda não há regulação suficiente sobre o tema para fazer com que os benefícios compensem os riscos.
“Se você nunca testou, por exemplo, o equipamento em situações de pouca luz, como sabe se vai funcionar? Os administradores de escolas compram o serviço sem saber nada sobre a tecnologia, as companhias não providenciam essas informações e não há diretrizes claras sobre isso. Não recomendaria às escolas comprarem neste momento a tecnologia que não está pronta”, afirma Miller, que aponta erros em identificação facial nas suas pesquisas.
Em Nova York, um jovem de 18 anos está processando a Apple por ter sido detido injustamente. Segundo ele, o sistema de reconhecimento facial da loja – que a empresa nega usar – o identificou de forma equivocada. A polícia o liberou por entender ser a pessoa errada, mas Ousmane Bah pede uma indenização de US$ 1 bilhão à empresa.
O pesquisador de Massachusetts compara o sistema à venda de remédios. “É preciso passar por um processo para que sejam estipuladas as contraindicações”, afirma. “Qual é o custo do erro? Suponha que um pai entre em uma escola e não seja detectado corretamente, o que acontecerá? Um policial será acionado e vai atirar? Eu não sou anti-indústria, mas tenho visto empresas superestimando a precisão da tecnologia”, afirma Miller.
Em maio, a cidade de São Francisco, na Califórnia, sede das gigantes de tecnologia, aprovou uma lei que proíbe o uso dos programas de reconhecimento facial pela polícia local. A cidade entendeu que o risco aos direitos e liberdades civis “supera seus benefícios”. Em 2016, um estudo do Centro de Privacidade e Tecnologia da Universidade Georgetown já indicava que as bases de dados coletados por agentes públicos reconheciam o rosto de 117 milhões de americanos adultos. As informações são do jornal O Estado de S. Paulo.
