A Coalizão Direitos na Rede vem a público manifestar sua preocupação com o Projeto de Lei 3.287/2024, que institui o Protocolo de Atendimento e Intervenção Imediata para Prevenção e Proteção de Crianças e Adolescentes em Caso de Suspeita de Violência em Ambientes Virtuais. Indicamos nossa preocupação em vista que, apesar do projeto ser colocado como um novo instrumento para proteção das crianças e adolescentes, ele reforça o uso de tecnologias de vigilância abusivas e que não garantem uma maior proteção para esse grupo vulnerável.
Estamos em um momento de grandes avanços na proteção de crianças e adolescentes nos ambientes digitais, especialmente com a aprovação e publicação do ECA Digital, uma legislação inovadora que encontrou suporte das organizações de direitos digitais. Entretanto, o contexto de euforia não pode se tornar uma porta de entrada para iniciativas que vão de encontro à defesa de direitos, ameaçando a privacidade e a proteção de dados.
O principal problema do Projeto de Lei 3.287/2024 está na definição demasiadamente vaga sobre o próprio Protocolo a que se propõe implementar, assim como suas diretrizes (Art. 4º), sua implantação (Art. 5º) e estratégia operacional (Art. 6º). O projeto propõe estabelecer uma aplicação de sistemas de policiamento preditivo para fins de proteção das crianças e adolescentes, a partir do uso de técnicas estatísticas, algoritmos e análise de dados para identificar e prever onde e quando os crimes podem acontecer. Contudo, em razão das imprecisões nas definições das formas de aplicação e desenvolvimento desses sistemas, eles podem resultar em potenciais abusos e violações por parte dos agentes responsáveis pelo monitoramento e coleta desses dados.
Ademais, é fundamental destacar que a proposição de sistemas ditos preditivos não são eficientes e tendem invariavelmente a produzir vieses – de ordem racial, de gênero, sexualidade e território – quanto ao tentarem identificar crimes, em especial diante de diretrizes e estratégias de implantação e operação imprecisas.
A crítica a proposições de sistemas preditivos não deve ser confundida com a proposição de instrumentos que auxiliem de forma efetiva a produção de inteligência sobre crimes e, consequentemente, sua prevenção. A questão é que ao estabelecer de forma abrangente e indiscriminada de tecnologias para coleta de dados em “ambientes virtuais”, o projeto incorre no risco de implementar um sistema de vigilância indiscriminado. O projeto se inspira em um conjunto de métodos, técnicas e tecnologias sem efetividade comprovada, mas com alto potencial de violação de direitos humanos e digitais, como o direito à privacidade, e de riscos à sociedade e de grupos sociais, que podem sofrer com recomendações e medidas discriminatórias e equivocadas baseadas em análises falhas. Erros cometidos por sistemas preditivos podem ter consequências graves sobre a vida das pessoas, como nos casos de detenção ou prisão de inocentes. Pesquisas e investigações já mostraram as limitações e problemas desse tipo de sistema1.
Entendemos que uma legislação com esse objetivo deve ser mais voltada para melhoria dos serviços públicos voltados para as crianças e adolescentes, não em uma narrativa tecno-solucionista que tende a levar a mais injustiças. Também acreditamos que o tema deve ser discutido com maior cuidado entre a sociedade civil, as agências de segurança, órgãos governamentais e outros atores interessados e que sua votação apressada só geraria prejuízos para o debate público.
Brasília, 14 de Outubro de 2025
- https://themarkup.org/prediction-bias/2023/10/02/predictive-policing-software-terrible-at-predicting-crimes. ↩︎
