Moderação do Discord é falha e permite crimes contra crianças, aponta relatório policial

Moderação do Discord é falha e permite crimes contra crianças, aponta relatório policial

Documento elaborado pelo Núcleo de Observação Digital destaca dificuldades na identificação de criminosos e a demora das plataformas em derrubar servidores com conteúdos ilegais.

Discord – A Polícia Civil de São Paulo entregou nesta terça-feira (10) ao Ministério Público um relatório técnico que aponta graves falhas de moderação em plataformas de comunicação digital, com destaque para o Discord. O documento, elaborado pelo Núcleo de Observação Digital (NOAD), indica que essas brechas estão permitindo a prática de crimes contra crianças e adolescentes em tempo real na internet. O material foi recebido diretamente pelo procurador-geral de Justiça, Paulo Sérgio de Oliveira e Costa.

O relatório destaca a preocupante demora na exclusão de servidores, mesmo quando crimes graves estão sendo cometidos ao vivo. Entre os principais problemas listados estão as dificuldades na interrupção rápida de condutas ilegais e no mapeamento dos responsáveis pelas ações. Segundo a Polícia Civil, essas falhas expõem jovens usuários diariamente a riscos severos, como violência sexual, automutilação e instigação ao suicídio.

LEIA: Botões de resumir com IA podem ter comandos ocultos para enviesar respostas

O monitoramento contínuo realizado pelo NOAD, criado no fim de 2024, busca suprir lacunas de fiscalização que, segundo a corporação, deveriam ser de responsabilidade dos próprios gestores das plataformas. Durante o trabalho, foram observadas falhas recorrentes em ambientes de jogos online, onde servidores permanecem ativos diante da prática de crimes. Com a análise deste material, o Ministério Público poderá avaliar a adoção de medidas para reforçar a moderação nessas ferramentas.

Atualmente, o núcleo mantém um monitoramento de 24 horas por dia em ambientes digitais voltados ao público jovem, acompanhando mais de 1,2 mil alvos. Desde o início das atividades, o trabalho já contribuiu para o resgate de centenas de vítimas em situações de risco iminente. Enquanto a Secretaria da Segurança Pública divulga o resgate de 359 crianças e adolescentes, dados do Ministério Público apontam 358 resgates.

O secretário da Segurança Pública, Osvaldo Nico Gonçalves, enfatizou a importância da integração técnica no combate a esses delitos. “O trabalho do NOAD demonstra que o combate aos crimes digitais exige atuação técnica, permanente e integrada. Estamos falando da proteção direta de crianças e adolescentes em ambientes virtuais que precisam ser mais seguros e responsáveis. Ao encaminhar esse relatório ao MP, reforçamos a necessidade de que as plataformas também cumpram seu papel na moderação de conteúdos e na prevenção de crimes, enquanto o Estado segue atuando com inteligência para identificar criminosos, resgatar vítimas e impedir a expansão da violência online”, afirmou o secretário.

O NOAD é apontado como uma iniciativa pioneira no país, focada na prevenção de crimes como estupros virtuais e a comercialização de pornografia infantil. A estrutura reúne policiais civis, militares e peritos especializados. Entre as estratégias utilizadas estão os chamados “observadores digitais”, policiais civis que se infiltram em comunidades e grupos online em regime contínuo para identificar atividades criminosas e localizar vítimas.

As informações coletadas são consolidadas em relatórios de inteligência que subsidiam inquéritos e embasam pedidos judiciais, como mandados de busca, prisões ou internações. Além da investigação, o núcleo atua preventivamente, acionando outras unidades para garantir o resgate prioritário das vítimas.

(Com informações de O Globo)
(Foto: Reprodução/Freepik/inkdrop)

Leia mais