Reflexo das apurações sobre falhas na proteção de crianças e adolescentes em ambiente digital, a Agência Nacional de Proteção de Dados (ANPD) determinou que a plataforma Discord suspensa a funcionalidade de transmissões ao vivo no Brasil no período de até três dias úteis, após a morte de uma sul-mato-grossense de 13 anos ser transmitida virtualmente por grupos extremistas através das redes sociais.
Autointitulada como uma “plataforma social de jogos onde mais de 90 milhões de amigos e comunidades conversam por texto, voz e videochamadas todos os dias”, o Discord estabelece em seus termos de serviço que a idade mínima para uso da plataforma seria de 13 anos.
Ainda na sexta-feira (07) o processo de fiscalização foi instaurado pela ANPD contra o Discord. Na segunda-feira (10) a Agência recebeu informações em resposta e ontem (11) mesmo reuniu-se com representantes legais.
Assim como as populares "lives", demais recursos de compartilhamento de vídeo equivalente devem permanecer suspensos até que a empresa comprove a adoção de medidas para proteger crianças e adolescentes.
Essa suspensão da plataforma já havia sido cobrada até mesmo pela própria titular da Delegacia Especializada de Proteção à Criança e ao Adolescente (DEPCA), Anne Karine Sanches Trevizan Duarte, responsável pela investigação sobre caso da adolescente vítima de "panelas" virtuais que teve seu autoextermínio transmitido online por falha na moderação do Discord.
Essa medida cautelar recente foi determinada pela Superintendência de Fiscalização (SFI-ANPD), graças às robustas evidências de que o Discord não teria adotado as medidas razoáveis para: "prevenir e mitigar riscos de acesso, exposição, recomendação ou facilitação de contato com conteúdos ou práticas que representem graves violações de direitos de crianças e adolescentes no âmbito do seu serviço, sobretudo indução, incitação, instigação ou auxílio à violência, à automutilação e ao suicídio, conforme o Estatuto Digital da Criança e do Adolescente (art. 6º, II e III).
Cabe esclarecer que, de acordo com a Superintendência, essa medida não trata-se de um bloqueio do Discord no Brasil. O que fica suspenso é somente a funcionalidade chamada "Go Live", que é utilizada para transmissões ao vivo em servidores fechados, justamente para reduzir os riscos de danos graves aos quais esses menores de 18 anos ficam expostos.
"De acordo com a área técnica, a Agência já tem elementos suficientes que justificam a necessidade dessa ação emergencial com foco nessa funcionalidade específica da plataforma", cita a ANPD em nota.
Essa funcionalidade, segundo a Agência Nacional de Proteção de Dados, estaria sendo reiteradamente usada para prática de crimes graves nos últimos anos. Tal medida cautelar também não impede a adoção de demais medidas no curso de processo de fiscalização instaurado.
Em outras palavras, há a possibilidade, por exemplo, de celebrar um plano de conformidade para comprometimento do Discord com a implementação de melhorias em relação a outros aspectos dos seus serviços para cumprir as exigências do chamado ECA Digital.
Uso criminoso
Como bem esclarece a ANPD, as transmissões ao vivo no Discord ficam suspensas após conclusão sobre o uso recorrente do espaço: "como ambiente para a prática de graves violações contra crianças e adolescentes, episódios nos quais as lives têm sido reiteradamente empregadas em práticas de violência, assédio, indução à automutilação e ao suicídio".
Isso porque, o Discord não teria em sua arquitetura técnica adotada o pleno acesso ao conteúdo das transmissões de vídeo enquanto elas ocorrem. Isso torna inviável o uso de mecanismos de análise do conteúdo audiovisual bem como a detecção em tempo real de violações no âmbito do servidor.
Conforme a Agência Nacional de Proteção de Dados, os sistemas automatizados da plataforma seriam falhos e o Discord dependeria das denúncias dos próprios participantes onde essas violações ocorrem para ter acesso ao conteúdo das práticas criminosas.
Como se não bastasse, após a promulgação do ECA Digital, às vezes da popular "Lei Felca" entrar em vigor, o Discord teria realizado mudanças técnicas na dita funcionalidade "Go Live".
Para a ANPD, essas alterações tornaram a plataforma “ainda menos protetiva para crianças e adolescentes, violando deveres de prevenção da concepção ao gerenciamento contínuo dos riscos relacionados aos recursos, funcionalidades e sistemas”.
Ou seja, a "falha na moderação" ocorre porque as medidas atualmente descritas pela plataforma possuem apenas um caráter predominantemente posterior ao dano, ou uma "efetividade preventiva limitada".
Através da associação civil de direito privado, sem fins lucrativos, SaferNet Brasil, é feito um levantamento em que essa Organização Não Governamental (ONG) mede o número de denúncias envolvendo, por exemplo, o Discord.
Em comparação, essa plataforma teria registrado um aumento de 54% no volume de denúncias entre os sete primeiros meses de 2025 e 2026, indo de 264 para 406 notificações no período.
Medidas e recursos
Para além da suspensão da "Go Live", conforme a medida cautelar, o Discord precisa suspender recursos de transmissão e compartilhamento de vídeos equivalentes. Além disso, é necessária a implantação de mecanismos tecnicamente eficazes contra a burla.
"A medida incide especificamente sobre funcionalidade que a ANPD entendeu apresentar evidências robustas de configurar o maior risco para menores de 18 anos, não representando impedimento da continuidade de outras atividades da plataforma, ou de seus potenciais usos legítimos".
Essa suspensão deve valer até que a plataforma demonstre implementação e efetividade de medidas técnicas, de segurança e de governança adequadas aos riscos identificados para crianças e adolescentes.
Uma vez em conformidade com o determinado, o Discord poderá obter autorização expressa e prévia da própria ANPD para reativar, total ou parcialmente, o recurso de lives em sua plataforma.
Caso sejam constatadas irregularidades, a ANPD poderá determinar medidas corretivas e aplicar sanções em âmbito administrativo, conforme prevê o artigo número 35 do ECA Digital.
Notificados pela Superintendência da Agência Nacional de Proteção de Dados, diante de irregularidades, isso significa que o Discord pode sofrer a aplicação de uma multa de até R$50 milhões por infração.
Fica aberto agora o prazo de três dias úteis para o Discord comprovar o cumprimento integral da suspensão no território nacional.
Além disso, há ainda o prazo de dez dias úteis para apresentar recurso junto à Superintendência de Fiscalização. Diante de uma ausência de reconsideração por parte SFI, haverá possibilidade de recorrer ao Conselho Diretor da ANPD.
Relembre
Na manhã de 22 de julho, em Naviraí, distante aproximadamente 365 quilômetros da Capital do Mato Grosso do Sul, Lívia foi encontrada sem vida pelos familiares após ter sido incitada ao autoextermínio por grupos extremistas.
O trabalho do Laboratório de Operações Cibernéticas (Ciberlab) da Secretaria Nacional de Segurança Pública do Ministério da Justiça e Segurança Pública (Senasp/MJSP), identificou que esse caso inicialmente reportado como suicídio tratava-se, de fato, de um homicídio resultante de manipulação feita por organização criminosa no ambiente online.
Já nesta última terça-feira (04) foi deflagrada pela Polícia Civil de Mato Grosso do Sul a Operação Livia, através da qual foram cumpridas de forma simultânea, seis medidas de busca e apreensão contra adolescentes e um mandado de prisão contra um adulto.
Várias são as terminologias que esses envolvidos usam internamente, reunindo-se, por exemplo, nas chamadas "panelas" para prática dos crimes virtuais.
Antes desse momento, porém, os adolescentes acusados revelaram após apreensão que há toda uma "engenharia social" para cooptar as vítimas para exploração nas redes sociais. Operando de forma anônima, eles sequer saberiam as identidades ou localizações reais uns dos outros, criando inclusive perfis falsos com fotos de pessoas de outro sexo para conseguir atrair as vítimas.
"Então eles começam a procurar pela família; onde estuda, e diante de todas aquelas informações, se passa por outra pessoa. Importante frisar que nenhuma rede social dessas pessoas condizia com a foto delas. Era sempre outro tipo de pessoa, de sexo, realmente para conseguir trazer a vítima".
Reunidos nas mais diversas plataformas, como por exemplo o Discord, os administradores desses grupos eram responsáveis por marcar o que chamavam de "evento".
"Nessa noite que teve esse 'evento' (morte da Lívia), porque é assim que eles chamam dentro dos grupos nomeados por eles de 'panelas', ocorreu uma automutilação. Logo na sequência que é divulgado esse suicídio, porque não houve moderação, houve falha na plataforma Discord que não foram derrubados, teve essa automutilação em outro Estado", comenta a titular da Depca.
Segundo explicação dada pela delegada, é como se os administradores de cada "panela" se tornassem os donos dessas vítimas e que, apesar de não ser o caso de Lívia, há vítimas que se cortavam e tinham que escrever o nome do administrador com o próprio sangue.
"Para mostrar: 'eu sou de fulana de tal', porque elas eram obrigadas a fazer isso, porque elas estavam acreditando que vai acontecer algo", complementa.
Entenda
Através da Operação Lívia uma grande quantidade de material foi apreendido, evidenciando uma verdadeira organização criminosa para manutenção de escravas virtuais, o que atingiria principalmente meninas.
Essas vítimas seriam manipuladas e pressionadas até a prática do suicídio, que eram transmitidos para várias pessoas por meio das redes sociais.
Essas "panelas" virtuais competiriam por "hype", uma hierarquia de popularidade medida através de atos de violência cada vez maiores, que davam status para seus integrantes que inclusive repassavam o passo a passo para as vítimas "do que" e "como" fazer.
Alguns desses alvos vitimados recebiam bonificações conforme avançavam no "jogo" ao cumprirem os atos de "luz". Justamente a recusa de Lívia de encarregar-se de fazer a "luz" e matar seu próprio gato foi o "estopim" da morte da adolescente em MS
"A Lívía antes de se matar ela tinha que fazer o que eles chamam de 'Luz', que é a agressão. Ela tinha que matar o gato dela e não cumpriu o que deveria ter cumprido. É como se eles estivessem jogando um videogame... tem que passar de fase", explica a delegada.
Como bem esclarece a respeito da "engenharia social" dos criminosos, muitas vítimas era alvos do chamado "doxxing", que seria a busca e exposição de dados particulares de uma pessoa na internet sem a devida permissão dela.
Nessa prática criminosa, o objetivo costuma ser a busca por aterrorizar, envergonhar ou ameaçar a vítima com a exposição de dados que podem incluir nome real, endereço, CPF, telefone, etc.
"A Lívia mesmo, antes de tomar a decisão de realmente se matar, ela tinha sido 'doxada' por esses adolescentes, e isso exercia muita ameaça, porque estavam envolvidas ali a família, então ela não sabe o que vai acontecer, se 'é só comigo', 'é pra minha família também', então ela acabou tirando a vida após essa pressão", afirma.
Como bem esclarece a respeito da "engenharia social" dos criminosos, muitas vítimas era alvos do chamado "doxxing", que seria a busca e exposição de dados particulares de uma pessoa na internet sem a devida permissão dela.
Nessa prática criminosa, o objetivo costuma ser a busca por aterrorizar, envergonhar ou ameaçar a vítima com a exposição de dados que podem incluir nome real, endereço, CPF, telefone, etc.
"A Lívia mesmo, antes de tomar a decisão de realmente se matar, ela tinha sido 'doxada' por esses adolescentes, e isso exercia muita ameaça, porque estavam envolvidas ali a família, então ela não sabe o que vai acontecer, se 'é só comigo', 'é pra minha família também', então ela acabou tirando a vida após essa pressão", afirma.
Segundo a delegada, foi o adolescente infrator apreendido no Rio de Janeiro o responsável por repassar e determinar as coordenadas para Lívia, fornecendo esse "passo a passo" para a vítima sul-mato-grossense.
Sobre o esquema, é esclarecido ainda que para além da satisfação pessoal com o sofrimento das vítimas, esses indivíduos ganhavam "status" e valores inclusive eram pagos para que as pessoas praticassem determinados atos, bonificadas após uma automutilação ou maus-tratos animais.
"O adolescente infrator que foi apreendido na Baixada Fluminense deu pra ela, ele determinou, todas as coordenadas que Lívia teria que fazer para se suicidar", completa a delegada.
Esses indivíduos devem agora responder pelos crimes de homicídio qualificado, organização criminosa e possivelmente também pelos maus-tratos contra animais.
Alunos pedem por melhorias na infraestrutura - Divulgação
