O deputado federal Nikolas Ferreira (PL-MG) criticou as medidas de restrição impostas às lives do Discord, durante uma coletiva de imprensa no Salão Verde da Câmara dos Deputados, na quarta-feira (12).

A discussão ocorre porque a Agência Nacional de Proteção de Dados (ANPD) determinou que a plataforma suspenda as transmissões ao vivo no Brasil após a morte de uma sul-mato-grossense, de apenas 13 anos, ser transmitida virtualmente por grupos extremistas através das redes sociais. 

"Segundo a lógica da esquerda, você sempre tem que derrubar a plataforma, nunca o criminoso. Então, se for assim, tem que proibir faca também, porque faca mata gente. Nós vamos ter que proibir o Instagram também, porque também tem lives e postagens criminosas. Nós vamos ter que proibir os carros também, carro também usa para poder matar gente. Então, é inacreditável que derrube as lives no Discord, mas não tem nada para combater o criminoso", disse o parlamentar.

O deputado ironizou Janja e disse que ela tem influência sobre a medida da ANPD. Ao final do discurso, Nikolas Ferreira provocou a primeira-dama: “Mais uma vez, obrigado, porque o eleitorado jovem deste país vai amar. Uma salva de palmas para a Janja”.

O que diz o Discord?

Em documento encaminhado ao governo, o Discord relatou que há indícios de que os atos que culminaram na morte da jovem em Naviraí tenham sido articulados previamente ou de forma paralela em outras plataformas, especificamente Telegram e TikTok.

Segundo a empresa, a existência de interações fora de sua plataforma ajudaria a explicar por que seus sistemas não identificaram o risco de imediato.

O TikTok nega que tenham ocorrido atividades de coordenação ligadas ao caso em sua plataforma. Segundo a Folha de São Paulo, a empresa afirmou ter realizado buscas sobre o episódio e disse não ter encontrado indícios de que o incidente tenha sido articulado ou de que usuários tenham sido redirecionados a ele por meio da rede social.

No documento, O Discord afirma que seu sistema trabalha com uma pontuação de risco. A transmissão específica teria recebido pontuação de 0,12, enquanto o limite para identificação automatizada é de 0,95.

Além disso, a plataforma afirmou que o resultado está sendo reexaminado e poderá servir para avaliar eventuais aprimoramentos na sensibilidade do sistema, buscando um equilíbrio entre a capacidade de detecção e a produção de falsos positivos.

A empresa afirmou ainda ter recebido uma comunicação de um órgão de segurança sem muitas informações às 3h50. E que, menos de 25 minutos depois, o servidor da transmissão foi removido.

A ANPD concluiu que a plataforma não possui ferramentas que viabilizem mecanismos de análise de conteúdo e detecção de violações em tempo real. De acordo com a nota técnico da agência reguladora, o Discord "depende de sistemas automatizados falhos e de denúncias pelos próprios participantes desses ambientes voltados à prática dessas violações".

"O caso relatado pela empresa [...] evidencia falha grave no modelo implementado, uma vez que fato gravíssimo recebeu uma sinalização de risco erroneamente baixa porque o sistema automatizado de detecção não foi bem calibrado", diz a nota técnica da ANPD.

Medidas e recursos

Para além da suspensão da "Go Live", conforme a medida cautelar, o Discord precisa suspender recursos de transmissão e compartilhamento de vídeos equivalentes. Além disso, é necessária a implantação de mecanismos tecnicamente eficazes contra a burla. 

"A medida incide especificamente sobre funcionalidade que a ANPD entendeu apresentar evidências robustas de configurar o maior risco para menores de 18 anos, não representando impedimento da continuidade de outras atividades da plataforma, ou de seus potenciais usos legítimos". 

Essa suspensão deve valer até que a plataforma demonstre implementação e efetividade de medidas técnicas, de segurança e de governança adequadas aos riscos identificados para crianças e adolescentes. 

Uma vez em conformidade com o determinado, o Discord poderá obter autorização expressa e prévia da própria ANPD para reativar, total ou parcialmente, o recurso de lives em sua plataforma. 

Caso sejam constatadas irregularidades, a ANPD poderá determinar medidas corretivas e aplicar sanções em âmbito administrativo, conforme prevê o artigo número 35 do ECA Digital. 

Notificados pela Superintendência da Agência Nacional de Proteção de Dados, diante de irregularidades, isso significa que o Discord pode sofrer a aplicação de uma multa de até R$50 milhões por infração. 

Fica aberto agora o prazo de três dias úteis para o Discord comprovar o cumprimento integral da suspensão no território nacional.

Além disso, há ainda o prazo de dez dias úteis para apresentar recurso junto à Superintendência de Fiscalização. Diante de uma ausência de reconsideração por parte SFI, haverá possibilidade de recorrer ao Conselho Diretor da ANPD. 

Relembre

Na manhã de 22 de julho, em Naviraí, distante aproximadamente 365 quilômetros da Capital do Mato Grosso do Sul, Lívia foi encontrada sem vida pelos familiares após ter sido incitada ao autoextermínio por grupos extremistas.

O trabalho do Laboratório de Operações Cibernéticas (Ciberlab) da Secretaria Nacional de Segurança Pública do Ministério da Justiça e Segurança Pública (Senasp/MJSP), identificou que esse caso inicialmente reportado como suicídio tratava-se, de fato, de um homicídio resultante de manipulação feita por organização criminosa no ambiente online.

Já nesta última terça-feira (04) foi deflagrada pela Polícia Civil de Mato Grosso do Sul a Operação Livia, através da qual foram cumpridas de forma simultânea, seis medidas de busca e apreensão contra adolescentes e um mandado de prisão contra um adulto.

Várias são as terminologias que esses envolvidos usam internamente, reunindo-se, por exemplo, nas chamadas "panelas" para prática dos crimes virtuais.

Antes desse momento, porém, os adolescentes acusados revelaram após apreensão que há toda uma "engenharia social" para cooptar as vítimas para exploração nas redes sociais. Operando de forma anônima, eles sequer saberiam as identidades ou localizações reais uns dos outros, criando inclusive perfis falsos com fotos de pessoas de outro sexo para conseguir atrair as vítimas. 

"Então eles começam a procurar pela família; onde estuda, e diante de todas aquelas informações, se passa por outra pessoa. Importante frisar que nenhuma rede social dessas pessoas condizia com a foto delas. Era sempre outro tipo de pessoa, de sexo, realmente para conseguir trazer a vítima".

Reunidos nas mais diversas plataformas, como por exemplo o Discord, os administradores desses grupos eram responsáveis por marcar o que chamavam de "evento". 

"Nessa noite que teve esse 'evento' (morte da Lívia), porque é assim que eles chamam dentro dos grupos nomeados por eles de 'panelas', ocorreu uma automutilação. Logo na sequência que é divulgado esse suicídio, porque não houve moderação, houve falha na plataforma Discord que não foram derrubados, teve essa automutilação em outro Estado", comenta a titular da Depca.

Segundo explicação dada pela delegada, é como se os administradores de cada "panela" se tornassem os donos dessas vítimas e que, apesar de não ser o caso de Lívia, há vítimas que se cortavam e tinham que escrever o nome do administrador com o próprio sangue.

"Para mostrar: 'eu sou de fulana de tal', porque elas eram obrigadas a fazer isso, porque elas estavam acreditando que vai acontecer algo", complementa. 

Panelas virtuais

Através da Operação Lívia uma grande quantidade de material foi apreendido, evidenciando uma verdadeira organização criminosa para manutenção de escravas virtuais, o que atingiria principalmente meninas. 

Essas vítimas seriam manipuladas e pressionadas até a prática do suicídio, que eram transmitidos para várias pessoas por meio das redes sociais. 

Essas "panelas" virtuais competiriam por "hype", uma hierarquia de popularidade medida através de atos de violência cada vez maiores, que davam status para seus integrantes que inclusive repassavam o passo a passo para as vítimas "do que" e "como" fazer.

Alguns desses alvos vitimados recebiam bonificações conforme avançavam no "jogo" ao cumprirem os atos de "luz". Justamente a recusa de Lívia de encarregar-se de fazer a "luz" e matar seu próprio gato foi o "estopim" da morte da adolescente em MS

"A Lívía antes de se matar ela tinha que fazer o que eles chamam de 'Luz', que é a agressão. Ela tinha que matar o gato dela e não cumpriu o que deveria ter cumprido. É como se eles estivessem jogando um videogame... tem que passar de fase", explica a delegada.

Como bem esclarece a respeito da "engenharia social" dos criminosos, muitas vítimas eram alvos do chamado "doxxing", que seria a busca e exposição de dados particulares de uma pessoa na internet sem a devida permissão dela. 

Nessa prática criminosa, o objetivo costuma ser a busca por aterrorizar, envergonhar ou ameaçar a vítima com a exposição de dados que podem incluir nome real, endereço, CPF, telefone, etc. 

"A Lívia mesmo, antes de tomar a decisão de realmente se matar, ela tinha sido 'doxada' por esses adolescentes, e isso exercia muita ameaça, porque estavam envolvidas ali a família, então ela não sabe o que vai acontecer, se 'é só comigo', 'é pra minha família também', então ela acabou tirando a vida após essa pressão", afirma. 

Segundo a delegada, foi o adolescente infrator apreendido no Rio de Janeiro o responsável por repassar e determinar as coordenadas para Lívia, fornecendo esse "passo a passo" para a vítima sul-mato-grossense. 

Sobre o esquema, é esclarecido ainda que para além da satisfação pessoal com o sofrimento das vítimas, esses indivíduos ganhavam "status" e valores eram pagos para que as pessoas praticassem determinados atos, bonificadas após uma automutilação ou maus-tratos animais. 

"O adolescente infrator que foi apreendido na Baixada Fluminense deu para ela todas as coordenadas que Lívia teria que fazer para se suicidar", completa a delegada.

Esses indivíduos devem agora responder pelos crimes de homicídio qualificado, organização criminosa e possivelmente também pelos maus-tratos contra animais. 

Assine o Correio do Estado