¶1Eh, por que que o Discord foi criado? O Discord foi criado para gamer, pra gente que fica jogando videogame pela internet junto com bando de gente. Nem todo videogame tem um bom sistema de som interno. Então, o Discord nasce como um canal de áudio, onde todo mundo que tá jogando o mesmo e videogame pode conversar. Então você tá lá enfrentando uma missão no meio da Segunda Guerra Mundial ou sei lá.
¶2Eh, eh, todo mundo tá vendo mais ou menos o mesmo espaço, evidentemente, cada um com seu personagem do videogame. E o Discord é usado para você conversar enquanto enquanto o videogame tá acontecendo. Aí aos poucos o pessoal do Discord, a plataforma fez sucesso, o pessoal do Discord foi e eh juntando mais gente, juntando juntando mais funções, eh transmissão ao vivo por vídeo, que nem essa live aqui no YouTube. A gente poderia fazer essa live no Discord. Ou você então pode fazer transmissão de áudio, você pode ter conversas por vídeo, conversas por áudio, além, evidentemente, dessa coisa de mensagens, tanto mensagens diretas de usuário para usuário, como mensagens públicas organizadas por tópicos.
¶3Eh, agora, o Discord não é uma rede social aberta. O o que que eu quero dizer com isso? Não é que nem você entrar no Instagram ou no Facebook ou no X ou no TikTok, em que você vai lá e você vê o mundo, tudo que as pessoas estão produzindo naquela plataforma tá à disposição para para você ver. E 95% dos perfis são abertos. O Discord não é assim.
¶4O o o Discord são diversos servidores fechados, eles chamam de servidor. Se a gente quiser aqui criar um servidor do meio no Discord, a gente entra na plataforma sem pagar um tstão e cria um servidor mail. Olha aqui, é um Discord do meio e tem toda a nossa comunicação lá, eh, todos os nossos fóruns, temos bate-papos, a gente vai fazer uma pastinha que é política e todos os tópicos de conversa sobre política estão ali. Outra pastinha é é sobre digital e toda conversa sobre tecnologia vai est ali. Aí de vez em quando alguém vai reclamar, tá off topic, não pode, esse tipo de coisa, sabe como é que é ver na internet, né?
¶5Agora, a diferença de um servidor desses é a seguinte: um servidor é privado, ou seja, para você entrar num determinado servidor, você precisa ser convidado por quem é dono de lá. A segunda coisa que a gente tá habituado com rede social e que no Discord não tem, é um algoritmo de recomendação, querendo dizer, se você entra no Discord, você tem que ir por conta própria, por seu desejo, entrar naquele tópico para conversar ali sobre política. Ah, eu nunca entro no lugar de digital, só entro no lugar de política. o o servidor não empurra para você eh nenhum tipo de conteúdo, nenhum tipo de informação. Ele não te recomenda o que lê.
¶6Ele não te recomenda sequer eh eh outros servidores para você entrar. Você só descobre se alguém te falar: "Não, eu tenho um servidor de Discord para discutir tal assunto, você não quer se juntar a nós?" Aí a pessoa vai te fazer um desconvite, você vai clicar um link e você vai entrar. Então, a primeira pergunta e olha essas plataformas que permitem comunicação eh privada, elas são todas mais difíceis de moderar, tá? E essa é uma conversa que nós sobre a qual a gente já teve aqui no Brasil. Logo após a eleição do presidente Jair Bolsonaro ali por 2019, 2020, a gente passou uns 2 anos conversando sobre WhatsApp, se não deveria haver algum tipo de controle de desinformação no WhatsApp, se não deveria haver algum tipo de filtro no WhatsApp.
¶7E meio que coletivamente nós chegamos à conclusão de que não, eu acho que o WhatsApp tem que ser privado. Sabe aquelas mensagens que eu, Pedro, mando paraa minha mulher? Eu realmente não quero que o WhatsApp modere aquelas mensagens. Eh, existem muitas razões paraa gente querer ter ambientes na internet que são ambientes criptografados e fechados e privados. Por quê?
¶8Porque não importa se a gente tá falando de doença, não importa se a gente tá falando de sexo, não importa se a gente tá falando de segredos industriais. Existem muitas razões legítimas para que adultos tenham ambientes que são privados. Agora, deixa eu te contar uma coisa que a humanidade sabe há algum tempo a respeito de quaisquer ambientes privados. São os melhores ambientes para crimes. Crimes acontecem quase sempre em ambientes privados.
¶9Raramente alguém que comete um crime comete esse crime público perante 300 testemunhas. Acontece, mas é mais raro. Os piores crimes costumam acontecer em ambientes privados. Isso é um desafio pra humanidade desde que a humanidade existe. Então, a partir daí, eu acho que a gente tem que ter uma uma conversa sobre qual é o tipo de privacidade que a gente quer que exista na internet.
¶10Eh, eh, quais são os limites? Qual o tipo de cooperação que nós esperamos de empresas que oferecem plataformas na internet? Tem muitas conversas que a gente precisa ter a respeito disso. Eu só quero, Flávia, eh eh e Magno, antes de jogar aí para para pra bancada de São Paulo a conversa, eu eu só quero trazer mais um detalhe que é o seguinte, a gente sabe muito pouco sobre esse crime que levou o suicídio dessa menina de 13 anos de idade no sul do Mato Grosso do Sul. A gente não tem certeza sequer que essa live aconteceu de fato no Discord.
¶11O que a gente sabe é que esse grupo, que é um grupo que só tinha um maior de idade, esse maior de idade tinha 18 anos, é um grupo de adolescentes, entendeu? Obviamente psicopatas. esse grupo que ficava aliciando outros adolescentes e outras adolescentes para cometer crueldades com animais e, no limite cometer suicídio em público. Eh, esse grupo usava diversas plataformas digitais, não apenas o Discord. Uma das informações que nós temos concretamente é que esse grupo chegou a ter uma uma um servidor no Discord que antes de esse suicídio acontecer, esse servidor foi fechado.
¶12Foi fechado como um grupo de recers do bem identificou esse servidor, denunciou a Polícia Federal, a polícia repassou a empresa Discord a denúncia e em menos de uma hora esse servidor foi fechado. Pessoal do Discord identificou o servidor, fechou, ó. Ninguém entra mais aqui. E agora a gente não sabe se essa live de fato aconteceu no Discord. É possível que tenha acontecido essa live em que a menina foi levada ao suicídio público para quem tava assistindo ali.
¶13É possível que tenha sido no Discord, isso ainda não tá certo. Tem uma quantidade imensa de informações que tão desencontradas. Eh, e tem muita coisa que tá circulando na internet que não que não corresponde a fatos de fato conhecidos. Então, a primeira coisa que a gente tem que esperar é que a investigação policial ocorra. A segunda coisa que a gente tem que esperar é que os executivos dessa plataforma, dessa empresa Discord, demorção, façam e [risadas] cooperem com a polícia, deem a maior ajuda possível eh dentro da legalidade à investigação policial, que é algo que tá acontecendo agora, fundamentalmente, e essa vai ser eh boa parte da minha da minha defesa aqui na nossa conversa é o seguinte: a gente com frequência demais se espanta com esse tipo de crime que acontece na internet.
¶14Crimes acontecem na internet. Por quê? Porque a internet é um lugar em que seres humanos convivem. Onde seres humanos convivem, há incidência de crimes. A partir daí, a gente tem que entender que tipo de internet é que a gente espera.
¶15E a regra paraa internet, essa é a minha principal defesa, tem que ser uma regra geral. Não é um processo de histeria contra a empresa X, contra a empresa Y. Já aconteceram alguns suicídios envolvendo inteligências artificiais nos Estados Unidos e na Europa. Em algum momento vai acontecer aqui no Brasil e aí a gente vai fazer o quê? Tem que fechar o chat GPT?
¶16Não é isso que a gente vai fazer. Não é isso que estão fazendo lá. Agora, isso não quer dizer que a Open AI não tenha contas a prestar a respeito de como que, principalmente jovens usam a ferramenta. Isso não quer dizer que empresas como a Discord não tenham que prestar contas a respeito de como jovens usam a ferramenta, mas fundamentalmente a gente precisa começar a pensar no Brasil a ter regras gerais. O que tá faltando nessa conversa não é a GU, não é a NPD, não é Ministério Público.
¶17O que tá faltando nessa conversa, eu acho, principalmente, é uma ação real de regulação por parte do Congresso Nacional. Magno, Flávia, por favor, >> você me permite? >> Com certeza. >> Então, vamos lá. Eh, primeiro, boa tarde a todos novamente.
¶18Eh, eu tenho a impressão de que a nossa internet aqui em São Paulo tá um pouco intermitente. Eh, então é possível que a gente [risadas] eh tenha mais alguma questãozinha técnica, mas eh vamos seguindo enquanto isso. [suspirando] Eh, Pedro, eu acho essa tua explicação inicial muito importante, muito relevante. Eu, a gente debateu isso aqui internamente hoje de manhã, eh, tentou mapear os pontos de dúvida, os pontos de discórdia, [risadas] mas não uma discórdia nada nociva, ao contrário, é um tema bastante difícil, complexo, desses em que a gente não pode navegar nem guiados eh pela histeria e nem pela ignorância, né? Então, e a ignorância a que me refiro é a de este é um problema que se autosoluciona, porque eh é óbvio que e não é isso que o Pedro fez e nem o que eh acho que nenhum de nós aqui tem a intenção de fazer.
¶19Eh, não é só por envolver crianças e adolescentes, mas evidentemente que quando que especialmente quando envolve crianças e adolescentes e a segurança de uma população que é mais vulnerável e que depende de medidas eh de adultos, [risadas] né, de responsáveis, a gente eh tem que sim se tem sim que se debruçar sobre como lidar com ela. E por por isso eu acho muito importante pegar esse teu gancho final sobre como a gente regulamenta isso e entende eh este assunto neste momento no Brasil, em que pé estamos disso para entender o momento em que a NPD tomou essa decisão. E aí é óbvio que em algum momento também da do debate a gente vai chegar no papel eh da fala da primeira dama Janja, né, que tá ali no na nossa tamb. Mas vamos lá. O o que o que hoje norteia esse tipo de de fiscalização e regulamentação é uma lei que ficou conhecida como ECA digital, que foi aprovada em setembro do ano passado e sancionada em março deste ano e que ainda está eh ainda ainda está em processo tanto de implementação quanto de regulamentação.
¶20O texto dessa lei tem vários pontos um pouco genéricos. como várias leis, isso é normal que aconteça em leis que procuram regular um um assunto, um campo inteiro. Então, é natural que o processo de implementação de uma lei desse tipo vá sendo regulamentado aos poucos. E a atribuição de regulamentar alguns desses pedaços foi eh direcionada pela própria lei à Agência Nacional eh de Proteção de Dados. Eu acho que é esse o nome da NPD, né, por extenso.
¶21>> Eh, isso eh, posto, vamos lembrar o contexto em que esta lei foi aprovada no Congresso Nacional. Foi na esteira daquele eh daquele vídeo do Felka, que é aquele influenciador sobre exploração de crianças e adolescentes. Eh, era no era mais no YouTube e no Instagram, se eu não me engano. Parece que já faz 50 anos que isso aconteceu, mas enfim. Eh, não era no Discord necessariamente, mas era na internet, né?
¶22Era essa era essa noção de que olha, há muitos espaços de vulnerabilidade, de exploração feita por adultos de crianças e adolescentes. Aí o termo que foi usado para isso foi adultização, mas tinha outros tipos, tinha exploração direta sexual, casos muito graves, inclusive e outros casos que eu considero igualmente graves, mas que no debate público eram nuançados até onde era mesmo exploração ou era só um pai e uma mãe que estavam exibindo orgulhosamente seus filhos na internet e a coisa saía de controle. Enfim, o debate, a forma como esse debate foi travado dentro do Congresso Nacional, eh, como foi o Felka que o produziu a partir do seu vídeo, um num primeiro momento, eh, houve um estranhamento, eh, mas rapidamente esquerda e direita se alinharam na ideia de que nossas crianças estão em perigo. Precisamos logo trazer as algumas das regras do do Estatuto [risadas] de Criança e Adolescente para pra linguagem do universo digital. E algumas medidas eh são nativas digitais, por assim dizer, outras são meras adaptações do que o ECA já diz pro mundo virtual.
¶23Entre essas que são mais. E isso foi feito em alguns momentos foi feito com muita pressa, com muita vontade de se de transformar isso em palanque, em eh em polarização ou em plataforma eleitoral e outros pedaços. Não teve um pedaço ou outro que teve audiência pública, que as a as plataformas foram convidadas a expor os seus pontos de vista e tudo mais. O fato é que foi feito, foi feito rapidamente diante de um cenário de comoção nacional. E a gente sabe que comoção nacional não costuma ser o melhor aditivo combustível para decisões maduras eh e tudo mais, embora algumas mereçam urgência de tratamento.
¶24E eu acho que esse é o tipo de assunto que >> nos coloca neste limiar, o da urgência, mas o da maturidade, da responsabilidade, para evitar que a comoção nacional eh nos guie. Bom, o que ficou decidido no ECA digital e que eu acho que vale a gente eh trazer pro caso atual do Discord, uma das coisas que ainda não está regulamentada sobre o ECA digital e que a NPD vem se debruçando antes do caso Lívia é sobre verificação de idade nas plataformas. Eh, não há hoje uma definição sobre qual é a idade mínima de adesão por lei eh de uma um adolescente ou uma criança a plataformas digitais. O que há são normas das próprias plataformas e no Brasil a maioria das plataformas propõem a idade de 13 anos. O que há no ECA digital é a necessidade de contas de menores de 16 anos.
¶25serem vinculadas a contas de responsáveis. E há também uma determinação no ECA digital de que as plataformas desenvolvam mecanismos tecnológicos de detecção de idade para além daquela autodeclaração se você é maior ou menor de uma determinada faixa etária. Então isso é algo que o ECA Digital determinou que as plataformas façam. Todas elas têm um prazo de adaptação para isso e isso tudo está em andamento. O próprio Discord está em fase de implementação disso.
¶26Então, este é um ponto que eu gostaria de destacar. Não está implementado inteiramente, então ainda tem adolescente entrando sem conta de responsável vinculada e ainda tem plataforma em fase de implementação de mecanismos para detectar a idade, tá? Isso é uma coisa. A outra coisa que aí eu acho que é o cerne do que a gente tá debatendo nessa suspensão de lives do Discord e nisso que você muito bem explicou, Pedro, sobre o que são os ambientes privados dessas de algumas plataformas, não são todas que tem ambientes privados, mas o próprio Instagram tem o chat que em tese é privado, criptografado, etc. Então, eh mesmo as redes sociais que são no modelo eh timeline aberto tem eh ambientes de conversas privadas e o Discord, como Pedro Bren explicou, assim como que não é uma rede social, é outro tipo de é outra natureza de plataforma, assim como o Slectal, é ele tem todos os seus ambientes são privados, inclusive as lives.
¶27E a ECA, o ECA digital prevê em seu texto, e aí a gente pode debater se isso é sequer possível, mas eu acho que tá no coração da decisão da INPD, que as plataformas que tenham ambientes privados definismos de detecção de riscos quando esses crimes estiverem sendo cometidos, envolvendo crianças e adolescentes. A gente vai ter um debate técnico sobre se é possível ter esse tipo de mecanismo ou não. O fato é que o Discord diz que a única forma que ele discorde tem de verificar se estão sendo cometidos crimes dentro de ambientes privados é se alguém de dentro do ambiente privado denuncia que está acontecendo um um crime ou hackers, como você mencionou que foi no caso da Lívia, certo? Eh, e aí diz que olha, eh, eu não tenho condições, o discórdo, isso pelo menos está contido no uma numa entrevista concedida pelo diretor da Agência Nacional de Proteção de Dados hoje no podcast Café da Manhã. Eu tô trazendo um pouco de das informações que estão públicas, eh, e antes da gente mergulhar ainda mais no debate, mas que eu acho que é uma contextualização importante pra gente entender o que que tá cada um dizendo, né?
¶28e e sobre as limitações de atuação, ao mesmo tempo em que tem em que existe esse desejo da sociedade de que haja proteção para as crianças, né, e adolescentes. Então, o o ECA prevê que haja mecanismos. O Discord diz que o mecanismo que ele tem para eh cuidado e proteção em ambientes privados só vem de dentro da própria do próprio servidor, de quem tá lá dentro. e a NPD na reunião que teve com representantes do Discord e que, aliás, o próprio Piag, que é o diretor, admite que o Discord tem sido uma plataforma bastante cooperativa no processo, tem se sentado para conversar, tem apresentado tudo que lhe é pedido e etc. Eh, mas ficou com ficou a NPD compreendeu que isto é insuficiente diante do do aumento de casos dentro da plataforma.
¶29e a e entendeu que a medida proporcional não seria como a primeira dama Janja implorou. Eh, foi esse o termo que ela própria usou, tá gente? Isso não é dedução minha ou deboche. Ela implese isso para um dos representantes do Ministério da Justiça ou pro próprio ministro, eu não me lembro. Eh, eu imploro que vocês suspendam a plataforma.
¶30O rapaz, o diretor da NPD diz: "Não, não seria nem de perto proporcional". A gente suspendeu as lives até que o Discord apresente maneiras mais eficazes de verificar se crimes estão sendo cometidos contra crianças e adolescentes em ambientes privados. Então, a gente chega neste momento, e aí eu vou te passar a palavra que eu falei longamente para trazer o máximo de informação que eu tenho. É, sou, enfim, eu até tenho mais, mas já falei muito. [risadas] Eh, >> fica à vontade.
¶31>> Mas, eh, a gente chega num momento, eh, o, o diretor da NPD diz que foi ele recebeu um ofício do Ministério da Justiça na quarta-feira da semana passada. Então, é anterior à manifestação, o ofício que ele recebeu do Ministério da Justiça é anterior à manifestação pública da primeira dama. Eh, e e este e este ofício decorre da investigação que também antecede a operação Lívia, que é a da morte da garota de 13 anos. eh investigações da Polícia Civil de São Paulo que antecedem a morte dela já tinham já estavam mapeando eh este grupo, se eu não me engano, é isso que ele diz. E de qualquer jeito chegaram, chegou a operação Lívia foi desencadeada, o ofício chega à NPD, a NPD pede informações para o Discord e aí no final de semana eh isso isso eh vai o Discord vai oferecendo, é pedida mais informa é pedido mais informação e tal, ao longo de dos dias 10, 11 e 12, até que ontem, dia 12, a NPD entendeu que o melhor, a gente vai debater se é mesmo melhor ou não, É, era suspender as lives até que o Discord apresentasse as suas medidas mais eficazes.
¶32Esse é o termo que a NPD está usando. >> O meio começou com a newsletter que chega na sua caixa de entrada com as principais notícias do dia. Sabe qual é, né? Aquela que você lê em 8 minutos. Depois, [música] depois a gente evoluiu pros vídeos aqui no canal do YouTube.
¶33São as análises e programas que mais tarde foram adaptados para áudio, com os podcasts que você pode [música] ouvir lavando louça na academia, na fila do mercado, cozinhando e a barra ficou mais alta porque chegamos às produções audiovisuais com qualidade de cinema e um swimming [música] próprio. São séries e documentários originais e um catálogo exclusivo para eles, os nossos assinantes premium. É assim que o jornalismo do meio [música] vem crescendo para caber no seu dia, do jeito que fizer sentido para cada um [música] dos nossos leitores se informar. Conheça o nosso acervo premium e faça parte de uma comunidade [música] que não apenas consome notícia, mas analisa o que tá lendo, ouvindo e assistindo. S no meio primo.