Guilherme Magalhães Martins

João Victor Rozatti Longhi

Filipe Medon

A consolidação da sociedade da informação e o desenvolvimento das redes sociais impuseram uma revisão nos alicerces da responsabilidade civil. Dia após dia cai a premissa de uma suposta neutralidade tecnológica dos provedores de aplicação quanto ao conteúdo, reconhecendo-se que estas plataformas atuam como arquitetos ativos do ambiente informacional.
Ao desenharem suas interfaces e algoritmos, tais agentes não apenas intermediam comunicações, mas modulam comportamentos e gerenciam riscos inerentes à sua atividade econômica. Devem, por isso, ser responsabilizados não apenas por eventual conteúdo de terceiros – nos casos permitidos pela legislação e jurisprudência –, mas, principalmente, por suas próprias condutas, consistentes no design manipulativo, inseguro e danoso que empregam em certas situações.
<a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a>
A promulgação da Lei <a href="https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2025/lei/L15211.htm">15.211/2025</a>, conhecida como ECA Digital, representou um avanço importante na tentativa de complementar o Estatuto da Criança e do Adolescente frente aos desafios do mundo virtual. A norma introduz diretrizes voltadas à proteção da criança e do adolescente em ambientes digitais, como a exigência de verificação de idade, controle de dados pessoais e responsabilização de plataformas.
A posterior regulamentação do diploma por meio dos Decretos <a href="https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2026/decreto/d12880.htm">12.880</a>, <a href="https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2026/decreto/d12881.htm">12.881</a> e <a href="https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2026/decreto/d12882.htm">12.882</a>, todos de 2026, aprofundou esse movimento, ao detalhar com maior precisão as obrigações técnicas para plataformas digitais, reestruturar a atuação da Agência Nacional de Proteção de Dados (<a href="https://www.jota.info/tudo-sobre/anpd">ANPD</a>) e centralizar mecanismos de denúncia e repressão de ilícitos. Com isso, o ECA Digital passa a ser instrumentalizado não apenas como norma de ordem principiológica, mas como verdadeiro marco de governança regulatória do ambiente digital.
Consequentemente, em especial depois da fixação do tema 987 pelo <a href="https://www.jota.info/tudo-sobre/stf">STF</a>, o Brasil vem aos poucos migrando de um modelo baseado na necessidade de notificação judicial para retirada do conteúdo ilícito para um paradigma vocacionado à tutela dos direitos fundamentais dos usuários pela notificação extrajudicial (notice and takedown) e, em alguns casos, de imposição de deveres de proteção referentes a determinados conteúdos com absoluta prioridade, dos vulneráveis.
O ECA Digital consolida deveres de mitigação contínua de riscos aos fornecedores de serviços digitais. Para assegurar a efetividade desse diploma, os Decretos regulamentadores <a href="https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2025/decreto/d12622.htm">12.622/2025</a> e 12.880/2026 conferiram à ANPD a prerrogativa de atuar como autoridade administrativa autônoma de fiscalização.
Foi precisamente no exercício dessa competência que a ANPD editou o Despacho Decisório 3/2026/SFI, balizado pela Nota Técnica 1/2026/CGF/SFI/ANPD. O ato determinou a suspensão cautelar da funcionalidade "Go Live" e de outros recursos de transmissão de vídeo equivalentes do aplicativo <a href="https://www.jota.info/tudo-sobre/discord">Discord</a> para usuários no território nacional.
<h2>A arquitetura do serviço e a externalização de riscos</h2>
A imputação de responsabilidade a um provedor perpassa a análise das escolhas estruturais adotadas na concepção de seu serviço. A ANPD enquadrou o Discord como um serviço de tecnologia da informação de acesso provável por crianças e adolescentes, observando o art. 1º, parágrafo único, da Lei 15.211/2025, dada a admissão formal de usuários a partir de 13 anos e o seu formato voltado à interação e ao entretenimento.
A dinâmica da plataforma apoia-se na criação de servidores privados, mensagens diretas e canais de texto, voz e vídeo. No entanto, enseja reflexão o fato de a empresa ter implementado, em 2 de março de 2026 – período imediatamente anterior à vigência do arcabouço protetivo do ECA Digital –, criptografia de ponta-a-ponta em suas funcionalidades de áudio e vídeo, abrangendo o recurso "Go Live". Essa arquitetura técnica implica que o conteúdo audiovisual seja criptografado no dispositivo emissor e descriptografado apenas pelos destinatários, restringindo o acesso e a moderação centralizada por parte da própria provedora.
Ao abdicar da capacidade direta de monitoramento em nome da privacidade das comunicações (uma finalidade legítima em abstrato), a plataforma adotou um desenho que delega a proteção dos usuários a dois mecanismos mitigatórios: a análise algorítmica de sinais comportamentais e as denúncias promovidas pelos próprios participantes das sessões. Sob a perspectiva da responsabilidade civil, cumpre questionar se tal conformação técnica atende ao dever objetivo de cuidado e se não configura, na prática, uma indevida externalização dos custos de segurança para a própria vítima vulnerável.
Dito diversamente: à luz do princípio da proporcionalidade e considerando que a criptografia se presta a privilegiar a liberdade de expressão e comunicativa, ao mesmo tempo em que assegura a privacidade e a proteção de dados, deve-se adotar mecanismos robustos e igualmente efetivos para verificar violações a direitos de crianças e adolescentes caso se queira manter um serviço criptográfico inquebrável e, portanto, capaz de albergar violações como as que foram observadas no procedimento da ANPD, que culminaram na morte de uma pessoa menor de idade.
<h2>O safety by design e a insuficiência da moderação delegada</h2>
O arcabouço normativo estabelecido no art. 6º, incisos II e III, do ECA Digital preconiza que os fornecedores adotem, desde a concepção (safety by design) e ao longo da operação de suas aplicações, medidas razoáveis destinadas a prevenir e mitigar riscos de exposição de menores a violências físicas, intimidação sistemática virtual (cyberbullying), assédio, indução à automutilação e ao suicídio.
O legislador consagra, portanto, um dever de gerenciamento de riscos (art. 8º, ECA Digital). É dizer: o dever de cuidado, antes defendido apenas como princípio geral, passa a ser regra impositiva, a qual as plataformas devem observar, sob pena de responsabilização nas mais diversas esferas.
Nesse sentido, a instrução administrativa conduzida pela ANPD denota a fragilidade das escolhas mitigatórias do Discord perante o comando legal. O sistema de detecção comportamental, baseado em algoritmos e apoiado em criptografia, demonstrou falha severa na prevenção de ilícitos, conforme reportado no episódio atrelado à Operação Lívia.
Neste caso, que envolveu uma adolescente de 13 anos submetida a coerção em uma transmissão ao vivo com centenas de usuários, a ferramenta automatizada atribuiu uma classificação de risco erroneamente baixa ao servidor.
A Nota Técnica da ANPD destaca, com precisão, que o argumento corporativo de evitar "falsos positivos" não justifica o rebaixamento do rigor protetivo. No sopesamento inerente à responsabilidade civil, o custo de um falso negativo (a materialização de dano à integridade biopsicossocial do menor) é incomensuravelmente mais oneroso do que o dispêndio operacional para a plataforma submeter um ambiente suspeito à revisão humana.
Adicionalmente, a dependência estrutural do sistema de denúncias (user reporting) como filtro primário de segurança revela-se inadequada. A ANPD pontua que a eficácia desse mecanismo pressupõe que a vítima ou um terceiro não apenas reconheça a violação, mas detenha autonomia e estabilidade emocional para reportá-la em tempo hábil. Em ambientes fechados, pautados por dinâmicas de coerção e manipulação psicológica coletiva, transferir o ônus da denúncia aos próprios atores envolvidos culmina no esvaziamento fático da tutela protetiva.
<h2>A proporcionalidade da medida acautelatória no direito digital</h2>
O modelo regulatório brasileiro orienta-se pela neutralidade tecnológica, permitindo variadas soluções de segurança, desde que demonstrem eficácia equivalente ou superior ao risco criado pela atividade. Se a opção arquitetural do provedor (criptografia end-to-end) restringe a moderação, o dever jurídico preventivo impõe a adoção de controles substitutivos rigorosos, tais como travas etárias, identificação em nível de dispositivo (client-side) e protocolos de interrupção emergencial imediatos.
Diante da ausência de comprovação dessas salvaguardas alternativas, a suspensão determinada pela ANPD ampara-se no poder geral de cautela da Administração Pública (art. 45 da Lei <a href="https://www.planalto.gov.br/ccivil_03/leis/l9784.htm">9.784/1999</a>) e no art. 30 de seu Regulamento de Fiscalização.
A fumaça do bom direito (fumus boni iuris) materializa-se na discrepância entre a arquitetura de risco operada pela plataforma e as obrigações preventivas dos arts. 6º e 8º do ECA Digital. O perigo da demora (periculum in mora) fundamenta-se no risco contínuo à integridade de crianças e adolescentes ante o tempo demandado para a conclusão do processo sancionador.
A determinação administrativa demonstra, ademais, aderência ao princípio da proporcionalidade. Diferentemente de ordens judiciais ou administrativas de bloqueio integral que por vezes permeiam o debate público, a medida recai pontualmente sobre o recurso "Go Live" e seus congêneres criptografados, identificados como vetores primários dos ilícitos, o que demonstra proporcionalidade e razoabilidade na medida adotada pelo órgão regulador.
É preservado, pois, o funcionamento ordinário das demais instâncias da aplicação, garantindo a reversibilidade da ordem. Conforme o Despacho Decisório, a suspensão cessará assim que a empresa demonstrar tecnicamente a adequação de sua governança aos padrões legais exigidos, isto é: a partir do momento em que seu serviço se revele seguro by design.
Importante reforçar, ademais, que tal segurança não é exigida apenas com base na novel legislação protetiva da infância no ambiente digital, mas também pelo próprio <a href="https://www.planalto.gov.br/ccivil_03/leis/l8078compilado.htm">Código de Defesa do Consumidor</a>, consubstanciando-se como defeituoso o produto ou serviço que não oferece a segurança que dele legitimamente se pode esperar.
<h2>Considerações finais</h2>
A estruturação de um ambiente digital com efetiva proteção perpassa o reconhecimento de que a liberdade de modelo de negócios das plataformas encontra limite na tutela da pessoa humana, notadamente das crianças e adolescentes. A dogmática da responsabilidade civil evoluiu para compreender que os provedores de aplicação exercem o domínio arquitetural sobre os fluxos comunicacionais, não podendo se abster dos deveres de safety by design.
<a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a>
A atuação preventiva da ANPD, ao condicionar o funcionamento de funcionalidades de alto risco à comprovação de medidas robustas de moderação e proteção, não configura censura prévia, mas a legítima efetivação do Estatuto Digital da Criança e do Adolescente e do Código de Defesa do Consumidor.
Trata-se de intervenção administrativa razoável e proporcional, que reafirma a premissa de que a inovação tecnológica no país deve operar sob os ditames da responsabilidade contínua, tanto prévia quanto a posteriori, rejeitando-se a externalização de danos estruturais aos usuários hipervulneráveis, que devem gozar de especial e absoluta proteção por parte do ordenamento jurídico.
<hr />
AGÊNCIA NACIONAL DE PROTEÇÃO DE DADOS (Brasil). Coordenação-Geral de Fiscalização. Superintendência de Fiscalização. Nota Técnica nº 1/2026/CGF/SFI/ANPD. Aplicação de medida preventiva diante de possíveis violações à Lei nº 15.211, de 17 de setembro de 2025, que instituiu o Estatuto Digital da Criança e do Adolescente – ECA Digital, e ao Decreto nº 12.880, de 18 de março de 2026. Processo nº 00261.004804/2026-54. Brasília, DF: ANPD, 12 ago. 2026.
AGÊNCIA NACIONAL DE PROTEÇÃO DE DADOS (Brasil). Superintendência de Fiscalização. Despacho Decisório nº 3/2026/SFI. Suspensão de funcionalidade em relação aos usuários localizados no território nacional. Processo nº 00261.004804/2026-54. Interessado: Discord Inc. Brasília, DF: ANPD, 12 ago. 2026.
BRASIL. Supremo Tribunal Federal. Recurso Extraordinário 1.037.396. Tema 987: Discussão sobre a constitucionalidade do art. 19 da Lei n. 12.965/2014 (Marco Civil da Internet). Relator: Min. Dias Toffoli. Brasília, DF. Disponível em: <a href="https://portal.stf.jus.br/jurisprudenciaRepercussao/verAndamentoProcesso.asp?incidente=5160549&amp;numeroProcesso=1037396&amp;classeProcesso=RE&amp;numeroTema=987">https://portal.stf.jus.br/jurisprudenciaRepercussao/verAndamentoProcesso.asp?incidente=5160549&amp;numeroProcesso=1037396&amp;classeProcesso=RE&amp;numeroTema=987</a>. Acesso em: 14 ago. 2026.
HENRIQUES, Isabella. Direitos fundamentais da criança no ambiente digital. São Paulo: Thomson Reuters Brasil, 2023
LONGHI, João Victor Rozatti. Responsabilidade civil e redes sociais: retirada de conteúdo, perfis falsos, discurso de ódio, misoginia, fake news, milícias digitais e inteligência artificial. 3. ed. Indaiatuba: Editora Foco, 2025.
MARTINS, Guilherme Magalhães; LONGHI, João Victor Rozatti (Coord.); MUCELIN, Guilherme (Org.). Direito digital: direito privado e internet. 6. ed. Indaiatuba: Editora Foco, 2025.
MIRAGEM, Bruno. A proteção da infância no ambiente digital e o Estatuto Digital da Criança e do Adolescente. Revista de Direito do Consumidor. São Paulo, v.165, maio/junho 2026

gavin-phillips-RcsUwwkEvu4-unsplash

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

A arquitetura de risco das plataformas e a responsabilidade civil preventiva

Uma análise da decisão da ANPD sobre o Discord

A arquitetura de risco das plataformas e a responsabilidade civil preventiva