Gustavo Maia

Rodrigo Zirpoli

Na Califórnia, um júri popular sobre um tema até então inédito começou a analisar a ação movida por K.G.M. (denominada, para fins de melhor identificação no tribunal, de Kaley), hoje jovem adulta, que atribui à Meta, ao Google e suas plataformas, como Instagram e YouTube, a responsabilidade por danos psicológicos graves decorrentes de uso iniciado ainda na infância, segundo diz a partir dos seis anos de idade. 
A tese central da autora não se limita à existência de conteúdos nocivos, entretanto, como se pode inicialmente imaginar. A causa de pedir de sua pretensão diz respeito ao desenho dos sistemas de recomendação dessas plataformas, a lógica de entrega contínua de estímulos e a arquitetura que teria sido concebida para maximizar retenção mesmo diante de riscos conhecidos para usuários menores de idade, o que – segundo narra – teria acarretado depressão, ansiedade, pensamentos suicidas e distorções na forma como se enxerga.
<a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a>
O julgamento, portanto, inaugura e, ao mesmo tempo, desloca o eixo do debate jurídico das pretensões reparatórias contra as plataformas digitais: o foco deixa de ser o conteúdo da postagem (individual) e passa a ser o produto em si. Essa sinalização decorre do próprio entendimento da juíza do caso, Carolyn Kuhl, de que esse tema deve ser submetido ao escrutínio popular do júri, determinando, portanto, o processamento da ação.
A ação tramita sob fundamentos típicos da responsabilidade civil nos EUA, utilizando-se de elementos do direito do consumidor (defeito de produto), mas com atribuição de responsabilização subjetiva pelos elementos de culpa da negligência e da imprudência, na medida em que há alegações de falha em advertir e ainda de forma adequada sobre riscos previsíveis. 
A autora sustenta que as plataformas estruturaram mecanismos de personalização, notificações e recomendação automática capazes de induzir padrões compulsivos de uso, explorando vulnerabilidades cognitivas de crianças e adolescentes – o que teria provocado o mesmo dano em mais de 800 crianças e adolescentes, sendo o caso K.G.M. o leading case para a Corte da Califórnia. 
Esse enquadramento altera a natureza da discussão. O julgamento não examina apenas os conteúdos específicos, mas a estrutura que organiza a sua circulação. É a etapa anterior que está em discussão e submetida ao escrutínio do Judiciário californiano. A arquitetura algorítmica, calibrada para prolongar permanência e intensificar engajamento de seus usuários, passa a ser tratada como elemento central do produto em si.
Ao definir o que é priorizado, o que é repetido e o que é invisibilizado, o sistema de recomendação exerce função equivalente a de um editor que organiza a agenda informacional. A controvérsia deixa de ser pontual e assume dimensão estrutural: quem organiza o fluxo de atenção exerce poder.
No ordenamento jurídico nacional, o tema possui sensibilidades, seja para fins constitucionais, seja para fins regulatórios. Como é de conhecimento comum, a radiodifusão depende de autorização pública, mediante concessão, permissão ou autorização (CF, art. 223).
A Constituição, outrossim, estabelece limites à participação estrangeira e de brasileiros naturalizados há menos de dez anos em empresas dessa iniciativa. Há fiscalização, renovação periódica e um regime jurídico que reconhece a centralidade desses veículos na organização da esfera pública. A razão histórica dessas salvaguardas é evidente. Quem estrutura o fluxo de informação influencia agenda política, percepção social e ambiente democrático.
O Marco Civil da Internet, por seu turno, estabeleceu em seu art. 19 a responsabilidade por danos decorrentes de conteúdo gerado por terceiros ao provedor de aplicações de internet, aplicando-se a hipótese responsabilizatória civil se, após ordem judicial específica, o provedor de aplicações não tomar as providências para, no âmbito e nos limites técnicos do seu serviço e dentro do prazo assinalado, tornar indisponível o conteúdo apontado como infringente, ressalvadas as disposições legais em contrário.
Contudo, o que se observa no caso K.G.M. é de outra esfera, revelado por uma outra dimensão. Desloca-se a causa de pedir do conteúdo para o desenho do sistema de recomendação e para a otimização orientada por métricas de engajamento. Com isso, as plataformas digitais deixam de ser apenas coadjuvantes no cenário de responsabilização para ocupar posição estrutural central, todavia, sem enquadramento jurídico equivalente.
A literatura acadêmica dos últimos anos fornece base empírica consistente para a análise do problema experimentado pelos jovens. O <a href="https://journals.sagepub.com/doi/10.1509/jmr.10.0353">estudo de Jonah Berger e Katherine Milkman de 2012 publicado no Journal of Marketing Research em 2012</a>, demonstrou que conteúdos que evocam emoções de alta excitação, especialmente raiva e ansiedade, apresentam maior probabilidade de compartilhamento.
<a href="https://www.pnas.org/doi/10.1073/pnas.1618923114">William Brady et al., em pesquisa de 2021</a>, identificaram que expressões de indignação moral nas redes sociais tendem a receber maior difusão, reforçando ciclos de amplificação por meio de mecanismos de recompensa social. 
<a href="https://philpapers.org/rec/VOSTSO-9">O trabalho de Soroush Vosoughi, Deb Roy e Sinan Aral</a>, publicado na revista Science em 2018, examinou a propagação de mais de 126 mil histórias no Twitter e concluiu que notícias falsas se espalham mais rapidamente e alcançam mais pessoas do que notícias verdadeiras, sobretudo em temas políticos. <a href="https://en.wikipedia.org/wiki/2021_Facebook_leak">Documentos internos da Meta tornados públicos em 2021</a> indicaram que alterações em algoritmos priorizaram interações associadas a maior tempo de permanência, mesmo quando acompanhadas de efeitos colaterais indesejados.
Esses achados evidenciam que sistemas desenhados para maximizar retenção tendem a favorecer padrões emocionais intensos. Quando a lógica de priorização se estrutura em torno de métricas como usuários ativos diários, usuários ativos mensais e tempo médio de permanência, o algoritmo passa a desempenhar função equivalente à de um editor que define hierarquias e relevâncias. A diferença reside na escala, na personalização e na opacidade do processo decisório.
No Brasil, mais de dois terços da população utilizam redes sociais de forma ativa. A televisão linear mantém alcance amplo, mas não opera com granularidade individual. A curadoria algorítmica atua sobre cada usuário de maneira personalizada, ajustando o fluxo informacional com base em dados comportamentais. A formação da opinião pública deixa de resultar de uma pauta comum e passa a ser mediada por múltiplos fluxos individualizados definidos por critérios privados.
O caso levado ao júri na Califórnia, ainda em julgamento ao tempo da produção do presente artigo, sugere que a qualificação dessas plataformas como meros intermediários técnicos não esgota o problema – o que passa a inaugurar tema de elevada importância no Brasil, seja para fins de responsabilidade civil extracontratual, seja para fins de repercussão regulatória. O ECA Digital inicia, de forma louvável, a discussão, mas não a exaure.
A já debatida neutralidade no ambiente virtual pressupõe ausência de intervenção estruturante. Sistemas que organizam hierarquias de visibilidade, selecionam estímulos com base em probabilidade de retenção e modulam alcance de acordo com padrões comportamentais exercem influência substantiva sobre o ambiente informacional e, segundo a tese apresentada, sobre a própria saúde mental de usuários vulneráveis.
A União Europeia avançou ao incorporar no Digital Services Act obrigações de avaliação e mitigação de riscos sistêmicos, inclusive relacionados à proteção de menores. O debate brasileiro ainda se concentra predominantemente na responsabilidade civil extracontratual e por conteúdo e em mecanismos de notificação e retirada (Lei 12.965/14, art. 19). A análise da curadoria algorítmica como elemento central do desenho institucional do espaço público permanece incipiente.
O veredito no caso K.G.M. poderá influenciar a forma como tribunais examinam a relação entre design de produto digital, previsibilidade de dano e dever de diligência. Se o júri reconhecer que determinadas escolhas de arquitetura intensificaram riscos conhecidos e contribuíram de maneira relevante para danos psicológicos, a responsabilidade das plataformas deixará de ser tratada exclusivamente sob a ótica de neutralidade tecnológica para ser tratada como vício de produto e, assim, permitir responsabilizações civis de novo alcance.
Ao longo do século 20, o diretor de redação representava a instância responsável por organizar o fluxo informacional. Hoje, essa função é desempenhada por modelos matemáticos treinados para maximizar métricas específicas. O julgamento em curso na Califórnia recoloca a questão em termos mais amplos. Quando a arquitetura do sistema define o que cada indivíduo vê, com que intensidade e em que sequência, ela passa a ocupar posição semelhante àquela historicamente atribuída aos veículos de comunicação de massa.
A diferença é que o editor contemporâneo é um modelo matemático orientado por métricas de retenção. Se a mídia tradicional sempre foi tratada como instância de poder sujeita a responsabilidades proporcionais à sua influência, a curadoria algorítmica não pode permanecer fora dessa reflexão.
<a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a>
O ordenamento jurídico brasileiro começa, timidamente, a reconhecer essa dimensão. O ECA Digital representa o primeiro avanço legislativo nacional a exigir, explicitamente, “medidas razoáveis desde a concepção” dos serviços digitais acessíveis a crianças e adolescentes, incluindo obrigações de proteção contra exploração comercial nas plataformas.
A novidade é relevante, mas ainda insuficiente para enfrentar o problema em sua dimensão estrutural. A lei avança sobre o produto final, mas não nomeia a curadoria algorítmica como conduta própria e autônoma da plataforma – exatamente o núcleo do que está sendo julgado na Califórnia.
Se a lógica do ECA Digital for levada às suas consequências jurídicas mais consistentes, a exigência de proteção “desde a concepção” implica que o design do sistema de recomendação – e não apenas o conteúdo que ele distribui - passa a ser objeto direto de obrigação legal. O veredito californiano, nesse sentido, não é apenas referência comparada: é o precedente que pode orientar como tribunais e reguladores brasileiros interpretarão esse silêncio normativo.

pexels-ready-made-3850262

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Responsabilização por design digital no exterior recoloca no debate brasileiro o papel editorial da curadoria algorítmica

Algoritmos como instância de poder: por que julgamento na Califórnia importa para o Brasil

Responsabilização por design digital no exterior recoloca no debate brasileiro o papel editorial da curadoria algorítmica