André Canuto Muriel Mendes de Almeida

Luiza Chang

O desenvolvimento de novas tecnologias por meio de <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> (IA) abriu portas para o que, antes, era inimaginável na internet. De repente, pessoas que não falam em idiomas estrangeiros são perfeitamente dubladas em vídeos que utilizam a tecnologia da emulação de voz do emissor. Ou ainda, uma artista falecida aparece em um vídeo promocional de carros. Projetos e roteiros são inteiramente criados por meio de IA. 
Há 20 anos, tudo isso era impensável. Hoje, é uma realidade graças à IA. Mas qual é o limite do seu uso? Como regular uma tecnologia tão fluida e que está cada vez mais presente na sociedade?
Dez anos atrás, a Lei 12.965/2014, conhecida como o <a href="https://www.jota.info/tudo-sobre/marco-civil-da-internet">Marco Civil da Internet</a>, trouxe alguns avanços – embora alguns defendam que a lei já nascera defasada – ao regular a responsabilidade civil dos provedores de aplicações da internet por conteúdo gerado por terceiros. De acordo com o art. 19 do Marco Civil da Internet, “com o intuito de assegurar a liberdade de expressão e impedir a censura, o provedor de aplicações de internet somente poderá ser responsabilizado civilmente por danos decorrentes de conteúdo gerado por terceiros se, após ordem judicial específica, não tomar as providências para, no âmbito e nos limites técnicos do seu serviço e dentro do prazo assinalado, tornar indisponível o conteúdo apontado como infringente”.
<h3><a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a></h3>
A constitucionalidade do referido artigo, inclusive, está sendo discutida no âmbito do Recurso Extraordinário 1.037.396/SP, que discute, sob o Tema 987 do STF e à luz dos arts. 5º, incs. II, IV, IX, XIV e XXXVI, e 220, caput, §§ 1º e 2º, da Constituição da República. Além disso, a proposta de reforma do Código Civil em trâmite no Congresso (Emenda 112, de 2023) também propõe a revogação do referido artigo 19 do Marco Civil da Internet.
Mais recentemente, em 2018, a <a href="https://www.jota.info/tudo-sobre/LGPD">Lei Geral de Proteção de Dados</a> foi um marco na regulação do direito digital no Brasil e trouxe consigo a necessidade de regulação das tecnologias desenvolvidas pela internet, especialmente a famigerada IA, que afeta não apenas dados pessoais, mas também o uso de voz, imagem, marcas, estilos artísticos, inclusive de pessoas falecidas.
Atualmente, tramitam no <a href="https://www.jota.info/tudo-sobre/congresso-nacional">Congresso Nacional</a>, dois projetos de lei que dispõem a respeito do uso da IA. O primeiro é o Projeto de Lei 759/2023, em trâmite perante a Câmara dos Deputados e proposto pelo deputado federal Lebrão. Trata-se de uma lei geral sobre o tema que dispõe a respeito dos princípios e diretrizes da IA.
<h3><a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias">Assine gratuitamente a newsletter Últimas Notícias e receba as principais notícias jurídicas e políticas do dia no seu email</a></h3>
O segundo é o Projeto de Lei 2338/2023, em trâmite no Senado Federal por inciativa do seu presidente, Rodrigo Pacheco. Trata-se de uma lei mais robusta que estabelece normas gerais de caráter nacional para o desenvolvimento, implementação e uso responsável de sistemas de IA no Brasil, com o objetivo de proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis, em benefício da pessoa humana, do regime democrático e do desenvolvimento científico e tecnológico.
O PL 2338/2023 define sistema de inteligência artificial como “sistema computacional, com graus diferentes de autonomia, desenhado para inferir como atingir um dado conjunto de objetivos, utilizando abordagens baseadas em aprendizagem de máquina e/ou lógica e representação do conhecimento, por meio de dados de entrada provenientes de máquinas ou humanos, com o objetivo de produzir previsões, recomendações ou decisões que possam influenciar o ambiente virtual ou real”.
O fornecedor de sistema de inteligência artificial, segundo o PL 2338/2023, é a pessoa natural ou jurídica, de natureza pública ou privada, que desenvolva um sistema de inteligência artificial, diretamente ou por encomenda, com vistas a sua colocação no mercado ou a sua aplicação em serviço por ela fornecido, sob seu próprio nome ou marca, a título oneroso ou gratuito.
O operador de sistema de inteligência artificial, também segundo o PL 2338/2023, é a pessoa natural ou jurídica, de natureza pública ou privada, que empregue ou utilize, em seu nome ou benefício, sistema de inteligência artificial, salvo se o referido sistema for utilizado no âmbito de uma atividade pessoal de caráter não profissional.
Fornecedores e operadores de sistemas de inteligência artificial também são tratados no PL 2338/2023 como “agentes de inteligência artificial”.
Quanto à responsabilidade civil, o PL 2338/2023 dispõe, em seu artigo 27, que "o fornecedor ou operador de sistema de inteligência artificial que cause dano patrimonial, moral, individual ou coletivo é obrigado a repará-lo integralmente, independentemente do grau de autonomia do sistema”. E quando se tratar de sistema de inteligência artificial de alto risco ou de risco excessivo, “o fornecedor ou operador respondem objetivamente pelos danos causados, na medida de sua participação no dano”. Além disso, quando não se tratar de sistema de inteligência artificial de alto risco, “a culpa do agente causador do dano será presumida, aplicando-se a inversão do ônus da prova em favor da vítima”.
Por outro lado, os agentes de inteligência artificial não serão responsabilizados quando comprovarem que não colocaram em circulação, empregaram ou tiraram proveito do sistema de inteligência artificial, ou comprovarem que o dano é decorrente de fato exclusivo da vítima ou de terceiro, assim como de caso fortuito externo. Ficam mantidas as hipóteses de responsabilização civil decorrentes de danos causados por sistemas de inteligência artificial no âmbito das relações de consumo sujeitas às regras previstas na Lei 8.078, de 11 de setembro de 1990 (Código de Defesa do Consumidor), sem prejuízo da aplicação das demais normas do PL 2338/2023.
Em fevereiro de 2024, foi criada Comissão Temporária Interna sobre Inteligência Artificial no Brasil para discutir o tema.
Por ora, a opção legislativa do Brasil tem sido regulamentar, em lei única, o desenvolvimento, implementação, uso responsável, com o objetivo de proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis , em benefício da pessoa humana, regulando também a responsabilidade civil dos agentes de inteligência artificial.
A China, por sua vez, na vanguarda dos avanços tecnológicos e conhecida por leis mais restritivas relacionadas à proteção de dados e ao uso da internet, vem emitindo, desde 2021, uma série de leis esparsas para regular a IA, como a regulation on recommendation algorithms de 2021, que proíbe a discriminação excessiva de preços e protege direitos dos trabalhadores sujeitos à programação algorítmica, as rules for deep synthesis de 2022, que determinam que rótulos visíveis sejam inseridos no conteúdo gerado artificialmente e a lei de 2023 sobre IA generativa, que determina os dados de treinamento e modelos gerados pela IA sejam verdadeiros e precisos, um grande desafio a ser superado pelos chatbots de IA.
Todas as três legislações exigem que os desenvolvedores se registrem no registro de algoritmos da China, uma ferramenta gerada pelo governo chinês para reunir informações sobre como os algoritmos são gerados, além de impor uma autoavaliação de segurança.
<h3><a href="https://whatsapp.com/channel/0029VaFvFd73rZZflK7yGD0I">Inscreva-se no canal de notícias do JOTA no WhatsApp e fique por dentro das principais discussões do país!</a></h3>
Tais ferramentas vão construindo um marco regulatório internacional que poderá servir como exemplo para os países ocidentais, pois a China pretende emitir nos próximos anos uma legislação completa e detalhada sobre inteligência artificial.
No Brasil, enquanto nenhum dos mencionados projetos de lei avança, resta-nos aplicar o sistema de responsabilidade civil vigente previsto no Código Civil – e ainda o previsto no marco Civil da Internet, embora não seja específico quanto à IA – que nos parece suficiente, ao menos por ora, para regular as hipóteses de responsabilidade dos provedores de aplicações que disponibilizem serviços de IA.
<hr />
<a style="font-family: inherit; font-size: inherit; font-style: inherit; font-variant-ligatures: inherit; font-variant-caps: inherit;" href="https://carnegieendowment.org/2023/07/10/china-s-ai-regulations-and-how-they-get-made-pub-90117">https://carnegieendowment.org/2023/07/10/china-s-ai-regulations-and-how-they-get-made-pub-90117</a>
<a href="https://www.eastasiaforum.org/2023/09/27/the-future-of-ai-policy-in-china/">https://www.eastasiaforum.org/2023/09/27/the-future-of-ai-policy-in-china/</a>

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Enquanto Congresso discute lei única para garantir confiabilidade e responsabilidade civil de agentes de IA, governo chinês edita normas para rotular conteúdos e monitorar algoritmos

Inteligência artificial: uma perspectiva da regulação no Brasil e na China

Enquanto Congresso discute lei única para garantir confiabilidade e responsabilidade civil de agentes de IA, governo chinês edita normas para rotular conteúdos e monitorar algoritmos