Opinião e Análise

Nicolo Zingales

Em 2023, o AI Now Institute lançou um <a href="https://ainowinstitute.org/wp-content/uploads/2023/04/AI-Now-2023-Landscape-Report-FINAL.pdf">relatório</a> destacando um desafio de tendência a uma concentração significativa de poder no desenvolvimento de <a href="https://www.jota.info/tudo-sobre/IA">IA</a>. Conclusões semelhantes podem ser encontradas em outros relatórios produzidos ainda em 2023 pela autoridade de concorrência do <a href="https://www.gov.uk/government/publications/ai-foundation-models-initial-report">Reino Unido</a>, e em 2024 pelas autoridades equivalentes de <a href="https://www.autoritedelaconcurrence.fr/en/article/generative-artificial-intelligence-autorite-issues-its-opinion">França</a>, <a href="https://www.gvh.hu/en/press_room/press_releases/press-releases-2024/gvh-launches-market-analysis-on-the-impact-of-artificial-intelligence">Hungria</a>, <a href="https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2023/06/generative-ai-raises-competition-concerns">Estados Unidos</a> e <a href="https://competition-policy.ec.europa.eu/document/download/c86d461f-062e-4dde-a662-15228d6ca385_en">União Europeia</a><a href="#_ftn1" name="_ftnref1">[1]</a>.
Face a esse cenário, uma solução frequentemente promovida objetivando estimular um ambiente com maior capacidade de entrada e competição é a disponibilização do código-fonte em licença gratuita e acesso aberto. Contudo, de um ponto de vista prático, o grande problema é a falta de um entendimento comum do significado de open source no contexto da <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a>.
<h3><a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias">Assine a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas no seu email</a></h3>
Ao abordar o contexto específico de software, o significado do termo open source é claro, e inclui os <a href="https://opensource.org/osd">seguintes requisitos</a>:
<ol>
<li>redistribuição gratuita;</li>
<li>distribuição do código-fonte;</li>
<li>permissão de obras derivadas;</li>
<li>integridade do código-fonte dos autores;</li>
<li>nenhuma discriminação contra pessoas ou grupos;</li>
<li>nenhuma discriminação contra campos de atuação;</li>
<li>distribuição de licença;</li>
<li>a licença não deve ser especifica para um produto;</li>
<li>a licença não deve restringir outro software; e</li>
<li>a licença deve ser tecnologicamente neutra. Desses requisitos, é evidente o intuito de abrir o conhecimento para terceiros e prevenir a criação de gargalos à inovação. Assim, fomenta-se um ecossistema para o desenvolvimento de produtos e serviços baseados em padrões abertos e colaboração.</li>
</ol>
<h3>Para além do código: elementos de uma IA verdadeiramente open</h3>
Transpondo essa ideologia para o contexto da inteligência artificial, nota-se que a simples disponibilização e autorização à reutilização do código-fonte de um software não é suficiente para gerar esse efeito, sendo que outros insumos são essenciais para permitir o surgimento de soluções alternativas.
Em primeiro lugar, para a fase chamada de pré-treinamento desses modelos, é indispensável o acesso a grandes volumes de dados. Embora existam bancos de dados públicos que são frequentemente utilizados para tal fim, a qualidade dos dados é um diferencial importante, podendo impedir a efetiva competição entre empresas de tecnologia, já que poucas contam com um ecossistema que produz constantemente dados valiosos sobre os seus usuários.
Além disso, mesmo que os dados para o treinamento de um modelo fossem compartilhados, não se pode simplesmente presumir que tais dados sejam livremente reutilizáveis: seja por questões de direito de autor, proteção de dados, ou contratuais.
Em segundo lugar, para o treinamento de um modelo (e, em certa medida, para o seu fine-tuning e a sua inferência<a href="#_ftn2" name="_ftnref2">[2]</a>), é necessária uma grande capacidade computacional. Esse recurso está claramente fora do alcance de pequenas, médias e, inclusive, de muitas grandes empresas, considerando por exemplo o custo estimado <a href="https://www.forbes.com/sites/craigsmith/2023/09/08/what-large-models-cost-you--there-is-no-free-ai-lunch/">por alguns</a> como em mais de US$ 100 milhões.
Para executar o treinamento eficientemente, existe atualmente uma grande dependência de microprocessadores especializados em acelerar o processo de aprendizagem, os chamados GPUs (Graphic Processing Units) e TPUs (Tensor Processing Units) (<a href="https://www.gov.uk/government/publications/ai-foundation-models-initial-report">CMA</a>). Outra forma de expandir a própria capacidade computacional é através do armazenamento em nuvem, serviço que é oferecido em mais um mercado caracterizado por uma <a href="https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4754655">forte concentração</a>.
Em terceiro lugar, para a compreensão de um modelo, é imprescindível a colaboração do desenvolvedor, em particular por meio de compartilhamento das respectivas inferências, <a href="https://h2o.ai/wiki/weights-and-biases/">bem</a> como dos pesos (ou seja, os parâmetros que podem ser utilizados para enfatizar a conexão entre elementos que existem na rede neural) e dos vieses (ou seja, aqueles parâmetros adicionais que permitem o ajuste das previsões).
E até mesmo quando esses elementos forem compartilhados, a adequada compreensão do modelo (particularmente na fase de pré-treinamento) pode ser inviável sem uma equipe de engenheiros adequada, cuja disponibilidade no mercado é normalmente escassa (<a href="https://www.gov.uk/government/publications/ai-foundation-models-initial-report">CMA</a>).
<h3>Open como modelo de negócio</h3>
Considerando os impedimentos apontados acima, a existência de modelos autoclassificados como open source não é e não pode ser uma salvaguarda suficiente contra uma crescente concentração do mercado. Enquanto as <a href="https://techcrunch.com/2024/06/22/what-does-open-source-ai-mean-anyway/">definições</a> de open source não capturarem a complexidade do ecossistema de IA, a utilização desse termo seguirá englobando diversas posições relativas à autorização concedida para reutilização de terceiros.
Por exemplo, ainda não está claro se seria permitido incluir restrições em códigos open source voltadas à prevenção de usos irresponsáveis ou que gerem danos para a sociedade, como é proposto no marco OpenRAIL (Responsible AI Licenses). Inclusive, empresas podem usar essa incerteza para proteger seus próprios interesses comerciais, proibindo usos que competem com o modelo originário (como, por exemplo, no caso de <a href="https://dev.to/llm_explorer/llama3-license-explained-2915">Llama 3</a>).
Contudo, as limitações de uso podem ser ferramentas legítimas para prevenir problemas que podem surgir a partir da disponibilização dos modelos fundacionais, já que eles são, por definição, utilizáveis para um amplo leque de finalidades, algumas nem imagináveis pelo próprio desenvolvedor.
Portanto, é importante saber distinguir entre empresas que abraçam a filosofia de ciência colaborativa e impõem tais restrições estritamente para endereçar falhas de mercado, daquelas que usam esse rótulo como estratégia para impulsionar a adoção no mercado sem oferecer garantias adequadas para a criação de um ecossistema colaborativo e responsável de inovação.
Pela mesma razão, é fundamental monitorar e acompanhar a evolução da postura dos provedores desses modelos para evitar cenários de <a href="https://dl.acm.org/doi/10.1145/3630106.3659005">open-washing</a> ou simplesmente <a href="https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4543807">open for business</a>, onde, por exemplo, um grau mínimo de abertura é concedido em troca da contratação de outros serviços ou da coleta e uso de dados para fins de exploração comercial.
A OpenAI é um exemplo instrutivo de como a autoclassificação como open source pode ser parte de estratégias comerciais de empresas de tecnologia. A escolha inicial da startup foi a liberação do código-fonte do seu modelo fundacional. A empresa foi lançada em 2015 com o <a href="https://openai.com/index/introducing-openai/">compromisso</a> de pesquisar “para promover a inteligência digital da maneira que mais provavelmente beneficiará a humanidade como um todo, sem ser limitada pela necessidade de gerar retorno financeiro”.
Nesse espírito, <a href="https://openai.com/index/introducing-openai/">anunciou</a> que seus investigadores seriam encorajados a partilhar “artigos, publicações em blogs ou códigos”, e que as suas patentes (se existissem) “serão partilhadas com o mundo”. No entanto, essa abordagem foi abandonada em 2016, conforme denunciado em recente ação judicial iniciada contra a OpenAI pelo seu cofundador Elon Musk<a href="#_ftn3" name="_ftnref3">[3]</a>.
<h3>O falso dilema: incentivar ou regular</h3>
A oscilação da OpenAI entre a abertura e o fechamento do código-fonte não resulta apenas da procura por uma estratégia de monetização apropriada, mas é também motivada por uma preocupação de responsabilização pela utilização das suas ferramentas de IA generativas, que pode causar danos e dar origem a uma série de potenciais reclamações jurídicas.
Isto levanta um importante dilema: até que ponto é adequado incentivar o open source por meio de isenções regulatórias? Enquanto o <a href="https://legis.senado.leg.br/sdleg-getter/documento?dm=9683716&amp;ts=1720798352641&amp;rendition_princi%20pal=S&amp;disposition=inline">texto atual</a> do PL sobre a IA que tramita no <a href="https://www.jota.info/tudo-sobre/congresso-nacional">Congresso Nacional</a> carece de um posicionamento nesse sentido, o marco regulatório introduzido pela União Europeia com o AI Act adotou uma abordagem tripartida, com isenções que se aplicam de forma diferente a:
<ol>
<li>sistemas de IA em geral<a href="#_ftn4" name="_ftnref4">[4]</a>;</li>
<li>sistemas de IA de finalidade geral<a href="#_ftn5" name="_ftnref5">[5]</a>; e</li>
<li>ferramentas, serviços ou componentes de IA<a href="#_ftn6" name="_ftnref6">[6]</a>.</li>
</ol>
Todavia, não necessariamente a regulação de IA é o melhor lugar para endereçar as preocupações competitivas. E mesmo que seja considerado desejável promover o open source nesse âmbito, pode não ser necessário utilizar uma definição muito rígida que exija uma replicação do modelo por concorrentes e novos entrantes, pois essa avaliação compete às autoridades de concorrência e deve levar em conta a necessidade de restrições voltadas a endereçar claras <a href="https://www.concurrences.com/en/dictionary/ecosystem-failures">falhas de ecossistemas</a>. De outra forma, essa regulação pode criar buracos de proteção que afetam desproporcionalmente direitos individuais e coletivos.
Por outro lado, convém que o governo adote uma postura mais proativa para a ciência aberta no contexto da própria estratégia de IA: por exemplo, criando infraestruturas públicas digitais (como supercomputadores para treinamento de modelos, programas de capacitação social e espaços comuns de dados); e utilizando o poder público de compra e investimento, inclusive, para exigir cumprimento de determinados níveis de transparência e explicabilidade.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> Ver também a declaração conjunta da Comissão Europeia com a autoridade inglesa e as duas autoridades estado-unidenses:  <a href="https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2023/06/generative-ai-raises-competition-concerns">https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2023/06/generative-ai-raises-competition-concerns</a>. 
<a href="#_ftnref2" name="_ftn2">[2]</a> Fine-tuning é aquele processo adicional opcional que pode ser aplicado a modelos pré-treinados para adicionar recursos ou melhorias específicas usando conjuntos de dados específicos; enquanto a "inferência" é o processo de usar um modelo de aprendizado de máquina para fazer previsões sobre novos dados. Vide<a href="https://www.gov.uk/government/publications/ai-foundation-models-initial-report"> CMA</a>,
<a href="#_ftnref3" name="_ftn3">[3]</a> Para fins ilustrativos, é interessante ler um <a href="https://www.forbes.com/sites/jemmagreen/2024/03/07/elon-musks-lawsuit-against-openai-sparks-debate-over-ai-transparency/">extrato</a> do e-mail do cientista chefe da OpenAI, Ilya Sutskever, em 2 de janeiro de 2016, para os cofundadores Elon Musk, Sam Altman, e Greg Brockman:
“As we get closer to building AI, it will make sense to start being less open,” Sutskever wrote. “The Open in openAI means that everyone should benefit from the fruits of AI after its built, but it’s totally OK to not share the science (even though sharing everything is definitely the right strategy in the short and possibly medium term for recruitment purposes).”
<a href="#_ftnref4" name="_ftn4">[4]</a> Art. 2 (12).
<a href="#_ftnref5" name="_ftn5">[5]</a> Art. 53 (2).
<a href="#_ftnref6" name="_ftn6">[6]</a> Art. 25 (4).

open-source-IA

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Regulação da IA não necessariamente é o melhor lugar para endereçar as preocupações competitivas

Open Source AI: um conceito à procura da sua definição

Ainda há falta de um entendimento comum sobre o significado de open source no contexto da inteligência artificial