Carina Quirino

João Pedro Giordani Donasolo

Felipe Pereira dos Santos

Rafael Wanderley

O desafio de compreender <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> envolve todos os agentes públicos, principalmente as municipalidades, que terão que lidar com produtos, serviços e processos que serão ofertados aos cidadãos e precisarão compreender como se comportar mediante tal cenário.
Há balizas já discutidas em cenário internacional. A Organização para Cooperação e o Desenvolvimento Econômico (<a href="https://www.jota.info/tudo-sobre/ocde">OCDE</a>) publicou em julho o relatório "Regulatory sandboxes in artificial intelligence"<a href="#_ftn1" name="_ftnref1">[1]</a>, que aborda os principais desafios para a promoção de ambientes regulatórios experimentais que tenham como objeto a testagem de ferramentas de <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> (IA). O documento sugere diretrizes para superar problemas de governança e eficiência que envolvem um sandbox voltado à IA, dentre as quais a necessidade de se promover a colaboração interinstitucional.
O estudo considera um contexto de cooperação entre os países da organização, entretanto, com o devido cuidado, as conclusões ali expostas podem ser aproveitadas para a formulação de políticas nacionais. Por isso é importante refletir sobre como é possível promover a colaboração interinstitucional em um sandbox em IA considerando o desenho institucional brasileiro.
Para compreender o que há de diferente em um sandbox voltado à IA é preciso ter em mente que as ferramentas de inteligência artificial operam em escala global, sob diferentes jurisdições e contextos regulatórios, o que confere a vantagem às empresas desenvolvedoras de escolher entre diversos sandboxes, se houver fragmentação desta ferramenta em diferentes iniciativas. Isto pode gerar o comportamento indesejado de busca por ambientes de testagem com desenhos lenientes e inefetivos do ponto de vista da produção de dados que informem a elaboração de políticas regulatórias<a href="#_ftn2" name="_ftnref2">[2]</a>. Em outras palavras: um sandbox mal construído, combinado com um cenário de fragmentação do uso da ferramenta, pode ser um chamariz para comportamentos oportunistas, que afetarão negativamente as políticas que eventualmente considerarem os dados gerados por aquela experiência.
Por este motivo, o relatório da OCDE destaca a necessidade de cooperação interinstitucional para a formulação e execução de sandbox em IA. O trabalho conjunto de instituições com diferentes expertises é imperativo para que se estabeleçam critérios de elegibilidade abrangentes e uniformes para o sandbox, bem como parâmetros de avaliação de projetos coerentes e eficazes. A unificação destes critérios e parâmetros é um remédio capaz de reduzir o oportunismo da busca por ambientes de testagem permissivos. Esta uniformização da política que envolve o sandbox em IA pode ocorrer, ainda segundo o estudo, via acordos comerciais que também veiculem regras comuns para as partes no que se refere ao desenvolvimento desta ferramenta.
Não é difícil perceber que a necessidade de cooperação interinstitucional pode ser replicada para a elaboração de sandbox em IA no nível nacional. A atuação conjunta de diferentes atores contribui para o aprimoramento do desenho do programa e evita os mesmos problemas detectados pela OCDE, no entanto, neste caso, a escala do sandbox é menor: ao invés de se pensar a colaboração em nível de governança internacional, o objeto da reflexão é o Brasil e suas instituições, o que revela desafios próprios.
A OCDE destaca que, usualmente, a tarefa de organizar um sandbox em IA costuma recair sobre a autoridade de dados do país, o que seria equivalente à Agência Nacional de Proteção de Dados (ANPD) brasileira. Em razão da recomendação de cooperação interinstitucional, é importante refletir se a ANPD seria a única entidade competente para prover este ambiente experimental, o que representaria um entrave para concretizar esta colaboração. A Lei Geral de Proteção de Dados (LGPD) não prevê expressamente para a ANPD uma competência exclusiva para elaborar políticas assemelhadas a um sandbox, pelo contrário, o estatuto destaca a necessidade de colaboração institucional pela agência na consecução das suas atividades, em especial nos temas já regulados por outras entidades<a href="#_ftn3" name="_ftnref3">[3]</a>.
Reconhecer a ausência de exclusividade não significa negar deferência à ANPD – o que se justifica pela sua capacidade institucional e pela sua posição como órgão central para formulação da Política Nacional de Proteção de Dados Pessoais e Privacidade – mas sim assumir uma postura que não interdite a possibilidade de que outras instituições deem o pontapé em iniciativas desta natureza, respeitadas as competências regulatórias e a expertise da ANPD. Esta posição parece ser a que melhor se adequa à diretriz do relatório da OCDE.
A ANPD, em parecer a respeito do <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233">PL 2338/2023</a>, que dispõe sobre o uso de inteligência artificial, não se opôs ao desenho proposto no projeto, que não restringe a organização deste tipo de sandbox à agência de proteção de dados brasileira, abrindo a possibilidade de que qualquer regulador promova esta prática, desde que cumpridos certos requisitos<a href="#_ftn4" name="_ftnref4">[4]</a>. Entretanto, a ANPD ressalta a necessidade de aprimorar as disposições sobre sandboxes de IA que tratem dados pessoais e que se observe a convergência de competências fiscalizatórias e sancionadoras com o que já dispõe a LGPD, situação que coloca a Autoridade como autoridade-chave na regulação de IA no Brasil<a href="#_ftn5" name="_ftnref5">[5]</a>.
O rápido desenvolvimento das ferramentas de IA revelam a cada momento incontáveis oportunidades de aplicação, seja em atividades privadas ou no setor público, o que multiplica o número de atores institucionais com potencial interesse em testar essas ferramentas para aprimorar suas atividades ou a regulação setorial. Em tese, órgãos formuladores de políticas públicas em todos os níveis poderiam ser beneficiados pela organização de ambientes regulatórios experimentais em IA. A OCDE indica algumas utilidades desta ferramenta e aplicações pelo mundo:
<ol>
<li>Testar a integridade de instituições públicas para o uso de IA: a cidade de Barranquilla, na Colômbia, submeteu ao sandbox de projetos privacy-as-design da Superintendência de Industria e Comércio daquele país o projeto Chatbot, que consiste tanto em uma forma de atendimento e prestação de informações ao cidadão quanto em uma forma de promoção da cidade por meio da publicidade de eventos que lá ocorrem<a href="#_ftn6" name="_ftnref6">[6]</a>;</li>
<li>Testar o uso de IA em diferentes contextos regulatórios: a proposta de marco regulatório europeu para inteligência artificial (EU AI Act<a href="#_ftn7" name="_ftnref7">[7]</a>) reconhece a importância do sandbox como uma ferramenta à disposição dos reguladores para compreender melhor as consequências do uso das ferramentas de IA. Também ressalta a aplicação do sandbox para avaliar o impacto das IAs nas regulações setoriais e em temas como privacidade, segurança, transparência e qualidade de dados.</li>
<li>Testar o uso de IA em casos selecionados de interesse público: a cidade de Hamburgo, na Alemanha, promove um sandbox para a testagem de carros autônomos.</li>
</ol>
Os exemplos citados demostram a importância de uma compreensão ampla sobre a legitimidade para a promoção de sandbox em IA. Diversas entidades das mais diferentes esferas de governo promovem estes programas ou até mesmo submetem seus projetos para análise. Esta visão aberta é a que melhor promove a colaboração interinstitucional, gerando boas experiências para os particulares e para os reguladores. Não se vislumbra entrave legal para que o Brasil siga por este caminho, entretanto, mais que a inexistência de vedação, é preciso haver uma postura proativa das instituições para que o diálogo ocorra e a colaboração seja viabilizada. A postura da ANPD em não se opor ao reconhecimento amplo de competências para sandbox em IA, ao mesmo tempo em que destaca o seu papel na proteção de dados, fiscalização e sanção, parece ser um ótimo aceno neste sentido.
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> Disponível em: <a href="https://www.oecd.org/publications/regulatory-sandboxes-in-artificial-intelligence-8f80a0e6-en.htm">https://www.oecd.org/publications/regulatory-sandboxes-in-artificial-intelligence-8f80a0e6-en.htm</a>. Acesso em 02 ago. 2023.
<a href="#_ftnref2" name="_ftn2">[2]</a> O fenômeno denominado forum shopping foi explicado detalhadamente pelo relatório no contexto da elaboração de sandbox para fintechs (p. 18), mas, em razão de o mercado de ferramentas IA igualmente se organizar em escala global, diagnósticos e soluções semelhantes foram aplicados ao sandbox em IA (p. 20-22).
<a href="#_ftnref3" name="_ftn3">[3]</a> Lei Federal 13.709/2018, art. 55-J. Compete à ANPD: [...] XXIII - articular-se com as autoridades reguladoras públicas para exercer suas competências em setores específicos de atividades econômicas e governamentais sujeitas à regulação (Incluído pela Lei nº 13.853, de 2019) [...]. § 3º A ANPD e os órgãos e entidades públicos responsáveis pela regulação de setores específicos da atividade econômica e governamental devem coordenar suas atividades, nas correspondentes esferas de atuação, com vistas a assegurar o cumprimento de suas atribuições com a maior eficiência e promover o adequado funcionamento dos setores regulados, conforme legislação específica, e o tratamento de dados pessoais, na forma desta Lei. (Incluído pela Lei nº 13.853, de 2019) § 4º A ANPD manterá fórum permanente de comunicação, inclusive por meio de cooperação técnica, com órgãos e entidades da administração pública responsáveis pela regulação de setores específicos da atividade econômica e governamental, a fim de facilitar as competências regulatória, fiscalizatória e punitiva da ANPD (Incluído pela Lei nº 13.853, de 2019) [...].
<a href="#_ftnref4" name="_ftn4">[4]</a> Ao analisar o PL 2338/2023 a ANPD não se opõe de forma explícita ao reconhecimento de competência para outras entidades promoverem sandbox em IA: “de forma cautelosa, o PL não antecipa muitas regras sobre esse tema, estabelecendo que a autoridade supervisora competente irá autorizar o funcionamento de sandboxes que preencham os requisitos especificados pela lei e por regulamentação futura. Isso permite que diversos reguladores proponham seus projetos de sandbox, de forma que iniciativas distintas possam ser fomentadas de acordo com o setor regulado (por exemplo, na saúde ou nas telecomunicações)” (p. 9).
<a href="#_ftnref5" name="_ftn5">[5]</a> Cf. p. 10-13.
<a href="#_ftnref6" name="_ftn6">[6]</a> O projeto Chatbot foi selecionado em agosto de 2021. Disponível em: <a href="https://www.sic.gov.co/sandbox-microsite">https://www.sic.gov.co/sandbox-microsite</a>. Acesso em: 02 ago. 2023.
<a href="#_ftnref7" name="_ftn7">[7]</a> Mais informações em: <a href="https://artificialintelligenceact.eu/">https://artificialintelligenceact.eu/</a>. Acesso em: 02 de ago. 2023.

chatgpt inteligencia artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Como entes subnacionais podem auxiliar na construção de dados

IA, sandbox regulatório e cooperação interinstitucional

Como entes subnacionais podem auxiliar na construção de dados e na compreensão do sandbox regulatório e do papel das IAs na sociedade