Maria Augusta Rost
Larissa de Moura Marques Aguiar
No final do mês de setembro, o Fórum Econômico Mundial (FEM) publicou o White Paper “Guidelines for AI Procurement” (diretrizes para aquisição de IA).1 O documento se propõe a orientar os governos na aquisição de soluções de inteligência artificial e prepará-los para um uso responsável e eficiente.
O FEM indicou que governos de todo o mundo testarão essas diretrizes nos próximos meses. O Reino Unido2, Emirados Árabes Unidos e Colômbia já indicaram que conduzirão projetos piloto.
As Guidelines sintetizam os princípios que devem ser considerados pelos servidores públicos quando da modelagem de um procedimento licitatório que envolva a aquisição das ferramentas de inteligência artificial. Confiram-se:
Diretrizes | Princípios |
| 1. Use processos de contratação que não se concentrem em prescrever uma solução específica, mas em esboçar problemas e oportunidades e permitir espaço para iteração. | a. Faça uso de processos de contratação inovadores para adquirir sistemas de IA. b. Foque em desenvolver uma declaração clara do problema, ao invés de detalhar especificações da solução. c. Apoie uma abordagem iterativa do desenvolvimento de produtos. |
| 2. Defina o benefício público do uso de IA ao avaliar riscos. | a. Estabeleça claramente no edital da licitação porque considera IA relevante para o problema e esteja aberto a soluções técnicas alternativas. b. Explique no edital da licitação que o benefício público é o condutor principal do seu processo de tomada de decisão na avaliação das propostas. c. Conduza uma avaliação de riscos e impactos da IA antes de começar o processo de contratação, garanta que seus achados sejam refletidos no ato convocatório, e revisite a seus critérios de julgamento. |
| 3. Alinhe sua licitação com uma estratégia governamental existente e contribua com o seu desenvolvimento. | a. Consulte as iniciativas governamentais relevantes como estratégias nacionais de IA, inovação e/ou estratégias industriais, e documentos de orientação que informam a política pública sobre tecnologias emergentes. b. Colabore com outros órgãos e instituições governamentais relevantes para compartilhar insights e aprender um com o outro. |
| 4. Incorpore legislação potencialmente relevante e códigos de conduta no edital da licitação. | a. Conduza uma revisão de legislação, direitos, regras administrativas e outras normas relevantes que regulam esses tipos de dados e sua aplicação no escopo do projeto e faça referência no edital. b. Leve em consideração a confidencialidade apropriada, proteção de segredo comercial, e as melhores práticas de privacidade de dados que podem ser relevantes no desenvolvimento de sistemas de IA. |
| 5. Articule as considerações de viabilidade técnica e governança da obtenção de dados relevantes. | a. Assegure que tem os mecanismos de governança de dados apropriados em vigor desde o início do processo de contratação. b. Avaliar se os dados pertinentes estarão disponíveis para o projeto. c. Defina se e como irá compartilhar os dados com o(s) fornecedor(es) para o processo de aquisição e o projeto subsequente. |
| 6. Destaque as limitações técnicas e éticas do uso dos dados para evitar problemas como o viés. | a. Considere a suscetibilidade dos dados que podem estar no escopo e se o uso dos dados é razoável. b. Destaque limitações conhecidas (por exemplo, qualidade) dos dados no edital da licitação e exija que os licitantes descrevam as suas estratégias sobre como abordar estas deficiências. Tenha um plano para a abordagem as limitações relevantes que pode não ter notado. |
| 7. Trabalhe com uma equipe diversificada e multidisciplinar. | a. Desenvolva ideias e tome decisões ao longo do processo de contratação em uma equipe multidisciplinar. b. Exija ao(s) licitante(s) vencedor(es) que monte(m) uma equipe com o conjunto de habilidades adequado. |
| 8. Concentre-se durante todo o processo de aquisição em mecanismos de responsabilidade e normas de transparência. | a. Promova uma cultura de responsabilização em soluções com tecnologia de IA. b. Assegure que as tomadas de decisão acerca de IA sejam o mais transparente possível. c. Explorar mecanismos para permitir a interpretabilidade dos algoritmos internamente e externamente como um meio de estabelecer a responsabilização e a contestabilidade. |
| 9. Implemente um processo para o envolvimento contínuo do fornecedor de IA com a entidade adquirente para transferência de conhecimento e avaliação de risco a longo prazo. | a. Considere durante o processo de contratação que a aquisição de uma ferramenta de IA não é uma decisão única; testar a aplicação durante a sua vida útil é crucial. b. Exija que o fornecedor de IA garanta que a transferência e o treinamento de conhecimento façam parte do compromisso. c. Exija que o fornecedor de IA insights em como gerenciar o uso apropriado das aplicações por não especialistas. |
| 10. Crie as circunstâncias para igualdade de condições entre os fornecedores de soluções de IA. | a. Alcançar de várias maneiras uma grande variedade de provedores de soluções de IA b. Envolva fornecedores cedo e frequentemente durante todo o processo. c. Garanta a interoperabilidade das soluções de IA e exija ferramentas de códigos abertos para evitar o bloqueio no uso destas. |
Fonte: WEF, White Paper: ‘Guidelines for AI Procurement’, pág. 6, tradução nossa.
O Professor Albert Sanchez-Graells, especialista em Direito Econômico pela Universidade de Bristol, analisou as Diretrizes do FEM em seu blog sobre Direito Econômico da União Europeia, How to Crack a Nut.3
Para o referido professor, o ponto forte das diretrizes está em suas recomendações sobre a avaliação da disponibilidade e qualidade dos dados e na necessidade de criar estruturas robustas de governança de dados, bem como de ter uma visão profunda das limitações e vieses dos dados, presentes nas diretrizes 5 e 6.
Destaca que, nas diretrizes 3 e 7, existem alguns lembretes úteis, embora bastante autoexplicativos, sobre questões básicas de planejamento, relativas à necessidade de garantir o conjunto de habilidades relevantes e a inevitável multidisciplinaridade das equipes que trabalham em IA. Afirma também que as diretrizes 1, 2 e 9 fornecem algumas indicações de alto nível sobre como modelar o processo de aquisição, o que resulta na necessidade de orientações futuras/adicionais muito mais detalhadas, antes que possam ser implementadas por uma autoridade contratante.4
Segundo Sanchez-Graells, algumas diretrizes funcionam ainda como um instrumento de detecção de problemas e não como orientação.
Isso seria observado nas tensões entre privacidade de dados, boa administração e proteção de propriedade intelectual e segredos comerciais subjacentes às soluções baseadas em IA, presentes nas diretrizes 4, 8 e 10.
As diretrizes publicadas pelo FEM se traduzem em cláusulas abertas que tangenciam problemas aplicáveis não apenas às licitações de ferramentas de inteligência artificial, mas também a aquisições de soluções complexas de tecnologia de informação ou mesmo todas aquelas que demandem o tratamento de dados.
É evidente que tais diretrizes não são suficientes para guiar todo o processo de modelagem, estruturação do procedimento de aquisição e sua administração – nem é esse o seu propósito. Contudo, lança as bases da racionalidade que deve permear os processos de aquisição dessas soluções complexas, as quais ousamos descrever como: inovação dos processos; flexibilidade do procedimento; interação entre o setor público e privado; avaliação de riscos; alinhamento estratégico; qualidade de dados e governança; responsabilidade; transparência e isonomia.
A realidade é que o mundo se prepara para revolução digital e as ferramentas necessárias para que o setor público esteja preparado estão na sua porta.
Porém, não há uma estrutura de dados capaz de conduzir o processo decisório da Administração Pública no sentido de compreender qual é a melhor solução baseada em IA para a atender as demandas sociais.
Para o Brasil, a recomendação é acompanhar a aplicação das diretrizes e princípios anunciados pelo FEM pelos países que estão desenvolvendo projetos piloto, mas antes de qualquer ação como essa, o que nos cabe são iniciativas relativas a medir a disponibilidade e qualidade de nossos dados; procedimentos internos de estruturação da governança desses dados, (ou seja, a lei de proteção de dados não é suficiente); e mais do que isso, investimento em pesquisa e desenvolvimento humano das equipes de contratação pública.
—————————–
1 Disponível em: <http://www3.weforum.org/docs/WEF_Guidelines_for_AI_Procurement.pdf>. Acesso em 02.10.2019.
2 Disponível em: <https://www.weforum.org/press/2019/09/uk-government-first-to-pilot-ai-procurement-guidelines-co-designed-with-world-economic-forum/>. Acesso em 02.10.2019.
3 Disponível em: <https://www.howtocrackanut.com/>. Acesso em 02.10.2019.
4 Idem.