Roberto Maltchik

De que forma o fator humano, o julgamento das pessoas, vai interagir com as decisões tomadas por um <a href="https://www.jota.info/artigos/o-relatorio-draghi-e-o-futuro-da-ia-no-brasil">conjunto de algoritmos</a> alimentados por uma enormidade de dados? Na avaliação do professor emérito da Universidade Federal de Minas Gerais <a href="https://www.jota.info/opiniao-e-analise/colunas/para-alem-do-estado-e-do-direito/o-crisp-ufmg-no-jota-a-secao-thais-duarte">(UFMG)</a> Virgílio Almeida, referência no debate sobre IA e professor associado do Centro Berkman Klein para Internet e Sociedade, da Universidade Harvard (EUA), essa é uma das ideias mais importantes sobre o futuro da prestação de <a href="https://www.jota.info/executivo/esther-dweck-a-portaria-do-novo-sistema-de-carreiras-ja-foi-implementada-antes-de-existir">serviços públicos</a>. Principal orador do primeiro dia do Seminário Inteligência Artificial, Governança e Democracia, promovido pela Enap, na semana passada, o pesquisador topou conversar com a newsletter <a href="https://conteudo.jota.info/marketing-lp-newsletter-por-dentro-da-maquina">Por Dentro da Máquina</a> para explorar o tema, do ponto de vista do funcionalismo. Almeida também refletiu sobre as ações que cabem ao governo nesse contexto e falou das vantagens potenciais do Brasil no universo da IA. A seguir, os principais pontos da entrevista:
<h3><a href="https://conteudo.jota.info/marketing-lp-newsletter-por-dentro-da-maquina">Quer saber os principais fatos ligados ao serviço público? Clique aqui e se inscreva gratuitamente para receber a newsletter Por Dentro da Máquina</a></h3>
Como o senhor vê o avanço da prestação do serviço público no universo dos algoritmos e da IA?
Os algoritmos são a forma pela qual os serviços executam certos objetivos. Vamos relacionar as pessoas que fraudaram um determinado serviço. Então, é um algoritmo que vai tentar identificar isso. O conjunto de algoritmos interligados, de uma maneira em que os algoritmos também são definidos por eles próprios com vários dados, é mais ou menos o que a inteligência artificial faz. Eles vão aprender com os dados.
Então, os algoritmos estão presentes em todos os serviços digitais, seja no celular, no serviço de governo, no serviço de banco, nas plataformas... Os algoritmos são o motor de todos esses serviços digitais. A pergunta é: quais são as possibilidades de impactos no serviço público? Há um avanço nos serviços digitais, que fazem parte do nosso dia a dia. Esses serviços digitais têm três características: são operadas por algoritmos, coletam dados o tempo todo e tomam decisões, e nem sempre a gente observa essas decisões.
Outro aspecto interessante: eles são extremamente eficientes. Atendem centenas de milhares de pessoas, simultaneamente. Milhões de pessoas. Isso permite, então, pensar que, hoje, os serviços básicos digitais estão todos nessas plataformas. E os governos também. Os governos irão nessa tendência de colocar os serviços públicos nas plataformas com o desejo de servir melhor à sociedade. Desejo, tá?
Em muitos casos, as plataformas substituem os servidores públicos. Em alguns casos, por uma redução de custos que certos governos buscam. Então, é uma possibilidade para atender melhor o cidadão, mas têm esses vários riscos, como esse. A motivação é clara: buscar melhores serviços para sociedade, a um custo menor e com maior disponibilidade.
<blockquote>"Eu vejo, por exemplo, em alguns países, o treinamento dos servidores para trabalhar nas agências que vão tratar dessas questões digitais, a contratação de novos servidores. É preciso ter um plano interno de preparação dos servidores no Brasil. Os servidores são parte da sociedade. E os servidores precisam tomar consciência ou ter mais conhecimento sobre isso."</blockquote>
O servidor público brasileiro, de um modo geral, nos diferentes níveis de governo, está preparado para enfrentar esse mundo?
Esse é um problema que ocorre não só no Brasil, como em outros países onde a tecnologia é desenvolvida também. Nós estamos falando de uma tecnologia que evolui rápido, muito rapidamente. Quer dizer, de repente, apareceu o ChatGPT e aí ficou esse contexto da inteligência artificial. De lá para cá, surgiram outras empresas, outros produtos dessa geração. Então é algo que tem uma mudança muito grande. E são tecnologias difíceis. Vários países têm procurado formas de preparar os servidores públicos para entender essas questões. E elas não são simples. Então, eu vejo, por exemplo, em alguns países, o treinamento dos servidores para trabalhar nas agências que vão tratar dessas questões digitais, a contratação de novos servidores. É preciso ter um plano interno de preparação dos servidores no Brasil. Os servidores são parte da sociedade. E os servidores precisam tomar consciência ou ter mais conhecimento sobre isso. Eu acho que precisa ter um plano específico de formação interna, de conhecimento dessas questões, para que o servidor possa contribuir para a expansão de maneira confiável, de maneira segura. Eu acho que precisa de uma ação específica de preparação dos servidores para esses novos tempos.
Precisa agir com força nessa parte, certo?
É, o governo está propondo agora um plano brasileiro de IA. Eu acho que tem ações que buscam capacitação. Mas eu acho que isso tem que ser amplo dentro do serviço público. Um exemplo concreto: você vê as pessoas que se formam nas universidades. A maior parte, exceto aqueles que se formam nas tecnologias, ciências da computação, sai sem ter passado por algum curso que explique esses novos recursos digitais na Medicina, no Direito... Sendo que eles vão ter contato com isso. Então, é preciso ter uma formação mais ampla de preparação para essas novas ferramentas, que são inevitáveis.
<blockquote>"Eu acho que no serviço público, de uma maneira geral, o que vai trazer benefícios e inovação é a combinação dos algoritmos, das ferramentas digitais com o elemento humano. Essa combinação humano e algoritmos vai levar a novos tipos de serviço, à inovação e não à pura substituição, como, às vezes, é uma motivação inicial para aumentar os sistemas automáticos, visando diminuir o número de pessoas."</blockquote>
Retomando o tema da substituição de pessoas pelas novas tecnologias. A gente vai ter um aumento da automação. Isso vai pressupor uma redução do número de pessoas no serviço público? O que essas pessoas que terão o espaço tomado pela automação deverão fazer?
Isso é uma questão interessante. Muitos veem essa disponibilidade das tecnologias de inteligência artificial, das tecnologias digitais, como um todo. É bom lembrar que as tecnologias de inteligência artificial, na verdade, são um ponto novo no processo de transformação digital. E percebe-se que, em vários países, a principal motivação no setor privado para usar a tecnologia é a redução, a substituição do elemento humano. Quando não deveria ser.
Isso é a tese de alguns economistas nos Estados Unidos, por exemplo, em que o objetivo não seria substituir o elemento humano. O objetivo deveria ser criar condições para que esse elemento humano produza mais. Ou seja, complementar. E essa vai ser a ideia, talvez a ideia mais importante para o futuro. É a combinação do humano com os algoritmos. Da percepção humana, do julgamento humano, a supervisão dessas questões também. Então, eu acho que no serviço público, de uma maneira geral, o que vai trazer benefícios e inovação é a combinação dos algoritmos, das ferramentas digitais com o elemento humano. Essa combinação humano e algoritmos vai levar a novos tipos de serviço, à inovação e não à pura substituição, como, às vezes, é uma motivação inicial para aumentar os sistemas automáticos, visando diminuir o número de pessoas.
Deveria ser esse o objetivo. E aí deveria ter políticas do próprio governo mostrando que o objetivo é criar condições melhores para que os servidores trabalhem, e não apenas os substituamos por algoritmos ou por robôs.
O que é possível propor para o servidor que desenvolve uma atividade que tipicamente vai ser substituída, por exemplo, uma atividade repetitiva?
Eu acho que primeiro passa por criar novas habilidades. As possibilidades de automação são amplas. Então, tem de criar novas maneiras de habilitar as pessoas, de dar os elementos para que elas possam contribuir e ter um papel nesse novo ambiente. Eu acho que isso é fundamental. Requalificar as pessoas, tá? Esse tem que ser um papel do governo.
Os mais velhos têm de ser requalificados. Os mais novos, os mais vulneráveis, têm de ser preparados para poder entrar nesse mundo, não para aumentar a exclusão. E, nos serviços públicos, a requalificação das pessoas tem que ser um desafio colocado para os servidores públicos. Para que eles possam passar para um novo estágio onde eles vão contribuir nesse sistema combinado de algoritmos, pessoas, máquinas, que é o ambiente futuro vai nos mostrar. Então, a capacitação das pessoas é um eixo fundamental. E eu não vejo isso acontecendo de uma maneira tão convincente.
Em que medida essa eficiência das máquinas também reduz de maneira irreversível o poder discricionário do gestor público?
Isso é um problema não só do público, mas também acontece no geral. O poder de que as decisões vão ser assumidas por esses sistemas automáticos, pelo menos em parte. Daí, o receio de ter o papel humano ou gerencial diminuído. Isso acontece nas empresas também. Às vezes, não há compreensão desse mundo novo que está surgindo por uma questão geracional. Embora os filhos já estejam em uma situação de uso disso o tempo todo, existem uns gestores mais altos, executivos mais altos, que ainda vêm de outro tempo.
<blockquote>"Tem que ter um programa de letramento, de acolhimento digital para as pessoas de outra geração. Mesmo em empresas e nos serviços públicos, às vezes quando os executivos de nível mais alto são de outra geração, há uma dificuldade de entender essa transformação digital. Inclusive de seguir os planos para que ou o serviço ou a empresa caminhem nessa direção."</blockquote>
Do ponto de vista da sociedade, quais são os desafios para que esse processo alcance com serviços o maior número de pessoas possível?
A pergunta é super importante. No Brasil, as desigualdades sociais e econômicas acabam refletindo no chamado gap digital, onde parte da população tem acesso e a outra parte não tem acesso ou tem dificuldade de usar. Ficou claro na pandemia. Quais são os pontos que o governo deve ter como prioridade? Ampliar esse acesso buscando a totalidade da população, mas como objetivo. Essa diferença digital deve aumentar por causa da inteligência artificial. Porque ela vai colocar mais serviços ainda... As pessoas já sem acesso e sem possibilidade de usar, vão ficar mais excluídas ainda. Então, é importante que se tenha programas de inclusão para permitir o acesso, por causa de custo, por causa da região onde as pessoas moram.
E um programa de letramento digital. Um programa de letramento digital que comece com as crianças. A sociedade fica o tempo todo preocupada com a desinformação. É um problema sério, cada vez mais difícil de tratar. Os países nórdicos tratam a questão da desinformação ampliando a educação das crianças para entender o mundo online. As crianças aprendem a atravessar uma rua, olhar os sinais, devem aprender também como usar esses serviços digitais.
E tem que ter um programa de letramento, de acolhimento digital para as pessoas de outra geração. Mesmo em empresas e nos serviços públicos, às vezes quando os executivos de nível mais alto são de outra geração, há uma dificuldade de entender essa transformação digital. Inclusive de seguir os planos para que ou o serviço ou a empresa caminhem nessa direção. Então esse gap geracional é um problema e tem que ser tratado através de mecanismos de letramento, de acolhimento, de permitir que essas pessoas venham a usar essas ferramentas para melhorar a vida delas.
No setor público, a mesma coisa. Você tem também aquelas pessoas que já aposentaram, mais velhas, que têm dificuldade de entrar nesse mundo. Esse deveria ser também uma ação prioritária do governo. Um letramento digital especial, já levando em consideração essas questões novas de inteligência artificial para uma geração que não é digital originalmente.
Tem uma palavra, uma expressão que é muito bonita, mas ela pode ser meio vazia, que é democratizar os algoritmos...
O que significaria democratizar os algoritmos? Isso está em legislações na Europa, por exemplo. As pessoas têm o direito de entender porque uma decisão foi tomada por um algoritmo e prejudicou essa pessoa. Quais são as causas que levaram a isso? Então, por exemplo, muitas vezes, se solicita um auxílio. Eu até tenho um exemplo interessante, que foi relacionado por um dos trabalhos da ONU, mostrando uma senhora numa província da Índia que teve o auxílio equivalente à Bolsa Família negado. E o argumento da negativa era que ela teria um carro. Na verdade, ela teve um marido que morreu há alguns anos que tinha um tuk-tuk, aquela bicicleta.
Ela tentou argumentar, mas o serviço público lá manteve a decisão. E aí isso tem um ponto importante. As pessoas mais vulneráveis, ou com menos instrução, têm muita dificuldade. Como é que eu vou argumentar contra aquela decisão? Então, essa é uma questão que nos leva a um seguinte ponto: é importante que os serviços automatizados, os serviços públicos automatizados, tenham valores, observem os direitos humanos, observem valores como inclusão, como respeito e dignidade. Essa exclusão que o algoritmo fez por negar aquilo e os próprios servidores se baseiam nisso. É aquela antiga expressão: 'o computador que disse isso'. É isso que ocorre cada vez mais nas decisões diárias. Então, os algoritmos democratizados, significa ter transparência, entender, em situações que as pessoas foram afetadas, porque aquilo aconteceu. Ter a garantia que esses algoritmos são justos, que são inclusivos, que seguem valores sociais importantes daquela cultura.
Considerando que as tecnologias de IA estão fora do país, concentradas em poucos países e empresas, qual é o ponto forte no Brasil nesse mercado?
O Brasil tem um acervo de dados que tem que ser visto como um potencial de negócio muito grande para o país. Os serviços baseados em inteligência artificial dependem essencialmente de dados, de massas de dados. O Brasil tem particularidades muito boas, tem o SUS, que é um sistema centralizado de serviços universais de saúde. Países com mais de 100 milhões de habitantes não têm esse serviço. O Brasil é provavelmente, na escala de população, o único que tem esse serviço. Então tem isso tem um valor imenso nos estudos das práticas médicas, no estudo de novos procedimentos, de medicamentos. Mas quais são as regras para usar esses dados? Quais são as regras que o governo está propondo? Como que o governo pode usar isso em benefício, por exemplo, das empresas do país e não do exterior? Como pode ser isso um atrativo para o Brasil estabelecer colaborações favoráveis a ele?
O Brasil poderia usar isso como uma alavanca de negociação. O Inep, por exemplo, que tem o Enem, que é um tesouro de dados. Tem tudo sobre a nova juventude. Então, o Brasil precisa ter regras para usar esses dados e isso é muito importante para nós. Quem pode usar? Quais são as proteções em termos da privacidade também das pessoas envolvidas nesses dados? É preciso estabelecer essas regras que ainda não são de conhecimento público. O governo nunca propôs essas regras claramente. No fundo, é preciso uma política de governança dos dados brasileiros que têm um valor imenso. O Brasil pode estar atrás por não ter a tecnologia dos outros países, mas tem dados. Então, tem que usar isso como grande fator na negociação.
O país reúne as condições para ter uma boa governança desse ambiente complexo?
O Brasil tem condições. Principalmente, é importante considerar as possibilidades de colaboração do Brasil com países similares, como os Brics ou nos países da América do Sul. O Brasil tem que investir em infraestrutura, tem que investir em ciência tecnológica para poder criar seus próprios serviços. Não estou dizendo que o Brasil não vai necessitar desse serviço das grandes companhias. As grandes companhias estão lá na frente, mas elas têm muitos interesses no país, não só pelo mercado mas pelos dados. Dois países dominam praticamente toda essa tecnologia: China e Estados Unidos. O Brasil tem que buscar, junto com outros países semelhantes, estabelecer regras. Então, eu acho que o G20 é uma oportunidade muito grande do Brasil para tentar estabelecer essas regras de forma que os benefícios do avanço da inteligência artificial não fiquem restritos a três ou quatro países que dominam, mas isso tudo são acordos.

virgiliovale

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Referência nos estudos de algoritmos e IA, professor emérito da UFMG mergulha no impacto do avanço tecnológico sobre o funcionalismo

"A inovação em serviços públicos virá da combinação dos algoritmos com o elemento humano", aponta Virgílio Almeida

Referência nos estudos de algoritmos e IA, professor emérito da UFMG mergulha no impacto do avanço tecnológico sobre o funcionalismo