Opinião e Análise

Otavio Simões Brissant

Tarcisio Burlandy de Melo

Carlos Rios

A utilização de tecnologias baseadas em <a href="https://www.jota.info/tudo-sobre/machine-learning">machine learning</a> e <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> está crescendo e se popularizando rapidamente em todo o mundo. O <a href="https://www.jota.info/tudo-sobre/chatgpt">ChatGPT</a>, desenvolvido pela OpenAI, recentemente alcançou a marca recorde de 1 milhão de usuários em apenas cinco dias. Serviços renomados como o Instagram alcançaram a marca de 1 milhão de usuários em dois meses e meio. Já o Spotify e o Dropbox levaram um pouco mais de tempo, cinco e sete meses respectivamente. O Facebook, atualmente a maior rede social do mundo, precisou de cerca de 10 meses para alcançar esse resultado[1].
Contudo, embora essas tecnologias possam trazer diversos benefícios, como melhorias na eficiência de tomada de decisões e precisão de informações, também apresentam desafios éticos e legais.
O machine learning está por trás de chatbots e textos preditivos, aplicativos de tradução de idiomas, programas que a Netflix sugere a você, assim como os feeds de suas redes sociais são apresentados. Quando as empresas implantam programas de inteligência artificial, elas estão utilizando machine learning, sendo este o motivo pelo qual tantas vezes os termos sejam utilizados de forma intercambiável. Machine learning é um subcampo da inteligência artificial que dá aos computadores a capacidade de aprender sem ser explicitamente programado[2].
Em outras palavras, o machine learning se concentra na construção de algoritmos que podem melhorar a capacidade de realização de uma determinada tarefa a partir de dados e da experiência adquirida. O machine learning é, portanto, o estudo científico de algoritmos e modelos estatísticos que os sistemas de computador utilizam para realizar uma tarefa específica sem serem explicitamente programados.
Um paralelo que pode ser traçado é que machine learning é um processo estatístico onde o caminho que liga a pergunta a resposta é encontrado por meio de busca exaustiva seguindo determinadas regras ao invés de uma teoria a priori. A principal vantagem de usar o machine learning é que, uma vez que um algoritmo aprende o que fazer com os dados, ele pode fazer seu trabalho automaticamente[3].
Nesse sentido, se abre espaço para o operador de machine learning encontrar um caminho para obter respostas de casos muito específicos em grande escala, de forma rápida, onde o trabalho minucioso humano levaria mais tempo para chegar a um resultado semelhante.
Entretanto, para que o machine learning funcione, há que se ter um algoritmo capaz de descrever o passo a passo de ações para que ele execute. Mas o que são algoritmos? Podemos dizer que algoritmo é uma sequência finita de instruções precisas e bem definidas, que visam resolver um problema específico ou realizar uma tarefa computacional, muito parecido com uma receita de bolo.
A inteligência artificial, por seu turno, pode ser definida como a ciência e a engenharia necessária à construção de máquinas inteligentes, especialmente programas de computador inteligentes. Está relacionada à tarefa similar de usar computadores para entender a inteligência humana, sem que esteja, necessariamente, limitada a métodos biologicamente observáveis[4]. Pode ser entendida como uma forma mais amigável de interagir com um algoritmo de computador que acessa informações de um banco de dados. Por exemplo, você faz uma busca no Google por um assunto. Você precisa navegar entre os resultados que são apresentados para você para então verificar se o que lhe foi apresentado se encaixa ou responde a sua dúvida. A inteligência artificial tenta te responder diretamente o assunto sem que você veja os resultados apresentados, pois ela já os processou.
No entanto, embora essas tecnologias possam trazer benefícios significativos, como a automação de processos e obtenção de insights valiosos, a sua utilização para tomada de decisões pode ser problemática, na medida em que estas podem vir a replicar vieses de vários tipos, existentes na base de dados usada para treiná-los, devendo ser sopesados, por tanto, diversos desafios éticos e legais.
Como bem pontuado pelo primeiro-ministro do Canadá, Justin Trudeau, em seu discurso no Fórum Econômico Mundial em 2018, o ritmo de mudança nunca foi tão rápido, mas também nunca será tão lento novamente no futuro. Tal reflexão evidencia, de forma clara, a grande problemática do tema sob a perspectiva jurídica, na medida em que, inobstante o esforço legislativo – quase nunca – os diplomas legais são suficientes para lidar com os desafios trazidos pela tecnologia, a qual se encontra em constante e rápida evolução.
Apesar dessa dificuldade, é fundamental que o direito acompanhe o desenvolvimento tecnológico e forneça uma regulamentação adequada, tempestiva e justa para as atividades envolvendo machine learning e inteligência artificial. Enquanto não for alcançada a hipótese da singularidade tecnológica ainda há espaço para essa problemática ser encarada de forma objetiva.
Em particular, a utilização em âmbito empresarial destas técnicas deve estar muito atenta a questões relacionadas à subjetividade, subrepresentatividade, vieses, discriminação, justiça e privacidade. Por exemplo, a utilização de algoritmos de machine learning pode levar a resultados subjetivos, dependendo do conjunto de dados utilizados para treiná-los. Além disso, é possível que a falta de diversidade nos conjuntos de dados resulte em subrepresentatividade em suas análises e previsões. Tal como problemas de amostragem em estudos estatísticos tradicionais trazem efeitos adversos, até tendenciosos se a vontade for essa. O conjunto de dados utilizados em machine learning pode refletir os mesmos efeitos.
Outro desafio é a possibilidade de perpetuação de vieses sociais e de gênero por meio da utilização de algoritmos treinados com dados históricos desiguais. Se os dados utilizados para a geração do modelo de machine learning não vierem acompanhados do perfil da amostragem utilizado, o então viés será incorporado sem a ciência do profissional que gera o modelo e de quem usa aquela ferramenta. Além disso, a privacidade é outro aspecto a ser considerado quando se trata do presente tema.
Por essas razões, é fundamental que empresas e profissionais envolvidos na implementação de tecnologias baseadas em machine learning e inteligência artificial considerem as questões éticas e legais, a fim de garantir que sua utilização seja responsável, idônea e justa. O direito tem um papel importante a desempenhar nesse contexto, fornecendo diretrizes e regulamentações para a utilização dessas tecnologias de maneira ética e responsável.
Apesar das dificuldades acima mencionadas, é possível desenvolver algoritmos mais imparciais e objetivos com boas práticas de desenvolvimento, validação e verificação de dados, além da garantia de auditoria por especialistas e entidades regulatórias. É importante garantir a privacidade dos usuários, com a implementação de medidas de proteção de dados e a garantia do direito à informação.
<hr />
[1] Disponível em <a href="https://br.noticias.yahoo.com/chatgpt-atinge-1-milhao-de-usuarios-em-tempo-recorde-162541443.html">https://br.noticias.yahoo.com/chatgpt-atinge-1-milhao-de-usuarios-em-tempo-recorde-162541443.html</a>
[2] Disponível em <a href="https://mitsloan.mit.edu/ideas-made-to-matter/machine-learning-explained?utm_source=mitsloangooglep&amp;utm_medium=social&amp;utm_campaign=machinelearnexp&amp;gclid=CjwKCAiA3KefBhByEiwAi2LDHBK_FbtBWdRcAeFv9was-bbcmJOMCdhjy4ZXCaq_yPiFIdLHjebAOhoCOFwQAvD_BwE">https://mitsloan.mit.edu/ideas-made-to-matter/machine-learning-explained?utm_source=mitsloangooglep&amp;utm_medium=social&amp;utm_campaign=machinelearnexp&amp;gclid=CjwKCAiA3KefBhByEiwAi2LDHBK_FbtBWdRcAeFv9was-bbcmJOMCdhjy4ZXCaq_yPiFIdLHjebAOhoCOFwQAvD_BwE</a>
[3] MAHESH, Batta. Machine Learning Algorithms – A Review. International Journal of Science and Research (IJSR) ISSN: 2319-7064 ResearchGate Impact Factor (2018): 0.28 | SJIF (2018): 7.426, p. 381.
[4] McCarthy, John. What is Artificial Intelligence?. Stanford

possessed-photography-U3sOwViXhkY-unsplash

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Tecnologias melhoram eficiência de tomada de decisões, mas trazem desafios para utilização idônea e responsável

Questões éticas e legais do uso de machine learning e inteligência artificial

Machine learning e inteligência artificial melhoram eficiência de tomada de decisões, mas trazem desafios para utilização responsável