Opinião e Análise

Flávia Braz de Castro

A <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a> (IA) faz parte do cotidiano social de forma muito mais significativa do que se pode perceber. A tecnologia está presente nas assistentes virtuais dos dispositivos móveis, nos aplicativos de redes sociais que mostram conteúdo personalizado, no monitoramento de câmeras de trânsito, e até em algoritmos que influenciam importantes decisões com grande impacto na vida dos indivíduos, como aqueles relacionados à crédito e processos seletivos.
Na mesma proporção em que a IA demonstra um inegável potencial para melhorar significativamente a eficiência de muitos setores, como a automatização de tarefas repetitivas, desenvolvimento de insights gerados a partir da análise de grandes conjuntos de dados e até em diagnósticos médicos, o seu crescimento e evolução exponencial levantam dilemas e desafios complexos, gerando preocupações éticas e legais. 
Os riscos associados ao desenvolvimento da IA são variados, entre eles estão os vieses algorítmicos. Esses vieses surgem quando os sistemas de IA reproduzem preconceitos presentes nos dados usados em seu treinamento, quando não são projetados e monitorados adequadamente, além disso, as questões de privacidade e segurança de dados pessoais são questões críticas nesse contexto, devido ao fato de que a IA depende fortemente da coleta, armazenamento e análise de dados.
Buscando enfrentar esses desafios, o mundo está se mobilizando para discutir e regulamentar o uso e o desenvolvimento da inteligência artificial. A título de exemplo, no Brasil tramita o <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233">PL 2338/23</a><a class="sdfootnoteanc" href="#sdfootnote1sym" name="sdfootnote1anc">[1]</a> ; na China, recentemente, o principal órgão fiscalizador da internet no país divulgou um conjunto de diretrizes para inteligência artificial generativa<a class="sdfootnoteanc" href="#sdfootnote2sym" name="sdfootnote2anc">[2]</a>; a cidade de Nova York publicou a NYC Local Law 144<a class="sdfootnoteanc" href="#sdfootnote3sym" name="sdfootnote3anc">[3]</a>, que permite a fiscalização de contratações e promoções feitas com o uso de IA; e o Parlamento Europeu aprovou em junho a versão final de um projeto de lei, o AI Act<a class="sdfootnoteanc" href="#sdfootnote4sym" name="sdfootnote4anc">[4]</a>, que atualmente está em discussão pelos países membros. Contudo, não é novidade que a evolução legislativa global não acompanha o ritmo acelerado do desenvolvimento tecnológico. 
Nesse contexto, o documento "Ethics By Design and Ethics of Use Approaches for Artificial Intelligence"<a class="sdfootnoteanc" href="#sdfootnote5sym" name="sdfootnote5anc">5</a>, publicado pela União Europeia em 2021, apresenta um framework abrangente e bem detalhado que pode ser usado como base no fomento da discussão de como orientar o desenvolvimento ético da IA.
O citado documento propõe um framework de Ethics By Design que tem como foco as fases iniciais de desenvolvimento da IA, e busca orientar o desenvolvimento e utilização da tecnologia de maneira ética e responsável, e se baseia em três principais abordagens interconectadas: 
<ol>
<li>Princípios e requisitos: define os princípios éticos aos quais os sistemas de IA devem aderir além de propor requisitos para o seu desenvolvimento; </li>
<li>Etapas práticas para aplicação do framework no desenvolvimento de IA: define ações a serem tomadas em diferentes estágios do desenvolvimento de IA para aderir aos princípios éticos e requisitos propostos; e </li>
<li>Implantação e uso ético: apresenta diretrizes para implementar ou utilizar a IA de maneira ética.</li>
</ol>
Resumidamente, a abordagem de Ethics By Design requer a consideração cuidadosa das implicações éticas em todas as etapas do desenvolvimento de IA, desde a coleta de dados até o treinamento de algoritmos e a implementação do sistema. O objetivo é garantir que as preocupações éticas sejam consideradas durante todo o processo de desenvolvimento.
Os princípios éticos propostos no documento para o desenvolvimento, implantação, e utilização da tecnologia, e que devem orientar todo o processo incluem, em tradução livre: respeito pela capacidade de ação humana; privacidade, proteção de dados pessoais e governança de dados; justiça; bem-estar individual, social e ambiental; transparência e responsabilidade; e supervisão.
Entre os citados princípios vale destaque para a privacidade e a proteção de dados pessoais, que enfatiza a importância de garantir que os sistemas de IA respeitem as leis de proteção de dados pessoais, de forma que devem ser projetados buscando minimizar a coleta de dados pessoais e que os dados devem ser adquiridos, armazenados e usados de maneira que possa ser auditada por seres humanos, buscando proteger a privacidade e permitir que os titulares tenham controle sobre a utilização dos seus dados pessoais.
Quanto às etapas práticas para aplicação do framework no desenvolvimento de IA, é proposto um modelo genérico de desenvolvimento que pode ser incorporado como orientação para diferentes metodologias. Esse modelo inclui as fases de especificação dos objetivos e propósitos do sistema, determinando o propósito do sistema de IA e o que ele deve ser capaz de realizar, bem como a fase de especificação de requisitos, onde são definidos os requisitos técnicos e não técnicos para construção do sistema, incluindo uma análise de riscos, entre outras.
Por fim, a implantação e uso ético concentra suas diretrizes de aplicação em quatro práticas principais relacionadas ao uso de sistemas de IA: gerenciamento de projetos, aquisição, implementação e monitoramento.
Além disso, vale destaque, entre as diretrizes citadas, da necessidade de desenvolvimentos dos sistemas de forma a garantir a possibilidade de supervisão humana e a responsabilidade ao usar esses sistemas. Em outras palavras, as organizações que implementam sistemas de IA devem garantir que existem mecanismos de controle, auditoria e responsabilização em vigor.
Em conclusão, a importância de uma abordagem Ethics By Design no desenvolvimento da inteligência artificial pode ser justificada pelo oferecimento de um roteiro extenso para garantir que a ética seja uma consideração central em todas as fases do ciclo de vida da IA, desde a concepção até a implementação. Evitando problemas éticos que podem surgir quando os sistemas de IA são desenvolvidos sem considerações adequadas.
O desafio nessa realidade se propõe, principalmente, em promover nas organizações e na sociedade de forma ampla, uma cultura de inovação responsável no desenvolvimento da IA, que leve em consideração as implicações éticas e sociais no seu desenvolvimento. Em um cenário em que a IA desempenha um papel cada vez mais central em nossa sociedade, adotar uma abordagem ética desde o seu desenvolvimento não é apenas uma escolha moral, mas também uma medida legal e uma estratégia de gerenciamento de riscos. 
É necessário fomentar um espaço aberto para a inovação, sem que sejam impostos impedimentos inexequíveis para o seu desenvolvimento. No entanto, é imprescindível buscar um desenvolvimento ético e seguro da tecnologia, como forma de proteção e garantia de uma sociedade funcional e justa, evitando assim, que uma tecnologia com potencial infinito de melhoria da eficiência da sociedade, se torne mais um divisor social, reproduzindo e ampliando desigualdades sociais existentes.
<hr />
<a class="sdfootnotesym" style="font-weight: 300;" href="#sdfootnote1anc" name="sdfootnote1sym">[1]</a> Projeto de Lei 2338, de 2023. Disponível em: <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233">https://www25.senado.leg.br/web/atividade/materias/-/materia/157233</a>. Acesso em: 23/09/2023.
<a class="sdfootnotesym" href="#sdfootnote2anc" name="sdfootnote2sym">[2]</a> Medidas Provisórias para a Gestão de Serviços Gerativos de Inteligência Artificial. Disponível em: <a href="http://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm">http://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm</a>. Acesso em 23/09/2023.
<a class="sdfootnotesym" href="#sdfootnote3anc" name="sdfootnote3sym">[3]</a> Automated Employment Decision Tools (Updated). Disponível em: <a href="https://rules.cityofnewyork.us/rule/automated-employment-decision-tools-updated/">https://rules.cityofnewyork.us/rule/automated-employment-decision-tools-updated/</a>. Aceso em 23/09/2023.
<a class="sdfootnotesym" href="#sdfootnote4anc" name="sdfootnote4sym">[4] </a>EU AI Act: first regulation on artificial intelligence. Disponível em:<a href="https://limafeigelson-my.sharepoint.com/personal/flavia_castro_limafeigelson_com_br/Documents/EU%20AI%20Act:%20first%20regulation%20on%20artificial%20intelligence.%20Dispon%C3%ADvel%20em:https:/www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence">https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence</a>. Acesso em 23/09/2023.
<a href="https://limafeigelson-my.sharepoint.com/personal/flavia_castro_limafeigelson_com_br/Documents/EU%20AI%20Act:%20first%20regulation%20on%20artificial%20intelligence.%20Dispon%C3%ADvel%20em:https:/www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence">https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence</a>. Acesso em 23/09/2023.
<div id="sdfootnote5">
<a class="sdfootnotesym" href="#sdfootnote5anc" name="sdfootnote5sym">[5]</a> Ethics By Design and Ethics of Use Approaches for Artificial Intelligence, Version 1.0, 25 November 2021. Disponível em: <a href="https://ec.europa.eu/info/funding-tenders/opportunities/docs/2021-2027/horizon/guidance/ethics-by-design-and-ethics-of-use-approaches-for-artificial-intelligence_he_en.pdf">https://ec.europa.eu/info/funding-tenders/opportunities/docs/2021-2027/horizon/guidance/ethics-by-design-and-ethics-of-use-approaches-for-artificial-intelligence_he_en.pdf</a>. Acesso em 23/09/2023
</div>

possessed-photography-rDxP1tF3CmA-unsplash

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Abordagens de Ethics By Design para um futuro mais justo e responsável

Ética na inteligência artificial

Abordagens de Ethics By Design para um futuro mais justo e responsável na utilização da inteligência artificial