Alexandre R. Silva

Felipe Oriá

Rafael Garofano

Thiago Ferrarezi

O início do novo milênio marcou uma era de avanços extraordinários nas áreas de automação e <a href="https://www.jota.info/tudo-sobre/inteligencia-artificial">inteligência artificial</a>. Com a chegada de técnicas inovadoras, o gerenciamento baseado em dados e a criação de soluções tecnológicas têm gerado uma verdadeira revolução em todos os setores da economia. Dentre os temas mais destacados, encontram-se o uso de técnicas de inteligência artificial para identificar padrões e perfis de comportamento em conjuntos massivos de dados, bem como o desenvolvimento de algoritmos capazes de modelar informações e gerar decisões automatizadas. Esses avanços estão transformando a forma como as organizações operam, proporcionando eficiência, precisão e insights valiosos para impulsionar o progresso em um mundo cada vez mais conectado e tecnologicamente orientado. 
A inteligência artificial (IA) é um campo multidisciplinar que visa desenvolver sistemas computacionais capazes de executar tarefas que normalmente requerem a inteligência humana. Esses sistemas são projetados para aprender, raciocinar, perceber, compreender e tomar decisões de forma autônoma. A IA utiliza algoritmos complexos e técnicas de aprendizado de máquina para processar grandes volumes de dados e identificar padrões, possibilitando a realização de tarefas de maneira eficiente e precisa. Segundo Russell e Norvig (2016), a inteligência artificial pode ser dividida em duas categorias principais: IA fraca e IA forte. 
A IA fraca refere-se a sistemas que são projetados para realizar tarefas específicas com habilidade limitada, como reconhecimento de voz ou diagnóstico médico. Já a IA forte busca desenvolver sistemas capazes de simular a inteligência humana em todos os aspectos, incluindo o pensamento consciente e a compreensão do mundo. Minsky (1988) destaca que a inteligência artificial engloba áreas como aprendizado de máquina, processamento de linguagem natural, visão computacional, robótica e muito mais.
Esses campos de estudo se baseiam em algoritmos avançados, como redes neurais artificiais e algoritmos genéticos, que permitem aos sistemas de IA realizar análises complexas, identificar padrões e tomar decisões com base em dados. A inteligência artificial tem sido amplamente aplicada em diversas áreas, como medicina, finanças, indústria, transporte e assistentes virtuais. Autores como Kurzweil (2005) preveem que a IA terá um impacto cada vez maior na sociedade, transformando a forma como vivemos e trabalhamos. 
O aprendizado profundo, conhecido como deep learning, é uma abordagem avançada de inteligência artificial que utiliza redes neurais profundas para extrair informações significativas a partir de dados complexos. No entanto, é fundamental compreender que o aprendizado profundo é apenas uma ferramenta nas mãos dos seres humanos e não representa a existência de robôs autônomos capazes de pensar e executar tarefas por si mesmos, como muitas manchetes sensacionalistas podem sugerir. 
Conforme ressaltado por LeCun et al. (2015), os seres humanos desempenham um papel central na supervisão e na definição do uso das tecnologias de aprendizado profundo. É responsabilidade dos humanos determinar como e quando devemos aplicar essas técnicas, considerando os riscos envolvidos e os cuidados necessários em cada contexto. A inteligência artificial, incluindo o aprendizado profundo, é uma ferramenta poderosa que requer orientação ética e regulamentação adequada para garantir seu uso responsável e benéfico para a sociedade. 
Autores como Goodfellow et al. (2016) enfatizam que a implementação adequada do aprendizado profundo requer um entendimento abrangente de suas limitações e possíveis viéses. Os seres humanos devem estar atentos à interpretação e ao uso dos resultados gerados por sistemas de aprendizado profundo, considerando aspectos éticos, legais e sociais. A supervisão humana é essencial para garantir a transparência, a equidade e a segurança na aplicação dessas tecnologias. 
Mas nem tudo são flores, segundo Dora Kaufman (2022, pág. 108) "[...] os cientistas de tecnologia, seja na academia ou no mercado, não atentam para os impactos éticos e sociais dos sistemas que desenvolvem [...]" e é neste campo que a IA vem gerando uma série de preocupações mundo a fora. Muito além do armazenamento dos dados e da segurança da informação, a IA, que era utilizada para decisões de baixo risco (propagandas, filmes, músicas e demais aspectos), passou a integrar estratégias mercadológicas e soluções que agora começam auxiliar a definição da contratação de novos funcionários de uma empresa pelo setor de RH, sobre quem será autorizado a entrar em um país, quem se salvará em um acidente com um veículo autônomo, o escolhido para a próxima vaga do setor de emergência dos Hospitais, entre outras situações de alto risco. 
Coelho (2019) ressalta que a aplicação da ciência de dados e da inteligência artificial no Direito traz consigo uma série de benefícios e desafios. Ele destaca a capacidade dessas tecnologias de lidar com grandes volumes de dados e realizar análises preditivas, auxiliando na tomada de decisões jurídicas mais embasadas e eficientes. No entanto, o autor também alerta para os riscos e preocupações éticas relacionados ao uso dessas tecnologias. Ele menciona a importância de garantir a proteção da privacidade e dos direitos individuais dos cidadãos, bem como a necessidade de transparência e explicabilidade dos algoritmos utilizados. 
Essa é uma problemática sensível, tanto pelos aspectos técnicos de programação e construção dessas soluções, como pelas discussões legais e éticas. Com isso, vêm crescendo as demandas sociais e dos órgãos reguladores para a transparência, auditabilidade, explicação e revisão de decisões automatizadas, diante de alguns modelos considerados opacos ou black box, pela característica de não permitir o entendimento completo sobre como se chegou à determinada decisão ou quais os insumos, variáveis ou pontos que foram determinantes para compreender as decisões automatizadas. 
A inteligência artificial traz consigo uma série de desafios éticos que demandam atenção e reflexão cuidadosa. Dentre os problemas éticos associados à IA, destacam-se alguns aspectos fundamentais. Um deles é o viés e a discriminação algorítmica, em que os sistemas de IA podem reproduzir preconceitos e discriminações presentes nos conjuntos de dados utilizados para treiná-los. Isso pode resultar em decisões automatizadas injustas ou discriminatórias em áreas como recrutamento, justiça criminal e concessão de crédito. É essencial, portanto, garantir que os algoritmos sejam projetados de forma a serem justos, transparentes e imparciais (Floridi, 2019). 
Outro aspecto ético crucial diz respeito à privacidade e proteção de dados. A IA lida com grandes volumes de informações, frequentemente contendo dados pessoais sensíveis. Nesse contexto, é fundamental estabelecer salvaguardas adequadas para proteger a privacidade das pessoas, garantindo que os dados sejam utilizados de maneira consentida e segura. O mau uso ou a coleta indevida de dados podem comprometer a privacidade e violar os direitos individuais (Bostrom, 2014). 
A responsabilidade e a tomada de decisão também são questões éticas de extrema importância. Quando sistemas de IA autônomos tomam decisões sem intervenção humana, surge a necessidade de definir quem é responsável por eventuais erros ou danos causados por essas decisões. É essencial estabelecer marcos legais e éticos que regulem a responsabilidade dos sistemas de IA, garantindo a prestação de contas em casos de falhas ou consequências indesejadas. 
Além disso, a IA tem um impacto significativo no trabalho e na sociedade. A automação impulsionada pela IA pode substituir tarefas anteriormente desempenhadas por seres humanos, levando ao desemprego e a desigualdades socioeconômicas. É fundamental considerar as implicações sociais da IA e buscar soluções que garantam a inclusão e a proteção dos trabalhadores afetados, bem como a equidade na distribuição dos benefícios gerados pela tecnologia. 
Autores renomados, como Floridi (2019) e Bostrom (2014), dedicaram-se a explorar em suas obras os desafios éticos e filosóficos da IA. Suas contribuições fornecem insights valiosos sobre como abordar essas questões complexas, orientando a reflexão sobre os aspectos éticos envolvidos no desenvolvimento, implementação e uso responsável da inteligência artificial. 
Em conclusão, a discussão e análise dos problemas éticos da inteligência artificial são de extrema importância na sociedade contemporânea. Com o avanço rápido e abrangente da IA, é essencial refletir sobre os desafios que surgem em termos de viés algorítmico, privacidade, responsabilidade e impacto social. Ao abordar essas questões de forma adequada, é possível evitar consequências negativas e promover o desenvolvimento ético e responsável da IA. 
No contexto do Brasil e de outros países, a regulação desempenha um papel crucial na abordagem dos problemas éticos da IA. É fundamental que os governos estabeleçam políticas e leis que protejam os direitos dos indivíduos, incentivem a transparência dos algoritmos, garantam a privacidade dos dados pessoais e estabeleçam responsabilidades claras para as empresas e desenvolvedores de IA. Além disso, é necessário promover o debate público e a participação da sociedade na definição dessas políticas, garantindo uma abordagem democrática e inclusiva. 
Ao considerar os aspectos éticos da IA e buscar uma regulação adequada, podemos aproveitar todo o potencial da tecnologia de forma responsável e benéfica para a sociedade. A colaboração entre especialistas, pesquisadores, empresas, governos e a sociedade em geral é essencial para enfrentar os desafios éticos da IA e garantir que a tecnologia seja utilizada de maneira ética, justa e em consonância com os valores fundamentais de nossa sociedade.
*
Este artigo faz parte de uma série do Instituto Mirã publicados em conjunto com o <a href="https://www.xn--mir-ola.com/relat%C3%B3rioiabrasil">relatório “IA no Brasil: Desafios e Oportunidades”</a>.
<hr />
BOSTROM, N. Superintelligence: Paths, Dangers, Strategies. Oxford University Press, 2014.<span data-ccp-props="{&quot;201341983&quot;:0,&quot;335551550&quot;:6,&quot;335551620&quot;:6,&quot;335559685&quot;:560,&quot;335559738&quot;:240,&quot;335559739&quot;:240,&quot;335559740&quot;:240,&quot;335559991&quot;:280}"> 
COELHO, A. Z. A ciência de dados e a inteligência artificial no Direito em 2018. Instituto de Registro Imobiliário do Brasil. 2 jan. 2019. Disponível em: <a href="https://www.irib.org.br/noticias/detalhes/artigo-a-ciencia-de-dados-e-a-inteligencia-artificial-no-direito-em-2018-parte-i-undefined-por-alexandre-zavaglia-coelho">https://www.irib.org.br/noticias/detalhes/artigo-a-ciencia-de-dados-e-a-inteligencia-artificial-no-direito-em-2018-parte-i-undefined-por-alexandre-zavaglia-coelho</a>. Acesso em: 22 mai. 2023.<span data-ccp-props="{&quot;201341983&quot;:0,&quot;335551550&quot;:6,&quot;335551620&quot;:6,&quot;335559685&quot;:560,&quot;335559738&quot;:240,&quot;335559739&quot;:240,&quot;335559740&quot;:240,&quot;335559991&quot;:280}"> 
FLORIDI, L. The Fourth Revolution: How the Infosphere is Reshaping Human Reality. Oxford University Press, 2019.<span data-ccp-props="{&quot;201341983&quot;:0,&quot;335551550&quot;:6,&quot;335551620&quot;:6,&quot;335559685&quot;:560,&quot;335559738&quot;:240,&quot;335559739&quot;:240,&quot;335559740&quot;:240,&quot;335559991&quot;:280}"> 
GOODFELLOW, I. et al. Deep Learning. MIT Press, 2016.<span data-ccp-props="{&quot;201341983&quot;:0,&quot;335551550&quot;:6,&quot;335551620&quot;:6,&quot;335559685&quot;:560,&quot;335559738&quot;:240,&quot;335559739&quot;:240,&quot;335559740&quot;:240,&quot;335559991&quot;:280}"> 
KAUFMAN, Dora. Desmistificando a inteligência artificial. Belo Horizonte: Autêntica, 2022.<span data-ccp-props="{&quot;201341983&quot;:0,&quot;335551550&quot;:6,&quot;335551620&quot;:6,&quot;335559685&quot;:560,&quot;335559738&quot;:240,&quot;335559739&quot;:240,&quot;335559740&quot;:240,&quot;335559991&quot;:280}"> 
KURZWEIL, R. A era das máquinas espirituais: quando os computadores superarem a mente humana. São Paulo: Aleph, 2005.<span data-ccp-props="{&quot;201341983&quot;:0,&quot;335551550&quot;:6,&quot;335551620&quot;:6,&quot;335559685&quot;:560,&quot;335559738&quot;:240,&quot;335559739&quot;:240,&quot;335559740&quot;:240,&quot;335559991&quot;:280}"> 
LECUN, Y. et al. Deep learning. Nature, v. 521, n. 7553, p. 436-444, 2015.<span data-ccp-props="{&quot;201341983&quot;:0,&quot;335551550&quot;:6,&quot;335551620&quot;:6,&quot;335559685&quot;:560,&quot;335559738&quot;:240,&quot;335559739&quot;:240,&quot;335559740&quot;:240,&quot;335559991&quot;:280}"> 
MINSKY, M. The Society of Mind. New York: Simon &amp; Schuster, 1988.<span data-ccp-props="{&quot;201341983&quot;:0,&quot;335551550&quot;:6,&quot;335551620&quot;:6,&quot;335559685&quot;:560,&quot;335559738&quot;:240,&quot;335559739&quot;:240,&quot;335559740&quot;:240,&quot;335559991&quot;:280}"> 
RUSSELL, S.; NORVIG, P. Artificial Intelligence: A Modern Approach. 3rd ed. Upper Saddle River, NJ: Pearson, 2016.<span data-ccp-props="{&quot;201341983&quot;:0,&quot;335551550&quot;:6,&quot;335551620&quot;:6,&quot;335559685&quot;:560,&quot;335559738&quot;:240,&quot;335559739&quot;:240,&quot;335559740&quot;:240,&quot;335559991&quot;:280}">

inteligência artificial

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Abordagens e implicações na era digital

Reflexões éticas sobre a IA

Colaboração entre especialistas, empresas e a sociedade em geral é essencial para enfrentar desafios éticos da inteligência artificial