Renato Opice Blum

Mauro Roberto Martins Junior

No próximo dia 30 de novembro, o ChatGPT completará 3 anos e essa data deve ser um marco na adoção e uso de <a href="https://www.jota.info/tudo-sobre/Intelig%C3%AAncia%20artificial%20generativa">Inteligência artificial generativa</a> nas organizações.
Ao longo desse período, acompanhamos diversas fases e sentimentos em relação à nova tecnologia, do deslumbramento inicial à desilusão com as alucinações, passando por grandes promessas, como o DeepSeek, e expectativas não atendidas, como a automação com agentes de IA e o ChatGPT-5.
<h3><a href="https://www.jota.info/produtos/poder?utm_source=cta-site&amp;utm_medium=site&amp;utm_campaign=campanha_poder_q2&amp;utm_id=cta_texto_poder_q2_2023&amp;utm_term=cta_texto_poder&amp;utm_term=cta_texto_poder_meio_materias">Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas</a></h3>
De fato, o relatório divulgado pelo MIT (Massachusetts Institute of Technology) em julho desse ano reportou que 95% das iniciativas de implementação de IA nas empresas falharam. O relatório conclui, ainda, que a principal barreira para o sucesso dos projetos foi a falta de aprendizado e a má integração aos fluxos de trabalho.
Em outras palavras, a implementação acelerada e sem estratégia não só é um desperdício de recursos, como também coloca as empresas em risco, uma vez que o insucesso das iniciativas internas estimula a “shadow AI”, pois os colaboradores acabam usando a IA em contas pessoais, sem o conhecimento e consentimento da gestão, afirma o estudo.
<h3>Adoção estratégica da IA Generativa </h3>
Em primeiro lugar, não há como se falar em adoção estratégica de uma nova tecnologia sem entender como ela funciona. É urgente que toda a liderança das empresas seja treinada para entender o que é a Inteligência Artificial, como ela funciona, seus reais potenciais e suas limitações e riscos.
Somente desse modo os líderes conseguirão identificar corretamente onde e como adotar IA em suas operações de forma adequada.
Uma vez que o letramento em Inteligência artificial tenha sido feito com a liderança, chega-se ao momento de pensar em Governança.
<h3>Ética e Governança na adoção da IA Generativa </h3>
Quando falamos em Governança, estamos nos referindo a um conceito amplo e que envolve processos, diretrizes e estruturas organizacionais que garantem a adoção de IA de maneira ética, segura, transparente e eficiente.
<h3><a href="https://t.me/jotanotelegram">Inscreva-se no canal do JOTA no Telegram e acompanhe as principais notícias, artigos e análises!</a></h3>
Essa amplitude abrange desde a implementação de Políticas Internas de Uso de Inteligência artificial até a criação de um processo robusto de seleção de fornecedores desse tipo de tecnologia.
E, para projetar um Programa de Governança em IA Generativa adequado, as empresas podem seguir diversas orientações, de fóruns internacionais a organizações de classe.
A OCDE, por exemplo, publicou em 2019 o seu “OECD AI Principles”, que é considerado o primeiro padrão intergovernamental sobre IA.
Uma empresa pode se orientar por um dos cinco princípios propostos pela OCDE, engajando-se proativamente na gestão responsável de uma IA confiável e utilizar a IA para revigorar o crescimento inclusivo e o bem-estar, aumentar as capacidades humanas, aprimorar a criatividade dos colaboradores (Princípio da Gestão Responsável).
Outra ótima referência para fins de Governança é “Recommendation on the Ethics of Artificial Intelligence” da UNESCO, que foi adotada em 2021 e é aplicável a todos os 194 Estados-membros.
Um dos valores que a UNESCO destaca é o respeito ao direito à privacidade e proteção de dados pessoais no desenvolvimento e uso da IA, pois se trata de um direito essencial para proteger a dignidade, a autonomia e a capacidade de ação humanas.
<h3><a href="https://conteudo.jota.info/marketing-lp-newsletter-ultimas-noticias?utm_source=jota&amp;utm_medium=lp&amp;utm_campaign=23-09-2024-jota-lp-eleicoes-2024-eleicoes-2024-none-audiencias-none&amp;utm_content=eleicoes-2024&amp;utm_term=none">Assine gratuitamente a newsletter Últimas Notícias do JOTA e receba as principais notícias jurídicas e políticas do dia no seu email</a></h3>
Nessa linha, o uso do Sora (ferramenta da OpenAI) para fins de criação de vídeos em que se “revive” celebridades falecidas como Whitney Houston, Michael Jackson, Robin Williams e Martin Luther King Jr. poderia ser considerada não só uma violação ética, como uma falta de respeito à memória das pessoas.
Saindo de uma abordagem mais principiológica e de valores para chegar em questões mais táticas e operacionais, temos as normas e padrões da ISO como maiores referências.
Em primeiro lugar, temos a ISO/IEC 42001, que é uma norma internacional que especifica os requisitos para estabelecer, implementar, manter e melhorar continuamente um Sistema de Gestão de Inteligência artificial (AIMS) dentro das organizações.
Ela pode ajudar, por exemplo, na criação de um comitê de IA liderado por executivos seniores para supervisionar projetos referentes à adoção dessa tecnologia. Já a ISO/IEC 23894:2023 foca no gerenciamento de riscos e fornece orientações às organizações que desenvolvem, produzem, implantam ou usam produtos, sistemas e serviços de Inteligência Artificial.
Com ela, a empresa pode identificar mais adequadamente perigos como o viés e a discriminação, data drift, model drift, ataques adversariais, alucinações, falta de rastreabilidade/explicabilidade, dependência de fornecedores, falhas de segurança e privacidade, entre outros.
No que se refere aos cuidados necessários para contextos específicos, tais como no exercício de profissões regulamentadas, a organização também pode localizar recomendações de ética e governança.
<h3><a href="https://whatsapp.com/channel/0029VaFvFd73rZZflK7yGD0I">Inscreva-se no canal de notícias do JOTA no WhatsApp e fique por dentro das principais discussões do país!</a>  </h3>
Um exemplo é o uso de IA Generativa pelo departamento jurídico. De acordo com as Recomendações do Conselho Federal da Ordem dos Advogados do Brasil (<a href="https://www.jota.info/tudo-sobre/CFOAB">CFOAB</a>), os advogados devem ter diligência na escolha do sistema de IA para garantir que o fornecedor do produto irá proteger informações colocadas no sistema, adotar medidas de segurança e possibilitar a não utilização dos dados fornecidos para treinamento dos sistemas.
Por fim, não há como se falar em governança e não mencionar a busca pela conformidade com a legislação.
Embora ainda não tenhamos no Brasil uma lei específica para regulamentar a Inteligência Artificial, isso não significa que faltem elementos nos quais as empresas possam se apoiar.
Primeiro, porque a adoção e uso da IA deve respeitar a Constituição e todas as demais leis vigentes, como Código Civil, Código Penal, Código de Defesa do Consumidor, Marco Civil da Internet, Lei Geral de Proteção de Dados, entre tantas outras.
Ademais, mesmo legislações estrangeiras podem indicar caminhos para um programa de Governança eficiente. Uma delas, com certeza, é o AI Act 8, que é primeiro regulamento sobre inteligência artificial do mundo, adotado pela União Europeia, inspirando fortemente o <a href="https://www25.senado.leg.br/web/atividade/materias/-/materia/157233">PL 2338 de 2023</a>, hoje o principal projeto de lei sobre o tema no Brasil.
Portanto, depois de três anos de amadurecimento e de tantos casos de uso indevido da IA, diversas são as fontes de orientações sobre como evitá-los.
Em um mundo dinâmico e competitivo, onde as empresas precisam inovar e otimizar suas operações com uma frequência cada vez maior, a adoção da Inteligência artificial é vista como um caminho lógico e obrigatório.
No entanto, se essa adoção não for realizada de uma forma estratégica, ética e com governança, toda economia realizada pode se tornar prejuízo, toda ação de marketing focada em inovação pode se tornar uma crise de reputação e, ao final, a “experimentação” pode sair cara.
Existe um provérbio que diz que o inteligente aprende com seus erros e o sábio aprende com o erro dos outros. Já há um histórico de erros cometidos por diversas empresas ao redor do mundo, você pode agir preventivamente e evitar cair nas armadilhas já conhecidas.

chatgpt (3)

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Com o fim da fase de testes e experimentação, o momento é de adotar IA generativa com estratégia, ética e governança

Errar com IA deixa de ser opção

Com o fim da fase de testes e experimentação, o momento é de adotar IA generativa com estratégia, ética e governança