Opinião & Análise

Tecnologia

A responsabilidade da máquina e o dilema da proteção ao consumidor

Uma análise sobre o futuro do mercado inteligente

Imagem: Pexels

Em março de 2018, houve o primeiro caso de acidente fatal envolvendo veículos autônomos. Uma pedestre foi atropelada por um carro autônomo sendo testado pela empresa Uber, em Phoenix, no estado norte-americano do Arizona. Ela não resistiu e veio a falecer em razão dos ferimentos.i Tal acontecimento, apesar de não devidamente divulgado pela mídia, demonstrou a já existente necessidade de se refletir acerca da responsabilidade civil pelos prejuízos causados por tecnologias de inteligência artificial (IA).

O âmbito em que tal discussão, nitidamente, se faz mais do que bem-vinda, é o do mercado consumerista. A maioria das relações envolvendo os sistemas de IA já possui origem neste ambiente e, à medida em que houver a venda em massa de dispositivos de IA mais avançados, neste cenário é que também veremos a maior ocorrência de danos.

Vale mencionar que já se é possível observar diversas interações entre homem e IA nesse sentido. Temos os serviços de assistentes pessoais, como a SIRI, CORTANA ou ALEXA. Além disso, empresas de streaming de vídeo e música, como o Netflix, Spotify e YouTube, já contam com sistemas baseados em IA. As redes sociais também já fazem uso diversificado de algoritmos de IA, a fim de gerenciar o que deve ser mostrado ou sugerido nas páginas principais de seus usuários.ii

Ademais, uma das áreas mais visadas para a aplicação da IA são os veículos autônomos. Empresas como a Google, Tesla, Uber, dentre outras, inclusive montadoras, como a Volkswagen, investem pesado neste setor, podendo-se falar atualmente em uma verdadeira corrida pelo lançamento de veículos autônomos no mercado.iii

Cumpre destacar que, mais recentemente, em dezembro de 2018, a empresa Waymo, pertencente à holding Alphabet.inc (a mesma que controla a Google), lançou o primeiro serviço de transporte mediante veículos autônomos do mundo. O serviço, ainda em fase de testes, já está funcionando em uma área de quatro bairros em Phoenix, no estado norte-americano do Arizona. Apesar de ainda existir um motorista humano ao volante, este apenas deve intervir em casos emergenciais, sendo todo o controle e direção do automóvel feitos pela tecnologia de IA.iv

Nessa linha, se faz importante demonstrar, brevemente, o que vem a ser essa tal de inteligência artificial. Termo cunhado em 1956v, a inteligência artificial se refere, primordialmente, a sistemas computacionais capazes de funcionar de maneira parcialmente ou completamente autônoma, ou seja, com mínima ou sem qualquer tipo de interferência humana. São máquinas que podem, autonomamente, executar tarefas características da inteligência humana, como planejamento, compreensão de linguagens, reconhecimento de objetos e sons, solução de problemas, tomada de decisões, dentre inúmeras outras.vi Além disso, são capazes de exercer a autoaprendizagem. Assim, a partir de seus equívocos, tornam-se cada vez mais eficientes em suas tomadas de decisões ou execução de tarefas.

Todavia, há uma grande problemática que surge a partir do maior estudo e desenvolvimento da capacidade de funcionamento autônomo dos sistemas de IA. Atualmente, existem sistemas tão avançados que são capazes de executar ações ou tomar decisões, as quais nem mesmo os seus próprios desenvolvedores sabem como tais ações foram executadas, nem o porquê o foram da maneira escolhida pela máquina, ou o porquê tal máquina tomou determinada decisão.

Tal fenômeno vem sendo chamado de Black Boxvii e ocorre, pois, atualmente, as tecnologias de IA mais avançadas funcionam com base no sistema do Deep Learning, que confere a estas esse alto grau de autonomia e complexidade. Este, uma forma de aprendizado da máquina, une um sistema de redes neurais artificiais com uma quantidade imensa de dados, permitindo que as tecnologias de IA apresentem uma capacidade cognitiva semelhante à do cérebro humano, a fim de interpretar e interligar dados.viii Portanto, observa-se que com as habilidades de auto treinamento e acúmulo de experiências acima demonstradas, as tecnologias de IA, especialmente as que se utilizam do Deep Learning, são capazes de adotar decisões completamente autônomas, independentes da vontade ou instruções inseridas por seus desenvolvedores.

Daí surge uma das grandes questões enfrentadas na atualidade: como responsabilizar os desenvolvedores ou fornecedores dessas tecnologias, por danos que estas venham a causar no mercado de consumo, uma vez que podem executar ações ou tomar decisões que nunca foram programadas, ou sequer imaginadas por seus criadores?

Nesse sentido, importantes pontos devem ser destacados. Primeiramente, o alto grau de autonomia é fundamental para o funcionamento eficiente dos sistemas de IA tendo em vista que são criados justamente para executar tarefas ou solucionar problemas de forma mais eficaz do que os seres humanos. Deve-se considerar que tal imprevisibilidade foi intentada, sendo de pleno conhecimento de seus desenvolvedores.

Entretanto, se o judiciário entender que determinados sistemas de IA possuem algoritmos tão imprevisíveis a ponto que seria injusto responsabilizar seus fornecedores pelos danos causados, as vítimas destes poderiam ficar sem qualquer possibilidade de compensação pelos prejuízos. Assim, deve haver uma possibilidade de responsabilização dos seus criadores, pois os indivíduos que venham a ser lesados por tais tecnologias não podem ser deixados sem qualquer tipo de reparação, sob pena de se conceder um “passe livre” à inserção de tecnologias perigosas na sociedade.

Todavia, tal responsabilização não pode ser excessiva, caso contrário poderá haver o engessamento do seu desenvolvimento, obstaculizando a evolução tecnológica. Finalmente, destaque-se que ainda não é possível atribuir responsabilidade a esses sistemas, pois, apesar de já existirem discussões neste sentidoix, ainda não são considerados sujeitos de direito, não possuindo personalidade, não podendo assim ter direitos ou obrigações que venham a ser a eles atribuídos.

Nessa linha, cabe ressaltar que, em 2017, o parlamento europeu aprovou a resolução (2015/2103(INL)), que contém recomendações à Comissão acerca de disposições de direito civil sobre robótica. Tal instrumento possui considerações e recomendações específicas acerca do tratamento quanto à responsabilidade civil aplicada à IA no âmbito da União Europeia, sendo, atualmente, o melhor exemplo de legislação internacional a ser usado como base para a discussão do tema no Brasil.1 (EU, 2017)x

Dessa forma, especificamente quanto à possibilidade de aplicação do fato do produto e fato do serviço no âmbito das relações consumeristas envolvendo tecnologias de IA, apesar da complexidade na aplicação da responsabilidade civil nestes casos, cabe afirmar que tal responsabilização se demonstra completamente possível.

Primeiramente, ressalte-se que há estudiosos que afirmam a impossibilidade de aplicação da responsabilidade consumerista pelo fato do produto ou do serviço nas hipóteses envolvendo sistemas de IA, uma vez que as decisões autônomas por eles adotadas não poderiam ser consideradas como “defeito”.xi Tal entendimento, porém, não se demonstra, do ponto de vista jurídico-normativo, completamente correto.

Conforme arts. 12 e 14 do CDC, sendo o principal elemento para responsabilizar os fornecedores, pelo fato do produto ou fato do serviço, a existência de um defeito que venha a causar danos aos consumidores, estes estudiosos afirmam que os prejuízos causados por determinada decisão autônoma tomada por um sistema de IA não podem resultar na responsabilização dos seus fornecedores, uma vez que, neste caso, não existiria defeito.

Tais sistemas foram criados justamente para funcionarem de forma autônoma. Uma decisão autônoma adotada por um sistema de IA é característica esperada e desejada por seus desenvolvedores, intrínseca ao seu próprio conceito. Pode-se ver tal capacidade como um risco inerente existente nestas máquinas, de acordo com o art. 8º do CDCxii, concluindo-se que os danos decorrentes de tal característica não poderiam ser considerados como originários de um defeito da máquina.

Basta imaginarmos a figura dos próprios carros autônomos. Certamente, é legitimamente previsível que um automóvel autônomo possa vir a colidir com outro veículo, ou com um muro, ou até mesmo possa atropelar determinado pedestre por acidente. Ora, tais possibilidades são razoáveis até mesmo para um automóvel comum, quem dirá então para os autônomos, devendo ser lembrado que os sistemas de IA não foram criados para serem completamente isentos de erros, perfeitos, mas sim para errarem menos do que os seres humanos.

Dessa maneira, realmente, não existirá defeito e, consequentemente, também não haverá responsabilidade dos desenvolvedores ou fornecedores destas tecnologias, nas hipóteses em que o dano decorra de uma decisão que possa ser razoavelmente esperada, considerando, principalmente, os usos, riscos e as finalidades para as quais foram programadas. Tal hipótese estará enquadrada dentro dos riscos inerentes, de normal previsibilidade, quando da utilização de tecnologias de IA, e que deverão ser ostensivamente informados pelos seus fornecedores, conforme art. 9º do CDCxiii.

No entanto, podem haver também decisões que não se enquadrarão dentro deste patamar de razoabilidade, fugindo à legítima expectativa do consumidor, e até mesmo dos próprios desenvolvedores dessas tecnologias, quanto às ações e decisões que poderiam ou deveriam por elas serem adotadas, e quanto ao nível mínimo de segurança que deveriam razoavelmente oferecer.

Voltando ao exemplo dos veículos autônomos, por certo, não é nada razoável que, por exemplo, um carro autônomo se lance de um penhasco ou de uma ponte, dirija para dentro do mar ou de um rio, ou então venha a atropelar violentamente inúmeros pedestres que transitam nas calçadas ou dentro de um shopping ou estabelecimento. Estas ações fogem completamente aos usos e riscos e à finalidade para qual tais automóveis foram integrados a um sistema de IA, que é simplesmente transportar um indivíduo do ponto A ao ponto B sem a necessidade de um motorista ao volante.

Tais ações resultarão em consequências completamente irrazoáveis e imprevisíveis, existindo assim, nestes casos, claro defeito do produto, conforme a conceituação jurídico-normativa presente nos arts. 12, §1º e 14, §1º, do CDC. Estas ações violarão a segurança que era legitimamente esperada pelo consumidor em relação ao produto ou serviço de IA considerando-se os próprios usos e riscos normalmente previsíveis quanto a sua utilização.

Assim, não são todas as decisões adotadas por sistemas de IA, e que ocasionem danos aos consumidores, que poderão resultar na responsabilização dos seus fornecedores. Mas sim, apenas as decisões ou ações que fujam à razoabilidade legitimamente esperada em relação, principalmente, aos riscos inerentes de determinado produto ou serviço de IA, não correspondendo aos riscos e segurança de normal expectativa por parte dos consumidores e fornecedores, nem às finalidades para a qual determinada IA foi programada.

Com efeito, decisões e ações adotadas pela IA que venham a resultar em danos a consumidores ou terceiros, e que fujam à legítima expectativa desses sujeitos, não podem, de maneira alguma, estar enquadradas dentro da ideia exposta de risco legitimamente esperado, uma vez que o art. 10/CDC estabelece que o fornecedor não poderá introduzir no mercado produto ou serviço que sabe ou deveria saber apresentar alta nocividade ou periculosidade à saúde ou segurança. Nessa linha, caso todas as decisões que viessem a ser adotadas pela IA fossem consideradas de normal previsibilidade por parte dos consumidores ou fornecedores, os produtos ou serviços que possuíssem tal sistema sequer poderiam ser comercializados.

Ademais, destaque-se que, além da possibilidade de responsabilização dos fornecedores por decisões adotadas pelas tecnologias de IA que podem ser enquadradas no conceito jurídico-legal de defeito, de acordo com o CDC, há também a possibilidade de aplicação das demais hipóteses de defeito, como o defeito de concepção, o defeito de fabricação, e o defeito de informação, nos casos em que o defeito não estiver relacionado ao produto ou serviço possuir ou funcionar integrado a um sistema de IA.

Diante de todo o apresentado, resta nítida a viabilidade em se aplicar as regras já existentes a respeito do fato do produto ou fato do serviço nas hipóteses de danos que resultem das interações envolvendo as tecnologias de IA e os seus consumidores. Apesar de, indubitavelmente, uma nova legislação específica sobre o tema ser essencial e mais adequada à regulamentação da matéria, faz-se necessário, enquanto esta não é criada, discutir e adequar as regras normativas já existentes a estes casos.

Certamente, o Brasil não deve permanecer inerte quanto a esse tema, devendo ser planejadas formas de regulamentar tais hipóteses antes mesmo que venham a se concretizar significativamente no mundo real. O desenvolvimento tecnológico, apesar de ter de prosseguir sob observação e cautela, é estritamente necessário, a fim de que a humanidade possa evoluir, alcançando melhores condições de vida em um futuro muito mais próximo do que imaginamos.

————————————–

1 Tais recomendações estão contidas no parágrafo “Z” e seguintes da Resolução do Parlamento Europeu com recomendações à Comissão de Direito Civil sobre Robótica (2015/2103(INL)).

i COMO foi o atropelamento mortal do carro autônomo da Uber. Publicado na El País, em 22 mar 2018. Disponível em:

https://brasil.elpais.com/brasil/2018/03/22/videos/1521681970_604181.html. Acesso em: 25 jan 2019.

ii RONCOLATO, Murilo. Inteligência artificial: entre a próxima revolução tecnológica e o fim da humanidade. Publicada no portal Jornal Nexo, em 07 fev 2017. Disponível em: https://www.nexojornal.com.br/explicado/2017/02/07/Intelig%C3%AAncia-artificial-entre-a-pr%C3%B3xima-revolu%C3%A7%C3%A3o-tecnol%C3%B3gica-e-o-fim-da-humanidade. Acesso em: 25 jan 2019.

iii Webb, Alex. Na Corrida dos carros autônomos, montadoras deixam Apple e Google para trás. Publicado na Uol, em 25 mai 2018. Disponível em: https://carros.uol.com.br/noticias/bloomberg/2018/05/27/na-corrida-dos-carros-autonomos-montadoras-deixam-apple-e-google-para-tras.htm Acesso em: 25 jan 2019.

iv SAGE, Alexandria. Google lança o primeiro táxi sem motorista. Publicado na Época Negócios, em 05 dez 2018. Disponível em:

https://epocanegocios.globo.com/Tecnologia/noticia/2018/12/epoca-negocios-waymo-revela-servico-de-taxi-autonomo-no-arizona-para-clientes-pagantes.html. Acesso em: 25 jan 2019.

v RUSSEL, Stuart; NORVIG, Peter. Inteligência Artificial. 3. ed. trad. Regina Célia Simille de Macedo. São Paulo: Elsevier, 2013. Disponível em: https://kupdf.net/download/inteligencia-artificial-3a-ed-russell-stuart-norvig-peter-pdf_58e94208dc0d60b34dda97f4_pdf. Acesso em: 25 jan 2019.

vi ELIAS, Paulo Sá. Algoritmos e Inteligência Artificial exigem atenção do Direito. Publicado no portal ConJur, 20 nov 2017. Disponível em: https://www.conjur.com.br/2017-nov-20/paulo-sa-elias-inteligencia-artificial-requer-atencao-direito. Acesso em: 25 jan 2019.

vii Knight, Will. The Dark Secret At the Heart of AI. Artigo publicado no MIT Technology Review, 11 abr 2017. Disponível em: https://www.technologyreview.com/s/604087/the-dark-secret-at-the-heart-of-ai/ Acesso em: 25 jan 2019.

viii PIRES, Thatiane Cristina Fontão; SILVA, Rafael Peteffi da. A responsabilidade civil pelos atos autônomos da inteligência artificial: notas iniciais sobre a resolução do Parlamento Europeu. Artigo publicado na revista brasileira de políticas públicas, v. 07, n. 03, Dez 2017. Disponível em: https://www.publicacoesacademicas.uniceub.br/RBPP/article/view/4951/3643. Acesso em: 25 jan 2019.

ix Souza, Carlos Affonso. O debate sobre personalidade jurídica para robôs. Publicada no portal Revista JOTA, em 10 out 2017. Disponível em: https://www.jota.info/opiniao-e-analise/artigos/o-debate-sobre-personalidade-juridica-para-robos-10102017 Acesso em: 25 jan 2019.

x UE. Resolução do Parlamento Europeu – (2015/2103(INL)), de 16 de fev de 2017. Contém recomendações à Comissão de Direito Civil sobre Robótica. 2017. Disponível em: http://www.europarl.europa.eu/sides/getDoc.do?type=TA&reference=P8-TA-2017-0051&language=PT&ring=A8-2017-0005. Acesso em: 25 jan 2019.

xi ROBERTO, Enrico; CAMARA, Dennys. Danos causados por carros autônomos. Publicada no portal Revista JOTA, em 06 abr 2018. Disponível em: https://www.jota.info/opiniao-e-analise/artigos/danos-causados-por-carros-autonomos-06042018. Acesso em: 25 jan 2019.

xii Art. 8º. Os produtos e serviços colocados no mercado de consumo não acarretarão riscos à saúde ou segurança dos consumidores, exceto os considerados normais e previsíveis em decorrência de sua natureza e fruição, obrigando-se os fornecedores, em qualquer hipótese, a dar as informações necessárias e adequadas a seu respeito.

xiii Art. 9º. O fornecedor de produtos e serviços potencialmente nocivos ou perigosos à saúde ou segurança deverá informar, de maneira ostensiva e adequada, a respeito da sua nocividade ou periculosidade, sem prejuízo da adoção de outras medidas cabíveis em cada caso concreto.


Faça o cadastro gratuito e leia até 10 matérias por mês. Faça uma assinatura e tenha acesso ilimitado agora

Cadastro Gratuito

Cadastre-se e leia 10 matérias/mês de graça e receba conteúdo especializado

Cadastro Gratuito