No dia 19 de março, nos Estados Unidos, ocorreu o primeiro acidente fatal envolvendo um pedestre e um carro autônomo. Elaine Herzberg, de 49 anos, atravessava uma rua mal iluminada quando foi atingida por um Volvo modificado para dirigir autonomamente. A motorista “reserva” que estava no veículo, exatamente para intervir em momentos de emergência, não o fez¹. Neste caso, o carro estava sendo testado pela Uber, mas diversas outras empresas, como Apple, Honda e Waymo², têm realizado testes com carros conduzidos parcial ou completamente por sistemas de inteligência artificial. A tragédia e o avanço da tecnologia reforçam a necessidade de discutir: quem seriam os responsáveis por esse acidente?

O incidente aconteceu no estado do Arizona. Mas e se tivesse ocorrido no Brasil? De que forma a legislação brasileira atual lidaria com a questão da responsabilidade civil envolvendo esse tipo de tecnologia? Neste artigo, tomando este acidente como base, intentamos uma introdução à problemática à luz das leis de responsabilidade civil do nosso país. Este artigo não buscará apontar quem, na prática, responderá por esse acidente de acordo com as leis do Estado do Arizona, nem explorará as dificuldades de imputação penal advindas da tragédia. Trata-se de uma tentativa de entender como e se a legislação brasileira pode responder aos desafios que os carros autônomos impõem ao direito.

O grau de autonomia dos veículos

Carros imbuídos de inteligência artificial podem ser classificados a partir de seu grau de autonomia. A Society of Autonomous Engineers (SAE), sociedade de padronização de standards, popularizou a utilização de uma escala de autonomia que varia de 0 a 5. O zero faz referência a um veículo com funções automáticas básicas, como a emissão de alertas, enquanto o cinco se refere a veículos capazes de circular sem qualquer interferência humana e em qualquer situação³.

Essa distinção revela um aspecto importante da utilização desse tipo de tecnologia: muitas vezes, não atuará de forma verdadeiramente autônoma, sendo simplesmente complementar às atividades humanas. Pode-se pensar numa régua da “interação homem-máquina”⁴, situando-se as ações absolutamente independentes em somente um de seus extremos. É importante ter isso em mente ao se pensar em que extensão os seres humanos deverão responder pelas ações tomadas por tais sistemas, afinal, em regra, os indivíduos devem responder nos limites de sua esfera de atuação e controle. Essa discussão se torna especialmente relevante no momento em que se passa a discutir como e a quem imputar responsabilidade pelos danos causados por carros autônomos.

E se o acidente ocorresse no Brasil?

Carros autônomos, apesar de provavelmente serem mais seguros do que motoristas humanos⁵, ainda assim podem causar acidentes - o que tem, de fato, ocorrido. Abaixo, vamos tratar de como os preceitos brasileiros de responsabilidade subjetiva e objetiva poderiam recair sobre os danos causados nesse tipo de situação.

Sob a ótica da responsabilidade subjetiva, precisaríamos averiguar se houve negligência, imprudência ou imperícia por parte dos seres humanos envolvidos na questão, nos termos do Código Civil. A princípio, dois principais polos “humanos” estavam envolvidos: a motorista “reserva” que se encontrava no veículo e seus próprios desenvolvedores. Quanto à motorista, caso seu comportamento se enquadre em uma dessas categorias, poderia ser responsabilizada sob essa lei. Seria o caso, por exemplo, se tivesse ignorado luzes ou sinais de emergência, ou se pudesse ter evitado o acidente com sua intervenção. O teste de subsunção nesse caso é simples e conhecido do direito há séculos.

Além dessa possibilidade, a responsabilidade subjetiva também poderia recair sobre os fabricantes, produtores, programadores e todos os demais envolvidos no desenvolvimento desses veículos. No entanto, avaliar problemas de fabricação nesse tipo de produto pode ser atividade bastante dificultosa - como já é o caso com diversos outros sistemas de altíssima complexidade já em circulação no mercado. Essa dificuldade, entretanto, é fortemente agravada no caso de sistemas de inteligência artificial. A pluralidade de atores envolvidos no desenvolvimento dessas tecnologias⁶, assim como a dificuldade de compreender seu funcionamento interno e seus mecanismos de tomada de decisão, mesmo por parte de seus próprios desenvolvedores⁷ (problema a que se deu o nome de a “black box” da inteligência artificial), são desafios ainda a serem enfrentados. A verdade é que essa complexidade acentuada dificulta em muito o estabelecimento do nexo causal entre a atuação dos desenvolvedores e a decisão autônoma que levou ao dano – caindo por terra, com isso, a possibilidade de imputação de responsabilidade subjetiva a essas pessoas.

De qualquer maneira, a dificuldade em se estabelecer o nexo causal em uma cadeia complexa de produção é problema já conhecido do direito, por mais que tenha sido agravado com a introdução dos sistemas de inteligência artificial. Com efeito, historicamente, uma de suas soluções foi a criação da figura da responsabilidade objetiva, cuja mais célebre aplicação se encontra na forma da responsabilidade dos fornecedores por produtos que introduzem no mercado.

A responsabilidade objetiva, assim, poderia se apresentar como solução satisfatória. Na legislação brasileira, a responsabilidade por danos decorrentes de defeitos de fabricação encontra respaldo no Código de Defesa do Consumidor (CDC). O seu art. 12 aponta que “produto é defeituoso quando não oferece a segurança que dele legitimamente se espera.” Assim, se quiséssemos aplicar essa lei contra a Uber, deveríamos utilizar o argumento de que os danos causados pelo seu carro autônomo decorrem de um “defeito”. Essa argumentação, no entanto, não é tão simples.

Em especial, devemos entender que uma decisão autônoma, por parte de um sistema de inteligência artificial, é característica esperada e desejada desse tipo de sistema, e que equipará-la a um defeito seria distorcer a letra da lei. Com efeito, a capacidade de tomar decisões por si própria é exatamente o que se espera desse tipo de tecnologia. Numa perspectiva técnica, o nível de segurança esperado de carros autônomos jamais será absoluto: sempre haverá a chance de acidentes, mesmo que em quantidade menor do que a esperada de condutores humanos. Por isso, é difícil afirmar que uma decisão autônoma por parte de um sistema de inteligência artificial constitui um erro ou defeito: essa capacidade é um efeito esperado e desejado desse tipo de sistema, e a existência de riscos em tais decisões é reconhecida, aceita, e tecnicamente impossível de se afastar.⁸ Por outro lado, pode-se dizer que o CDC, na verdade, faz referência à perspectiva microscópica: refere-se à expectativa de segurança de um produto individualmente considerado. E, é claro, espera-se que carros autônomos não atropelem pedestres. A inexistência de defeito, no entanto, não convence por essa argumentação.

Chegamos então num impasse. É claro que há um risco na introdução de carros autônomos no mercado. E a existência de um risco é exatamente uma das razões nas quais se fundamenta a responsabilidade objetiva do CDC⁹. Isso poderia, principiologica e teleologicamente, fundamentar uma responsabilidade objetiva por parte de quem introduz esse risco. A figura prevista no CDC, no entanto, não foi pensada para esse tipo de situação, e não poderia abarcá-la. Claudia Lima Marques¹⁰ ressalta, por exemplo, que o dever de segurança é “de todos os fornecedores que ajudam a introduzir (atividade de risco) o produto no mercado”, mas que “só haverá violação deste dever, nascendo a responsabilidade de reparar os danos, quando existir um defeito no produto. (...) No sistema do CDC, pode haver o dano e o nexo causal entre o dano e produto (...), mas se não existir o defeito, não haverá obrigação de reparar.” (grifos nossos)

Uma aplicação meramente teleológica da lei, que abrisse mão do conceito de defeito para responsabilizar a empresa, poderia também ser tentada pelos tribunais. Isso porque, com efeito, cria-se uma atividade de risco por cujos danos só muito dificilmente se encontrarão pessoas capazes de serem responsabilizadas subjetivamente. Talvez seja o caso, de fato, da criação legislativa de um novo tipo de responsabilidade objetiva¹¹. Por mais que a admissibilidade de uma tal interpretação seja profundamente questionável, vamos considerá-la, hipoteticamente, para que continuemos com nosso exercício de subsunção.

Assim, se entendermos que o CDC é aplicável ao caso, a discussão precisaria se voltar, neste momento, à apuração da conduta da própria pedestre, para averiguar se, nos termos do CDC, a culpa foi “exclusivamente do consumidor ou de terceiro”. Tratar-se-ia de excludente de responsabilidade objetiva sob o CDC, nos termos de seu Art. 12, §3º, III. A possibilidade de aplicação prática dessa excludente, no entanto, parece restrita. E ainda assim, de qualquer forma, os remédios apresentados pelo CDC não parecem ser uma resposta final adequada para o problema, o que impõe a necessidade de se pensar em novas soluções normativas para a questão da responsabilização civil em casos de acidentes envolvendo carros autônomos.

Legislação Existente

No resto do mundo, a discussão acerca da modalidade de responsabilização por danos causados por sistemas de inteligência artificial já tem ganhado força, apesar de se limitar, por enquanto, aos carros autônomos. É de se notar a legislação existente no que diz respeito à responsabilidade subjetiva, que cria deveres de conduta dos indivíduos envolvidos no desenvolvimento e na operação desses carros, como é o exemplo da legislação da Califórnia¹², que estabelece uma série de deveres e obrigações para os motoristas “reserva” e para as empresas fabricantes, cujo descumprimento poderia, teoricamente, fundamentar sua responsabilização. No extremo oposto encontra-se a legislação do Arizona – onde ocorreu o acidente –, que exige apenas uma licença veicular comum das empresas para circular com os carros autônomos.

Quanto à responsabilidade objetiva, ainda não há norma em vigor que crie uma modalidade de responsabilização específica para carros autônomos. Nesse caso, haveria a possibilidade de aplicação da legislação consumerista, que no Brasil não se mostra adequada, pelos motivos acima mencionados.

Por fim, um exemplo de abordagem alternativa é o projeto de lei atualmente em discussão na Alemanha, que trata da questão a partir de uma perspectiva ética. Diante de uma situação extrema, como deve o carro autônomo estar programado para decidir? Deverá optar entre matar uma pessoa ou outra? A solução alemã é uma regulação que determina que o veículo seja programado para tomar a decisão capaz de gerar menor dano¹³.

Conclusão

O acidente fatal envolvendo um carro autônomo foi o primeiro do que podem vir a ser outros diversos casos. A implementação e popularização da inteligência artificial no mercado apresenta diversos desafios que ainda não encontram respostas, seja pela complexidade técnica da questão, seja pela inadequação dos instrumentos legais atuais para lidar com essa vanguarda. O direito precisa buscar respostas satisfatórias para essa realidade que se aproxima em passos largos de nosso cotidiano.

---------------------------------

1 LEVIN, Sam. “Video released of Uber self-driving crash that killed woman in Arizona”. The Guardian, 2018. Disponível em: https://www.theguardian.com/technology/2018/mar/22/video-released-of-uber-self-driving-crash-that-killed-woman-in-arizona. Acesso em 27.03.2018.

2 STEWART, Jack. “Mapped: The Top 263 Companies Racing Toward Autonomous Cars”. Wired, 2017. Disponível em: https://www.wired.com/2017/05/mapped-top-263-companies-racing-toward-autonomous-cars/ . Acesso em 28.03.2018.

3 Disponível em: https://cyberlaw.stanford.edu/files/blogimages/LevelsofDrivingAutomation.pdf. Acessado em 28.03.2018

4 JOURDAN, Frank; MATSCHI, Helmut. “Automatisiertes Fahren – Wie weit kann die Technik den Fahrer ersetzen? Entwickler oder Gesetzgeber, wer gibt die Richtung vor?” 2015, Göttingen, Neue Zeitschrift für Verkehrsrecht, p. 28.

5 SMITH, Bryant W. “Automated Driving And Product Liability”. Michigan State Law Review, 2017, Vol. 1, pp. 16, 17.

6 Tendo em vista que o poder de decisão da máquina deriva de uma pluralidade de atores e tecnologias, se torna praticamente impossível identificar um responsável direto por uma determinada decisão da máquina. Esse problema de identificação se intensifica quando pensamos no contexto de abertura e acessibilidade ao know-how necessário para o desenvolvimento dessa tecnologia. SCHERER aponta que: “The participants in an AI-related venture may also be remarkably diffuse by public risk standards. Participants in an AI-related project need not be part of the same organization — or, indeed, any organization at all. Already, there are a number of open-source machine- learning libraries; widely dispersed individuals can make dozens of modifications to such libraries on a daily basis. Those modifications may even be made anonymously, in the sense that the identity in the physical world of individuals making the modifications is not readily discernible. The AI program itself may have software components taken from multiple such libraries, each of which is built and developed discretely from the others. An individual who participates in the building of an open-source library often has no way of knowing beforehand what other individuals or entities might use the library in the future. Components taken from such libraries can then be incorporated into the programming ofan AI system that is being developed by an entity that did not participate in assembling the underlying machine-learning library.” (SCHERER, Matthew U.: “Regulating artificial intelligence systems: risks, challenges, competencies, and strategies.” 2015, Harvard Journal of Law and Technology, Vol. 29, p. 370)

7 O problema da “caixa preta” consiste na grande dificuldade técnica de compreender o funcionamento da inteligência artificial, tendo em vista que o seu interior, onde ocorre o processamento, não pode ser esclarecido. As informações externas à máquina, chamados de inputs, são processadas por redes neurais artificiais que, em seguida, executam comandos necessários para uma determinada tarefa. Ainda não é possível refazer o caminho lógico que é processado nas redes neurais, de forma que é impossível determinar a razão da máquina ter executado uma determinada tarefa. Existe uma grande preocupação, legislativa e acadêmica, para tornar esse procedimento transparente. Na cidade de Nova Iorque, no Estados Unidos, por exemplo, a Lei nº 2018/49 busca estabelecer diretrizes que tornem esses processos mais transparentes. Veja por exemplo: KNIGHT, Will. “The Dark Secret at the Heart of AI” MIT Technology Review, 2017. Disponível em: https://www.technologyreview.com/s/604087/the-dark-secret-at-the-heart-of-ai/. Acesso em 28.03.2018.

8 Diversos autores já vêm apontando a existência desse “risco da autonomia” , o risco inerente à implementação e uso de sistemas autônomos. Por exemplo SCHERER, Matthew U.: “Regulating artificial intelligence systems: risks, challenges, competencies, and strategies.” 2015, Harvard Journal of Law and Technology, Vol. 29, p. 365 e TEUBNER, Gunther. “Digitale Rechtssubjekte? Zum privatrechtlichen Status autonomer Softwareagenten”. Disponível em <https://www.jura.uni-frankfurt.de/69768539/TeubnerDigitale-RechtssubjekteAcP-18Dez17.pdf> Último acesso em 24 de março de 2018.

9 MARQUES, Claudia Lima, BENJAMIN, Antônio Herman, MIRAGEM, Bruno. Comentários ao Código de Defesa do Consumidor. Editora Revista dos Tribunais, 3ª Edição, p. 381.

10 idem

11 SPINDLER, Gerald. “Roboter, Automation, künstliche Intelligenz, selbststeuernde Kfz: Braucht das Recht neue Haftungskategorien?” 2015, Computer und Recht 31(12), p. 766.

12 Disponível em: <https://www.dmv.ca.gov/portal/wcm/connect/a6ea01e0-072f-4f93-aa6c-e12b844443cc/DriverlessAV_Adopted_Regulatory_Text.pdf?MOD=AJPERES>. Último acesso em 24 de março de 2018

13 Disponível em: <https://www.bundestag.de/dokumente/textarchiv/2017/kw13-de-automatisiertes-fahren/499928>. Último acesso em 25 de março de 2018

Danos causados por carros autônomos

E se fosse no Brasil?