Penal em Foco

Penal em Foco

Veículos autônomos e Direito Penal

Conflito entre vidas: como programar os veículos autônomos para situações dilemáticas?

Crédito Pixabay

As relações entre veículos autônomos e Direito Penal estariam, há não muito tempo, mais ajustadas a um roteiro de ficção. Quem delas se ocupasse, seria imediatamente rotulado como cientista alheio à realidade, com pendor ao absenteísmo. O noticiário atual, contudo, sinaliza a eclosão de novos, urgentes e nada ficcionais desafios aos penalistas de nosso tempo: em maio de 2018, em Tempe, Arizona, um carro autônomo atropelou e matou um pedestre, apesar de o sistema ter detectado a vítima seis segundos antes da colisão.

Segundo dados revelados pela mídia, para reduzir o potencial de comportamento errático, os engenheiros da empresa de programação teriam desativado o sistema de freio de emergências que o veículo já possuía, porém não teriam programado o sistema para alertar o operador humano para freá-lo manualmente. Se esse sistema estivesse ativado, teria alertado o operador humano 1,3 segundos antes da colisão1.

No mês de março de 2019, divulgou-se a notícia de que a empresa responsável pela instalação e operação do sistema autônomo no veículo não enfrentaria consequências criminais em função do ocorrido; tal possibilidade não estaria, todavia, excluída no que diz respeito à pessoa que estava sentada atrás da direção2.

Em outro caso, uma outra companhia da indústria automobilística tem sofrido investigações relacionadas a danos causados por seus veículos quando possivelmente operavam em modo semiautomático. O último incidente ocorreu no dia 1º de março deste ano e matou o proprietário do veículo, que colidiu com uma carreta3.

A situação é paradoxal: de um lado, a introdução de veículos autônomos promete sedutoras taxas de redução de acidentes; de outro, coloca em xeque parte de nosso sistema de responsabilização penal e impõe a necessidade de revisar categorias centrais do direito penal.

Aqui, outro paradoxo: o penalista de nosso tempo que ignorar os problemas reais decorrentes da introdução dos veículos autônomos estará – este sim – incorrendo em irresponsável absenteísmo.

Esta não é, certamente, a primeira e nem será a última vez em que o Direito Penal se verá desafiado pelo imprevisível e acelerado desenvolvimento tecnológico.

Há não muito tempo, por exemplo, a dogmática do crime culposo teve de ser parcialmente repensada em face da intensificação do tráfego viário, fenômeno portentoso e, ao mesmo tempo, perigoso4. As mudanças atuais relevam-se ainda mais profundas. Ninguém haveria de discordar que o fenômeno contemporâneo da digitalização revolucionou irrevogavelmente todos os aspectos essenciais das relações humanas. A rigor, os impactos no âmbito da regulação jurídica em geral nada mais são do que a consequências de sua constante introdução nas relações humanas5.

Esses impactos se fazem sentir na, assim chamada, “internet das coisas6, no âmbito da segurança digital, em seu impacto para direitos individuais como o direito à privacidade e à autodeterminação informacional, na introdução de moedas e meios de pagamento puramente digitais, na introdução de máquinas autônomas (ou semiautônomas) que interagem com seres humanos etc.

Não surpreende que o direito penal, ramo destinado a tutelar precisamente esses aspectos essenciais da convivência humana7, seja convocado à discussão. Essas mudanças trazem consigo não só a possibilidade de novas formas de lesão a bens jurídicos tradicionais – novas formas de agressão à vida e à integridade física, como os exemplos que inauguram este texto demonstram –, como até mesmo a postulação de novos bens jurídicos e, ainda, de novos atores passíveis de responsabilização por danos ou ameaças a direitos de terceiros: os robôs.

A repercussão da digitalização no direito e, em especial, no direito penal é objeto de uma literatura já inabarcável8, que cobre tanto aspectos dos impactos já sentidos, como especulações clarividentes em torno do desenvolvimento digital futuro. As questões jurídicas pendentes de solução são multifacetárias – muitas delas compõem o livro recém organizado por estes subscritores, com o auxílio de jovens penalistas9, de título “Veículos autônomos e direito penal”.

Apenas para nos limitarmos às estruturas gerais do delito, no âmbito da tipicidade já se questiona se e quando os sistemas autônomos serão capazes de conduta no sentido penal: se definirmos a conduta penalmente relevante como aquela que é expressão de uma vontade dirigida a um fim, talvez, em futuro não muito distante, esses sistemas venham a ser dotados dessa capacidade10.

Uma discussão, aliás, que não é estranha aos juristas, basta estar atento ao debate acerca da mesma problemática no âmbito da responsabilidade penal de pessoas jurídicas, no qual se discute, justamente, sobre capacidade de ação e de culpabilidade. Ainda no âmbito da tipicidade, mas agora sob o aspecto da responsabilidade de pessoas naturais, a inserção de sistemas autônomos tem impacto na imputação dos resultados lesivos causados pela inserção dos veículos no tráfego viário (lesões corporais, mortes etc.) ao motorista, ao fabricante, ao distribuidor e ao programador desses sistemas. Discute-se aqui, para além do equacionamento da questão no âmbito da desaprovação do risco, especialmente, o título da imputação (se comissiva ou omissiva) e, também, a extensão da posição de garantidor desses atores, especialmente tendo em vista um fenômeno novo, que só essas tecnologias permitem, que é a manutenção de algum grau de controle sobre a máquina mesmo depois de ela ter saído fisicamente do âmbito de esfera do produtor/distribuidor11.

Outro impacto relevante se dá no âmbito do tipo subjetivo: a forma de imputação por excelência será a culposa, mas até que ponto a inserção de um sistema autônomo nos permitirá afirmar a previsibilidade exigida para a imputação culposa de um resultado? No âmbito da culpabilidade, a interposição do sistema autônomo tem, novamente, impacto sobre o requisito da previsibilidade individual para a culpabilidade pela conduta culposa.

Também aqui se discute a futura possibilidade de uma culpabilidade do próprio sistema, fundamento necessário para a aplicação de uma pena: serão esses sistemas capazes de reconhecer a qualidade indesejada de certos comportamentos, valorá-los desta forma e, então, evitarem sua repetição12?

Por fim, no âmbito da antijuridicidade, discute-se como programar os veículos autônomos para as situações dilemáticas e essa discussão merece um enfrentamento urgente13, sobretudo por ser um dos fatores centrais a emperrar a introdução desses veículos no tráfego viário.

À falta de um condutor humano, surge a seguinte pergunta: como deve o veículo se comportar diante de uma situação dilemática em que a lesão à vida, à integridade física ou ao patrimônio do passageiro e/ou de terceiros faz-se inevitável?

Uma resposta segura a essa indagação é condição inafastável para que os veículos possam ser introduzidos no tráfego viário. Afinal, é preciso estabelecer bases jurídicas sólidas para sua programação, de modo que aqueles envolvidos em sua pesquisa, fabricação, venda, manutenção e uso possam compreender os riscos – aqui, sobretudo os penais – e os deveres legais envolvidos na introdução da inteligência artificial no tráfego viário.14

Naturalmente, diante da inexistência (atual) de uma responsabilidade penal da própria pessoa jurídica para o casos de cometimento de delitos contra a vida ou integridade física, cumpre especular apenas a respeito da responsabilidade penal das pessoas naturais envolvidas na decisão de introduzir o veículo autônomo no mercado. Também o comprador do veículo deve estar ciente das decisões tomadas pelo programador: alguém compraria um veículo programado para matar os seus ocupantes em caso de situação dilemática?

A outra opção seria a de simplesmente renunciar à introdução de tais sistemas autônomos, o que talvez mereça o labéu de temerário em face da anunciada promessa de drástica redução de mortes no trânsito que advoga em seu favor15.

Muito embora uma solução global seja desejável – afinal, as indústrias automobilísticas atuam globalmente –, há que se respeitar o ordenamento jurídico nacional e suas peculiaridades, razão pela qual o estabelecimento de um debate nacional, mas que também leve em conta o debate estrangeiro, é recomendável.

E esse debate tem girando em torno, especialmente, de considerações de três ordens: a aplicabilidade do estado necessidade a essas situações, especialmente tendo-se em vista que, no caso dos veículos autônomos, o programador, que insere a regra no sistema no ambiente calmo de seu gabinete, não está na mesma situação do condutor humano, que tem de tomar uma decisão em face da eclosão imprevisível da situação dilemática; a colisão de deveres justificante, tema polêmico e carente de regulação explícita entre nós, na qual, não se podendo ainda identificar um perigo no sentido do estado de necessidade, há, contudo, dois deveres colidentes, o que caracterizaria justamente a situação do programador que tem de tomar a difícil decisão em favor de um desses deveres em um momento no qual a situação dilemática ainda não está posta; por fim, invoca-se a figura do risco permitido, atribuindo-se essa decisão ao legislador, a quem incumbiria a ponderação entre as perdas e os ganhos envolvidos por meio do estabelecimento de regras que permitissem ao programador tomar uma decisão antecipada quando da programação do veículo.

Como se vê, trata-se aqui dos bens jurídicos de maior significado, a vida e a integridade física. A balança a ser equilibrada exige do penalista responsabilidade, criatividade e sutileza: é preciso divisar formas de regulação que, de um lado, não tolham os irrecusáveis benefícios da evolução tecnológica, mas que, de outro, tampouco impliquem riscos intoleráveis para a convivência humana. Uma fatalista recusa a esse desafio imposto pela digitalização não parece ser uma opção inteligente16.

 

———————–

1 Uma notícia simplificada em https://www.usatoday.com/story/money/cars/2018/05/24/uber-self-driving-car-crash-ntsb-investigation/640123002/ (acesso em 19/03/2019). Detalhes no relatório preliminar da agência norte-americana de segurança no trânsito (NTSB) pode ser encontrado em https://www.ntsb.gov/news/press-releases/pages/nr20180524.aspx (acesso em 19/03/2019).

2 Esta a notícia: https://news.sky.com/story/uber-escapes-criminal-charges-over-deadly-self-driving-car-crash-11656733 (acesso em 19/03/2019). Infelizmente, não conseguimos localizar informações mais precisas acerca da razão pela qual se concluiu pela ausência de responsabilidade da empresa responsável pela instalação e operação do sistema autônomo no veículo.

3 Disponível em https://g1.globo.com/carros/noticia/2019/03/04/tesla-e-investigada-por-acidente-fatal-em-carro-da-montadora-na-florida.ghtml (acesso em 06/05/2019). Nesse caso, a companhia aconselha aos motoristas de tais veículos que mantenham as mãos no volante durante o uso do modo-semiautomático, não se tendo notícia, ainda, sobre se essa era a situação no momento do acidente.

4 Cf. a tradução brasileira do famoso artigo de Welzel, Revista de Direito Penal 31 (1971), p. 39.

5 Não só, mas também no âmbito da regulação ética, onde já se fala em ética de robôs (cf. Lin/Abney/Jenkins (ed.), Robot ethics 2.0: from autonomous cars to artificial intelligence, 2017).

6 Do inglês Internet of Things, ou, IoT, trata-se da ligação, em rede, de objetos físicos, veículos, prédios etc. que possuam sensores e que sejam capazes de coletar e transmitir dados. Melhor traduziria seu conteúdo semântico a expressão “internet nas coisas”, todavia a expressão ora empregada já se encontra consagrada.

7 Cf. por todos Roxin/Greco, Strafrecht AT I, 5a ed., München, 2019, § 2, nm. 14 e ss. (no prelo).

8 A literatura estrangeira é tão vasta que os autores preferem remeter o leitor às obras referidas no livro ESTELLITA, Heloisa, LEITE, Alaor (introd. e org.). Veículos autônomos e direito penal. São Paulo: Marcial Pons, 2019. Disponível em http://www.marcialpons.com.br/veiculos-autonomos-e-direito-penal/ (acesso em 06/05/2019).

9 Dispuseram-se a traduzir os artigos que compõem a coletânea os seguintes penalistas: Guilherme Goes, Izabele Kasecker, Mario Jorge, Orlandino Gleizer e Yuti Luz.

10 Discussão esta captada nos textos de Sabine Gless e Thomas Weigend e no de Eric Hilgendorf no livro acima referido, p. 37 ss, 65 ss.

11 Cf. os textos de Sabine Gless/Thomas Weigend, Eric Hilgendorf e Armin Engländer no livro acima referido, p. 37 ss, 65 ss. E p. 86 ss.

12 Cf. as ponderações de Sabine Gless/Thomas Weigend na obra e local referidos.

13 Os níveis de automação e autonomia variam de acordo com o veículo e o sistema nele instalado. Houve acidentes tanto com modelos operando em modo totalmente autônomo (o caso do Uber, no acidente de 18 de março de 2018), como com modelos operando em modo de piloto automático (casos envolvendo veículos da Tesla, nos acidentes de janeiro e maio de 2016 e março de 2018). No primeiro, a vítima foi um pedestre, nos três outros, o próprio motorista (cf. https://en.wikipedia.org/wiki/List_of_self-driving_car_fatalities; acesso em 14/01/2019).

14 Palmerini/Azzarri/ Barraglia et al., Regulating Emerging Robotic Technologies in Europe: Robotics facing Law and Ethics Funding. [s.l.: s.n.], 2014. Disponível em: <www.robolaw.eu>. Acesso em: 14 dez. 2018. Neste relatório, os autores voltaram os olhos para as questões legais mais ligadas aos aspectos de indenizações e propõem que se encontre um caminho legal que não obstaculize desenvolvimento da tecnologia, mas que proteja o consumidor. A vantagem aqui é que essas normas, uma vez estabelecidas, podem ser “diretamente incorporadas na tecnologia no sentido de que tanto o comando como sua obediência estão já incutidos na própria tecnologia” (p. 14).

15 Cf. Fridman/Brown/Glazer et al., MIT autonomous vehicle technology study: large-scale deep learning based analysis of driver behavior and interaction with automation. [s.l.: s.n.], 2018. Disponível em: https://arxiv.org/pdf/1711.06976.pdf (acesso em 14 jan. 2019).

16 Essa problemática e as diversas propostas para sua solução são objeto dos textos de Armin Engländer, Thomas Weigend, Tatiana Hörnle/Wolfgang Wohlers, Ivó Coca Vila e Luís Greco na obra já referida, p. 86 ss., p. 109 ss., p. 123 ss., p. 155 ss. e p. 191 ss.


Faça o cadastro gratuito e leia até 10 matérias por mês. Faça uma assinatura e tenha acesso ilimitado agora

Cadastro Gratuito

Cadastre-se e leia 10 matérias/mês de graça e receba conteúdo especializado

Cadastro Gratuito