Opinião & Análise

Tecnologia

Considerações sobre as implicações legais e éticas da utilização de robôs na educação

É importante a criação de marcos para regular sua utilização, à maneira do que foi feito por meio MCI e da LGPD

Crédito: PxHere

Robôs se tornaram parte do nosso cotidiano. Muitas vezes invisíveis, eles não lembram em nada os humanoides das narrativas de ficção científica nem mesmo outras materializações menos antropomórficas, como o maquinário de automatização industrial.

Os robôs que habitam nosso cotidiano se manifestam, predominantemente, de forma digital e em segundo plano, ocultos sob camadas mais visíveis de aplicativos que utilizamos todos os dias.

Instagram, YouTube, Twitter e Facebook são exemplos mais conhecidos de serviços em que uma profusão de robôs constituídos por algoritmos complexos atuam na coleta massiva e mineração de dados para construção de perfis e modelos comportamentais, cuja finalidade principal é implementar um behaviorismo digital que visa a condicionar (re)ações dos usuários de forma não coercitiva e com aparência de respeito à liberdade.[1]

Há lugares menos evidentes em que esses robôs podem ser encontrados. A Agência Pública noticiou que um grande grupo empresarial de educação privada usa robôs no lugar de professores, sem informar aos seus alunos, para corrigir atividades dissertativas em cursos de educação superior na modalidade EAD. Não bastassem as várias ressalvas pedagógicas sobre a utilização de robôs no processo de ensino-aprendizagem [2], a prática denunciada é ilegal e antiética.

A ilegalidade consiste, em primeiro lugar, na violação do art. 6º, inciso III, da Lei 8.078/90, que garante aos consumidores o direito básico de informação adequada e clara sobre os diferentes produtos e serviços, com especificação correta de quantidade, características, composição, qualidade, tributos incidentes e preço, bem como sobre os riscos que apresentem.

Esse dispositivo impõe às instituições de ensino superior (IES), prestadores de serviços educacionais, o dever de transparência em relação às suas práticas, o que inclui seus métodos e sistemas de avaliação de desempenho acadêmico dos alunos.

Em segundo lugar, a falta de transparência sobre a utilização de robôs na correção das atividades contraria o art. 3º, §1º, da Resolução CNE/CES nº 1, de 11 de março de 2016, que obriga as IES a detalharem, em seus documentos institucionais e acadêmicos, as metodologias e os recursos educacionais, que incluem os sistemas de acompanhamento e de avaliação de aprendizagem.

De acordo com essa normativa, não é suficiente que que esses documentos prevejam a utilização de ferramentas automatizadas de acompanhamento e avaliação de aprendizagem; é mister descrevê-las em detalhes.

As implicações éticas da prática denunciada, por sua vez, podem ser criticadas com base em três elementos: (i) os objetivos de quem projeta e utiliza os robôs, (ii) os efeitos que eles produzem e  (iii) as especificidades técnicas que lhes caracterizam. [3]

De acordo com a nota publicada pelo grupo empresarial citado na reportagem – que não nega a utilização dos robôs, ressalte-se –, a adoção de diversas tecnologias de informação e comunicação para acompanhamento e avaliação de aprendizagem visa a potencializar ainda mais a qualidade de ensino. A nota não explica, porém, como essas tecnologias podem potencializar a qualidade do ensino.

Por outro lado, com base nos relatos dos profissionais de educação, percebe-se que muito antes de potencializar, essas tecnologias prejudicam a qualidade do ensino, na medida em que submetem os alunos não a um processo crítico, reflexivo e emancipatório de ensino-aprendizagem, mas de adequação a padrões normativos maquínicos que vão de encontro às finalidades da educação superior, especialmente do art. 43, I, da Lei 9.394/96.

Esse prejuízo da qualidade do serviço educacional prestado vem à reboque da diminuição dos custos inerentes à atividade, especialmente com mão de obra docente qualificada. Nesse sentido, por não haver clareza sobre como essas tecnologias poderiam efetivamente contribuir para a potencialização da qualidade do ensino, não é possível descartar a hipótese de que sua utilização tenha como único objetivo cortar gastos.

Quanto ao segundo elemento, é importante verificar se são garantidas aos alunos condições para que eles possam criticar os resultados produzidos pelos robôs, o que pressupõe a transparência do funcionamento e das capacidades dessas tecnologias. Para tanto, é necessário que haja lealdade, entendida como um dever de informar aos usuários o que os robôs fazem e zelar para que eles façam o que foi informado que fariam.

No caso dos robôs que corrigem trabalhos sem que os alunos disso, é notória a ausência de lealdade. Como não há transparência sobre sua utilização, os alunos são destituídos de informações essenciais para criticar seus resultados, neste caso específico, as avaliações de textos.

Por fim, sobre o terceiro elemento, é preciso levar em consideração uma especifidade técnicas dos robôs que implica riscos à autonomia e a formação crítica dos alunos. Trata-se do caráter procedimental das regras de funcionamento e dos resultados dos robôs e seus algoritmos complexos.

O caráter procedimental significa que eles não compreendem semanticamente os dados que coletam e utilizam, mas tão somente de forma quantitativa. Noutras palavras, eles não são capazes de uma compreensão simbólica do mundo; limitam-se a verificar correspondências entre o texto produzido pelos alunos e uma base de dados que lhes serve de parâmetro para comparação.

Apesar disso, os resultados são compreendidos pelos alunos levando em consideração seu aspecto semântico e simbólico, cujas consequências escapam aos cálculos dos próprios robôs e seus algoritmos.[4]

Nesse sentido, o resultado de uma avaliação feita por um robô cuja existência o aluno ignora tende a gerar uma compreensão falsa sobre a natureza da sua nota. Ela representa não um reconhecimento em razão do desenvolvimento de um trabalho que atende às finalidades da educação superior, mas sim um simples resultado quantitativamente positivo da verificação de correlações entre o texto e a base de dados dos robôs.

Ela sinaliza, portanto, uma adequação inconsciente e passiva dos alunos a uma normatividade maquínica supostamente objetiva e neutra que exclui toda a alteridade.

Essas considerações demonstram os problemas legais e éticos implicados na utilização de robôs para avaliação acompanhamento e de avaliação de aprendizagem.

Elas denotam, ainda, não obstante as garantias da legislação atual, a importância da criação de marcos legais para regular a utilização dessas tecnologias, à maneira do que foi feito por meio Marco Civil da Internet e da Lei Geral de Proteção de Dados, o que proporcionaria maior segurança jurídica tanto para as pessoas expostas a essas tecnologias, como é o caso dos alunos, quanto para os seus proprietários e utilizadores, como é o caso das IES.

 


[1] ROUVROY, Antoinette; BERNS, Thomas, Governamentalidade algorítmica e perspectivas de emancipação: o díspar como condição de individuação pela relação?, Revista ECO-Pós, v. 18, n. 2, p. 36–56, 2015. Disponível em: <https://revistas.ufrj.br/index.php/eco_pos/article/view/2662>. Acesso em  03 mai. 2020.

[2] ROWE, Michael, Shaping Our Algorithms Before They Shape Us, in: KNOX, Jeremy; WANG, Yuchen; GALLAGHER, Michael (Orgs.), Artificial Intelligence and Inclusive Education: Speculative Futures and Emerging Practices, Singapore: Springer, 2019, p. 151–163.Disponível em: <https://link.springer.com/chapter/10.1007%2F978-981-13-8161-4_9>. Acesso em: 03 mai. 2020.

[3] CARDON, Dominique, Le pouvoir des algorithmes, Pouvoirs, v. 164, n. 1, p. 63, 2018. Disponível em: <https://www.cairn.info/revue-pouvoirs-2018-1-page-63.htm>. Acesso em: 03 mai. 2020.

[4] Sobre esse ponto, além do texto do Cardon, ver: INTRONA, Lucas D., Algorithms, Governance, and Governmentality: On Governing Academic Writing, Science Technology and Human Values, v. 41, n. 1, p. 17–49, 2016. Disponível em: <https://journals.sagepub.com/doi/10.1177/0162243915587360>. Acesso em: 03 mai. 2020.


Cadastre-se e leia 10 matérias/mês de graça e receba conteúdo especializado

Cadastro Gratuito