Inteligência Artificial e formação danificada: aprendizagem profunda e ética rasa entre professores e alunos

Abstract

RESUMO Em tempos de conexão ininterrupta, consolida-se o denominado capitalismo de vigilância. Nesse estágio do modo de produção capitalista, o capital é produzido e reproduzido por meio do controle dos grandes dados (big data), que são obtidos através dos dispositivos de vigilância presentes tanto nos softwares algorítmicos, quanto nas câmeras de reconhecimento facial. Nesse contexto, insere-se o objetivo deste artigo: refletir sobre a forma como a utilização de dispositivos de decisão diretiva (directive decision devices), fundamentados nos princípios da Inteligência Artificial (IA), pode fazer com que um sistema de vigilância prevaleça entre professores e alunos, em detrimento de relações eticamente elaboradas entre ambos. Conclui- se que a chamada aprendizagem profunda, algoritmicamente produzida, deve ser repensada nos termos da revitalização da formação (Bildung), que questiona a pretensão de tal aprendizagem fomentar procedimentos éticos entre professores e alunos pautados num sistema de premiação e punição decorrente da vigilância digital ubíqua.ABSTRACT In times of uninterrupted connection, the so-called surveillance capitalism has been consolidated. At this stage of the capitalist mode of production, capital is produced and reproduced through the control of big data, which is obtained through the surveillance devices present in both algorithmic software and facial recognition cameras. In this context, the authors elaborated the following objective: to reflect on how the use of directive decision devices, based on the principles of Artificial Intelligence (AI), can make a surveillance system prevail between teachers and students, to the detriment of ethically developed relationships between them. We concluded that the so-called deep learning, which is algorithmically produced, must be rethought in terms of the revitalization of formation (Bildung), which questions the intention of such learning to foster ethical procedures between teachers and students based on a system of reward and punishment resulting from digital ubiquitous surveillance.