“EM QUE POSSO AJUDAR?”: UMA REVISÃO INTEGRATIVA SOBRE AS IMPLICAÇÕES DA INTELIGÊNCIA ARTIFICIAL PARA A FORMAÇÃO ÉTICA NAS ENGENHARIAS
Palabras clave:
formação ética, Inteligência Artificial, Ensino de Engenharia, impactos sociotécnicosResumen
O avanço exponencial da Inteligência Artificial (IA) tem produzido transformações em diversos setores da sociedade. Nesse contexto, este artigo objetiva analisar, por meio de revisão integrativa da literatura, os impactos da IA na formação ética e na atuação profissional de engenheiros. A pesquisa baseou-se na síntese de 15 artigos e trabalhos publicados em anais de eventos internacionais. Os resultados indicam que a ascensão da IA impõe a necessidade de uma reavaliação da formação ética nas engenharias, tanto no âmbito acadêmico quanto na prática profissional. A literatura aponta que sistemas baseados em IA introduzem lacunas de responsabilização legal e semântica que tensionam as estruturas normativas tradicionais. Evidencia-se que a IA pode ser incorporada como ferramenta didática, por meio do raciocínio baseado em casos e de processos de deliberação estruturada. Conclui-se que a IA requer a ampliação do escopo formativo nas engenharias para além das competências técnicas e a reflexão crítica sobre os impactos ambientais, sociais, políticos e psicológicos do desenvolvimento tecnológico.
Referencias
BORG, A. M.; BAKER, J. E. Contemporary biomedical engineering perspective on volitional evolution for human radiotolerance enhancement beyond low-earth orbit. Synthetic Biology, v. 6, n. 1, p. 1-10, 2021.
BREUER, S. et al. How engineers' imaginaries of healthcare shape design and user engagement: a case study of a robotics initiative for geriatric healthcare AI applications. ACM Transactions on Computer-Human Interaction, v. 30, n. 2, art. 30, 2023.
BURTON, S. et al. Mind the gaps: assuring the safety of autonomous systems from an engineering, ethical, and legal perspective. Artificial Intelligence, v. 279, art. 103201, 2020.
ÇAYIR, A. A literature review on the effect of artificial intelligence on education. Journal of Human and Social Sciences, v. 6, n. 2, p. 276-288, 2023.
CHEN, L.; CHEN, P.; LIN, Z. Artificial intelligence in education: a review. IEEE Access, v. 8, p. 75264-75278, 2020.
DANAHER, J.; SÆTRA, H. S. Mechanisms of techno-moral change: a taxonomy and overview. Ethical Theory and Moral Practice, 2023.
DANIEL, T.; XUAN, J. Responsible use of generative AI in chemical engineering. Digital Chemical Engineering, v. 12, art. 100168, 2024.
DODIG-CRNKOVIC, G. Preparing next generation of software engineers for future societal challenges and opportunities. In: ACM SIGSOFT SYMPOSIUM ON SOFTWARE ENGINEERING FOR SOCIETY (SSE), 2015, Bergamo. Proceedings [...], p. 49–52. New York: ACM, 2015.
ERCOLE, F. F.; MELO, L. S. de; ALCOFORADO, C. L. G. C. Revisão integrativa versus revisão sistemática. REME – Revista Mineira de Enfermagem, v. 18, n. 1, 2014.
FORMOSA, P.; RYAN, M. Making moral machines: why we need artificial moral agents. AI & Society, 2020.
HARDEBOLLE, C.; HÉDER, M.; RAMACHANDRAN, V. Engineering ethics education and artificial intelligence. In: CHANCE, S.; BØRSEN, T.; MARTIN, D. A.; TORMEY, R.; LENNERFORS, T. T.; BOMBAERTS, G. (ed.). The Routledge International Handbook of Engineering Ethics Education, cap. 7, p. 125-141. London: Routledge, 2025.
HOESCHL, M. B.; BUENO, T. C. D.; HOESCHL, H. C. Fourth Industrial Revolution and the future of engineering: could robots replace human jobs? How ethical recommendations can help engineers rule on artificial intelligence. In: WORLD ENGINEERING EDUCATION FORUM (WEEF), 7., 2017, Daegu. Proceedings [...]. Daegu: IFEES, 2017.
KAZIM, E.; KOSHIYAMA, A. S. A high-level overview of AI ethics. Patterns, v. 2, n. 9, art. 100314, 2021.
KENGAM, J. Artificial intelligence in education. In: INTERNATIONAL CONFERENCE ON ARTIFICIAL INTELLIGENCE IN EDUCATION (AIED), 21., 2020. Proceedings [...]. Ifrane: Springer, 2020.
LEZ'ER, V. et al. Application of artificial intelligence in the field of geotechnics and engineering education. In: INTERNATIONAL SCIENTIFIC CONFERENCE ON ENERGY, ENVIRONMENTAL AND CONSTRUCTION ENGINEERING (SPBWOSCE), 2018, Saint Petersburg. E3S Web of Conferences, v. 110, art. 02094, 2019.
MCLAREN, B. M. Extensionally defining principles and cases in ethics: an AI model. Artificial Intelligence, v. 150, n. 1–2, p. 145-181, 2003.
PEREZ-CERROLAZA, J.; ABELLA, J.; BORG, M.; DONZELLA, C.; CERQUIDES, J.; CAZORLA, F. J.; ENGLUND, C.; TAUBER, M.; NIKOLAKOPOULOS, G.; FLORES, J. L. Artificial intelligence for safety-critical systems in industrial and transportation domains: a survey. ACM Computing Surveys, v. 56, n. 7, art. 176, 2024.
SCHUELKE-LEECH, B.-A.; LEECH, T. C.; BARRY, B.; JORDAN-MATTINGLY, S. Ethical dilemmas for engineers in the development of autonomous systems. In: IEEE INTERNATIONAL SYMPOSIUM ON TECHNOLOGY AND SOCIETY, 2018, Washington, DC. Proceedings [...]. Washington, DC: IEEE, 2018.
SUO, J. et al. Engineering safety and ethical challenges in 2045 artificial intelligence singularity. Sustainability, v. 16, art. 10337, 2024.
VERNIM, S. et al. A value sensitive design approach for designing AI-based worker assistance systems in manufacturing. Procedia Computer Science, v. 200, p. 505-516, 2022.
YUAN, Q. et al. Unveiling ethical AI: an in-depth bibliometric and visual exploration. Indian Journal of Pharmaceutical Education and Research, v. 58, n. 4, p. 1084-1101, 2024.
