Diseño y desarrollo de software en la era de la IA: retos éticos, técnicos y operativo

Autores/as

  • Alexandra Guerra-Mera Carrera de Sistemas de Información, Escuela de Hábitat, Infraestructura y Creatividad, Pontificia Universidad Católica del Ecuador, Ambato 180207, Ecuador. Autor/a https://orcid.org/0009-0009-5079-7058
  • José Balseca-Manzano Carrera de Sistemas de Información, Escuela de Hábitat, Infraestructura y Creatividad, Pontificia Universidad Católica del Ecuador, Ambato 180207, Ecuador. Autor/a https://orcid.org/0000-0003-1517-0013

DOI:

https://doi.org/10.63957/arksis.v1i1.0005

Palabras clave:

inteligencia artificial, ética tecnológica, gobernanza operativa

Resumen

El diseño y desarrollo de software ha evolucionado hacia ecosistemas donde la Inteligencia Artificial (IA), particularmente la IA generativa y los modelos de lenguaje (LLMs), intervienen en actividades del ciclo de vida del software (SDLC) como ingeniería de requisitos, construcción, pruebas, despliegue y operación. Este estudio tuvo como objetivo identificar y sintetizar los principales retos técnicos, éticos y operativos asociados al uso de IA en el SDLC, así como las prácticas de control que permiten gestionarlos de manera responsable. Se aplicó un proceso de revisión basado en PRISMA para la identificación, cribado y elegibilidad de estudios, con criterios explícitos orientados a ingeniería de software (excluyendo dominios no relacionados). Los hallazgos muestran beneficios consistentes en productividad y soporte cognitivo (p. ej., generación/transformación de código, apoyo a pruebas y documentación), pero también riesgos recurrentes: introducción de vulnerabilidades por sugerencias no verificadas, alucinaciones, exposición de datos, dependencia tecnológica y degradación de habilidades. En el plano ético, se evidencian desafíos de trazabilidad, sesgo y rendición de cuentas, mientras que en el plano operativo se intensifica la necesidad de prácticas de MLOps/LLMOps, monitoreo, validación continua y gobernanza del uso de herramientas. Se concluye que el impacto positivo de la IA en ingeniería de software depende de marcos éticos aplicables, controles técnicos verificables y disciplina operativa sostenida.

Biografía del autor/a

  • Alexandra Guerra-Mera, Carrera de Sistemas de Información, Escuela de Hábitat, Infraestructura y Creatividad, Pontificia Universidad Católica del Ecuador, Ambato 180207, Ecuador.

    Alexandra del Pilar Guerra Mera es investigadora en el área de tecnologías de la información, con interés en el diseño y desarrollo de software en la era de la inteligencia artificial, así como en sus implicaciones éticas, técnicas y operativas. Su trabajo se orienta al análisis de buenas prácticas y enfoques responsables para la adopción de IA en el ciclo de vida del software.

  • José Balseca-Manzano, Carrera de Sistemas de Información, Escuela de Hábitat, Infraestructura y Creatividad, Pontificia Universidad Católica del Ecuador, Ambato 180207, Ecuador.

    José Marcelo Balseca Manzano es docente e investigador en la Pontificia Universidad Católica del Ecuador, Sede Ambato (PUCESA). Es Ingeniero en Sistemas y Computación y Magíster en Gerencia Informática con mención en Desarrollo de Software y Redes. Su trabajo se orienta a ingeniería de software, usabilidad y adopción responsable de IA en sistemas digitales.

Referencias

[1] A. Nguyen-Duc et al., “Generative Artificial Intelligence for Software Engineering—A Research Agenda,” Softw. Pract. Exp., Jul. 2025, doi: 10.1002/spe.70005.

[2] M. L. Siddiq, J. C. S. Santos, S. Devareddy, and A. Muller, “SALLM: Security Assessment of Generated Code,” in Proceedings of the 39th IEEE/ACM International Conference on Automated Software Engineering Workshops, Oct. 2024, pp. 54–65. doi: 10.1145/3691621.3694934.

[3] A. Sajadi, B. Le, A. Nguyen, K. Damevski, and P. Chatterjee, “Do LLMs consider security? an empirical study on responses to programming questions,” Empir Softw Eng, vol. 30, no. 4, p. 101, Jul. 2025, doi: 10.1007/s10664-025-10658-6.

[4] S. Westerstrand, “Fairness in AI systems development: EU AI Act compliance and beyond,” Inf. Softw. Technol., vol. 187, p. 107864, Nov. 2025, doi: 10.1016/j.infsof.2025.107864.

[5] M. Zarour, H. Alzabut, and K. T. Al-Sarayreh, “MLOps best practices, challenges and maturity models: A systematic literature review,” Inf. Softw. Technol., vol. 183, p. 107733, Jul. 2025, doi: 10.1016/j.infsof.2025.107733.

[6] K. Ahmad, M. Abdelrazek, C. Arora, M. Bano, and J. Grundy, “Requirements engineering for artificial intelligence systems: A systematic mapping study,” Inf. Softw. Technol., vol. 158, p. 107176, Jun. 2023, doi: 10.1016/j.infsof.2023.107176.

[7] M. J. Page et al., “The PRISMA 2020 statement: an updated guideline for reporting systematic reviews,” BMJ, vol. 372, p. n71, Mar. 2021, doi: 10.1136/bmj.n71.

[8] V. K. Singh, P. Singh, M. Karmakar, J. Leta, and P. Mayr, “The journal coverage of Web of Science, Scopus and Dimensions: A comparative analysis,” Scientometrics, vol. 126, no. 6, pp. 5113–5142, 2021.

[9] P. Mongeon and A. Paul-Hus, “The journal coverage of Web of Science and Scopus: a comparative analysis,” Scientometrics, vol. 106, no. 1, pp. 213–228, Jan. 2016, doi: 10.1007/s11192-015-1765-5.

[10] J. Horáková, “What can we learn from artificial intelligence about video art? Research on the Vasulka Live Archive; [¿Qué podemos aprender de la inteligencia artificial sobre el videoarte? Investigación sobre el archivo Vasulka Live],” Artnodes, vol. 2025-June, no. 36. 2025. doi: 10.7238/artnodes.v0i36.430699.

[11] X. Hou et al., “Large Language Models for Software Engineering: A Systematic Literature Review,” ACM Trans. Softw. Eng. Methodol., vol. 33, no. 8, pp. 1–79, Nov. 2024, doi: 10.1145/3695988.

[12] H. Cheng et al., “Generative AI for Requirements Engineering: A Systematic Literature Review,” Softw. Pract. Exp., vol. 56, no. 2, pp. 141–170, 2026, doi: 10.1002/spe.70029.

[13] C. K. Tantithamthavorn, F. Palomba, F. Khomh, and J. J. Chua, “MLOps, LLMOps, FMOps, and Beyond,” IEEE Softw., vol. 42, no. 1, pp. 26–32, Jan. 2025, doi: 10.1109/MS.2024.3477014.

[14] M. Souppaya, K. Scarfone, and D. Dodson, “Secure Software Development Framework (SSDF) Version 1.1: Recommendations for Mitigating the Risk of Software Vulnerabilities,” National Institute of Standards and Technology, NIST Special Publication (SP) 800-218, Feb. 2022. doi: 10.6028/NIST.SP.800-218.

Descargas

Publicado

2026-01-23

Número

Vol. 1 Núm. 1 (2026): La ciencia no conoce país, porque el conocimiento le pertenece a la humanidad y es la antorcha que ilumina el mundo

Sección

Artículo de revisión

Categorías

Licencia

Derechos de autor 2026 Revista de Ingeniería, Industria y Construcción

Creative Commons License

Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.

Revista Multidisciplinaria de Ingeniería e Industria © 2025 by PUCE sede Ambato está licenciada bajo CC BY 4.0

Los artículos publicados en ARKSIS se distribuyen bajo los términos de la Licencia Creative Commons Atribución 4.0 Internacional (CC BY 4.0), en específico los términos de la licencia oficial otorga permisos para:

A. Libertades que Usted Recibe (Derechos del Licenciatario):

  • Compartir: Copiar, redistribuir el material en cualquier medio o formato.
  • Adaptar: Remezclar, transformar y crear a partir del material para cualquier propósito, incluido el comercial.

B. Condición Única y Obligatoria:

  • Atribución (BY): Debe dar el crédito al autor de la manera especificada por el licenciante (la revista).

Así, en específico esta licencia permite crear obras derivadas (traducciones, resúmenes ampliados, nuevos análisis basados en los datos), para lo que es importante destacar:

  • Integridad Académica: Cualquier modificación debe ser claramente identificada como tal.
  • Atribución de la Fuente Original: La obra derivada debe citar el trabajo original de la forma especifica.
  • No Endoso Implícito: El hecho de permitir adaptaciones no significa que los autores o la revista avalen la obra derivada o su uso.

Cómo citar

[1]
A. Guerra Mera and J. Balseca-Manzano, “Diseño y desarrollo de software en la era de la IA: retos éticos, técnicos y operativo”, ARKSIS-Journal, vol. 1, no. 1, pp. 65–76, Jan. 2026, doi: 10.63957/arksis.v1i1.0005.