La inteligencia artificial en la mitigación de desinformación en la gobernanza del sistema democrático

Resumen

Esta investigación presenta el desarrollo de un marco de evaluación y protección basado en los modelos algorítmicos de IA para mitigar la desinformación en la gobernanza democrática del Ecuador, para ello se utilizó la investigación aplicada con enfoque mixto, incorporado con una revisión de literatura, simulaciones de difusión en redes sociales y clasificación de noticias, contextualizado con encuestas a personas relevantes del ecosistema mediático. según los hallazgos obtenidos se evidenció en la simulación de redes sociales la formación de cámaras de eco y la amplificación de narrativas afines, fenómeno intensificado por los algoritmos de recomendación que priorizan el compromiso del usuario; para mitigar la difusión en nuestra simulación de modelos automatizados para la detección de noticias falsas se logró una precisión de 91,67%, sin embargo, un hallazgo clave fue referido a que las decisiones de los modelos, los que se apoyan en artefactos estadísticos y sesgos estilísticos del dataset más que en una comprensión semántica de la veracidad, revelando fragilidad y limitada generalización. En ese sentido se desarrolló un marco de evaluación y protección, orientado a garantizar transparencia, minimizar sesgos y fortalecer la confianza pública, para afianzar la gobernanza democrática, se propuso lineamientos concretos, como la exigencia de interpretabilidad obligatoria y un ciclo de vida de operaciones de aprendizaje automático, para combatir la obsolescencia del modelo, priorizando en un nivel ético la mitigación de la amplificación sobre la censura.