Los dilemas sobre una IA que se gobierne a sí misma

El debate público en torno a la Inteligencia Artificial se encuentra peligrosamente contaminado por el sesgo de la ciencia ficción. Mientras las narrativas populares insisten en advertir sobre el día en que las computadoras tomen conciencia y decidan rebelarse contra la humanidad, la comunidad académica señala un riesgo mucho más real e inmediato: la paulatina renuncia de la sociedad a supervisar los sistemas automatizados.

Esta fue la principal conclusión vertida durante el foro académico “¿Una IA que se gobierne a sí misma? Advertencias, riesgos reales y el futuro de la supervisión humana sobre la Inteligencia Artificial”, organizado por la Universidad Iberoamericana. En el encuentro, especialistas de diversas disciplinas coincidieron en que el problema central no es el desarrollo tecnológico en sí, sino el vacío de responsabilidad que se genera cuando los humanos aceptan pasivamente las decisiones de una máquina.

Matemáticas, no conciencia

Para desmitificar el fenómeno de la autonomía tecnológica, los especialistas remarcaron la necesidad de precisar los conceptos técnicos y filosóficos que con frecuencia se confunden en la conversación pública.

Al abordar las fallas operativas de estos modelos, el doctor Alexandro López González, quien es coordinador de la Ingeniería en Inteligencia Artificial de la Universidad Iberoamericana, puntualizó que las alucinaciones o datos erróneos de estos programas no responden a una intención maquiavélica ni a un deseo de engaño.

“Los errores de inteligencia artificial son fallas matemáticas, no actos de rebelión. Es cálculo, no conciencia”, enfatizó López González, subrayando que la tecnología actual opera mediante patrones estadísticos y probabilidades, carente de cualquier voluntad o agenda propia.

En esa misma línea, la doctora Verónica Díaz de León, académica del Departamento de Filosofía, advirtió sobre el peligro de antropomorfizar el software. Explicó que la capacidad de ejecutar tareas sin asistencia manual representa automatización, pero enfatizó que de ninguna manera equivale a un autogobierno.

El verdadero autogobierno exige libertad, discernimiento ético y la capacidad de asumir responsabilidades morales, facultades que permanecen exclusivamente en el ámbito humano, concluyó.

¿Hasta dónde debemos delegar?

No obstante, la ausencia de conciencia no exime a estos desarrollos de generar repercusiones severas en la vida cotidiana. El Dr. Andrés Molano Jiménez, director del Departamento de Estudios en Ingeniería para la Innovación, explicó que los sistemas modernos poseen capacidad lógica para resolver problemas complejos, redactar código y corregir sus propios flujos de trabajo con mínima intervención externa.

El dilema de fondo, según Molano Jiménez, radica en la frontera entre la optimización técnica y la definición de valores. Una máquina puede calcular la ruta más rápida para alcanzar una meta, pero no tiene el criterio para evaluar si el costo de esa meta es social o éticamente aceptable.

“No todo lo automatizable debe automatizarse. Podemos construir sistemas cada vez más autónomos, pero la autonomía no puede convertirse en ausencia de responsabilidad”, aseveró el especialista.

Infraestructura crítica y derecho a la apelación

Ante este escenario, la mesa de análisis planteó la urgencia de fijar límites infranqueables para la implementación de algoritmos. Los ponentes coincidieron en que ningún sistema estocástico o probabilístico debería operar de forma autónoma en áreas estratégicas como las redes de energía eléctrica, los mercados financieros globales o la tecnología bélica, puesto que cualquier fallo imprevisto podría desencadenar consecuencias catastróficas.

Asimismo, se sugirió la creación de organismos de auditoría independientes que evalúen los modelos informáticos antes de su liberación masiva, evitando que las empresas desarrolladoras actúen como juez y parte en la fijación de sus propios estándares de seguridad.

La mesa concluyó con un llamado a reorientar la discusión ética: la pregunta urgente que debe responder la sociedad no es si las máquinas llegarán a tomar el control, sino qué cuota de autoridad estamos dispuestos a ceder y si seremos capaces de regular antes de que sea tarde.