Lectura 6:00 min
México debe definir cuándo un proveedor de IA responde por los errores de sus modelos
Ante el borrador de ley que prepara el Senado, especialistas plantean que México establezca cómo investigar un daño causado por IA y qué responsabilidad corresponde al proveedor del modelo y a la empresa que lo utilizó, incluso cuando la tecnología provenga del extranjero.
Inteligencia Artificial.
México tendrá que determinar en qué circunstancias una empresa que desarrolla o suministra inteligencia artificial responde por los daños relacionados con sus modelos, una decisión que depende de cómo se diseñó el sistema y de las condiciones en que otra persona u organización lo utilizó, de acuerdo con Sergio López Ayllón, investigador del Instituto de Investigaciones Jurídicas de la Universidad Nacional Autónoma de México (UNAM).
La discusión ocurre cuando el Senado prepara un borrador de ley para regular esta tecnología y los proveedores estadounidenses piden nuevas formas de supervisión. La responsabilidad del desarrollador, explicó, requiere una evaluación de cada caso.
Te puede interesar
“En cuanto a la responsabilidad es una pregunta muy compleja porque un sistema de estos involucra a muchísima gente, o sea, es muy difícil la respuesta fácil decir la empresa que lo desarrolló, pero hay que ver en qué condición se usó”, dijo López Ayllón en entrevista.
La distinción afecta directamente a las empresas mexicanas que incorporan modelos desarrollados en el extranjero. Un proveedor puede ofrecer la tecnología con determinadas capacidades y restricciones; la empresa que la contrata decide a qué información tendrá acceso y para qué tareas la empleará. Si una respuesta equivocada se convierte después en una decisión sobre un cliente, establecer qué ocurrió exige reconstruir tanto el funcionamiento del sistema como la manera en que fue utilizado.
López Ayllón sostuvo que la inteligencia artificial obliga a revisar las formas habituales de atribuir responsabilidad.
“Es uno de los temas que se está reflexionando porque la inteligencia artificial pone en jaque las concepciones tradicionales de responsabilidad y tenemos que encontrar una buena fórmula que permita desarrollar la idea de responsabilidad sin por otro lado generar un efecto perverso en el uso de los sistemas”, dijo.
La atribución de un daño concreto exige establecer qué hizo cada actor, en lugar de declarar responsable al proveedor de manera automática por cualquier resultado.
El acceso al código
Esa investigación puede complicarse cuando el modelo pertenece a una compañía de otro país. El capítulo de comercio digital del Tratado entre México, Estados Unidos y Canadá (T-MEC) impide exigir, como condición general para vender o utilizar un programa, la entrega de su código fuente o de los algoritmos expresados en él. El tratado establece una excepción relevante para atribuir responsabilidades. Una autoridad reguladora o judicial puede requerir ese material en una investigación o procedimiento específico, con medidas para impedir su divulgación no autorizada.
El T-MEC contiene disposiciones sobre la responsabilidad de ciertos servicios informáticos interactivos respecto de información aportada por terceros. Su texto contempla excepciones cuando el propio servicio creó o desarrolló esa información. Aplicar esas disposiciones a una respuesta generada por IA requiere examinar el funcionamiento y la participación efectiva de cada actor; el tratado, por sí solo, no asigna una responsabilidad uniforme a todos los proveedores de modelos.
Te puede interesar
El senador priista Rolando Zapata Bello, presidente de la comisión de inteligencia artificial del Senado, explicó que los legisladores trabajan en un borrador que separaría los sistemas que representan riesgos de aquellos que no los representan. Los primeros quedarían sujetos a requisitos revisados por la autoridad. Para los segundos, describió obligaciones vinculadas en mayor medida con la autorregulación y el acompañamiento estatal.
Zapata Bello situó entre los riesgos las decisiones capaces de afectar derechos. Puso como ejemplo una solicitud de crédito rechazada por la colonia donde vive la persona, debido a que el sistema asocie su domicilio con una menor capacidad de pago. El caso permite identificar una tarea concreta para la legislación financiera. Habría que determinar qué debe poder explicar la institución que emplea el modelo y qué información debe proporcionar su desarrollador cuando se impugna una decisión automatizada.
La norma que se discute tendrá que convivir con responsabilidades ya previstas en otras leyes mexicanas. La Ley General de Mecanismos Alternativos de Solución de Controversias contempla sistemas de inteligencia artificial en procedimientos en línea y reconoce el derecho de las partes a conocer información sobre su funcionamiento. También establece responsabilidad civil para la persona facilitadora por la elaboración, firma o registro deficiente o negligente de un convenio.
El diputado de Movimiento Ciudadano Hugo Manuel Luna Vázquez propuso que una ley general se acompañe de cambios en los ordenamientos aplicables a cada actividad. En materia de salud, planteó examinar la responsabilidad médica dentro de la Ley General de Salud. Su propuesta ubica el problema en quienes emplean la herramienta para atender pacientes y en las obligaciones que ya rigen su actividad, además de las que eventualmente correspondan a la empresa que suministra el sistema.
Pablo Pruneda Gross, coordinador de la línea de investigación sobre derecho e inteligencia artificial del Instituto de Investigaciones Jurídicas de la UNAM, advirtió que el desarrollo de estas herramientas rebasa la velocidad habitual de los procesos legislativos. Para una norma mexicana, esa diferencia de tiempos tiene consecuencias prácticas. Las obligaciones deben poder aplicarse a sistemas que cambian después de su lanzamiento y permitir que una autoridad investigue un incidente con recursos suficientes para entenderlo.
Quién define las reglas
La elaboración de esas reglas plantea cuánto pueden influir los proveedores de IA en las obligaciones que deberán cumplir. Directivos de compañías que desarrollan modelos avanzados han pedido supervisión y estándares comunes. OpenAI publicó el 21 de septiembre una propuesta de normas internacionales para evaluar capacidades y reportar incidentes. El documento afirma expresamente que los laboratorios que desarrollen sistemas avanzados deben responder por hacerlo de forma segura y cumplir las leyes vigentes.
López Ayllón advirtió sobre el riesgo de que los regulados influyan en las obligaciones que terminarán aplicándoseles. Añadió que la discusión requiere la participación de otros sectores para alcanzar un equilibrio.
Te puede interesar
“Evidentemente cuando la industria pide ser regulada hay un riesgo de captura, es decir, que los regulados hagan la regulación que les conviene”, dijo.
El secretario del Tesoro, Scott Bessent, sostuvo que las personas detrás de la IA deben asumir responsabilidad por sus productos y rechazó una protección federal que las resguarde de posibles reclamaciones. El presidente Donald Trump, por su parte, reiteró ante la Asamblea General de la ONU su oposición a nuevas reglas para el sector y dijo que el Departamento de Justicia estadounidense lo vigilaría para intervenir si fuera necesario.
Para México, el punto decisivo es cómo investigar un error y atribuir sus consecuencias. La participación de un proveedor extranjero no elimina las decisiones tomadas por la empresa que contrató el sistema. La intervención de esa empresa tampoco explica por sí sola una falla originada en el modelo. López Ayllón sostuvo que la responsabilidad debe calibrarse según lo ocurrido en cada caso. El borrador del Senado tendrá que traducir esa distinción en obligaciones que permitan identificar a los actores involucrados y examinar sus decisiones cuando una persona resulte afectada.
