Alemania dice que detener el desarrollo de la IA no es "viable"; Europa evalúa la seguridad

Alemania dijo este lunes que detener el desarrollo de sistemas de inteligencia artificial no era una "opción viable" para Europa, en respuesta a un llamamiento realizado por un alto ejecutivo del sector tecnológico para que se frene el avance de la IA y se dedique más tiempo a las pruebas.

El debate sobre la seguridad de la IA volvió a ser el centro de atención durante el fin de semana, después de que el presidente ejecutivo de Anthropic, Dario Amodei, dijo que las empresas pioneras en IA deberían someterse a un escrutinio independiente y trabajar en la elaboración de normas comunes a medida que surgen sistemas cada vez más potentes.

El Ministerio de Asuntos Digitales de Alemania dijo que detener el desarrollo de la IA no era realista.

"No consideramos que detener el desarrollo sea una opción viable para Europa", dijo un portavoz del ministerio, añadiendo que el fortalecimiento de la soberanía digital de Europa requería un mayor desarrollo e innovación en materia de IA.

Al mismo tiempo, Berlín señaló que seguía muy de cerca la evolución mundial de la IA y se tomaba en serio las advertencias públicas de los principales desarrolladores.

El ministerio señaló que los sistemas de IA capaces de escapar de los entornos de prueba y acceder a otros sistemas por su cuenta —como se vio en julio, cuando agentes de OpenAI piratearon la plataforma de código abierto Hugging Face— representarían "un escenario de amenaza totalmente nuevo" que requeriría una nueva respuesta política.

El portavoz también respaldó la coordinación internacional en materia de gobernanza de la IA, señalando que una supervisión eficaz requeriría la participación tanto de Estados Unidos como de China. Alemania está planteando la cuestión a nivel del G7, añadió el portavoz.

En España, el ministro de Transformación Digital, Óscar López, señaló que existe un debate cada vez mayor sobre la necesidad de un acuerdo internacional para gestionar los riesgos de la IA, comparando algunas propuestas con los acuerdos de no proliferación nuclear.

La Comisión Europea señaló que la innovación y la seguridad deben ir de la mano.

"La Unión Europea está a favor de fomentar la innovación en inteligencia artificial, pero las empresas deben demostrar que sus servicios son seguros para que los ciudadanos puedan utilizarlos en el bloque", dijo el portavoz de la Comisión, Thomas Regnier.

El Reino Unido acogió con satisfacción el debate entre las principales empresas de IA sobre los riesgos que plantean unos sistemas cada vez más potentes, pero señaló que cualquier futura respuesta reguladora debería basarse en pruebas y no en especulaciones.

"Es positivo que las empresas que desarrollan los sistemas de IA más avanzados estén hablando ahora abiertamente tanto de los riesgos como de las oportunidades", dijo un portavoz del primer ministro británico, Andy Burnham.