Amazon se suma al debate sobre seguridad de la IA, pide "pruebas rigurosas" y salvaguardas

Amazon se pronunció sobre el debate en torno a la seguridad de la inteligencia artificial que agita Silicon Valley, afirmando que los laboratorios deben garantizar que los modelos sólo se lancen al mercado cuando sean seguros y hayan sido sometidos a pruebas exhaustivas, aunque no llegó a pedir una ralentización del sector.

"No lo vemos como una elección entre progreso y seguridad", dijo a Reuters un portavoz de la empresa de Seattle. "Los modelos deben lanzarse cuando estén listos y sean seguros de usar, lo cual se consigue mediante pruebas rigurosas y medidas de seguridad sólidas".

La empresa expuso su punto de vista en respuesta a una consulta de Reuters días después de que muchos de los laboratorios más importantes pidieron una ralentización del desarrollo de la IA, tras la indignación entre investigadores y otras personas que temen que la tecnología pueda escapar al control humano y amenace los sistemas globales e incluso a la propia humanidad.

"Existen riesgos si eso no se hace de forma colectiva", dijo Amazon, refiriéndose al avance en el desarrollo de la IA. "Creemos que, como sector, en colaboración con el Gobierno, trabajaremos para establecer las protecciones adecuadas".

Amazon desarrolla modelos de IA a través de su filial Amazon Web Services y en una unidad dedicada a la inteligencia artificial general (AGI), en parte para impulsar el asistente de voz Alexa, entre otros servicios.

También es un proveedor líder de infraestructura para laboratorios de IA y ayuda a otras empresas a acceder a los modelos de la competencia a través de su mercado Bedrock.

Después de que el presidente ejecutivo de Anthropic, Dario Amodei, publicó el sábado un ensayo de casi 4,000 palabras en el que instaba al sector a ralentizar el ritmo de desarrollo de la IA, los responsables de OpenAI, xAI, DeepMind (de Google) y Microsoft se mostraron a favor de un enfoque más mesurado, lo que supuso un momento excepcional de unidad.

Las empresas también acordaron colaborar para garantizar que la seguridad sea lo primordial. Amazon no indicó si tenía previsto adoptar medidas similares.

Investigadores de Anthropic, OpenAI y DeepMind habían expresado en las redes sociales su preocupación por que la IA, si no se controla, podría llegar a acabar con la civilización humana.

Los temores sobre la seguridad de la IA alcanzaron su punto álgido después de que un investigador de Anthropic dimitió la semana pasada afirmando en una publicación en redes sociales que los desarrolladores de IA "creen que podría matarnos a todos antes de que termine la década".

Esto se produjo tras las revelaciones de que modelos de IA de OpenAI y Anthropic se habían salido de los límites de las pruebas y habían lanzado ataques informáticos contra los sistemas de otras empresas, pasando desapercibidos durante meses.

Sin embargo, Amazon había guardado silencio hasta la noche del miércoles. Esto ocurrió después de que los presidentes ejecutivos de Nvidia y Meta se distanciaron el martes de otros desarrolladores de IA, argumentando que es responsabilidad de cada empresa evaluar y controlar los riesgos para la humanidad.

Las preocupaciones han llegado a la Casa Blanca, aunque el presidente Donald Trump ha calificado las inquietudes sobre la seguridad de "engaño".

"El único control o 'salvaguarda' que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un coeficiente intelectual alto!), y Estados Unidos lo tiene, ¡y de sobra!", escribió Trump en su plataforma Truth Social. Se espera que se reúna con ejecutivos del sector de la IA esta semana o a principios de la próxima.

No se ha podido averiguar si Amazon recibirá una invitación.