El secretario general de la ONU advierte de que la IA avanza más rápido que la regulación

⁠El secretario general de las Naciones Unidas, António Guterres, advirtió este lunes que la inteligencia artificial se está desarrollando a un ritmo que nadie puede ⁠seguir, y pidió normas armonizadas a nivel mundial para reducir los riesgos potenciales, especialmente para los niños.

"Una tecnología capaz de remodelar las economías, transformar el mundo laboral, influir en las elecciones y alterar el equilibrio de la seguridad se está implantando más rápido de lo que nadie —incluidas las propias personas que la desarrollan— puede seguir el ritmo", dijo ⁠Guterres a los delegados del primer diálogo mundial a nivel ⁠gubernamental sobre la IA celebrado en Ginebra.

"La innovación necesita barreras de seguridad... Si la IA va a ser poderosa, debe estar regulada", agregó.

El primer Diálogo Global de las Naciones Unidas sobre la Gobernanza de la IA, de dos días de duración, no tiene por objeto forjar un tratado, sino debatir cómo establecer normas para mitigar los posibles daños de la IA y aprovechar sus oportunidades.

Los delegados examinarán un informe elaborado por un grupo científico independiente respaldado por la ONU y compuesto por 40 expertos, que presentarán las conclusiones de la primera evaluación científica global e independiente sobre la IA.

Está previsto que el año que viene se publique un informe más exhaustivo, coincidiendo con una segunda reunión mundial en Nueva York.

Necesidad de normas globales sobre la IA

Guterres subrayó que las normas armonizadas a nivel mundial sobre la IA deben dar prioridad a la seguridad de los niños, tras los casos de menores que han sido inducidos a autolesionarse y engañados por máquinas que se hacían pasar por amigos.

"No permitimos que un medicamento llegue a un niño hasta que se haya demostrado que es seguro. Probamos cada juguete. Sin embargo, la IA ha llegado a nuestros niños —a su aprendizaje, a sus amistades, a sus preguntas más íntimas— antes de que nadie se preguntara qué efectos tendría en ellos", afirmó.

Abogó por un "Compromiso de Seguridad Infantil en materia de IA", en virtud del cual las empresas que desarrollen sistemas tendrían que demostrar que son seguros antes de ponerlos a disposición de los niños.

Tampoco debería permitirse que los sistemas generen imágenes sexuales de niños, y cuando un niño muestre signos de angustia, el sistema debería detenerse y ponerlo en contacto con una persona para que reciba ayuda.

Aunque la IA ofrece importantes oportunidades, como en el ámbito de la salud, Guterres señaló que las instituciones mundiales no estaban preparadas para máquinas que toman decisiones, y que la vertiginosa velocidad de desarrollo de la IA significaba que las máquinas tomaban cada vez más decisiones con escasa supervisión humana o gubernamental.

"Internet tardó 15 años en llegar a 1,000 millones de personas. La IA lo ha conseguido en dos", dijo Guterres a los delegados.

También advirtió sobre la concentración de los sistemas de IA más ⁠avanzados en un puñado de empresas y países, lo que significa que los países en desarrollo ⁠tienen poca influencia en el progreso de la IA y corren el ⁠riesgo de quedarse atrás.

El informe independiente elaborado por expertos científicos reveló que el desarrollo de la IA está aún más concentrado: Estados Unidos concentra el 75% de la potencia de ⁠cálculo de los 500 superordenadores de IA más potentes del mundo, y China, el 15 por ciento.

Aunque a nivel mundial más de 1,000 millones de personas utilizan ya la IA conversacional cada semana, su adopción en los países en desarrollo va a la zaga, añadió el informe.

Reducir ‌la brecha de la IA

Guterres afirmó que, si se utiliza adecuadamente, la IA podría condensar décadas de desarrollo en años, convirtiéndose potencialmente en "el gran igualador del siglo XXI".

El presidente del Consejo Presidencial de Libia, Mohamed al-Menfi, instó a que se redujera la brecha de la IA en África, que representa el 10% de la población mundial, pero que solo cuenta con menos del 2% de los centros de datos globales.

"La IA no puede ser un recurso legítimo si los países africanos no pueden hacer uso de ella", afirmó, al tiempo que pidió una mayor participación ⁠de los Estados africanos en el diseño de las normas sobre IA.

El presidente de Georgia, Mikheil Kavelashvili, señaló a los delegados que los líderes mundiales también tenían la responsabilidad compartida de crear una legislación internacional sólida para evitar que el poder de la IA se convirtiera en un "instrumento de control totalitario y una nueva tiranía digital".