Qué pasó realmente con la IA de Facebook que creó su propio lenguaje

Hace unos días, nos enteramos de que los ingenieros de Facebook habían apagado a dos bots que habían comenzado a hablar entre sí con un lenguaje propio. Por su puesto que nuesta imaginación apocalíptica ya pensaba en que la Inteligencia Artificial había comenzado a tener su propia "conciencia" y a preparar el exterminio de la humanidad. Pero la realidad está muy alejada de esa idea.

Los dos bots que conversan fueron diseñados con el fin de demostrar que es "posible para agentes de diálogo con diferentes objetivos (e implementados en su totalidad como redes neuronales entrenadas) participar en negociaciones con otros bots o personas y llegar a decisiones o acuerdos comunes".

Los bots no hicieron más que discutir entre ellos cómo dividir una matriz de elementos dados (representada en la interfaz de usuario como inocuos objetos como pelotas), de una manera que el resultado fuese mutuamente aceptable.

Cuando Facebook hizo que dos de estos semiinteligentes bots hablasen entre ellos, los programadores cayeron en la cuenta de que cometieron un error: no haber incentivado a los chatbots a que se comuniquen según las reglas de un inglés comprensible para los humanos. En su intento por aprender el uno del otro, los bots conversaban entre ellos en abreviaturas que creaban que se ve perturbador, pero solo es eso .

La tecnología de aprendizaje automático puede ser muy beneficiosa, pero también tiene usos potencialmente nocivos. Al fin y al cabo, se trata de compilar y analizar cantidades enormes de datos, y por el momento los riesgos recaen solo en cómo los humanos elegimos distribuir y manejar esa información.

Pero si aún te preocupa un posible apocalipsis robótico, debes saber que el aprendizaje automático aún está dando sus primeros pasos, por lo que está lejos de la verdadera Inteligencia Artificial.

erp