Olah de Anthropic dice que la IA debe ser dirigida desde fuera de grandes tecnológicas

Chris Olah, cofundador de Anthropic, dijo este lunes que el desarrollo de la inteligencia artificial ⁠no puede dejarse exclusivamente en manos de las empresas tecnológicas, e instó a una mayor supervisión por parte de los líderes religiosos, los gobiernos y la sociedad civil.

En su intervención durante la ⁠presentación de la primera encíclica del papa ⁠León XIV sobre inteligencia artificial, Olah señaló que existe "una posibilidad real" de que la IA sustituya al trabajo humano "a gran escala".

"Si eso ocurre, apoyar a las personas desplazadas será un imperativo moral de proporciones históricas", dijo, sentado junto al Santo Padre.

Añadió que empresas como la suya operan bajo fuertes presiones comerciales, geopolíticas y personales que pueden entrar en conflicto con los intereses generales de la sociedad.

"Todos los laboratorios de vanguardia en IA... operan dentro de un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con hacer lo correcto", dijo, añadiendo que incluso los investigadores bienintencionados siguen estando influenciados por esas fuerzas.

Olah señaló que esto hacía imprescindible el escrutinio externo.

Anthropic es una empresa con sede en Estados Unidos que produce las herramientas de IA Claude. Ha chocado con la administración del presidente Donald Trump, sobre todo al insistir en medidas de protección que restrinjan cómo se pueden utilizar sus modelos con fines militares, como el apuntado autónomo de armas o la vigilancia interna.

Olah acogió con satisfacción el compromiso de la Iglesia con esta tecnología en rápido desarrollo, afirmando que las cuestiones éticas que plantea la IA van mucho más allá de la ingeniería.

"Las cuestiones que plantea la IA trascienden a la comunidad investigadora en este campo", ⁠afirmó, y pidió "críticas serias y reflexivas" que puedan cuestionar a ⁠las empresas y ayudar a orientar la ⁠creación de nuevos y potentes sistemas en una dirección positiva.

Olah destacó tres áreas que, según él, requerían ⁠atención urgente: el riesgo de una pérdida generalizada de puestos de trabajo, la necesidad de garantizar que los beneficios de la IA se extiendan a todo el mundo y la cuestión sin resolver de cómo interpretar el comportamiento de los sistemas, cada vez más complejo y a veces opaco.

"El desarrollo de la IA se concentra en un puñado de naciones ricas. ¿Cómo podemos garantizar que los beneficios de la IA se compartan a nivel mundial?", preguntó Olah.

El evento del lunes supuso una ⁠inusual convergencia entre el sector tecnológico y la Iglesia católica, que ha tratado de posicionarse como una voz moral sobre las implicaciones de los rápidos avances en IA.