Los resultados de la IA no son infalibles y los usuarios deben revisarlos: Oracle Netsuite

Las Vegas, Ne. Evan Goldberg es un pionero de un modelo de cómputo que ahora predomina en la mayoría de las empresas, organizaciones y hasta en los individuos, quienes usan esta tecnología para acceder a entretenimiento o productividad. El cómputo en la nube se ha convertido en la norma de muchos modelos de negocio que ofrecen servicios de forma remota.

Goldberg es fundador y vicepresidente de Netsuite, el primer planificador de recursos empresariales (ERP) en la nube y que precede a servicios como el software de relacionamiento con clientes Salesforce o a la plataforma de cómputo en la nube Amazon Web Services (AWS). En México, Netsuite cuenta entre sus clientes a startups unicornio como Kavak y Clara.

En entrevista exclusiva con El Economista, durante el Suiteworld 2024, Goldberg habla sobre cómo ha sido el proceso de migración del software en sitio (on premise) al cómputo en la nube; así como del futuro de la Inteligencia Artificial y los retos que esta tecnología presenta.

一Eres un pionero, el inventor del cómputo en la nube. ¿Cómo ha cambiado la computación en la nube desde 1998 hasta hoy?

—En aquel momento estábamos construyendo lo mejor que podíamos con las capacidades y tecnologías disponibles para crear servicios en la nube. Usamos todas esas tecnologías porque queríamos ofrecer el mejor servicio posible. Pero en aquel entonces, tuvimos que inventar muchas de esas tecnologías nosotros mismos y también cambiar nuestra mentalidad respecto a cómo concebíamos el software.

Al principio de mi carrera, estaba acostumbrado a desarrollar software, entregarlo al cliente y que el cliente lo operara. Ahí terminaba nuestra relación con el cliente, aunque a veces volvían con problemas o solicitaban mejoras. Pero, en su mayoría, uno simplemente seguía trabajando en el siguiente proyecto de software. Sin embargo, en los primeros días de Netsuite, nos dimos cuenta de que nuestros clientes dependían de nosotros para operar el software todos los días, 24/7, durante todo el año. Es una mentalidad diferente: estás proporcionando un servicio, no un producto.

一¿Qué es más sencillo: migrar desde una infraestructura en sitio (on premise) o construir desde cero en la nube?

—Hoy en día es más fácil migrar a la nube. En ese entonces, era más sencillo crear software local porque todas las tecnologías y herramientas disponibles estaban diseñadas para ello. Tuvimos que inventar soluciones para hacer que funcionara a través de la web. Ahora, los desarrolladores tienen más recursos para empezar, y la mayoría de las empresas ya piensan en un modelo de servicio en la nube desde el principio.

Es más fácil ahora que cuando empezamos. Hoy, las startups pueden aprovechar infraestructuras en la nube como Amazon, Oracle, Google o Microsoft y empezar a operar rápidamente. Nosotros tuvimos que encontrar un centro de datos, instalar nuestros propios servidores y gestionarlos, lo cual fue complicado, ya que no sabíamos exactamente lo que hacíamos. Lo fuimos resolviendo con el tiempo. Ahora, cualquier programador puede crear un servicio disponible en la web para todos.

El desafío sigue siendo asegurarse de que el servicio pueda escalar a medida que crece, pero incluso en software local, escalar es más difícil cuando tienes miles de clientes operando diferentes versiones. En la nube, todos usan la misma versión, lo que facilita las actualizaciones. Al desarrollar un servicio, que es lo que los consumidores realmente desean, ahora es más sencillo para empresas pequeñas. Por eso vemos tantas startups creando servicios de internet exitosos.

一¿Cómo abordan el problema del software heredado (legacy) en grandes empresas?

—Lo hacemos de forma gradual. Tenemos una estrategia llamada Netsuite Success, que nos permite comenzar con casos de uso limitados, como las finanzas o el relacionamiento con clientes. Empezamos reemplazando ese sistema, y luego, paso a paso, vamos sustituyendo más componentes de la infraestructura heredada. No es necesario hacerlo todo de golpe. Tenemos mucha experiencia en este enfoque.

一Tienen herramientas de Inteligencia Artificial que sirven para generar automáticamente fragmentos de reportes financieros. ¿Cómo abordan los problemas de precisión y alucinaciones con estas herramientas de IA?

—Definitivamente, necesitamos retroalimentación de los clientes. Probamos estas herramientas extensivamente con ellos y les damos la opción de decir si el resultado fue bueno o malo. Nosotros mismos usamos las herramientas, lo que nos permite evaluar su precisión. Sabemos que no serán perfectas siempre, pero mientras funcionen bien la mayoría del tiempo, los usuarios seguirán confiando en ellas.

No buscamos la perfección absoluta, pero queremos asegurarnos de que los usuarios verifiquen los resultados y no los acepten sin revisar. A medida que las herramientas mejoren, los usuarios confiarán más en ellas.

一Estas herramientas pueden hacer más eficiente el trabajo en equipo, reduciendo la cantidad de personas necesarias para generar informes. ¿Cómo impacta esto en el futuro del trabajo?

—Creo que hay una demanda infinita de buenos informes y análisis financieros. Las herramientas de generación de informes permitirán a las empresas obtener más y mejor información, lo que les ayudará a tomar mejores decisiones. Aún hay muchas decisiones que se toman basadas en intuición, pero contar con buenos datos reducirá la necesidad de tomar decisiones en un vacío. Aquellos que tienen habilidades en análisis de datos serán más demandados que nunca, ya que las herramientas disponibles les permitirán ser más efectivos.

一¿Imaginaste cómo sería la computación en la nube cuando empezaste en 1998? ¿Imaginas cómo será la Inteligencia Artificial en 10 o 20 años?

—Al principio, no estaba seguro de que Netsuite funcionaría, al menos hasta que lo vi en acción. Cuando vi que podía obtener toda la información de mi negocio en el navegador, supe que sería un éxito. Ahora, con la IA generativa, veo una sensación similar de posibilidad. Es una tecnología que cualquiera puede usar con lenguaje natural, lo que abre muchas puertas. Es un momento increíblemente emocionante y estamos trabajando constantemente para aprovechar las capacidades de la IA para nuestros clientes.

一¿Tienes alguna preocupación sobre el desarrollo de la Inteligencia Artificial?

—Nuestro enfoque está en que la IA brinde buenas sugerencias sobre productos o acciones para los clientes. No estamos pensando en una IA que pueda volverse en contra de nosotros. Nuestro mayor reto es asegurarnos de que la IA proporcione respuestas útiles basadas en los datos correctos. La gente confía en los computadores porque saben que son precisos en cálculos simples, pero este es un campo más incierto.

Estamos trabajando para que la adopción de estas herramientas sea natural, sin necesidad de mucha capacitación. Pero también debemos explicar a los usuarios que las conclusiones generadas por la IA no son infalibles. Deben ser vistas como sugerencias, no como la verdad absoluta.

rodrigo.riquelme@eleconomista.mx