¿La IA generativa está realmente lista para la empresa?

Probablemente todavía no, pero podría con algunos ajustes.

OpenAI lanzó ChatGPT hace solo unos pocos meses, y es justo decir que cautivó al mundo: tiene más de 100 millones usuarios activos ya. No es de extrañar, cuando puede generar respuestas gramaticalmente correctas y similares a las humanas. Las tecnologías relacionadas también pueden producir ilustraciones y código ingresando una descripción de lo que desea, y la tecnología lo produce.

Incluso puede interactuar con la IA después de su pregunta inicial, por lo que si no le gusta el resultado que obtuvo o necesita una aclaración, puede hacer preguntas adicionales o hacer ajustes a su imagen o código, para que coincida más con su visión. Todo esto sucede instantáneamente sin la ayuda de un experto en la materia, un artista o un codificador.

Pero nada de esto viene sin problemas, que incluyen el origen de los datos utilizados para entrenar el modelo de IA subyacente, la actualidad de esos datos de entrenamiento, la falta de permisos para usar los datos de origen, el sesgo en el modelo y, quizás lo más importante, el exactitud de las respuestas, que a veces son ridículamente equivocadas.

Nada de esto ha impedido que las empresas de software empresarial se sumerjan en la IA generativa. Estas empresas ven un enorme potencial comercial y mucho entusiasmo por parte de los usuarios y claramente no quieren quedarse atrás.

Salesforce, Forethought y Thoughtspot anunciaron recientemente betas de sus propios sabores de IA generativa. Salesforce está agregando IA generativa en toda la plataforma. Forethought apunta a los chatbots y Thoughtspot quiere usar IA para la consulta de datos. Cada empresa tomó la tecnología base y agregó algunos impulsores algorítmicos para ajustar la tecnología a los requisitos únicos de su plataforma.

Microsoft también anunció que su servicio OpenAI dirigido a usuarios empresariales en Azure está generalmente disponible como servicio administrado.

A lo largo de este año, puede esperar ver a muchas más empresas unirse, pero las limitaciones son reales, lo que nos hace preguntarnos: ¿Está la tecnología, tan temprana y cruda como es, sin importar cuán genial se vea a primera vista, realmente lista para la empresa?

Una mirada a las limitaciones

Los clientes empresariales están lidiando con la posibilidad de comenzar a utilizar la IA generativa para fines comerciales pero hay muchas incógnitas.

La tecnología, tal como está constituida actualmente, utiliza datos para entrenar los modelos sin permiso de varias fuentes en la web, incluidos textos de sitios web, libros y artículos. Eso es un gran problema para todos, pero es especialmente problemático para las empresas que crean contenido con fines comerciales.

Marc Benioff, en una entrevista con la periodista Kara Swisher en Upfront Summit a principios de este mes, señaló que esta es una falla obvia, pero que no impidió que Salesforce lanzara Einstein GPT la semana pasada.

“Todos podemos ver que ChatGPT es emocionante, pero todos hemos visto cuáles son los límites. También es el máximo plagiador. Todas las cosas que está aprendiendo las obtuvo de otra persona. Entonces, sus límites son los límites del contenido que está tratando de capturar”, dijo el CEO en ese momento.

Es más, las respuestas a veces son descaradamente falsas, o al menos parcialmente incorrectas. OpenAI incluso reconoce esto en su lista de limitaciones de la tecnología, escribiendo: “ChatGPT a veces escribe respuestas que suenan plausibles pero incorrectas o sin sentido. Resolver este problema es un desafío…”

Deon Nicholas, director ejecutivo y cofundador de Forethought, considera que las respuestas incorrectas son uno de los mayores problemas de la tecnología. “ChatGPT seguirá alucinando, ¿verdad? Si le hace una pregunta sobre un negocio específico, si no sabe la respuesta, simplemente se le ocurrirá algo que suena plausible, pero que está completamente equivocado”, dijo Nicholas.

Además, ChatGPT solo está capacitado en información hasta 2021, lo que es problemático para las empresas que intentan crear el contenido más actualizado.

También hay sesgo, que puede ser un problema real, y se necesita un equipo diverso y una cuidadosa atención al modelo y los datos de entrenamiento para ayudar a mitigarlo. En una conversación sobre A Few Good Minutes with Brent Leary la semana pasada, Neha Bajwa, directora de marketing de productos para la experiencia del cliente en Microsoft, habló sobre la importancia de considerar el sesgo en la IA.

“En Microsoft, lo llamamos ‘IA responsable’, los puntos de vista éticos al respecto y poder hacerlo de manera responsable, poder asegurarnos de que los datos no tengan sesgo, porque [prestar atención al] sesgo y la inclusión es tal una cosa importante Y los datos pueden amplificar el sesgo”, dijo Bajwa en el programa.

¿Cómo podría encajar?

Estas limitaciones no son insuperables. Las empresas de software que recientemente lanzaron herramientas con IA generativa han adaptado la tecnología base de OpenAI y la han hecho propia con el fin de tratar de abordar algunos de estos problemas, pero por ahora permanecen.

Tim O’Reilly, quien es el fundador, presidente y director ejecutivo de O’Reilly Media, ve a ChatGPT como la verdadera tercera ola de la web, pero dice que probablemente sea necesario hacer algunos ajustes para cumplir con los requisitos comerciales de los propietarios de contenido.

El CEO de OpenAI, Sam Altman, incluso se acercó a O’Reilly para entrenar el corpus de conocimiento en el catálogo de libros de O’Reilly, pero O’Reilly se opuso porque requeriría algún tipo de mecanismo de pago para los autores que aún no existe.

«Dije que no hasta que tengas… alguna forma de pago, porque este es un cuerpo de contenido y la gente espera que le paguen por ello», dijo O’Reilly. Sugirió un sistema en el que los usuarios tendrían que pagar una tarifa para acceder a este contenido especializado.

“Esos [pagos] fluirían a través de las personas que poseen el contenido de origen. Tal vez obtengamos un modelo de negocios para estas cosas en el que tenga acceso a este contenido más autorizado”, dijo.

Una de las fortalezas es la amplitud de las habilidades generativas de IA, que incluyen texto, arte y código. Nicholas dijo que poder codificar flujos de trabajo, así como crear o adaptar flujos de trabajo sobre la marcha automáticamente, podría ser muy poderoso para las empresas que adoptan esta tecnología.

“Una cosa que agregaré, que tal vez no sea obvia aquí, es que también puede usar los modelos generativos como GPT-3 para generar código, por lo que también podría usarlos para generar flujos de trabajo [sobre la marcha], que también es bastante limpio. Entonces, no se trata solo de que tengamos un modelo de IA que puede hablar y pensar como un humano. Pero hemos visto que GPT-3 puede generar código Python”, dijo. Y eso podría conducir a flujos de trabajo automatizados.

Dries Buytaert, CTO de Acquia, quien también fundó el sistema de administración de contenido de código abierto Drupal, escribió recientemente una publicación de blog sobre las posibilidades de la IA generativa para la administración de contenido y los negocios en general.

En una conversación reciente, Buytaert comparó el desarrollo de esta tecnología con la computación en la nube, que ha cambiado la computación empresarial de manera fundamental al brindar un acceso rápido y fácil a los recursos informáticos.

“Las OpenAI del mundo no solo están creando productos, sino que están democratizando muchas de estas herramientas. Permite a muchas personas que no tienen doctorados en aprendizaje automático e inteligencia artificial construir cosas muy útiles muy rápidamente. Y eso es bastante emocionante, [limitaciones] y todo aparte”, dijo.

Buytaert sugiere que, como mínimo, las empresas deberían mostrar su trabajo y cómo llegaron a la respuesta. “Absolutamente deberían dar crédito, y creo que eliminaría gran parte del debate sobre los impactos en el tráfico de búsqueda orgánica, por ejemplo, porque imagine que hace una pregunta, da una respuesta, acredita sus fuentes e incluye enlaces a las fuentes”, dijo.

Eso sería un comienzo, y algo que You.com, una startup de motor de búsqueda, ya hace con muchas de las respuestas en su búsqueda basada en chat.

El sesgo es un problema más complicado de resolver, pero Bajwa de Microsoft dice que requerirá un esfuerzo concertado por parte de las empresas. “Siempre tiene que haber supervisión humana. La tecnología solo puede ayudarte hasta cierto punto. Al final del día, [debe haber] una estructura y procesos organizacionales y un gobierno que debe implementarse porque la tecnología está aquí para ayudar y ayudar a la organización. El negocio tiene que establecer algunos parámetros y recomendaciones y procesos sobre cómo usarlo”, dijo.

Eso es precisamente en lo que cualquier empresa tendrá que pensar cuando analice la IA generativa. Tan prometedor como es, no puede simplemente dejarlo ir y olvidarlo, y pensar que va a obtener todos estos resultados inmediatos sin ninguna consecuencia. Es esencial mantener a los humanos involucrados porque esta tecnología aún es demasiado inmadura para dejarla sola y esperar lo mejor.