IA

¿Un Paso Hacia Atrás en la IA Conversacional?

· 6 min read · Fabián Almenara

Reflexiones sobre OpenAI y ChatGPT tras el Dev Day: mejoras de producto, un modelo que parece peor, el culebrón de Sam Altman y por qué cierran las suscripciones a ChatGPT Plus.

Reflexiones sobre los últimos acontecimientos relacionados con OpenAI/ChatGPT.

Me siento a escribir tras ver que OpenAI tiene cerrada la suscripción a ChatGPT Plus. Vuelta a la waiting list.

Sábado por la mañana, café tranquilo en casa y, por qué no decirlo, algo de dolor de cabeza por los buenos vinos de anoche con unos amigos. Inspiración, aburrimiento o cansancio. Realmente no sé lo que motiva esta entrada, pero me pongo a escribir… porque me gusta y me hace asentar las "cosas".

No soy un experto en esto del Deep Learning. He estudiado, he hecho mis cositas e intento estar al tanto de todo lo nuevo que hay alrededor de esta tecnología. Las uso, las pongo en práctica.

Hasta donde yo entiendo, según lo que leo y estudio (siento repetirme), los avances en este campo se basan en fuerza bruta. Me explico: más capacidad de computación y más datos.

Y ese es el motivo de que solo las grandes sean capaces de mostrar avances en estos modelos fundacionales.

Partiendo de eso empiezan estas reflexiones:

Todo empezó con el OpenAI Dev Day

Fui de esos que se reservó la tarde para ver el evento en directo de OpenAI Dev. El primer evento de la compañía dedicado a los desarrolladores.

Ese día se lanzaron, en mi opinión, 3 noticias o mejoras importantes:

API mejorada

Ahora la API permite generar imágenes y es más completa. Básicamente todo lo que puedes hacer a través del chat lo puedes hacer por API.

Agentes personalizados

Soy de esos que aún hoy no para de jugar y no sé cuántos asistentes personalizados tengo ya. He perdido la cuenta y he de decir que es la leche y funciona bastante bien aunque muy mejorable.

Aquel día vimos la creación de un nuevo mercado delante de nuestros ojos.

Yo lo comparo con la App Store. De hecho, ayer mismo me llegó la notificación de que se posponía el lanzamiento de esta store donde monetizar tus agentes.

Fijaos si realmente creo que es un nuevo mercado que, en cuanto tuve la posibilidad, me puse como loco a reservar nombres de agentes. Pensé: "Voy a reservar algunos nombres de marcas importantes, los entreno con datos y quizás en poco tiempo esa marca, en vez de construir el suyo, me compra el mío". Y en ello estoy, entrenando un par de agentes (con vista comercial) que no quiero decir cuáles son y otros tantos para mi empresa.

Bueno, bonito y barato

Bueno porque según Sam Altman habían actualizado el modelo para que fuera mejor, con más contexto, y habían actualizado los datos hasta abril de 2023 (si no recuerdo mal).

Bonito porque habían actualizado la interfaz y ya no tenías que escoger el modelo que querías usar, sino que él solo iba usando uno u otro dependiendo del prompt.

Barato porque había hecho todo esto bajando el precio x3.

Expectativas vs. realidad

El evento fue un WoW en toda regla. Sin embargo, y lo digo con total sinceridad, me preguntaba cómo habían conseguido hacer un modelo mejor a menor coste.

Hasta donde yo sé, una red neuronal se puede optimizar pasando por un proceso de destilación en el que se busca hacer un modelo más eficiente en términos de recursos. Esto normalmente hace que el modelo responda mejor a ciertas situaciones pero decremente su efectividad en otras.

La realidad es, desde mi punto de vista, que el modelo a día de hoy es peor. Da respuestas mucho más generales sin entrar tanto al detalle. Y por lo que leo en redes, es un sentimiento común entre los usuarios de ChatGPT Plus.

El producto, sin embargo, ha mejorado. La interfaz es mejor y el no tener que escoger un modelo u otro hace que la UX sea mucho mejor. Además, la posibilidad de que incluso te puedas comunicar con audio y que te responda con audio también es un plus importante. Yo ya lo he usado un par de veces y me da para una futura entrada sobre las barreras del idioma.

El tema de los agentes personalizados es la bomba y, como decía arriba, no sé cuántos agentes puedo tener ya creados. Es muy fácil generar un agente con datos de entrenamiento propios, actualizarlo y entrenarlo sobre la marcha con lenguaje natural.

En resumidas cuentas, lo bueno, bonito y barato tampoco existe en OpenAI. Por el momento. Aunque algo que sí tienen es que son únicos. En general han mejorado la experiencia de usuario, pero el core del producto, que es el asistente, lo han empeorado con este proceso de destilación.

Este último párrafo donde digo que son únicos ya no vale apenas 4 días más tarde, porque el día 6 de diciembre Google presentó Gemini.

Idas y venidas

Sin motivo aparente, nos despertamos (no recuerdo el día) con la noticia de que la junta administrativa de OpenAI había destituido a Sam Altman, Brockman había sido expulsado de la misma pero continuaba en la empresa y Murati era la nueva CEO.

Brockman dice que no a esa idea y se va también de OpenAI, y ambos fichan por Microsoft para, unos días más tarde, volver a OpenAI cada uno en su puesto.

No leí más noticias al respecto porque, con total sinceridad, me da igual. No soy de seguir culebrones a no ser que tenga dinero invertido en bolsa en alguna compañía.

Lo que sí tenía claro es que destituir a dos personas clave como Sam y Brockman no les iba a salir barato. Y aunque está feo decirlo, lo comenté con mi pareja. Literalmente le dije: "A ver quién sale detrás de ellos sin que nadie los eche".

He trabajado en equipos en los que, cuando alguien importante se va, ellos también lo hacen. Así que no me quiero imaginar lo que pasará en empresas tan punteras como esta, donde las personas (talentosas) juegan un papel aún más esencial por el conocimiento tan específico que solo un puñado de personas tienen en el mundo.

En otras palabras, me juego mucho a que hubo una avalancha impresionante de personas que declinaron seguir trabajando para OpenAI y que Microsoft ya tenía los contratos preparados.

Para mí ese fue el detonante de que hicieran volver a Sam Altman y compañía. Y esto se traduce en poder. Si antes ya era una persona clave, ahora lo es mucho más.

Especulando con el motivo

Si yo tuviera un producto exitoso, habría solo dos motivos por los que evitaría que se incorporaran más personas a mi plan de pago:

  1. El sistema no es estable y necesita un periodo para estabilizarlo. Aquí entran muchas áreas de mejora, pero en definitiva un mantenimiento, veámoslo así.
  2. Lo que prometí que te iba a dar por 20 $ no es real y no es sostenible. Bien porque no puedo cumplir con lo que le prometí a mis clientes o bien porque esos 20 $ me hacen perder dinero. Y si con cada cliente pierdo dinero, pensar que tener más me hará solventar el error es en sí otro error, porque lo que estás haciendo es perder más.

ia · innovación · chatgpt · openai

Blog