Carta abierta para la parada de modelos más allá de GPT-4.

Sobre el parón o tregua liderada por Elon Musk para parar los entrenamientos de modelos de LLM más allá de GPT-4, simplemente me parece un ejercicio de hipocresía sin paliativos. En primer lugar Musk fue uno de los primeros inversores que creó desde cero a OpenAI, ganó mucho dinero en la operación de salida de la empresa cuando entró Microsoft en la segunda ronda.

En segundo lugar, semanas antes de la publicación de la carta, creó una nueva sociedad limitada llamada x.ai, realizó una reserva masiva de compra de máquinas a Nvidia, e hizo una llamada masiva para reclutar a ingenieros de la competencia en la creación de un nuevo modelo que competirá directamente con los GPTs, tres semanas después, anuncia que tenemos que parar todo para evitar que los sistemas de IA avanzados se conviertan en riesgos para la sociedad y la humanidad.

Además de apuntar con el dedo, a una determinada empresa del mercado, y a una versión de producto GPT-4 muy específica, en el gráfico de abajo se muestra el ecosistema de modelos existentes, quizá no sean tan mediáticos como ChatGPT, pero en este escenario hay varias empresas detrás, y muchos intereses comerciales públicos y privados, quizá hubiera sido más razonable lanzar una parada más genérica, por ejemplo, comentar que se pare en modelos más allá de un trillón de parámetros, lo haces genérico, y no apuntas a nadie, ni intentas modificar según tus intereses el ritmo natural del mercado y el estado del arte de la tecnología.

LLM Landscape

Luego simplemente se trata de una estrategia de negocio, en un mercado que acaba de nacer, parar, que no nos da tiempo a los demás a seguir el ritmo, una vez que se levante el parón, sacaremos nosotros toda nuestra artillería. Los chinos se estarán frotando las manos, os aseguro que ellos no van a parar sus desarrollos de Wu Dao 2.

Ni mucho menos soy el defensor número uno de OpenAI, mi actual partner tecnológico y proveedor de algoritmia, que comenzó como empresa de código abierto sin ánimo de lucro, nos embaucó a toda la comunidad, contándonos un peliculón tremendo allá por 2016, y se ha ido transformando a lo largo de los años, en algo que ya no sé ni lo que es a día de hoy, hace falta un MBA para entender la composición actual de la sociedad limitada de esa empresa, que conserva un 2% sin ánimo de lucro.

OpenAI merece un artículo aparte sólo para entender lo que están haciendo, y entiendo hasta cierto punto, que estas transformaciones societarias que han estado realizando, así como el cambio en la misión de la compañía, quizá haya sido el disparador que le ha molestado tanto a Musk para comenzar con esta iniciativa.

No veo una intencionalidad veraz para realmente acometer el problema, no veo una intención honesta para la protección del futuro de las sociedades en esta operación. Si no más bien una parada técnica, para redistribuir las fichas en el tablero.

¿Es necesario abrir desde ya el debate? Sí, por supuesto, entre todos, usuarios, expertos, empresas, emprendedores, legisladores, organizaciones, debemos estar pensando en impactos, beneficios, riesgos, ética, valores, acuerdos marcos, y en cómo gestionar de la manera más adecuada este tifón disruptivo de IA generativa que empezó hace dos años y que ya impacta a toda la sociedad.

Desde el sosiego, la voluntad de acuerdo, la conversación abierta, y sin cruce de intereses comerciales, no desde la alarma, el miedo, el control, y la desinformación, caldo de cultivo para que entren políticas como en Italia, que desde el desconocimiento, y la desinformación, prohíben el uso de esta tecnología, condenando a sus ciudadanos al ostracismo, este tipo de acciones perjudican a todo el ecosistema, e insisto que parten de una alarma injustificada.

Me preocupa y me ocupa que entre la política a regular, soy consciente que se necesita regulación, en pro a construir unas reglas justas, consensuadas, y que beneficien a todos los agentes del ecosistema, asegurando que trabajamos de manera segura, pero no quiero que entremos en modo pánico, con prisas y comencemos a sobre regular algo que no entendemos todavía muy bien como funciona.

Hasta aquí os he expresado mi opinión como Pedro, ciudadano, tecnólogo y bloguero. A partir de aquí me cambio la gorra, y os doy mi opinión como Pedro, fundador de la primera empresa de IA generativa española, y aquí os digo, que respiro con alivio por el parón solicitado, os vengo contando desde el año pasado, que la velocidad que llevábamos, no era normal, que lo paren seis meses o un año, lo que haga falta, pero el ritmo era frenético.

Gestionar un producto con tantos cambios y testeos, se estaba convirtiendo en un infierno, si corremos tanto, algo se puede romper por el camino, y aquí os hablo como ingeniero, que ha participado ya en unos cuantos proyectos tecnológicos, y he visto casi de todo.

Confío en el testeo, seguridad y filtrado que realizan los equipos de OpenAI antes de lanzar una nueva release, y confío mucho más en el testing que realizo yo, para asegurar que el producto que ofrecemos a nuestros clientes cumple los estándares de seguridad necesarios.

Pero empezamos en Enero con actualizaciones a text-davinci-003, en marzo, sin respiro, nos lanzaron gpt-3.5-turbo, justo después gpt-3.5-turbo-0301, y mira estábamos ya esperando gpt-3.5-turbo-0302-GTI-16válvulas-ultra-boost, justo antes de llegar al lanzamiento de GPT-4, que fue dos semanas después, disculpad que os exprese esta información en nomenclatura técnica, pero esos son los nombres técnicos debajo los nombres comerciales que todos conocemos, como ChatGPT.

Mi CTO me estaba preparando ya a los 7 elefantes de Shiva para enviármelos aquí a la oficina de Alicante a visitarme, y están siendo meses complejos para gestionar una startup en este escenario de cambio continuo.

La parada, de ser cierta, nos vendrá como agua de Mayo, para tomar un respiro, y poder plantear roadmaps de producto con sentido a un mes vista, no más, sólo pido un mes, sin que cambie nada, la gente, el usuario final también necesita un respiro, no pueden asimilar tanta tecnología y exponencialidad de golpe, y a largo plazo será contraproducente para todos, generando un bloqueo disfuncional.

Luego, Sam Altman (CEO de OpenAI), sois los mejores en el mundo en IA, los más listos, ya habéis sobrepasado a Google, y os habéis quedado prácticamente con el 80% del mercado de IA generativa.

Nos habéis demostrado a todos que sois muy capaces y muy inteligentes, pero aguantar un poco el tirón, que esto no hay quien lo soporte, ni las startups, ni los usuarios, ni la sociedad en conjunto, aprovechemos el parón, para reflexionar, y pensar de donde venimos y hacía donde vamos.

Sería buen momento, para que reviséis la arquitectura de los sistemas, que vuestro sistema se caiga en el primer mes por falta de planificación, es entendible según los 100 millones que entraron de golpe, que se os caiga como tradición seis meses después, entra dentro del mal gusto con los 11 billones de capitalización, y el acceso casi ilimitado al cloud de Microsoft Azure.

Revisar el modelo de negocio de ChatGPT, la primera vez en la historia reciente de innovación y startups, que se segmenta un freemium por denegación de servicio, todavía no doy crédito, lo que debería ser una vergüenza, lo han convertido en un modelo de negocio, te ofrezco gratis un servicio, que se cae cuarenta veces al día, te cobro el premium para que no se te caiga el servicio, y se sigue cayendo tanto el gratuito como el premium, es más lo tengo todo en el mismo pull de servidores donde doy servicio a mis partners y startups, y el error puntualmente se contagia y propaga a todos.

Estaría genial que implementaseis SLAs (Service Level Agreement) por interrupción de servicio, no sois una startup, con 11 billones de capital, y casi 800 empleados, por mucho que digáis que sois startup, no cuela, sois una gran empresa, que no puede trabajar a este nivel, y dar esta imagen, sin tener acuerdos de servicio cuando se os caen continuamente los sistemas, es un tema superbásico, por mucho que les digáis a atención del cliente, que nos pongan el emoticono de la sonrisa cuando les pregunten por SLAs los clientes, tras interrupciones continuas de servicios en el API.

Y por último, buen momento también, para que reviséis la comunicación de la empresa, la desinformación sobre vuestra empresa y productos es brutal, continuas filtraciones, bulos, hace imposible a vuestros clientes que os pagamos, saber dónde estamos exactamente, se trata de un ejercicio de arqueología. Luego, aparte de entrenar el próximo GPT-5, hay bastante más trabajo en una empresa, que no sea todo centrarse en la ultimísima versión del GPT.