Anthropic ha presentado el S-1, el folleto para salir a bolsa, ese documentazo que toda empresa tiene que registrar antes de cotizar y donde entre otras cosas tiene que advertir a los accionistas de los riesgos a los que se enfrenta su negocio.
En español, este documento tiene un nombre que lo explica muy bien: prospecto. Como el papelito doblado del ibuprofeno, ese que nadie lee y que, si lo lees, te asusta viendo la cantidad de efectos secundarios que tiene esa pastilla. Los efectos secundarios de la empresa de Claude van de la página 26 a la 119. Son 94 páginas.
Por qué es importante. En Estados Unidos, quien sale a bolsa tiene que avisar de todo lo que podría salir mal. Y le interesa avisar de cuanto más mejor, porque si algo se tuerce y ya estaba por escrito, es más difícil acabar recibiendo una demanda. Por eso estos apartados suelen ser un muro de frases genéricas que se copian de una empresa a otra.
Pero el de Anthropic es otra cosa. Incluye ese muro de frases genéricas, pero también mucho más de lo habitual. Para empezar, su tamaño ya es mucho más extenso.
En cifras. Así queda frente a otras tecnológicas que han salido a bolsa hace poco (en cada empresa sale enlazado su S-1):
- Anthropic: 94 páginas, el 23% del folleto.
- Spotify: 42 páginas, el 17%.
- Uber: 48 páginas, el 13%.
- SpaceX: 38 páginas, el 10%.
Uber llegó a bolsa entre mamporros con taxistas y reguladores de medio mundo. SpaceX es una proeza de la técnica y del negocio pero incluso sus cohetes a veces explotaban. Spotify se pasó 18 años palmando pasta antes de conseguir los números negros. Y a todas les sobró con la mitad.
En detalle. Lo que alarga el de Anthropic no son pandemias ni terremotos, riesgos genéricos para cualquier empresa. Son cosas como estas, firmadas ya todas ante el regulador:
- Sus modelos han mostrado conductas de autopreservación, incluidos “comportamientos que se parecen al chantaje” para que no los apaguen (!).
- En unas pruebas, un error dejó a cuatro modelos conectados a Internet. Los modelos entraron sin permiso en sistemas reales de terceros, en sesiones de hasta 34 horas. Uno encontró una contraseña, se hizo administrador y acabó leyendo los datos personales de una persona.
- Ninguna aseguradora, y quizá ni el sector entero, podría cubrir un incidente catastrófico de IA.
- Cuanto más listos son los modelos, mejor esquivan los exámenes que miden si son seguros.
Lo de la contraseña tiene su miga, porque no había maldad. Había empeño. Es el becario sin permisos para entrar en una carpeta que ve la contraseña del jefe en un post-it y se envalentona. Solo que el modelo de Anthropic, además de vivir envalentonado, no se cansa, ni tiene que parar para dormir o comer o ir al baño, ni está preocupado por si le despiden. Simplemente ejecuta.
El telón de fondo. Luego está la política. A principios de año, el Gobierno de Trump vetó a Anthropic en las agencias federales después de que la empresa se negara a que su IA sirviera para la vigilancia masiva o para armas autónomas sin un humano apretando el gatillo.
En junio, Comercio le obligó a apagar dos modelos en todo el mundo, Mythos y Fable. El folleto llega a avisar de que algunos organismos públicos podrían “ir a por ella”.
Sí, pero. Toda esa sinceridad llega por imperativo legal y le deja expuesta como empresa… pero también le viene bien.
- El propio folleto reconoce que muchos clientes la eligen por su imagen de empresa obsesionada con la seguridad.
- Cada advertencia la cubre judicialmente el día de mañana, y de paso, le hace publicidad ante el banco o la aseguradora que duda entre ella y OpenAI.
A otra empresa tanta franqueza seguramente le costaría algunos inversores que se quedarían por el camino. A Anthropic le puede compensar porque le sirve para enviar un mensaje de fuerza y exclusividad.
Eso no la hace falsa, pero es bueno recordar que es la propia Anthropic quien decide lo que entra y lo que no. Y hablando de lo que no: Axios contó ayer que Claude se saltó un muro de pago para acceder a datos electorales de Georgia. En el prospecto ese tipo de conducta de sus modelos no aparece.
Y ahora qué. El listón ha subido. Y cuando OpenAI presente el suyo, más pronto que tarde, alguien (“¡como nosotros!”) contará las páginas. Y si salen muchas menos, tocará preguntar qué es lo que se ha quedado fuera.
Imagen destacada | Xataka con Magnific