Hubo un tiempo en que el chiste se contaba solo. Entrabas en la oficina preguntando: «¿Qué framework JavaScript ha salido hoy?». Nos reíamos, un pelín nerviosos. Cada semana una herramienta jubilaba a la anterior. Siempre con razones, resolviendo problemas nuevos o viejos y llena de evangelistas recién convertidos. Siempre provocando en nosotros una pregunta recurrente: ¿quién es capaz de estar al día en todo, trabajar y además tener un poco de tiempo para vivir?
El síndrome del impostor es el estado natural del sector.
El chiste ha caducado. No por maduración del sector, por el motivo contrario. Los frameworks siguen apareciendo, pero no llegan a ninguna parte. No encuentran masa suficiente para generalizarse. Las tecnologías que antes se peleaban por nuestra atención y se adoptaban con una facilidad casi irresponsable ahora nacen, publican su documentación y se quedan esperando a una multitud que no llega.
Sé que parte de aquella ebullición era fruto de la juventud de la tecnología. Un campo joven prueba cosas, se equivoca y vuelve a probar. Es lo natural, con el tiempo se asienta. Pero este asentamiento es impuesto, no derivado. Hemos pasado de un extremo al otro tan deprisa que lo único que consigo retener es una sensación de extinción de la innovación.
Suficiente, no mejor
La IA tiene una trampa disfrazada de virtud: una capacidad de trabajo inagotable. Ante un problema no necesita la solución más elegante. Itera, prueba, falla, corrige y vuelve a probar hasta encontrar el resultado suficiente para el problema planteado. Y lo hace sin innovación, con el conocimiento que ya posee.
Durante décadas, la innovación en software ha funcionado de otra manera. Te topabas con un problema que las herramientas existentes resolvían mal, dedicabas meses a pensarlo y publicabas una forma nueva de abordarlo. La solución no tenía por que ser perfecta, era distinta, y a veces mejor. La IA no necesita ese rodeo. Donde antes hacía falta una idea, ahora basta con fuerza bruta aplicada con paciencia infinita sobre lo que ya existe.
Al final no tenemos la mejor solución. Tenemos una suficiente.
Esto no es nuevo del todo. «Nadie fue despedido por contratar IBM» es un refrán mucho más viejo que cualquier modelo de lenguaje. En 1989, Richard P. Gabriel escribió «Peor es mejor», un ensayo que defendía, que la solución más simple y tosca suele ganar a la completa porque se extiende antes. La historia de la informática está llena de «suficientes» que derrotaron a «mejores». Y hay que conceder algo más: el caos de JavaScript tenía costes enormes, y un poco de consolidación era sano.
Pero una cosa es la consolidación: el mercado prueba las opciones y se queda con las que sobreviven. Era un proceso darwiniano. Ahora nos encontramos de pronto con una congelación, y desaparecen quienes prueban y su lugar lo ocupa lo que propone la IA. Las alternativas mueren sin que la selección natural llegue a expulsarlas.
Cómo se reparte la baraja
Podriamos pensar que la IA tiene grabadas en el corazón unas instrucciones que le dicen qué camino tomar cuando nadie le indica otro. Hay algo de eso, los modelos se ajustan para dar respuestas seguras y poco arriesgadas. Pero el sesgo principal parte de otro sitio. Está en los datos.
Un modelo de lenguaje aprende de lo que existe publicado. Si hay millones de ejemplos de un framework frente a uno pocos cientos de otro, el modelo «controla» el primero con una soltura que nunca tendrá con el segundo. Cuando le pides resolver algún problema con una especificación vaga, el modelo no elige la mejor opción. Elige la más probable. Y lo más probable es, por definición, lo más común.
Esto es muy comodo. Sin esfuerzo, con un prompt aproximado obtienes una solución razonable, construida con piezas conocidas y bien documentadas. Para la inovación en la tecnología, es un escollo insalvable.
Piensa en quien encuentra una forma más lógica, eficiente o elegante de resolver un problema. Antes, su camino hacia la adopción era lento pero posible: publicaba, alguien lo leía, otro lo probaba un fin de semana. Ahora el filtro es lo que el modelo aprendió. Y si su solución llega después de la fecha de corte del entrenamiento, no existe. La masa no la elegirá como primera opción, ni siquiera como última.
No está en la baraja que se reparte.
La consecunecia ya la estamos viendo, y se alimenta a si misma. El código que genera la IA acaba en repositorios públicos. Esos repositorios se utilizan como datos de entrenamiento de la siguiente generación de IA, que recomiendan lo mismo con más convicción todavía. Mientras que los sitios donde antes se discutía lo nuevo se vacían. Stack Overflow, que durante quince años fue la plaza pública del desarrollador, ha visto caer su actividad a niveles de sus primeros años: la gente ya no lo usa, ha sido olvidado. Lo que obliga a la innovación a un arranque en frío. Sin ejemplos no hay recomendación. Sin recomendación no hay adopción. Otra vuelta al bucle.
¿Muere entonces la innovación? Se adapta. Ahora los proyectos que escriben su documentación pensando antes en los agentes que en las personas, e incluso existe una propuesta de estándar, llms.txt, para que las webs se expliquen a los modelos. La innovación sobrevive, pero la competencia muta, no gana la mejor herramienta, gana la que mejor se adapta a la máquina. Hemos pasado del SEO para buscadores al SEO para modelos. Quizás el chiste de los frameworks ahora se lo contemos a la IA.
Fuera del software
Tengo la tendencia a centrarme en la tecnología, es mi ámbito, pero lo mismo ocurre en cualquier área de conocimiento. Puede que no parezca un problema mayor hasta que se piensa en ciertos ejemplos.
Imaginemos a un ingeniero de infraestructuras que consulta a la IA, y a otro, y a mil más, y que la respuesta tiende siempre hacia un determinado tipo de material o de solución estructural. La ingeniería civil está muy regulada y las normas obligan. Aun así, cuando miles de profesionales reciben una respuesta en la misma dirección, la demanda se concentra. ¿Cuánto tarda eso en tensar una cadena de suministro y subir el precio de ese material? El mecanismo es el mismo que en el software: miles de decisiones que parecían independientes empiezan a moverse juntas.
En la medicina el caso ya no es una hipótesis económica. La intuición inmediata es que, si la IA tiende a inclinarse por ciertos diagnósticos, habrá más diagnósticos equivocados. Es posible. Pero el riesgo de fondo es otro.
Cuando cada médico razonaba con sus conocimientos y su experiencia, también se equivocaba. Pero sus errores eran distintos entre sí. Precisamente por eso funcionaba la segunda opinión: otro profesional, formado en otro lugar, con otros casos en la memoria, podía ver lo que el primero había pasado por alto. La segunda opinion era una red de seguridad a la que se recurre habitualmente.
Si todos usan el mismo modelo para consultar, todos fallan en la misma dirección. La segunda opinión desaparece.
Hay una vieja regla en medicina: «si oyes cascos, piensa en caballos, no en cebras». Busca primero lo común. Es un buen consejo estadístico. Es lo que hace un LLM llevado al extremo. El problema es que hay cebras, pocas pero hay. Los pacientes con enfermedades raras peregrinaban durante años hasta encontrar diagnostico (no digamos ya tratamiento). ¿Y si la segunda opinión desaparece a efectos prácticos?
Si comes platano de Canarias, comes Cavendish (la planta de platano que usan en Canarias). A mediados del siglo XX, casi todos los plátanos que se comían en Occidente eran de una sola variedad, la Gros Michel. Clones de una misma planta, ricos y con mucho aguante en transporte. En los años cincuenta, un hongo, el mal de Panamá, arrasó la mayoría de las plantaciones. Sin diversidad genética, ninguna planta era capaz de resistir, solo era un mismo individuo. La industria la sustituyó por otra variedad, la Cavendish. También clónica. Hoy se está repitiendo el escenario.
Aprendimos tan bien la lección que la repetimos.
Seria absurdo renunciar a la IA (tampoco es que fuera a ocurrir). Pero lo que no es común, está en el margen, deja de proponerse, y lo que no se propone deja de existir. Y elimirar los margenes reducirá el embudo de lo posible para todas las soluciones humanas. A menos que evitemos este mal uso de la tecnologia.
Tenemos que dejar de aceptar por defecto las soluciones suficientes, tenemos que excavar hasta lograr arrancar la verdadera respuesta y no amansar nuestras dudas con respues faciles.
La cebra quedará fuera de cualquier radar y todos nos convertiremos en Cavendish. No seamos idiotas, no sea que venga un hongo.