La democratización de la inteligencia…
Hoy me apetece escribir. Llevo unos mesecillos un tanto ajetreados entre el trabajo, lo personal y la finalización de mi trabajo de fin de máster. Toda esa carga ha hecho que tenga menos tiempo y ganas de escribir por aquí. Además, tengo otros hobbies que atender. Seguramente empiece poco a poco a retomarlo, a escribir más, pero posts más cortos, con menos carga teórica y sin programación de por medio. Al fin y al cabo, para eso inicié este blog, para escribir más y disfrutar en el camino, no para añadirme otra carga todas las semanas, no para añadirme a la fuerza conceptos y tecnologías nuevas que aprender.
Hoy quería escribir sobre el concepto de democratización de la inteligencia, algo de lo que se ha hablado bastante desde que la masa descubrió a ChatGPT. Si no recuerdo mal, descubrí GPT (que no ChatGPT) con los vídeos de DotCSV, cuando estaba en segundo o tercero de carrera, allá por el $2018-2019$. Jugaba en un entorno de pruebas con una red neuronal capaz de generar texto. Sin embargo, a partir de los pocos párrafos dejaba de tener sentido nada de lo que ese modelo escribiera, pero el hecho de poder escribir siquiera algo con el más mínimo sentido era una bomba. Desde entonces los modelos de lenguaje han tenido una evolución exponencial en cuanto a sus capacidades. El contexto (explicado como la cantidad de información que pueden contener en una sola sesión) que manejan es gigantesco, su conocimiento abarca todo Internet y más allá. Son capaces de programar mejor que cualquier recién graduado y de generar textos casi indistinguibles de un ser humano. También se hicieron mainstream, y con ello, las grandes masas conocerían lo que era la IA.
Personalmente, como alguien que ha estudiado Ingeniería Informática, especializándose en sistemas inteligentes y computación (viene a ser la rama de IA), he de reconocer que me dio un poco de coraje. El conjunto de métodos que llamamos Inteligencia Artificial han existido desde hace décadas. Los algoritmos genéticos, los sistemas de conocimiento, algoritmos de búsqueda de caminos, el machine learning en general, han sido considerados IA desde hace mucho. Los LLMs no son más que redes neuronales entrenadas con todo el texto conocido (simplificando mucho). Pero mi desagrado con el nuevo cambio de concepto de la IA no viene del propio viraje de significado a nivel general, que como friki petardo algo sí que me molesta (pero es natual y lo entiendo). Viene más bien del auge de los expertos en IA. ¿Quiénes son estos expertos? Cantamañanas y buscavidas que, en su mayoría, descubrieron la IA ayer (con ayer me refiero a un par de meses antes que el público general). Son la evolución de los crypto bros o los pesados de los NFTs. De este tipo de personas está el mundo lleno y no es, a priori, tan malo. Lo malo es que están por doquier y no solo en los anuncios petardos de redes sociales. Antes te intentaban vender cursos, pero eran cuatro gatos. Ahora están en todos lados, en el trabajo, en la familia, en todos tus círculos.
Esas personas antes se podían ignorar, pero ahora ya no, son una masa. El mercado está lleno de personas que han hecho un giro de $180$ grados con su profesión, ahora son expertos en IA, ahora son prompt engineers. Se han formado con cursos de otros expertos en IA que en su mayoría tienen un contenido pobre, nada técnico y que en algunos casos roza lo absurdo. Muchos sectores han virado hacia la nueva IA y se habla mucho de democratización de la inteligencia, que viene a significar que ya no hace falta usar mucho el coco para hacer cosas mínimamente complicadas. ¿De verdad es así? Hablando sobre lo que sé, la informática, ¿está ocurriendo? Pues en parte sí. Al principio usábamos los LLMs para generar trozos de código, para ayudarnos y darnos un extra de velocidad, pero es que ya estamos en un punto en el que se generan proyectos en dos días, proyectos que antes podrían haber durado cuatro meses.
He vivido en mis propias carnes lo que es ir poco a poco convirtiéndote de un programador a un supervisor de la IA. Antes pensaba, planeaba, me informaba y volvía a planear, luego programaba y después corregía. Todo ese proceso me hacía sentir pleno en mi trabajo, le daba un sentido. Tenía que trabajar con un conjunto de restricciones y resolver un problema que podía ser más o menos trivial, pero todo ese proceso, aunque lento, era estimulante, gratificante. Poco a poco, te hacía mejor profesional. Ser supervisor de la IA le quita toda la gracia y creo que traerá serios problemas en el futuro. Hoy, se usan agentes potentísimos de IA que hacen que la resolución de un bug menor, la cual podía tenerte ocupado un par de horas o incluso un día, se resuelva con un prompt. Los proyectos de meses son ahora realizados en dos días. El precio a pagar es tener que sentarte a hablar con un bicho que a todas luces es un tarugo, pero que te escupe código medio funcional en segundos (eso sin contar el doloroso precio por token). Es decir, has estudiado complejos algoritmos, tienes nociones de diseño de sistemas eficientes e inteligentes, eres capaz de resolver problemas porque a eso se dedica un ingeniero informático, para terminar dándote cabezazos contra la pared porque Claude Code no te hace caso.
Pues nada, esas capacidades ya no son del todo requeridas. Obviamente sí que son importantes, pero el baremo ha bajado y ahora hay muchas más personas capaces de dedicarse a la programación. Se sigue necesitando a una persona formada, ya que no es viable desplegar proyectos enteros sin la supervisión de un experto. La IA sigue cometiendo fallos garrafales y no es seguro. De ahí viene parte de la “democratización de inteligencia”, de la bajada del baremo. Pero, ¿y los que ya se dedicaban a esto antes de los LLMs? Pues muchos, si no son la mayoría, están siendo obligados directa o indirectamente a programar con IA, ya sea porque el ritmo de entrega se ha visto acelerado, porque son adictos o porque les obligan directamente. Y con ello viene pensar menos. Ya no hay que devanarse los sesos, solo preguntarle al bicho y revisar que medio esté bien. Sinceramente, no lo veo muy mantenible en el tiempo.
…o de la estupidez
Llamadme loco, conspiranoico o hipocondríaco, pero yo noto un bajón delirante en todo lo relacionado con el software. Lo he notado en mis propias carnes al interactuar con decenas de páginas web que uso semanalmente desde hace años y con programas concretos. No solo eso, sino que la cantidad de noticias de nuevas filtraciones de datos en empresas ha crecido, o siento que ha crecido, muchísimo. No uso Windows como sistema operativo personal (dios me libre), pero claramente el vibe coding no está ayudando a que Microsoft deje de ser Microslop.
La calidad del software ha decaído y, con ella, también se degradan poco a poco las capacidades del programador. En mi caso concreto, si no fuera porque disfruto de mi trabajo y consumo contenido de informática, artículos técnicos, machine learning y otras áreas relacionadas, probablemente ya tendría la babilla caída de tanto vibe codear. Por suerte, mi trabajo ha cambiado y ahora puedo dedicarme a tareas más estimulantes, utilizando la IA como un apoyo puntual en lugar de como una muleta. Aun así, el deterioro de mis habilidades como programador fue real. Y mi caso no es aislado, le ocurre a todo el mundo en mayor o menor medida y en casi todos los sectores, no solo en programación. Es una muerte lenta. Por ello, creo que hoy se está produciendo un intercambio peligroso en el que se está sacrificando una mayor velocidad y “eficiencia” a corto plazo por una degradación lenta, pero continua, de la capacidad de análisis crítico y de la razón. Y lo de eficiencia entre comillas porque la deuda técnica se ha multiplicado por mil y a ver quien es el listo que va a mantener ese pedazo de troncho de programa que no entiende ni la propia IA que lo creó. Además, ¿a cuántos de vosotros os da miedo la página en blanco? Siempre lo ha dado, pero ahora podemos rellenarla ya de ya. La consecuencia de esto es una menor creatividad, una degradación de la calidad del trabajo realizado y una lenta castración.
Esto es algo que ocurre a niveles bajos en la jerarquía laboral, pero los CEOs, directivos, personas en general que se dediquen a la organización y gestión de otros, también sufren de esto. Los LLMs son como un psicólogo incompetente que en vez de ayudarte te autovalida. Te da la razón y encima te da argumentos falaces para justificar cada subnormalidad que uno pueda llegar a pensar. Es como la gente que se apoya en “artículos científicos” para explicarte por qué comer <inserte aquí cualquier tipo de alimento> es nocivo para la salud, pero con esteroides. Y eso, para alguien cuya responsabilidad consiste en tomar decisiones que afectan a decenas o cientos de personas, además del rumbo de la propia empresa como entidad, es peligrosísimo. El valor de una organización no está solo en ejecutar, sino en confrontar ideas, escuchar a quienes saben más que tú en cada área y dejar que tus decisiones sobrevivan al escrutinio de otros. Si sustituyes ese proceso por una conversación con un modelo cuyo objetivo principal es resultar útil y convincente, corres el riesgo de encerrarte en una cámara de eco extremadamente sofisticada. ¿Se darán cuenta de esto a la larga y a las malas? O quizá nos reorganicemos de otro modo más eficiente y todo salga genial. Yo no soy conocedor de la verdad.
Quizá no importe mucho, quizá la IA mejore tanto que estos pequeños errores ya no sean un problema y la inteligencia humana y el criterio queden en un segundo plano. Yo lo dudo. Los LLMs son uno de los mayores avances tecnológicos de los últimos años, pero tienen problemas serios inherentes a su naturaleza y eso lo están notando hasta las empresas como OpenAI y Anthropic. La escala por fuerza bruta se está acabando, por no hablar ya de otros problemas como el del autoconsumo. La IA se alimentó de la inteligencia colectiva de Internet, pero ahora corre el riesgo de alimentarse de su propio reflejo, pero eso es otro tema.
Siendo positivos, todo convergerá, como ha ocurrido siempre con todas estas cosas, a un punto medio mucho más razonable. Ocurrió con la burbuja dot-com, con las criptomonedas, los coches eléctricos o incluso el Big Data. Primero llega la euforia, después la decepción, y finalmente la adopción real. Solo necesita tiempo. Y siendo negativos, pues quizá haya que ir aprendiendo la profesión de fontanería.