A finales de abril publicaron la charla completa con José Ignacio Latorre, físico teórico. Ha dedicado su vida a la investigación tanto en física cuántica como en mecánica cuántica e inteligencia artificial. Actualmente es el director del Centro de Tecnologías Cuánticas en Singapur. Un centro de 340 personas y 100 líneas de investigación donde están construyendo ordenadores cuánticos.

Al comienzo de su intervención, la cual te recomiendo que escuches entera con calma y atención plena, porque merece mucho la pena, explica una experiencia personal reveladora, ocurrida recientemente en su centro de investigación en Singapur. Un investigador postdoctoral le muestra una IA avanzada especializada en física matemática por la que paga 250 dólares al mes. La herramienta había sido capaz de resolver completamente su investigación científica y generar un artículo académico impecable: introducción, razonamiento, conclusiones y referencias, todo correcto y sin errores. Latorre decide probar personalmente la herramienta con un problema complejo en el que llevaba meses trabajando. Tras varias horas de razonamiento autónomo, la IA produce un análisis completo y concluye que la línea de investigación no funciona, ahorrándole meses de trabajo. Este episodio le hace tomar conciencia de la magnitud del cambio que se aproxima. A partir de ahí explica cómo trasladó esta preocupación a los investigadores principales de su centro. Les plantea que son uno de los centros de élite del planeta y que no pueden ignorar la nueva realidad.

Mirad, el mundo se divide entre los que giran la cabeza y los que miran al problema o al cambio directo a los ojos y deciden qué hacer.

Poco después, la frase con la que sintetiza su experiencia con la IA me ha dejado varios días reflexionando:

Todos los humanos quieren vivir un momento singular en la historia de la humanidad. Pero es que creo que nos está tocando un momento singular en la historia de la humanidad, aquel en el que somos superados intelectualmente.

No habrá sido la primera vez que has leído u oído una idea similar a esta, pero soy de la opinión de que no todas las opiniones tienen el mismo valor. Y esta, del científico José Ignacio Latorre, creo que está muy autorizada y es realmente relevante.

Así que ¡preparémonos para este apasionante momento de la historia de la humanidad!

Eva Aladro Vico, Catedrática de Teoría de la Información, Universidad Complutense de Madrid. Este artículo fue publicado originalmente el 10 de mayo de 2023 en The Conversation bajo licencia CC BY-ND 4.0.

La llegada de la inteligencia artificial al público general ha supuesto el comienzo de un debate sobre si es posible que este sistema automático sustituya a la inteligencia humana.

Múltiples autores, de Noam Chomsky a los filósofos epistemólogos, plantean una serie de dudas sobre este asunto: Chomsky detecta en ella la banalidad del mal de la filósofa Hannah Arendt, y otros consideran que no tiene capacidad para los juicios abductivos de nuestra mente, es decir, para la generación de nuevas lógicas en el progreso inesperado de la racionalidad.

Muchos autores piensan que esta "inteligencia" está lejos de ser creativa, no es generativa, aunque sea capaz de producir textos nuevos en apariencia. Pero realmente, ¿qué diferencia la inteligencia artificial de la inteligencia humana, a secas?

Seleccionar, combinar y comparar

Los autores que estudian la inteligencia compositiva o sintética, que es la que puede generar nuevas ideas, tienen establecido que el cerebro humano que procesa información de modo inteligente y creativo realiza tres actividades diferentes:

1. Combinación selectiva: uniendo y combinando piezas informativas de modos específicos. Permite innovar cambiando el orden de los elementos, y muchas invenciones son resultado de una combinación o asociación innovadora, como la visión de la doble naturaleza del electrón.

2. Comparación selectiva: proyectando cadenas de asociaciones sobre nuevos contextos, para observar los paralelismos, es decir, realizando analogías y proyecciones metafóricas. Permite establecer paralelismos y lanzar hipótesis de unos campos a otros. Por ejemplo, ver la estructura molecular como una escalera de caracol o la del núcleo de un átomo como un pequeño sistema solar, comparaciones selectivas que generaron cruciales avances en el conocimiento.

3. Codificación selectiva: sintetizando, eliminando y puliendo las estructuras hasta que pierden ambigüedad y la información superflua. Este es el principio crucial en los avances inventivos y creadores en todos los campos. Por poner un ejemplo sencillo: Rembrandt renunció al uso de la gama del color azul en sus pinturas para potenciar la expresión con los otros colores; o Frank Capra recomendaba siempre eliminar rollos de película filmada para mejorar la calidad del conjunto.

La inteligencia artificial usa toda la información que nosotros mismos volcamos a la red, realiza comparaciones y constantes combinaciones de elementos, siendo capaz de rastrear y presentar composiciones de cualquier tema o texto. El parecido con las operaciones creativas existe, pero hay una diferencia radical. ¿Cuál es?

Forma, elegancia y estética

El matemático francés Henri Poincaré llegó a la conclusión de que el acceso al conocimiento innovador no era una operación mecánica, ni tampoco provenía de la lógica racional. Acceder a una idea nueva, decía, era un "sentimiento de la forma" de esa innovación.

Según explica en su obra Ciencia y Método, cuando descubría soluciones en su búsqueda de avances matemáticos, experimentaba una impresión de forma, que iba inexorablemente unida al descubrimiento, y de cuya captación dependía el posterior desarrollo de todo el avance.

Dicha experiencia podía considerarse estética, y Poincaré llegaba a experimentar la elegancia de la resolución de un problema matemático. ¿Qué quería decir Poincaré?

Salto al futuro

Los autores que estudian la inteligencia creadora efectivamente registran la paradoja de que cuando se crea una innovación en cualquier campo, se "saca de la nada" un conocimiento que antes no existía. Esta operación no puede generarse de modo automático, ni sistemático. Lo que hay en la invención creadora es un "salto al futuro" mediante un lenguaje nuevo, como explicaba Antoine de Saint Exupéry en sus Cuadernos.

Según Saint Exupéry, la relación entre elementos, que es anteriormente impensable e improbable, se construye mediante el lenguaje. Y esta operación es un fenómeno que los creadores ven ligado a la visión repentina de una forma, composición o estructura nuevas. Una vez se expresan y son compartidas, cambian radicalmente nuestra realidad. Pero no podemos planificar su aparición porque pertenecen al futuro que ellas mismas van creando.

El lenguaje cambiante

Sólo mediante un lenguaje capaz de combinaciones infinitas de elementos finitos, que puede romper sus propias normas y establecer o moldear nuevos elementos, es posible que se produzcan estos saltos.

Según Poincaré y Saint Exupéry, entonces, la invención no es algo que resulte del compendio automático, ni del resumen de un conjunto profuso de datos, ni siquiera de la experiencia de aprendizaje previo. Se trata de algo diferente que está relacionado con un uso "disruptor" de los lenguajes y los códigos.

Cuando un creador, un investigador o un científico innovan, no siguen patrones de uso habitual ni compilan la información universal. Su selección de elementos puede ser completamente inexplicable. Puede que incluso desconozcan información básica, y ello precisamente les sirva para innovar. Las analogías con las que trabajen pueden escapar de toda plausibilidad, pero sin embargo, serán como las de Galileo, imprescindibles. Y sus síntesis creativas seguramente serán al mismo tiempo nuevas y asombrosamente adecuadas. Ello forma parte del avance en el conocimiento, que no puede ser automatizado ni fabricado.

En una muy reciente investigación, precisamente sobre el declive de la expansión científica, se percibe la desaparición significativa del uso de lenguajes disruptores en todos los campos del avance científico humano.

Trabajar con lo ya sabido

La inteligencia artificial no puede generar información nueva ni usar el lenguaje para generar nuevos pensamientos jamás concebidos por los seres humanos, porque su base de trabajo es lo "ya sabido", lo ya existente, la información universalmente compartida en la red.

Es un excelente medio para procesar o difundir lo ya sabido, pero no para pensar lo nuevo. Está férreamente atada al pasado, y sus estructuras y códigos repiten y reiteran lo existente, lo previo.

Estos sistemas pueden ayudar muchísimo para liberar a los informadores de tareas poco creativas e incluso puede que obligue a los profesionales a hacer algo más que repetir como loros la información convencional de fuentes ya conocidas.

Si aprendemos a distinguir entre inteligencia artificial e inteligencia creadora quizás podamos también aprender con ello que muchas de las formas de comportamiento que hoy consideramos inteligentes no son más que simples ejercicios de redundancia, superficialidad e incluso estupidez. La inteligencia artificial puede enseñarnos esto, al menos.

Eva Aladro Vico, Catedrática de Teoría de la Información, Universidad Complutense de Madrid. Este artículo fue publicado originalmente el 10 de mayo de 2023 en The Conversation bajo licencia CC BY-ND 4.0.

En NN/Group —prestigiosa agencia de expertos en UX— han publicado muy recientemente (abril del 2026) un interesante artículo con recomendaciones de usabilidad derivadas de la observación de personas usuarias reales interactuando con chatbots de IA integrados en la web. Es decir, se trata de un estudio de campo, por lo que no se basa en suposiciones, sino en la observación real. El artículo está firmado por Georgia Kenderova, Maria Rosala y Tanner Kohler y expone 10 buenas prácticas de usabilidad para chatbots de IA.

Dado el rigor y la profesionalidad que caracteriza los estudios de NN/Group, me ha parecido interesante hacerme eco de sus hallazgos y exponerlos en español (el artículo original está escrito en inglés). Además, para aportar valor añadido, los he ilustrado con capturas de pantalla o wireframes con ejemplos en español para acercar este interesante contenido al entorno hispanohablante. Y he añadido tres recomendaciones adicionales de cosecha propia que no se mencionan explícitamente en el artículo original.

1. Deja claro desde el principio qué puede y qué no puede hacer el chatbot

Cuando las personas usuarias lo abren por primera vez, el chatbot debería indicar de forma clara y concisa qué puede hacer.

Me parece uno de los puntos más importantes a tener en cuenta. ChatGPT y Gemini saben de todo y responden a cualquier pregunta que les hagamos. Salvo, quizás, para responder preguntas relacionadas con nuestro contenido propio. Con contenido exclusivo o específico de nuestro sitio web.

Los chatbots de IA integrados en un sitio web tienen un objetivo diferente a las IAs generalistas, el valor añadido que pueden ofrecer es resolver dudas o consultas específicas de nuestro contexto o negocio. Son chatbots que tienen acceso a nuestro contenido. Pero quizá no a todo él. O se encuentran limitados en algún área de conocimiento propia de nuestro contexto. Pero la persona usuaria no lo sabe, y es vital que le mostremos desde el principio qué tipo de dudas puede resolver nuestro chatbot.

Los saludos genéricos o la ausencia de sugerencias de preguntas no ajustan las expectativas de los usuarios y darán por supuesto que el chatbot puede resolverles cualquier tipo de consulta.

Por ejemplo, el mensaje inicial de la Administració Oberta de Catalunya es muy genérico.

Indica en el mensaje introductorio los temas o tareas en los que el chatbot puede ayudar.

El asistente de la web del Gobierno de Grecia es también demasiado genérico.

Un buen ejemplo lo tenemos en el chatbot de la Seguridad Social.

Ahora bien, el mensaje inicial no debería abrumar con explicaciones detalladas, sino indicar de forma sencilla qué puede esperar el usuario. El caso de Iberia es un buen ejemplo en este sentido.

Si queremos ir a por nota, el mensaje inicial debería adaptarse a la página en la que se encuentra la persona usuaria. Es lo que hace Rufus, el asistente de IA de Amazon. La página de inicio me muestra unas sugerencias diferentes a la que se muestra en la página de un producto concreto como el Apple MacBook Neo.

2. Mantén el chatbot accesible en todas las páginas

Es un principio básico el ser consistentes con el aprendizaje previo del usuario. Si le hemos acostumbrado a que el acceso al chatbot de nuestra web es un botón flotante en el extremo inferior derecho de la página, por ejemplo, no deberíamos hacerlo desaparecer en algunas secciones del sitio. Un chatbot que desaparece entre páginas es un chatbot que los usuarios acabarán dejando de utilizar.

En la web de Iberia tienen un chatbot de IA presente en casi todas las páginas del sitio web.

No así en el apartado de gestión de reservas.

Un hecho curioso, máxime teniendo en cuenta que el chatbot está diseñado precisamente para ayudar con la gestión de reservas.

3. Conserva el historial del diálogo entre todas las páginas

Esta pauta no está incluida en el decálogo de NN/Group, pero me parece un requisito imprescindible. Imagina que estableces un diálogo con el chatbot y que en una de sus respuestas te ofrece un enlace interno a otra página del sitio. Lo esperable sería que, en la página de destino, el chatbot permaneciese abierto y conservase el historial de la conversación. Al menos durante la sesión vigente.

Afortunadamente, no es fácil encontrar ejemplos de chatbots que presenten este problema. Un caso es el de la Seguridad Social en España. En su chatbot, el historial de la conversación no solo se pierde cuando navegamos a otra página del sitio web, sino también, lo cual es aún peor, se pierde cada vez que cerramos la ventana del chatbot.

4. Un chatbot consciente del contexto ofrece respuestas mucho más relevantes

El chatbot debería conocer la página del sitio web en la que se encuentra el usuario y tenerla en cuenta si la pregunta que lanza el usuario está relacionada.

En Leroy Merlin, por ejemplo, si nos encontramos en una página de producto, el usuario esperaría que el chatbot fuese sensible al contexto. Pero no es así.

Sin embargo, en Amazon, su chatbot responde en relación a la página de producto en la que nos encontramos.

5. Ofrece preguntas sugeridas relevantes como botones, no como texto

Hay dos momentos principales en los que los chatbots pueden mostrar sugerencias de preguntas:

• Cuando el usuario abre el chatbot por primera vez.
• Después de que el chatbot responda, especialmente si hay más información relevante que el usuario podría explorar.

Las sugerencias reducen el esfuerzo del usuario porque eliminan la necesidad de formular preguntas desde cero.

Para facilitar su uso, las preguntas sugeridas deberían mostrarse como botones clicables y no como texto plano. Esto evita escritura innecesaria y permite ofrecer múltiples sugerencias sin resultar pesado con mucho texto.

Anteriormente hemos visto ejemplos de buenas preguntas o sugerencias de inicio. Por ejemplo, en la Seguridad Social.

Las preguntas adicionales y relacionadas que el chatbot puede sugerir después de proporcionar una respuesta pueden ser muy útiles si son relevantes y no repetitivas.

Una participante en el estudio de NN/Group manifestó que le habían gustado mucho las preguntas de seguimiento porque le habían hecho reparar en cuestiones en las que no había pensado.

Un buen ejemplo son las preguntas de seguimiento que hace Rufus, el asistente de Amazon.

Las preguntas de seguimiento deberían responder al contexto de la conversación y no volver constantemente sobre temas que el usuario ya ha ignorado. Además, presentarlas como botones clicables hace mucho más sencillo continuar conversando.

En el siguiente ejemplo de Scouting America se echa en falta que las opciones de registro se presenten como botones y no en forma de pregunta en modo texto.

6. Usa componentes expandibles para no abrumar con respuestas largas

Las conversaciones con chatbots de IA pueden volverse largas rápidamente. En el artículo de NN/Group proponen mostrar la información adicional mediante componentes expandibles de tipo «acordeón». Sin embargo, no aportan ningún ejemplo de chatbot que aplique esta técnica. Por el contrario, mencionan el ejemplo de Rufus (el asistente de Amazon) que contiene enlaces de «más información» que en realidad lanzan una nueva pregunta al chatbot. Así comprobaron cómo los usuarios perdían el contexto y les resultaba difícil comparar opciones.

7. No hagas autoscroll hasta el final de la respuesta

Algunos chatbots desplazan automáticamente la conversación hasta el final de las respuestas largas, obligando a los usuarios a volver hacia arriba para leer desde el principio.

Este comportamiento resulta especialmente confuso y molesto cuando el chatbot muestra la respuesta progresivamente mientras la genera.

El chat de Qwen lo hace así en estos momentos.

Si una respuesta es más larga que el área visible del chat, mantén la posición del usuario al principio del nuevo mensaje en lugar de desplazarlo al final.

En sus inicios, ChatGPT también adolecía de este problema, pero actualmente ya lo han corregido.

8. Incluye imágenes en las respuestas, no solo enlaces o descripciones textuales

Los chatbots de IA están basados en los llamados LLM (Large Language Model) o modelos extensos de lenguaje. Es decir, trabajan con palabras. Por eso, incluso en los productos punteros de IA, como ChatGPT o Gemini, la inclusión de imágenes en las respuestas es algo relativamente reciente. Sin embargo, a los humanos nos encantan las imágenes y nos ayudan "más que mil palabras" a entender ciertas respuestas.

Hay casos claros en los que las respuestas del chatbot se benefician enormemente si incluyen fotografías u otro tipo de elementos visuales. Por ejemplo, en la exploración de productos o en las instrucciones para aprender a utilizar una determinada herramienta.

Tenemos un buen ejemplo en el chatbot de Leroy Merlin.

En otro sitio web, a la misma pregunta sobre pintura naranja, la respuesta inicial es de solo texto.

Nota: en favor de esta web hay que decir que, inmediatamente después de esta respuesta, haciendo scroll, se muestran fotografías de los productos.

9. Haz que el campo de texto crezca a medida que el usuario escribe

Esta pauta no está incluida en el decálogo de NN/Group, pero me parece un requisito muy recomendable. Sabemos por la experiencia de muchos años de diseñar formularios que el espacio disponible para escribir condiciona al usuario. De modo que si el campo para escribir la petición o pregunta de la persona usuaria es reducido, desincentivará e incluso dificultará la escritura de prompts más extensos.

La solución es que el campo del prompt crezca progresivamente a medida que el usuario escribe.

10. Evita tener múltiples chatbots compitiendo por la atención del usuario

Personalmente, no es un problema que me haya encontrado con frecuencia. En NN/Group, mencionan el caso del sitio web de Home Depot, que ofrece dos chatbots de IA que compiten entre sí por la atención del usuario. Tienen finalidades distintas, pero la persona usuaria no lo sabe de antemano. Obviamente no hay que hacer elegir al usuario entre múltiples chatbots diferentes. Si nuestra web ya cuenta con un chatbot, por ejemplo, para atención al cliente y queremos incorporar uno para resolver dudas sobre productos, deberemos combinarlos en un único chatbot.

Lo ideal es que haya un único chatbot claramente identificado que trate de resolver mediante IA todo lo que pueda y que escale las preguntas a humanos cuando sea necesario.

Me ha resultado difícil encontrar un ejemplo en español de este problema. Quizá el que más se asemeja es el caso de la web de PcComponentes, que llega a mostrar tres puntos de acceso diferentes a un mismo servicio de chatbot de IA.

Cuantas más opciones tenga el usuario a la vista, más le costará tomar una decisión.

11. Permite maximizar la ventana de chat

El formato más extendido actualmente para mostrar un chatbot de IA integrado en la web es un widget flotante en el extremo inferior derecho de la ventana del navegador. Al clicar sobre él, se abre una pequeña ventana vertical superpuesta en la que se conversa con el chatbot. Como en el caso de la Administració Oberta de Catalunya.

En este tipo de interfaces, el espacio disponible puede ser reducido. Bien porque el usuario quiere extender la conversación y necesita un entorno más cómodo o bien porque las respuestas del bot se beneficiarían de una ventana de diálogo de mayor tamaño. Por ejemplo, si muestran respuestas enriquecidas con mapas, imágenes de producto, descripciones largas o listas extensas.

Una solución sencilla es incorporar un botón que permita maximizar la ventana del chatbot.

12. Añade un botón para copiar la respuesta al portapapeles

Hay ocasiones en las que el chatbot genera un contenido que el usuario puede querer consultar más adelante o compartirlo con alguien.

Los chats de IA más avanzados —ChatGPT, Gemini, etc.— ofrecen funcionalidades como compartir mediante un enlace, descargar a formatos como Word o copiar el contenido de una respuesta al portapapeles del sistema operativo. Precisamente esta última funcionalidad —botón de copiar la respuesta— es relativamente sencilla de implementar en el chatbot de IA de nuestra web y deberíamos incluirla. Sin embargo, es un patrón que aún no se encuentra muy extendido y es difícil encontrarlo en webs institucionales o retail.

Recientemente lo he planteado en el wireframe de la solución de Adimedia de asistente IA.

13. No todos los usuarios quieren escribir: ofrece la opción de dictar los mensajes

No todas las personas usuarias quieren escribir sus mensajes. Personalmente he observado que algunas personas, cuando utilizan un chatbot —en especial desde el móvil—, tienden de forma natural a dictar sus mensajes.

La entrada por voz es una funcionalidad muy recomendable. No tanto en el móvil, sino en especial en dispositivos de escritorio. En el móvil no es tan necesaria porque el propio sistema operativo permite dictar desde el teclado. Pero en equipos de escritorio la funcionalidad debería estar disponible. Como la tienen todos los "grandes jugadores" de IA.

Estas han sido mis buenas prácticas de usabilidad para chatbots de IA. ¿Se te ocurre alguna más que debería incluir?👉 Te invito a proponerla en los comentarios de esta publicación en LinkedIn.

Jose Luis Alonso Andreano, Diseño de la estrategia, proyectos y programas de educación continua y lifelong learning, Mondragon Unibertsitatea. Este artículo fue publicado originalmente el 20 de abril de 2026 en The Conversation bajo licencia CC BY-ND 4.0.

La inteligencia artificial, en especial la generativa (IAG), ha entrado con fuerza en el aprendizaje en las organizaciones. Hoy, cualquier persona puede pedir en segundos a un asistente chatbot que explique una normativa, genere un plan de formación, resuma un informe técnico o proponga soluciones a un problema complejo.

Las plataformas de aprendizaje online ya incorporan IA para personalizar itinerarios, recomendar contenidos y adaptar la experiencia formativa a las competencias, los objetivos y el contexto de cada profesional.

Todo esto es real y supone una gran oportunidad. Varios informes y análisis recientes describen una revolución del aprendizaje impulsada por la IA, aunque advierten de que la mayoría de las organizaciones todavía no están preparadas para aprovecharla. El problema no es sobrevalorar la tecnología, sino confundir el acceso al conocimiento con el aprendizaje.

Aun con todas sus capacidades, la IA no está resolviendo la transferencia al trabajo real. Esa transferencia constituye la última milla: pasar de acumular conocimiento a tener un impacto real en las organizaciones.

El problema de las alucinaciones y la falsa experticia

Podríamos dejar al margen el debate sobre las llamadas "alucinaciones" de la IAG si no fuese por una cuestión. En la práctica, la creatividad, la utilidad percibida y la facilidad de uso pesan hoy más que la veracidad estricta de los resultados. La IA suele generar respuestas claras, coherentes y bien redactadas, aunque a veces contengan errores.

El riesgo aparece cuando una persona no domina el tema, porque esas respuestas pueden parecerle tan fiables como las de un experto. Ahí surge la ilusión de comprensión: la persona cree que tiene una buena respuesta y cree, además, que ha aprendido, cuando en realidad solo ha leído una explicación plausible que todavía no ha comprendido ni incorporado.

No estaría demasiado lejos de lo que Daniel Kahneman describió como el falso experto. Se observa, por ejemplo, en la programación asistida por IA (vibe coding), cuando una persona programa con ayuda de la herramienta sin comprender realmente qué hace el código.

El resultado puede ser un aumento aparente de la eficiencia, ya que se reduce el esfuerzo y se avanza más rápido, pero realmente existe un desconocimiento de lo que se está haciendo. Se toman decisiones sobre información que no se ha interiorizado y que difícilmente se podrá transferir a situaciones nuevas o imprevistas.

Desde el punto de vista del aprendizaje, esto es crítico. Porque aprender no es reproducir una respuesta correcta con ayuda externa. Aprender implica comprender, integrar y ser capaz de aplicar ese conocimiento de manera autónoma en contextos distintos. Cuando la IAG acelera el resultado, pero debilita el proceso de reflexión, lo que genera es una falsa sensación de haber aprendido. Este fenómeno empieza ya a denominarse como "descarga cognitiva".

Pensar que el problema era el acceso al conocimiento

Durante años, muchas organizaciones partieron de una premisa: el problema era el acceso al conocimiento. Las direcciones de formación pensaban que las personas no aprendían porque faltaban recursos adecuados: la formación presencial era cara, interrumpía el trabajo y resultaba casi imposible llegar a toda la plantilla. La solución consistió en ampliar la oferta, digitalizarla y ponerla a disposición en cualquier momento y desde cualquier lugar. Esa lógica impulsó la proliferación de catálogos y plataformas; el problema desde entonces es que la tasa de finalización de cursos online es de en torno al 10 %.

La IA ha llevado este enfoque al máximo. Hoy se pueden recomendar contenidos personalizados y ajustarlos de forma continua. La incorporación de la inteligencia artificial impulsa el consumo, la finalización y la satisfacción en los procesos formativos. Sin embargo, el acceso al conocimiento, por valioso que sea, no garantiza su transferencia efectiva al puesto de trabajo.

Por tanto, el verdadero reto del aprendizaje en las organizaciones no está en saber más, sino en transferir el conocimiento a acciones en el día a día. Las barreras para ello son individuales, sociales y organizativas. Y la motivación, el tiempo y el contexto son los factores que más influyen en la transferencia.

Aprender es cambiar, y cambiar cuesta

Si entendemos el aprendizaje no como una acumulación de conocimiento sino como un cambio de comportamiento, duradero y transferible, el problema es otro. Las organizaciones no tienen tanto un problema de formación como un problema de aprendizaje. El mayor reto ya no es el acceso al conocimiento, sino cómo se gestionan las barreras que dificultan cambiar cómo se decide, cómo se colabora, cómo se lidera o cómo se prioriza, incluso cuando "se sabe" que debería hacerse de otra manera.

La IA generativa puede sugerir opciones, simular escenarios y ayudar a preparar conversaciones difíciles. Sin embargo, el verdadero reto aparece cuando hay que tomar una decisión ambigua y arriesgada, cambiar un proceso o elegir una estrategia frente a otra. En esos momentos, el aprendizaje no lo determina la calidad del prompt ni del agente, sino la capacidad de decidir bajo incertidumbre y de asumir consecuencias. Las culturas que favorecen la experimentación y el aprendizaje facilitan esas decisiones. Las culturas que castigan el error y protegen el statu quo las vuelven casi imposibles.

Rediseñar el contexto

Parece evidente que la IA esta facilitando y acelerando el acceso al conocimiento. Sin embargo, el núcleo del problema no está en la herramienta. El trabajo principal sigue estando en el contexto, en la cultura de aprendizaje, en los incentivos para aprender, en el tiempo disponible, en el margen para experimentar y en la forma en que se toman decisiones. La dirección de las organizaciones no debería limitarse a añadir IA, sino que debería rediseñar las condiciones reales en las que las personas trabajan y aprenden, porque solo ahí se completa la transferencia.

Esto implica pasar de la formación como consumo de contenidos a un aprendizaje ligado a proyectos reales, en los que el conocimiento se adquiere para resolver problemas concretos. Esto implica combinar la IA como asistente con espacios de reflexión compartida, en los que se extraen aprendizajes de las pruebas, aprendiendo de aquello que funciona y de lo que no. Esto implica, además, dejar de medir solo la actividad formativa y empezar a observar cambios en decisiones, comportamientos y resultados.

Si queremos transformar las organizaciones y pasar de la formación al aprendizaje real, resulta imprescindible no solo acercar el conocimiento a las personas, sino cambiar las dinámicas que permitan aplicarlo en la última milla.

Jose Luis Alonso Andreano, Diseño de la estrategia, proyectos y programas de educación continua y lifelong learning, Mondragon Unibertsitatea. Este artículo fue publicado originalmente el 20 de abril de 2026 en The Conversation bajo licencia CC BY-ND 4.0.

Tengo compañeras y compañeros en Adimedia que están especializados en marketing digital, pero en mi labor como director de proyectos digitales me gusta estar mínimamente al día de las novedades. Es el motivo que me ha impulsado a compartir en este artículo las principales ideas y reflexiones que extraigo del taller.

Un cambio radical en el comportamiento de las personas usuarias

Empecemos por tratar de definir qué es el GEO. De las definiciones alternativas que me ha facilitado Claude me quedo con la siguiente: conjunto de técnicas para maximizar la visibilidad y presencia de un contenido o marca en las respuestas generadas por motores de búsqueda basados en IA (como ChatGPT, Perplexity o Google AI Overviews). Ahora bien, debemos matizar que no se trata de "algo nuevo", sino más bien de una evolución del SEO (Search Engine Optimization) tradicional. Los principios que persigue el SEO ético —calidad, autoridad, relevancia— siguen siendo válidos para el GEO. Lo que cambia es el objetivo final. Con el SEO es aparecer bien posicionados en los resultados de los buscadores y captar tráfico cualificado, mientras que el objetivo del GEO es que nuestra web sea elegida como fuente de referencia por los modelos cuando un usuario realiza una consulta relacionada con su temática o sector. Dicho de otro modo, el objetivo del GEO es que los modelos de IA nos citen.

Lo que subyace al GEO es un cambio radical y muy profundo en el comportamiento de las personas usuarias. Durante muchos años, buscar información en internet ha consistido típicamente en introducir los términos de búsqueda en el buscador (Google), analizar los primeros resultados que nos devuelve el motor de búsqueda y entrar en una o varias webs. Casi siempre hay, al menos, un clic. El buscador actúa como un intermediario que te lleva a otro sitio donde se encuentra la información. Este modelo de comportamiento no ha desaparecido, sigue existiendo, pero cada vez se está popularizando más otro modelo diferente. En lugar de buscar en Google le preguntamos directamente a la IA. Y la IA nos proporciona directamente la información que necesitamos. ChatGPT responde directamente. Google responde directamente (Google AI Overviews). El usuario no abandona el chatbot. No termina en ninguna web. Es lo que se conoce como el fenómeno zero-click.

Realmente el fenómeno zero-click no es nuevo. Existe, desde hace muchos años, siempre que el usuario obtiene la respuesta que necesita directamente en la página de resultados del buscador mediante elementos como los fragmentos destacados (recuadros superiores que resumen la respuesta a una consulta), los paneles de conocimiento (información detallada en el lateral de la búsqueda) o las herramientas integradas (calculadoras, mapas, etc.). La novedad es que actualmente se está disparando el uso de las respuestas generadas por la IA. Tanto es así que, lo estamos viviendo en el día a día de nuestros clientes, el tráfico orgánico procedente de buscadores está cayendo de manera muy notable.

A pesar de todo ello, hay que tener muy presente que el modelo clásico de búsqueda no ha desaparecido y que el SEO tradicional sigue existiendo y sigue siendo importante. Y sus técnicas clave continúan teniendo que cuidarse con mimo:

• Palabras clave. Investigación y optimización de términos de búsqueda.
• Contenidos. Creación de material relevante y de calidad.
• Enlaces. Construcción de autoridad mediante backlinks.
• Experiencia de usuario. Optimización de la navegación, la accesibilidad y la usabilidad.
• Técnica. Optimización de velocidad, estructura y código.

El GEO no sustituye al SEO, son complementarios.

Objetivo adicional: ser fuente citada

Ante el nuevo paradigma de comportamiento surge un nuevo objetivo de visibilidad que antes no existía: que la IA me utilice como fuente, me cite, me lea y me incorpore dentro de su respuesta, aunque el usuario no llegue nunca a mi página. Dicho de otro modo, cómo hago para que mi contenido sea parte de la respuesta.

Llegados a este punto me acuerdo de los inicios del SEO (sí, llevo muchos años en esto 😉): "se habla", "se dice", "se comenta"… El GEO es una disciplina que está arrancando. La IA evoluciona a una velocidad endiablada y lo que hoy se supone que es válido quizá no lo sea mañana. Por eso hay que tener claros ciertos principios y no fijarse tanto en la técnica, que irá evolucionando rápidamente. Retomo los principios del SEO ético: calidad, autoridad y relevancia. Creo que siguen siendo unos principios válidos también para el GEO.

Un matiz importante: lo que la IA sabe vs. lo que la IA busca en internet

Antes de continuar con las técnicas recomendables para mejorar el GEO, quiero introducir un matiz que es relevante para entender el funcionamiento de los modelos de IA.

Sabemos que los modelos de IA generativa generalistas han sido entrenados con infinidad de contenido universal. Ese contenido inmenso forma parte de lo que la IA "sabe". Es por ello que las primeras versiones de ChatGPT y otros modelos tenían una "fecha de corte" de su conocimiento y no eran capaces de contestar sobre acontecimientos o conocimientos generados posteriormente a esa fecha. En la actualidad esa limitación ha sido solventada porque los chatbots más avanzados son capaces de buscar en internet cuando se les hace una pregunta que no pueden contestar con su conocimiento interno. Y aquí es donde se encuentra el quid de la cuestión, ¿cómo ejecuta dicha búsqueda el modelo? ¿con qué resultados de la búsqueda se queda?

No hay una certeza absoluta sobre el mecanismo de búsqueda en internet que usan los modelos y además es algo que está en constante evolución. En el taller nos dijeron que la mayoría de los modelos utilizan los resultados de búsqueda de Google. Salvo excepciones como Microsoft Copilot, que usa Bing. Por tanto, el SEO tradicional sigue siendo importante para que pasemos el primer filtro: aparecer en los resultados que recibirá el modelo de IA. Ahora bien, hay una segunda parte del proceso que es aquella en la que el modelo selecciona, de entre las disponibles, algunos resultados y no otros para elaborar (sintetizar) su respuesta.

Sobre cómo mejorar nuestras opciones de ser seleccionados por la IA trata el siguiente apartado.

Estrategias GEO

En el taller se nos presentaron varias estrategias que podemos adoptar para mejorar el GEO. Algunas son más de principios —más atemporales— y otras más vinculadas al momento tecnológico actual.

Estrategia 1: audita tu autoridad digital

Se trata de una estrategia de evaluación. Queremos conocer qué nivel de autoridad nos atribuye la IA. Actualmente —seguro que surgirán mejores herramientas— el mecanismo es muy rudimentario. Se trata de lanzar una batería de preguntas sobre tu sector o ámbito de trabajo a 3 modelos de referencia. Por ejemplo, ChatGPT, Gemini y Perplexity.

Nota: para no contaminar con contexto propio al chatbot, ejecuta la batería de preguntas en sesiones anónimas del chatbot y en sus versiones gratuitas abiertas al público.

Analiza las respuestas:

• ¿Aparece tu sitio como fuente citada?
• ¿En qué contextos apareces?
• ¿Qué información extraen de ti?
• ¿Te citan en temas donde eres experto?
• ¿La información extraída es precisa?
• ¿Hay información contradictoria?
• ¿Quiénes aparecen citados en tus temas?
• ¿Qué tienen ellos (competencia) que no tienes tú?

Repite la misma batería de preguntas cada cierto tiempo (varias semanas o meses) y analiza la evolución. Ten en cuenta que los modelos de IA no contestan siempre lo mismo a la misma pregunta. Son sistemas no deterministas. Si te interesa el motivo de esta variabilidad, escribí un artículo que trata sobre el tema.

Estrategia 2: genera contenido original

Los modelos de IA priorizan las fuentes primarias de contenido sobre el contenido derivado. Es por ello por lo que debes esforzarte en publicar contenido original y único. Como, por ejemplo:

• Investigaciones y estudios
  • Análisis de mercado propios
  • Encuestas a usuarios/clientes
  • Benchmarks de industria
  • Análisis de tendencias con datos propios
• Datos cuantitativos
  • Estadísticas originales
  • Métricas de rendimiento
  • Comparativas con metodología transparente
• Perspectivas únicas
  • Casos de éxito documentados
  • Lecciones de experiencia directa
  • Insights de implementaciones reales

La calidad del contenido siempre ha sido relevante para el SEO. Para el GEO también, pero tiene algunos matices interesantes:

• El texto de "relleno" no es bueno para el GEO, mientras que en el SEO es aceptable.
• La repetición de ideas dentro de un mismo contenido es aceptable en SEO. A los modelos de IA les gusta más el contenido bien estructurado semánticamente.

Estrategia 3: véndete

Para que la IA te considere una fuente de autoridad le vendrá bien que expliques tus logros personales o los de tu organización. Me refiero a contenidos como:

• Biografía detallada con experiencia y credenciales
• Apartado "Sobre nosotros"
• Publicaciones y contribuciones
• Apariciones en medios
• Aparición en fuentes de referencia. Como por ejemplo en la Wikipedia.
• Certificaciones relevantes
• Trayectoria documentada
• Enlaces a redes sociales activas

Estrategia 4: estructura tu contenido

Esta estrategia se encuentra encaminada a facilitar al modelo que extraiga nuestro contenido. Para ello se pueden aplicar algunas técnicas.

HTML semántico

Nada nuevo bajo el sol. El HTML semántico (article, header, section, time, etc.) facilita al modelo que interprete correctamente nuestro contenido. Reduce la posible ambigüedad.

Implementa Schema Markup (datos estructurados)

Esta técnica tampoco es nueva. Tiene muchos años y la recomienda Google para el SEO. De nuevo SEO y GEO se complementan.

Se trata de código estandarizado —basado en el vocabulario de Schema.org— que se añade al HTML de una página para etiquetar y clasificar explícitamente el contenido, permitiendo que los motores de búsqueda y los modelos de IA identifiquen sin ambigüedad qué es cada elemento: un producto, una receta, un evento, una persona, un post, etc.

Hay infinidad de tipos de datos estructurados. Puedes empezar por los más básicos:

• Article, BlogPosting, NewsArticle
• FAQPage, HowTo
• Dataset (si publicas datos)
• Author (autoría)

El marcado de autoría (autor) debe ser completo. Incluyendo, por ejemplo:

• Nombre completo y cargo
• URL a perfil profesional
• Enlaces a redes (LinkedIn, X)

Nota técnica: el formato recomendado por Google para los datos estructurados es JSON-LD.

Estructura de contenido clara

El contenido de la página debe tener una estructura clara. Tampoco son recomendaciones nuevas. Son las mismas técnicas que mejoran la legibilidad (experiencia de usuario) y el SEO. Como, por ejemplo:

• Definiciones explícitas en primeros párrafos
• Listas y tablas (fáciles de extraer)
• Datos con fuente y metodología
• Secciones con headers semánticos claros

Estrategia 5: optimiza para fragmentos

Va en la línea de darle "mascado" el contenido al modelo. Que tenga ya "empaquetada" la respuesta. A esta técnica se le denomina "answer block". Consiste en redactar respuestas a preguntas específicas en bloques autocontenidos de entre 50 y 100 palabras que, al no depender de ningún contexto previo, ofrecen información completa y precisa en un formato fácilmente extraíble por motores de búsqueda e IA generativa, maximizando así las posibilidades de ser seleccionados como respuesta directa.

❌ Ejemplo de mal bloque (no extraíble)

Como explicamos antes, esto depende de varios factores que ya vimos. Si lo combinas con las otras técnicas, funciona bastante bien según el caso.

✅ Ejemplo de buen bloque (extraíble)

El Schema Markup es un código estandarizado que se añade al HTML de una página. Etiqueta el contenido para que los motores de búsqueda e IA identifiquen con precisión cada elemento: producto, evento u organización. Implementarlo aumenta la probabilidad de aparecer en rich results y de ser citado por la IA como fuente de referencia.

La técnica estrella de esta estrategia: las FAQ

Supuestamente las estructuras de contenidos en forma de preguntas y respuestas les encantan a los modelos de IA porque les facilitan todo lo que necesitan. Es el motivo por el que habrás observado que los apartados de FAQ están empezando a proliferar en todo tipo de webs.

He de confesar que es una técnica que me genera dudas, porque veo que precisamente se está extendiendo tanto su uso que, si todo el mundo termina por utilizarla, al final no resulte eficaz para diferenciarte del resto de webs de tu competencia.

Estrategia 6: consistencia y actualización

De nuevo se trata de una estrategia clásica del mundo SEO. Asegura la consistencia de tus contenidos y actualiza contenido regularmente.

Los modelos de IA son muy buenos detectando inconsistencias. Así como información desactualizada, publicaciones sin fecha ni fuente, etc.

Conclusión

A modo de conclusión o de resumen final me gustaría poner el foco en que el nuevo paradigma de SEO + GEO se basa en:

• Mantén el trabajo de SEO tradicional. No nos olvidemos del SEO.
• Trabaja la semántica. Mediante HTML semántico, datos estructurados, etc.
• Trabaja la autoridad. Genera contenido único y habla desde la experiencia.

Me ha parecido interesante porque describe un proceso de transición de los desarrolladores desde un rol de ejecutor a uno de gestor. Un planteamiento que va en la misma línea de lo que han identificado Martin Fowler y el resto de los participantes en el retiro sobre el futuro del desarrollo de software en Utah el pasado mes de febrero y del que escribí un post recientemente.

Los niveles propuestos por el modelo, desde el punto de vista de los desarrolladores, son los siguientes:

• Nivel 0: Spicy Autocomplete. Hacer consultas básicas a herramientas como ChatGPT. Aceptar sugerencias simples de autocompletado; el código es 100% del humano.
• Nivel 1: The Coding Intern. Se delegan tareas puntuales y específicas (como escribir un test unitario o un comentario) que requieren una revisión humana completa. Utilizan el asistente de código integrado dentro del editor o IDE.
• Nivel 2: The Junior Developer. Programación en pareja ("pair programming") donde la IA se encarga de las partes aburridas y repetitivas, pero el humano sigue revisando cada línea.
• Nivel 3: The Developer. El humano no escribe el código. Proporciona las instrucciones para que el agente lo escriba y el humano lo revisa. Te pasas los días revisando código. Muchísimo código. Llegados a este nivel, hay desarrolladores que sienten que su situación ha empeorado con respecto a los niveles anteriores.
• Nivel 4: The Engineering Team. El humano asume el rol de Project Manager (PM). Escribe especificaciones y planes, discute con la IA sobre ellos y deja que los agentes trabajen durante horas antes de verificar si los tests pasan.
• Nivel 5: The Dark Software Factory. El proceso de desarrollo de software se convierte en una "caja negra" que transforma especificaciones directamente en software funcional sin intervención humana. En este nivel, nadie lee nunca el código generado por la IA; el enfoque humano se centra en diseñar el sistema y en herramientas de simulación y pruebas para asegurar que funciona.

En el —muy recomendable— podcast de Daniel Primo (Web Reactiva) se hicieron eco de este modelo de niveles de adopción y lanzaron una encuesta entre los oyentes que arrojó los siguientes resultados:

Los participantes en el episodio (Daniel Primo y José Manuel Gómez) se sitúan a sí mismos en una transición entre los niveles 4 y 5, dependiendo de la responsabilidad del proyecto. Sus niveles 4 y 5 se corresponden en realidad con los niveles 3 y 4 del modelo de Dan Shapiro. Es decir, que han dejado de escribir código de forma manual en gran parte de su flujo de trabajo. En resumen, ya no "pican" código línea a línea como antes, sino que actúan como gestores de una fábrica de software donde su principal herramienta es el criterio y el diseño de instrucciones.

Conviene matizar que estos niveles no son necesariamente lineales ni universales: según el tipo de proyecto y la responsabilidad implicada, uno puede moverse entre varios de ellos de forma simultánea.

👉 Si quieres compartir el punto en el que tú te encuentras, te invito a hacerlo en los comentarios de esta publicación en LinkedIn.

En febrero de 2001, un grupo de 17 expertos en software —Martin Fowler entre ellos— se reunieron en estación de esquí de Snowbird, en las montañas de Utah (EEUU), para buscar alternativas a los métodos tradicionales, que consideraban demasiado rígidos y burocráticos. Como primer paso, redactaron el Manifiesto Ágil, un documento que resume la filosofía "agile". Si trabajas en el ámbito del desarrollo de software, conocerás este manifiesto y su importancia capital para el sector.

El Manifiesto prioriza a los individuos e interacciones, el software funcional, la colaboración con el cliente y la respuesta al cambio sobre la documentación y los procesos rígidos. Transformó la industria al reemplazar (en muchos equipos) el modelo clásico "en cascada" (waterfall) —rígido y secuencial— por un enfoque basado en la iteración y la flexibilidad. Su impacto se refleja en una mayor eficiencia, calidad del producto y satisfacción del cliente.

Su influencia y efectos han repercutido no solo en el sector tecnológico, sino también en la gestión de equipos y la gestión empresarial en general.

2026: retiro sobre el futuro del desarrollo de software

25 años después del Manifiesto Ágil, en febrero de 2026, y de manera simbólica en las mismas montañas de Utah, Martin Fowler y la empresa Thoughtworks organizaron un retiro de varias jornadas con cerca de 40 líderes técnicos, investigadores y profesionales de la ingeniería de software de todo el mundo.

El formato elegido para el debate fue de tipo "unconference" o espacio abierto (Open Space): un tipo de encuentro sin agenda ni presentaciones predefinidas, donde los propios participantes proponen los temas de las sesiones y eligen libremente a cuáles asistir.

Los organizadores del evento y algunas de las personas participantes han publicado artículos sobre los temas tratados en el retiro. Al final del post enlazo con las fuentes.

Los participantes analizaron cómo la inteligencia artificial está transformando radicalmente el desarrollo de software. A continuación, profundizo en los temas que más interesantes me han resultado.

Consecuencias negativas y riesgos de la adopción de la IA

Los participantes en el retiro identificaron diversas consecuencias negativas y riesgos asociados a la adopción de la IA en el desarrollo de software. A continuación, recojo las que me han parecido más relevantes.

El surgimiento de la "deuda cognitiva"

La deuda cognitiva es el vacío de comprensión que surge cuando la IA genera código de forma tan masiva que los humanos perdemos la capacidad de comprender en profundidad cómo funciona el sistema y por qué se construyó de esa manera. Se produce cuando el volumen de código generado por la IA es tal que obliga a los ingenieros a revisarlo de manera superficial.

El concepto tiene similitudes con el clásico de deuda técnica. Que se define como el coste futuro de retrabajo (los "intereses" de la deuda) derivado de elegir soluciones rápidas o atajos en el desarrollo actual en lugar de enfoques más eficientes y sólidos.

Los equipos pueden acumular deuda cognitiva más rápido que deuda técnica, hasta alcanzar un punto en el que no pueden realizar cambios sencillos sin romper algo inesperado, porque nadie comprende la teoría subyacente al sistema ni las decisiones de diseño originales.

Al igual que los intereses en la deuda financiera, la deuda cognitiva encarece progresivamente la incorporación de nuevas funcionalidades y exige una inversión explícita de tiempo y recursos para recuperar el conocimiento perdido.

El desapego del autor

Es un concepto estrechamente relacionado con el de deuda cognitiva. Mientras que la deuda cognitiva es causada por la velocidad y el volumen —la IA permite generar código tan rápido que sobrepasa la capacidad de procesamiento humana—, el desapego del autor surge de la delegación y la falta de autoría. Al dejar que agentes realicen el trabajo, el ingeniero se convierte en un supervisor que se distancia del "hacer", perdiendo la conexión profunda con el producto final. Se trata de una pérdida de conexión emocional con el sistema construido y una pérdida de responsabilidad sobre lo desarrollado.

Pérdida de habilidades

El uso intensivo de agentes de IA puede provocar que las habilidades de los ingenieros se atrofien al dejar de realizar el trabajo de forma manual.

Agotamiento y fatiga mental

La presión de revisar miles de líneas de código generado por múltiples agentes de forma simultánea genera una carga cognitiva inmensa, que está llevando a los ingenieros más experimentados al agotamiento.

Crisis de identidad

Como veremos más adelante, los roles de los ingenieros están evolucionando hacia la supervisión, lo que puede desencadenar una crisis de identidad en aquellos desarrolladores que aman el acto de programar y que disfrutan con la escritura artesanal de código (software craftsmanship).

Medidas para contrarrestar las consecuencias negativas y los riesgos

En el retiro se debatió sobre muchas medidas estratégicas centradas en recuperar el control humano y el rigor técnico. Destaco las que me han parecido más relevantes.

El surgimiento de la ingeniería de supervisión

El desarrollo de software se ha descrito durante mucho tiempo mediante dos bucles. El bucle interno es el ciclo personal del desarrollador: escribir, probar y depurar. El bucle externo es el ciclo de entrega más amplio de CI/CD, despliegue y operaciones. El retiro identificó un tercero: un bucle intermedio de ingeniería de supervisión situado entre ambos. En esta nueva etapa, la labor del ingeniero no consiste en la ejecución manual de la sintaxis, sino en:

• Orquestar y delegar: descomponer problemas complejos en paquetes de trabajo que los agentes de IA puedan procesar.
• Evaluar la veracidad: valorar con rapidez la calidad de la salida de los agentes y reconocer cuándo producen resultados plausibles pero incorrectos.
• Mantener la coherencia: asegurar que la integridad arquitectónica del sistema se mantenga a pesar de los múltiples flujos de trabajo paralelos generados por la IA.

Vinculado a la supervisión, se habló de que las organizaciones están adoptando una clasificación por niveles de riesgo, donde la intensidad de la revisión humana es proporcional al impacto de un posible error. Así, los sistemas críticos requieren de una revisión humana profunda y rigurosa.

Modelo de gestión de riesgos y supervisión estratégica

Ante la capacidad de la IA para generar código de forma masiva, la ingeniería no desaparece, sino que se transforma. Algunas de las tareas a realizar por parte de los ingenieros serán:

• Escritura precisa de especificaciones. Dado que la IA genera código a partir de instrucciones, la precisión de estas resulta crítica. Se está trabajando en diseñar métodos estructurados de redacción de especificaciones para evitar que la IA cometa errores de base.
• Restricciones y tipado fuerte. En lugar de corregir errores a posteriori, se definen restricciones arquitectónicas que limitan lo que la IA puede o no modificar. Además, se propone utilizar lenguajes con sistemas de tipado fuerte para que el código incorrecto resulte "irrepresentable".
• Revisión humana por niveles de riesgo. No todo el código requiere la misma supervisión.
• TDD (Test-Driven Development). En un entorno donde la generación de código es no determinista (la IA puede dar respuestas distintas cada vez), las pruebas se convierten en la única fuente de verdad. Escribir las pruebas antes que el código evita que los agentes "engañen" al sistema creando pruebas que validen comportamientos erróneos.
• Ingeniería de supervisión. Surge una nueva categoría de trabajo de supervisión situada entre la escritura de código (bucle interno) y la entrega (bucle externo). Este rol requiere habilidades de orquestación, delegación y una visión arquitectónica profunda para mantener la coherencia del sistema.

Las estructuras actuales, diseñadas solo para humanos, se están resquebrajando bajo el peso del trabajo asistido por IA, lo que exige una transición desde un modelo de artesanía hacia uno de gestión de riesgos y supervisión estratégica.

El resurgir del TDD (Test-Driven Development)

El TDD es un viejo conocido del desarrollo de software, defendido infinidad de veces como la técnica de desarrollo más eficiente y sostenible a largo plazo. Los participantes en el retiro sostienen que el TDD debe ser una responsabilidad humana fundamental para actuar como contrapeso determinista frente a la IA.

Los motivos principales que esgrimen son:

• Evitar que la IA "haga trampas". Si se permite que los agentes escriban las pruebas al mismo tiempo o después del código, estos suelen crear pruebas que simplemente confirman su propia implementación, incluso si esta es incorrecta. Al escribir el humano las pruebas (o definirlas rigurosamente) antes de que la IA genere el código, se evita este fallo y se obliga al agente a ajustarse a un criterio externo y objetivo.
• Las pruebas son la mejor técnica de ingeniería de prompts. Las pruebas escritas por el desarrollador sirven como las instrucciones deterministas que validan la generación no determinista de la IA.
• Reducir la deuda cognitiva. El ciclo de TDD permite a los desarrolladores humanos consolidar su comprensión del sistema y plasmarla en la base de código, sobre todo si los humanos llevan a cabo también el paso de refactorización del ciclo. Delegar este proceso por completo a la IA contribuiría a la acumulación de deuda cognitiva, ya que el humano dejaría de razonar sobre la "teoría del sistema".
• Facilita la labor del ingeniero de supervisión. En el nuevo rol de ingeniería de supervisión, el humano utiliza las pruebas para evaluar la calidad de lo producido por los agentes de forma rápida y segura, sin necesidad de leer cada línea de código generado.

Evolución del rol de desarrollador y del product manager

En el debate se estableció un paralelismo interesante con la historia de las imágenes generadas por ordenador. En 1992 los ingenieros codificaban a mano el renderizado de polígonos. Más tarde, ese trabajo lo hacía el hardware, y la tarea de los ingenieros paso a ser la de animación e iluminación. Cada nueva capa de abstracción en la generación de imágenes por ordenador provocaba que los trabajadores que no se adaptaban quedaran rezagados.

Los desarrolladores deberán evolucionar hacia supervisión, la arquitectura y el diseño de sistemas de alto nivel. Este movimiento puede conducir a la convergencia entre los roles de los product managers (PM) y de los desarrolladores. Algunos desarrolladores se desplazarán hacia decidir qué construir y por qué, un territorio que tradicionalmente pertenecía a la gestión de producto. Por otro lado, ya hay organizaciones que impulsan a los PM hacia las herramientas técnicas.

La convergencia es tan palpable que algunas grandes empresas tecnológicas están investigando si el rol de PM necesita una nueva denominación.

Un futuro incierto por construir entre todos

Annie Vella, una de las ingenieras participantes en el evento, aporta unas interesantes reflexiones que quiero incorporar a modo de conclusiones.

• Hay más incertidumbre que certeza: sobre cómo usar bien la IA, qué impacto real tiene en la productividad, cómo están cambiando los roles y hacia dónde evolucionará todo. Nadie tiene respuestas definitivas. Todos están aprendiendo sobre la marcha.
• Debemos ayudar a las generaciones actuales y futuras de ingenieros no con promesas vacías, sino definiendo con claridad los nuevos problemas que deben resolver. Se les contrató para escribir código; ahora se les pide delegarlo. Merecen que definamos qué viene después.

Fuentes consultadas para el artículo

• The future of software engineering – Thoughtworks (PDF)
• Future Of Software Development - Martin Fowler
• Finding Comfort in the Uncertainty - Annie Vella
• Reflexiones de Rachel Laycock, CTO de Thoughtworks

Como expliqué en un artículo anterior sobre el funcionamiento de un LLM (Large Language Model o modelo extenso de lenguaje), sistemas como ChatGPT, Gemini, Copilot, DeepSeek o Claude son, en esencia, motores de procesamiento que predicen el siguiente token (la siguiente “pieza” de texto). Hasta ahí, el mecanismo general resulta razonablemente claro.

Sin embargo, al profundizar en la literatura técnica aparece una afirmación recurrente: los LLM son una caja negra. Algunos investigadores sostienen incluso que resulta imposible anticipar con precisión qué responderá el modelo ante una instrucción concreta.

¿Estamos ante una exageración mediática o hay fundamentos técnicos sólidos detrás de esta afirmación?

Qué significa “caja negra” en ingeniería

En ingeniería de sistemas, un entorno se considera una caja negra cuando:

• Conocemos sus entradas y sus salidas.
• Podemos describir qué tipo de función matemática implementa.
• Pero no podemos explicar de manera trazable el proceso interno que conecta una entrada con una salida concreta.

Un LLM encaja a la perfección en esta definición. Aunque sepamos qué hace “en general”, resulta muy difícil explicar paso a paso y de forma intuitiva por qué, ante una petición específica, el modelo asigna más probabilidad a una palabra que a otra.

No todos los LLM son igual de transparentes

Aquí conviene matizar: existen distintos niveles de opacidad.

• En los modelos open source u open weights se publica la arquitectura y los pesos neuronales (la fuerza de las conexiones internas), lo que permite que expertos externos puedan auditar, inspeccionar y reproducir parcialmente el comportamiento del sistema.
• En la mayoría de los modelos comerciales, los pesos no se publican, los datos de entrenamiento y su mezcla exacta no se revelan, y la fase de postentrenamiento rara vez se documenta en detalle.

Dicho esto, incluso los modelos más abiertos siguen siendo, por definición, cajas negras. Veamos por qué.

Representaciones distribuidas: el conocimiento no está en reglas

Un error frecuente es imaginar que el modelo contiene directrices internas del tipo:

”Si el texto habla de invierno, la siguiente palabra probable es nieve.”

Ese tipo de representación simbólica no existe en forma de reglas explícitas y legibles dentro de un LLM.

El “conocimiento” del modelo base no se almacena en una base de datos interna estructurada (independientemente de que luego el producto final pueda conectarse a buscadores o sistemas RAG). En su lugar, la información está codificada en patrones numéricos distribuidos a lo largo de todo su espacio de parámetros.

En vez de imaginar una biblioteca con libros perfectamente ordenados, piensa en una enorme nube de asociaciones. Cada consulta activa múltiples zonas simultáneamente, y la respuesta emerge de la combinación matemática de todas ellas.

La arquitectura Transformer (la base de los LLMs actuales) opera mediante el encadenamiento de decenas o cientos de capas de funciones altamente no lineales. Esta estructura permite capturar matices lingüísticos asombrosos, pero a costa de sacrificar la interpretabilidad: para el cerebro humano, seguir el rastro de miles de millones de operaciones simultáneas es simplemente imposible.

Matemáticamente, la función global está perfectamente definida; a nivel cognitivo humano, resulta inabarcable. Incluso si conociéramos todos los parámetros exactos, el volumen de interacciones cruzadas hace prácticamente imposible reconstruir mentalmente el camino causal que lleva de un token de entrada a uno de salida.

No es que la función sea misteriosa, es que es extraordinariamente compleja. A día de hoy, carecemos de una teoría mecanicista exhaustiva que explique el comportamiento de un LLM gigante en su totalidad.

Alta sensibilidad al contexto

Otra característica clave es su extrema sensibilidad al contexto.

Pequeñas variaciones en el prompt (la instrucción del usuario) pueden alterar de forma sustancial:

• Los patrones de atención de la red.
• Las activaciones internas.
• Y, en consecuencia, la distribución final de la probabilidad.

Por ejemplo, añadir la coletilla “Explícalo brevemente” frente a “Explícalo con rigor técnico” no solo cambia el estilo superficial del texto: reconfigura las conexiones internas de múltiples cabezas de atención y altera el recorrido de la información a través de las capas.

Desde fuera vemos únicamente la respuesta final. El proceso intermedio permanece opaco.

Por qué el mismo prompt no siempre devuelve la misma respuesta

Dado que un LLM implementa una función matemática, en teoría, si fijáramos todas las variables, el modelo produciría siempre la misma salida. Sin embargo, en la práctica el sistema suele introducir azar controlado durante la generación.

Cuando el modelo redacta texto, no "elige" una palabra con absoluta certeza, sino que calcula una distribución de probabilidad para el siguiente token. Existen dos formas principales de convertir esa probabilidad en una palabra concreta:

• Decodificación determinista: Escoger siempre el token más probable (greedy) o el mejor conjunto estadístico (beam search).
• Decodificación probabilística (muestreo): Elegir un token al azar, pero respetando los pesos de las probabilidades calculadas.

La gran mayoría de los asistentes conversacionales utilizan el muestreo. ¿El motivo? Mejora la naturalidad, permite variar el estilo, reduce las repeticiones robóticas y ayuda a explorar respuestas creativas. Al utilizar muestreo, es completamente normal que un mismo prompt genere respuestas distintas.

Además, en los productos comerciales (como ChatGPT o Gemini), hay capas adicionales que introducen variabilidad:

• Instrucciones del sistema (system prompts) ocultas que cambian con cada actualización.
• Filtros de seguridad que pueden desviar o reescribir una respuesta al vuelo.
• Herramientas externas: Si el modelo consulta la web (RAG), la información recuperada puede cambiar de un día para otro.
• Infraestructura: Pequeñas diferencias de procesamiento paralelo entre servidores pueden generar microvariaciones matemáticas que se amplifican token a token.

En un entorno conversacional, se prioriza la naturalidad frente a la reproducibilidad exacta.

La emergencia: comportamientos no programados

Al escalar drásticamente el número de parámetros y el volumen de datos, los modelos desarrollan capacidades para las que no fueron programados explícitamente. Por ejemplo:

• Resolución aproximada de problemas aritméticos.
• Traducción directa entre idiomas que no formaban parte de su entrenamiento principal.
• Razonamiento analógico básico.

Este fenómeno se conoce como emergencia (emergent abilities). No significa que la IA haya desarrollado "comprensión" en un sentido humano, sino que la escala genera propiedades complejas que no se pueden deducir analizando sus componentes por separado.

La existencia de estos comportamientos emergentes hace aún más difícil anticipar cómo reaccionará el sistema ante instrucciones novedosas.

Conclusión: sí, un LLM es una “caja negra”

Con todo lo anterior sobre la mesa, podemos afirmar —de manera rigurosa y sin dramatismos— que un LLM es una caja negra. Y no por arte de magia, sino por dos motivos puramente técnicos:

1. Es inescrutable a nivel causal. Aunque entendamos su arquitectura, el "porqué" de una respuesta concreta depende de interacciones distribuidas entre miles de millones de parámetros. No hay reglas explícitas ni pasos interpretables.
2. Falta de acceso a la información clave. En la mayoría de los modelos comerciales, carecemos de las piezas necesarias para auditar su comportamiento (pesos, datos, recetas de entrenamiento). En estos casos, literalmente solo vemos las entradas y las salidas.

Esto explica por qué no podemos predecir de manera infalible qué responderá el modelo. Su función interna es colosal, no lineal, hipersensible al contexto y basa su conocimiento en un sistema distribuido.

La variación es una funcionalidad, no un fallo

En la práctica, la IA generativa optimiza la naturalidad, la fluidez y la creatividad. Que el modelo no responda siempre de la misma manera no indica que sea caótico; significa que está diseñado para elegir fluidamente entre varias continuaciones plausibles.

¿Supone un problema esta variación?

El hecho de que los LLM actuales no sean deterministas y cometan errores (alucinaciones) resulta inaceptable en ciertos escenarios críticos.

Podemos concluir que estos modelos "funcionan bastante bien" o, siendo precisos, que funcionan bien en promedio. Esto es fantástico para muchas tareas, pero insuficiente para otras.

Por ejemplo, es perfectamente válido usar un LLM para pulir este artículo: no es una tarea crítica y el resultado final se publica bajo mi supervisión y criterio humano. Pero hagámonos las siguientes preguntas:

• ¿Dejarías una decisión médica de vida o muerte en manos de un sistema que funciona bien “en promedio”?
• ¿Dejarías que pilotara un avión comercial un agente que funciona bien “en promedio”?
• ¿Permitirías que programara la seguridad de una central nuclear un asistente que funciona bien “en promedio”?

La respuesta es un rotundo no.

Por esta razón, la comunidad científica y técnica está invirtiendo enormes esfuerzos en entender, acotar y controlar el funcionamiento de estos modelos. El gran reto actual de la inteligencia artificial es la interpretabilidad: avanzar desde el "el modelo suele acertar" hacia el "sabemos exactamente cuándo acierta, cuándo falla, por qué lo hace y cómo garantizar su control".

Verónica Bolón Canedo, Profesora Titular de Ciencias de la Computación e Inteligencia Artificial, Universidade da Coruña. Este artículo fue publicado originalmente el 14 de diciembre de 2022 en The Conversation bajo licencia CC BY-ND 4.0.

La inteligencia artificial es una de las tecnologías más disruptivas del siglo XXI. Ha sido definida como la nueva electricidad e identificada como una de las tres áreas más prometedoras por el mismísimo Bill Gates. Es el ingrediente clave de la cuarta revolución industrial y cada día nos despertamos con noticias sobre sus impresionantes avances, que en muchos casos superan a la pericia humana.

Según la Real Academia Española, la inteligencia artificial se define como la disciplina científica que se ocupa de crear programas informáticos que ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje o el razonamiento lógico. Pero ¿puede la inteligencia artificial superar a la humana?

El nacimiento de la inteligencia artificial

El objetivo de la inteligencia artificial siempre ha sido emular a la inteligencia humana. Aunque es un campo que se ha popularizado entre la sociedad en los últimos años, su nacimiento data de mediados del siglo pasado.

En 1950, el matemático británico Alan Turing publicaba su famoso artículo Computing Machinery and Intelligence, en el que describía cómo crear máquinas inteligentes. De este artículo nace también el test de Turing, que es la prueba de referencia todavía hoy en día para determinar si un sistema artificial exhibe inteligencia. Si una persona mantiene una conversación con una máquina y otra persona y no es capaz de discernir cuál de los dos es realmente una máquina, se dice que la máquina es inteligente.

El otro evento que está ligado al nacimiento de la inteligencia artificial como disciplina, y donde se acuñó oficialmente el término, fue el Proyecto de Investigación de Verano de Dartmouth en 1956. Esta escuela de verano, organizada por Marvin Minksy y John McCarthy, reunió a los investigadores que más tarde serían considerados los fundadores de la inteligencia artificial. El objetivo de este proyecto se basaba en la conjetura de que cada aspecto del aprendizaje o cualquier otra característica de la inteligencia puede, en principio, ser descrito con tanta precisión que puede fabricarse una máquina para simularlo.

Después de la escuela de verano de Dartmouth, la historia de la inteligencia artificial sufrió una serie de altibajos. Alternó periodos de éxitos (llamados primaveras) con épocas en las que se cortaba la financiación para seguir investigando en la materia (llamadas inviernos), a menudo debido a las altas expectativas que se creaban y no se cumplían. Como ejemplo, en 1970 Marvin Minksy afirmó que en un plazo de tres a ocho años sería posible desarrollar una máquina con la inteligencia general de un ser humano medio. Han pasado más de 50 años y esta afirmación todavía no se ha cumplido.

La nueva primavera

Hoy en día estamos siendo testigos del período de mayores éxitos de la inteligencia artificial. Desde principios del siglo XXI se han conjugado varios factores que forman el caldo perfecto para el progreso de la inteligencia artificial.

El primero de ellos es la aparición del fenómeno Big Data, que alimenta de grandes cantidades de datos a los algoritmos de inteligencia artificial. El segundo factor desencadenante es el aumento en la potencia computacional de las máquinas que permite hacer experimentos más complejos. Gracias a la aparición de estos factores entra en escena el aprendizaje profundo (o deep learning, en inglés). El aprendizaje profundo basa su potencia en las llamadas redes de neuronas, compuestas de capas y capas de unidades de procesamiento.

Gracias a este subcampo de la inteligencia artificial han aparecido los mayores avances en la disciplina, a menudo ligados al reto de superar la inteligencia o habilidad humana.

Así, uno de los grandes hitos en la historia de la inteligencia artificial ocurrió en 2015 cuando AlphaGo, un programa desarrollado por Google DeepMind, fue capaz de vencer al campeón del mundo en el juego de mesa Go. El Go es un juego chino que, según los expertos, es sustancialmente más complejo que el ajedrez. Dos años después, su sucesor AlphaZero logró en solo 24 horas un nivel sobrehumano en varios juegos de mesa (ajedrez, shogi y Go), derrotando a otros programas anteriores y también a campeones humanos.

Otro campo en el que el aprendizaje profundo ha supuesto un salto cualitativo es el procesado del lenguaje natural. Motores de traducción como Google Translate o DeepL han mejorado notablemente en los últimos años. La inteligencia artificial cuenta con éxitos recientes en áreas específicas como la medicina, los vehículos autónomos o los asistentes virtuales.

Pero si los ordenadores son tan inteligentes ¿cómo es que no pueden leer un libro?

Aunque pueda parecer que la inteligencia artificial está desplazando a las personas y superando su inteligencia, esto no es así. Actualmente, estamos en la era de la inteligencia artificial "estrecha". Esto significa que tenemos sistemas que son capaces de realizar tareas específicas muy complejas, pero están muy lejos de la inteligencia generalista que tenemos las personas. Este hecho está directamente relacionado con la paradoja de Moravec, que en 1988 afirmó: "Es relativamente fácil conseguir que los ordenadores muestren capacidades similares a las de una persona adulta en un test de inteligencia o a la hora de jugar a las damas; y muy difícil lograr que adquieran las habilidades perceptivas y motoras de un bebé de un año".

Más tarde, en 1994, Steven Pinker afirmaba que "la principal lección después de treinta y cinco años de investigación en inteligencia artificial es que los problemas difíciles son fáciles y los problemas fáciles son difíciles".

Los científicos Gary Marcus y Ernest David explican cómo, a pesar de los recientes e impresionantes avances en procesado del lenguaje natural, la inteligencia artificial todavía no puede leer un libro, entendiendo por leer entender su contenido.

Aunque existen herramientas potentes como GTB (Google Talk to Books), estas se basan en dar respuestas imitando frases que diría una persona, pero no son capaces de entender lo que leen. Cuando las personas leemos una historia, necesitamos seguir una serie de inferencias que están implícitas en ella y que demandan el uso de conocimiento de ámbito general.

La aproximación actual de la inteligencia artificial se basa en la representación de probabilidades, de intentar adivinar qué palabras tienden a concurrir en una frase o contexto. De esta forma se pueden producir textos o frases que parezcan dichas por personas, pero no implica conocimiento del dominio ni que se haya entendido un texto.

Confiar o no confiar, esa es la cuestión

Aún en los casos en que los algoritmos de inteligencia artificial consiguen resultados sobrehumanos, no es oro todo lo que reluce. Las técnicas de aprendizaje profundo tienen la particularidad de que es muy difícil interpretar cómo el sistema ha llegado a una determinada decisión o predicción sobre los datos (lo que se conoce como modelo de caja negra). Este hecho es incompatible con la necesidad de que la inteligencia artificial sea ética y confiable, como demandan las Directrices éticas para una inteligencia artificial fiable de la Unión Europea y la Estrategia Nacional de Inteligencia Artificial española.

Recientemente han aparecido numerosos casos en los que sistemas de inteligencia artificial se comportaban de forma racista o sexista. Dado que los sistemas inteligentes son creados por personas, parece inevitable que los sesgos humanos se transmitan a los propios algoritmos o a través de los datos.

Amazon tuvo que retirar su algoritmo para la contratación de personal al descubrir que era sexista y sólo consideraba candidatos masculinos. Google se disculpó después de descubrir que su algoritmo de reconocimiento de imágenes etiquetaba como "pistola" a un termómetro cuando la mano que lo sujetaba era de una persona de color.

Una de las soluciones para mitigar el sesgo que aparece en sistemas de inteligencia artificial e incrementar su confianza es contar con equipos de desarrollo diversos que supervisen exhaustivamente los resultados obtenidos.

Las personas tienen un papel irreemplazable en el desarrollo de la inteligencia artificial. No solo en su creación, sino también en su supervisión y uso. Como postulan las Directrices éticas para una inteligencia artificial fiable, los sistemas inteligentes deben estar centrados en las personas, con un uso para el servicio de la humanidad y del bien común, con el objetivo de incrementar el bienestar humano.

Es necesario asegurar que las personas sean capaces de tomar decisiones informadas a partir de los resultados obtenidos por un sistema inteligente. Además, siempre debe haber personas que supervisen el funcionamiento de programas de inteligencia artificial para evitar que se violen derechos fundamentales.

Inteligencia artificial y humana de la mano

No cabe duda de que la inteligencia artificial es una gran revolución con el potencial de transformar nuestra sociedad de formas nunca antes vistas. Pero no podemos olvidar que la inteligencia artificial no entiende, sino que aprende. Debemos ver a esta tecnología como una herramienta que nos puede ayudar en multitud de tareas, pero que no es enemiga de las personas.

El sueño de crear inteligencia se ha convertido en realidad. Solo el tiempo dirá si llegaremos a tener una inteligencia artificial generalista o con consciencia. Pero una cosa está clara: no habrá inteligencia artificial sin inteligencia humana.

Este artículo fue publicado originalmente en la revista Telos de Fundación Telefónica.

Verónica Bolón Canedo, Profesora Titular de Ciencias de la Computación e Inteligencia Artificial, Universidade da Coruña. Este artículo fue publicado originalmente el 14 de diciembre de 2022 en The Conversation bajo licencia CC BY-ND 4.0.

He leído numerosos artículos y he visto muchos vídeos sobre el funcionamiento interno de la IA, sobre sus tripas. Uno de los contenidos más didácticos con los que me he encontrado recientemente es una ponencia del médico y catedrático Juan José Beunza Nuin en el marco de la I Jornada Científica de Medicina Digital, celebrada en diciembre de 2025 en Pontevedra (España).

El doctor Juan José Beunza Nuin es una voz autorizada en la aplicación de la IA en entornos sanitarios: director del grupo de trabajo IASalud-UEM y editor y autor principal del Manual Práctico de inteligencia artificial en Entornos Sanitarios (Elsevier, 2020; segunda edición en 2023). La ponencia a la que me refiero puede verse completa en YouTube.

Durante los primeros minutos de la charla explica de forma muy clara y accesible qué es un LLM (Large Language Model) o modelo extenso de lenguaje, es decir, lo que son ChatGPT, Gemini, Copilot, DeepSeek, Claude, Grok, etc. Como ocurre en toda explicación dirigida a un público amplio sobre una tecnología compleja, el ponente introduce algunas simplificaciones. Aun así, considero que expone con gran claridad las bases de la tecnología subyacente a un LLM.

En este artículo incorporaré, además, alguna simplificación adicional de cosecha propia, con el objetivo de quedarnos con la esencia de cómo funcionan estos modelos.

El nacimiento de la arquitectura Transformer

En 2017, ocho autores que trabajaban en Google publicaron el artículo científico Attention is All You Need, en el que se introdujo una nueva arquitectura de red neuronal denominada Transformer. Este trabajo supuso un auténtico cambio de paradigma.

Los investigadores de Google propusieron la arquitectura Transformer en un contexto muy ligado a la traducción automática (Google Translate). Sin embargo, fue OpenAI quien dio el siguiente paso al convertir esta arquitectura en un modelo generativo de lenguaje, creando GPT en 2018.

Cómo genera texto un LLM

Gracias a la arquitectura Transformer, cuando un modelo está generando texto es capaz de tener en cuenta todas las palabras anteriores de la frase antes de proponer la siguiente.

En la frase:

"En invierno y con mucho frío cae la blanca → ?"

el modelo tiene en cuenta simultáneamente “invierno”, “mucho”, “frío” y “blanca”, relacionándolas entre sí para predecir matemáticamente la siguiente palabra. En este caso, la predicción correcta será “blanca → nieve”, y no, por ejemplo, “blanca → camiseta”, “blanca → harina” o “blanca → nube”. Al considerar todas las palabras previas a la vez, la probabilidad de acierto aumenta de forma significativa.

Ahora bien, simplificando mucho, todo es una cuestión de probabilidades y matemáticas. El LLM no piensa, no entiende lo que dice y no sabe si lo que genera es verdadero o falso.

Al conjunto de palabras que el modelo tiene en cuenta para predecir la siguiente palabra de la secuencia se le denomina contexto.

Por eso habrás observado que, cuando utilizas ChatGPT durante sesiones muy largas, la calidad puede resentirse. A veces ocurre porque la conversación se acerca a los límites de su ventana de contexto (y parte de lo anterior deja de “caber”); otras veces, simplemente, porque en un contexto muy extenso es más difícil priorizar lo relevante. De ahí que se hable de modelos con ventanas de contexto más grandes que otros.

Cómo funciona un Transformer

Veamos ahora, con algo más de detalle —aunque de forma necesariamente simplificada—, cómo funciona un Transformer.

Un Transformer no trabaja directamente con palabras, sino con tokens. Conviene mencionarlos porque seguramente hayas oído hablar de ellos. Un token puede corresponderse con una palabra completa, pero también con una parte de una palabra. Para simplificar esta explicación, asumiremos que una palabra equivale a un token y hablaremos de “palabras” para facilitar la comprensión.

Un Transformer convierte las palabras en números, más concretamente en vectores. Por ejemplo, la palabra médico podría estar definida por un vector de tres dimensiones como (6, 8, 1), y la palabra paciente por el vector (8, 6, 1).

Todas las palabras se representan en un espacio matemático. Las palabras conceptualmente cercanas —como médico y paciente— tienen entre sí un ángulo menor que palabras menos relacionadas, como paciente e invierno. Los conceptos cercanos tienden a quedar “próximos” en ese espacio. Lo que hace un LLM, simplificando mucho, es calcular estas distancias entre las palabras y, a partir de ahí, construir su respuesta.

En este ejemplo simplificado solo hemos utilizado tres dimensiones. En la realidad, los modelos extensos de lenguaje (LLM) se entrenan con billones de palabras y trabajan en un espacio multidimensional que suele tener en torno a 12.000 dimensiones. Es decir, cada palabra está representada por un vector formado por miles de números.

Tal y como yo lo entiendo, cuando un LLM genera una respuesta aplica una capacidad de cálculo enorme sobre este gigantesco espacio multidimensional de palabras.

Limitaciones de los LLM

Los modelos generativos de lenguaje —como ChatGPT o Gemini— no son los únicos tipos de Transformers que existen. Hay otros, que darían para otro artículo y que quizá aborde en el futuro. Los LLM están especializados en generar texto y lo hacen, como hemos visto, mediante un mecanismo de relaciones asociativas basadas en probabilidad. Por este motivo, lo que generan no tiene por qué ser verdadero. No es su propósito ni el objetivo para el que fueron diseñados.

Cuando un modelo ha sido entrenado con información verídica y aquello por lo que le preguntamos se encuentra dentro de sus datos de entrenamiento, aumenta la probabilidad de que responda correctamente (aunque no es una garantía). Si no es así, puede inventar una respuesta. Y lo hará de una forma que suena muy verosímil y convincente. A este fenómeno se le ha denominado “alucinación” de la IA.

A día de hoy —y sin saber si esto cambiará en el futuro— los LLM fallan. No son sistemas 100 % fiables. Por eso requieren una supervisión humana constante y con criterio.

Tal y como explica Juan José Beunza hacia el final de su ponencia, la IA funciona especialmente bien cuando se parte de un buen profesional, con criterio, al que se forma en el uso adecuado de estas herramientas. El resultado es un súper profesional. En cambio, si se elimina por completo la supervisión humana, la IA cometerá errores que, en ámbitos como el sanitario, simplemente no son aceptables.