¿Cómo genera una respuesta un modelo de lenguaje grande?
Entiende los modelos de lenguaje como sistemas que continúan texto de forma automática y descubre por qué tu entrada afecta a su salida.
Seguro que últimamente has visto u oído el término «modelo de lenguaje grande», o LLM, por Large Language Model. Mucha gente lo llama «inteligencia artificial». ¿Es correcto? ¿Qué es en realidad? ¿Por qué parece la inteligencia artificial de las películas de ciencia ficción?
1. Un sistema que continúa texto de forma automática
Como analogía sencilla, puedes imaginar un LLM como un sistema que continúa texto de forma automática. Por ejemplo, supongamos que preguntas a un LLM, como DeepSeek o ChatGPT:
El modelo realiza una serie de cálculos. Pero el proceso puede ser distinto de lo que imaginas. No «piensa». Mediante diversos cálculos, predice qué «carácter» tiene más probabilidades de aparecer después de esa pregunta.
Para «¿Qué tiempo hace hoy en Guangzhou?», una generación podría producir «H» como siguiente carácter.
Tras producir «H», el modelo usa «¿Qué tiempo hace hoy en Guangzhou?H» como nueva entrada. Vuelve a calcular el siguiente carácter, obtiene «o» y llega a «¿Qué tiempo hace hoy en Guangzhou?Ho». Continúa calculando hasta obtener el resultado final.
El proceso es, aproximadamente, así:
Al final, en el producto verás una respuesta como esta:
Este principio ayuda a entender por qué los productos con LLM muestran las respuestas carácter a carácter.
2. ¿Para qué sirve entender este concepto?
Este principio sencillo explica por qué surgieron tantas técnicas de prompt engineering, o ingeniería de instrucciones, en los primeros productos con LLM, por ejemplo en la época de GPT-3.5.
En una traducción, antes del texto en inglés puedes añadir: «Eres especialista en traducción entre inglés y chino. Traduce el siguiente texto en inglés…». Estas instrucciones, o prompts, buscan aumentar la probabilidad de que el LLM produzca una respuesta satisfactoria.
¿Por qué?
Para interactuar con la IA, debes expresar por escrito lo que quieres. Si no conoces los conceptos relacionados, resulta difícil explicar los requisitos con claridad. En otras palabras, cuesta hacer una pregunta útil o dar instrucciones adecuadas. Si son confusas o incorrectas, la respuesta puede ser mediocre o errónea.
Prueba los dos botones de abajo. Ambos abren un menú con los mismos elementos, pero su aspecto es muy distinto. ¿Cuál ofrece una mejor experiencia?
Sin conocimientos de programación o de producto, quizá dependas de una sola frase: «Al hacer clic en el botón, muestra un menú con tres botones: Menú A, B y C».
Lo más probable es que el modelo entregue el resultado estadísticamente más probable, o uno corriente. Si conoces los conceptos adecuados, puedes darle instrucciones concretas para mejorar la salida.
Eso es lo que este curso quiere enseñarte.