¿Qué es un LLM y cómo funciona?
Qué es un LLM, cómo convierte texto en tokens, cómo predice la continuación de una secuencia, qué son sus parámetros, cómo utiliza el contexto y cuáles son sus principales capacidades y limitaciones.
Los grandes modelos de lenguaje pueden responder preguntas, resumir documentos, traducir, generar borradores y ayudar con código. Para utilizarlos con criterio conviene entender que no funcionan como una base de datos de respuestas, sino como modelos que procesan secuencias y generan continuaciones a partir de patrones aprendidos.
¿Qué es un LLM?
LLM significa Large Language Model, o modelo grande de lenguaje.
Es un modelo de inteligencia artificial entrenado para trabajar con secuencias de lenguaje y otros tipos de contenido representados de forma compatible con su arquitectura.
Su entrenamiento le permite aprender patrones relacionados con:
- Palabras y frases.
- Gramática.
- Relaciones entre conceptos.
- Estructuras de documentos.
- Patrones de programación.
- Formas habituales de responder preguntas.
Después del entrenamiento puede utilizar esos patrones para producir nuevas secuencias.
Aunque puede reproducir información aprendida durante el entrenamiento, su funcionamiento básico consiste en calcular probabilidades sobre posibles continuaciones.
LLM vs chatbot
Un LLM y un chatbot no son exactamente lo mismo.
El LLM es el modelo. El chatbot es una aplicación que puede utilizar ese modelo.
Un chatbot puede añadir componentes como:
- Interfaz de conversación.
- Instrucciones del sistema.
- Historial.
- Memoria.
- Búsqueda web.
- Archivos.
- Herramientas.
- Filtros y reglas de seguridad.
Usuario
↓
Aplicación de chat
↓
Instrucciones + contexto
↓
LLM
↓
Respuesta
↓
AplicaciónPor eso dos productos que utilicen modelos similares pueden comportarse de manera diferente.
¿Qué son los tokens?
Antes de procesar texto, el sistema lo divide en unidades llamadas tokens.
Un token no tiene que coincidir con una palabra completa. Dependiendo del sistema puede representar:
- Una palabra.
- Parte de una palabra.
- Un signo de puntuación.
- Un espacio o combinación frecuente.
- Parte de una instrucción de código.
De forma ilustrativa:
Texto:
"Programación moderna"
Posible división conceptual:
"Program"
"ación"
" moderna"La división real depende del tokenizador utilizado por cada modelo.
¿Qué es la tokenización?
La tokenización es el proceso de convertir una secuencia de entrada en tokens que el modelo puede manejar.
Después, cada token se representa mediante un identificador numérico.
"Hola mundo"
↓
Tokens
↓
[1542, 9821, ...]Los identificadores anteriores son únicamente un ejemplo conceptual.
La cantidad de tokens importa porque los modelos tienen límites sobre cuánto contenido pueden procesar dentro de una misma solicitud.
De tokens a representaciones numéricas
Los identificadores de tokens por sí solos no contienen suficiente información para comprender relaciones complejas.
El modelo transforma esas unidades en representaciones numéricas con múltiples dimensiones.
Estas representaciones permiten que la red procese relaciones entre los distintos elementos de la secuencia.
Token
↓
Identificador
↓
Representación numérica
↓
Procesamiento por el modeloConceptos como embeddings están relacionados con esta idea de representar información mediante vectores.
Predicción del siguiente token
Una forma útil de entender un LLM es pensar que intenta predecir qué token podría continuar una secuencia.
Supongamos:
"La capital de Costa Rica es..."El modelo calcula probabilidades para diferentes continuaciones.
San → probabilidad alta
Limón → probabilidad menor
Python → probabilidad muy bajaDespués selecciona una continuación según la configuración de generación.
Ese nuevo token pasa a formar parte del contexto y el proceso se repite.
Entrada
↓
Predecir siguiente token
↓
Agregar token
↓
Predecir siguiente token
↓
Agregar token
↓
...Así se construye la salida paso a paso.
¿Qué son los parámetros de un modelo?
Los parámetros son valores internos que el modelo ajusta durante el entrenamiento.
Podemos imaginarlos como una enorme cantidad de números que permiten transformar la información de entrada y calcular predicciones.
Durante el entrenamiento el sistema modifica esos valores intentando reducir sus errores.
También importan los datos, la arquitectura, el entrenamiento, el ajuste posterior y la tarea que queremos resolver.
¿Cómo se entrena un LLM?
El proceso exacto puede variar, pero podemos entenderlo en varias etapas conceptuales.
1. Preparar datos
Se recopilan y procesan grandes cantidades de información adecuada para el entrenamiento.
2. Convertir contenido en tokens
El texto se representa mediante secuencias que el modelo puede procesar.
3. Realizar predicciones
El modelo intenta predecir partes de las secuencias.
4. Calcular el error
Se mide qué tan diferente fue la predicción respecto al objetivo de entrenamiento.
5. Ajustar parámetros
Un proceso de optimización modifica los parámetros internos para reducir el error.
6. Repetir muchas veces
El proceso se realiza sobre enormes cantidades de ejemplos.
¿Qué es la inferencia?
Inferencia es el proceso de utilizar un modelo ya entrenado para producir resultados.
Cuando escribes una pregunta y el modelo genera una respuesta, está realizando inferencia.
Entrenamiento:
el modelo aprende y ajusta parámetros
Inferencia:
el modelo utiliza esos parámetros
para responder una solicitudEntrenar un gran modelo y utilizarlo después son procesos diferentes, con necesidades de cómputo también diferentes.
¿Qué es la ventana de contexto?
La ventana de contexto representa la cantidad de información que el modelo puede considerar dentro de una interacción determinada.
Puede incluir:
- Instrucciones internas.
- Mensaje actual.
- Conversación anterior.
- Fragmentos de documentos.
- Resultados de herramientas.
- La respuesta que se está generando.
Si el contenido total supera el límite disponible, la aplicación debe decidir qué información conservar, resumir o excluir.
Más contexto no siempre significa mejor resultado
Incluir demasiada información irrelevante puede dificultar que el modelo identifique qué parte es realmente importante.
La calidad y organización del contexto también importan.
Ventana de contexto vs memoria
Estos conceptos suelen confundirse.
La ventana de contexto es la información disponible para una determinada ejecución.
La memoria, en cambio, es una función que una aplicación puede implementar para conservar información y volver a introducirla posteriormente.
LLM base:
no necesita recordar conversaciones anteriores
Aplicación:
puede guardar información
Nueva interacción:
la aplicación recupera datos
y los incluye en el contextoEsto significa que la memoria persistente no debe confundirse con los parámetros aprendidos por el modelo.
¿Cómo genera una respuesta?
Cuando el modelo recibe una solicitud, la aplicación prepara el contexto y lo convierte en tokens.
Después se ejecuta un proceso similar a:
- Procesar los tokens disponibles.
- Calcular probabilidades para el siguiente token.
- Seleccionar una continuación.
- Agregarla a la secuencia.
- Repetir hasta alcanzar un criterio de parada.
El resultado puede parecer escrito de una sola vez, pero técnicamente se construye de forma progresiva.
¿Por qué puede responder diferente?
La generación puede utilizar configuraciones que controlan cuánto se favorecen las opciones más probables frente a alternativas menos probables.
Un concepto conocido es la temperatura.
A nivel conceptual:
- Una configuración más conservadora suele favorecer continuaciones más probables.
- Una configuración más abierta puede aumentar la variedad.
Esto no significa que una temperatura baja haga que una respuesta sea automáticamente correcta.
La exactitud depende de muchos otros factores.
¿Qué relación tiene un LLM con RAG?
Un LLM no tiene por qué conocer toda la información que una aplicación necesita.
En un sistema RAG, la aplicación recupera información relevante de una fuente externa y la introduce en el contexto antes de generar una respuesta.
Pregunta
↓
Buscar información
↓
Recuperar documentos relevantes
↓
Agregar al contexto
↓
LLM
↓
RespuestaEsto puede permitir que el modelo trabaje con documentos específicos sin necesitar incorporarlos permanentemente en sus parámetros.
Si quieres profundizar en la representación utilizada para muchas búsquedas semánticas, consulta nuestro artículo sobre embeddings .
LLM con herramientas
Un modelo de lenguaje por sí solo genera una salida a partir del contexto recibido.
Una aplicación puede conectarlo con herramientas externas para ampliar sus capacidades.
Por ejemplo:
- Búsqueda web.
- Calculadora.
- Calendario.
- Bases de datos.
- Correo electrónico.
- Sistemas empresariales.
En ese caso, la aplicación puede permitir que el modelo solicite una herramienta y después utilizar el resultado como contexto adicional.
Esta capacidad es una de las bases de muchos agentes de IA .
¿Dónde se utilizan los LLM?
Asistentes conversacionales
Permiten responder preguntas y mantener conversaciones sobre muchos temas.
Resumen de documentos
Pueden transformar textos extensos en versiones más breves.
Extracción de información
Pueden ayudar a localizar campos, nombres, categorías o conceptos dentro de contenido no estructurado.
Clasificación
Pueden asignar textos a categorías cuando reciben instrucciones y ejemplos apropiados.
Programación
Pueden explicar código, generar borradores, localizar posibles errores y ayudar a documentar proyectos.
Educación
Pueden adaptar explicaciones, generar preguntas y ayudar a practicar conceptos, aunque el contenido importante debe revisarse.
Limitaciones de los LLM
Un LLM puede producir resultados muy útiles, pero tiene limitaciones importantes.
No garantiza verdad
El modelo genera texto probable dentro del contexto. Una respuesta convincente puede seguir siendo incorrecta.
Puede interpretar mal instrucciones
Una solicitud ambigua puede producir una respuesta diferente a lo que realmente quería el usuario.
Puede perder detalles
En tareas largas o documentos extensos puede omitir información importante.
Puede tener conocimiento incompleto o desactualizado
El conocimiento disponible depende del modelo y de las herramientas que la aplicación le permita utilizar.
Puede reproducir sesgos
Los datos de entrenamiento y el diseño del sistema pueden influir en los patrones generados.
¿Qué es una alucinación?
En el contexto de modelos generativos se utiliza el término alucinación para describir una salida que presenta información incorrecta o inventada como si fuera válida.
Por ejemplo, un modelo podría:
- Inventar una fuente.
- Atribuir una frase a una persona incorrecta.
- Crear una fecha inexistente.
- Dar una explicación técnicamente equivocada.
Esto puede ocurrir porque el objetivo de generación no es comprobar automáticamente cada afirmación contra una fuente confiable.
Para decisiones importantes, datos actuales o información especializada conviene consultar fuentes confiables en lugar de asumir que la primera respuesta del modelo es correcta.
Privacidad y datos sensibles
Antes de enviar información a una aplicación basada en LLM debemos considerar cómo ese servicio procesa y conserva los datos.
Evita compartir información sensible sin comprender las políticas y controles disponibles.
En organizaciones también puede ser necesario establecer reglas sobre qué documentos pueden utilizarse con determinados servicios.
Ejemplo completo: resumir un documento
Imagina que tenemos un documento sobre fundamentos de redes y queremos obtener las tres ideas más importantes.
Paso 1: instrucción
Resume este texto en tres ideas
para una persona que está empezando.Paso 2: preparar contexto
La aplicación incluye la instrucción y el documento dentro del contexto.
Paso 3: tokenización
Todo el contenido se transforma en tokens.
Paso 4: procesamiento
El modelo calcula representaciones y relaciones entre los elementos del contexto.
Paso 5: generación
Produce la respuesta token por token.
Paso 6: revisión
Debemos comprobar que:
- No añadió datos inexistentes.
- No eliminó una idea esencial.
- El lenguaje corresponde al nivel solicitado.
- La salida cumple el formato.
Paso 7: mejorar la instrucción si es necesario
Si el resumen quedó demasiado técnico, podemos especificar mejor la audiencia.
Resume en tres ideas.
Usa lenguaje sencillo.
No agregues información
que no aparezca en el texto.Este ejemplo muestra que el resultado depende tanto del modelo como del contexto y las instrucciones proporcionadas.
Compruébalo tú mismo
Utiliza un mismo párrafo y pide tres transformaciones diferentes:
- Resumen en una oración.
- Explicación para un principiante.
- Lista con cinco conceptos clave.
Después compara los resultados.
Pregúntate:
- ¿Qué información mantuvo?
- ¿Qué información omitió?
- ¿Introdujo alguna afirmación nueva?
- ¿El formato solicitado se respetó?
Cambia solamente una parte de la instrucción, como la audiencia, y observa cómo modifica la respuesta sin cambiar el texto original.
Preguntas frecuentes
¿Un LLM comprende como una persona?
No exactamente. Un LLM aprende patrones y representaciones útiles del lenguaje, pero no debe asumirse que posee comprensión, experiencia o conocimiento del mundo equivalentes a los de una persona.
¿Todos los LLM están conectados a Internet?
No. La conexión depende de la aplicación. Un modelo puede funcionar únicamente con sus parámetros y el contexto recibido, o integrarse con herramientas externas.
¿Un LLM siempre ofrece la misma respuesta?
No necesariamente. La salida puede variar según el contexto, la instrucción y la configuración de generación.
¿Qué diferencia hay entre un LLM y un chatbot?
El LLM es el modelo. Un chatbot es una aplicación que puede utilizar un LLM junto con interfaz, instrucciones, memoria, herramientas y otras funciones.
Conclusión
Un LLM es un modelo de inteligencia artificial especializado en procesar y generar secuencias de lenguaje mediante representaciones numéricas y predicción de tokens.
Durante el entrenamiento ajusta una gran cantidad de parámetros para aprender patrones presentes en los datos. Durante la inferencia utiliza esos parámetros junto con el contexto recibido para generar una salida.
La ventana de contexto, las instrucciones, las herramientas y la configuración de generación influyen directamente en el resultado. Por eso un mismo modelo puede comportarse de forma diferente según la aplicación donde se utilice.
También es importante recordar sus límites: un texto convincente no garantiza que sea verdadero. Para utilizar los LLM de manera útil y responsable debemos combinar buenas instrucciones, contexto relevante, verificación y cuidado con la información sensible.
ByteNova
Proyecto educativo creado por Dylan Estrada. ByteNova publica contenido sobre programación, desarrollo web, inteligencia artificial y ciberseguridad con un enfoque claro para principiantes y revisión editorial continua.
Conoce más sobre ByteNova →