Tipos de LLM usados en agentes de IA y cómo elegir el adecuado

Cada día aparecen nuevos modelos, nombres y benchmarks (GPT, Claude, Gemini 2.0, LLaMA, DeepSeek, Mistral, Qwen…) y es fácil perderse. Si estás diseñando agentes de IA, no basta con saber cuál “es el mejor” en abstracto; necesitas entender qué tipos de LLM existen, qué proveedores los ofrecen, cómo se usan dentro de un agente y qué encaja mejor con tu caso de uso, tu presupuesto y tu necesidad de control.

Qué es un LLM y por qué son tan importantes en los agentes de IA

Un LLM (Large Language Model) es un modelo de IA entrenado con cantidades masivas de texto para aprender a comprender y generar lenguaje humano. Se basan en redes neuronales profundas, casi siempre con arquitectura Transformer, introducida en 2017, que utiliza mecanismos de autoatención para relacionar palabras entre sí incluso cuando están muy alejadas en la frase.

Ese “Large” no es un adorno de marketing: hablamos de modelos con cientos de millones, miles de millones o incluso billones de parámetros. Cada parámetro es un peso interno que se ajusta durante el entrenamiento y que determina cómo responde el modelo. Cuantos más parámetros bien entrenados, mayor capacidad para captar matices, contexto y estructuras complejas de razonamiento.

El proceso básico empieza dividiendo el texto en tokens, pequeñas unidades (trozos de palabra, palabras enteras, signos) que el modelo convierte en vectores numéricos llamados embeddings. Esos vectores van pasando por capas del Transformer, donde la autoatención calcula qué tokens son más relevantes para cada posición y va refinando la representación contextual del texto paso a paso.

La autoatención funciona con tres tipos de vectores por token: consulta (query), clave (key) y valor (value). El modelo aprende, durante el entrenamiento, matrices de pesos que proyectan los embeddings en estas tres vistas. Luego compara consultas y claves para asignar puntuaciones de atención, normaliza esas puntuaciones en pesos y las usa para combinar los valores y formar nuevas representaciones contextualizadas.

Además, los Transformers añaden codificaciones posicionales para que el modelo sepa en qué lugar de la secuencia va cada token. Tras muchas capas, el modelo ha aprendido relaciones semánticas profundas: por ejemplo, que “ladrar” y “perro” suelen ir de la mano en ciertos contextos, mientras que “ladrar” y “árbol” no.

Durante el entrenamiento, el LLM hace predicciones millones de veces sobre datos de libros, webs, código, chats, etc. Una función de pérdida mide el error y, con retropropagación y descenso de gradiente, se ajustan los pesos. El objetivo es que el modelo genere textos plausibles y coherentes token a token, aprendiendo gramática, hechos, formatos y estilos.

Para los agentes de IA, los LLM son el “cerebro lingüístico”: entienden las instrucciones del usuario, descomponen problemas en pasos, eligen qué herramienta usar, interpretan respuestas de APIs externas y generan mensajes claros y razonados. Sin un buen LLM, el agente no pasa de ser un flujo rígido de if/else con frases preprogramadas.

Principales tipos de LLM según su uso en agentes de IA

En la práctica, no hay un único “tipo” de LLM, sino varias familias adaptadas a distintos escenarios. Para construir agentes de IA conviene distinguir tres grandes grupos: modelos conversacionales generalistas, modelos centrados en razonamiento y modelos ligeros optimizados para velocidad o despliegue local.

1. LLM conversacionales de propósito general

Son los modelos que mejor se adaptan a diálogos largos y variados. Mantienen el contexto entre turnos, cambian de tema sin perder el hilo y son capaces de seguir instrucciones complejas con un tono natural. Son la base típica de chatbots y asistentes virtuales y agentes de soporte al cliente.

GPT-4o (OpenAI) es el ejemplo más representativo de esta categoría. Es un modelo multimodal que acepta texto, imágenes, audio y archivos, y puede responder también en esos formatos. Destaca por su latencia muy baja en voz (centenas de milisegundos) y por su capacidad para mantener conversaciones fluidas, lo que lo hace ideal para agentes de atención en tiempo real, asistentes de voz o tutores de idiomas.

Claude 4 Sonnet (Anthropic) se define como un modelo conversacional equilibrado: rápido, con buen contexto largo y muy fuerte siguiendo instrucciones en entornos empresariales. Es un candidato sólido para agentes internos (RRHH, IT, soporte a empleados) donde hagan falta respuestas estructuradas, tono profesional y memoria de muchas interacciones dentro de la misma sesión.

2. LLM enfocados en razonamiento y planificación

En este grupo entran los modelos diseñados para “pensar” con más profundidad, aunque a costa de más tiempo de cómputo y, en muchos casos, mayor coste. Son los que mejor encajan cuando tu agente debe resolver problemas multietapa, programar, razonar sobre datos numéricos o científicos y justificar cuidadosamente sus decisiones.

OpenAI o3 es un LLM orientado específicamente al razonamiento, heredero conceptual de la familia o1. Aprovecha técnicas de chain-of-thought para descomponer los problemas en pasos intermedios y aplicar “pensamiento estructurado” a tareas de matemáticas avanzadas, programación o ciencia. Además, implementa mecanismos de alineación deliberativa, revisando sus propias acciones frente a una guía de seguridad antes de continuar.

Claude 4 Opus es el modelo más grande y capaz de Anthropic, pensado para razonamiento profundo sobre contextos muy largos: informes extensos, bases de conocimiento densas, grandes repositorios de documentos empresariales. Es apropiado para agentes que deban leer documentación pesada (manuales, contratos, políticas) y producir análisis detallados o decisiones apoyadas en referencias internas.

Gemini 2.5 Pro (Google DeepMind) se luce especialmente en escenarios donde puede usar herramientas integradas y análisis profundo, por ejemplo dentro de Google AI Studio con Deep Research activado. Para agentes complejos que necesitan consultar varias fuentes, planificar en varios pasos y explicar la lógica de sus acciones, es una opción potente, sobre todo si ya trabajas dentro del ecosistema de Google Cloud.

DeepSeek R1 representa el enfoque de razonamiento con pesos abiertos (open-weight). Ofrece un rendimiento competitivo en benchmarks de lógica y matemáticas, y está pensado para quienes quieren control total sobre el modelo y su despliegue. Es especialmente interesante para agentes que requieran razonamientos claros, pasos bien definidos y posibilidad de ejecutarse en infraestructura propia.

3. LLM ligeros para agentes rápidos o en el borde

Los modelos ligeros son versiones reducidas o destiladas de modelos grandes que sacrifican algo de capacidad general o profundidad de razonamiento a cambio de menor consumo de recursos y más velocidad. Son ideales para agentes embedded, integrados en apps móviles, dispositivos en el borde o servicios que necesitan responder con latencias mínimas.

Gemma 3 (4B), de Google, condensa la familia Gemma en unos cuatro mil millones de parámetros. Mantiene buena obediencia a instrucciones y un desempeño sólido, pero con requisitos de hardware mucho menores. Encaja muy bien en agentes locales o sobre dispositivos de gama media que no pueden depender siempre de la nube.

Mistral Small 3.1 está diseñado para ejecutarse en una sola GPU de consumo ofreciendo, aun así, una ventana de contexto amplia (del orden de 128k tokens) y buena velocidad de generación. Es idóneo para agentes de chat desplegados en el borde, asistentes internos con latencia crítica o integraciones donde quieras respuesta casi instantánea en servidores modestos.

Qwen 3 (4B), del ecosistema de Alibaba, combina tamaño reducido con una cobertura multilingüe notable (más de 100 idiomas) y buena integración con llamadas a herramientas. Es una opción muy atractiva para agentes que operen en varios idiomas y necesiten orquestar APIs o servicios externos desde hardware limitado.

Principales proveedores de LLM para agentes de IA

Además de los tipos de modelos, importa mucho quién los desarrolla y cómo los distribuye. Cada proveedor sigue una filosofía distinta en cuanto a apertura, seguridad, integración y soporte, y eso condiciona el diseño de tus agentes.

OpenAI ofrece la serie GPT (incluido GPT-4o y los modelos de razonamiento como o3) mediante API y productos como ChatGPT (ver guía oficial para construir agentes). Su enfoque es crear modelos generalistas muy capaces, con un ecosistema rico de herramientas, configuraciones personalizadas y funciones de memoria. Es la opción favorita para muchos equipos que quieren resultado rápido y soporte comercial.

Anthropic desarrolla la familia Claude (Sonnet, Opus…), muy enfocada en seguridad, controlabilidad y rendimiento en conversaciones largas. Sus modelos se usan mucho en entorno corporativo donde importan la alineación ética, la precisión en textos largos y la estabilidad del comportamiento.

Google DeepMind impulsa la familia Gemini, con gran énfasis en multimodalidad (texto, imagen, audio, vídeo) y contexto largo. La gran ventaja es su integración con Google Workspace y Google Cloud, lo que facilita crear agentes que trabajen con Gmail, Docs, Sheets, Drive o servicios desplegados en Vertex AI.

Meta es la responsable de LLaMA 2 y LLaMA 3, algunos de los modelos open-weight más capaces disponibles. Aunque su licencia tiene condiciones, puedes descargarlos y ejecutarlos en tu propia infraestructura, ajustarlos con LoRA/QLoRA y construir agentes privados que no dependan de servicios externos.

DeepSeek se ha ganado un hueco con modelos open-weight de alto rendimiento, como la línea R1 para razonamiento. Son muy apreciados por equipos que buscan transparencia, capacidad de auditoría y flexibilidad para personalizar a fondo sus agentes.

xAI, centrada en los modelos Grok, se orienta a agentes con acceso a información en tiempo real de la plataforma X y un estilo de conversación más informal. Es útil para bots sociales, monitores de tendencias y asistentes que deban comentar la actualidad con un tono cercano.

Mistral, la startup europea, apuesta por modelos abiertos y eficientes (Mistral 7B, Mixtral 8x7B, Mistral Small 3.1, etc.). Son especialmente populares entre desarrolladores que quieren ejecutar agentes en local o en nubes propias optimizando el coste y la latencia.

Modelos comerciales vs open source en agentes de IA

Al diseñar un agente LLM siempre surge la misma duda: ¿apuesto por un modelo comercial alojado (GPT-4o, Claude, Gemini…) o por uno de código abierto / pesos abiertos (LLaMA, Mistral, Falcon, Gemma, Qwen, DeepSeek…)? No es solo un tema de infraestructura; afecta a control, privacidad, coste y capacidad de personalización.

Los modelos comerciales alojados se consumen normalmente vía API. Ventajas: facilidad de uso, escalado automático, rendimiento puntero y mantenimiento delegado en el proveedor. Inconvenientes: código cerrado, menor margen de personalización profunda (aunque haya opciones de fine-tuning gestionado) y dependencia de los términos de servicio y precios del proveedor.

Los modelos open source u open-weight se pueden descargar, ejecutar en tu hardware o en nubes propias, e incluso ajustar con tus datos. Esto ofrece máximo control, posibilidad de despliegues on-premise o en entornos aislados y más libertad para experimentar. A cambio, asumes la complejidad de la infraestructura, el coste de cómputo y la responsabilidad de mantener el modelo actualizado y seguro.

En muchos proyectos de agentes, se acaba usando un enfoque híbrido: modelos alojados para tareas críticas de calidad (por ejemplo, razonamiento complejo de backoffice) y modelos ligeros open source para agentes locales, prototipos rápidos o componentes que necesitan máxima privacidad.

LLM y agentes: cómo encajan dentro de la arquitectura

Un agente LLM no es solo el modelo de lenguaje; es un sistema que combina varias capacidades alrededor de ese modelo para lograr autonomía y utilidad real en tareas de negocio.

1. Modelo de lenguaje como núcleo
El LLM actúa como centro de razonamiento lingüístico. Interpreta mensajes, decide próximos pasos, selecciona herramientas y redacta respuestas. Su calidad determina profundidad, precisión y naturalidad de las interacciones.

2. Memoria
La memoria permite que el agente recuerde interacciones previas, preferencias del usuario y hechos relevantes, ya sea dentro de una sesión o de forma persistente. En la práctica se implementa con bases de datos, almacenes de vectores o funciones de memoria nativa que reinyectan información al prompt en cada turno.

3. Uso de herramientas
Para pasar de “hablar” a “hacer”, el agente debe poder invocar APIs, consultar bases de datos, ejecutar scripts o activar servicios externos. El LLM decide qué herramienta usar y con qué parámetros a partir del contexto, y luego interpreta el resultado para continuar el flujo.

4. Planificación
Los agentes más avanzados emplean planificación explícita: el modelo descompone peticiones complejas en subtareas ordenadas, puede revisar si un paso ha fallado y reenfocar la estrategia. Esto puede hacerse en un solo paso (planificación sin retroalimentación) o con iteraciones sucesivas que ajustan el plan en función de lo que va sucediendo.

Tipos de agentes LLM según su función

En el día a día, los agentes que construimos con LLM suelen encajar en cuatro categorías, aunque a menudo se combinan entre sí en sistemas más grandes.

Agentes conversacionales
Son los típicos chatbots de atención al cliente, soporte técnico, orientación médica básica, etc. Mantienen diálogos naturales, resuelven dudas frecuentes, guían al usuario por procesos y escalan a humanos cuando es necesario. Aquí brillan modelos como GPT-4o, Claude Sonnet o Gemini integrados con bases de conocimiento.

Agentes orientados a tareas
Se centran en completar objetivos concretos: reservar una cita, abrir un ticket, generar un informe, completar un flujo de RRHH… Configuran herramientas, consultan datos, ejecutan acciones y devuelven un resultado cerrado más allá de una simple conversación. Este enfoque es similar al de los agentes Copilot que automatizan tareas concretas.

Agentes creativos
Aprovechan la capacidad generativa de los LLM para crear textos, guiones, borradores de campañas, documentación o contenidos combinados con modelos de imagen o audio. Se apoyan mucho en modelos generalistas potentes y en técnicas de prompt engineering para ajustar estilo y tono.

Agentes colaborativos
Trabajan “codo con codo” con personas o con otros agentes. Ayudan a coordinar proyectos, sintetizar información para equipos, generar reportes de estado o apoyar decisiones. En entornos empresariales complejos suelen funcionar como un hub que conecta datos internos, herramientas y usuarios; un buen ejemplo de este enfoque aparece en fujitsu y la nueva era de los agentes.

Cómo personalizar un LLM para que tu agente responda mejor

Si usas un modelo general como base, necesitas adaptarlo a tu negocio para que no hable de tu competencia, respete tus políticas y siga tu lógica interna. Hay cuatro palancas principales para ajustar el comportamiento de un LLM dentro de un agente.

1. RAG (Generación aumentada por recuperación)
Consiste en que el agente busque información en tus propios datos (documentación, base de productos, políticas internas…) y se la pase al LLM como contexto antes de pedir una respuesta. Es lo que hacemos cuando pegamos un texto en un chat y preguntamos sobre él, pero automatizado.

RAG es ideal para agentes basados en conocimiento porque evita tener que reentrenar el modelo cada vez que cambian los datos. Basta con actualizar la fuente de información, y el LLM seguirá teniendo acceso a lo más reciente.

2. Fine-tuning
El ajuste fino implica entrenar el modelo (o una capa superior) con ejemplos específicos de tu dominio. Por ejemplo, transcripciones de tus mejores llamadas de ventas, respuestas modelo de tu soporte técnico, o correos escritos por tu equipo legal.

En modelos open source puedes hacer fine-tuning completo, si tienes infraestructura y equipo técnico. En modelos comerciales, muchos proveedores ofrecen fine-tuning gestionado: tú aportas los datos y ellos entrenan una variante del modelo para tu uso. Es más caro que RAG, pero puede mejorar mucho la consistencia del estilo y el rendimiento en tareas muy específicas.

3. N-shot prompting
En lugar de entrenar nada, incluyes ejemplos de entradas y salidas deseadas dentro del propio prompt cada vez que llamas al modelo. Con un solo ejemplo (one-shot) ya se nota a menudo una mejora grande; con varios (n-shot) el modelo capta mejor el patrón.

La limitación es el tamaño del contexto y el coste de tokens: cuantos más ejemplos metas, más caro y lento será. Suele usarse como solución rápida para afinar el comportamiento del agente sin tocar el modelo base.

4. Técnicas de ingeniería de prompts
Incluyen estrategias como chain-of-thought (pedir al modelo que razone paso a paso), encadenamiento de prompts (dividir tareas complejas en varias llamadas), o instrucciones de estilo muy precisas (tono, estructura de la respuesta, límites de longitud).

Estas técnicas pueden disparar la calidad de las respuestas, sobre todo en razonamiento y planificación, aunque suelen incrementar el número de tokens empleados, la longitud de las salidas y la latencia.

Cómo elegir el tipo de LLM adecuado para tu agente

No existe un LLM perfecto para todo; hay que elegir en función del caso de uso, los requisitos de negocio y las restricciones técnicas. A grandes rasgos, puedes guiarte por estos criterios.

Si estás empezando y quieres algo versátil, un modelo comercial generalista como GPT-4o, Claude o un Gemini avanzado te permite validar rápido la idea de tu agente, probar prompts, experimentar con herramientas y entender qué necesitas realmente antes de complicarte con despliegues propios.

Si necesitas control y despliegue privado, LLaMA 2/3, Mistral, Gemma, Falcon, Qwen o DeepSeek son candidatos serios. Puedes alojarlos en tu infraestructura, aplicar fine-tuning con tus datos y garantizar que ninguna información sensible sale de tu entorno.

Si tu prioridad es el razonamiento complejo (cálculos, código, decisiones críticas), tiene sentido optar por modelos de razonamiento dedicados como OpenAI o3, Claude Opus, Gemini 2.5 Pro o DeepSeek R1, y combinarlo con técnicas de chain-of-thought y planificación explícita.

Si el cuello de botella es la latencia o el coste, plantéate modelos ligeros y eficientes (Gemma 4B, Mistral Small, Qwen 4B) o arquitecturas tipo MoE como Mixtral, que escalan bien manteniendo buen rendimiento. Son perfectos para agentes que deben contestar rápido, en gran volumen o desde dispositivos modestos.

Más allá del modelo, no olvides evaluar la calidad del soporte, la documentación, las facilidades de integración (SDKs, librerías, plataformas como Botpress o Vertex AI) y las garantías de seguridad y cumplimiento normativo que necesites.

Al final, el éxito de un agente de IA no depende solo del LLM elegido, sino de cómo combines ese modelo con memoria, herramientas, recuperación de información y buenas prácticas de diseño de prompts y flujos. Entender los distintos tipos de LLM y sus proveedores te permite montar esa pieza central con cabeza y construir agentes que realmente aporten valor, en lugar de ser solo otro chatbot más con respuestas genéricas.