Cómo usar Jan AI como alternativa local a ChatGPT

La irrupción de ChatGPT, Gemini o Claude ha disparado el uso de la IA generativa, pero también las dudas sobre qué pasa con los datos que volcamos en estas plataformas conectadas a la nube. Si trabajas con información sensible, no siempre te hace gracia que todo viaje a los servidores de grandes empresas, ni depender de su infraestructura, sus límites de uso o sus cambios de política.

En ese contexto, Jan AI se ha convertido en una de las alternativas más interesantes para tener “tu propio ChatGPT” en el ordenador, funcionando tanto en modo offline con modelos locales como conectada a modelos en la nube cuando lo necesites. En este artículo vamos a desgranar, paso a paso, cómo usar Jan AI como alternativa tipo ChatGPT, qué ofrece frente a otras opciones, en qué escenarios brilla y qué debes tener en cuenta en cuanto a hardware, privacidad y experiencia real de uso.

Qué es Jan AI y por qué se parece tanto a ChatGPT

Jan AI es una aplicación de escritorio gratuita y de código abierto pensada precisamente para replicar la experiencia de ChatGPT, pero ejecutando modelos de lenguaje en tu propio PC. Mientras que ChatGPT, Gemini o Claude viven en los servidores de sus respectivas compañías, con Jan descargas los modelos (los “cerebros” de la IA) y los haces funcionar de forma local, sin depender de conexión a internet una vez has hecho la instalación inicial.

La app se apoya en un motor propio, llamado Cortex, que es el encargado de ejecutar los modelos en tu equipo y exponerlos a la interfaz de chat. Encima de ese motor está la capa visual de Jan, muy similar a la de cualquier chat de IA moderno: lista de conversaciones a la izquierda, ventana central de mensajes y, en la parte superior o lateral, controles para cambiar de modelo, ajustar parámetros y crear asistentes personalizados con instrucciones fijas.

La gran diferencia respecto a los servicios en la nube es dónde reside la inteligencia: con ChatGPT o Gemini, todo el procesamiento se hace en centros de datos remotos; con Jan, puedes hacer que todo se ejecute en tu máquina, manteniendo los datos en local. Aun así, la app también permite conectarse a modelos online (OpenAI, Anthropic, Mistral, Google, etc.) si quieres lo mejor de ambos mundos.

Otro matiz importante: Jan está publicado bajo licencia Apache 2.0, lo que lo hace muy atractivo para desarrolladores y empresas que desean auditar el código, adaptarlo o integrarlo en sus propios flujos de trabajo sin quedar atados a una plataforma cerrada.

Ventajas de usar Jan como IA local: privacidad, control y coste

Una de las razones clave para usar Jan AI como alternativa tipo ChatGPT es recuperar el control sobre tus datos. Cada vez que envías un prompt a un servicio en la nube, tu información pasa a formar parte de su ecosistema: puede almacenarse, auditarse, usarse para mejorar modelos o quedar expuesta ante posibles brechas de seguridad.

Con Jan, las conversaciones, documentos adjuntos y archivos de configuración se quedan en tu ordenador. Esto no solo es una cuestión de preferencias personales: para perfiles como abogados, médicos, consultores o desarrolladores que manejan código propietario, poder trabajar con un asistente de IA totalmente offline es casi una necesidad. Jan funciona incluso en equipos aislados (air-gapped) sin acceso a internet, algo impensable con ChatGPT.

Otro punto muy potente es el coste. Los servicios de IA en la nube cobran por uso, normalmente por millón de tokens procesados, con tarifas que pueden cambiar de un día para otro. Modelos como GPT-4 o Gemini más avanzados son claramente de pago, y si te pasas de cierto volumen de mensajes, la factura se dispara. Con Jan, una vez descargas un modelo local, puedes generar tantas respuestas como quieras sin pagar cuotas mensuales ni límites artificiales: el coste real es el hardware que tengas y la energía que consuma.

Además, ganas margen de maniobra sobre el comportamiento del modelo. Los servicios comerciales suelen imponer filtros y restricciones de contenido que, en según qué entornos, resultan molestos o limitantes. Con modelos locales, puedes ajustar temperatura, frecuencia, top_p y otros parámetros para obtener un estilo de respuesta más creativo, más conservador o más técnico, y no dependes de cambios remotos que modifiquen de la noche a la mañana cómo responde tu asistente.

Por último, la independencia tecnológica es un plus nada menor. No necesitas cuenta, ni suscripción, ni aceptar nuevos términos de uso cada dos por tres. Si hoy un modelo local funciona en tu PC, va a seguir funcionando igual mañana, sin bloquearse por “demasiadas peticiones” ni colas de espera.

Cómo instalar Jan AI en tu PC: Windows, macOS y Linux

Instalar Jan AI es bastante directo y no te obliga a pelearte con la terminal salvo que quieras ir por la vía más “linuxera”. La app está disponible para Windows, macOS (tanto Intel como Apple Silicon) y distribuciones Linux, así que prácticamente cualquier ordenador actual puede moverla.

En cuanto a requisitos mínimos, basta con un procesador relativamente moderno y 8 GB de RAM para empezar con modelos pequeños, aunque lo ideal para una experiencia cómoda son 16 GB. Jan está optimizado para funcionar bien con CPUs que soporten AVX2 y puede aprovechar GPUs de NVIDIA (CUDA), Apple Silicon (serie M), AMD (Vulkan) o Intel Arc para acelerar el rendimiento con modelos más pesados.

Para descargarlo, solo tienes que ir a su web oficial o a la página de releases de GitHub y elegir el instalador correspondiente: archivo .exe en Windows, .dmg en macOS y AppImage o paquete .deb en muchas distros Linux. En Linux tienes dos caminos habituales: usar el paquete .deb (para Ubuntu, Debian y derivadas) con un comando tipo sudo dpkg -i paquete.deb, o tirar de AppImage, que es un binario portátil que no requiere instalación ni permisos de administrador, simplemente le das permisos de ejecución y lo lanzas.

El propio programa ocupa relativamente poco (alrededor de medio giga), pero los modelos que descargues sí van llenando el disco. Cada modelo puede ir de 2-3 GB hasta 10-15 GB, según el tamaño y el nivel de cuantización. Lo sensato es reservar unos 50 GB si quieres tener varios modelos de distintas capacidades sin agobios.

Una vez instalado y abierto por primera vez, Jan te recibe con una interfaz limpia y te detecta automáticamente el sistema. No hay una configuración inicial especialmente complicada: el asistente te enseña las opciones principales para descargar un modelo rápido y empezar a chatear sin perder tiempo.

Primeros pasos: interfaz de Jan y modelo rápido integrado

Al iniciar Jan por primera vez, lo habitual es que te ofrezca tres caminos bien diferenciados. El más directo para probar la herramienta es el llamado “Quick start with Jan Model”, resaltado en tonos morados. Esta opción no requiere que elijas nada técnico: al pulsar, el propio programa descarga un modelo generalista preconfigurado.

Ese “Jan Model” es un LLM versátil pensado para las tareas típicas de un asistente: redactar textos, resumir contenido, reescribir, traducir, responder dudas generales, etc. No es el modelo más potente del planeta, pero ofrece una calidad más que decente con un consumo moderado de recursos, por lo que viene perfecto como punto de entrada para ordenadores normales sin grandes pretensiones.

Una vez completada la descarga (suelen ser un par de minutos, dependiendo de tu conexión), ya puedes lanzar tu primer mensaje como si estuvieras en ChatGPT. Escribes una pregunta o tarea, envías y verás cómo el modelo empieza a generar tokens en tiempo real. Aun siendo un modelo base, la coherencia y utilidad de las respuestas suele ser más que suficiente para uso cotidiano.

En la ventana de chat, además del cuadro de texto, encontrarás una serie de iconos que añaden funciones muy prácticas: la posibilidad de adjuntar imágenes para que la IA las analice (visión), cargar documentos PDF o Word para que los resuma o revise, y activar o desactivar la búsqueda web, de forma que el modelo pueda complementar su conocimiento local con información fresca de internet si así lo deseas.

Esta combinación de chat sencillo, botones claros y opciones adicionales hace que cualquier persona que haya usado ya ChatGPT en el navegador se adapte en segundos. La principal diferencia es que aquí puedes elegir si quieres que todo pase por tu máquina o si tiras de modelos online cuando lo requiera la tarea.

Cómo descargar y gestionar modelos locales en Jan

Más allá del modelo rápido, el verdadero potencial de Jan está en su “Hub” de modelos, donde puedes seleccionar y descargar modelos GGUF para ejecutarlos totalmente en local. GGUF es un formato optimizado para inferecia offline, muy extendido en el ecosistema llama.cpp y compatibles.

Para acceder al Hub, solo tienes que ir a la parte inferior izquierda de la aplicación y pulsar en “Hub”. Se abrirá un listado de modelos recomendados con tarjetas individuales, donde verás para cada uno su nombre completo, tamaño en gigas, autor o equipo, número de descargas, breve descripción y un botón de “Download” bien visible.

En la parte superior puedes ordenar por “Most downloaded” o “Newest”. El filtro de más descargados es ideal si no sabes por dónde empezar, porque tiende a mostrar primero modelos que equilibran bien calidad y rendimiento. Si tu PC no es muy potente, conviene fijarse en el tamaño y, en muchos casos, Jan te avisará en rojo si un modelo en concreto pide más RAM de la que tienes.

Al pulsar “Download” sobre cualquiera de estos modelos, el archivo empieza a bajarse y se guarda en tu disco. Una vez termina, el modelo se incorpora a tu lista de modelos disponibles y puedes seleccionarlo en nuevos chats o cambiarlo sobre la marcha en conversaciones ya abiertas.

La ventaja clave es que todos los modelos que ves marcados con tamaño en GB son modelos locales pensados para ejecutarse sin conexión, mientas que aquellos que aparecen sin tamaño (por ejemplo GPT-4 de OpenAI) representan modelos en la nube a los que solo accederás mediante API y con internet activo.

Modelos locales destacados: de los ligeros a los más potentes

Dentro del Hub, varios modelos han ido ganando popularidad porque ofrecen muy buena relación entre consumo de recursos y calidad de respuesta. Te resumo los más relevantes que suelen recomendarse para usarlos como alternativa tipo ChatGPT en local.

Por un lado está Llama-3.2-Instruct-Q8_0-GGUF, una versión compacta de la familia Llama 3.2 con alrededor de mil millones de parámetros. Destaca porque se conforma con poca RAM y arranca rápido, lo que lo hace ideal para PCs modestos o portátiles con 8 GB. Se defiende bien en preguntas sencillas, resúmenes cortos y explicaciones básicas, pero se queda corto cuando le pides razonamientos muy complejos o textos largos con mucha coherencia.

Si buscas algo más capaz sin pegarte con el consumo de memoria, DeepSeek-R1-Distill-Qwen-1.5B-GGUF es una opción muy interesante. Es una distilación de DeepSeek-R1 basada en Qwen de 1,5B parámetros que mejora el razonamiento y las explicaciones largas frente a la versión ligera de Llama, manteniendo tiempos de respuesta razonables incluso sin GPU potente. Es una buena candidata como modelo general si quieres ir un paso más allá sin pasarte de vueltas.

En el terreno de los modelos de Microsoft, Phi-3.5-Mini-Instruct-GGUF se ha ganado fama por su gran rendimiento a pesar de su tamaño reducido. Es un modelo muy hábil en conversación, escritura creativa y explicación de conceptos, y con unos 1,9 GB se puede mover sin dramas en equipos con 16 GB de RAM. Eso sí, notarás algo más de consumo que con los modelos de 1-1,5B parámetros.

Un escalón por encima está Phi-4-Mini-Instruct-GGUF, evolución directa de 3.5. Pide algo más de máquina (idealmente más de 16 GB de RAM) pero gestiona mucho mejor contextos largos y diálogos extensos. Si tu PC puede con él, el salto de calidad es claro en tareas de razonamiento, coherencia a lo largo de varias respuestas encadenadas y manejo de instrucciones complejas.

Y si te apetece acercarte a una experiencia de gama alta, Mistral-Nemo-Instruct-2407-GGUF es de lo más potente que puedes ejecutar en local con Jan a día de hoy. Es una versión cuantizada de Mistral Nemo Instruct que pesa alrededor de 7 GB y pide en torno a 32 GB de RAM para ir fluida, preferiblemente con GPU dedicada. La recompensa es un rendimiento muy superior en razonamiento, programación, manejo de código complejo y contextos largos, acercándose bastante a modelos en la liga de los mejores GPT o Gemini, aunque todavía con cierta distancia.

Uso real de Jan en equipos modestos: qué puedes esperar

Aunque sobre el papel suene muy bonito, ejecutar modelos de IA de cierto tamaño en local tiene su coste en recursos. Una prueba bastante representativa es usar Jan en un Mac mini con chip M2, 8 GB de RAM y 256 GB de SSD, es decir, un equipo de entrada pensado para ofimática.

En este tipo de máquina, la aplicación base de Jan funciona fluida y arranca sin problemas. El desafío viene cuando empiezas a jugar con modelos como Mistral 7B o equivalentes: la descarga se completa sin más, pero al lanzar un chat, notarás que el arranque del modelo es algo lento y que, mientras genera respuestas, el equipo se resiente bastante.

Durante la generación de texto, el flujo de tokens puede ser claramente más lento que en la nube, y se nota en cosas tan básicas como que el ratón se mueva a tirones o que el monitor de actividad de macOS vaya con cierto retraso al refrescar el uso de CPU y RAM. Aun así, para tareas como pedir ideas de artículos, traducciones moderadas o textos sencillos, el sistema responde aceptablemente.

En cuanto a calidad, las respuestas suelen ser bastante acertadas para encargos normales (redacción de correos, traducciones, explicaciones de conceptos, etc.), aunque si le pides una carta formal compleja o un texto muy pulido, hay margen de mejora en la coherencia y el tono natural, especialmente según el modelo elegido.

Desde la sección de ajustes de cada chat, Jan permite cambiar el título de la conversación, editar el rol o personalidad del asistente (por ejemplo, para que siempre responda en castellano), y toquetear parámetros como temperatura, top_p o el número máximo de tokens. Cada parámetro viene con una breve explicación, de manera que puedes ir probando sin necesidad de ser un ingeniero de IA.

Chat con documentos, imágenes y búsqueda web

Para competir de tú a tú con ChatGPT como herramienta diaria, Jan incluye varias funciones extra alrededor del chat básico. Una de las más útiles es la capacidad de cargar imágenes: puedes arrastrar una foto o un gráfico y pedirle a la IA que lo describa, analice su contenido o extraiga información relevante.

Algo similar ocurre con documentos: puedes adjuntar archivos PDF o Word para que el modelo los procese, resuma, revise ortografía o proponga mejoras de estilo. Todo ese análisis se hace en local cuando usas modelos descargados, por lo que documentos sensibles no tienen que salir de tu ordenador en ningún momento.

La tercera pata es la búsqueda web opcional. Si la activas, Jan permite que el modelo consulte internet para tener información actualizada o contrastar datos, algo muy útil cuando necesitas fechas, cifras recientes o referencias que un modelo offline podría no conocer. Es una función completamente optativa: si te preocupa la privacidad, basta con dejarla desactivada y trabajar 100 % offline.

Con este combo de chat, archivos y web, Jan se posiciona como una alternativa muy completa a ChatGPT para el día a día, sobre todo si tu prioridad es no depender siempre de un servidor externo pero quieres tener la posibilidad de tocar la nube cuando realmente te hace falta.

Modelos online en Jan: usar GPT, Claude o Gemini desde la misma app

La otra cara de la moneda son los modelos online que puedes consumir desde Jan mediante API. A diferencia de los modelos GGUF descargables, estos viven en los servidores de empresas como OpenAI, Anthropic, Mistral o Google y funcionan exactamente igual que si los usaras desde sus propias plataformas, solo que integrados en la interfaz de Jan.

Para configurarlos, tienes que ir a “Settings” y, dentro del menú lateral, entrar en la sección “Model Providers”. Allí verás listados proveedores como OpenAI, Azure, Anthropic, Mistral o Gemini, entre otros. Al seleccionar uno, se abre un cuadro de configuración con un campo para pegar tu API key, la URL base (que suele venir ya preconfigurada) y un desplegable para elegir modelos concretos, como gpt-5, gpt-5-mini, gpt-4.1, gpt-4o, etc. en el caso de OpenAI.

La parte crítica es conseguir la clave de API de cada proveedor. Por ejemplo, con OpenAI tienes que entrar en tu panel de usuario, ir a “API Keys” o “Claves API” y crear una nueva clave secreta. Le pones un nombre, la copias y la pegas en Jan en el campo correspondiente. A partir de ahí, puedes seleccionar uno de los modelos de esa lista y usarlo en cualquier chat.

Conviene recordar que el uso de estos modelos online sí tiene coste por tokens. Jan no añade ningún recargo: actúa solo como cliente, pero lo que gastas se contabiliza en tu cuenta de OpenAI, Anthropic o quien corresponda. Por eso lo razonable es reservarlos para tareas en las que realmente necesitas la máxima calidad (código complejo, razonamiento muy profundo, proyectos grandes con muchos archivos, etc.) y apoyarte en modelos locales para el trabajo rutinario.

Esta flexibilidad mixta convierte a Jan en algo parecido a un “centro de mando” para IAs: puedes chatear con modelos locales por privacidad y coste, y cambiar en un clic a GPT-4o o Gemini cuando te haga falta pegar un sprint de productividad sin preocuparte por hardware.

API local compatible con OpenAI: integra Jan en tus herramientas

Uno de los grandes atractivos de Jan para perfiles técnicos es su servidor de API local compatible con el estándar de OpenAI. Esto significa que cualquier aplicación, script o extensión que hoy hable con la API de OpenAI puede, en la práctica, apuntar a tu Jan local y funcionar igual, pero con modelos en tu máquina.

Para activarlo, basta con ir a “Settings > Local API Server” y habilitarlo. Por defecto, el endpoint suele correr en http://localhost:1337 y acepta el mismo formato de peticiones que la API de OpenAI (rutas /v1, objetos chat.completions, etc.). Puedes definir una cadena cualquiera como clave API local, simplemente para tener un pequeño filtro de autenticación.

Una vez encendido el servidor, puedes cambiar la configuración de tus proyectos para que, en lugar de llamar a api.openai.com, llamen a tu localhost. Por ejemplo, en Python puedes usar el cliente de OpenAI apuntando el base_url a http://localhost:1337/v1 y estableciendo una clave ficticia como “local”. El resto del código (modelo, mensajes, parsing de respuesta) permanece prácticamente igual.

Esto abre un montón de posibilidades: extensiones de VS Code como Continue.dev pueden trabajar con los modelos locales de Jan para ofrecer autocompletado, generación de funciones o explicación de código, todo sin enviar una sola línea a la nube. Lo mismo para herramientas de documentación, chatbots internos de empresa o automatizaciones que, por política interna, no pueden depender de un tercero.

Para proyectos web, puedes habilitar CORS desde la configuración, de manera que aplicaciones en el navegador puedan hacer peticiones AJAX directamente a tu Jan local. De nuevo, el patrón es siempre el mismo: se trata de emular la API de OpenAI para que la migración sea casi plug-and-play.

Jan frente a otras alternativas locales tipo ChatGPT

Jan no es la única opción para ejecutar modelos de IA localmente, así que viene bien ubicarlo frente a otras herramientas populares. LM Studio, Msty, AnythingLLM, Ollama o GPT4All son nombres que verás una y otra vez si buscas cómo montar un “ChatGPT casero”.

LM Studio destaca por su interfaz muy amigable y su integración con Hugging Face: puedes buscar modelos, descargarlos y chatear con ellos sin tocar la terminal. Funciona con modelos como Phi-4, Qwen o Mistral, también ofrece servidor compatible con OpenAI y versiones para todos los sistemas operativos grandes.

Msty está pensada para quienes quieren enchufar y usar. Viene con un modelo listo, incluye galería de prompts y permite organizar chats por proyectos, sin complicaciones. También puede buscar y añadir modelos desde su propia interfaz, evitando al máximo la fricción técnica.

AnythingLLM apuesta por una aproximación más todo-en-uno. Es de código abierto, permite chatear con documentos, lanzar agentes de IA y combinar modelos locales con servicios en la nube (OpenAI, Azure, etc.). Está muy orientado a quienes necesitan flujos de trabajo complejos con bastante personalización.

Ollama, por su parte, es la favorita de quienes no tienen miedo a la terminal. Es una aplicación ligera y sin interfaz gráfica que descarga y ejecuta modelos desde la línea de comandos, ideal para integrarla en scripts y entornos de desarrollo. También tiene integración con herramientas de terceros.

Frente a todo esto, Jan se sitúa en un término medio muy atractivo: interfaz sencilla y familiar tipo ChatGPT, soporte tanto de modelos locales como remotos, API local compatible con OpenAI y enfoque fuerte en la privacidad. Si ya estás acostumbrado al flujo de trabajo de ChatGPT en el navegador y quieres algo parecido pero en tu PC, Jan suele ser la opción que menos curva de aprendizaje tiene.

Además, al ser de código abierto con licencia permisiva, es apto para usos comerciales siempre que respetes las licencias de cada modelo concreto, lo que le da un plus para empresas que quieren montar infraestructuras de IA propias sin atarse a un proveedor.

En conjunto, usar Jan AI como alternativa tipo ChatGPT te permite disfrutar de un asistente muy potente que puede vivir íntegramente en tu equipo, combinando privacidad, control sobre el comportamiento del modelo, integración con herramientas externas y la opción de recurrir a la nube solo cuando realmente te interesa, sin renunciar a una experiencia de chat moderna, cómoda y cercana a lo que ya conoces de las grandes plataformas.