Plataformas

Ollama

IA y modelosGratisOpen sourceSelf-hosted
Visitar Ollama

Ollama es la forma más sencilla de ejecutar LLMs en tu propia máquina: instalas la herramienta, escribes ollama run llama3 y ya estás conversando con un modelo en local. Sin claves de API, sin coste por token y sin que tus datos salgan de tu ordenador.

Para ti como developer tiene dos usos claros. El primero, desarrollo: puedes iterar sobre prompts y funcionalidades de IA sin gastar en API mientras construyes. El segundo, producto: si tu aplicación necesita privacidad total o funcionar sin conexión, Ollama expone una API HTTP local compatible con el formato de OpenAI que puedes integrar directamente.

Es de código abierto y su catálogo incluye la mayoría de modelos abiertos relevantes en varios tamaños y cuantizaciones, así que puedes ajustar el modelo a la memoria de tu equipo. Si tienes un portátil razonablemente moderno, no hay excusa para no probarlo hoy.

Alternativas a Ollama