Ollama es una aplicación que permite la ejecución de modelos extensos de lenguaje (LLMs), tanto en el computador local como en la nube. Ollama está disponible para Windows, macOS y Linux, y es software libre, distribuido bajo una licencia MIT.Su versión inicial fue lanzada en 2023 por los canadienses Jeffrey Morgan y Michael Chiang.
Ollama se basa en el motor de inferencia llama.cpp, implementado en C++, el cual es considerado el estándar de facto como núcleo de casi cualquier sistema de inteligencia artificial con inferencia local. Ollama, al igual que llama.cpp, hace uso del formato de archivo GGUF para almacenar y distribuir los modelos de inteligencia artificial.
La lista de modelos extensos de lenguaje soportados por la aplicación incluye LLaMA, Qwen, Mistral, DeepSeek o Gemma.A través de su biblioteca de modelos, permite explorar, descargar y gestionar copias locales de dichos modelos, además de llevar a cabo su ejecución local (garantizando la privacidad y seguridad de los datos, que no son enviados a ninguna infraestructura externa) o integrar los modelos de lenguaje con otros proyectos, haciendo uso de lenguajes de programación como Python o JavaScript.
Ollama incluye también la funcionalidad de generación de imágenes mediante inteligencia artificial, por el momento de manera experimental y disponible solamente en macOS, con planes para añadir soporte también para Windows y Linux en el futuro.
