Herramientas de IA Open Source para Linux: Corre Modelos Locales sin Pagar API
El auge de la inteligencia artificial generativa no es exclusivo de servicios en la nube como ChatGPT o Claude. En 2024 y 2025, el ecosistema de IA local en Linux creció de forma explosiva gracias a modelos open-source de alta calidad y herramientas que los hacen accesibles en hardware de consumo.
Ollama: el npm de los modelos de lenguaje
Ollama es probablemente la herramienta más importante del ecosistema de LLM locales. Permite descargar y correr modelos de lenguaje con un comando: ollama run llama3.2. Internamente, Ollama maneja la cuantización (reducción de precisión para caber en menos VRAM), el servidor local de inferencia y una API compatible con OpenAI.
El catálogo incluye Llama 3.2 (Meta), Mistral 7B y Mixtral (Mistral AI), Gemma 2 (Google), Phi-3 (Microsoft), y docenas más. Un modelo de 7B parámetros cuantizado a 4 bits ocupa aproximadamente 4GB d...