Ollama es una forma muy popular de usar modelos abiertos: se descargan y ejecutan en local con una línea de comandos, o se consumen en su nube sin que los prompts se almacenen ni se usen para entrenar.
Qué hace Ollama
Según su web, Ollama permite ejecutar modelos abiertos en macOS, Windows, Linux y Docker, y también consumir modelos en la nube con claves de API. Su documentación cubre capacidades como streaming, razonamiento, salidas estructuradas, visión, embeddings, voz, llamadas a herramientas y búsqueda web, además de la CLI, los Modelfile para personalizar modelos, la importación de modelos propios y una referencia de API con integraciones con otras herramientas.
- Ejecución local de modelos abiertos en macOS, Windows, Linux y Docker.
- Modelos en la nube accesibles con claves de API y con retención cero de datos: los prompts no se almacenan ni se usan para entrenar.
- Salidas estructuradas, razonamiento, visión, embeddings y voz entre sus capacidades.
- Llamadas a herramientas y búsqueda web para construir agentes.
- CLI y Modelfile para personalizar modelos, con importación de modelos propios.
- API de referencia e integraciones con herramientas de programación y asistentes.
- Biblioteca de modelos con más de mil millones de descargas.
Precio
Según su página de precios, que permite alternar entre mensual y anual y muestra por defecto la vista mensual, el uso local es gratuito y el nivel de pago por uso cuesta 0 $ de cuota y cobra por token en los modelos de la nube. Pro cuesta 20 $ al mes (o 200 $ al año, es decir, 16,67 $ al mes con facturación anual) e incluye 60 $ de crédito de uso al mes. Max cuesta 100 $ al mes con 300 $ de crédito y 10 peticiones simultáneas, y Team 500 $ al mes con usuarios ilimitados y 1.000 $ de crédito compartido. Enterprise se presupuesta a medida.
Para quién es
Desarrolladores, equipos de IA y aficionados que quieren probar y usar modelos abiertos en su propio equipo o en la nube sin entregar sus datos a un tercero.
Valoraciones y comentarios