Ollama
Ollama esegue LLM in locale sul tuo VPS. Scarica e servi Llama 3, Mistral, Phi, Gemma e Qwen con un solo comando. AI self-hosted senza chiave API, REST API compatibile con i client OpenAI. Il modo più diretto per fare inferenza privata, usato da oltre 200.000 sviluppatori.
In breve
Licenza MIT Versione Latest OS Ubuntu Server 24.04 LTS Min RAM 8 GB IP IPV4,IPV6
Le installazioni attive sono dati di esempio (anteprima); la metrica reale sarà collegata prima del lancio.