Installer et utiliser Ollama en local pour faire tourner une IA

Installer et utiliser Ollama en local pour faire tourner une IA

Ollama est un outil qui permet de faire tourner une IA en local sur votre machine, sans dépendre d'un service cloud. Pour les équipes en Afrique de l'Ouest qui composent avec des connexions internet instables ou des budgets limités, c'est une solution concrète et accessible. Ce tutoriel vous guide pas à pas pour installer et utiliser Ollama en local sur Linux, macOS ou Windows.

Pourquoi utiliser Ollama en local ?

Les services IA hébergés dans le cloud facturent à l'usage et nécessitent une connexion continue. Ollama vous permet de garder le contrôle de vos données, de travailler hors ligne, et d'éviter des coûts récurrents en devises étrangères. Les modèles s'exécutent directement sur votre CPU ou GPU, sans envoyer la moindre requête vers l'extérieur. Pour une organisation qui traite des données sensibles, contrats, RH ou finances, l'absence de transfert vers des serveurs tiers est un avantage réel et mesurable.

Prérequis matériels

• 8 Go de RAM minimum (16 Go recommandés pour les modèles 7B)
• 15 à 30 Go d'espace disque selon les modèles choisis
• CPU récent (Intel Core i5/i7 ou AMD Ryzen 5/7) ; un GPU NVIDIA accélère considérablement les inférences
• Linux Ubuntu 20.04+, macOS 12+, ou Windows 10/11 avec WSL2

Installer Ollama pas à pas

1. Sur Linux ou macOS : ouvrez un terminal et exécutez la commande officielle d'installation.

   curl -fsSL https://ollama.com/install.sh | sh

   Patientez pendant le téléchargement. Sur une connexion lente, prévoyez quelques minutes. L'installation configure automatiquement un service système.
2. Sur Windows : téléchargez l'installateur depuis ollama.com, puis lancez le fichier .exe. Ollama s'installe comme un service Windows et démarre automatiquement au démarrage de la machine.
3. Vérifier l'installation : dans votre terminal, tapez :

   ollama --version

   Un numéro de version s'affiche si tout s'est bien passé.

Télécharger et lancer un premier modèle

Ollama propose une bibliothèque de modèles prêts à l'emploi. Pour débuter, Llama 3.2 3B est léger et fonctionne bien même sur du matériel modeste.

1. Télécharger le modèle :

   ollama pull llama3.2:3b

   Le téléchargement peut prendre du temps selon votre connexion. Le modèle est sauvegardé localement et n'est plus à retélécharger ensuite.
2. Lancer une conversation interactive :

   ollama run llama3.2:3b

   Un prompt interactif apparaît. Tapez votre question et appuyez sur Entrée.
3. Pour quitter, tapez /bye ou utilisez Ctrl+C.

Utiliser Ollama en local via l'API REST

Ollama expose une API locale sur le port 11434. Vous pouvez l'appeler depuis vos applications Python, JavaScript, ou n'importe quel outil HTTP. C'est la base pour intégrer l'IA dans vos outils métier sans modifier l'infrastructure existante.

curl http://localhost:11434/api/generate -d '{
  "model": "llama3.2:3b",
  "prompt": "Explique le concept de RAG en deux phrases.",
  "stream": false
}'

La réponse arrive au format JSON avec un champ response contenant le texte généré. Intégrez cet appel dans un script Python ou Node.js pour automatiser vos traitements textuels.

Gérer plusieurs modèles

Lister les modèles téléchargés :

ollama list

Supprimer un modèle pour libérer de l'espace disque :

ollama rm llama3.2:3b

D'autres modèles méritent d'être testés : mistral:7b pour les tâches en français, qwen2:7b pour le multilinguisme, gemma2:9b pour les tâches de raisonnement. Chaque modèle a ses forces selon le cas d'usage visé. Essayez-les un par un en fonction de votre espace disque disponible.

Partager Ollama sur votre réseau local

Une machine dédiée dans vos locaux peut servir toute une équipe. Configurez Ollama pour écouter sur le réseau local :

OLLAMA_HOST=0.0.0.0 ollama serve

Vos collègues se connectent depuis leur navigateur ou leurs scripts en remplaçant localhost par l'adresse IP de la machine serveur. Aucune installation requise sur leurs postes. Cette configuration transforme une seule machine correctement dimensionnée en infrastructure IA partagée pour tout le bureau, y compris dans les zones avec une connexion internet limitée.

Créer un modèle personnalisé avec un Modelfile

Ollama permet de définir des modèles avec un comportement spécifique grâce aux Modelfiles. Créez un fichier nommé Modelfile avec ce contenu :

FROM mistral:7b
SYSTEM "Tu es un assistant professionnel qui répond toujours en français. Tu es concis, précis, et tu adaptes ton langage au contexte professionnel."
PARAMETER temperature 0.7

Puis construisez votre modèle personnalisé :

ollama create mon-assistant -f ./Modelfile
ollama run mon-assistant

Bonnes pratiques en contexte africain

• Téléchargez les modèles pendant les heures creuses ou lorsque votre connexion est la plus stable. Un modèle de 4 Go téléchargé une seule fois reste disponible indéfiniment, hors ligne.
• Sauvegardez le dossier des modèles (généralement ~/.ollama/models) sur un disque externe. En cas de réinstallation, vous copiez simplement le dossier sans rien retélécharger.
• Sur une machine sans GPU, les réponses prennent plus de temps. Les modèles 3B restent utilisables en pratique sur CPU, avec des temps de réponse de quelques secondes à quelques dizaines de secondes.
• Surveillez la température de votre machine lors d'utilisations prolongées. Dans des environnements chauds, une ventilation correcte du boîtier prolonge la durée de vie du matériel.
• Documentez les modèles utilisés et leur version pour garantir la reproductibilité des résultats dans vos équipes.

Ollama est une porte d'entrée simple et robuste dans le monde de l'IA locale. Une fois la configuration maîtrisée, vous pouvez l'intégrer dans des pipelines plus complexes : agents autonomes, RAG, automatisation de tâches documentaires. Si vous souhaitez aller plus loin ou intégrer Ollama dans votre système d'information, parlez-nous de votre projet.