IA en local : installer un LLM sur son ordinateur (matériel, confidentialité)

Une IA en local, c’est un modèle de langage ouvert que vous installez sur votre propre ordinateur, avec un logiciel comme Ollama ou LM Studio, pour l’utiliser sans envoyer vos textes à un service en ligne. Pas d’abonnement ni de coût par requête, mais il faut une machine assez puissante, et les réponses restent en général moins abouties que celles des grands assistants en ligne.

Ce guide, sans prérequis technique, explique ce qu’est un LLM en local, ce que « gratuit et illimité » veut vraiment dire, le matériel nécessaire, comment installer une IA en local, ce que cela change pour la confidentialité et quand une offre en ligne reste préférable.

Qu’est-ce qu’une IA en local ?

Quand vous utilisez ChatGPT, Claude ou Le Chat de Mistral dans un navigateur, votre question part sur les serveurs de l’éditeur, qui calcule la réponse. Avec une IA en local, le calcul se fait sur votre ordinateur. Vous téléchargez une fois un modèle ouvert, publié par son concepteur (Mistral AI, Meta, Google…), puis un logiciel le fait tourner sur votre machine.

Les deux logiciels les plus simples pour débuter sont Ollama, un outil open source sous licence MIT, et LM Studio, une application avec interface graphique. Pour les assistants en ligne, voyez notre comparatif ChatGPT, Claude ou Mistral en entreprise.

« Gratuit et illimité » : qu’est-ce que cela veut dire ?

Une fois le modèle téléchargé, vous ne payez ni abonnement ni facturation au volume, et aucun quota ne limite vos questions. LM Studio a d’ailleurs annoncé en juillet 2025 qu’une licence commerciale n’était plus nécessaire pour l’utiliser au travail. Mais il faut compter avec :

le matériel : un ordinateur récent avec beaucoup de mémoire ;
l’électricité : la machine travaille à plein régime pendant chaque réponse ;
la vitesse : elle dépend de votre poste, et un modèle trop gros devient lent ;
la qualité : les modèles qui tiennent sur un ordinateur sont bien plus petits que ceux des services en ligne. Pour une synthèse ou une reformulation, ils suffisent souvent ; pour une analyse complexe, testez sur vos propres cas.

Vérifiez la licence de chaque modèle

« Ouvert » ne veut pas dire « sans conditions ». Trois exemples, au moment de la rédaction :

Mistral 7B : licence Apache 2.0, très permissive, usage commercial compris ;
Llama 3.1 (Meta) : « Llama 3.1 Community License », qui impose d’afficher « Built with Llama » si vous diffusez un produit qui l’intègre, et une licence spécifique au-delà de 700 millions d’utilisateurs actifs mensuels ;
Gemma (Google) : « Gemma Terms of Use », avec une politique d’usages interdits à répercuter si vous redistribuez le modèle.

La CNIL recommande aussi de lire la licence d’un modèle avant de le choisir. Cet article ne remplace pas un avis juridique ; voyez aussi les risques juridiques de l’IA générative.

Quel matériel faut-il pour un LLM en local ?

Le point décisif est la mémoire : le logiciel charge le modèle dans la mémoire vive (RAM) ou dans celle de la carte graphique (VRAM). Plus le modèle compte de paramètres, plus il en demande. Les repères publiés par les éditeurs :

Mac : LM Studio demande une puce Apple Silicon (M1 à M4) et macOS 14 ou plus récent, et recommande 16 Go de RAM ; avec 8 Go, mieux vaut rester sur de petits modèles. Ollama n’utilise que le processeur sur les Mac Intel.
PC Windows : LM Studio recommande au moins 16 Go de RAM et 4 Go de mémoire vidéo dédiée. Ollama demande Windows 10 22H2 ou plus récent et prend en charge les cartes NVIDIA récentes et une partie des cartes AMD Radeon.
Disque : Ollama prévoit au moins 4 Go pour le logiciel, et des modèles qui peuvent peser des dizaines, voire des centaines de Go. Mistral 7B pèse par exemple 4,4 Go dans sa bibliothèque.

Ce qui rend tout cela possible, c’est la quantification : on stocke les paramètres avec moins de précision (de 1,5 à 8 bits dans llama.cpp, le moteur utilisé par de nombreux outils) pour accélérer les calculs et réduire la mémoire nécessaire, au prix d’une légère perte de qualité. Selon la FAQ d’Ollama, la mémoire requise augmente aussi avec la longueur des textes traités et le nombre de requêtes simultanées.

Comment installer une IA en local ?

Avec Ollama (ligne de commande)

Téléchargez Ollama sur ollama.com (macOS, Windows ou Linux ; sous Linux : curl -fsSL https://ollama.com/install.sh | sh).
Dans un terminal, tapez ollama run mistral : le modèle se télécharge au premier lancement, puis vous pouvez lui poser vos questions.

Avec LM Studio (interface graphique)

Installez LM Studio depuis lmstudio.ai (macOS, Windows ou Linux).
Dans l’onglet Discover, choisissez un modèle et téléchargez-le.
Dans l’onglet Chat, chargez ce modèle et commencez la conversation.

Pour offrir une interface de type ChatGPT à plusieurs personnes, Open WebUI est une plateforme auto-hébergée, conçue pour fonctionner hors ligne et compatible avec Ollama. Elle s’installe avec pip install open-webui et se lance avec open-webui serve.

Vos données restent-elles sur votre machine ?

C’est le principal intérêt, à condition de bien régler les outils. La FAQ d’Ollama indique qu’en local, l’éditeur ne voit ni vos requêtes ni vos données. Mais Ollama propose aussi des modèles dans le cloud : pour les exclure, activez le mode « local uniquement » (variable OLLAMA_NO_CLOUD=1). LM Studio affirme que rien de ce que vous saisissez dans le chat ne quitte votre appareil et peut fonctionner entièrement hors ligne ; seuls la recherche et le téléchargement de modèles, ainsi que les mises à jour, demandent une connexion.

Cas d’usage typiques en PME : résumer des contrats confidentiels, reformuler des échanges contenant des données clients, préparer des synthèses internes ou interroger vos propres documents (voir le RAG expliqué simplement).

Le RGPD s’applique toujours

Dans ses questions-réponses de juillet 2024, la CNIL juge généralement plus sûr de privilégier un déploiement « sur site » quand des données personnelles ou des documents sensibles sont en jeu. Mais le local ne dispense de rien : sécurité des données, minimisation (des données « limitées à ce qui est nécessaire ») et analyse des risques restent de votre responsabilité. En pratique :

chiffrez le disque du poste et verrouillez la session ;
mettez à jour le logiciel et le système ;
téléchargez les modèles depuis leurs sources officielles ;
fixez des règles écrites, par exemple dans une charte d’utilisation de l’IA.

Un assistant IA métier qui respecte vos données

Nous concevons votre assistant IA, branché sur vos documents et hébergé selon vos exigences de confidentialité, dès 4 900 € HT.

Découvrir l’Assistant IA métier →

Et sur un serveur privé (VPS) ?

Installer le modèle sur un serveur privé, loué chez un hébergeur, permet à toute l’équipe de l’utiliser depuis un navigateur, sans équiper chaque poste. Les données restent sur un serveur que vous contrôlez, mais elles quittent vos locaux : tout repose alors sur le choix de l’hébergeur et sur la sécurité du serveur.

Avec ou sans carte graphique

Un serveur sans carte graphique fait tourner le modèle sur son seul processeur : c’est possible, mais lent dès que le modèle grossit. La commande ollama ps indique où le modèle est chargé (« 100 % CPU » ou « 100 % GPU »). Pour un usage confortable à plusieurs, il faut une instance avec GPU, comme celles qu’OVHcloud propose avec des cartes NVIDIA (L4, L40S, H100, H200). Elles coûtent nettement plus cher qu’un serveur classique : comparez avec le prix d’une offre en ligne professionnelle avant de vous lancer.

Ne jamais exposer le modèle directement sur Internet

Par défaut, Ollama n’écoute que la machine elle-même (adresse 127.0.0.1, port 11434) ; on l’ouvre au réseau avec la variable OLLAMA_HOST. Sa documentation ne décrit aucun système de comptes : un Ollama ouvert sur Internet serait utilisable par n’importe qui. La bonne pratique :

laisser Ollama sur 127.0.0.1 et donner accès par une interface avec comptes, comme Open WebUI, dont le premier compte créé est l’administrateur qui gère les utilisateurs ;
servir cette interface uniquement en HTTPS, ou la réserver à un réseau privé (VPN) ;
mettre à jour le système, Ollama et l’interface, et sauvegarder le volume où Open WebUI garde les conversations et les comptes.

L’hébergeur et le RGPD

L’hébergeur qui stocke vos données agit comme sous-traitant : la CNIL demande un contrat qui encadre ses obligations et vérifier les garanties qu’il apporte. Choisir un hébergeur et un centre de données dans l’Union européenne évite en outre les questions de transfert de données hors de l’UE.

Local, en ligne ou entre les deux : que choisir ?

Option	Points forts	Limites
IA en local sur un poste	Données sur la machine, pas d’abonnement, hors ligne possible	Matériel, vitesse, qualité moindre sur les tâches complexes, un seul utilisateur
Offre en ligne professionnelle	Modèles les plus performants, rien à administrer	Données envoyées à l’éditeur, contrat à vérifier, coût par utilisateur
Serveur privé (VPS ou serveur interne)	Plusieurs utilisateurs, données maîtrisées, interface commune	Carte graphique coûteuse pour aller vite, installation, maintenance et sécurité à assurer

Le local convient pour tester, pour un usage individuel sur des documents sensibles ou pour un poste sans connexion. Une offre en ligne professionnelle reste préférable quand vous visez les meilleurs résultats et que vos données peuvent sortir sous contrat. La solution intermédiaire sert les équipes qui veulent les deux ; avec un hébergeur, la CNIL rappelle qu’un contrat de sous-traitance doit encadrer responsabilités et accès.

Où trouver les sources officielles ?

Ollama : dépôt officiel, FAQ, Windows, macOS, cartes graphiques.
LM Studio : configuration requise, prise en main, hors ligne, usage au travail.
llama.cpp et Open WebUI (documentation, installation et compte administrateur).
Serveur avec GPU : instances Cloud GPU d’OVHcloud.
Licences : Mistral 7B, Llama 3.1, Gemma.
CNIL : questions-réponses sur l’IA générative, sécurité des données, article 5 du RGPD, gérer la sous-traitance, transferts hors de l’UE.

Questions fréquentes

Une IA en local fonctionne-t-elle sans Internet ?

Oui, une fois le modèle téléchargé. La connexion ne sert qu’à télécharger des modèles et à mettre à jour le logiciel.

Un ordinateur de bureau classique suffit-il ?

Avec 8 Go de RAM, seulement pour de petits modèles. LM Studio recommande 16 Go ou plus. Essayez un petit modèle et observez la vitesse.

Peut-on installer une IA locale sur un VPS ?

Oui. Sans carte graphique, le modèle tourne sur le processeur, lentement ; pour plusieurs utilisateurs, il faut une instance avec GPU. Ne l’exposez jamais directement sur Internet : passez par une interface avec comptes, en HTTPS ou derrière un VPN.

Une IA locale est-elle aussi performante que ChatGPT ?

En général non pour les tâches complexes, car les modèles exécutables sur un poste sont plus petits. Pour résumer ou reformuler, ils rendent souvent service.

Puis-je utiliser un modèle ouvert pour mon activité ?

Cela dépend de sa licence : Apache 2.0 pour Mistral 7B, conditions propres pour Llama 3.1 et Gemma. Lisez-la sur la page officielle du modèle.