Chat IA local — un LLM exécuté dans votre navigateur
Exécutez un véritable grand modèle de langage sur votre propre GPU, directement dans votre navigateur. Choisissez un modèle, laissez les poids se télécharger une fois (ils sont mis en cache) et échangez avec des réponses fluides — utilisable hors ligne après le premier chargement. Aucune clé API, aucun compte et pas le moindre token de votre échange ne quitte votre appareil.
Cas d'utilisation
Comment exécuter un chatbot IA localement dans votre navigateur
Cet outil nécessite WebGPU — intégré à Chrome et Edge 113+ ainsi qu'aux versions récentes de Safari. Si votre navigateur ne le gère pas, un message clair avec des alternatives s'affiche.
Choisissez Qwen2.5 0.5B (le plus rapide), Llama 3.2 1B (équilibré) ou Phi-3.5 Mini (le plus performant). Cliquez sur Charger — les poids se téléchargent une seule fois avec une barre de progression et sont mis en cache par votre navigateur.
Saisissez un message et observez la réponse s'afficher en continu, formatée en markdown, avec un compteur de tokens par seconde en direct. Utilisez Arrêter pour interrompre une réponse.
Modifiez le prompt système pour adapter le comportement de l'assistant et exportez l'intégralité de la conversation en JSON à tout moment.
Questions fréquentes
- Ma conversation est-elle envoyée à un serveur ?
- Non. Le modèle s'exécute sur votre GPU grâce à WebGPU. Après le téléchargement initial des poids, l'inférence est entièrement locale — requêtes et réponses ne quittent jamais votre appareil. Vous pouvez même vous déconnecter d'Internet et continuer à discuter.
- Qu'est-ce que WebGPU et quels navigateurs le prennent en charge ?
- WebGPU est l'API de navigation qui donne accès à votre GPU aux pages web. Chrome et Edge 113+ l'intègrent par défaut, les versions récentes de Safari le prennent en charge sur Apple Silicon, et Firefox le déploie progressivement. Sans cette API, le modèle ne peut pas fonctionner.
- Quelle est la taille de téléchargement des modèles ?
- Environ 350MB pour Qwen2.5 0.5B, 600MB pour Llama 3.2 1B et 2.3GB pour Phi-3.5 Mini. Les poids sont mis en cache par le navigateur, vous ne téléchargez donc chaque modèle qu'une seule fois.
- Quel modèle devrais-je choisir ?
- Commencez par Qwen2.5 0.5B pour vérifier que tout fonctionne — c'est le plus rapide à charger. Llama 3.2 1B offre le meilleur compromis vitesse/qualité pour la majorité des ordinateurs. Phi-3.5 Mini fournit les réponses les plus élaborées mais nécessite environ ~4GB de mémoire GPU.
- Pourquoi est-ce plus lent que ChatGPT ?
- Vous exécutez le modèle sur votre propre matériel plutôt que dans un centre de données. Sur le GPU d'un ordinateur portable récent, comptez environ 10–40 tokens/s avec les petits modèles — l'indicateur de tokens par seconde affiche votre vitesse réelle.
- Est-ce aussi performant que GPT-4 ou Claude ?
- Non — ce sont des modèles de 0.5B–3.8B de paramètres, parfaits pour la rédaction, la synthèse, les réponses rapides et l'expérimentation confidentielle, mais bien en deçà des modèles cloud de pointe. La contrepartie est une confidentialité totale et un coût nul.
Comparatif objectif des trois modèles
Les trois modèles s'exécutent avec une quantification 4-bit via le moteur d'exécution MLC/web-llm sur WebGPU. Le choix idéal dépend de la mémoire de votre GPU et de votre patience : téléchargements plus légers et débit de tokens plus rapide contre capacités de raisonnement supérieures. Les chiffres ci-dessous sont typiques pour un ordinateur portable moderne ; un GPU dédié double environ le débit.
| Modèle | Téléchargement | Mémoire GPU requise | Point fort |
|---|---|---|---|
| Qwen2.5 0.5B Instruct | ~350MB | ~1GB | Réponses quasi instantanées, questions-réponses rapides, configurations modestes et iGPU |
| Llama 3.2 1B Instruct | ~600MB | ~1GB | Rédaction et synthèse au quotidien — le choix équilibré par défaut |
| Phi-3.5 Mini 3.8B | ~2.3GB | ~4GB | Raisonnement complexe et questions de code — nécessite un GPU dédié ou Apple Silicon |
- Les poids sont récupérés depuis HuggingFace par le runtime MLC lors du premier chargement et stockés via l'API Cache du navigateur — les lancements suivants ignorent le téléchargement. Vider les données du site efface le cache.
- La liste des modèles est résolue au moment de l'exécution d'après le catalogue précompilé de la bibliothèque web-llm, ce qui permet aux identifiants de version de suivre les mises à jour sans devenir obsolètes.
Respect de la vie privée garanti. Le modèle d'IA s'exécute sur votre propre GPU via WebGPU — les prompts et réponses ne quittent jamais votre appareil. L'outil télécharge les poids du modèle une seule fois (depuis Hugging Face), puis votre navigateur les conserve en cache ; les analyses anonymes d'utilisation de la page n'incluent jamais vos échanges.