Imaginé par Julius Brussee, Caveman prend le contre-pied total de cette approche avec une philosophie aussi absurde en apparence qu'implacable en pratique : « Why use many token when few token do trick ».
Évoluant d'un simple hack textuel à un véritable moteur d'ingénierie des tokens, Caveman 2 ne se contente plus de forcer votre assistant à parler comme un homme des cavernes : il intercepte, compresse et optimise tout ce que l'agent lit et écrit, réduisant l'empreinte globale de vos sessions de 65 % en moyenne.
Architecture technique : Comment Caveman pulvérise la consommation de tokens
Loin d'un simple prompt cosmétique, Caveman s'attaque aux goulets d'étranglement structurels des LLM à travers deux briques majeures.
1. Caveman Proxy et le stockage CCR (Content-Addressable Store)
Le proxy local s'intercale entre votre agent et l'API du fournisseur. Il applique une compression structurelle par type de contenu avant l'envoi de la requête.
- Sécurité des données (CCR) : Avant toute modification destructive, les octets originaux sont stockés dans une base de données SQLite locale sur votre machine. Si un problème de parsing survient, l'agent peut invoquer l'outil
caveman_retrievepour récupérer instantanément le payload brut d'origine. - Le ré-encodage TOON : Les résultats d'outils au format JSON lourd sont automatiquement convertis dans un format compact (TOON) dès qu'un gain de tokens est mesuré.
2. Le mode Pixel (--pixel) : Le tour de force multimodal
C'est la fonctionnalité la plus disruptive du projet. Le texte brut est facturé au token, mais ce n'est pas le cas des images traitées par les modèles de vision.
- Le proxy convertit les blocs de texte massif (catalogues d'outils minifiés de plus de 60 000 caractères, logs interminables) en pages PNG monochromes à l'aide de moteurs de rendu de glyphes optimisés (Spleen et Unifont).
- Cas réel mesuré : Un pavé textuel de 8 622 caractères compressé en une image PNG de 1568×232 pixels fait chuter la charge de traitement de l'équivalent de 2 597 tokens textuels à seulement 534 tokens d'image, soit une économie spectaculaire sans perte de lisibilité pour le modèle.
Audit et automatisation : caveman learn
Plutôt que de deviner où s'évaporent vos ressources, Caveman analyse chirurgicalement votre historique d'utilisation local (fichiers CLAUDE.md surchargés, compétences jamais appelées) via une simple commande :
caveman learn
Le rapport généré attribue un Cave Score et classe chaque token sink (goulet d'étranglement) par flux, assorti d'une solution non invasive. En exécutant caveman learn implement, vous mandatez votre propre agent pour appliquer les correctifs sous forme de diffs validés strictement au cas par cas, garantissant qu'aucune modification ne réduira les capacités de votre assistant.
Installation et compatibilité native
Caveman s'intègre de manière transparente à votre stack de développement existante sans altérer vos fichiers de configuration d'origine.
Installation du CLI et du Proxy
npm install -g @caveman-ai/cli && caveman setup --install
- Commandes de routage natif :
caveman claude(oucodex,gemini,aider,opencode,hermes,openclaw). - Note technique : Les jetons d'authentification OAuth (comme Claude Pro/Max) transitent de manière sécurisée et transparente (pass-through).
Ajout du Skill textuel
Pour contraindre la verbosité des réponses de votre assistant sur n'importe quel IDE compatible (Cursor, Windsurf, Cline, etc.) :
npx skills add JuliusBrussee/caveman
Performances et Réalité des Chiffres
Contrairement aux promesses marketing habituelles, les benchmarks de Caveman s'accompagnent d'une transparence totale (documentée dans les spécifications Honest Numbers du dépôt). Sur des tâches de complexité variée, la réduction des tokens de sortie est spectaculaire :
| Tâche type | Tokens Normal | Tokens Caveman | Économie |
|---|---|---|---|
| Explication d'un bug de rendu React | 1180 | 159 | 87 % |
| Configuration d'un pool de connexions PostgreSQL | 2347 | 380 | 84 % |
| Debugging d'une condition de course | 1200 | 232 | 81 % |
| Moyenne globale (Sortie) | 1214 | 294 | 65 % |
Avertissement technique : Le skill textuel ajoute une surcharge d'environ 1 000 à 1 500 tokens d'entrée par tour. Le véritable retour sur investissement financier massif provient donc de l'action combinée du Proxy et du Mode Pixel, le skill agissant avant tout comme un accélérateur de lisibilité et de concision cognitive.
Gouvernance et Licence
- Licence Duale : Le CLI, les SDKs et les skills textuels sont sous licence MIT (open source permanent). Le moteur d'exécution critique, le proxy, le cache et le mode Pixel adoptent la licence source-disponible BSL-1.1 (qui basculera automatiquement en Apache-2.0 d'ici juin 2030 au plus tard).
- Confidentialité : Aucun code source, prompt ou chemin de fichier ne quitte votre machine. Le traitement s'exécute entièrement en local.
Optimisez vos flux, réduisez votre empreinte de calcul et gardez le contrôle total de vos contextes avec une solution taillée pour l'ère de l'IA à grande échelle.
Par Aghilas AZZOUG