Caveman : La cure d'amaigrissement ultime pour vos agents IA (Réduisez vos tokens de 65 %)

Dans l'univers du développement assisté par IA, un dogme persiste : pour obtenir des résultats précis, il faut noyer les modèles sous le contexte. Documentation pléthorique, historiques kilométriques, logs verbeux... Résultat ? Des factures qui s'envolent et des fenêtres de contexte saturées.

Imaginé par Julius Brussee, Caveman prend le contre-pied total de cette approche avec une philosophie aussi absurde en apparence qu'implacable en pratique : « Why use many token when few token do trick ».

Évoluant d'un simple hack textuel à un véritable moteur d'ingénierie des tokens, Caveman 2 ne se contente plus de forcer votre assistant à parler comme un homme des cavernes : il intercepte, compresse et optimise tout ce que l'agent lit et écrit, réduisant l'empreinte globale de vos sessions de 65 % en moyenne.

Architecture technique : Comment Caveman pulvérise la consommation de tokens

Loin d'un simple prompt cosmétique, Caveman s'attaque aux goulets d'étranglement structurels des LLM à travers deux briques majeures.

1. Caveman Proxy et le stockage CCR (Content-Addressable Store)

Le proxy local s'intercale entre votre agent et l'API du fournisseur. Il applique une compression structurelle par type de contenu avant l'envoi de la requête.

• Sécurité des données (CCR) : Avant toute modification destructive, les octets originaux sont stockés dans une base de données SQLite locale sur votre machine. Si un problème de parsing survient, l'agent peut invoquer l'outil caveman_retrieve pour récupérer instantanément le payload brut d'origine.
• Le ré-encodage TOON : Les résultats d'outils au format JSON lourd sont automatiquement convertis dans un format compact (TOON) dès qu'un gain de tokens est mesuré.

2. Le mode Pixel (--pixel) : Le tour de force multimodal

C'est la fonctionnalité la plus disruptive du projet. Le texte brut est facturé au token, mais ce n'est pas le cas des images traitées par les modèles de vision.

• Le proxy convertit les blocs de texte massif (catalogues d'outils minifiés de plus de 60 000 caractères, logs interminables) en pages PNG monochromes à l'aide de moteurs de rendu de glyphes optimisés (Spleen et Unifont).
• Cas réel mesuré : Un pavé textuel de 8 622 caractères compressé en une image PNG de 1568×232 pixels fait chuter la charge de traitement de l'équivalent de 2 597 tokens textuels à seulement 534 tokens d'image, soit une économie spectaculaire sans perte de lisibilité pour le modèle.

Audit et automatisation : caveman learn

Plutôt que de deviner où s'évaporent vos ressources, Caveman analyse chirurgicalement votre historique d'utilisation local (fichiers CLAUDE.md surchargés, compétences jamais appelées) via une simple commande :

caveman learn

Le rapport généré attribue un Cave Score et classe chaque token sink (goulet d'étranglement) par flux, assorti d'une solution non invasive. En exécutant caveman learn implement, vous mandatez votre propre agent pour appliquer les correctifs sous forme de diffs validés strictement au cas par cas, garantissant qu'aucune modification ne réduira les capacités de votre assistant.

Installation et compatibilité native

Caveman s'intègre de manière transparente à votre stack de développement existante sans altérer vos fichiers de configuration d'origine.

Installation du CLI et du Proxy

npm install -g @caveman-ai/cli && caveman setup --install

• Commandes de routage natif : caveman claude (ou codex, gemini, aider, opencode, hermes, openclaw).
• Note technique : Les jetons d'authentification OAuth (comme Claude Pro/Max) transitent de manière sécurisée et transparente (pass-through).

Ajout du Skill textuel

Pour contraindre la verbosité des réponses de votre assistant sur n'importe quel IDE compatible (Cursor, Windsurf, Cline, etc.) :

npx skills add JuliusBrussee/caveman

Performances et Réalité des Chiffres

Contrairement aux promesses marketing habituelles, les benchmarks de Caveman s'accompagnent d'une transparence totale (documentée dans les spécifications Honest Numbers du dépôt). Sur des tâches de complexité variée, la réduction des tokens de sortie est spectaculaire :

Tâche type	Tokens Normal	Tokens Caveman	Économie
Explication d'un bug de rendu React	1180	159	87 %
Configuration d'un pool de connexions PostgreSQL	2347	380	84 %
Debugging d'une condition de course	1200	232	81 %
Moyenne globale (Sortie)	1214	294	65 %

Avertissement technique : Le skill textuel ajoute une surcharge d'environ 1 000 à 1 500 tokens d'entrée par tour. Le véritable retour sur investissement financier massif provient donc de l'action combinée du Proxy et du Mode Pixel, le skill agissant avant tout comme un accélérateur de lisibilité et de concision cognitive.

Gouvernance et Licence

• Licence Duale : Le CLI, les SDKs et les skills textuels sont sous licence MIT (open source permanent). Le moteur d'exécution critique, le proxy, le cache et le mode Pixel adoptent la licence source-disponible BSL-1.1 (qui basculera automatiquement en Apache-2.0 d'ici juin 2030 au plus tard).
• Confidentialité : Aucun code source, prompt ou chemin de fichier ne quitte votre machine. Le traitement s'exécute entièrement en local.

Optimisez vos flux, réduisez votre empreinte de calcul et gardez le contrôle total de vos contextes avec une solution taillée pour l'ère de l'IA à grande échelle.

Par Aghilas AZZOUG