Jusqu'à présent, intégrer de l'intelligence artificielle en local (Edge AI) dans une application mobile ou web représentait un défi logistique et technique de taille. Chaque application devait embarquer son propre modèle, ce qui se traduisait par des poids de fichiers lourds (plusieurs centaines de mégaoctets, voire des gigaoctets) et une consommation de stockage redondante sur les appareils des utilisateurs.
Une évolution majeure vient changer la donne : l'utilisation des modèles d'IA intégrés et gérés directement par le système d'exploitation.
La mutualisation de l'IA au niveau du système
Grâce au travail de Sasha Denisov sur l'écosystème flutter_gemma, l'introduction du package flutter_gemma_builtin_ai permet désormais aux applications Flutter de s'appuyer sur les couches d'IA natives des plateformes :
- Android \rightarrow Utilisation de Gemini Nano via ML Kit GenAI / AICore.
- iOS / macOS \rightarrow Utilisation des Apple Foundation Models.
- Web \rightarrow Utilisation de Gemini Nano via la Chrome Prompt API.
L'intelligence artificielle locale cesse ainsi d'être une brique isolée et lourde pour devenir une ressource mutualisée et partagée du système, au même titre que la caméra, le GPS ou les différents capteurs du smartphone.
Flexibilité et mécanismes de repli (Fallback)
L'un des grands intérêts de cette approche architecturale réside dans sa robustesse face aux contraintes matérielles. Si le modèle natif du système n'est pas disponible (sur un appareil plus ancien ou non équipé), l'application peut basculer de manière transparente vers un modèle embarqué ou téléchargé à la demande (comme Gemma, Qwen ou Phi) via le cœur de flutter_gemma.
Les bénéfices concrets pour les développeurs et les utilisateurs
- Optimisation du stockage : Fini la duplication de modèles lourds pour chaque application installée sur le terminal.
- Fonctionnement offline : L'inférence reste entièrement locale, garantissant la confidentialité des données et une utilisation sans connexion internet.
- Compatibilité préservée : Les appareils non équipés de puces ou de runtimes natifs récents conservent une porte de sortie grâce au système de fallback.
Cette avancée marque une étape importante : l'IA embarquée entre dans l'ère des services système standardisés, simplifiant grandement le travail d'architecture logicielle pour le développement d'applications mobiles et multiplateformes modernes.