Edge AI de Google Cloud

Google Cloud AI Platform Edge propose une solution dédiée à l’intégration de machine learning et d’intelligence artificielle sur appareils mobiles, web et embarqués. Le produit cible les entreprises souhaitant déployer des modèles d’inférence localement, sans dépendance systématique au cloud. Cette approche permet la gestion d’analyses en temps réel, tout en répondant aux exigences de performance sur Android, iOS, Web ou systèmes embarqués. Les organisations disposent d’outils conçus pour la production d’IA dans des environnements nécessitant une gestion particulière des ressources ou soumis à des politiques de confidentialité déterminées.

Dans le secteur du retail, un développement d’application mobile utilise Google Cloud AI Platform Edge pour intégrer la détection d’objets en rayon sur les smartphones des employés. Les modèles personnalisés, convertis et déployés sur l’appareil, reconnaissent les produits présents et peuvent déclencher un réassortiment sans connexion permanente. La plateforme prend en charge le traitement embarqué et adapte le cycle de décision sur le point de vente. Les fonctionnalités concernent l’intégration sur iOS, la gestion de modèles via TensorFlow Lite et l’optimisation des ressources.

Google Cloud AI Platform Edge fournit hardware acceleration pour exécuter sur site des modèles issus de TensorFlow, PyTorch ou Keras. L’intégration passe par des APIs proposées avec MediaPipe pour des tâches telles que le floutage d’arrière-plan, l’analyse de visage ou la détection d’objets courants. L’utilisation de quantization et d’outils de benchmark permet d’optimiser les performances locales. Les SDK dédiés facilitent également l’exécution de large language models directement sur différents appareils.

Un industriel utilisant la solution pour détecter des anomalies en production accède à des outils comme le Model Explorer permettant de visualiser et valider des architectures avant déploiement. Le processus de quantization via Google AI Edge Quantitizer allège la charge sur le matériel existant. Les benchmarks sont réalisés sur des téléphones Android pour une expérimentation dans des scénarios réels. En 2023, la compatibilité a été démontrée avec des plateformes ARM intégrant on-device AI inference et cross-platform LLM execution sur site.