Le machine learning connaît une croissance fulgurante. De nouveaux modèles, algorithmes et cas d’usage apparaissent chaque jour. Selon l’Organisation de coopération et de développement économiques (OCDE), plus de 75 milliards de dollars US ont été investis dans l’intelligence artificielle (IA) en 2020 à eux seuls, contre 3 milliards de dollars US en 2012. La majeure partie de ces financements a été consacrée à la recherche et au développement dans le domaine du machine learning.
Le machine learning repose sur des opérations arithmétiques répétitives, fait largement appel à l’algèbre linéaire et est traditionnellement exécuté sur des serveurs ou dans le cloud par des ordinateurs très puissants. Mais que se passerait-il si vous pouviez effectuer des tâches complexes de machine learning hors site, mais à proximité, à l’aide d’appareils informatiques moins puissants ? Les entreprises pourraient ainsi appliquer l’IA à la périphérie sans avoir besoin d’immenses centres de données.
TinyML fait passer le machine learning à la périphérie grâce à des appareils équipés de microcontrôleurs minuscules et peu énergivores.
Qu’est-ce que le TinyML ?
Le Tiny Machine Learning (TinyML) est une discipline au croisement du machine learning (ML) et des systèmes embarqués, qui permet d’exécuter des modèles de ML sur des microcontrôleurs basse consommation.
Les systèmes embarqués se composent principalement de matériel et de logiciels conçus pour remplir une fonction particulière. Ce sont des ordinateurs, mais contrairement aux ordinateurs généralistes, comme les PC, les téléphones portables ou les tablettes, ils se concentrent sur des opérations spécifiques. Les imprimantes, les appareils électroménagers, les appareils photo numériques, les calculatrices électroniques et les distributeurs automatiques de billets sont autant d’exemples de systèmes embarqués.
Les microcontrôleurs sont de minuscules puces capables de fonctionner avec très peu d’énergie — souvent avec seulement quelques kilo-octets de mémoire, voire sans système d’exploitation — et constituent la partie matérielle des systèmes embarqués, leur permettant d’accomplir leurs tâches.
Les microcontrôleurs présentent notamment les caractéristiques suivantes :
- Faible consommation : les microcontrôleurs sont très économes en énergie et ne consomment que quelques milliwatts.
- Faible empreinte mémoire : ils peuvent fonctionner avec seulement quelques kilo-octets de mémoire.
- Absence de système d’exploitation : ils n’ont pas besoin d’un système d’exploitation pour fonctionner, ce qui les rend rapides et efficaces.
- Abordables : leur coût est généralement faible.
L’origine du TinyML remonte à 2014. Pete Warden, ingénieur de recherche chez Google, est considéré par ses pairs comme le fondateur et l’un des premiers promoteurs du sous-domaine du machine learning qu’est le TinyML.
À lire également : Mettre efficacement en œuvre l’IA en tant que service
Pourquoi le TinyML est important
Dans un monde où le ML gagne rapidement en popularité et en usages, il devient de plus en plus important de pouvoir l’appliquer à la périphérie. Alors que de grands fournisseurs de cloud comme Microsoft Azure, Amazon AWS et Google Cloud créent des centres de données comptant des milliers de serveurs exécutant en parallèle des modèles de ML sur d’énormes ensembles de données, le TinyML permet de déployer seulement un ou deux appareils capables d’effectuer des tâches simples en fonction des besoins d’une entreprise. Par exemple :
Une entreprise d’électroménager connecté souhaite que ses appareils ajustent automatiquement leur consommation électrique en fonction des fluctuations des prix de l’électricité en temps réel, mais elle ne veut pas investir des millions dans la construction d’un centre de données coûteux pour tous ses appareils. Elle pourrait plutôt intégrer des algorithmes de TinyML à chaque appareil afin que chacun apprenne de manière autonome la quantité d’énergie à économiser en fonction de son état actuel (par exemple, l’heure de la journée et la quantité d’énergie consommée par les autres appareils du foyer).
Un constructeur automobile souhaite utiliser sa flotte de voitures autonomes pour un service de covoiturage, mais il ne veut pas investir dans une autonomie complète à ce stade, car trop peu de personnes pourraient en bénéficier. Il peut donc intégrer des algorithmes de TinyML à ses véhicules afin que chacun fonctionne de manière autonome grâce à la détection de schémas fondée sur les données recueillies lors de trajets précédents (par exemple, les limitations de vitesse et les habitudes de circulation).
Dans les deux cas, ces entreprises économiseraient des millions sur la construction d’infrastructures coûteuses alors que seuls de petits appareils sont nécessaires, ce qui leur permettrait de se concentrer plutôt sur le développement de nouvelles fonctionnalités.
L’impact du TinyML sur l’edge computing
L’edge computing désigne le fait de rapprocher le cloud computing des utilisateurs afin de leur faire bénéficier de temps de réponse plus courts. L’idée consiste à éviter de faire transiter toutes les données par Internet lorsque seule une petite partie d’entre elles nécessite une attention immédiate.
Le TinyML a trouvé le moyen de doter les appareils d’une autonomie décisionnelle en exécutant des algorithmes de ML sur chacun d’eux, sans transférer quoi que ce soit au-delà du strict nécessaire. Les appareils alimentés par le TinyML sont ainsi non seulement plus performants, mais nécessitent aussi beaucoup moins d’énergie que s’ils étaient directement connectés à des serveurs centralisés contenant de grands ensembles de données, ce qui permet de réduire les coûts et les délais tout en améliorant l’expérience utilisateur.
À lire également : Les microcentres de données font évoluer la périphérie
Bénéfices et avantages du TinyML
L’utilisation du TinyML présente de nombreux avantages par rapport aux systèmes centralisés fondés sur le cloud, notamment :
- Inférence rapide et faible latence : les algorithmes de TinyML peuvent produire des résultats en quelques dizaines de millisecondes seulement, ce qui leur permet de fonctionner bien plus rapidement que les modèles de ML traditionnels, qui doivent envoyer toutes leurs données d’apprentissage à des serveurs distants.
- Faible coût : le ML à la périphérie permet aux entreprises d’éviter de construire des centres de données coûteux comptant des milliers de serveurs. Elles peuvent plutôt utiliser des appareils auto-apprenants peu onéreux et nécessitant moins d’énergie, ce qui se traduit par d’importantes économies.
- Modèles de petite taille : les modèles TinyML sont optimisés pour fonctionner sur de petits appareils grâce à des techniques comme la compression ou la quantification. Ils produisent ainsi des fichiers plus petits tout en conservant la même précision que les modèles standard.
- Stockage local : les algorithmes de ML nécessitent une grande quantité de mémoire et d’espace disque pour stocker tous leurs paramètres, ce qui pose problème aux appareils disposant de peu de RAM ou de mémoire flash. Le TinyML réduit ce problème en ne conservant que les caractéristiques importantes pour déterminer un résultat — la partie inférence — au lieu de stocker chaque variable d’apprentissage, ce qui permet d’obtenir un fichier de modèle plus petit.
- Confidentialité des données : la confidentialité des données devient de plus en plus importante à l’ère du big data, et le TinyML permet aux entreprises de reprendre le contrôle en conservant les données uniquement sur l’appareil périphérique afin de réduire le risque de perte de données sensibles.
Les défis du TinyML
Si les avantages du machine learning à la périphérie sont évidents, les entreprises doivent encore connaître certaines limites avant de pouvoir adopter efficacement cette technologie.
- Débit de transfert de données limité : l’échange d’importants ensembles de données entre les appareils prend du temps en raison de la bande passante limitée. Toutefois, le déploiement généralisé des réseaux 5G devrait relever ce défi en offrant des débits élevés pour les transferts de données.
- Mémoire limitée : comme indiqué précédemment, les modèles de ML nécessitent beaucoup de mémoire pour stocker tous leurs paramètres, ce qui crée des problèmes sur les appareils ne disposant que de petites quantités de RAM. Les algorithmes TinyML ont été développés pour relever ce défi en utilisant moins d’espace de stockage tout en conservant la même précision que les modèles standard. Seules quelques plateformes de ML peuvent actuellement répondre aux exigences des appareils TinyML.
- Résolution des problèmes : comme le modèle de ML est entraîné à partir de données obtenues depuis l’appareil et s’exécute sur celui-ci, la détection et la résolution des problèmes de performance sont plus complexes que dans un environnement cloud, où les techniciens peuvent diagnostiquer les problèmes à distance.
Cas d’usage du TinyML en entreprise
Le TinyML est particulièrement utile aux équipes informatiques qui cherchent à améliorer les capacités réseau, la sécurité et la confidentialité des données de leur organisation. Parmi les secteurs qui peuvent bénéficier du TinyML figurent :
- Industrie : le TinyML peut rendre les processus de fabrication plus efficaces en fournissant une analyse en temps réel des machines.
- Commerce et e-commerce : les entreprises du commerce et de l’e-commerce peuvent utiliser des modèles TinyML à la périphérie pour améliorer le service client, optimiser leurs stratégies tarifaires, accroître leurs sources de revenus et suivre les niveaux de stock dans les entrepôts ou les magasins.
- Santé : les modèles TinyML peuvent aider les entreprises de santé à détecter des problèmes de santé sur les appareils avant l’apparition des symptômes, à s’assurer que les équipements fonctionnent correctement ou à surveiller les constantes vitales des patients à domicile.
- Télédétection et gestion forestière : les algorithmes TinyML sont utilisés pour résoudre des problèmes de gestion forestière en prédisant quand les arbres seront prêts à être abattus et où des incendies de forêt se déclareront, à partir des conditions météorologiques et de la végétation.
- Automobile : les constructeurs automobiles peuvent utiliser des modèles TinyML pour améliorer les fonctionnalités de sécurité, corriger les défaillances de leurs véhicules avant qu’elles ne deviennent majeures ou recueillir des informations sur le comportement des conducteurs sur la route à des fins de recherche.
Bien démarrer avec le TinyML
Le TinyML est une technologie prometteuse qui offre de nombreux avantages aux organisations souhaitant tirer parti des appareils intelligents à la périphérie. Plusieurs frameworks de ML prennent en charge les applications TinyML. Parmi les plateformes les plus populaires figurent TensorFlow, PyTorch Mobile, ainsi que Edge Impulse.
Alors que l’Internet des objets (IoT) continue de se développer, de nombreuses entreprises cherchent des moyens d’utiliser le machine learning à la périphérie pour analyser les données recueillies par les appareils intelligents. L’intérêt pour le développement d’outils capables de rationaliser ce processus sans compromettre la précision ni la sécurité augmente donc.
À lire ensuite : L’ITSM piloté par l’IA transforme la gestion informatique