Une demi-journée dédiée autour du MLOps

Le 7 mars 2024 en plein cœur de Paris, s’est tenue "La Conférence MLOps", un événement dédié aux enjeux de l'industrialisation IA, à laquelle j'ai assisté.

Je vous propose un condensé des conférences et tables rondes auxquelles j’ai assisté, qui portent sur 3 thèmes :

  • Pourquoi parle-t-on de MLOps, et pourquoi en faire ?
  • Organisation et culture produit dans une démarche MLOps
  • Comment industrialiser en Europe en maîtrisant les facteurs économiques, géopolitiques, éthiques, commerciaux, souverains.


[Conférence]

Pourquoi parle-t-on de MLOps, et pourquoi en faire ?

Alexis Bergès, (Director AI Engineering chez Preligens) nous fait découvrir comment la fusion entre l'agilité des méthodes DevOps et la complexité croissante de l'IA offre de nouvelles perspectives et ainsi, comment le MLOps révolutionne la gestion des projets d'IA, favorisant l'automatisation et la collaboration pour des résultats optimaux.

MLOps : L'Évolution Agile de l'Intelligence Artificielle

Depuis le début du XXIe siècle, l'industrie informatique a été témoin de révolutions dans la gestion des projets et des opérations. D'abord avec l'avènement des méthodes agiles en 2001, mettant l'accent sur les individus et les interactions plutôt que sur les processus et les outils, puis, en 2009, avec l'émergence du DevOps, visant à automatiser les processus de développement. Aujourd'hui, nous nous trouvons à l'aube d'une nouvelle ère : celle du MLOps.

Mais qu'est-ce que le MLOps ? Cette question s'impose dès le départ.

Le MLOps, ou l'Ops pour le Machine Learning, est l'ensemble des pratiques et des outils visant à industrialiser et à automatiser le cycle de vie des modèles d'intelligence artificielle (IA).

C'est une réponse à la complexité croissante des projets d'IA, nécessitant une collaboration étroite entre les équipes de développement, de données et d'opérations.

La première étape pour aborder le MLOps est de se demander quand s'en préoccuper. La réponse est simple : lorsque l'investissement dans le MLOps produit des résultats tangibles. Ces résultats incluent la réduction des coûts d'exécution, la fluidité des interactions entre les équipes, la réduction du time-to-market, la rétention des talents et la réduction du temps d'intégration des nouveaux employés.

Cependant, le MLOps va au-delà de l'outillage technique. C'est une question de culture d'entreprise. Il s'agit de commencer modestement, tout en gardant à l'esprit des objectifs ambitieux.

Une simple liste de contrôle avant le déploiement d'un modèle ML peut constituer le début d'un parcours MLOps. Cela permet non seulement de gagner en crédibilité, mais aussi en autonomie et en responsabilités au sein des équipes DevOps établies.

Les outils, un point à ne pas négliger.

Contrairement au DevOps, qui a vu l'émergence de certains leaders du marché, le MLOps reste un secteur non consolidé, et encore en évolution.

Il est donc crucial de choisir des outils avec parcimonie, en privilégiant ceux offrant un large spectre d'applications. Le paysage évolue rapidement, et il est essentiel d'adopter une approche agile dans le choix et l'implémentation des outils (cf : https://ai-infrastructure.org/ai-infrastructure-landscape/)

En conclusion, le MLOps représente une évolution naturelle dans la gestion des projets d'IA. En adoptant une approche agile et en mettant l'accent sur la collaboration et l'automatisation, les entreprises peuvent tirer parti de tout le potentiel de l'intelligence Artificielle. Comme le dit Alexis Bergès, il est temps de passer à l'ère du MLOps, et de transformer les défis en opportunités.

[Table ronde]

Organisation et culture produit dans une démarche MLOps

Lors de cette table ronde animée par Émilie Rannou et avec la participation de Claire Lebarz (VP Data chez Malt), Emmanuel Martin-Chave (VP Data chez BlaBlaCar), Jérémie Jakubowicz (VP Data chez Qonto), Olivier Monnier (Group Chief Data & AI Officer chez Matmut), et Ricardo De Aldama (CPTO & Co-Founder chez ScrubChart), ont été abordés les ajustements organisationnels nécessaires à la mise en œuvre d’une approche MLOps et de son pendant, l'approche produit. Ces ajustements s'étendent à l'ensemble de la chaîne de valeur et impliquent toutes les parties prenantes, des métiers aux équipes opérationnelles, jusqu'au Comex.

Cette table ronde s’ouvre sur les changements qu’apporte l’IA dans une démarche produit lors de sa conception.

En abordant le domaine du Machine Learning, il est crucial de garder à l'esprit qu'il s'agit avant tout de créer un produit répondant aux attentes des utilisateurs. Cette conscience initiale de la finalité produit est fondamentale.

L'incertitude est un compagnon constant. Il est impossible d'affirmer avec certitude à 100 % ce qui se produira ensuite. Il est impératif de reconnaître cette réalité et de comprendre que les données quantitatives et qualitatives peuvent fluctuer en fonction des produits, de leur historique, et d'autres paramètres. Bien que ces données soient essentielles, elles ne sauraient prédire l'avenir de manière absolue.

C'est pourquoi il est nécessaire de procéder à de multiples itérations dans le processus. Ce faisant, on cherche à réduire autant que possible les incertitudes, en s'appuyant sur les retours d'expérience et en tenant compte des évolutions du contexte.

Les équipes MLOps doivent effectuer de nombreuses recherches utilisateur afin de placer l'utilisateur au centre de leurs préoccupations (user centric), car ce sont elles aussi qui conçoivent le produit.

Selon Claire Lebarz, “L’IA, c’est un challenge Design” : Cela représente un défi de conception car cela exige une intégration harmonieuse de la technologie dans l'expérience utilisateur, tout en tenant compte des aspects techniques, éthiques et interactifs de son utilisation.

D'après Jérémie, le Product Manager doit maîtriser la quantité appropriée de connaissances techniques à transmettre à ses équipes afin qu'elles ne soient pas dépassées. De plus, prédire l'évolution d'un produit utilisant le Machine Learning est difficile. Bien qu'avoir un prototype sur Figma soit acceptable, anticiper ses performances futures reste complexe.

Olivier Monnier et ses équipes à la Matmut posent systématique trois questions aux métiers afin de s'assurer de la viabilité d'un projet lors qu'ils abordent de nouveaux use cases :

  • Quel est l'objectif de ce cas d'utilisation ?
  • Quelle valeur apporte-t-il ?
  • Quels sont les risques encourus en ne le mettant pas en œuvre ?

Vient au tour de Jérémie Jakubowicz, Vice-Président Data chez Qonto de présenter son organisation autour de la Data, et est connu pour sa phrase récurrente : "Le Quoi et le Comment ?"
60 personnes, réparties en 4 équipes : une plateforme dédiée à la gestion des données, une équipe de Business Intelligence, une équipe de Data Science chargée de fournir des recommandations et des simulations d'impacts qui ne sont pas destinées à la production, et enfin une équipe de Data Products composée de Data Engineers et de Machine Learning Engineers.

L'approche classique du POC n'est plus efficace pour eux. Ils privilégient désormais une approche d'industrialisation dès le début du processus.

Selon Qonto, le concept de "passage de la balle par-dessus le mur" n'est pas efficace. Une fois qu'un prototype est viable, il est préférable de ne pas le confier à une autre équipe pour le déploiement, mais de le faire déployer par la même équipe qui l'a développée.

La table ronde a mis en avant l'importance capitale d'une approche produit dans le développement des pratiques MLOps. En mettant l'utilisateur au centre et en favorisant une industrialisation précoce, les entreprises peuvent garantir une création de valeur efficace et rapide.

[Table ronde]

Comment industrialiser en Europe en maîtrisant les facteurs économiques, géopolitiques, éthiques, commerciaux, souverains.

Cette table ronde, animée par Marianne, Directrice des Affaires Publiques chez France Digitale, et avec la participation de Adrienne Jan (Chief Product Officer chez Scaleway), Yann Lechelle (CEO chez Probabl), et Renaud Allioux (Cofounder & CIO chez Preligens), avait pour objectif d'explorer les diverses dimensions de l'industrialisation de l'intelligence artificielle, en se penchant tant sur les aspects éthiques, industriels et commerciaux que sur les questions économiques et géopolitiques.

La montée en puissance du métier de la Data

Yann Lechelle de Probabl a souligné l'évolution significative du métier de la Data depuis 2012, le qualifiant même de "métier le plus sexy au monde", une affirmation qui résonne encore plus aujourd'hui. Il a souligné le rôle crucial des professionnels de la Data dans les prises de décision des grandes entreprises, soulignant ainsi leur influence croissante dans les sphères décisionnelles.

Dépendance vis-à-vis des géants du Cloud

Yann Lechelle a également pointé du doigt la domination écrasante des géants du cloud, qui offrent désormais une gamme complète de services, reléguant les entreprises à un rôle de simple utilisateur plutôt que de véritable propriétaire de leurs données. Cette dépendance, notamment vis-à-vis de Microsoft, est une réalité que la France doit affronter, malgré la présence d'opérateurs cloud locaux comme OVH et Scaleway.

Positionnement de l'Europe dans le domaine de l'IA

Adrienne Jan a mis en lumière l'importance pour l'Europe de jouer un rôle actif dans le domaine de l'IA, soulignant les risques potentiels liés à une dépendance excessive envers d'autres continents. La question de la localisation des ressources informatiques, en particulier les GPU massivement utilisés dans le domaine, est devenue un enjeu stratégique crucial pour garantir une souveraineté numérique adéquate.

Défis posés par les modèles de service Cloud

L'omniprésence des modèles de service cloud tels que IAAS, PAAS et SAAS, dominés par des acteurs comme Microsoft et Google, pose également des défis importants en matière de souveraineté et de sécurité des données. La concentration de pouvoir entre les mains de quelques géants du secteur soulève des préoccupations quant à l'indépendance et à la confidentialité des données.

Vers une diversification des acteurs du marché

Face à cette réalité, la diversification des acteurs du marché est devenue une nécessité urgente. Il est essentiel de ne pas concentrer excessivement les ressources et la confiance dans un seul acteur, mais plutôt de favoriser un écosystème dynamique où la concurrence et la diversité sont encouragées.

En somme, l'industrialisation croissante de l'IA et des ML Ops nécessite une réflexion approfondie sur les enjeux de souveraineté et de sécurité des données, ainsi qu'une action concertée pour garantir un équilibre entre innovation technologique et préservation des valeurs fondamentales.

Pour conclure

Cet événement autour du MLOps a offert un aperçu captivant de l'évolution constante du paysage de l'intelligence artificielle et des opérations de machine learning. À travers des discussions passionnantes sur les fondements du MLOps, l'importance de l'approche produit, et les défis de l'industrialisation en Europe, il est devenu clair que le MLOps représente bien plus qu'une simple fusion de méthodologies.
C'est une révolution culturelle et technique, un appel à l'agilité, à la collaboration, et à la réflexion éthique.