GenAI au coeur du Produit et du Business : Takeaways

Cet article résume les enseignements clés de l’Hymaday “GenAI au coeur du Produit et du Business” qui a eu lieu le 24 septembre dernier en collaboration avec Malt, qui mêlait retours d’expérience sur des cas d’usage aussi bien internes qu’externes, dans des contextes et des typologies d’entreprises variées.

Les replays sont petit à petit disponibles sur notre chaîne Youtube, abonnez-vous pour être averti dès leur sortie !

Mirakl : Comment gérer en production l’intégration de catalogue at scale - From AI-Assisted Feature to AI Product

Speakers :

• Anne-Claire Baschet - Chief Data & AI Officer
• Arthur Delaitre - Manager AI Catalog

‍

Anne-Claire et Arthur ont partagé leur parcours sur la manière dont ils créent plus de valeur dans le produit Mirakl grâce à l'IA et à la GenAI.

‍

‍

Étape 1 : AI-Assisted Feature

‍Chez Mirakl, l’IA est intégrée dans le produit en développant leurs propres modèles depuis plusieurs années. Ils ont commencé par améliorer leurs fonctionnalités en intégrant l'IA comme un complément, permettant à leurs utilisateurs de simplifier leur expérience — réduisant ainsi les efforts de plusieurs semaines à seulement quelques jours.

Étape 2 : AI Product

‍Avec les possibilités offertes par la GenAI, une question s’est alors posée : “Et si nous réimaginions tout le processus d'intégration des catalogues de vendeurs avec une IA native et la GenAI ?”. Mirakl a transformé cette expérience en un processus en un seul clic, réduisant l'intégration de plusieurs jours à seulement quelques heures, avec une charge de travail considérablement allégée pour leurs vendeurs. La valeur ajoutée et le temps économisé sont donc immenses !

4 enseignements principaux :

• Cette expérience en un clic n’a été possible que parce que Mirakl a commencé par le problème, et non par la technologie, ce qui a permis de dépasser l'idée reçue que GenAI = conversationnel = interface de chat.
• Commencez par un "one-shot prompting", testez la performance des modèles de GenAI à grande échelle dès le début, et, en fonction des performances atteignables, concevez l’expérience en une seule équipe (Design, Produit et Data), le tout dans une période limitée pour rapidement confronter les utilisateurs à la solution.
• Ne surchargez pas les fonctionnalités dès le départ. Préférez une longue période de beta avec les utilisateurs pour évaluer la performance, identifier les problèmes et ajuster le produit à travers l’expérience, l’engineering et les algorithmes.
• Ne vous laissez pas bloquer par les coûts. Projetez-les à l’avance et identifiez des moyens de les réduire, comme le fine-tuning de plus petits LLMs, tels que Mistral Nemo ou LLaMA 3.1 (8B/70B).

Pernod Ricard : Generative AI & Product - Knowledge Management Use Case

Speaker : Stéphane Texier - Product Manager Tech Data Platform

‍

Dans ce REX, Stéphane explique comment Pernod Ricard intègre l'IA Générative pour gérer efficacement les connaissances internes, avec un focus particulier sur le HR Knowledge Bot.

Ce bot utilise des modèles de langage avancés (LLM) pour répondre à des questions précises à partir des documents internes, optimisant ainsi la recherche et l'accès aux informations RH.

Stéphane met également en avant l’outil PR GPT, une plateforme privée et sécurisée, offrant des capacités multimodales, allant de la génération de contenu à l'analyse de documents.

3 Challenges et enseignements clés :

• Qualité des données en entrée : "Garbage in, Garbage out" rappelle que des données de qualité sont essentielles pour obtenir des réponses pertinentes. Un volume important d'informations ne garantit pas une meilleure performance.
• Tests indispensables : L'automatisation des tests est possible, mais l'implication d'experts en la matière reste cruciale pour valider le contenu et éviter les erreurs ou hallucinations des modèles.
• Évolution rapide de la technologie : La technologie GenAI évolue à un rythme effréné, exigeant un suivi constant pour rester à jour et maintenir l'intégration fluide des solutions d'entreprise.

Malt : From Hype to Reality: How Malt is using GenAI to revolutionize its user experience

Speaker : Marc Palyart - ML Director

‍

Durant ce REX, Marc Palyart explique comment Malt utilise l'IA Générative pour révolutionner l'expérience utilisateur en passant du prototypage à une intégration complète dans ses produits, en l’illustrant via leur “AI Brief Builder”.

Son approche : Fake It (with GenAI) Until You Make It (with almost no GenAI). Marc explique qu’ils ont d’abord démarré par du prototypage 100% basé sur de la GenAI, puis ont petit à petit remplacé la GenAI sur des éléments clés par des plus petits modèles plus spécialisés (par exemple la détection de langage ou la prédiction de Job Category, qui sont critiques).

Les Do’s et Dont’s qu’il partage :

• Construire un protocole de test clair dès le départ
• Laisser l’humain contrôler les outputs que la GenAI produit
• Ajouter le plus de guardrails possible
• Ne pas utiliser la GenAI pour le matching

Nickel : RAG et Search - Deux cas d’usage business chez Nickel

Speaker : Paul Marcombes - Head of Data

‍

Paul retrace l’utilisation de la GenAI chez Nickel pour améliorer l’expérience client et les processus internes. Il met en avant une solution simple et gratuite permettant aux utilisateurs de questionner les retours des clients sur des plateformes comme l’App Store ou Trustpilot. Cette approche repose sur des technologies de RAG (retrieval-augmented generation) et la recherche hybride, adaptées à la gestion rapide et efficace des informations pour les équipes.

Paul propose également une démonstration de l’utilisation de GenAI dans la compréhension et l’analyse des retours clients via une app interne créée pour l’occasion.

Son message essentiel: Bien séparer la partie moteur de recherche de la partie génération de contenu. Les utilisateurs veulent voir la vraie data !

Hymaïa : IA Générative - Transformations en cours

Speakers :

• Thibaud Vienne - Lead Data Scientist
• Laurène Thenoz - Data Product Manager

‍

2024 a été une année d'apprentissage intense autour de la GenAI, où on a rapidement compris qu'il ne s'agissait pas simplement de recréer un ChatGPT bis. Les applications les plus courantes impliquent souvent des modèles de fondation (comme OpenAI ou Anthropic), encapsulés dans des applications spécifiques, avec un accent sur le prompt engineering. Des techniques comme le fine-tuning ou le RAG (Retrieval-Augmented Generation) se sont également imposées, permettant d'étendre les capacités des modèles en intégrant des bases de connaissances spécifiques. Viennent maintenant les Agents, dont nous entendons de plus en plus parler.

Côté complexité, la GenAI en production apporte des défis uniques, allant des hallucinations aux enjeux de confidentialité des données et à la cybersécurité. Les coûts restent une problématique à anticiper, mais des solutions émergent, comme la compression des prompts ou la gestion du cache pour limiter les frais liés aux appels aux modèles.

La clé pour tirer profit de la GenAI ? Identifier les bons cas d'usage, s'adapter aux changements de paradigme et ne pas céder à la Fear of Missing Out (FOMO). Même si des obstacles techniques et organisationnels existent, il est essentiel de s'engager dès maintenant pour absorber la courbe d'apprentissage et ne pas être laissé sur le bord de la route quand le marché basculera définitivement vers l’IA.

Les messages clés à retenir :

• Le LLM n’est pas le challenge, mais tout ce qu’il y a autour
• Plus on augmente le périmètre, plus on augmente la complexité et les risques
• Appliquer les bonnes pratiques du Software Engineering et du Product Management est critique pour la réussite d’initiatives à base de GenAI
• Adapter le Product Management aux spécificités de la GenAI
• S’inscrire dans une transformation plus grande