← BibliothèqueToutes les vidéos
Tech.Rocks Summit 2024
Construire pour demain avec l'IA générative
- Katia Gil Guzman (Developer Experience, OpenAI)
Tech.Rocks Summit 2024 · 3 décembre 2024 · 35 min · en français
Résumé
Avec l'évolution rapide des modèles et des produits d'IA générative, beaucoup de startups deviennent obsolètes. Katia Gil Guzman aborde la manière de se projeter et de construire une culture de l'innovation pour rester prêt face au changement. Elle évoque la création de valeur au-delà de l'IA, l'importance de l'UX et les développements futurs à intégrer à sa stratégie produit.
L’essentiel
Katia Gil Guzman (OpenAI) explique comment construire un produit qui ne devienne pas obsolète au rythme des progrès de l’IA générative : éviter les « wrappers », miser sur son avantage propre, savoir changer de cap.
Pour interroger une feuille de route produit ou technique face aux nouvelles capacités des modèles.
Les idées clés
- Ne pas bâtir sur les lacunes techniques des modèles. Un « wrapper IA » corrige un défaut que le fournisseur saura souvent résoudre plus vite ; Katia Gil Guzman raconte avoir passé des mois à extraire des informations de PDF, ce qu’elle pourrait aujourd’hui coder en quatre heures. à 1:51
- Se concentrer sur son avantage propre. La discovery (des dizaines d’entretiens et d’observations d’utilisateurs) donne une connaissance que les grands acteurs n’auront pas pour une verticale ou un persona précis ; dans les produits qu’elle cite, l’IA est un outil au service du produit, pas sa finalité. à 12:26
- Savoir changer de cap. Contre le biais des coûts irrécupérables, elle cite l’arrêt par OpenAI d’un modèle spécialisé en japonais, dépassé par un nouveau modèle généraliste ; pour savoir quand repartir de zéro, elle conseille d’utiliser soi-même ces technologies afin d’anticiper leurs évolutions. à 17:48
Questions pour votre équipe
- Quelle partie de notre produit compense une limite actuelle des modèles ?
- Quelle connaissance de nos utilisateurs serait difficile à reproduire pour un grand acteur ?
- Quel investissement poursuivons-nous surtout parce que nous y avons déjà beaucoup consacré ?
L’intervenante travaille chez OpenAI et illustre son propos par les annonces de son entreprise, fin 2024. Ses réponses sur l’énergie et les coûts présentent la position de l’entreprise ; les exemples de startups sont cités sans données de résultats.
Chapitres
Summary
With generative AI models and products evolving so quickly, many startups are becoming obsolete. Katia Gil Guzman discusses how to look ahead and build a culture of innovation so as to be ready for change. She covers value creation beyond AI, the importance of UX and the future developments to factor into product strategy.
Thèmes : IA
Transcript complet
Transcription automatique, à relire : les noms propres peuvent être mal orthographiés.
Alors là, on va rentrer dans une catégorie un peu particulière qui est très convoitée, qui est la catégorie de l'innovation durable. Donc on peut peut-être se dire parfois, c'est quand même compliqué d'allier ces deux aspects, car dans un monde effervescent où l'IA générative évolue de plus en plus vite, presque plus vite qu'un twist final de Christopher Nolan, une seule question reste. Comment ne pas devenir obsolète? Alors, c'est Katia Gil-Guzman de chez OpenAI, qui est développeur advocate, qui nous dévoile les secrets pour bâtir un avenir durable dans un univers où même les startups les plus brillantes peuvent disparaître. Comme ça, d'un clin d'œil, UX, innovation, anticipation, futur développement, bref, tous les ingrédients d'un bon film pour demain. Je vous demande d'accueillir Katia Gil-Guzman, qui est développeur advocate chez OpenAI. Et à elle. Et à elle. Open my eyes. Thank you, too. C'est en français. Oui, bonjour.
Bonjour à tous. Ravie d'être avec vous aujourd'hui. Donc aujourd'hui, je vais vous parler d'IA générative et de comment construire pour demain pour ne pas devenir obsolète. Donc ça, c'est moi en 2021. J'étais CTO d'une startup que j'ai cofondée qui automatisait des process pour le service client dans le manufacturing. C'était des process très manuels où il fallait vérifier des documents, des PDF, des Excel, etc. Et... Et donc, en fait, on voulait automatiser tout ça avec l'IA pour que les humains puissent se concentrer sur des choses un peu plus intéressantes. Donc ça, c'est une photo générée par l'IA, comme vous pouvez le constater, mais c'est assez représentatif de la situation à l'époque, même si à l'époque, j'avais les cheveux roses, mais bon, on passe. Donc je faisais cette tête parce que je passais mes nuits à coder jusqu'à 3 heures du mat, parce qu'à l'époque, extraire des informations de PDF et comparer ça avec des données structurées différemment, c'était un vrai challenge technique.
Donc j'ai passé des mois à développer une solution autour d'un service IA d'Azure. Et en fait, aujourd'hui, je pourrais coder la même chose en 4 heures. Voilà. Donc, j'imagine que je ne suis pas toute seule dans cette situation. Juste pour voir, même si je ne vous vois pas très bien. Levez la main si ça vous parle, ce genre de situation, si vous avez déjà passé beaucoup de temps à développer quelque chose. Et finalement, ça ne sert plus à rien. OK, ça va, je ne suis pas toute seule, je me sens moins seule. Donc, aujourd'hui, on va essayer de faire en sorte que ça ne se reproduise plus. Depuis 2020, l'IA générative évolue à une vitesse folle. Et quand je dis vitesse folle, c'est qu'on est passé de« Ah, c'est mignon, ça peut écrire des poèmes» à« Ok, en fait, ça peut coder, dessiner. créer des documents qui me mettraient 5 heures à écrire en 30 secondes, et tout ça en l'espace de seulement quelques années. En 2020, on a sorti GPT-3, et ça pouvait générer du texte de manière particulièrement naturelle.
Et quand on a sorti l'API qui permettait d'y accéder, on a vu plein de produits fleurir autour de ça. Donc des SaaS de traduction automatique, de génération de posts LinkedIn, etc. Donc c'était très bien, certes, mais c'était que le début. Fin 2022, en octobre 2022, d'ailleurs on a fêté les deux ans il y a quelques jours, on a sorti ChatGPT et c'est là que tout s'est accéléré. Parce que pour la première fois, le grand public a eu accès à cette technologie. Et donc pour la première fois, le grand public s'est rendu compte du potentiel de l'IA générative. Et depuis, on n'a pas arrêté les avancées, que ce soit OpenAI ou d'autres, même les modèles open source, etc., sont devenus de plus en plus intelligents, capables d'effectuer de plus en plus de tâches. Et en parallèle de ça, Avec le fait que les modèles devenaient beaucoup plus intelligents sur la partie textuelle, on a aussi sorti des modèles multimodaux, comme GPT-4O par exemple,
qui est un modèle qui permet de comprendre nativement le texte, mais aussi l'audio et la vidéo. C'est un modèle qui voit et qui entend. Et on a même sorti récemment notre nouvelle série de modèles O1, qui sont des modèles qui sont encore plus performants parce qu'ils résonnent, c'est-à-dire qu'ils ont cette capacité d'itérer sur leur propre chaîne de pensée et donc d'arriver à des conclusions beaucoup plus poussées. Ces modèles peuvent, dans certains domaines, atteindre des niveaux similaires à des chercheurs en PhD. Je ne sais pas si vous vous rendez compte, mais ce sont des modèles qui peuvent faire des choses la majorité des humains ne seraient pas capables de faire. Donc c'est fou quand on y pense. Et donc, en plus de ça, en plus du fait que les modèles deviennent de plus en plus performants, les grands acteurs du secteur, comme OpenAI par exemple, mais d'autres aussi, ont développé des features, des produits qui rentrent en concurrence directe avec certaines startups ou certains produits.
Je ne sais pas si ça vous parle, mais ce mème, ce n'est pas moi qui l'ai fait, ça vient de Twitter, il est sorti en fin 2023, après DFD l'année dernière, parce qu'on a fait plein d'annonces qui ont malheureusement tué des startups. Par exemple, quand on a fait l'annonce des custom GPTs, qui sont une sorte d'extension de chat GPT qui permettent de configurer des instructions et d'accéder à des systèmes externes, toutes les startups qui permettaient de configurer des instructions sont d'un coup devenues obsolètes. Et depuis, on a sorti d'autres features qui ont rendu certaines technologies, d'autres technologies obsolètes aussi. Par exemple, quand on a sorti Structure d'Outputs en août, toutes les librairies qui étaient dédiées au parsing et à la validation d'outputs en JSON de modèles comme GPT-4O, d'un coup, sont devenues moins utiles. Quand on a sorti Canva sur ChatGPT en octobre,
de collaborer avec des modèles dans un seul et même document. Justement, toutes les startups dont la proposition de valeur était de collaborer avec les modèles OpenAI sur un même document sont d'un coup devenues moins intéressantes. Et donc c'est ce dont parle ce post LinkedIn qui m'a tapé dans l'œil pour plusieurs raisons. Premièrement parce que la tête en bas de la vidéo me semblait familière, mais aussi parce que l'auteur de ce post dit quelque chose de très intéressant. Il dit que, contrairement à beaucoup de gens qui se sont réjouis lors du lancement de Canvas, Il a eu une autre réaction, il s'est senti mal pour toutes les startups qui étaient mises à mort par ces avancées technologiques. Et ça, c'est vraiment intéressant comme phrase, comme réflexion. Et pour moi, c'est vraiment un précurseur, c'est le meilleur indicateur pour savoir si vous allez devenir obsolète ou pas. On parlera ensuite des pièges dans lesquels ne pas tomber, mais la question principale à vous poser, c'est si on vous dit aujourd'hui que dans deux ans, ou même l'année prochaine,
les modèles seront super intelligents, ils pourront tout faire, y compris des choses sur lesquelles vous êtes bloqués actuellement. Comment est-ce que vous vous sentez? Donc vraiment, prenez le temps, posez-vous la question, analysez comment est-ce que ça vous fait sentir. Est-ce que vous êtes content ou est-ce que vous êtes inquiet? Est-ce que vous vous dites« Ah cool, mon produit va être encore meilleur, Ou est-ce que vous vous dites « Ah mince, ça va me faire de la concurrence ». Donc comment on fait pour développer ce bon mindset et pour pouvoir construire en ayant en tête ces avancées technologiques et en rester pertinent? Comment on passe d'être inquiet à être content face à cette rapidité du progrès? Et comment est-ce qu'on anticipe même ces développements à venir pour pas seulement ne pas devenir obsolète, mais pouvoir en profiter, les utiliser à notre avantage et au final exploser, donc vraiment révéler tout son potentiel quand elles arrivent. Le premier piège à éviter, c'est de focus sur les gaps techniques, c'est-à-dire les petites failles des modèles ou des produits actuellement.
En fait, quand on se focus sur ces gaps techniques, on va juste essayer de régler des petits problèmes. Et faire ça, ça s'appelle faire des wrappers IA. Un wrapper IA, c'est quoi? C'est une interface ou une abstraction sur un modèle ou un service fourni par un tiers, par exemple les API d'OpenAI. Et à part ça, il n'y a pas une grande valeur ajoutée. Les exemples que j'ai cités juste avant, ce sont des bons exemples de wrappers IA. Les produits qui permettent de collaborer sur un même document avec des modèles, les produits qui permettent d'ajouter des instructions pour un modèle, les produits qui permettent d'analyser les outputs d'un modèle pour s'assurer que ça suit un schéma JSON bien défini, ça, c'est ce qu'on appelle des wrappers IA. Et le problème de ces produits, de ces wrappers, c'est que ces gaps techniques, il y a de grandes chances que les développeurs des produits, des services en question, sachent les identifier.
aussi bien que vous et puissent les résoudre de manière beaucoup plus rapide que ce que vous croyez. Parce que ce que vous pouvez passer des mois à développer, ça pourrait être beaucoup plus rapide pour ces acteurs-là qui sont les auteurs de ces technologies, tout simplement parce qu'ils sont plus proches de la technologie que vous essayez d'améliorer. L'autre problème de focus sur les gaps techniques, c'est que vous pouvez vraiment vous casser la tête à essayer de résoudre des problèmes techniques très compliqués, tout simplement parce que la technologie n'est pas assez capable aujourd'hui, alors qu'elle le sera dans le futur. En fait, vous êtes too early. Et donc, quand je parlais de l'exemple de ma startup, c'était exactement ça. En fait, il y a 3-4 ans, extraire des informations de PDF, ce n'était pas si simple que ça. On avait l'OCR, certes, mais pouvoir comprendre la position des éléments sur un PDF, c'était un vrai challenge technique. Il y avait des services comme Azure Form Recognizer qui permettaient de le faire, mais il fallait construire tout un tas de trucs autour.
Il fallait parfois avoir des modèles customisés pour ces PDF, etc. C'était vraiment dur. Et aujourd'hui, vous envoyez un screenshot d'un PDF à GPT-4.0, vous activez les structures d'output pour avoir un JSON avec juste les champs dont vous avez besoin, et voilà, ça vous coûte un appel d'API. Donc, il faut avoir un... En tête, cette idée que parfois, ça ne vaut pas le coup. Après, vous allez me dire, mais si ça met 2-3 ans à arriver, est-ce que ça ne vaut pas le coup de le développer soi-même? Mais là, le problème, ça va être le coût d'opportunité. En fait, quand on développe une entreprise, un produit, l'idée, ce n'est pas de faire quelque chose qui va devenir inutile d'ici quelques années. En général, peut-être pas pour tout le monde, mais en général, on essaie de faire quelque chose qui soit pérenne. Et donc, en fait, si vous passez du temps à construire quelque chose qui, dans quelques années, ne sera plus utile, est-ce que vous n'aurez pas mieux fait de passer ce temps-là à développer quelque chose qui restera pertinent dans le temps?
Donc, quand justement j'ai passé du temps à développer cette feature d'automatisation, en fait, c'était une des deux grosses features qu'on avait en tête. Et donc, on a décidé de commencer par celle-là. Spoiler alert, c'était une mauvaise idée. Et donc, du coup, on n'a pas pu se concentrer sur l'autre. Qui était axée autour de la collaboration et qui était beaucoup plus simple d'un point de vue technique, mais on avait pu l'identifier seulement parce qu'on a passé des centaines d'heures à faire de la discovery sur le sujet. On a fait des dizaines et des dizaines d'interviews utilisateurs, on s'est assis à côté de ces personnes pour les regarder travailler, et c'est uniquement grâce à ça qu'on a pu identifier le besoin et commencer à réfléchir à une solution. Et donc ça, C'était une connaissance qu'on était parmi les rares à avoir. Et c'était un peu ce qu'on appelle notre unfair advantage. Et donc, la question à vous poser, c'est quel est votre unfair advantage?
Sur quoi est-ce que vous pouvez vous concentrer? Quelle est la chose que vous êtes les meilleurs à pouvoir faire? Et c'est ça sur quoi il faut se focus. Et donc, en fait, ce qu'il faut avoir en tête, encore une fois, c'est que les acteurs, les grands acteurs du secteur, ne vont jamais faire des produits verticalisés, que ce soit sur un secteur ou un personnage en particulier. Ils ne vont jamais connaître aussi bien que vous le persona auquel vous vous adressez. Ils ne vont jamais investir autant dans la discovery du problème très spécifique auquel vous vous attaquez. Et c'est là où vous avez un coup à jouer. Après, ça ne veut pas dire qu'il ne faut pas investir sur les sujets techniques, loin de là, mais posez-vous vraiment la question, est-ce que vous êtes les mieux placés pour le faire? Pourquoi est-ce qu'aujourd'hui vous iriez développer un LLM from scratch si vous n'avez pas des chercheurs dans votre équipe qui sont des pionniers de cette technologie, qui ont inventé ça chez Meta ou DeepMind?
En fait, si vous avez une expertise, si vous avez par exemple des... de l'équipe fondatrice qui ont un PhD dans un certain domaine, si vous avez passé X années à travailler sur un problème qui est assez complexe à appréhender, là, oui, là, il faut investir parce que, justement, vous êtes parmi les meilleurs à pouvoir faire ce... À pouvoir, justement... Attaquer ce problème-là. Et donc vraiment, à chaque fois que vous démarrez quelque chose, posez-vous la question, est-ce que des OpenAI ou des... Google ou autre pourrait identifier ce problème technique aussi bien que moi et est-ce qu'il pourrait avoir envie de le résoudre ? Et si la réponse est oui, il vaut mieux passer à autre chose. Ou alors, c'est à vos risques et périls. Et donc, pour vous donner quelques exemples concrets, de ces produits qui ont réussi à focus sur une verticale. J'ai derrière moi quelques logos de start-up ou de produits qui marchent très bien parce qu'ils ont su choisir la verticale, que ce soit dans un secteur ou sur leur expertise, qui leur a permis de se démarquer.
On a par exemple Oscar qui se concentre sur l'assurance santé. On a CaseText qui se concentre sur le légal. Par exemple, CaseText, ils ont un produit qui s'intègre avec tous les outils qu'utilisent les avocats. Ils ont une interface dédiée pour faire de la révision de contrat. Ils ont accès à des bases de données spécifiques pour le droit. Et ils ont tout un tas de fonctionnalités qui sont pensées pour les avocats. Et ça, ChatGPT ne sera jamais aussi bien pour cette cible-là parce qu'on ne peut pas s'adapter juste aux avocats. Vous imaginez bien que des acteurs comme OpenAI, la cible est tellement large à adresser qu'on ne peut pas se permettre de faire quelque chose de spécifique pour un secteur ou un métier en particulier. On a aussi Speak, qui est pensé spécifiquement pour l'apprentissage du langage à l'oral. Clay, qui se veut être un outil ultra spécialisé pour les équipes Revenue and Growth. Et donc, pour vous donner des exemples un peu plus horizontaux, mais qui, eux, ont su tirer parti de leur expertise, on a Dust, dont l'un des anciens cofondateurs est un ancien d'OpenAI.
Et donc, il a vu très tôt le potentiel des LLM et il a voulu l'appliquer à des workflows complexes en entreprise qui interagissent avec plusieurs sources de données. Et on a aussi V0, qui permet de générer du code pour créer des interfaces fonctionnelles, mais avec une stack très spécifique, qui est la stack de Vercel, qui est l'auteur de cet outil. Et donc, certes, ChatGPT et Cloud peuvent générer du code, mais sur cette stack-là, dont Vercel est expert, forcément, c'est eux les meilleurs. J'espère que ces exemples vous donnent une idée de ce que ça veut dire de se concentrer sur son unfair advantage. Tous ces produits ont quelque chose en commun, c'est que l'IA n'est pas la finalité du produit, ce n'est qu'un outil pour rendre le produit encore meilleur. Il y a un deuxième piège dont je vais parler aujourd'hui à éviter, c'est la sunk cost fallacy, ou le biais des coûts irrécupérables en français.
Donc ça, c'est un biais fondamentalement humain. Peut-être que les animaux l'ont aussi, je ne sais pas. Mais c'est quelque chose qui nous pousse à continuer à investir dans une direction parce qu'on a déjà trop investi. Ce biais est souvent illustré par le jeu de l'attente du bus. C'est une expérience où il y a des participants qui attendent un bus, ils ne savent pas quand le bus arrive, et à tout moment, ils ont le choix entre continuer à attendre le bus ou se mettre à marcher. Et ce qui est intéressant dans cette expérience, c'est que les personnes qui ont attendu le plus sont les plus à même à attendre encore plus parce qu'ils ont déjà beaucoup trop investi. Je ne sais pas si ça vous est déjà arrivé, mais moi, personnellement, ça m'arrive tout le temps. Si j'attends le bus pendant 10 minutes, même s'il arrive plus tard que prévu, il est hors de question que je ne l'attende pas jusqu'au bout. Et donc ça, ça illustre vraiment ce biais humain qui fait qu'on a tendance à continuer dans une direction, même quand ce serait beaucoup plus rationnel de simplement repartir de zéro.
Et de changer de cap et d'arrêter de faire table rase. Ce genre de situation, on n'est pas à l'abri, par exemple, chez... chez OpenAI. Pour vous donner un exemple concret dont peu de gens sont au courant, on a beaucoup investi en début d'année sur les custom models, donc en fait sur des modèles qui sont spécialisés, entraînés spécifiquement sur un sujet. Et donc on l'a fait pour que le modèle GPT-4 Turbo devienne meilleur en japonais, parce qu'on s'est rendu compte qu'il n'était pas très bon en japonais. Donc on a cherché des clients, on a commencé des partenariats, etc. Pour qu'ils puissent tester. Et pendant la phase de test, il s'avère qu'on a sorti GPT-4 qui était meilleur en japonais que le modèle spécialisé japonais. Vous imaginez bien que c'était une situation un peu délicate parce qu'on avait déjà commencé des partenariats, etc. Donc on aurait pu continuer dans cette direction, on aurait pu dire, OK, on va entraîner le modèle custom encore plus pour qu'il soit encore meilleur que 4.0. Mais en fait, on a décidé de stopper net.
On a dit aux clients, OK, laissez tomber, utilisez GPT-4.0 à la place. Et donc certes, c'est du temps et de l'argent perdu, mais c'est mieux que de continuer d'investir dans une direction qui est non viable sur le long terme. Et donc comment on fait justement pour savoir quand passer à autre chose, quand se mettre à marcher plutôt que de continuer à attendre le bus même si on a investi beaucoup trop dans une direction? Il faut apprendre à anticiper les développements futurs. Parce qu'en fait, le gros problème qui vous pousse à continuer dans une direction plutôt que de repartir et de stopper net et de changer de cap, c'est qu'en fait, on ne sait pas quelles sont les alternatives. Alors que si vous apprenez à anticiper les développements futurs, vous pouvez identifier à l'avance ces alternatives. Et donc, ça vous aide à savoir quand il est temps de repartir à zéro avec des nouvelles technologies. Le meilleur moyen d'apprendre à anticiper les futurs développements, c'est de devenir un early adopteur, de faire de la veille, de se renseigner, d'être au courant de tous les futurs développements, et surtout
d'être un utilisateur de ces technologies-là. Parce que c'est bien beau d'écouter des articles, de lire des choses et d'entendre des gens en parler, mais vous me comprendrez. jamais aussi bien la technologie qu'en étant vous-même un utilisateur. Et donc, que ce soit dans votre vie pro, votre vie perso, il faut monter sur le train et il faut commencer à utiliser ces technologies aujourd'hui, si ce n'est pas déjà le cas. Et en fait, le fait de faire ça, ça vous permettra de savoir qu'est-ce qui va arriver bientôt versus qu'est-ce qui va prendre un peu plus de temps, qui va mettre plus de temps à arriver parce qu'on n'y est pas encore. Et donc, ça, c'est vraiment la mentalité qu'il faut apprendre à développer. C'est essayer de réfléchir à, OK, même si je sais qu'aujourd'hui, cette technologie-là, elle n'est pas incroyable, quand elle le sera, comment est-ce que je suis dans la meilleure position possible pour en bénéficier? Comment est-ce que je construis les produits qui vont pouvoir utiliser ces avancées technologiques de la meilleure manière possible?
Je ne sais pas si vous vous rappelez de la démo que Google a faite en 2018, donc il y a six ans déjà, qui montrait une IA qui appelle des business pour leur prendre rendez-vous. C'était super impressionnant à l'époque, tout le monde était impressionné de voir ça, tout le monde se disait« c'est le futur», etc. Mais ce n'était pas réel, c'est-à-dire que les développeurs ne pouvaient pas implémenter cette chose-là. Aujourd'hui, avec la Real-Time API qu'on a sortie il y a deux mois, c'est possible de développer cette expérience-là. C'est même encore mieux que la démo. d'il y a six ans. Et en fait, les entreprises aujourd'hui qui sont dans la meilleure position, ce n'est pas celles qui se sont dit« je vais tout investir pour essayer de développer des voies super naturelles comme dans la démo de Google et miser tout là-dessus». C'est les entreprises qui se sont dit« ok, je vais développer mon produit autour de ça et même si aujourd'hui mon chatbot vocal est un peu robotique, il n'est pas très convaincant, etc., le jour où la technologie atteindra le niveau qu'on a vu dans cette démo, moi, je serai dans la meilleure position possible pour que mon produit fasse x10 en expérience utilisateur.
C'est ça, ce mindset qu'il faut avoir, c'est un peu« fake it until you make it», mais c'est avoir en tête que, ok, aujourd'hui, ce n'est pas encore ça, mais quand ça marchera, mon produit va être incroyable. Si on résume un peu tout ce dont on vient de parler, L'IA générative, c'est une technologie qui évolue incroyablement vite. C'est une technologie qui est complètement différente de ce qu'on a connu jusqu'à maintenant. Et donc, ça fait que beaucoup de choses deviennent obsolètes très vite. Mais la bonne nouvelle, c'est que vous êtes là, donc maintenant vous en êtes conscient. Et donc, vous savez qu'il ne faut pas se focaliser sur l'IA en tant que tel, il faut se focaliser sur l'expérience utilisateur, sur la valeur ajoutée de votre produit que vous pouvez apporter grâce à... à votre unfair advantage grâce à votre expertise métier ou votre expertise technique. Vous savez aussi maintenant qu'en tant qu'humain, on a tendance à continuer dans une direction, même si parfois, il vaudrait mieux repartir de zéro.
Et donc, pour savoir sur quelle nouvelle direction aller, il faut apprendre à anticiper les futurs développements. Et donc, pour ça, la meilleure manière de faire, c'est de devenir un early adopteur et de devenir un utilisateur aguerri de ces technologies. J'espère que maintenant que vous savez tout ça, vous allez pouvoir surfer sur la vague qu'est la Generative AI plutôt que de vous la prendre en pleine face, que vous allez pouvoir embrasser l'innovation et surtout développer des produits qui résistent à l'épreuve du temps. Merci. Oh, merci Katia, merci beaucoup. Effectivement, maintenant, on est équipé d'une planche de surf, grâce à vous, pour prendre cette vague. Mais on va d'abord prendre quelques questions. Pour une salve de 10 minutes de questions-réponses, je pense qu'il y en a pas mal. Alors, voilà, il y en a une, deux, trois, quatre, oh là là, my goodness. Merci beaucoup. Si vous pouvez vous lever, c'est fantastique. Voilà pour que les caméras...
Bonjour. Vous avez conclu votre conférence en parlant de la durabilité. Mais est-ce que chez OpenAI, vous prenez conscience du numérique responsable et de tout ce que impliquent les LLM? Parce qu'avec les requêtes Google... On était de l'ordre du verre d'eau. Avec la requête GPT, on est plutôt de l'ordre de la bouteille d'eau. Oui, très bonne question. C'est un sujet qui nous tient vraiment à cœur chez OpenAI. Donc, on fait ce qu'on peut. On sait que cette technologie consomme beaucoup d'énergie. Mais d'un point de vue interne, on investit beaucoup dans des avancées technologiques. Le chercheur travaille sur le fait de rendre ces technologies plus efficaces pour consommer moins d'énergie. Et à côté de ça, notre partenaire principal, Azure, a fait un commitment. Désolée, je parle en franglais. Parfois, quand vous entendez des rires, Katia, ne vous inquiétez pas, c'est souvent Tommy Dessine qui a œuvré et ça fait réagir la salle.
Alors, en l'occurrence, face au progrès de l'IA dans nos métiers, comment vous sentez-vous? Obsolète, inutile, inquiet, déprimé, suicidaire. Ah, voilà. Oui, pas mal de dessins. Mais du coup, pour revenir sur Azure, ils se sont engagés à être carbone négative en 2030 et à partir de 2025, d'utiliser uniquement des sources d'énergie renouvelables. Donc voilà, on essaye de... d'avoir ces partenariats qui nous permettent, certes, même si on fait des LLM, de faire ça de manière un peu plus responsable. Et on va continuer d'innover là-dessus pour rendre cette technologie plus efficace et moins vorace en termes d'énergie. Merci, Katia. Il y avait une autre question, une main levée au milieu. Absolument. Et après, où êtes-vous, les trois autres personnes que j'ai vues? Tac, tac, super. Merci. Merci pour votre présentation. Le thème de ce sommet, c'est la résilience. Mon collègue parlait du coup de l'impact environnemental, mais il y a aussi aujourd'hui, beaucoup de papiers nous disent que les coûts qu'on paye sont très sous-estimés par rapport aux coûts que vous rencontrez.
Ou que vous avez déjà consommé l'ensemble des textes disponibles. sur internet et que vous allez avoir du mal du coup à avoir plus. D'ailleurs ça remet en question le modèle de publier des trucs libres, puisqu'il y a la valeur, puisque derrière ça sera généré. Quel est votre point de vue sur la soutenabilité de ce modèle? Il y a un peu deux questions en une. Sur le sujet de l'entraînement des modèles et de la donnée qui est accessible sur Internet, certes, on utilise des données qui sont publiquement disponibles et on fait ça dans les règles de l'art. On permet justement aux personnes de ne pas donner leurs données s'ils le souhaitent. Mais à côté de ça, on fait aussi des partenariats avec des acteurs privés qui ont des larges sources de données que personne n'a vues. Et grâce à ces partenariats-là, on paye ces personnes-là pour qu'ils nous donnent accès à ces vastes sources de données qui sont totalement nouvelles.
Et donc sur le début de la question, qui était... Je veux bien le début de la question. Là-dessus, même de la question. Alors, on n'a plus le micro. Les coûts qu'on paye, voilà, c'était ça. Donc sur le début de la question, je ne peux pas vous dire exactement quel est notre modèle économique, mais ce qu'on pense et ce sur quoi on veut vraiment investir, c'est que ces technologies-là, même si elles coûtent cher aujourd'hui, avec les avancées sur lesquelles on investit, qui sont aussi liées au fait de rendre les modèles plus efficaces d'un point de vue énergétique, on va aussi avoir une réduction de coût. Il y a quelques fonctionnalités, par exemple, on a sorti le prompt caching il y a quelques semaines, qui permet d'optimiser la façon dont on va générer les réponses lorsque c'est du texte qui a déjà été vu. Ce genre d'avancée-là, c'est ce qui va permettre de réduire les coûts. On avait une autre question à droite.
Bonjour, alors moi je m'appelle Vijay, merci pour ce talk. Je voulais reprendre votre jeu du coup de l'attente du bus, moi je suis du genre à continuer à attendre justement. Au moment où vous avez dit que sur l'histoire du modèle custom japonais et 4.0, la décision à Stinol c'était de passer sur 4.0, moi je remarque que... Une des choses que je me serais dit, c'est de continuer à investir sur le custom model. Ça permettrait d'avoir de meilleures performances, donc une meilleure expérience utilisateur. Qu'est-ce qui vous a décidé à passer sur 4.0 et du coup abandonner l'investissement sur le modèle japonais? En fait, 4.0 avait une nouvelle technologie sous-jacente, un nouveau tokenizer, je ne sais pas si ça vous parle, mais la façon dont le texte, notamment le texte qui était dans des alphabets non latins, était compris, a été grandement amélioré. Et donc, le bon qu'on a fait grâce à ça était vraiment important. Et finalement, pour atteindre simplement le niveau de 4.0 avec le modèle custom, il aurait fallu investir encore beaucoup.
Et donc ça ne valait pas le coup. Et d'un point de vue aussi produit, c'est beaucoup plus simple de rester sur un seul produit plutôt que de commencer à développer plein de modèles customisés. Donc c'est ça qui a fait qu'on a simplement arrêté ce programme-là et qu'on a dit aux clients d'utiliser le nouveau modèle. Monsieur avec le pull blanc, juste là, devant. Ou bleu ciel, je ne sais pas. Bonjour, merci pour le talk. J'ai deux questions. Quelle est la stratégie vis-à-vis du multi-agent d'OpenAI ? Et la deuxième, c'est que pensez-vous de l'initiative MCP, Modèle Contexte Protocole d'Anthropique? Pour la stratégie multi-agent, je ne sais pas si on peut parler vraiment d'une stratégie officielle, et je ne peux pas répondre au nom de tout OpenAI, mais personnellement, ce que je pense, c'est qu'on n'a pas forcément besoin d'aller dans cette direction tout de suite.
Je pense que c'est un peu une idée à la mode de se dire« je vais faire de l'orchestration multi-agent», alors qu'en fait, parfois, on peut avoir un agent qui fait les choses très bien. Je sais qu'on a fait un peu le buzz parce qu'on a sorti, ce n'était pas un projet officiel, mais on a sorti Swarm il y a quelques semaines, quelques mois. Ce n'était pas un projet officiel, c'est vraiment juste un exemple d'implémentation, un exemple de code de comment faire pour soi-même créer des projets qui utilisent plusieurs agents. Et en fait, ça, ça va être adapté dans certains cas. Si vous avez beaucoup de choses à faire qui n'ont rien en commun pour aider à différencier les différentes tâches, là, ça va avoir du sens. Mais ce n'est pas une direction officielle qu'on a envie de prendre de dire qu'on va faire des systèmes multi-agents. Le concept d'agent, c'est quelque chose sur lequel on investit. La définition qu'on a, c'est la définition d'agent. On en a, c'est plutôt des IA qui peuvent réaliser des tâches qui sont assez complexes, qui peuvent utiliser des outils, qui peuvent interagir avec le monde extérieur.
Ça, oui. Et justement, les nouveaux modèles qu'on a sortis, donc la gamme O1, permet de débloquer ce genre d'expérience, puisqu'on va pouvoir avoir des agents qui arrivent à prendre des décisions beaucoup plus complexes, à faire des tâches qui sont beaucoup plus dures à appréhender. Mais donc, après qu'il y en ait un ou plusieurs, on n'a pas d'avis officiel sur ça. Sur le MCP, encore une fois, je ne peux pas partager exactement ce qu'on se dit dessus, mais c'est quelque chose qu'on a en tête et on va voir ce qu'on fait là-dessus. Encore plein de secrets chez OpenAI quand même. Y a-t-il une dernière question? Il nous reste 1 minute 50 avec Katia. Tout au fond, je suis désolée, il va falloir courir. Merci beaucoup. Je vous laisse vous lever pour qu'on puisse bien vous identifier. Super, merci beaucoup. Merci. Je suis content d'être identifié pour ma question qui va être un peu bête.
C'est quoi le MCP? Merci, je n'osais pas la poser. Le modèle contexte protocole, je n'ai pas... C'est une sorte de protocole défini par Anthropique. Je pense qu'ils l'expliqueront mieux que moi, vu que c'est eux qui ont sorti ça récemment. Donc voilà, je vous laisse demander à Sœur de GPT pour voir. Placement produit malin! Ok, super. Y a-t-il une dernière question? On a une minute. Chrono. Non, Katia, je vais vous libérer. Merci infiniment. Merci infiniment. Merci beaucoup. Et à très bientôt. Merci. On va partir sur la gauche. Merci beaucoup.
