Plus rapides, plus intelligents, plus puissants, mais aussi plus chers. Et pour être honnête, il est presque impossible de suivre quel modèle est le meilleur pour quelle tâche. Au sein de l’Artific GenAI Research Lab, nous voyons beaucoup d’organisations se heurter à ce même défi : quel modèle choisir pour quelle tâche ?
Les facteurs du choix d’un modèle de langage
Le choix du modèle de langage influe toujours sur trois facteurs :
- la rapidité de la réponse (latence) ;
- la qualité de cette réponse ;
- et son coût en puissance de calcul, mais aussi en consommation d’énergie.
Pourtant, la plupart des équipes utilisent le modèle le plus récent et le plus lourd. Ce qui signifie souvent : attendre plus longtemps la réponse et consommer de l’énergie inutilement pour des questions auxquelles un modèle plus simple aurait très bien pu répondre.
Le bon modèle pour chaque tâche
C’est comme choisir un moyen de transport : vous n’avez pas toujours besoin d’une voiture de course pour arriver à destination. Or aujourd’hui, les clients prennent le plus souvent la plus grosse voiture, avec toutes les options. Alors qu’à vélo, on va parfois bien plus vite.
C’est pourquoi, chez Artific, nous construisons ce que je vois comme un système de circulation pour l’IA. Un système qui décide lui-même : faut-il envoyer une voiture de course sur ce trajet, ou un autre moyen de transport suffit-il ? Ce module sait donc sélectionner le meilleur modèle de langage pour une tâche.
Les clients économisent ainsi du temps, de l’argent et de l’énergie, sans que la qualité des réponses en pâtisse.
Les résultats de la sélection automatique des modèles
ChatGPT propose une fonction comparable. Avec GPT-5, vous pouvez basculer vous-même entre trois modes : auto, instant ou thinking. L’idée n’est donc pas nouvelle, mais la mise en œuvre, si.
Partout dans le monde, des recherches sont menées pour sélectionner de façon fiable un modèle pour une tâche, sans trop alourdir les coûts ni le temps de réponse. Au sein de l’Artific GenAI Research Lab, nous avons combiné et approfondi les idées de plusieurs publications scientifiques. Les premiers résultats sont prometteurs :
- des coûts en moyenne 50 % plus bas
- des temps de chargement 60 % plus courts
- une économie d’énergie considérable
Et tout cela sans perte perceptible de qualité ni de réactivité.
Le regroupement des questions
Nous y sommes parvenus en regroupant les questions en clusters. Chaque cluster correspond à un type de tâche, comme résumer, analyser ou traduire. Pour chaque cluster, nous savons quel modèle d’IA accomplit le mieux ce type de tâche. Lorsque quelqu’un pose à l’assistant une question qui relève de l’un de ces clusters, nous la transmettons automatiquement au modèle le plus adapté.
Les partenaires profitent eux aussi de la sélection automatique des modèles
Nos partenaires profitent aussi de cette avancée, car ils peuvent ajouter eux-mêmes des clusters au sein de notre plateforme. Ainsi, le bon modèle est choisi automatiquement pour eux aussi, même pour des tâches très propres à un client.
Nous veillons ainsi à ce que les clients utilisent toujours le bon modèle : rapide quand c’est possible, puissant quand c’est nécessaire.
En savoir plus sur Artific
Vous voulez en savoir plus sur Artific, notre plateforme IA ou le GenAI Research Lab ? Contactez-nous à info@artific.nl ou au 053-203 0123.