Schneller, klüger, leistungsfähiger, aber auch teurer. Und ehrlich gesagt ist es kaum noch zu überblicken, welches Modell sich für welche Aufgabe am besten eignet. Im Artific GenAI Research Lab sehen wir, dass viele Organisationen mit genau dieser Herausforderung kämpfen: Welches Modell wählt man für welche Aufgabe?
Faktoren bei der Wahl des Sprachmodells
Die Wahl des Sprachmodells wirkt sich immer auf drei Faktoren aus:
- wie schnell Sie eine Antwort bekommen (Latenz);
- wie gut diese Antwort ist (Qualität);
- und was sie an Rechenleistung, aber auch an Energie kostet.
Trotzdem greifen viele Teams meist zum neuesten, schwersten Modell. Das bedeutet oft: länger auf die Antwort warten und unnötiger Energieverbrauch für Fragen, die ein einfacheres Modell genauso gut hätte beantworten können.
Das richtige Modell für jede Aufgabe
Es ist wie bei der Wahl eines Verkehrsmittels: Sie brauchen nicht immer einen Rennwagen, um ans Ziel zu kommen. Heute nehmen Kunden aber meist den dicksten Wagen mit der vollsten Ausstattung. Dabei ist man mit dem Fahrrad manchmal deutlich schneller.
Deshalb bauen wir bei Artific an etwas, das ich als Verkehrssystem für KI sehe. Ein System, das selbst entscheidet: Muss für diese Strecke ein Rennwagen los, oder genügt ein anderes Verkehrsmittel? Dieses Modul kann also das beste Sprachmodell für eine Aufgabe auswählen.
So sparen Kunden Zeit, Kosten und Energie, ohne dass die Qualität der Antworten darunter leidet.
Ergebnisse der automatischen Modellauswahl
Auch in ChatGPT gibt es eine vergleichbare Funktion. Bei GPT-5 können Sie selbst zwischen drei Modi wechseln: Auto, Instant oder Thinking. Die Idee ist also nicht neu, die Umsetzung aber schon.
Weltweit wird intensiv daran geforscht, wie man zuverlässig ein Modell für eine Aufgabe auswählt, ohne allzu viel Overhead bei Kosten und Reaktionszeit. Im Artific GenAI Research Lab haben wir die Ideen aus verschiedenen wissenschaftlichen Veröffentlichungen kombiniert und weiterentwickelt. Die ersten Ergebnisse sind vielversprechend:
- durchschnittlich 50 % niedrigere Kosten
- 60 % kürzere Ladezeiten
- erhebliche Energieeinsparung
Und das alles ohne spürbare Einbußen bei Qualität und Reaktionszeit.
Clustering von Fragen
Möglich wurde das, indem wir Fragen in Clustern gruppieren. Jedes Cluster steht für eine Art von Aufgabe, etwa Zusammenfassen, Analysieren oder Übersetzen. Für jedes Cluster wissen wir, welches KI-Modell diese Art von Aufgaben am besten erledigt. Stellt jemand dem Assistenten dann eine Frage, die zu einem dieser Cluster gehört, leiten wir sie automatisch an das Modell weiter, das dafür am besten geeignet ist.
Auch Partner profitieren von der automatischen Modellauswahl
Auch unsere Partner profitieren von dieser Entwicklung, denn sie können in unserer Plattform selbst Cluster hinzufügen. So wird auch bei ihnen für ganz kundenspezifische Aufgaben automatisch das richtige Modell gewählt.
So sorgen wir dafür, dass Kunden immer das richtige Modell nutzen: schnell, wenn es geht, leistungsstark, wenn es sein muss.
Mehr über Artific
Möchten Sie mehr über Artific, unsere KI-Plattform oder das GenAI Research Lab erfahren? Nehmen Sie Kontakt mit uns auf, per E-Mail an info@artific.nl oder telefonisch unter 053-203 0123.