Más rápidos, más inteligentes, más potentes, pero también más caros. Y, siendo sinceros, es casi imposible estar al día de qué modelo es el mejor para cada tarea. En el Artific GenAI Research Lab vemos que muchas organizaciones se enfrentan a ese mismo reto: ¿qué modelo eliges para qué tarea?
Factores en la elección de un modelo de lenguaje
El modelo de lenguaje que eliges siempre influye en tres factores:
- lo rápido que recibes la respuesta (latencia);
- lo buena que es esa respuesta (calidad);
- y lo que cuesta en capacidad de cálculo, pero también en consumo de energía.
Aun así, muchos equipos suelen usar el modelo más nuevo y más pesado. Y eso suele significar esperar más la respuesta y gastar energía de más en preguntas que un modelo más sencillo habría resuelto sin problema.
El modelo adecuado para cada tarea
Es como elegir un medio de transporte: no siempre necesitas un coche de carreras para llegar a tu destino. Pero ahora los clientes suelen coger el coche más grande y con más extras, cuando a veces en bici llegas bastante antes.
Por eso en Artific estamos construyendo algo que yo veo como un sistema de tráfico para la IA. Un sistema que decide por sí mismo: ¿hace falta un coche de carreras para esta ruta o basta con otro medio de transporte? Este módulo puede, por tanto, seleccionar el mejor modelo de lenguaje para una tarea.
Así los clientes ahorran tiempo, costes y energía, sin que la calidad de las respuestas se resienta.
Resultados de la selección automática de modelos
En ChatGPT también ves una función parecida. Con GPT-5 puedes cambiar tú mismo entre tres modos: auto, instant o thinking. La idea, por tanto, no es nueva, pero la ejecución sí.
En todo el mundo se investiga a fondo cómo seleccionar de forma fiable un modelo para una tarea sin demasiada sobrecarga en costes y tiempo de respuesta. En el Artific GenAI Research Lab hemos combinado y desarrollado las ideas de varias publicaciones científicas. Los primeros resultados son prometedores:
- costes de media un 50 % más bajos
- tiempos de carga un 60 % más cortos
- un ahorro de energía considerable
Y todo ello sin una pérdida apreciable de calidad ni de tiempo de respuesta.
Agrupar las preguntas en clústeres
Lo hemos conseguido agrupando las preguntas en clústeres. Cada clúster representa un tipo de tarea, como resumir, analizar o traducir. De cada clúster sabemos qué modelo de IA hace mejor ese tipo de tareas. Cuando alguien le hace al asistente una pregunta que pertenece a uno de esos clústeres, la enviamos automáticamente al modelo más adecuado para ella.
Los socios también se benefician de la selección automática de modelos
Nuestros socios también se benefician de este avance, porque dentro de nuestra plataforma pueden añadir sus propios clústeres. Así, también en su caso se elige automáticamente el modelo adecuado para tareas muy específicas de cada cliente.
De este modo nos aseguramos de que los clientes usen siempre el modelo adecuado: rápido cuando se puede, potente cuando hace falta.
Más sobre Artific
¿Quieres saber más sobre Artific, nuestra plataforma de IA o el GenAI Research Lab? Ponte en contacto con nosotros en info@artific.nl o en el 053-203 0123.