Optimiza tus consultas con Wayfinder: Eficiencia en el enrutamiento de modelos de lenguaje

Wayfinder es una herramienta de línea de comandos diseñada para optimizar el enrutamiento de consultas entre modelos de lenguaje locales y en la nube. Funciona de manera offline, analizando la estructura y el contenido de las solicitudes para determinar si deben ser procesadas por un modelo local o uno en la nube, lo que permite a los usuarios ahorrar costos al evitar el uso innecesario de modelos más caros. Esta herramienta se destaca por su rapidez y precisión, ya que toma decisiones en microsegundos sin necesidad de realizar llamadas a otros modelos o APIs.