Vienas įėjimas į visus DI modelius – su biudžetu.
Agentai gauna vieną Stellwerk raktą vietoj dešimties tiekėjų raktų. Gateway nukreipia kiekvieną užklausą į tinkamą modelį, taiko jūsų taisykles ir sustabdo išlaidas pasiekus limitą.
Ką daro Gateway
Vienas raktas visiems modeliams
OpenAI, Anthropic, Google, Mistral, atvirieji modeliai ES serveriuose ir jūsų pačių modeliai.Išlaidų limitai
Įmonei, komandai, projektui ir agentui: įspėjimas ties 80 %, sustabdymas ties 100 % ir ataskaita, kas kiek išleido.Taisyklės pagal duomenų tipą
Pavyzdžiui: klientų duomenys – tik ES talpinamiems modeliams arba tik per Mask.Atsarginis tiekėjas
Jei tiekėjas sutrinka, užklausos nukreipiamos jūsų pasirinktam atsarginiam tiekėjui.Pasikartojančių užklausų talpykla
Už tą patį klausimą nemokama du kartus.Jūsų pačių sutartys
Prijungiate savo sutartis su tiekėjais. Mes nukreipiame ir skaičiuojame, žetonams antkainio netaikydami.
Įeina nuo Business plano