ACRouter: Hər Tapşırıq üçün Ən Ağıllı AI Modelini Seçən Açıq Mənbə Aləti

Model marşrutlaşdırması müəssisə AI sitemlərində mühüm rol oynayır və istifadəçi sorğularını dinamik şəkildə ən uyğun AI modelinə yönləndirərək sürət və xərcləri optimallaşdırır. Lakin mövcud çərçivələr bu prosesi statik təsnifat problemi kimi həll edir və potensiallarını məhdudlaşdırır. Yeni açıq mənbə çərçivəsi Agent-as-a-Router bu problemi həll edərək marşrutlaşdırıcını yaddaş quran dinamik agentə çevirir. Bu çərçivə Kontekst-Fəaliyyət-Geri Bildirim (C-A-F) dövründən istifadə edərək modelin uğur və uğursuzluqlarını izləyir və marşrutlaşdırıcının davranışını daim yeniləyir. Tədqiqatçılar eyni zamanda ACRouter adlı konkret tətbiqi də buraxıblar və testlərdə bu alət statik marşrutlaşdırıcılardan və bahalı premium modellərdən 2.6 dəfə daha səmərəli olduğunu göstərib. Beləliklə, komandalar nəhəng modellər hazırlamaq, nə də saysız-hesabsız qaydalar yazmaq məcburiyyətində qalmır. Real dünya tətbiqləri üçün bu çərçivə sərt kodlaşdırılmış AI infrastrukturunu öz-özünü optimallaşdıran sistemlərlə əvəz etmək imkanı verir. Bu sistemlər istifadəçi davranışındakı dəyişikliklərə və müəssisə AI sitemlərində istifadə olunan əsas modellərə uyğunlaşa bilir. Nəticədə, AI infrastrukturu daha çevik və iqtisadi cəhətdən sərfəli olur. Tək modelli qurğular təcrübələr üçün faydalı olsa da, AI tətbiqlərinin miqyaslanmasında zərərli ola bilər. AI mühəndisləri model marşrutlaşdırmasından istifadə edərək sadə tapşırıqları daha ucuz və sürətli açıq modellərə yönləndirir, mürəkkəb düşüncə tələb edən işləri isə bahalı frontier modellərə həvalə edir. Hazırda tərtibatçılar iki əsas mexanizmdən istifadə edir: birincisi, qaydalara əsaslanan marşrutlaşdırmadır ki, bu da sərt kodlaşdırılmış əl qaydalarına əsaslanır. Məsələn, tərtibatçı bir qayda yazır ki, əgər sorğuda müəyyən açar sözlər varsa, GPT-5.5-ə yönləndirilsin, əks halda Kimi K2.7 kimi öz-hostlu açıq mənbə modelinə getsin. İkinci mexanizm isə statik təlim keçmiş siyasətlərdir ki, bunlar tarixi məlumatlar üzərində təlim keçmiş maşın öyrənmə təsnifatçılarıdır. Bu təsnifatçılar sorğunun gömülü təsvirlərinə baxır və keçmiş təlim məlumatlarına əsasən ən yaxşı modeli proqnozlaşdırır. Hər iki yanaşma statikdir və tədqiqatçılar bu mexanizmləri real dünya şəraitində sınaqdan keçirdikdə onların məhdudiyyətlərini aşkar ediblər. ACRouter isə bu statik yanaşmaları aşaraq dinamik və yaddaş quran bir həll təklif edir.