Süni intellekt inferens çipləri: GPU maliyyələşdirməsində yeni dövr

Süni intellekt inferens çipləri: GPU maliyyələşdirməsində yeni dövr

Süni intellekt sahəsində maraqlı bir hadisə baş verib. General Compute adlı AI inferens bulud startapı, Upper90 texnologiya investisiya şirkətindən 400 milyon dollarlıq kredit alıb. Bu kredit, inferens çiplərinin girov qoyulduğu ilə böyük maliyyə əməliyyatı kimi tarixə düşür. Bəs inferens çipləri nədir və niyə bu qədər diqqət çəkir?

İnferens çipləri, artıq təlim keçmiş AI modellərini sürətli və səmərəli şəkildə işlətmək üçün nəzərdə tutulub. Onlar, modelləri ilk dəfə qurmaq üçün istifadə olunan bahalı GPU-lardan fərqlənir. Bu yeni maliyyə razılaşması, bazarın AI alətlərinin qiymətinə qarşı həssaslığını göstərir. Şirkətlər, ən yeni dil modellərindən daha ucuz olan açıq mənbə modellərinə keçid edir.

General Compute və SambaNova əməkdaşlığı

General Compute, CEO Finn Puklowski rəhbərliyi altında fəaliyyət göstərir. Şirkət, Intel tərəfindən dəstəklənən SambaNova şirkətinin çipləri ətrafında inferens neokloud qurmaq üçün may ayında 15 milyon dollar toxum maliyyəsi toplamışdı. Neokloudlar, ənənəvi bulud provayderlərindən fərqli olaraq, birbaşa AI iş yükləri üçün nəzərdə tutulub.

General Compute-un istifadə etdiyi SN50 çipləri, xüsusi olaraq inferens üçün hazırlanıb. Bu çiplər enerji baxımından səmərəlidir və bahalı su soyutma sistemləri tələb etmir. Bu xüsusiyyətlər sayəsində onlar, GPU-lardan daha sürətli şəkildə müxtəlif məlumat mərkəzlərində quraşdırıla bilir. Şirkət, yeni çiplərin GPU əsaslı buludlardan 16 dəfə daha sürətli inferens təmin etdiyini iddia edir.

Maliyyələşdirmə modelində dəyişiklik

Upper90 şirkətinin həmtəsisçisi və CEO-su Billy Libby, keçmiş Goldman Sachs kvant treyderidir. Onun bu tip maliyyələşdirmə üçün hazır bir planı var idi. 2021-ci ildə Upper90, Crusoe adlı enerji fokuslu məlumat mərkəzi startapı üçün GPU alışını maliyyələşdirmişdi. Bu, o zaman qabaqcıl çiplərin dəyərinə qarşı verilən ilk kredit hesab olunurdu.

Ənənəvi banklar, GPU-ların amortizasiyası ilə bağlı risk və qeyri-müəyyənliklər səbəbindən bu cür razılaşmalardan çəkinirdi. Lakin CoreWeave şirkəti, çip əsaslı kreditləri bir iş modelinə çevirdi və bu, uğurlu IPO-nun əsasını qoydu. İndi bu tip maliyyələşdirmə ümumi bir təcrübəyə çevrilib.

Libby, TechCrunch-a verdiyi müsahibədə bildirib: "Nvidia GPU-larını maliyyələşdirən ilk qrup olduğumuz zaman bazar səmərəsiz idi. İlk iştirakçı kimi həqiqətən yaxşı bir şey qura bildik və riskə görə kompensasiya aldıq." İndi GPU-lar nisbətən yaxşı anlaşıldığı və həddindən artıq alındığı bir vaxtda, Upper90 növbəti AI dalğasını tutmaq üçün General Compute kimi şirkətlərə yönəlir.

Açıq mənbə modellərin yüksəlişi

Libby, "Açıq mənbə modellərinin vacib olacağını düşünürük. Keçən il inferens sahəsində olan bir oyunçu axtardıq. Hər kəsin superkompüterə ehtiyacı yoxdur, amma hər kəsin inferens və AI-ya ehtiyacı var" deyə vurğulayıb.

Bu fikir, getdikcə daha da güclənir. Açıq modellərə giriş təmin edən OpenRouter və Fireworks kimi şirkətlər, böyük dəyərlənmələrlə yeni maliyyə dövrləri toplayır. Kimi şirkətinin K3 modeli kimi yeni modellər, kodlaşdırma meyarlarında Anthropic və OpenAI-in ən son buraxılışları ilə rəqabət apara bilir. Groq və Cerebras kimi yeni çip istehsalçıları isə həm alıcıların, həm də ictimai bazarların diqqətini çəkir.

Nvidia-dan asılılığın azaldılması

General Compute-un Nvidia ekosistemindən kənar çiplərə çıxış əldə edə bilməsi, eyni səbəbdən vacibdir. TensorWave adlı digər AI infrastrukturu şirkəti də AMD ilə əməkdaşlıq edərək oxşar bir strategiya izləyir. Nvidia-ya daha çox alternativlər ortaya çıxdıqca, yalnız bir təchizatçıya bağlı olmayan hesablama provayderləri üstünlük qazanacaq.

Bu inkişaf, Azərbaycandakı texnologiya həvəskarları və sahibkarlar üçün də maraqlı ola bilər. AI xərclərinin azalması və daha səmərəli həllərin ortaya çıxması, kiçik və orta bizneslərə də süni intellekt texnologiyalarından istifadə imkanı yaradır. Gələcəkdə daha ucuz və əlçatan AI xidmətləri gözləmək olar.

Ümumilikdə, bu 400 milyon dollarlıq razılaşma, süni intellekt sənayesində yeni bir trendin başlanğıcı ola bilər. İnferens çiplərinə olan maraq, AI-nin daha geniş kütlələrə yayılmasına və mövcud modellərin daha səmərəli istifadəsinə səbəb olacaq.