Fransız Startapı ZML-dən Pulsuz Məhsul: AI Çiplərində Sürətli İnferensiya

Fransız Startapı ZML-dən Pulsuz Məhsul: AI Çiplərində Sürətli İnferensiya

Nvidia-nın süni intellekt bazarındakı hakim mövqeyi hələ də davam edir, lakin rəqiblər hər tərəfdən meydana çıxır. Fransanın isti startapı ZML, süni intellekt üzrə Turing Mükafatı laureatı Yann LeCun tərəfindən dəstəklənən bir şirkət olaraq, yeni inferensiya performans proqram təminatını buraxıb. Bu proqram təminatı müxtəlif açıq mənbəli böyük dil modellərinin Nvidia, AMD, Google TPU, Apple Metal və Intel Arc da daxil olmaqla bir çox çipdə işləməsinə imkan verir.

ZML-nin təsisçisi Steeve Morin TechCrunch-a verdiyi müsahibədə bildirib ki, yeni buraxılmış ZML/LLMD adlı LLM inferensiya serverinin məqsədi mövcud maneələri aradan qaldıraraq müxtəlif çipləri maksimum sürətlə, bəzən isə daha sürətli şəkildə AI istifadə halları üçün əlçatan etməkdir. Süni intellekt iş və gündəlik həyatımıza inteqrasiya olunduqca, inferensiyanın optimallaşdırılması model təlimindən daha vacib hala gəlir. Lakin bu proses çox vaxt arxa planda problemli olur və proqram təminatı ilə memarlıq maneələri səbəbindən satıcı bağlılığına gətirib çıxarır.

Müxtəlif çiplərdə pik performansa nail olmaq vədi təkcə texnoloji bir uğur deyil, həm də bazarı dəyişdirə bilər. AI ilə bağlı xərclərlə bağlı artan narahatlıqlar fonunda, ZML müəssisələrə və bulud provayderlərinə daha az xərcli və ya daha az enerji sərf edən çiplərin qarışığından istifadə etmək imkanı verməyi hədəfləyir. Morin deyir: "İdeya insanlara öz sistemlərini yaratmaq və AI-nin yayılmasına imkan verən real səmərəlilik qazanmaq gücünü geri qaytarmaqdır."

Avropalı Çip İstehsalçılarına Dəstək

Belə bir proqram dəstəyi, bir çoxu Avropadan olan yeni AI çip istehsalçılarına kömək edə bilər. Morin bu siyahıya Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud və VSORA kimi şirkətləri daxil edir. Lakin onun üçün vacib olan region deyil, ZML-nin onlarla "dünyada hələ heç kimin etmədiyi işlər" üzərində çalışa bilməsidir.

Bu, Morinin Nvidia-ya qarşı olduğu anlamına gəlmir. O, Nvidia-nın mövcud təchizatına görə şirkətə qarşı deyil. TechCrunch-a verdiyi məlumata görə, ZML-nin AI çip nəhəngi ilə yaxşı münasibətləri var və Nvidia inferensiyanın yüksəlişinə hazırlaşır. İnferensiya o qədər intensiv investisiya sahəsinə çevrilib ki, bu tendensiya "inferensiya qızıl hərisi" adlandırılır.

ZML-nin rəqabəti var. Məsələn, Baseten şirkəti 13 milyard dollar dəyərində qiymətləndirilir. Inferact açıq mənbəli vLLM layihəsinin yaradıcıları tərəfindən qurulub. RadixArk isə SGLang-ın arxasında duran kommersiya şirkətidir. Həm vLLM, həm də SGLang qismən LLMD ilə rəqabət aparır, lakin Morinin ZML üçün ambisiyaları daha geniş spektri əhatə edir.

20 Nəfərlik Komanda və 20 Milyon Dollar İnvestisiya

Morin deyir: "Biz silikonun birgə dizayn edilməsi mərhələsinə çatdıq." O, ZML-nin 20 nəfərlik yığcam komandasının sürətli hərəkət etməyə imkan verdiyini və daha çox buraxılışın planlaşdırıldığını vurğulayır. Kiçik komanda ölçüsünə baxmayaraq, ZML yaxşı maliyyələşdirilib. Morin, Snapchat-in 2017-ci ildə doqquz rəqəmli məbləğə satın aldığı Zenly şirkətində VP of Engineering olaraq çalışdığı üçün, venture firmalarından 20 milyon dollar toplaya bilib. İnvestorlar arasında Harry Stebbings-in 20VC, >commit, AALVC, Drysdale Ventures, Xavier Niel-in Kima Ventures, Kindred Capital, LocalGlobe və Puzzle Ventures var.

ZML/LLMD, şirkətin 2024-cü ildə buraxılan və mart ayında yenilənən ilk ictimai layihəsindən fərqli olaraq, açıq mənbəli deyil. Lakin məhsul istifadə haqqında məlumat toplamaq məqsədi ilə pulsuz olaraq təqdim edilir. Bu, müəssisələrə və bulud provayderlərinə AI xərclərini azaltmaq və enerji səmərəliliyini artırmaq üçün yeni imkanlar yaradır.

ZML-nin bu addımı, AI inferensiya bazarında rəqabəti artıraraq, daha çevik və sərfəli həllərin ortaya çıxmasına səbəb ola bilər. Azərbaycandakı texnologiya həvəskarları üçün bu, AI modellərinin daha geniş çip seçimi ilə işlədilməsi və bununla da xərclərin optimallaşdırılması baxımından maraqlı bir inkişafdır.