Çin modelləri qorxulu deyil: Açıq mənbə AI laboratoriyasının rəyi

Çin modelləri qorxulu deyil: Açıq mənbə AI laboratoriyasının rəyi

Süni intellekt dünyasında son dövrlərdə Çin açıq çəkili modelləri (open-weight models) ətrafında müzakirələr yenidən alovlanıb. Bu modellərin getdikcə daha güclü və populyar olması, onların təhlükəsizliyi ilə bağlı sualları da gündəmə gətirir. Bəzi dairələr bu modellərin qadağan edilməsini təklif edir, lakin ABŞ-ın tanınmış açıq mənbə AI laboratoriyası Arcee-nin CTO-su Lukas Atkins tamamilə fərqli fikirdədir.

Arcee, ABŞ şirkətləri üçün yerli alternativlər yaratmaq məqsədi ilə açıq modellər hazırlayır. Məntiqlə desək, əgər Çin modelləri qadağan olunsa, ən çox faydalanan şirkətlərdən biri məhz Arcee olardı. Lakin Atkins-in mövqeyi olduqca aydındır: Çin açıq modelləri heç də digər açıq mənbə proqram təminatlarından daha təhlükəli deyil.

Modellərin işləmə prinsipi fərqlidir

Atkins izah edir ki, bir çox insan Çin modellərini adi proqram təminatı kimi düşünür. Yəni güman edirlər ki, bu modellərə xüsusi əmrlər daxil edilib və onlar istənilən anda pis niyyətli hərəkətlər edə bilər. Lakin bu, tamamilə yanlış yanaşmadır. "Bu modellərin təlim prosesi əsaslı şəkildə fərqlidir. Nə Arcee, nə də Alibaba bir model yaradıb, onu başqasının mühitində işlədə və ona hər hansı bir şəkildə giriş əldə edə bilməz" deyə Atkins vurğulayır.

Əksər bu modellər "açıq çəkili" (open-weight) adlanır və tam açıq mənbə proqram təminatı deyil. Lakin onların serverlərdə işləyəcək hissəsi, yəni mənbə kodu, Hugging Face kimi platformalardan yüklənəndə əsasən görünən və yoxlanıla biləndir. Təlim üçün istifadə olunan metodlar və məlumatlar isə əlçatan olmur.

Təhlükəsizlik yoxlaması mümkündür

Böyük təşkilatlar istənilən modeli öz təhlükəsizlik testlərindən və yoxlama proseslərindən keçirə bilər. Modellər istifadəyə verilməzdən əvvəl onların qərəzlilik, zəhərlilik, halüsinasiyalar və müəyyən mövzulara həssaslıq kimi xüsusiyyətləri yoxlanılır. Şirkətlər modelləri öz spesifik istifadə məqsədləri üçün əlavə təlimdən keçirə (post-train) və onları optimallaşdıra bilər.

Bu o deməkdir ki, siz modellə işləyir, onu başa düşür və yalnız bundan sonra istifadəçilərə təqdim edirsiniz. Heç bir model birbaşa olaraq "qara qutu" kimi qəbul edilməməlidir.

Kod yazan modellər təhlükəlidirmi?

Bir sual da budur ki, kod yazmaq üçün istifadə olunan bir model, yazdığı kodun içinə gizli arxa qapılar (backdoors) yerləşdirə bilərmi? Atkins etiraf edir ki, nəzəri olaraq bu mümkündür, lakin bunu həyata keçirmək olduqca çətindir. "Kifayət qədər mürəkkəb bir aktyor modeli hər vəziyyətdə mükəmməl kod yazan bir model kimi təlim edə bilər, lakin müəyyən bir kod bazası təqdim edildikdə gizli təlim işə düşə bilər" deyə Atkins fərziyyə irəli sürür. Lakin o dərhal əlavə edir: "Bunu necə edəcəyinizi bilmirəm".

Böyük dil modelləri (LLM) təbiətcə yaradıcıdır. Müasir bir modeldən, əvvəlcədən planlaşdırılmış kontekst və sorğu fırtınasına cavab olaraq zərərli proqram (malware) çıxarmaq ehtimalı olduqca azdır. Bir təşkilatın belə bir hücuma məruz qalma ehtimalı isə daha da azdır.

Nəticə: qorxuya əsaslanan qadağalar əvəzinə ağıllı yanaşma

Arcee-nin mövqeyi göstərir ki, Çin açıq çəkili modellərinə qarşı qorxu əsaslı yanaşma düzgün deyil. Bu modellər, digər açıq mənbə proqram təminatları kimi, diqqətli yoxlama və təhlükəsizlik testlərindən keçirildikdə təhlükəsiz şəkildə istifadə edilə bilər.

Bununla yanaşı, qeyd etmək lazımdır ki, bu modellər ABŞ-ın qapalı mənbə modelləri ilə müqayisədə daha ucuz token qiymətləri təklif edir. Məsələn, Moonshot AI-nin Kimi K3 və ya Alibaba-nın Qwen modelləri, iri ABŞ laboratoriyalarının qapalı mənbə modellərindən qat-qat ucuz başa gəlir. Bu, onların populyarlığının əsas səbəblərindən biridir.

Nəticə olaraq, Çin modellərini qadağan etmək əvəzinə, onları ağıllı və təhlükəsiz şəkildə istifadə etməyin yollarını axtarmaq daha məqsədəuyğundur. Texnologiya dünyasında rəqabət və müxtəliflik həmişə innovasiyanın mühərriki olub. Bunu unutmayaq.