ABŞ hökumətinin Anthropic-in güclü modellərinə qadağası kibertəhlükəsizlik mütəxəssislərini narahat edir

ABŞ hökumətinin Anthropic-in güclü modellərinə qadağası kibertəhlükəsizlik mütəxəssislərini narahat edir

ABŞ hökumətinin Anthropic şirkətinin ən güclü süni intellekt modellərinə tətbiq etdiyi ixrac nəzarəti qərarı, kibertəhlükəsizlik sahəsində tanınmış mütəxəssislərin etirazına səbəb olub. Onlarla kibertəhlükəsizlik veteranı açıq məktub imzalayaraq bu qadağanın təhlükəli olduğunu bildirib və hökumətdən qərarın ləğvini tələb edir.

Açıq məktubda qeyd olunur ki, bu addım "müdafiəçilərin ən yaxşı modellərdən istifadə imkanını əlindən alıb". Mütəxəssislər vurğulayır ki, Anthropic-in Fable və Mythos modelləri kibertəhlükəsizlik sahəsində zəifliklərin aşkarlanması və proqram təminatının təhlükəsizliyinin artırılması üçün son dərəcə vacibdir.

Məktubda deyilir: "Müdafiəçilərin ən yaxşı imkanlardan istifadəsinə əsassız olaraq mane olmaq, düşmənlərimizin sürətlə irəlilədiyi bir dövrdə çox təhlükəlidir". Bu sözlər qadağanın nə qədər ciddi nəticələrə səbəb ola biləcəyini göstərir.

Qadağanın səbəbi nədir?

Cümə günü ABŞ hökuməti Anthropic-ə Fable və Mythos modellərinin ixracını məhdudlaşdırmaq barədə göstəriş verib. Rəsmi açıqlamada milli təhlükəsizlik narahatlıqları əsas gətirilsə də, dəqiq səbəblər izah olunmayıb. Bununla bağlı Anthropic şirkəti də məlumat verməyib.

Qərarın dərhal ardınca Anthropic bütün istifadəçilər üçün hər iki modelə girişi dayandırıb. Bu o deməkdir ki, hazırda dünyada heç kim Fable və Mythos modellərindən istifadə edə bilmir.

Məlumata görə, qadağanın səbəbi Amazon tədqiqatçılarının hazırladığı bir hesabat ola bilər. Həmin hesabatda Fable modelinin "cəhənnəmdən çıxarılması" (jailbreak) üsulu təsvir olunur. Lakin kibertəhlükəsizlik mütəxəssisi Katie Moussouris bildirir ki, bu hesabat real bir jailbreak nümayiş etdirmir. O, sadəcə olaraq tədqiqatçıların məlum zəifliklərə malik açıq mənbə kodunu düzəltmək üçün modelə müraciət etdiyini göstərir.

Kimlər etiraz edir?

Açıq məktubu 76 kibertəhlükəsizlik mütəxəssisi imzalayıb. Bunların arasında çox tanınmış simalar var:

• Alex Stamos - Facebook-un keçmiş təhlükəsizlik rəhbəri
• Casey Ellis - Bugcrowd platformasının təsisçisi
• Jon Callas - məşhur kriptoqraf, Apple-ın keçmiş təhlükəsizlik dizayn meneceri
• Paul Vixie - kompüter elmləri üzrə alim
• Dino Dai Zovi - Block şirkətinin keçmiş tətbiqi təhlükəsizlik rəhbəri
• Katie Mossouris - Luta Security-nin təsisçisi
• Rachel Tobac - SocialProof Security şirkətinin CEO-su

Bu siyahı göstərir ki, qadağaya qarşı çıxanlar sadəcə adi istifadəçilər deyil, sahənin ən təcrübəli mütəxəssisləridir.

Mythos və Fable modelləri nədir?

Anthropic-in Mythos modeli aprel ayında öncədən baxış üçün təqdim ediləndə şirkət onun kibertəhlükəsizlik zəifliklərini aşkarlamaq qabiliyyətinin çox yüksək olduğunu bildirib. Bu səbəbdən modelə giriş ciddi şəkildə məhdudlaşdırılıb. İlkin olaraq cəmi 50 şirkətə giriş icazəsi verilib, daha sonra bu say 15 ölkədə 150 təşkilata qədər artırılıb.

Keçən həftə isə Anthropic Fable modelini buraxıb. Bu, Mythos-un ictimai versiyasıdır. Şirkət bildirib ki, Fable modelinə biologiya, kimya və kibertəhlükəsizlik sahələrində istifadəni məhdudlaşdıran ciddi təhlükəsizlik mexanizmləri əlavə olunub. Lakin bu mexanizmlər o qədər sərtdir ki, bir çox kibertəhlükəsizlik mütəxəssisi modelin kibertəhlükəsizliklə bağlı demək olar ki, heç bir sualı cavablandırmadığını aşkar edib.

Nəticə nə olacaq?

Bu qadağa süni intellekt texnologiyalarının inkişafı ilə milli təhlükəsizlik arasında tarazlığın nə qədər çətin olduğunu göstərir. Bir tərəfdən, güclü süni intellekt modellərinin düşmən əllərinə keçməsinin qarşısını almaq lazımdır. Digər tərəfdən, bu modellər kibertəhlükəsizlik müdafiəçiləri üçün vacib alətlərdir.

Kibertəhlükəsizlik veteranları hesab edir ki, hökumət bu qadağanı ləğv etməlidir. Əks halda, ABŞ və onun müttəfiqləri kiberhücumlara qarşı müdafiədə ciddi çətinliklərlə üzləşə bilər. Düşmən ölkələr və təşkilatlar isə öz süni intellekt modellərini inkişaf etdirməyə davam edir.

Bu hadisə Azərbaycan üçün də əhəmiyyətli bir dərsdir. Süni intellekt texnologiyalarının təhlükəsizlik və iqtisadi inkişaf üçün necə idarə olunması, gələcəkdə ölkəmizin də qarşılaşacağı mühüm məsələlərdən biridir. Kibertəhlükəsizlik mütəxəssislərimiz bu sahədə beynəlxalq təcrübələri izləməli və ölkəmizin maraqlarına uyğun strategiyalar hazırlamalıdır.