Anthropic-in təhlükəsizlik xəbərdarlıqları geri effekt verdi — hökumət ən güclü süni intellektini söndürdü

Anthropic-in təhlükəsizlik xəbərdarlıqları geri effekt verdi — hökumət ən güclü süni intellektini söndürdü

ABŞ hökuməti cümə günü Anthropic şirkətinə ən güclü iki süni intellekt modelini — Claude Fable 5 və Claude Mythos 5-i dərhal söndürməyi əmr etdi. Səbəb kimi milli təhlükəsizlik narahatlıqları göstərildi. Anthropic bu qərara əməl etdiyini açıqlasa da, hökumətin səhv etdiyini vurğuladı.

Bu direktiv şirkətə bütün dünya üzrə istifadəçilər üçün hər iki modeli əlçatmaz etməyi tapşırır. Maraqlıdır ki, əmr rəsmi olaraq xarici vətəndaşların girişini məhdudlaşdırmaq məqsədi daşısa da, praktikada heç bir istisna qoyulmadı. Anthropic-in digər modelləri isə bu qadağadan təsirlənmədi.

Mythos 5 niyə bu qədər xüsusidir?

Mythos 5 Anthropic-in ən güclü süni intellekt modelidir. Şirkət bu modeli aprelin əvvəlində nümayiş etdirmişdi və o vaxtdan bəri ciddi şəkildə məhdudlaşdırılmışdı. Səbəb? Mythos proqram təminatında təhlükəsizlik zəifliklərini tapmaqda fövqəladə qabiliyyət göstərir.

Anthropic-in məlumatına görə, Mythos sınaqdan keçirdiyi bütün əsas əməliyyat sistemlərində və veb brauzerlərdə nöqsanlar aşkar edib. Buna görə də şirkət modeli geniş ictimaiyyətə təqdim etmək əvəzinə, "Project Glasswing" adlı məhdud proqram işə saldı. Bu proqram çərçivəsində Mythos təxminən 50 təsdiqlənmiş təşkilatla — o cümlədən Amazon, Apple, Google, Microsoft və CrowdStrike ilə — müdafiə kibertəhlükəsizlik məqsədləri üçün paylaşıldı.

Fable 5 — kommersiya təzyiqinə cavab

Fable 5 cəmi üç gün əvvəl buraxılmışdı və bu, Anthropic-in açıq kommersiya təzyiqinə cavabı idi. Şirkət Fable 5-in Mythos-un təhlükəsiz variantı olduğunu iddia edirdi. Bu versiyada kibertəhlükəsizlik və biologiya kimi yüksək riskli sahələrdə cavabları bloklayan məhdudiyyətlər (guardrails) var idi.

Vals AI şirkətinin benchmark testlərinə görə, Fable 5 ictimaiyyətə açıq olan ən güclü süni intellekt modeli idi. Bu testlər süni intellekt texnologiyalarının performansını izləyən müstəqil bir platforma tərəfindən aparılır.

Hökumətin əsas narahatlığı nədir?

Hökumətin direktivi rəsmi olaraq ixrac nəzarəti tədbiri kimi təqdim olunur. Lakin Anthropic-in uzun bir bloq yazısında izah etdiyinə görə, əsl narahatlıq Fable 5-in sındırılması (jailbreak) iddiasıdır.

Anthropic deyir ki, hökumət indiyə qədər yalnız şifahi sübut təqdim edib. Bu sübut "potensial dar, universal olmayan bir jailbreak" ilə bağlıdır. Şirkətin təsvirinə görə, bu, modeli müəyyən bir kod bazasını oxumağa və proqram təminatındakı nöqsanları müəyyən etməyə təşviq etməkdir.

Maraqlıdır ki, Anthropic vurğulayır ki, bu səviyyədə qabiliyyət artıq digər ictimai modellərdə — o cümlədən OpenAI-in GPT-5.5 modelində — geniş şəkildə mövcuddur. Üstəlik, bu cür imkanlar kibertəhlükəsizlik mütəxəssisləri tərəfindən müdafiə məqsədləri üçün gündəlik istifadə olunur.

Anthropic-in təhlükəsizlik arqumenti

Anthropic-in əsas arqumenti ondan ibarətdir ki, onların ən güclü təhlükəsizlik mexanizmləri modeldən ayrı işləyən müstəqil klassifikator sistemləri vasitəsilə fəaliyyət göstərir. Bu o deməkdir ki, kimsə Fable-ı imtina etdikdən sonra danışmağa davam etməyə inandırsa belə, ən təhlükəli çıxışlara qarşı əsas qoruyucular yerində qalır.

Şirkət həmçinin qeyd edir ki, son istifadəni nəzərdən keçirərkən bu təhlükəsizlik mexanizmlərinin uğurla keçildiyinə dair heç bir sübut tapılmayıb. Yəni, model həqiqətən zərərli məzmun istehsal etməyib.

Bu hadisə Azərbaycan kontekstində nə deməkdir?

Bu hadisə süni intellekt təhlükəsizliyi ilə bağlı qlobal müzakirələrə yeni bir ölçü gətirir. Azərbaycanda da süni intellekt texnologiyalarına maraq artır. Dövlət qurumları və özəl şirkətlər getdikcə daha çox AI həllərinə yönəlir.

Bu tip hadisələr göstərir ki, güclü süni intellekt modellərinin idarə olunması sadəcə texniki deyil, həm də siyasi və hüquqi məsələdir. Bir modelin bir ölkədə qadağan edilməsi bütün dünyada onun əlçatanlığına təsir göstərə bilər.

Nəticə

Anthropic-in təhlükəsizlik xəbərdarlıqları, gözlənildiyinin əksinə olaraq, şirkətin ən güclü məhsullarının söndürülməsinə səbəb oldu. Bu, süni intellekt sahəsində təhlükəsizliklə innovasiya arasında tarazlığın nə qədər incə olduğunu göstərir.

Hələlik Anthropic hökumətin qərarına etiraz etsə də, direktivə əməl edib. Şirkət bildirir ki, bu qərar səhvdir və əlavə sübutlar təqdim etməyə hazırdır. Lakin bu məsələnin necə həll olunacağı və gələcəkdə oxşar halların qarşısının necə alınacağı hələ də sual altındadır.