Amazon rəhbəri Anthropic model təhlükəsizliyi ilə bağlı hökumətə xəbərdarlıq edib

Amazon rəhbəri Anthropic model təhlükəsizliyi ilə bağlı hökumətə xəbərdarlıq edib

Amazon-un baş icraçı direktoru Endi Cessi, Anthropic şirkətinin süni intellekt modelləri ilə bağlı təhlükəsizlik narahatlıqlarını ABŞ hökumətinə çatdıran əsas mənbə ola bilər. Bu xəbər, Wall Street Journal qəzetinin araşdırmasına əsaslanır. Məlumata görə, Cessi Xəzinədarlıq katibi Skott Bessent və digər hökumət rəsmilərinə Amazon tədqiqatçılarının Anthropic-in Claude Fable 5 modelindən kiberhücumlarda istifadə oluna biləcək məlumatlar əldə etdiyini bildirib.

Bu hadisə, süni intellekt sahəsində təhlükəsizlik məsələlərinin nə qədər ciddi olduğunu bir daha göstərir. Amazon-un Anthropic-ə böyük sərmayə qoyduğunu nəzərə alsaq, bu addım olduqca diqqət çəkir. Şirkət həm investor, həm də tənzimləyici orqanlarla əməkdaşlıq edən tərəf kimi çıxış edir.

Hökumət, bu xəbərdarlıqdan sonra Claude Fable 5 və Mythos 5 modellərinə ixrac nəzarəti tətbiq edib. Bu qərar, süni intellekt texnologiyalarının milli təhlükəsizlik baxımından nə qədər həssas olduğunu göstərir. Amazon sözçüsü, hökumətlərin potensial təhlükəsizlik riskləri barədə məsləhət istəməsinin qeyri-adi olmadığını, lakin şirkətin bu müzakirələrin təfərrüatlarını paylaşmadığını bildirib.

Donald Trampın keçmiş süni intellekt məsləhətçisi Devid Saks, bu məsələ ilə bağlı öz versiyasını təqdim edib. Saks, "həm Anthropic, həm də ABŞ hökuməti üçün etibarlı tərəfdaş olan bir qurumun jailbreak (təhlükəsizlik bypass) haqqında məlumat təqdim etdiyini" iddia edir. Onun sözlərinə görə, administrasiya Anthropic-in baş icraçı direktoru Dario Amodeidən bu problemi həll etməyi və ya modeli söndürməyi tələb edib, lakin Amodei bu tələbi rədd edib.

Bu hadisə, süni intellekt şirkətləri ilə hökumət arasında münasibətlərin nə qədər mürəkkəb olduğunu göstərir. Bir tərəfdən, texnologiya şirkətləri öz məhsullarının təhlükəsizliyini təmin etmək istəyir, digər tərəfdən isə hökumətlər milli təhlükəsizlik baxımından narahatlıqlarını dilə gətirir.

Süni intellekt modellərinin təhlükəsizliyi, xüsusilə də onların kiberhücumlarda istifadə oluna bilməsi ehtimalı, beynəlxalq miqyasda ciddi müzakirələrə səbəb olur. Amazon-un bu mövzuda hökumətə müraciət etməsi, şirkətin sosial məsuliyyətini göstərsə də, eyni zamanda investor kimi çıxış etdiyi şirkətə qarşı etimad məsələsini də gündəmə gətirir.

Anthropic kimi süni intellekt şirkətləri, öz modellərinin təhlükəsizliyini təmin etmək üçün daim çalışır. Lakin bu hadisə, hətta ən qabaqcıl təhlükəsizlik tədbirlərinin belə mükəmməl olmadığını göstərir. Amazon tədqiqatçılarının modeli jailbreak edə bilməsi, süni intellekt sistemlərinin nə qədər həssas olduğunu ortaya qoyur.

Azərbaycan kontekstindən baxdıqda, bu hadisə ölkəmizdə süni intellekt texnologiyalarının tətbiqi ilə bağlı mühüm dərslər verir. Süni intellekt sistemlərinin təhlükəsizliyi, xüsusilə dövlət qurumları və kritik infrastruktur sahələrində istifadə olunan texnologiyalar üçün böyük əhəmiyyət kəsb edir.

Süni intellekt sahəsində tənzimləmə məsələləri, bütün dünyada olduğu kimi, Azərbaycanda da aktuallığını qoruyur. Bu cür hadisələr, güclü təhlükəsizlik protokollarının və hökumətlə texnologiya şirkətləri arasında effektiv əməkdaşlığın vacibliyini vurğulayır.

Texnologiya şirkətləri, öz məhsullarının təhlükəsizliyini təmin etməklə yanaşı, hökumətlərlə şəffaf əlaqələr qurmalıdır. Bu, həm milli təhlükəsizliyi qorumağa, həm də innovasiyaların inkişafına şərait yaradır.

Nəticə olaraq, Amazon CEO-sunun Anthropic modelləri ilə bağlı xəbərdarlığı, süni intellekt texnologiyalarının tənzimlənməsi və təhlükəsizliyi sahəsində yeni bir dövrün başlanğıcı ola bilər. Bu hadisə, gələcəkdə daha sərt tənzimləmələrin və daha yaxşı təhlükəsizlik protokollarının tətbiqinə səbəb ola bilər.