Süni intellektin təhlükəsizlik maneələri kibertəhlükəsizlik tədqiqatçılarının işinə necə mane olur?

Süni intellektin təhlükəsizlik maneələri kibertəhlükəsizlik tədqiqatçılarının işinə necə mane olur?

Süni intellekt sahəsində lider olan şirkətlər aylardır öz modellərini pis niyyətli hakerlərdən qorumaq üçün xüsusi proqramlar və ciddi təhlükəsizlik maneələri hazırlayırlar. Lakin bu məhdudiyyətlər indi qanuni şəbəkə müdafiəçilərinin və hücum xarakterli kibertəhlükəsizlik tədqiqatçılarının işinə əngəl törədir.

2026-cı ilin iyun ayında ABŞ hökuməti Anthropic şirkətinin çox bəyənilən süni intellekt modelləri Mythos və Fable-a ixrac nəzarəti məhdudiyyətləri tətbiq etdi. Bu addım qismən də olsa, həmin modellərin təhlükəsizlik maneələrini keçməyin mümkün olduğunu iddia edən bir hesabata əsaslanırdı. Hadisənin həqiqətən də jailbreak qorxusundan qaynaqlanıb-qaynaqlanmamasından asılı olmayaraq, fakt odur ki, Anthropic Mythos-u yalnız diqqətlə yoxlanılmış istifadəçilərə verilə bilən və hətta onlara da ciddi məhdudiyyətlər qoyulan bir növ qiyamət maşını kimi təqdim edirdi.

Qeyd edək ki, Fable 5 və Mythos 5-ə tətbiq edilən ixrac məhdudiyyətləri sonradan götürülüb. Fable 5 iyulun 1-dən ümumi istifadəyə qaytarılıb, Mythos 5 isə yalnız yoxlanılmış ABŞ təşkilatlarına hökumətin baxış prosesinin bir hissəsi kimi yenidən təqdim edilib.

Bu cür giriş məhdudiyyətləri yalnız Mythos-a aid deyil. Həm Anthropic, həm də OpenAI kibertəhlükəsizlik tədqiqatçıları üçün xüsusi proqramlar təklif edir. OpenAI-nin "Trusted Access for Cyber" və Anthropic-in "Cyber Verification Program" proqramları vasitəsilə tədqiqatçılar yoxlanıldıqdan sonra daha az məhdudiyyətli modellərə çıxış əldə edə bilirlər.

Bu maneələr geniş tənqid hədəfinə çevrilib. Xüsusilə də işi sistemlərdə naməlum zəiflikləri tapmaq və cinayətkarlardan qabaq onlardan istifadə üsulları hazırlamaq olan tədqiqatçılar bu yanaşmadan narazıdırlar. Tanınmış təhlükəsizlik tədqiqatçısı Mark Dowd bu yaxınlarda bir podkastda bu mövzuda fikirlərini bölüşüb: "Bu mənim üçün rahat deyil ki, təsadüfi böyük şirkətlər təhlükəsizlik sahəsində nəyin təhlükəsiz olduğuna dair özbaşına qərarlar verir."

Dowd onilliklər ərzində "sıfır gün" zəifliklərini - əvvəllər məlum olmayan proqram xətalarını və onlardan istifadə üsullarını - proqram təminatçılarına bildirmək əvəzinə, Qərb hökumətlərinə satmaqla məşğul olub. Hökumətlər zəifliklər üçün mükafat ödəyir, çünki onlar açıq qalır və bu, kəşfiyyat əməliyyatları üçün faydalıdır.

Dowd etiraf edir ki, onun işi onu qərəzli edə bilər, lakin o, bu məsələdə tək deyil. Hücum xarakterli kibertəhlükəsizlik sahəsində çalışan bir neçə mütəxəssis TechCrunch-a süni intellekt alətlərindən necə istifadə etdiklərini və maneələrlə necə mübarizə apardıqlarını danışıb.

Təhlükəsizlik konsaltinq nəhəngi NCC Group-un baş elmi işçisi Kris Anli deyir ki, süni intellekt modelindən bir xətanı istismar etməyə çalışmasını istəmək, onun həqiqətən də düzəldilməli olan real zəiflik olduğunu təsdiqləmək üçün əsas addımdır. Lakin təhlükəsizlik maneəsi modelin suala cavab verməkdən imtina etməsinə səbəb olarsa, bu, müdafiəçilərə zərər verir.

"Məsələ məhz hücum və müdafiə arasındakı sərhəddədir. 'Bu kodu düzəlt' əmri həm müdafiə üçün vacib mexanizmdir, həm də kod bazasında kritik zəiflikləri tapmaq üçün bir xəritədir," deyə Anli bildirib. "Eyni alət həm hücum aləti, həm də müdafiə alətidir və bu ikisini bir-birindən ayırmaq mümkün deyil."

Bu vəziyyət göstərir ki, süni intellekt modellərinə tətbiq edilən təhlükəsizlik maneələri yalnız pis niyyətli istifadəçiləri deyil, həm də kibertəhlükəsizlik sahəsində çalışan qanuni mütəxəssislərin işini çətinləşdirir. Tədqiqatçıların fikrincə, bu maneələr yenidən nəzərdən keçirilməli və daha balanslı yanaşma tətbiq edilməlidir.