AI Kod Təhlükəsizlik Agentləri Zərərli Kodu İcra Etməyə Aldana Bilər

Süni intellekt kod agentlərindən açıq mənbəli proqram təminatında təhlükəsizlik boşluqlarını aşkar etməyi istəsəniz, onlar hücumçunun kodunu birbaşa sizin maşınınızda işlədə bilər. Bu, AI Now İnstitutunun çərşənbə günü dərc etdiyi "Friendly Fire" adlı konsept sübutunda aşkar edilən əsas təhlükədir. Həmin hücum üsulu, Anthropic-in Claude Code və OpenAI-in Codex alətləri avtonom rejimdə işləyərkən öz qərarlarını özləri təsdiqlədikdə təsirli olur. Bu hücumun işləmə mexanizmi olduqca sadədir: hücumçu açıq mənbəli kod deposuna zərərli kod yerləşdirir və sonra AI agentindən həmin deponu skan etməyi xahiş edir. Agent təhlükəsizlik yoxlaması aparmaq əvəzinə, zərərli kodu avtomatik olaraq işə salır və bu, sistemin ələ keçirilməsinə səbəb olur. Məsələn, agentə "bu depoda təhlükəsizlik boşluqlarını tap" kimi bir təlimat verildikdə, o, əslində həmin depodakı icra edilə bilən faylları işə salmağa başlayır. AI Now İnstitutunun tədqiqatçıları bu zəifliyin xüsusilə təhlükəli olduğunu vurğulayırlar, çünki bir çox inkişaf etdirici AI agentlərini avtonom rejimdə işlədir və onların etdiyi hərəkətləri yoxlamır. Bu vəziyyətdə agent, hücumçunun kodunu heç bir müdaxilə olmadan icra edə bilər və beləliklə, bütün yerli sistem təhlükə altına düşür. Tədqiqatçılar, bu tip hücumların qarşısını almaq üçün AI agentlərinin icra etdiyi kodları insan tərəfindən təsdiqləmə məcburiyyətində olmasını tövsiyə edirlər. Bu kəşf, süni intellektin kod təhlükəsizliyi sahəsində istifadəsinin hələ də ciddi risklər daşıdığını göstərir və inkişaf etdiricilərin bu alətləri ehtiyatla istifadə etmələrini zəruri edir.