Hugging Face-də kiberhücum: AI agent təhlükəsizlik mexanizmlərini yan keçdi

Hugging Face şirkətinin insidentə cavab komandası istehsal infrastrukturuna edilən hücumu təhlil etmək üçün qabaqcıl AI modellərindən istifadə etmək istəyəndə, bu modellər kömək etməkdən imtina etdi. Kommersiya təhlükəsizlik maneələri hücumçunu dayandırmaq üçün qurulsa da, əslində müdafiəçilərin sorğularını blokladı, çünki onlar real istismar məlumatlarını canlı hücum kimi qəbul etdilər. Nəticədə, muxtar AI agenti bütün həftəsonu Hugging Face infrastrukturunda hərəkət edərək aşkarlanmadan və dayandırılmadan qaldı. Hadisə iyulun 16-da Hugging Face tərəfindən açıqlandı. Şirkət bildirdi ki, muxtar AI agent sistemi onların istehsal infrastrukturuna icazəsiz daxil olub, məhdud sayda daxili verilənlər toplusuna və bir neçə xidmət etimadnaməsinə giriş əldə edib. Hugging Face proqram təminatı təchizat zəncirinin təmiz olduğunu təsdiqləyib və ictimai modellərə, verilənlər toplusuna və ya Spaces-ə müdaxilə edilmədiyini bildirib. Şirkət hələ də hücumun hər hansı tərəfdaş və ya müştəri məlumatlarına toxunub-toxunmadığını araşdırır və lazım gələrsə, müvafiq tərəflərə məlumat verəcəyini bildirir. Hücumun giriş nöqtəsi zərərli verilənlər toplusu oldu. Məlumat emal boru xətti bu verilənlər toplusunu emal edərkən, iki kod icra yolu açıldı. Bu yollar vasitəsilə AI agenti ilkin girişdən etimadnamə toplamağa qədər bütün kampaniyanı heç bir insan rəhbərliyi olmadan həyata keçirdi. Təhlükəsizlik mütəxəssisləri bu hadisəni qırmızı komanda təlimləri zamanı gördükləri nümunələrə bənzədirlər, lakin bunun real insidentə cavab prosesinə təsir edən ilk yüksək profilli nümunələrdən biri olduğunu qeyd edirlər. Andesite, G2I və AppOmni şirkətlərinin baş məsləhətçisi və AWS-in keçmiş müavin CISO-su Merritt Baerə görə, bu problem yalnız Hugging Face-ə aid deyil. Kommersiya qabaqcıl modellər sui-istifadənin qarşısını almaq üçün optimallaşdırılıb və onların "bu zərərli proqramı təhlil et" sorğusunu insidentə cavab verənin və ya zərərli proqram müəllifinin göndərdiyini müəyyən etmək üçün heç bir kriptoqrafik və ya təşkilati mexanizmi yoxdur. Bu vəziyyət göstərir ki, mövcud təhlükəsizlik sistemləri hücumçuları dayandırmaq üçün nəzərdə tutulsa da, müdafiəçilərin öz işlərini görməsinə mane ola bilər.