Discord süni intellekt moderasiyasındakı səhv nəticəsində minlərlə istifadəçi haqsız yerə bloklanıb

Discord süni intellekt moderasiyasındakı səhv nəticəsində minlərlə istifadəçi haqsız yerə bloklanıb

Discord platforması son iki ayda süni intellekt əsaslı moderasiya sistemindəki xəta səbəbindən 8 mindən çox istifadəçinin səhvən bloklandığını etiraf edib. Şirkət bu problemi may ayından etibarən müşahidə etdiyini və həftə sonu daha 200 istifadəçinin bloklanmasından sonra xətanın aşkar edilərək düzəldildiyini bildirib.

Niyə günahsız şəkillər bloklanmaya səbəb oldu?

Discord-un süni intellekt moderasiya sistemi zərərsiz şəkilləri təhlükəli məzmun kimi səhvən qeyd edib. Siyahıya cədvəllər, şahmat lövhələri, oyun teksturaları, ağ və boz rəngli şəffaf fonlar kimi sadə şəkillər daxildir. Şirkət izah edir ki, onların avtomatik təhlükəsizlik sistemi yüklənən məzmunu məlum zərərli materialların verilənlər bazası ilə müqayisə edərək işləyir.

Normalda sistem şübhəli məzmunu insan moderatoruna yönləndirir, lakin xəta səbəbindən birbaşa bloklama əmri verilib. Discord bu səhvin bir daha təkrarlanmaması üçün tədbirlər gördüyünü vəd edir.

İstifadəçilər sosial mediada narazılıqlarını bildirir

X və Reddit platformalarında istifadəçilər yalnız kvadrat şəbəkə naxışları olan şəkillər yüklədikləri üçün qalıcı şəkildə bloklandıqlarını iddia edirlər. Bəzi istifadəçilər Discord-un süni intellekt alətlərinin şəbəkəyə bənzər naxışlara qarşı həssaslaşdığını düşünür, çünki bu cür naxışlar əvvəllər avtomatik aşkarlama sistemlərini aldatmaq üçün istifadə olunub.

Bir X istifadəçisi yazır: "Discord hesabını bu qədər ədalətsiz bir səbəbə görə itirmək çox üzücüdür. Milyonlarla istifadəçi hər gün səhv süni intellekt bloklamalarından əziyyət çəkir. Bu dayandırılmalıdır."

Oyun inkişaf etdiriciləri üçün böyük problem

Bloklanan istifadəçilər arasında peşəkar oyun inkişaf etdiriciləri də var. Bir oyun direktoru hesabının oyun teksturaları səbəbindən bloklandığını və bu səbəbdən iş əlaqələrini itirdiyini bildirib. O, Discord-dan mövqeyini nəzərdən keçirməyi xahiş edib.

Bu hadisə göstərir ki, süni intellekt moderasiyası texnologiya şirkətləri üçün getdikcə daha böyük problemə çevrilir. Platformalar avtomatik sistemlərə güvəndikcə, səhv bloklamaların sayı da artır.

Discord tək deyil: Instagram və Facebook da oxşar problemlərlə üzləşib

Keçən il Instagram və Facebook Groups istifadəçiləri də geniş yayılmış izahsız hesab bloklamaları ilə qarşılaşıblar. İstifadəçilər bunun süni intellekt moderasiyası nəticəsində baş verdiyini düşünsələr də, Meta şirkəti rəsmi olaraq süni intellekt xətasını təsdiqləməyib. Hal-hazırda Meta-nın Nəzarət Şurası bu məsələ ilə bağlı araşdırma aparır.

Bloklanan hesablar bərpa olunur

Discord bütün səhvən bloklanmış hesabların bərpa olunduğunu və bu prosesin davam etdiyini bildirir. Şirkət gələcəkdə belə səhvlərin qarşısını almaq üçün daha yaxşı müdafiə mexanizmləri üzərində işlədiyini vurğulayır.

Əgər siz də Discord hesabınızın səhvən bloklandığını düşünürsünüzsə, rəsmi dəstək kanalları vasitəsilə müraciət edə bilərsiniz. Unutmayın ki, süni intellekt sistemləri mükəmməl deyil və bəzən səhvlər edə bilər. Vacib məlumatlarınızı mütəmadi olaraq ehtiyat nüsxəsini çıxarmaq həmişə yaxşı bir təcrübədir.

Bu hadisə bizə göstərir ki, texnologiya nə qədər inkişaf etsə də, insan nəzarəti hələ də əvəzolunmazdır. Süni intellekt sistemləri köməkçi ola bilər, lakin son qərarı insanlar verməlidir.