Meta valideynlərə xəbərdarlıq edəcək: Uşağınız süni intellektlə intihar və ya özünə zərər vermə haqqında danışıbsa
Sosial media nəhəngi Meta, yeniyetmələrin təhlükəsizliyi ilə bağlı mühüm bir addım atıb. Şirkət, artıq valideynlərə övladlarının Meta AI chatbotu ilə intih
Meta valideynlərə xəbərdarlıq edəcək: Uşağınız süni intellektlə intihar və ya özünə zərər vermə haqqında danışıbsa
Sosial media nəhəngi Meta, yeniyetmələrin təhlükəsizliyi ilə bağlı mühüm bir addım atıb. Şirkət, artıq valideynlərə övladlarının Meta AI chatbotu ilə intihar və ya özünə zərər vermə mövzusunda söhbət etdiyi təqdirdə xəbərdarlıq edəcəyini açıqlayıb. Bu yenilik, xüsusilə gənc istifadəçilərin psixoloji vəziyyətinin izlənilməsi baxımından böyük əhəmiyyət daşıyır.
Yeni təhlükəsizlik sistemi necə işləyir?
Meta, süni intellekt alqoritmlərindən istifadə edərək, yeniyetmələrin özünə zərər vermə ilə bağlı aydın ifadələr işlətdiyi söhbətləri aşkarlayan xüsusi bir sistem qurub. Sistem, potensial təhlükəli söhbətləri avtomatik olaraq müəyyən edir və bu barədə valideynlərə məlumat göndərir. Lakin Meta, bu xəbərdarlıqların valideynlər üçün nə qədər narahatlıq doğura biləcəyini də anlayır. Buna görə də, bütün şübhəli söhbətlər xəbərdarlıq göndərilməzdən əvvəl əl ilə yoxlanılır.
Meta-nın bloq yazısında qeyd olunduğu kimi: "Biz bu xəbərdarlıqların valideynlər üçün nə qədər sarsıdıcı ola biləcəyini anlayırıq. Buna görə də, aşkarlama sistemimizi təkmilləşdirdikcə, süni intellekt tərəfindən işarələnən bütün söhbətlər xəbərdarlıq göndərilməzdən əvvəl əl ilə yoxlanılacaq. Əgər yeniyetmənin niyyəti qeyri-müəyyəndirsə, ehtiyatlı olmaq üçün valideynə xəbərdarlıq edəcəyik. Bu, bəzən real narahatlıq olmadığı halda da valideynlərə xəbərdarlıq göndərə biləcəyimiz anlamına gəlir, lakin biz bunu düzgün başlanğıc nöqtəsi hesab edirik."
Hansı ölkələrdə aktivdir?
Bu xəbərdarlıq sistemi hazırda ABŞ, Böyük Britaniya, Avstraliya və Kanadada Instagram Valideyn Nəzarəti xüsusiyyətindən istifadə edən valideynlər üçün əlçatandır. Meta, bu funksiyanın ilin sonuna qədər qlobal miqyasda tətbiq ediləcəyini vəd edir. Bu addım, əvvəllər Instagram-da intihar və ya özünə zərər vermə ilə bağlı axtarışlar edən yeniyetmələr barədə valideynlərə göndərilən xəbərdarlıqların davamıdır. Həmçinin, valideynlər övladlarının Meta AI ilə son bir həftə ərzində hansı mövzularda söhbət etdiyini də görə bilirlər.
Məhdud Məzmun rejimi genişləndirilir
Meta, artıq mövcud olan "Məhdud Məzmun" (Limited Content) parametrinin indi Meta AI chatbotuna da şamil edildiyini bildirib. Bu parametr, valideynlərə övladlarının Instagram-da daha məhdud bir təcrübə yaşamasına imkan verir. Meta AI artıq yeniyetmələrlə cinsi və ya romantik söhbətlərdən, həmçinin alkoqolla bağlı müzakirələrdən qaçmaq üçün təlim keçib. Məhdud Məzmun rejimi isə bu təhlükəsizlik tədbirlərini daha da genişləndirərək, chatbotun daha geniş çeşidli sorğuları cavablandırmamasını təmin edir. Meta, bu əlavə sorğuların dəqiq nələr olduğunu açıqlamasa da, texnologiya mütəxəssisləri bunun daha həssas mövzuları əhatə edə biləcəyini düşünürlər.
Təcili yardım xidmətləri ilə əlaqə
Meta-nın elan etdiyi digər mühüm yenilik isə, istifadəçinin yaşından asılı olmayaraq, Meta AI ilə söhbət zamanı intihar riski aşkar edilərsə, təcili yardım xidmətləri ilə əlaqə saxlanılmasıdır. Qeyd edək ki, Meta artıq Facebook və ya Instagram-da intihar riski olduğunu göstərən paylaşımlar aşkar edildikdə bu addımı atır. İndi isə bu təcrübə chatbot söhbətlərinə də şamil edilir.
Niyə bu yenilik vacibdir?
Bu dəyişikliklər, Meta və digər texnologiya şirkətlərinin süni intellekt chatbotlarının böhran vəziyyətində olan istifadəçilərə, xüsusən də yeniyetmələrə necə cavab verməsi ilə bağlı tənzimləyici qurumlar və valideynlər tərəfindən artan təzyiqlərə məruz qaldığı bir dövrdə baş verir. Bu, süni intellekt şirkətlərinin öz məhsullarını necə dizayn etdiyini və bazara çıxardığını getdikcə daha çox formalaşdıran bir məsuliyyət məsələsidir.
Azərbaycandakı valideynlər üçün də bu xəbər olduqca aktualdır. Gənclərin sosial media və süni intellekt alətlərindən istifadəsi artdıqca, onların onlayn təhlükəsizliyinin təmin edilməsi də bir o qədər vacib olur. Meta-nın bu addımı, digər texnologiya şirkətləri üçün də nümunə ola bilər və gələcəkdə bu cür təhlükəsizlik tədbirlərinin daha da genişlənməsinə səbəb ola bilər.