Anthropic-in rəhbəri Dario Amodei: Açıq çəkili modellərə qarşı deyil, amma Çin süni intellektindən narahatdır

Anthropic-in rəhbəri Dario Amodei: Açıq çəkili modellərə qarşı deyil, amma Çin süni intellektindən narahatdır

Anthropic şirkətinin təsisçisi və baş icraçı direktoru Dario Amodei sənayedə yayılan şaiələrə cavab olaraq açıqlama verib. Bəzi iddialara görə, Anthropic ABŞ hökumətinin Çin mənşəli açıq çəkili modelləri qadağan etmə səylərini dəstəkləyirmiş. Amodei bu iddiaları qəti şəkildə təkzib edib.

"Keçmiş yazılarımı oxuyan hər kəs bilməlidir ki, mən bu cür qadağaları faydalı tədbir hesab etmirəm. Bunu aydın şəkildə bildirirəm ki, heç bir şübhə qalmasın: Anthropic heç vaxt açıq çəkili modellərin qadağan edilməsini müdafiə etməyib", - deyə Amodei vurğulayıb.

Nvidia-nın açıq məktubu və sənaye reaksiyası

Amodeinin bu açıqlaması Nvidia-nın təsisçisi Jensen Huangın X platformasında paylaşdığı açıq məktubdan sonra gəlib. Həmin məktubda Nvidia, Hugging Face, Meta, Microsoft, Mistral kimi bir çox tanınmış AI şirkəti siyasətçiləri açıq çəkili AI modellərinə qarşı geniş "vaxtından əvvəl məhdudiyyətlər" tətbiq etməməyə çağırıb.

Məktubda Çin xüsusi olaraq qeyd edilməsə də, sənayedəki müzakirələr əsasən Çin AI laboratoriyalarının Amerika həmkarlarından əqli mülkiyyət oğurlamaqla öz qabiliyyətlərini artırması iddiaları ətrafında cərəyan edir. Bu metodlardan biri distillasiyadır - bir AI-nin başqa modelə minlərlə sual göndərərək onun iş prinsipini öyrənməsidir.

Amodeinin açıq çəkili modellərə baxışı

Amodei açıq çəkili modelləri Çin təhlükəsindən fərqli bir kateqoriyada qiymətləndirir. "Təhlükəli qabiliyyətləri olmayan açıq çəkili modellər ictimai faydadır: onlar işləmək üçün lazım olan hesablama gücündən başqa heç nəyə başa gəlmir və bizneslərə, tərtibatçılara və tədqiqatçılara dəyər verir", - deyə o bildirib.

Amodei etiraf edir ki, onun AI ilə bağlı uzun müddətdir narahatlıqları var, lakin bizneslərin açıq çəkili modellərdən, hətta Çin mənşəli olsa belə, istifadə etməsi bu narahatlıqlar sırasında deyil.

Əsas qorxu: Avtoritar rejimlər və hərbi üstünlük

Amodeinin ən böyük qorxusu "avtoritar hökumətlərin" ABŞ-dakılardan daha güclü modellər quraraq "daimi hərbi üstünlük" əldə etməsi və/yaxud AI-dən öz xalqını sıxışdırmaq üçün istifadə etməsidir. O, Çin Kommunist Partiyasının narahat olduğu yeganə avtoritar hökumət olmadığını, lakin "ən qabiliyyətli" olduğunu qeyd edib.

Amodei həmçinin AI-nin təkcə kibertəhlükəsizlik hücumlarına deyil, "bioloji hücumlara" da imkan verəcəyindən qorxduğunu bildirib. Onun fikrincə, açıq çəkili modellər bu ssenarilərdə daha təhlükəlidir, çünki onlara təhlükəsizlik mexanizmləri tətbiq etmək və istifadələrini izləmək çətindir.

Açıq mənbə tərəfdarları ilə fikir ayrılığı

Amodei qeyd edib ki, Böyük Britaniya AI Təhlükəsizlik İnstitutunun hesabatına görə, açıq çəkili modellər bir dəfə yayımlandıqdan sonra geri qaytarıla bilməz. Bu, açıq mənbə tərəfdarlarının iddiasına ziddir - onlar iddia edirlər ki, güclü açıq modellərə çıxış müdafiəçilərə özlərini qorumağa kömək edir.

Amodeinin təklif etdiyi tədbirlər

Amodei Çini məhdudlaşdırmaq üçün bir sıra tədbirlər sadalayıb:

• Çinin güclü çiplərə çıxışının məhdudlaşdırılması (bu, uzun müddətdir ABŞ siyasətidir)
• Distillasiyaya qarşı rəsmi mübarizə tədbirlərinin görülməsi
• Beynəlxalq model təhlükəsizliyi test təşkilatının yaradılması

Maraqlıdır ki, Amodei bütün dünyanın, o cümlədən Çinin də tabe olacağı bir model təhlükəsizliyi test təşkilatının yaradılması səylərini dəstəklədiyini bildirib. "Düşünürəm ki, bu fikir əslində konsensusa yaxındır", - deyə o qeyd edib.

ABŞ əvvəllər Çinə qarşı sanksiyalar tətbiq edəcəyi ilə hədələyib, əgər Amerika modellərinin əqli mülkiyyət oğurluğu müəyyən edilərsə. Amodeinin açıqlaması göstərir ki, o, açıq çəkili modellərin tam qadağan edilməsinə qarşı olsa da, Çin AI-nin yaratdığı təhlükələrə qarşı mübarizədə daha məqsədyönlü yanaşmanı dəstəkləyir.