Hökumət OpenAI-nin qabaqcıl modelini necə təhlükəsiz elan etdi?

Hökumət OpenAI-nin qabaqcıl modelini necə təhlükəsiz elan etdi?

Süni intellekt dünyasında maraqlı bir hadisə baş verdi. OpenAI özünün ən yeni və ən güclü dil modeli olan Sol-u geniş ictimaiyyətə təqdim etdi. Sol, qabiliyyətlərinə görə Anthropic-in Fable modeli ilə rəqabət aparır. Xatırladaq ki, Fable modeli bir müddət əvvəl Ağ Evdə ciddi narahatlıq yaratmış və hətta ictimaiyyətə açıqlanması müvəqqəti qadağan edilmişdi. Bəs bu qədər güclü və potensial riskli modellərə necə icazə verildi? Bu sualın cavabı təəssüf ki, hələ də qaranlıq qalır.

Görünən odur ki, bu prosesdə şəffaflıq və aydınlıq yox dərəcəsindədir. Corctaun Texnologiya və Təhlükəsizlik Mərkəzinin baş analitiki Mina Narayanan bu mövzuda açıq şəkildə məlumatsızlığını etiraf edir. O, hökumətin dəqiq hansı meyarlardan istifadə etdiyini və modellərin təhlükəsizlik qiymətləndirməsinin necə aparıldığını bilmədiyini deyir. Bu, vəziyyətin nə qədər qeyri-müəyyən olduğunu göstərir.

Maraqlıdır ki, Anthropic şirkəti hökumətlə söhbətlər apardıqlarını və jailbreak cəhdlərini aşkarlamaq üçün xüsusi klassifikator hazırladıqlarını bildirib. Lakin bu dialoqun dəqiq məzmunu və hansı təhlükəsizlik tələblərinin qarşılandığı ictimaiyyətə açıqlanmır. Bu qeyri-müəyyənlik sənaye mütəxəssisləri arasında da narahatlıq yaradır.

Keçmiş Trump məsləhətçisi və hal-hazırda OpenAI-də çalışan Din V. Ball öz bülletenində "lisenziya almaq üçün tələblərin nə olduğunu heç kimin bilmədiyini" yazıb. Bu, çox ciddi bir etirafdır. Databricks, Perplexity və Laude İnstitutunun həmtəsisçisi Endi Konvinski isə daha da irəli gedərək, bu prosesi başa düşən heç kimlə rastlaşmadığını, hətta qabaqcıl laboratoriyaların işçilərinin belə bundan xəbərsiz olduğunu deyir. O, bu vəziyyəti "ekzistensial problem" adlandırır: "Təhlükəsizlik və ya yox, məsələ kimin qərar vermə səlahiyyətinə malik olmasıdır."

Bu qeyri-müəyyənlik fonunda Trump administrasiyasının 18 ayı geridə qalıb, lakin hələ də aydın bir yol xəritəsi yoxdur. Keçən ay uzun müzakirələrdən sonra qabaqcıl modellərin qiymətləndirilməsi üçün bir icra əmri dərc olunsa da, təfərrüatlar hələ də boş qalır. Ağ Evin keçmiş süni intellekt üzrə baş məsləhətçisi Şriram Krişnan açıq şəkildə bildirib ki, "AI üçün FDA olmayacaq". Yəni, süni intellekt modellərinin təsdiqlənməsi üçün mərkəzləşdirilmiş və sərt bir tənzimləyici orqan yaradılmayacaq.

Hazırda ən böyük problemlərdən biri də odur ki, hansı modellərin hökumət nəzarətinə ehtiyacı olduğu və bu qiymətləndirmələri hansı qurumun aparmalı olduğu barədə hələ də konsensus yoxdur. Ticarət Departamentinin AI Standartları və İnnovasiya Mərkəzi bu işdə öncülük etməyə çalışsa da, icra əmri altı kabinet agentliyinə avqustun əvvəlinə qədər yekun prosesi müəyyənləşdirməyi tapşırıb. Yəni, hələlik heç nə qəti deyil.

Bu arada ortaya çıxan proses ən yaxşı halda "xüsusi" (ad hoc) olaraq təsvir edilə bilər. OpenAI-nin baş direktoru Sem Altman CNBC-yə verdiyi müsahibədə prosesin Ticarət Katibi, Xəzinə Katibi və milli kiberdirektor kimi yüksək vəzifəli şəxslərlə söhbətləri əhatə etdiyini söyləyib. Lakin modelləri kimin, necə sınaqdan keçirdiyi barədə heç bir məlumat yoxdur. OpenAI özü də hökumətin prosesi ilə bağlı təfərrüatı bölüşməkdən imtina edir.

OpenAI yalnız UK AISI, SecureBio və Irregular kimi təşkilatların xarici qiymətləndirmələrinin nəticələrinə istinad edir. Lakin bu qiymətləndirmələrin də kifayət qədər hərtərəfli olub-olmaması sual altındadır. Nəticə etibarilə, bu gün ən qabaqcıl süni intellekt modellərinin təhlükəsizliyi barədə qərar qeyri-müəyyən, qeyri-şəffaf və çox vaxt sənaye oyunçularının özlərinin iradəsinə buraxılmış vəziyyətdədir. Bu, təkcə texnoloji deyil, həm də ciddi bir idarəetmə problemidir.