OpenAI açıq mənbə layihələrində təhlükəsizlik boşluqlarını aşkar etmək üçün yeni təşəbbüs işə saldı

OpenAI açıq mənbə layihələrində təhlükəsizlik boşluqlarını aşkar etmək üçün yeni təşəbbüs işə saldı

OpenAI, açıq mənbə icmasının kibertəhlükəsizlik səviyyəsini yüksəltməsinə kömək etmək məqsədi ilə yeni bir təşəbbüs başladıb. "Patch the Planet" adlanan bu layihə, 1995-ci ildə çəkilmiş "Hackers" filmindəki məşhur "Hack the Planet" ifadəsinə bir göndərmədir. OpenAI bu təşəbbüs çərçivəsində təhlükəsizlik şirkəti Trail of Bits ilə əməkdaşlıq edərək açıq mənbə layihələrinin müdafiəçilərinə dəstək olacaq.

Açıq mənbə proqram təminatı, kommersiya proqram sənayesinin əsasını təşkil edir. Lakin bu ekosistemin mərkəzləşdirilməmiş və kifayət qədər nəzarət olunmayan quruluşu səbəbindən bir çox proqram təhlükəsizlik baxımından zəifdir. Açıq mənbə layihələrindəki səhvlər, kommersiya kod bazaları üçün böyük problemlər yarada bilər. Bir neçə il əvvəl baş verən log4j qalmaqalı bunun ən bariz nümunəsidir. Geniş istifadə olunan bu açıq mənbə alətində aşkar edilən ciddi zəiflik, bütün sənaye üçün böyük təhlükə yaratmışdı.

OpenAI-nin açıqlamasına görə, Trail of Bits şirkətinin təhlükəsizlik mütəxəssisləri birbaşa açıq mənbə layihələrinin müdafiəçiləri ilə işləyərək potensial kod problemlərini araşdıracaqlar. Bu prosesdə OpenAI-nin Codex Security kimi təhlükəsizlik alətlərindən istifadə olunacaq. OpenAI bildirir ki, bir çox layihə müdafiəçisi artıq məhdud vaxt və resurslarla çox sayda hesabatı daha sürətli emal etmək məcburiyyətindədir. "Patch the Planet" təşəbbüsü bu yükü azaltmaq üçün nəzərdə tutulub.

Təşəbbüsün iş mexanizmi belədir: təhlükəsizlik mühəndisləri, hesabatlar layihə müdafiəçilərinə çatmamışdan əvvəl onları nəzərdən keçirir, layihələrlə birlikdə düzəlişlər və testlər hazırlayır, həmçinin təkrarlana bilən iş axınları yaradır. Bu, komandalara ilk düzəlişlərdən sonra da təhlükəsizliyi yaxşılaşdırmağa davam etməyə imkan verir. Trail of Bits mühəndisləri, sanki kod üçün təcili yardım həkimi kimi fəaliyyət göstərəcəklər. Onlar OpenAI-nin proqram təminatı ilə dəstəklənərək açıq mənbə layihələrindəki potensial problemləri müəyyənləşdirəcək və onları həll edəcəklər.

Bu təşəbbüsün uzun müddətdə necə işləyəcəyi və miqyasını necə genişləndirəcəyi hələ tam aydın deyil. Lakin bu, açıq mənbə icmasının çoxdan ehtiyac duyduğu bir layihədir. Son vaxtlar süni intellekt alətlərinin, məsələn Anthropic şirkətinin Mythos alətinin, kod bazalarındakı mövcud səhvləri avtomatik aşkarlayaraq onlar üçün istismar üsulları yarada bilməsi narahatlıq doğurur. Kibercinayətkarlığın avtomatlaşdırılması yeni bir hadisə olmasa da, bu alətlər pis niyyətli şəxslər üçün işləri xeyli asanlaşdırmaq potensialına malikdir.

OpenAI isə bu formulu tərsinə çevirərək süni intellektdən açıq mənbə icmasının özünü daha yaxşı qorumasına kömək etmək üçün istifadə edir. Bu addımı həm Anthropic-ə rəqabət zərbəsi, həm də açıq mənbə ekosistemi üçün həyati əhəmiyyətli bir dəstək kimi qiymətləndirmək olar. "Patch the Planet" təşəbbüsü, süni intellektin təhlükəsizlik sahəsində necə konstruktiv şəkildə istifadə oluna biləcəyini göstərən maraqlı bir nümunədir.

Ümumilikdə, bu təşəbbüs açıq mənbə layihələrinin təhlükəsizliyini artırmaq və onları potensial hücumlardan qorumaq üçün mühüm bir addımdır. OpenAI və Trail of Bits arasındakı bu əməkdaşlıq, gələcəkdə daha təhlükəsiz proqram təminatı ekosisteminin qurulmasına töhfə verə bilər.