Google tədqiqatçıları "sadiq qeyri-müəyyənlik" konseptini təqdim edir: LLM-lər hallüsinasiya əvəzinə ən yaxşı təxminlərini təklif edə biləcək

Böyük dil modelləri (LLM) hələ də hallüsinasiya problemi ilə üzləşir və bu, real dünya müəssisə tətbiqləri üçün ciddi bir maneə yaradır. Bu səhvləri azaltmaq çətin bir işdir və model tərtibatçıları faktiki xətaları aradan qaldırarkən çox vaxt düzgün cavabları da boğmaq məcburiyyətində qalırlar. Google tədqiqatçıları yeni bir məqalədə "sadiq qeyri-müəyyənlik" anlayışını irəli sürür, bu da modelin cavabını onun daxili inam səviyyəsi ilə uyğunlaşdıran metakoqnitiv bir texnikadır. Bu yanaşma modelə sadəcə "cavab ver və ya çəkin" ikili sistemindən qaçmağa imkan verir. Bunun əvəzinə, model öz qeyri-müəyyənliyini etiraf edərək "Mənim ən yaxşı təxminim budur" kimi ehtiyatlı fərziyyələr təklif edə bilir. Beləliklə, LLM-lər öz bilik sərhədlərini daha dəqiq tanıyır və istifadəçiyə yanlış məlumat vermə riskini azaldırlar. Real dünya agentik AI tətbiqlərində bu metakoqnitiv şüur vacib bir nəzarət qatı rolunu oynayır. Bu, avtonom sistemlərə öz daxili biliklərinin nə vaxt kifayət etdiyini və nə vaxt xarici alətlərə və ya axtarış API-lərinə müraciət etmək lazım olduğunu dinamik şəkildə müəyyən etməyə kömək edir. Nəticədə, sistemlər daha etibarlı və dəqiq cavablar verə bilirlər. LLM-lərin hallüsinasiya problemini anlamaq üçün modelin faktları bilməsi ilə nəyi bildiyini bilməsi arasında fərq qoymaq lazımdır. Tarixən AI-də fakt dəqiqliyinin yaxşılaşdırılması daha çox bilik sərhədini genişləndirməklə, yəni daha böyük ölçü və daha çox təlim məlumatı vasitəsilə modelə daha çox fakt yerləşdirməklə əldə edilmişdir. Lakin modelin bilik sərhədini genişləndirmək onun sərhəd şüurunu, yəni məlum olanı məlum olmayandan ayırmaq qabiliyyətini avtomatik yaxşılaşdırmır. Google-da tədqiqatçı və məqalənin həmmüəllifi Qal Yonanın VentureBeat-ə verdiyi açıqlamaya görə, LLM fakt dəqiqliyini yaxşılaşdırmağın iki əsas yolu var. Birinci yol modelə daha çox fakt öyrətməkdir, lakin modelin tutumu məhduddur və bilik uzun quyruğu effektiv olaraq sonsuzdur. Modellər bu həddə çatdıqda, onların nəyi bilmədiklərini bilmələri və sadəcə cavab verməkdən çəkinmələri gözlənilir, lakin bu, LLM-lər üçün təbii olaraq çətin bir məsələdir. Məhz bu nöqtədə "sadiq qeyri-müəyyənlik" konsepti ənənəvi "cavab ver və ya çəkin" yanaşmasına alternativ təklif edərək daha çevik və etibarlı bir həll yolu təqdim edir.