Bakı.Trend:
Azərbaycan Texniki Universitetində böyük dil modellərinin (LLM) hallüsinasiyalarını aşkarlamaq üçün cavabın formalaşma müddəti və qrafik prosessorların (GPU) temperatur dəyişiklikləri də daxil olmaqla, bir neçə göstəricidən istifadə edən yanaşma hazırlanır.
Trend-in müxbirinin verdiyi məlumata görə, bu barədə cümə axşamı Azərbaycan Texniki Universitetinin Müdafiə Texnologiyaları və Kibertəhlükəsizlik İnstitutunun icraçı direktoru Rahid Ələkbərli Bakıda keçirilən İnformasiya və Kommunikasiya Texnologiyalarının Tətbiqi üzrə IEEE-nin 20-ci Beynəlxalq Konfransında (AICT2026) bildirib.
Onun sözlərinə görə, böyük dil modellərinin və çatbotların yayılması süni intellektin etibarsız və ya yanlış məlumatlar yaratması ilə müşayiət olunan hallüsinasiya problemini də aktuallaşdırır. Bu isə həmin sistemlərin, o cümlədən müdafiə sənayesində tətbiqi zamanı etibarlılığı ilə bağlı suallar doğurur.
“Belə qənaətə gəldik ki, böyük dil modellərinin lazımi qaydada idarə olunması olmadan süni intellektə etibar edə bilmərik”, - deyə o qeyd edib.
Bu problemi araşdırmaq üçün tədqiqatçılar böyük dil modellərinin sorğulara reaksiyasını təhlil edir, o cümlədən sualların emalı zamanı qrafik prosessorların temperaturunda baş verən dəyişiklikləri ölçürlər.
R. Ələkbərlinin sözlərinə görə, insan mürəkkəb suallara cavab verərkən düşünmək üçün daha çox vaxta ehtiyac duyur. Tədqiqatçılar böyük dil modellərinin fəaliyyətində də oxşar qanunauyğunluqların müşahidə edilib-edilmədiyini və bunlardan potensial hallüsinasiyaların aşkarlanması üçün istifadə imkanlarını araşdırırlar.
O bildirib ki, tədqiqat çərçivəsində modellərin fəaliyyətini qiymətləndirmək üçün beş nəzəri yanaşmadan istifadə olunur. Bunlara Fişer informasiyasına əsaslanan metriklər, Kulbak-Leybler divergensiyası və informasiya həndəsəsi metodları daxildir.
Rahid Ələkbərli əlavə edib ki, tədqiqatçılar cavabın formalaşma müddətini, istifadə olunan tokenlərin sayını və qrafik prosessorların fəaliyyəti ilə bağlı göstəriciləri də nəzərə alırlar.
O vurğulayıb ki, GPU temperaturunun yüksəlməsi yalnız sorğunun emal xüsusiyyətləri ilə deyil, həm də yüksək hesablama yükü daxil olmaqla, digər amillərlə bağlı ola bilər. Buna görə də bu göstərici digər məlumatlarla birlikdə qiymətləndirilir.
