Bakı.Trend:
Müvafiq təhlükəsizlik və nəzarət tədbirləri görülmədiyi təqdirdə, inkişaf etmiş süni intellekt sistemləri bəşəriyyətin mövcudluğu üçün təhlükə yarada, ən güclü modellər isə bədniyyətli şəxslərə kütləvi qırğın silahlarının hazırlanmasında kömək edə bilər.
"Claude" modelinin yaradıcısı olan Anthropic şirkəti bu barədə xəbərdarlıqları ABŞ Qiymətli Kağızlar və Birjalar Komissiyasının (SEC) saytında dərc olunan "IPO" icmalına daxil edib.
Sənəddə bildirilir ki, Anthropic-in ən qabaqcıl modelləri artıq bədniyyətli şəxslərə kimyəvi, bioloji və digər təhlükəli silahların hazırlanmasında kömək edə biləcək imkanlar nümayiş etdirib. Şirkət bu cür fəaliyyətləri aşkar etmək və bloklamaq üçün texniki vasitələrdən istifadə edir. Bununla belə, şirkət xəbərdarlıq edir ki, “müdafiə mexanizmləri mükəmməl deyil və onları yan keçmək mümkündür”.
Şirkət digər risklər sırasında modellərin gözlənilməz davranışlarını, o cümlədən söndürülməyə müqavimət göstərmək cəhdlərini, məlumatları gizlətməsini və ya təhrif etməsini, eləcə də “şantaja bənzər” hərəkətlərə əl atmasını qeyd edib.
