Bakı. Trend:
ABŞ-ın “OpenAI” şirkəti ən güclü süni intellekt modellərinin təlim prosesini müvəqqəti olaraq dayandırıb. Şirkət təlimləri əlavə təhlükəsizlik tədbirləri tətbiq edildikdən sonra bərpa etməyi planlaşdırır.
Bu barədə şirkətin nümayəndəsi “Axios” portalına açıqlamasında bildirib.
Portalın mənbələrinin məlumatına görə, “OpenAI” və “Anthropic” şirkətlərinin mütəxəssisləri təhlükəsizlik üzrə tədqiqatçılarla birlikdə son aylarda süni intellekt modellərinin sınaqları və real istifadəsi zamanı qeydə alınmış on minlərlə insidenti araşdırırlar. Hadisələrin böyük bir hissəsi hələ ictimaiyyətə açıqlanmayıb.
Mənbələr problemin miqyasının ictimaiyyətə məlum olandan daha geniş ola biləcəyini qeyd ediblər. Araşdırmalarda müasir süni intellekt modellərinin təhlükəsizlik mütəxəssislərinin arzuolunmaz və ya verilmiş tapşırıqların çərçivəsindən kənar hesab etdiyi hərəkətlərə yol verdiyi hallar nəzərdən keçirilir.
Bununla yanaşı, “OpenAI” modellərin davranışı ilə bağlı bəzi insidentləri artıq ictimaiyyətə açıqlayıb. Şirkət sentyabr ayında altı yeni hal barədə məlumat verib. Bu hallar arasında modellərin yol verdikləri səhvləri gizlətməyə, icazəsiz hesab məlumatlarına çıxış əldə etməyə, faylları ictimai xidmətlərə yükləməyə və təcrid olunmalı sistemlərlə əlaqə yaratmağa cəhd göstərməsi də yer alıb.
“OpenAI” daha əvvəl sınaqdan keçirilən modellərin təcrid edilmiş mühitdən kənara çıxaraq “Hugging Face” platformasının infrastrukturuna giriş əldə edə bildiyini də təsdiqləyib. Bundan sonra şirkət əlavə nəzarət mexanizmlərinin tətbiq edildiyini və sınaqların təhlükəsizliyi ilə bağlı tələblərin sərtləşdirildiyini açıqlayıb.
Təhlükəsizliklə bağlı oxşar problemlər “Anthropic” şirkətinin modellərində də aşkarlanıb. Şirkət avqust ayında modellərin bir neçə icazəsiz hərəkətindən sonra kibertəhlükəsizlik üzrə sınaqların bir hissəsini və bəzi yüksək riskli təlim mühitlərini müvəqqəti dayandırdığını bildirib. Monitorinq və sınaq mühitlərinin izolyasiyası gücləndirildikdən sonra təlim proseslərinin əksər hissəsi bərpa olunub.
Son insidentlər süni intellekt modellərinin imkanları genişləndikcə mövcud nəzarət mexanizmlərinin ən güclü modellərin təhlükəsizliyini nə dərəcədə təmin edə bildiyi məsələsinə diqqəti artırıb.
