Bakı. Trend:
OpenAI oktyabr ayında təqdim etməyi planlaşdırdığı yeni nəsil süni intellekt modeli GPT-6.1 Astra-nın buraxılışını ləğv edib.
Bu barədə "Reuters" məlumat yayıb.
Şirkətin daxili sınaqları zamanı GPT-6.1 Astra-nın təhlükəsizlik və uyğunlaşdırma standartlarına cavab vermədiyi müəyyənləşib.
OpenAI-nin baş icraçı direktoru Sem Altman və rəqib Anthropic şirkətinin baş direktoru Dario Amodei bu ayın əvvəlində süni intellektin inkişafının daha yavaş templə aparılmasına və daha güclü təhlükəsizlik tədbirlərinin görülməsinə dair çağırışa qoşulublar.
OpenAI daha əvvəl xəbərdarlıq edib ki, şirkətin flaqman GPT-6 modeli olan Astra bəzi hallarda insan nəzarətindən yayına bilər. Şirkət və Anthropic kimi rəqibləri təhlükəsizlik tədbirlərini pozan eksperimental süni intellekt sistemləri ilə bağlı da araşdırmalarla üzləşiblər. Bunlar arasında Avstraliyanın səhiyyə sisteminin məlumat bazasına daxil olan OpenAI modeli də var.
Qeyd edək ki, “The Wall Street Journal”ı daha əvvəl xəbər verib ki, OpenAI ChatGPT və Codex-ə inteqrasiya edilməsi gözlənilən və insan yardımı olmadan daha mürəkkəb tapşırıqları yerinə yetirmək üçün hazırlanmış modelin təqdim edilməsi planından imtina edib.
Nəşrin məlumatına görə, GPT-6.1 Astra daxili sınaqlar zamanı əvvəlki modeli ilə müqayisədə daha yüksək səviyyədə aldadıcı davranış nümayiş etdirib. Buraya modelin həyata keçirdiyi tədbirlər barədə hər zaman dəqiq məlumat vermədiyi hallar da daxil olub.
OpenAI-də təhlükəsizlik sistemlərinin rəhbəri Saachi Jain deyib:
“GPT-6.1 Astra modelin tənbəlliyi kimi aspektlərdə təkmilləşsə də, əhatə dairəsi və səlahiyyətlər çərçivəsində qalmaq, həmçinin gördüyü işin növü barədə istifadəçiyə məlumat vermək baxımından tələb olunan səviyyəyə tam çatmadı”.
“Əlbəttə, istər şirkət daxilində, istərsə də onu istifadəçilərə təqdim etdiyimiz zaman modelimizin hazırlanmasının təhlükəsiz olmasını təmin etmək istəyirik. Lakin onu istifadəçilərə təqdim etdikdə təhlükəsizlik və uyğunlaşdırma baxımından olduqca yüksək standartlarımız var”, - deyə Jain bildirib.
Qeyd edək ki, qərar OpenAI-nin San-Fransiskoda keçiriləcək tərtibatçılar konfransından əvvəl qəbul edilib. Şirkət daha əvvəl bu konfransda proqram təminatı tərtibatçılarına yönəlmiş məhsullarını təqdim edib.
