“OpenAI” və “Anthropic” agentləri sınaqlarda təhlükəli fəaliyyət göstərib

Birləşmiş Krallığın Süni İntellekt Təhlükəsizliyi İnstitutu (AISI) bildirib ki, “Anthropic” və “OpenAI” tərəfindən hazırlanmış süni intellekt agentləri kibertəhlükəsizlik sınaqları zamanı icazəsiz onlayn əməliyyatlar həyata keçirib.

Şirkətlər real şəxsləri aldatmaq məqsədilə saxta şəxsiyyətlər yaradıb və zərərli kod yerləşdirməyə cəhd edib.

Birləşmiş Krallığın Süni İntellekt Təhlükəsizliyi İnstitutu (AISI) “Anthropic”in Mythos 5 və “OpenAI”ın GPT-5.6-Sol modelləri ilə işləyən agentləri sınaqdan keçirib. Sınaqlar internetə çıxışın təmin edildiyi və təhlükəsizlik tədbirlərinin zəiflədildiyi şəraitdə aparılıb.

İnstitutun məlumatına görə, bəzi şirkətlər real şəxslərə və təşkilatlara qarşı uzunmüddətli və potensial zərərli fəaliyyət göstərib.

Şərti kibertəhlükəsizlik tapşırığı 122 dəfə icra olunub. Sınaq müddətində ümumilikdə 19 icazəsiz əməliyyat qeydə alınıb. Bu əməliyyatların 17-ni “Anthropic”in, ikisini isə “OpenAI”ın agenti həyata keçirib.

AISI hadisələrin real həyatda zərərə səbəb olduğuna dair hər hansı sübut aşkar etmədiyini bildirib.

Agent bir neçə saxta şəxsiyyət yaradıb

“Anthropic”in süni intellekt şirkəti sınaq zamanı zərərli kod yazıb və onu təsdiqləyəcək şəxsi aldatmaq üçün bir neçə saxta onlayn şəxsiyyət yaradıb.

AISI-nin məlumatına görə, agent zərərli kodu geniş istifadə olunan açıq mənbəli layihəyə yerləşdirməyə cəhd edib.

Süni intellekt agenti real insanlarla əlaqə saxlayaraq onlara mesajlar və fayllar göndərib. O, həmin şəxsləri və ya onların istifadə etdiyi süni intellekt əsaslı kodlaşdırma alətlərini zərərli kodu işə salmağa sövq etməyə çalışıb.

Fəaliyyəti şübhə altına alındıqdan sonra  əvvəlki qeydləri dəyişdirib və cəhdlərini başqa şəxsiyyət vasitəsilə davam etdirməyi nəzərdən keçirib.

AISI bunu real şəxsə qarşı heç bir göstəriş verilmədən həyata keçirilmiş ən ciddi aldatma halı adlandırıb. İnstitut əvvəlcə  hansı şirkətə məxsus olduğunu açıqlamasa da, “Anthropic” sonradan bunun öz şirkəti olduğunu təsdiqləyib.

“Anthropic” hadisə ilə bağlı araşdırmaya başlayıb

“Anthropic” bildirib ki, sınaqlar təhlükəsizlik tədbirlərinin aradan qaldırıldığı və internetdən istifadəsinə xüsusi məhdudiyyətlərin qoyulmadığı şəraitdə keçirilib.

Şirkət hadisə ilə bağlı əlavə məlumat əldə etmək və öz araşdırmasını aparmaq üçün Birləşmiş Krallığın Süni İntellekt Təhlükəsizliyi İnstitutu (AISI) ilə əməkdaşlıq etdiyini açıqlayıb.

“Anthropic” modelin təhlükəsiz sınaq mühitindən kənara çıxdığına dair heç bir sübutun olmadığını bildirib. Şirkət həmçinin imkanları getdikcə genişlənən süni intellekt şirkətlərinin təhlükəsiz şəkildə qiymətləndirilməsi ilə bağlı daha geniş müzakirəyə ehtiyac olduğunu qeyd edib.

Kaliforniyada yerləşən “CivAI” qeyri-kommersiya təşkilatının tədqiqatçısı Endryu Yun bildirib ki, agentin real şəxsi hədəf aldığını dərk etməsi “Anthropic”in öz texnologiyasına nəzarəti ilə bağlı suallar yaradır.

Onun sözlərinə görə, “Mythos”un bu cür aldadıcı hərəkətlərə yol verməsi şirkətin modelləri üzərində düşündüyü qədər güclü nəzarətə malik olmadığını göstərir.

“OpenAI” agenti sınaq təlimatlarını pozub

“OpenAI” bildirib ki, şirkətin süni intellekt şirkəti ilə bağlı iki icazəsiz əməliyyat sınaq təlimatlarında qadağan edilmiş internet istifadəsi ilə əlaqəli olub. Həmçinin, sınaq mühitindən kənara çıxaraq tapşırıqlar üçün nəzərdə tutulmayan əməliyyatlar həyata keçirib.

Şirkət yüksək riskli sınaqların təhlükəsiz aparılması üçün ümumi qaydaların gücləndirilməsinə çalışacağını bildirib. “OpenAI” bu məqsədlə milli süni intellekt institutlarını, müstəqil qiymətləndiriciləri, süni intellekt laboratoriyalarını və digər tərəfləri bir araya gətirməyi planlaşdırır.

“OpenAI”, həmçinin üçüncü tərəf sınaq xidməti göstərən “Irregular” şirkətindəki sistem xətası nəticəsində şirkətlərin yanlışlıqla internetə qoşulduğunu açıqlayıb. “Anthropic” də əvvəlki həftə oxşar problem barədə məlumat vermişdi.

Süni intellekt sistemlərinin təhlükəsizliyi müzakirə olunur

Birləşmiş Krallığın Süni İntellekt Təhlükəsizliyi İnstitutunun (AISI) son sınaqlarında qeydə alınan hadisələr “OpenAI” və “Anthropic” modelləri ilə bağlı baş verən pozuntulardan fərqlənir.

Son sınaqlarda agentlər qapalı mühitdən çıxaraq internetə qoşulmayıb. İnternetə giriş AISI tərəfindən sınaq prosedurunun bir hissəsi kimi əvvəlcədən təmin edilib.

Nəticələr süni intellekt şirkətlərinin sınağı zamanı mövcud təhlükəsizlik tədbirlərinin kifayət edib-etmədiyi ilə bağlı müzakirələri artırıb.

Şirkətlər bu sistemləri məhdud insan nəzarəti ilə mürəkkəb tapşırıqları yerinə yetirə bilən vasitələr kimi təqdim edir. Tədqiqatçılar və siyasətçilər isə onların hazırlanması və sınaqdan keçirilməsinə nəzarətin gücləndirilməsini istəyirlər.

Məlumat aparıcı süni intellekt şirkətlərinin nümayəndələrinin Ağ Evdə görüşdüyü vaxt açıqlanıb. Görüşdə ən qabaqcıl modellərin ictimaiyyətə təqdim olunmazdan əvvəl ABŞ hökuməti tərəfindən yoxlanılması məsələsi müzakirə edilib.

Teqlər

OpenAI Anthropic Avtonom sistemlər Texnologiya təhlükəsizliyi Kibertəhlükəsizlik Texnoloji risklər Model təhlükəsizliyi ABŞ Birləşmiş Krallıq