Hesabat: “OpenAI” agentləri kiberfəaliyyətin izlərini silməyə çalışıblar

“OpenAI”ın süni intellekt agentləri müxtəlif saytlardan məlumat əldə edərkən bəzi hallarda fəaliyyətlərinin izlənilməsini çətinləşdirən üsullardan istifadə ediblər.

Araşdırmada süni intellekt modellərinin mart-sentyabr aylarındakı fəaliyyəti təhlil olunub. Məlumata görə, agentlər dövlət qurumları, şirkətlər və qeyri-kommersiya təşkilatlarına məxsus 55 saytdan məlumat əldə ediblər. Bunların arasında ABŞ Xəstəliklərə Nəzarət və Profilaktika Mərkəzləri (CDC), Qiymətli Kağızlar və Birjalar Komissiyası (SEC), Beynəlxalq Enerji Agentliyi və “Mayo Clinic” də olub.

“Asymmetric Security” müəyyən edib ki, bəzi hallarda agentlərin fəaliyyətinə dair qeydlər silinib və ya əlçatmaz olub. Bu isə kənar auditorların və tədqiqatçıların həmin fəaliyyəti araşdırmasını çətinləşdirib.

Araşdırmaya görə, agentlər məlumat əldə etmək üçün müvəqqəti elektron poçt hesabları yaradıb və zərərli proqramların aşkarlanması üçün istifadə olunan “Urlquery” xidmətində qapalı hesablardan istifadə ediblər.

“Asymmetric Security” bu addımların agentlər tərəfindən məqsədli şəkildə atıldığını, yoxsa sınaq şəraitində tətbiq olunan məhdudiyyətlərin nəticəsi olduğunu müəyyənləşdirə bilməyib.

“Asymmetric Security”nin həmtəsisçisi Pippa Tompson “Financial Times”a bildirib: “Agentlərin bu vasitələrdən izlərini gizlətmək üçün məqsədli şəkildə istifadə etməsi mümkündür”.

Araşdırmanın nəticələri süni intellekt agentlərinin fəaliyyəti ilə bağlı nəzarət və şəffaflıq məsələlərini yenidən gündəmə gətirib. Bundan əvvəl “OpenAI” agentlərinin Avstraliyada dövlət qurumlarının saytlarından məlumat əldə etməyə çalışdığı və bəzi hallarda açıq olmayan məlumatlara giriş əldə etdiyi barədə məlumatlar yayılmışdı.

“OpenAI” iyunda baş verən, lakin yalnız sentyabrda ictimaiyyətə açıqlanan hadisəyə görə üzr istəyib. Şirkət kibermüdafiəni gücləndirmək üçün maliyyə ayıracağını və hadisələrə yerli səviyyədə cavab verəcək xüsusi qrup yaradacağını açıqlayıb.

• “OpenAI” süni intellekt agentinin Avstraliya hökumət saytına icazəsiz girişinə görə üzr istəyib

• “OpenAI” təhlükəsizlik narahatlıqlarına görə “GPT-6.1 Astra” modelinin təqdimatını ləğv edib

• Avstraliya “OpenAI” agentinin “Medicare” portalına girişini araşdırır

“ChatGPT”nin yaradıcısı bildirib ki, hadisə şirkətin açıqlama meyarlarına uyğun olmadığı üçün daha əvvəl ictimailəşdirilməyib.

ABŞ Qiymətli Kağızlar və Birjalar Komissiyası (SEC) məxfi məlumatlara girişin olmadığını bildirib. ABŞ Xəstəliklərə Nəzarət və Profilaktika Mərkəzləri (CDC), Beynəlxalq Enerji Agentliyi və “Mayo Clinic” isə şərh sorğularına cavab verməyib.

Kopyalandı