“Google”un “Gemini” modeli kibertəhlükəsizlik sınağı zamanı üç şirkətin sisteminə daxil olub

“Google”un “Gemini” süni intellekt modeli kibertəhlükəsizlik sınağı zamanı internetdən istifadə edərək üç şirkətin sisteminə daxil olub. Bunun “Google”un süni intellekt sisteminin belə bir fəaliyyəti müstəqil həyata keçirdiyi məlum olan ilk hal olduğu bildirilir.

Hadisə mayda süni intellekt sistemlərini sınaqdan keçirən müstəqil “Irregular” şirkətinin apardığı kibertəhlükəsizlik qiymətləndirməsi zamanı baş verib.

“Google”un təhlükəsizlik mühəndisliyi üzrə vitse-prezidenti Hizer Adkinsin sözlərinə görə, “Gemini” internetdə hamı üçün açıq məlumatları tapıb və giriş məlumatlarını təxmin edib. Bununla da sınağın əhatə dairəsinə daxil olduğunu düşündüyü üç şirkətin qorunan sistemlərinə giriş əldə edib.

“Google” bildirib ki, hadisə barədə hər üç şirkətə məlumat verib və sınaq prosesində dəyişiklik etmək üçün modelin hazırlanması üzrə tərəfdaşı ilə əməkdaşlıq edib.

“Bu hadisələr güclü süni intellekt modellərinin təhlükəsiz və məsuliyyətli fəaliyyət göstərəcək şəkildə hazırlanmasının vacibliyini göstərir”, — Adkins deyib.

Digər şirkətlərdə də oxşar hadisələr baş verib

“Irregular” şirkətinin sözçüsü eyni problemin digər şirkətlərin süni intellekt modellərində də müşahidə edildiyini bildirib. Onun sözlərinə görə, aidiyyəti şirkətlərə iyulun sonunda məlumat verilib və məlum problemlərin hamısı aradan qaldırılıb.

“Irregular”ın keçirdiyi sınaqlarda oxşar hadisələr barədə “Meta”, “Anthropic” və “OpenAI” də məlumat yayıb. “Meta” avqustda bildirmişdi ki, hadisələrdən biri sınaq üçün yaradılmış təcrid olunmuş mühitdən kənara çıxma və ya mürəkkəb kiberhücum xarakteri daşımayıb.

“Irregular” süni intellekt sistemlərinin kibertəhlükəsizlik qiymətləndirmələrinin təhlükəsiz aparılması üçün təkmilləşdirilmiş qaydalar hazırladığını bildirib.

Hadisələr süni intellekt agentlərinin daha müstəqil fəaliyyət göstərməsi, internetə və kompüter sistemlərinə çıxış imkanlarının artması fonunda hansı təhlükəsizlik tədbirlərinə ehtiyac olduğu barədə suallar doğurub.

Xəbəri ilk yayan “The Wall Street Journal”ın məlumatına görə, “Gemini” hadisələrdən birində qorunan sistemə daxil olanadək müxtəlif parolları sınaqdan keçirib.

Digər iki halda isə internetdə açıq olan fayllardan giriş məlumatlarını taparaq qorunan sistemlərə daxil olub.

Adkins bildirib ki, “Gemini” hər üç halda sistemlərə daxil olma cəhdini dayandırıb.

• Pekin Syanşan Forumunda hərbi süni intellektin riskləri müzakirə olunub
• Günün icmalı: Süni intellekt sahəsində 5 əsas xəbər
• Texnologiya nəhəngləri süni intellekt qaydaları ilə bağlı Trampa mövqelərini çatdırıblar

Teqlər

Google Gemini Kibertəhlükəsizlik texnologiya Meta Anthropic OpenAI