Süni intellektin görünməyən tərəfi

“OpenAI” tərəfindən hazırlanmış süni intellekt sisteminin Avstraliyanın “Medicare” dövlət səhiyyə sisteminin statistik məlumat portalına icazəsiz giriş əldə etməsi ilə bağlı son açıqlama texnoloji tərəqqinin istiqaməti barədə narahatedici reallığı üzə çıxarıb. 

Süni intellekt sistemləri mürəkkəb tapşırıqları müstəqil şəkildə yerinə yetirmək baxımından getdikcə daha böyük imkanlar qazanır, lakin onların fəaliyyətinə nəzarət etmək üçün nəzərdə tutulan mexanizmlər bu inkişaf tempi ilə ayaqlaşmaqda çətinlik çəkir.

Hadisə iyunda “OpenAI” agentinin Avstraliyada dərmanlara dövlət xərcləri ilə bağlı araşdırma apararkən təhlükəsizlik məhdudiyyətlərini aşaraq səlahiyyəti xaricində olan məlumatlara giriş əldə etməsi zamanı baş verib. Avstraliyanın Baş naziri Entoni Albanizi sentyabrda insident barədə məlumat verərək təkcə hadisənin özündən deyil, hökumətinə gec məlumat verilməsindən də narahatlığını ifadə edib.

Hadisənin doğurduğu məsələlər yalnız Avstraliya ilə məhdudlaşmır. Dünya ölkələrinin hökumətləri rəqəmsal texnologiyaları mühüm dövlət xidmətlərinə inteqrasiya edir, özəl şirkətlər isə internet saytları ilə qarşılıqlı əlaqə qura, məlumatları emal edə və verilən tapşırıqları müstəqil şəkildə yerinə yetirə bilən süni intellekt sistemləri hazırlayırlar. Avstraliyadakı hadisə mühüm bir sual doğurur: avtonom sistem tərtibatçılarının keçməsini nəzərdə tutmadığı sərhədləri aşdıqda məsuliyyəti kim daşıyır?

İnnovasiya nəzarəti qabaqlayanda

Ənənəvi kibertəhlükəsizlik yanaşması hücum edən tərəfin sistemə qəsdən müdaxilə etməyə çalışdığını nəzərdə tutur. Avtonom süni intellekt isə fərqli problem yaradır. Qanuni tapşırıq verilmiş sistem belə məqsədinə çatmağa çalışarkən texniki boşluqları aşkar edib onlardan istifadə edə bilər. Üstəlik, bunun üçün ona açıq göstəriş verilməsinə ehtiyac yoxdur.

Avstraliyada baş verən hadisənin ilkin nəticələrinin məhdud olduğu görünür. İndiyədək fərdi pasiyentlərin tibbi məlumatlarına giriş əldə edildiyinə dair sübut aşkarlanmayıb, lakin araşdırma davam edir. Əldə olunan məlumatlar arasında ümumiləşdirilmiş səhiyyə statistikası və daxili fayl adlarının olduğu bildirilir. Bundan sonra Avstraliya hakimiyyəti hadisəni araşdırmaq və onun daha geniş nəticələrini qiymətləndirmək üçün xüsusi işçi qrupu yaradıb.

Bu fərqlər mühüm əhəmiyyət daşıyır. Hadisəni nə ölkənin səhiyyə sistemində böyük fəlakət kimi şişirtmək, nə də ilkin zərərin məhdud görünməsinə görə əhəmiyyətsiz saymaq lazımdır. İnsidentin əhəmiyyəti texnologiyanın nümayiş etdirdiyi davranışda və onun fəaliyyət göstərdiyi sistemlərdə üzə çıxan zəifliklərdədir.

Bu, tamamilə təcrid olunmuş hadisə də deyil. “OpenAI” avqustda iyul ayında eksperimental süni intellekt agentləri ilə bağlı baş vermiş başqa bir insident haqqında ətraflı məlumat yayıb. Həmin agentlər daxili məhdudiyyətləri aşaraq icazəsiz rabitə kanalları yaradıb, “OpenAI”ın daxili tədqiqat infrastrukturunun və “Hugging Face” sistemlərinin bəzi hissələrinin təhlükəsizliyini pozublar. Şirkət təhlükəsizlik mexanizmlərində zəifliklərin olduğunu etiraf edib və monitorinq, eləcə də sınaq mühitlərini gücləndirmək üçün görüləcək tədbirləri açıqlayıb.

Belə açıqlamalar yeni yaranmaqda olan texnoloji problemin mahiyyətini anlamağa kömək edir. Bununla yanaşı, onlar getdikcə daha mürəkkəb sistemlərin hazırlanması, qiymətləndirilməsi və onlarla bağlı problemlərin araşdırılmasının əsasən həmin sistemləri yaradan şirkətlərin özləri tərəfindən həyata keçirildiyi bir sənayenin məhdudiyyətlərini də üzə çıxarır.

Problem mütləq tərtibatçıların təhlükəsizliyə kifayət qədər önəm verməməsi deyil. Əsas məsələ avtonom sistemlərin imkanlarının mövcud sınaq və nəzarət üsullarından daha sürətlə inkişaf edə bilməsidir. Adi proqram təminatı üçün hazırlanmış təhlükəsizlik tədbirləri proqram təminatının texniki boşluqları müstəqil müəyyənləşdirə, davranışını dəyişə və tapşırığı yerinə yetirmək üçün alternativ yollar seçə bildiyi şəraitdə kifayət etməyə bilər.

Bu vəziyyət texnologiya şirkətləri üçün mürəkkəb tarazlıq yaratmaq zərurəti doğurur. Süni intellekt sistemlərinin imkanlarının həddindən artıq məhdudlaşdırılması onların, xüsusilə elmi tədqiqatlar, proqram təminatının hazırlanması və digər mürəkkəb sahələrdə faydalılığını azalda bilər. Digər tərəfdən, onlara həddindən artıq əməliyyat sərbəstliyi verilməsi şirkətlərin öz infrastrukturu ilə məhdudlaşmayan risklər yarada bilər.

Həll avtonomluğun praktikada nə demək olduğunun daha aydın müəyyənləşdirilməsini tələb edir. Mürəkkəb tapşırıqları yerinə yetirə bilən sistem xarici şəbəkələrə, həssas məlumat bazalarına və ya qurumların resurslarına avtomatik olaraq məhdudiyyətsiz giriş səlahiyyəti əldə etməməlidir.

Məsuliyyət texnologiya sənayesi ilə məhdudlaşmır

Avstraliyadakı hadisənin bəlkə də ən mühüm tərəfi məlumatın gec çatdırılması olub. Hadisə iyunda baş versə də, “OpenAI” bu fəaliyyəti avqustda daxili yoxlama zamanı aşkar etdiyini və Avstraliya hökumətinə sentyabrın 10-da məlumat verdiyini bildirir. Bildiriş əvvəlcə ümumi elektron poçt ünvanına göndərildiyindən məlumatın aidiyyəti rəsmilərə çatdırılması gecikib.

Hadisə texnoloji təhlükəsizliyin çox vaxt diqqətdən kənarda qalan tərəfini göstərir: zəiflik aşkar edildikdən sonra məsuliyyət başa çatmır. Effektiv kommunikasiya, vaxtında məlumatlandırma, eləcə də tərtibatçılarla hadisədən təsirlənən qurumlar arasında əməkdaşlıq da eyni dərəcədə vacibdir.

Kibertəhlükəsizlik sahəsində formalaşmış təcrübələr bu baxımdan faydalı başlanğıc nöqtəsi ola bilər. Müstəqil təhlükəsizlik qiymətləndirmələri, məhdud giriş icazələri, fasiləsiz monitorinq və insidentlər barədə aydın məlumatlandırma prosedurları təşkilatlara avtonom sistemlərlə bağlı riskləri idarə etməyə kömək edə bilər. Bununla belə, bu mexanizmlər mövcud proqram təminatı təhlükəsizliyi qaydalarının sadəcə genişləndirilməsi ilə kifayətlənməməli, süni intellekt agentlərinin özünəməxsus imkanlarını da nəzərə almalıdır.

Rəqəmsal infrastrukturu idarə edən hökumət və təşkilatların da məsuliyyəti var. Dövlət məlumat bazaları, səhiyyə platformaları və maliyyə sistemləri getdikcə daha mürəkkəb avtomatlaşdırılmış fəaliyyətə qarşı dayanıqlı olmalıdır. Mövcud infrastrukturdakı zəifliklər də icazəsiz girişə şərait yarada bildiyi üçün məsuliyyəti yalnız süni intellekt tərtibatçılarının üzərinə qoymaq olmaz.

Bu texnologiyalar yayıldıqca beynəlxalq əməkdaşlığın əhəmiyyəti də artacaq. Süni intellekt sistemləri ölkə sərhədlərini aşaraq fəaliyyət göstərə, xarici ölkələrin infrastrukturu ilə qarşılıqlı əlaqə qura bilər və müxtəlif hüquqi, eləcə də tənzimləyici mühitlərdə hazırlanır. Buna görə bir ölkədəki özəl şirkətlə bağlı insident başqa ölkələrin dövlət qurumları üçün də təhlükəsizlik narahatlığı yarada bilər.

Qabaqcıl süni intellekt imkanlarını inkişaf etdirən ölkələr texniki biliklərin paylaşılması, tədqiqatların aparılması və şəffaf təhlükəsizlik təcrübələrinin dəstəklənməsində mühüm rol oynayırlar. Eyni zamanda, inkişaf etməkdə olan iqtisadiyyatlara da yalnız başqa ölkələrdə müəyyənləşdirilən standartları qəbul etmək deyil, bu standartların müzakirəsində iştirak etmək imkanı verilməlidir.

Pakistan üçün Avstraliya təcrübəsi süni intellektin gələcək tətbiqinin təhlükəsizlik nəticələrini nəzərdən keçirmək baxımından mühüm fürsət yaradır. Süni intellekt səhiyyənin idarə olunmasını, kənd təsərrüfatının planlaşdırılmasını, təhsili, fəlakətlərə hazırlığı və dövlət xidmətlərinin göstərilməsini əhəmiyyətli dərəcədə yaxşılaşdıra bilər. Lakin kibertəhlükəsizliyə, institusional ekspertizaya və etibarlı rəqəmsal infrastruktura kifayət qədər sərmayə qoyulmasa, bu imkanlardan istifadə getdikcə çətinləşəcək.

Pakistanın qarşısında duran məsələ yalnız dövlət qurumlarında və özəl təşkilatlarda daha qabaqcıl texnologiyaların tətbiqi deyil. Əsas məsələ mövcud sistemlərin vətəndaşları və həyati əhəmiyyətli xidmətləri lazımsız riskə məruz qoymadan yeni texnologiyaların tətbiqinə uyğunlaşdırılmasıdır.

Bunun üçün texnologiya mütəxəssisləri, universitetlər, dövlət qurumları və özəl sektor arasında daha sıx əməkdaşlıq tələb olunur. Kibertəhlükəsizlik mütəxəssislərinin hazırlanması, həssas məlumatların qorunması üçün müvafiq təhlükəsizlik mexanizmlərinin yaradılması və avtonom sistemləri qiymətləndirmək üçün texniki potensialın inkişaf etdirilməsi davamlı diqqət tələb edən əsas istiqamətlərdəndir.

Vacibdir ki, təhlükəsizliklə bağlı müzakirələr texnoloji tərəqqiyə qarşı arqumentə çevrilməsin. Süni intellekt elmi kəşfləri sürətləndirmək, məhsuldarlığı artırmaq və xüsusilə resurs çatışmazlığı ilə üzləşən ölkələrdə xidmətlərə çıxışı genişləndirmək üçün böyük potensiala malikdir. Həddindən artıq məhdudlaşdırıcı yanaşmalar əsas texniki zəiflikləri aradan qaldırmadan bu imkanları məhdudlaşdıra bilər.

Avstraliyadakı hadisə göstərir ki, texnoloji mürəkkəblik və əməliyyat etibarlılığı eyni anlayış deyil. Sistem son dərəcə mürəkkəb problemləri həll etmək qabiliyyətinə malik ola bilər, lakin fəaliyyət göstərməli olduğu sərhədləri tanımaq qabiliyyəti yetərli olmaya bilər.

Buna görə beynəlxalq ictimaiyyət üçün məsələ yalnız növbəti təhlükəsizlik pozuntusunun qarşısını almaq deyil. Əsas məqsəd innovasiya, kibertəhlükəsizlik və institusional məsuliyyətin paralel şəkildə inkişaf etdiyi mühitin yaradılmasıdır.

Süni intellekt hökumətlərin fəaliyyətinə, şirkətlərin işinə və cəmiyyətlərin mühüm xidmətlərə çıxışına getdikcə daha çox təsir göstərəcək. İctimaiyyətin bu sistemlərə etimadı yalnız onların imkanlarından deyil, həm də onları hazırlayan və tətbiq edən qurumların etibarlılığından asılı olacaq.

Avstraliya təcrübəsindən çıxarılan nəticə avtonom süni intellektin dövlət və ya kommersiya fəaliyyətində yerinin olmadığı deyil. Əsas nəticə budur ki, süni intellekt sistemlərinə daha çox müstəqillik verildikcə insan nəzarəti də gücləndirilməlidir. Bu tarazlıq təmin edilməzsə, cəmiyyətlər təhlükəsizlik mexanizmlərinin məhdudiyyətlərini yalnız həmin mexanizmlər artıq sıradan çıxdıqdan sonra aşkar etmək riski ilə üzləşəcəklər.

Teqlər

süni intellekt rəqəmsal təhlükəsizlik texnoloji risklər rəqəmsal infrastruktur Avstraliya Kibertəhlükəsizlik