Texnoloji idealizmin sərhədləri: süni intellekti kim idarə edir?

“Anthropic” şirkətinin baş icraçı direktoru Dario Amodei süni intellektlə bağlı texnologiya sektorunun ən iddialı baxışlarından birini irəli sürüb.

“Machines of Loving Grace” essesində o bildirib ki, güclü süni intellekt biologiya sahəsində 50–100 ilə əldə edilə biləcək tərəqqini 5–10 ilə sığışdıra, xəstəliklərin müalicəsini sürətləndirə, yoxsulluq və bərabərsizliyin azalmasına kömək edə bilər.

Bu, ümidverici perspektivdir və real texnoloji nailiyyətlərə əsaslanır. “Anthropic”in “Claude” modelləri aparıcı kommersiya süni intellekt sistemləri sırasında yer alır.

Şirkətin maliyyə ambisiyaları da böyükdür. “Anthropic” planlaşdırılan ilkin kütləvi səhm təklifinə (IPO) hazırlaşır. Məlumatlara görə, şirkət investorlar qarşısında ümumi potensial bazar həcmini 30 trilyon dollardan çox qiymətləndirə bilər. Bu rəqəm gəlir proqnozu deyil. Söhbət süni intellektin müvafiq bütün iş sahələrini əhatə edəcəyi halda yarana biləcək nəzəri illik bazar həcmindən gedir. Bununla belə, bu rəqəm şirkətin ambisiyalarının nə qədər böyük olduğunu göstərir.

Lakin bu sistemlərin imkanları artdıqca başqa bir sual daha böyük əhəmiyyət qazanır: onların necə fəaliyyət göstərəcəyinə kim qərar verir? “Anthropic”in proqramlaşdırma üçün agent əsaslı aləti “Claude Code” ətrafında yaranan son mübahisələr göstərir ki, texnoloji üstünlük və xoş niyyət hesabatlı idarəetməni əvəz edə bilməz. Məsələ “Anthropic”in zərərliliyi deyil. Əsas sual budur: hər hansı özəl şirkət məxfiliyin, fərdi muxtariyyətin və ictimai hakimiyyətin praktiki sərhədlərini əsasən məhsul dizaynı və daxili qaydalar vasitəsilə müəyyən etmək səlahiyyətinə malik olmalıdırmı?

Pakistan və digər inkişaf etməkdə olan ölkələr üçün bu, Silikon vadisində gedən uzaq bir müzakirə deyil. Hazırda formalaşan qaydalar süni intellektin ölkələrin öz ehtiyaclarına uyğunlaşdıra biləcəyi açıq imkan kimi gələcəyini, yoxsa az sayda xarici şirkətin idarə etdiyi vacib infrastruktura çevriləcəyini müəyyənləşdirəcək.

Məxfilik məsələsi

Bulud əsaslı proqramlaşdırma agenti şəbəkədən kənar çalışan alət deyil. Faydalı nəticələr əldə etmək üçün “Claude Code” sorğuları və modelin cavablarını şəbəkə üzərindən ötürür və tapşırıqdan asılı olaraq mənbə kodunu və layihəyə aid digər məlumatları emal edə bilər. “Anthropic”in hazırkı sənədlərində bu, aydın şəkildə göstərilir. Həmçinin bildirilir ki, “Claude Code” istifadə ilə bağlı texniki göstəriciləri, bəzi konfiqurasiyalarda isə xəta hesabatlarını göndərir. İstifadəçilər zəruri olmayan telemetriyanı söndürə bilərlər. Şirkətin məlumatına görə, istifadə göstəricilərinə kod, sorğular və ya fayl yolları daxil edilmir.

Sənədlərdə göstərilən bu mənzərə “Claude Code”un istifadəçinin bütün fəaliyyətini izləməsi barədə iddiadan daha dəqiq təsəvvür yaradır. Lakin bu, əsas narahatlığı aradan qaldırmır. Agent əsaslı alətlər həssas fayllar, giriş məlumatları, kod repozitoriyaları və işlək sistemlərlə birbaşa əlaqədə fəaliyyət göstərir. Məlumatların toplanması və ya hesabların yoxlanılması ilə bağlı hətta kiçik təcrübələr belə istifadəçilərə hansı məlumatların, hansı məqsədlə və nə qədər müddətə ötürüldüyü dəqiq açıqlanmadıqda ciddi risklər yarada bilər.

Bu problem 2026-cı ilin iyulunda Çinin Milli Zəifliklər Bazası apreldən iyunadək yayımlanan “Claude Code” versiyalarında “arxa qapı” tipli təhlükəsizlik risklərinin mövcudluğunu və istifadəçinin məkanı və şəxsiyyəti barədə məlumatların onun razılığı olmadan ötürülə biləcəyini iddia etdikdən sonra diqqət mərkəzinə düşüb. Bu iddianı məqsədli gizli izləmənin müstəqil təsdiqi kimi qəbul etmək olmaz. Məlumatlara görə, mübahisəli fəaliyyət saat qurşağı və domen siqnalları ilə bağlı olub. “Anthropic” mühəndisi isə bunun hesablardan sui-istifadəni, icazəsiz satıcıları və model distillasiyasını aşkarlamaq məqsədilə aparılan təcrübənin bir hissəsi olduğunu və dəyişikliklərin geri qaytarılacağını bildirib.

Bu fərq vacibdir. Təhlükəsizlik məqsədli təcrübə gizli casusluq proqramı ilə eyni deyil. Bununla belə, sui-istifadənin qarşısını almaq kimi qanuni məqsəd məlumatların minimum həcmdə toplanması və dəyişikliklərin tətbiqdən əvvəl istifadəçilərə açıqlanması öhdəliyini aradan qaldırmır. Təchizatçı proqramçının iş mühitində fəaliyyət göstərən alətə əlavə məlumat siqnalları daxil edə bilirsə, istifadəçilər bu dəyişiklikləri əks mühəndislik və ya hökumət xəbərdarlığından öyrənməməlidirlər.

Buna görə də idarəetmə baxımından əsas nəticə Çinin mübahisəli iddiası ilə məhdudlaşmır. Məlumatların toplanması və istifadəsi qaydaları aydın, məqsədəuyğun və müstəqil şəkildə yoxlanıla bilən olmalıdır. Eksperimental monitorinq barədə əvvəlcədən məlumat verilməli, onun əhatəsi məhdud olmalı və tətbiq edilən dəyişiklikləri geri qaytarmaq mümkün olmalıdır. Etimad yalnız təchizatçının qoruyucu məqsədlə hərəkət etdiyinə dair təminatına əsaslana bilməz.

Yardımdan müstəqil fəaliyyətə keçid

Eyni dəqiqlik “Claude Code”un icazə sisteminə də şamil olunur. Alətdə təsdiq sorğularını deaktiv edən və məqsədli şəkildə “dangerously-skip-permissions” adlandırılan seçim mövcuddur. Bu, gizli və ya standart seçim deyil: istifadəçi onu özü işə salmalıdır və “Anthropic”də əksər hallarda bu seçimin təhlükəli olduğu barədə xəbərdarlıq edir.

2026-cı ilin martında “Anthropic” hər əməliyyatın əl ilə təsdiqlənməsi ilə tam avtonom icra arasında orta yol kimi avtomatik rejim tətbiq edib. Bu rejim hansı əməliyyatların davam etdirilə biləcəyini, hansılarının bloklanmalı və ya istifadəçinin təsdiqinə təqdim edilməli olduğunu müəyyənləşdirmək üçün təsnifat sistemlərindən istifadə edir. Avqusta qədər avtomatik rejim uyğun “Pro”, “Max” və “Team” sessiyaları üçün standart başlanğıc rejiminə çevrilib. “Enterprise” və API açarı ilə işləyən sessiyalarda isə əsasən əl ilə idarə olunan rejim saxlanılıb. İstifadəçilər və ya administratorlar rejimi dəyişə, yaxud avtomatik rejimi deaktiv edə bilərlər. Bu rejim ilk dəfə standart olaraq işə düşdükdə proqram istifadəçiyə bildiriş göstərir.

Bu təhlükəsizlik tədbirləri “Anthropic”in istifadəçi nəzarətini tamamilə aradan qaldırdığı iddiasını zəiflədir. Bununla belə, standart parametrlər mühüm rol oynayır. Faylları redaktə etmək, əmrləri icra etmək və xarici sistemlərlə qarşılıqlı əlaqə qurmaq imkanına malik agent adi proqram deyil. Avtomatik rejimdə insanın təsdiqini çox vaxt şirkətin hazırladığı təsnifat sistemi əvəz edir. İcazə qaydaları dialoq zamanı verilən göstərişlərlə deyil, alətin öz səviyyəsində tətbiq olunur. Bu, zərərli göstərişlərin sistemə təsirinin qarşısını almaq üçün məntiqli müdafiə üsuludur, eyni zamanda əməliyyat səlahiyyətlərinin şirkətin yaratdığı sistemin arxitekturasına daxil edildiyini göstərir.

Əsas məsələ süni intellekt agentinin müstəqil fəaliyyətinə ümumiyyətlə icazə verilməsi deyil. Faydalı agentlər hər addımda istifadəçidən təsdiq tələb etmədən gündəlik və aşağı riskli tapşırıqları yerinə yetirə bilməlidir. Əsas məsələ istifadəçinin verdiyi səlahiyyəti anlaması, yoxlaya bilməsi və geri götürə bilməsidir. Ciddi nəticələr doğura biləcək əməliyyatlar üçün aydın yoxlama mərhələləri saxlanılmalıdır. Qərar qeydləri istifadəçi üçün əlçatan olmalıdır. Fövqəladə hallarda sistemin fəaliyyətini dayandırmaq asan olmalıdır. Razılıq elə bir parametrə çevrilməməlidir ki, onun nəticələri yalnız problem yarandıqdan sonra üzə çıxsın.

Məhdudiyyətləri kim müəyyənləşdirir?

“Anthropic”in ABŞ Müdafiə Nazirliyi ilə mübahisəsi idarəetmə ilə bağlı daha dərin ziddiyyəti ortaya qoyur. Pentaqon “Claude”dan qanunla icazə verilən bütün məqsədlər üçün istifadə etmək istəyib. “Anthropic” isə modellərinin tam avtonom silahlarda və ölkə daxilində kütləvi müşahidə üçün istifadəsinin qarşısını almağa yönəlmiş təhlükəsizlik məhdudiyyətlərini aradan qaldırmaqdan imtina edib. Bu mövqe dəyəri 200 milyon dollaradək olan müqaviləni riskə atıb. Pentaqon texnologiyadan bu məqsədlərin heç biri üçün istifadə etmək niyyətində olmadığını bildirib, lakin özəl şirkətin hökumətin fəaliyyətinə öz məhdudiyyətlərini tətbiq etməsinə etiraz edib.

Bu qarşıdurmanı sadəcə şirkətin orduya nəzarət etmək cəhdi kimi qiymətləndirmək düzgün olmazdı. “Anthropic”in etirazları etibarsız hesab etdiyi sistemlərin ölümcül qərarlar verməsi və konstitusion təminatların mahiyyətinə zidd ola biləcək müşahidə üsulları ilə bağlı olub. Avqustda federal hakim Pentaqonun hökuməti tənqid etdiyinə görə şirkətin qanunsuz şəkildə cəzalandırıldığı qənaətinə gəlib və ona qarşı qərarı “qanunsuz və əsassız” adlandırıb. Lakin sentyabrın əvvəlinə olan məlumata görə, yüksək vəzifəli müdafiə rəsmisi “Anthropic”in hələ də təchizat zənciri riski hesab edildiyini bildirib.

Bu məsələ ona görə mürəkkəbdir ki, hər iki tərəfin əsaslı narahatlıqları var. Kommersiya maraqları güdən özəl şirkət demokratik qaydada təsdiqlənmiş milli təhlükəsizlik siyasəti üzərində qeyri-rəsmi veto hüququ qazanmamalıdır. Lakin hökumət də təchizatçını həyat və ölümlə bağlı qərarlarda etibarlılığı şübhə doğuran texnologiyanın təhlükəsizlik məhdudiyyətlərini aradan qaldırmağa məcbur etməməlidir. Nə şirkətin öz prinsipləri, nə də icra hakimiyyətinin səlahiyyəti təkbaşına yetərli idarəetmə mexanizmi sayıla bilər.

Həll yolu şəffaf ictimai qaydalardır: qadağan olunmuş istifadə sahələrini müəyyən edən qanunvericilik, audit və məsuliyyət tələblərini dəqiq göstərən satınalma müqavilələri, müstəqil sınaqlar və həm dövlətin, həm də şirkətin səlahiyyətlərini məhdudlaşdıra bilən demokratik nəzarət. Şirkətlərin istifadə şərtləri qanunu əvəz edə bilməz. Eyni zamanda, “qanuni istifadə” anlayışı güclü süni intellektə nə etməyə icazə verilməli olduğu barədə müzakirəyə son qoymamalıdır.

Təhlükəsizlik bazar gücünə çevriləndə

“Anthropic”in artan siyasi təsiri məsələyə daha bir tərəf əlavə edir. ABŞ federal açıqlamalarına görə, şirkət 2026-cı ilin ilk yarısında lobbiçilik fəaliyyətinə 3,5 milyon dollardan çox vəsait xərcləyib. Bu məbləğ artıq 2025-ci ilin bütün ili üzrə göstəricini ötüb. Şirkət, həmçinin süni intellektlə bağlı ciddi risklərə qarşı daha sərt tədbirləri müdafiə edən “Public First Action” siyasi təşkilatına ümumilikdə 40 milyon dollar ayırmağı öhdəsinə götürüb. “Anthropic” bildirib ki, bu vəsait ayrı-ayrı namizədlərin seçki nəticələrinə təsir göstərmək üçün istifadə edilə bilməz.

Şirkətin öz texnologiyasını qanunvericilərə izah etməsində və ya tənzimləməni dəstəkləməsində özlüyündə qəbuledilməz heç nə yoxdur. Ən qabaqcıl süni intellekt sistemlərinin tənzimlənməsi mürəkkəbdir və bu prosesdə texniki bilik vacibdir. Lakin ən geniş texniki təcrübəyə malik şirkətlər eyni zamanda tənzimləmənin nəticələrində ən böyük kommersiya marağı olan şirkətlərdir. Eyni şirkətlər sistemləri hazırlayır, riskləri müəyyənləşdirir və tələblərə uyğunluq standartlarının hazırlanmasına kömək edirsə, tənzimləmə prosesinin onların təsiri altına düşməsi riskini nəzərə almamaq olmaz.

Sərt təhlükəsizlik qaydaları zəruri ola bilər. Lakin bu tələblərə əməl etmək yalnız böyük kapitala, hesablama infrastrukturuna və geniş hüquq komandalarına malik şirkətlərin imkanları daxilindədirsə, belə qaydalar bazardakı iri şirkətlərin mövqeyini daha da gücləndirə bilər. Standart ictimaiyyəti qoruya, eyni zamanda rəqabət üçün maneəyə çevrilə bilər. Buna görə də tənzimləyicilər təhlükəsizlik və bazar təmərküzləşməsini ayrı-ayrı məsələlər kimi deyil, birlikdə nəzərdən keçirməlidirlər.

İnkişaf etməkdə olan ölkələr nə tələb etməlidir?

Pakistan və oxşar vəziyyətdə olan ölkələr üçün seçim xarici süni intellekt sistemlərindən qeyd-şərtsiz asılılıqla texnologiyadan tam imtina arasında olmamalıdır. Hökumətlər Vaşinqton, Brüssel və ya Pekində hazırlanmış qaydaları da olduğu kimi qəbul etməməlidirlər. Onlar süni intellekt modellərini, müqavilələri və məlumat axınlarını müstəqil şəkildə qiymətləndirmək imkanına malik olmalıdırlar.

Süni intellekt sistemlərini satın alan dövlət qurumları telemetriya məlumatları, məlumatların saxlanma müddəti, modellərin təlimində istifadə olunan üsullar və subpodratçılar barədə aydın açıqlamalar tələb etməlidirlər. Müqavilələr audit hüququnu, insidentlər barədə məlumat verilməsini, məlumatların başqa sistemə köçürülməsi imkanını və risk yarandıqda sistemin fəaliyyətini dayandırmaq imkanını təmin etməlidir. Həssas dövlət məlumatları süni intellekt təchizatçısına ötürülməzdən əvvəl məxfilik dərəcəsinə görə təsnif edilməli, avtomatlaşdırılmış qərara görə məsuliyyət daşıyan tərəf isə bir neçə təchizatçının iştirakı şəraitində belə aydın olmalıdır.

İnkişaf etməkdə olan ölkələr sistemlər arasında uyğunluq və real seçim imkanı da tələb etməlidirlər. Tək bir süni intellekt modeli təchizatçısından, bulud platformasından və ya milli texnoloji ekosistemdən asılılıq strateji risk yaradır. Yerli universitetlər, tənzimləyici qurumlar və texnologiya şirkətləri sınaq infrastrukturuna və ixtisaslı texniki mütəxəssislərə çıxış əldə etməlidirlər. Beləliklə, idarəetmə qərarları diplomatik təzyiqə və ya korporativ marketinqə deyil, faktlara əsaslana bilər.

Ən vacibi, süni intellekt modellərinin təhlükəsizliyi korporativ səlahiyyətlə eyniləşdirilməməlidir. Şirkət faydalı təhlükəsizlik mexanizmləri yarada bilər, lakin bu, ona demokratik mandat vermir. Hökumət qabaqcıl texnologiyaya çıxış tələb edə bilər, lakin bu, həmin texnologiyadan qeyri-məhdud istifadə hüququ vermir. Tənzimləmənin məqsədi həm korporativ, həm də dövlət hakimiyyətini hesabatlı institutların nəzarətinə tabe etməkdir.

İdealizm səlahiyyət demək deyil

Doğru yanaşma “Anthropic”in texnologiyasını rədd etmək və ya Amodeinin nikbinliyini əsassız saymaq deyil. Süni intellekt həqiqətən elmi inkişafı sürətləndirə, səhiyyəni təkmilləşdirə və insanların imkanlarını genişləndirə bilər. Problem ilhamverici missiyanın məxfilik, rəqabət və ictimai hakimiyyətə təsir edən qərarlara haqq qazandırmaq üçün kifayət hesab edilməsi ilə başlayır.

Texnoloji nailiyyət demokratik legitimlik vermir. Xoş niyyət maraqların toqquşmasını aradan qaldırmır. Təhlükəsizlik də qaydaları müəyyənləşdirməkdən kommersiya qazancı əldə edən şirkətin qərarlarından asılı olmamalıdır.

Korporativ səlahiyyətlərin həddini aşmasına cavab dövlətin də öz səlahiyyətlərini aşması olmamalıdır. Həll yolu səlahiyyətlərin hesabatlı şəkildə həyata keçirilməsidir: şəffaf qaydalar, istifadəçilər üçün real seçim imkanı, müstəqil nəzarət və özlərinin hazırlamadığı standartlarla yaşamalı olan ölkələrin söz sahibi olması.

Müəllif haqqında

Qeysər Nəvab süni intellektin idarə edilməsi, korporativ güc və yeni texnologiyaların institusional strukturu üzrə ixtisaslaşmış texnologiya siyasəti analitikidir. O, Dayanıqlı İnkişaf üzrə “Bir kəmər, Bir yol” Təşəbbüsünün (BRISD) sədridir. Onunla qaisernawab098@gmail.com ünvanı vasitəsilə əlaqə saxlamaq mümkündür.

Teqlər

süni intellekt Süni intellektin idarə edilməsi “Anthropic” “Claude” “Claude Code” texnologiya Məxfilik Məlumat təhlükəsizliyi