“Anthropic” və süni intellekt təhlükəsizliyinin yeni qaydaları

Sentyabrın 12-də “Anthropic”in baş direktoru Dario Amodei getdikcə daha güclü süni intellekt sistemlərinin inkişaf tempinin azaldılmasına çağırıb.

Onun təklifinə aparıcı süni intellekt şirkətləri arasında daha sıx koordinasiya və müstəqil təhlükəsizlik qiymətləndiricilərinin sistemlərə daimi çıxışının təmin edilməsi daxil idi.

Bu açıqlama diqqət çəkib. Çünki çağırış həmin texnologiyanı hazırlayan aparıcı şirkətlərdən birinin rəhbərindən gəlib.

Açıqlamanın vaxtı da diqqətəlayiqdir. Cəmi iki gün əvvəl “Anthropic” Claude-dan sui-istifadə hallarına dair araşdırmalarını əks etdirən ətraflı kibertəhlükə hesabatı yayımlamışdı. Şirkət ilin əvvəlində bəzi qabaqcıl modellər üçün məlumatların saxlanması ilə bağlı yeni tələblər də tətbiq etmişdi. Sentyabrın 22-də isə performans, səmərəlilik və təhlükəsizlik baxımından təkmilləşdirildiyi bildirilən Claude Opus 5.5 modelini təqdim edib.

Bütün bunlar ABŞ-nin süni intellekt sənayesində mühüm dəyişikliklərin baş verdiyini göstərir. Əvvəllər müştəriləri əsasən texnoloji yeniliklərlə cəlb edən şirkətlər indi kibertəhlükələrin təhlili, təhlükəsizlik monitorinqi və sənayenin gələcəyinə təsir edə biləcək standartların hazırlanması ilə də məşğul olurlar.

“Anthropic” bu fəaliyyət sahələrinin bir-biri ilə necə əlaqəli olduğuna dair xüsusilə diqqətçəkən nümunədir.

Məlumatların saxlanmasının genişləndirilməsi

İyunun 9-da “Anthropic” müəyyən qabaqcıl modellər üçün məlumatların saxlanması ilə bağlı yeni tələblər tətbiq edib.

Bu qaydalara əsasən, əhatə olunan modellərlə bağlı sorğular və onların cavabları təhlükəsizlik monitorinqi məqsədilə 30 gün saxlanılmalıdır. Dəyişiklik əvvəllər məlumatların saxlanmamasını nəzərdə tutan müqavilələr əsasında çalışan bəzi korporativ müştərilərə və proqram tərtibatçılarına da şamil olunur.

“Anthropic” bildirir ki, mürəkkəb sui-istifadə halları bəzən yalnız çoxsaylı qarşılıqlı əlaqələr birlikdə təhlil edildikdə üzə çıxır. Buna görə şirkət ən güclü sistemlərindən istifadə etmək istəyən təşkilatlar üçün məlumatların idarə olunması qaydalarını dəyişdirən yeni tələblər müəyyən edib.

Bu dəyişikliklərin kommersiya baxımından təsiri də diqqətəlayiqdir.

Şirkətlər süni intellektdən getdikcə daha çox özlərinə məxsus məlumatların emalı, proqram təminatının hazırlanması, tədqiqatların aparılması və məxfi əməliyyatların idarə olunması üçün istifadə edirlər. Məlumatların idarə olunmasına dair sərt tələbləri olan müştərilər üçün məlumatların məcburi saxlanması hansı xidmət və modelin seçiləcəyinə təsir göstərə bilər.

“Anthropic” əlavə təhlükəsizlik tədbirləri də tətbiq edib. Bunlara insanların məlumatlara çıxışının məhdudlaşdırılması, girişlərin qeydə alınması və bəzi müştərilərə monitorinq məlumatlarını öz nəzarətlərində olan infrastrukturda saxlamaq imkanı verən mexanizmlər daxildir. Tələblər məhsullara görə də fərqlənir. Yeni qaydaların şamil olunmadığı modellər üçün mövcud şərtlər qüvvədə qalır.

Bununla belə, bu siyasət süni intellekt şirkətlərinin müştərilərin ən qabaqcıl texnologiyalara hansı şərtlərlə çıxış əldə edəcəyini müəyyən edə bildiyini göstərir.

Bu şərtlər artıq yalnız qiymət və texniki göstəricilərlə məhdudlaşmır. Buraya getdikcə daha çox məcburi təhlükəsizlik tədbirləri, monitorinq tələbləri və müştərilərin öz məlumatlarını necə idarə edə biləcəyinə dair məhdudiyyətlər də daxil edilir.

Məlumatların təhlükəsizlik məqsədilə saxlanması ilə müştəri məlumatlarının kommersiya məqsədilə model təlimində istifadə olunması arasındakı fərq mühümdür. Bunlar fərqli qaydalarla tənzimlənən iki ayrı fəaliyyətdir və bir-biri ilə qarışdırılmamalıdır.

Məlumatların toplanması ilə onların dövlət qurumlarına təqdim edilməsi arasındakı fərq də eyni dərəcədə vacibdir. “Anthropic”in açıqladığı siyasətə əsasən, dövlət qurumlarının müştəri məlumatlarını əldə etməsi üçün, bir qayda olaraq, müvafiq hüquqi prosedur tələb olunur. Yalnız insanlara fiziki zərər dəyməsi ilə bağlı qaçılmaz təhlükə yarandığı fövqəladə hallarda məhdud istisna nəzərdə tutulur.

Beləliklə, əsas məsələ dövlət qurumlarının məlumatlara məhdudiyyətsiz çıxışı ilə bağlı təsdiqlənməmiş iddialar deyil. Söhbət sənayenin ən güclü kommersiya məhsullarından bəzilərinə çıxış zamanı tətbiq edilən təhlükəsizlik monitorinqi tədbirlərinin sənədləşdirilmiş şəkildə genişləndirilməsindən gedir.

Model hazırlayan şirkətdən kibertəhlükə məlumatları təqdim edən quruma

“Anthropic”in fəaliyyəti artıq süni intellekt modellərinin hazırlanması və satışı ilə məhdudlaşmır.

Şirkətin kibertəhlükələrin təhlili bölməsi Claude-dan mümkün zərərli istifadə hallarını araşdırır və yeni təhlükəsizlik təhdidləri barədə hesabatlar hazırlayır. “Anthropic”in sentyabr hesabatında 2025-ci ilin dekabrından 2026-cı ilin avqustunadək müəyyən edilmiş hallar araşdırılıb. Hesabat kiberəməliyyatları, müşahidə fəaliyyətini, təsir əməliyyatlarını, dələduzluğu və digər fəaliyyətləri əhatə edir.

“Anthropic” araşdırdığı fəaliyyətlərin qarşısını aldığını və zəruri hallarda müvafiq məlumatları dövlət qurumları və sənaye tərəfdaşları ilə bölüşdüyünü bildirib.

Bu, ABŞ-nin süni intellekt sənayesində biznes və təhlükəsizlik fəaliyyətləri baxımından mühüm dəyişiklikdir.

Böyük süni intellekt şirkətlərinin əldə etdiyi məlumatlar onlara çoxsaylı qarşılıqlı əlaqələr üzrə müəyyən nümunələri aşkar etməyə, mümkün sui-istifadə hallarını araşdırmağa və digər təşkilatların da istifadə edə biləcəyi texniki göstəricilər hazırlamağa imkan verir.

“Anthropic”in modellərin icazəsiz distillasiyası ilə bağlı araşdırmaları bu imkanları göstərir. Şirkət Claude-un imkanlarını mənimsəməyə yönəlmiş genişmiqyaslı cəhdləri sənədləşdirib, bu fəaliyyətlərin arxasında dayandığı ehtimal edilən tərəfləri müəyyənləşdirib və oxşar halların aşkarlanması və qarşısının alınması üçün tədbirlər hazırlayıb.

Şirkət hesabatlarında maşın öyrənməsində qəbul olunmuş üsul olan qanuni distillasiya ilə “Anthropic”in icazəsiz hesab etdiyi fəaliyyəti bir-birindən fərqləndirir. Bu təsnifat şirkətin gördüyü tədbirlərə və açıqladığı təhlükəsizlik qiymətləndirmələrinə əsas yaradır.

Belə araşdırmalar qabaqcıl süni intellekt platformalarını idarə edən şirkətlərin nə qədər geniş texniki və əməliyyat məlumatlarına malik olduğunu göstərir.

Eyni zamanda, kommersiya məqsədli texnologiyaların inkişafı ilə təhlükəsizlik məlumatlarının təhlili arasında yeni əlaqə yaranır.

Süni intellekt şirkətləri şübhəli fəaliyyətlə bağlı məlumat toplamaq, mümkün təhdidləri təhlil etmək və əldə etdikləri nəticələrin bir hissəsini digər qurumlarla bölüşmək üçün getdikcə daha geniş imkanlara malik olurlar.

“Anthropic”in açıqladığı hesabatlar şirkətin araşdırmaları barədə dəyərli məlumat verir. Lakin ictimaiyyətə açıq sübutlar şirkətin daxilində mövcud olan məlumatlardan təbii olaraq fərqlənir. Buna görə də şirkətlərin araşdırma nəticələri daha geniş təhlükəsizlik qiymətləndirmələrində və ya tənzimləmə ilə bağlı müzakirələrdə istifadə edilərkən onların müstəqil şəkildə yoxlanılması xüsusi əhəmiyyət daşıyır.

Məsələ yalnız “Anthropic”lə məhdudlaşmır. ABŞ-nin digər süni intellekt şirkətləri də oxşar monitorinq və təhdidlərin aşkarlanması imkanları yaratdıqca, bu sənayenin təhlükəsizlik məlumatlarının hazırlanması və paylaşılmasındakı rolu artır.

Bu rolun genişlənməsini anlamaq üçün şirkətlərin hansı məlumatları topladığına, araşdırmaları necə apardığına və dövlət qurumları ilə əməkdaşlığının hansı qaydalar əsasında həyata keçirildiyinə diqqət yetirmək lazımdır.

Şirkətlərin təhlükəsizlik qaydaları sənaye siyasətinə çevrildikdə

“Anthropic”in sentyabrda irəli sürdüyü təklif bu prosesə daha bir istiqamət əlavə edir.

Amodei qabaqcıl süni intellekt şirkətlərində müstəqil qiymətləndiricilərin daimi fəaliyyət göstərməsini və əsas şirkətlər arasında koordinasiyanın gücləndirilməsini təklif edib. Onun təklifləri həmçinin rəqib şirkətlərin mövcud rəqabət qanunvericiliyi çərçivəsində təhlükəsizlik tədbirləri üzrə necə əməkdaşlıq edə biləcəyi ilə bağlı suallar doğurub.

Bu təkliflər qabaqcıl süni intellektin inkişafını tənzimləyən qaydaların formalaşdırılmasında sənaye iştirakçılarına əhəmiyyətli rol verə bilər.

Məsələ kommersiya baxımından da əhəmiyyətlidir. Çünki tələblərə əməl olunması yeni modellərin hazırlanması və istifadəyə verilməsi üçün tələb olunan xərclərə, resurslara və institusional imkanlara təsir göstərə bilər.

Böyük və bazarda artıq möhkəmlənmiş şirkətlərin geniş hesablama infrastrukturu, ixtisaslaşmış əməkdaşları və təhlükəsizlik bölmələri var. Kiçik şirkətlərin imkanları isə xeyli məhdud ola bilər.

Buna görə də sənaye üzrə ortaq standartların təsiri yalnız təhlükəsizliklə məhdudlaşmır. Bu standartlar bazara çıxışa, tələblərə uyğunlaşma xərclərinə və yeni şirkətlərin hansı şərtlərlə rəqabət apara biləcəyinə də təsir göstərə bilər.

Bu məsələlər artıq beynəlxalq səviyyədə sənaye müzakirələrində gündəmə gəlib. Amodeinin açıqlamasından sonra Avropanın bəzi süni intellekt şirkətləri və texnologiya rəhbərləri inkişaf tempinin azaldılması təklifinin bəzi məqamlarını sual altına alıblar. Bəziləri hesab edirlər ki, ABŞ-nin bazarda artıq möhkəmlənmiş şirkətlərinə uyğun hazırlanmış qaydalar onların mövcud üstünlüklərini daha da gücləndirə bilər. Lakin bunlar “Anthropic”in niyyətlərini sübut edən faktlar deyil, təkliflərlə bağlı fərqli yanaşmalardır.

“Anthropic” isə bu müddətdə yeni texnologiyalar hazırlamağa və təqdim etməyə davam edib.

Şirkət inkişaf tempinin daha ölçülü olmasına çağırdıqdan sonra sentyabrın 22-də Claude Opus 5.5-i təqdim edib. “Anthropic” bildirib ki, yeni model müstəqil qiymətləndirmədən keçib və əlavə təhlükəsizlik tədbirləri ilə təchiz olunub. Şirkət həmçinin modelin daha aşağı istismar xərcləri və daha yüksək performans təklif etdiyini açıqlayıb.

Bu təqdimat göstərir ki, “Anthropic”in təklifi innovasiyanın tam dayandırılmasını deyil, inkişafın hansı sürətlə və hansı şərtlər altında davam etdirilməsi məsələsini əhatə edir.

Bu fərq ABŞ-nin süni intellekt sənayesində formalaşan yanaşmanı anlamaq baxımından vacibdir. Böyük şirkətlər bir tərəfdən məhsullarını inkişaf etdirməyə, digər tərəfdən isə getdikcə daha güclü sistemləri tənzimləyəcək təhlükəsizlik tələblərinin hazırlanmasında iştirak etməyə çalışırlar.

Bu qaydaların əsasən şirkətlərarası razılaşmalar, müstəqil texniki qurumlar və ya dövlət tənzimləməsi vasitəsilə formalaşması süni intellekt bazarının gələcək strukturuna ciddi təsir göstərəcək.

“Anthropic”in fəaliyyəti texnoloji inkişaf, kommersiya strategiyası, təhlükəsizlik monitorinqi və tənzimləmə təkliflərinin bir-biri ilə nə qədər sıx əlaqəli olduğunu göstərir.

ABŞ-nin süni intellekt sənayesi artıq yalnız rəqəmsal məhsullar təqdim edən sahə deyil. Aparıcı şirkətlər qabaqcıl sistemlərin necə izlənilməsi, araşdırılması, qiymətləndirilməsi və istifadəyə verilməsi ilə bağlı qərarların qəbulunda getdikcə daha fəal iştirak edirlər.

Bu qərarların təsiri ABŞ-dən kənardakı proqram tərtibatçılarına, şirkətlərə və digər qurumlara da çatacaq.

Buna görə də şirkətlərin təhlükəsizlik sahəsində artan rolu sənayenin texnoloji nailiyyətləri ilə yanaşı araşdırılmalıdır. “Anthropic”in genişlənən fəaliyyəti bu yeni sistemin necə formalaşdığını və qlobal süni intellekt bazarına mümkün təsirlərini anlamaq üçün konkret nümunədir.

Teqlər

süni intellekt Dario Amodei Kibertəhlükəsizlik ABŞ sənaye siyasəti texnoloji inkişaf kommersiya strategiyası Anthropic