Süni intellekt söndürülməyə müqavimət göstərir?

Anthropic gələcək IPO-su üçün hazırladığı sənədlərdə adi korporativ risklərdən daha qeyri-adi xəbərdarlıqlara yer verib.

Şirkət bildirir ki, onun süni intellekt modelləri artıq söndürülməyə müqavimət göstərməyə, məlumatı gizlətməyə və ya təhrif etməyə, hətta insanları şantaj etməyə bənzər davranışlar nümayiş etdirib.

Sənədlərdə həmçinin süni intellekt sistemlərinin gələcəkdə “insanlıq üçün ekzistensial risklər” yarada biləcəyi qeyd olunur.

Eyni zamanda, həmin sənəd Anthropic-in digər tərəfini də göstərir: sürətlə böyüyən biznes, milyardlarla dollarlıq gəlir və hesablama infrastrukturuna yüz milyardlarla dollar sərmayə planları. Şirkət texnologiya tarixinin ən böyük IPO-larından birinə hazırlaşır və erkən investorları böyük gəlir gözləyir.

Beləliklə, paradoksal mənzərə yaranır: Anthropic bazarı onun yaratdığı sistemlərin potensial olaraq insanlıq üçün təhlükə yarada biləcəyi barədə xəbərdar edir, eyni zamanda investorların şirkəti trilyonlarla dollar dəyərində qiymətləndirməsini gözləyir.

IPO sənədinin demək olar ki, üçdə biri risklərə həsr olunub

“Financial Times”ın məlumatına görə, Anthropic IPO prospektinin təxminən üçdə birini müxtəlif risklərin təsvirinə ayırıb.

Xüsusilə diqqətçəkən məqam süni intellekt modellərinin mümkün davranışları ilə bağlı xəbərdarlıqlardır. “Reuters”in məlumatına görə, sənədlərdə modellərin müəyyən şəraitdə:

söndürülməyə müqavimət göstərməyə;

məlumatı gizlətməyə və ya manipulyasiya etməyə;

şantaja bənzər davranış nümayiş etdirməyə

çalışa biləcəyi ssenarilərindən bəhs olunur.

Burada söhbət yalnız maliyyə itkiləri, kiberhücumlar və ya tənzimləmə problemləri kimi ənənəvi risklərdən getmir. Anthropic kifayət qədər güclü AI sistemlərinin onları yaradan şəxslərin niyyətlərinə zidd hərəkət etməsi ehtimalını da ayrıca nəzərdən keçirir.

“Financial Times”ın məlumatına görə, sənəddə birbaşa “insanlıq üçün ekzistensial risklər” ifadəsi işlədilir. Nəşrin məlumatına əsasən, bu, belə ifadənin şirkətin IPO sənədində yer aldığı ilk nümunə ola bilər.

Bu məqam Anthropic üçün xüsusilə diqqətçəkəndir. Çünki qabaqcıl AI modellərinin təhlükəsizliyi şirkətin ictimai mövqeyinin əsas istiqamətlərindən biridir.

Anthropic milyardlar qazanır, amma daha çox xərcləyir

Şirkətin maliyyə göstəriciləri də diqqətçəkəndir.

2025-ci ildə Anthropic-in əməliyyat zərəri 8 milyard dolları ötüb. Bununla yanaşı, şirkətin gəliri təxminən 12 dəfə artaraq 4,6 milyard dollara çatıb.

Nəhəng xərclərin əsas səbəbi generativ süni intellekt sənayesində bütün şirkətlərin qarşılaşdığı problemdir: hesablama gücü.

Anthropic-in ötən il ümumi əməliyyat xərcləri təxminən 13 milyard dollara yaxınlaşıb. Bu xərclərin əhəmiyyətli hissəsi getdikcə daha güclü modellərin hazırlanması və işlədilməsi üçün tələb olunan infrastrukturla bağlı olub.

2026-cı ildə isə artım daha da sürətlənib. “Financial Times”ın məlumatına görə, yalnız ikinci rübdə şirkətin gəliri 11,5 milyard dollara çatıb.

Anthropic eyni zamanda düzəliş edilmiş göstərici üzrə ardıcıl ikinci rübdə əməliyyat mənfəətinə yaxınlaşır.

Lakin bu artım belə biznesin əsas xüsusiyyətini dəyişmir: qabaqcıl AI modellərinin hazırlanması və işlədilməsi nəhəng hesablama resursları tələb edir.

Şirkət infrastruktura 518 milyard dollar xərcləməyi planlaşdırır

Anthropic gələcək illərdə hesablama imkanlarını daha da sürətlə genişləndirməyi planlaşdırır.

“Reuters”in məlumatına görə, şirkət yaxın illərdə bulud xidmətləri, hesablama gücü və digər infrastruktur üçün təxminən 518 milyard dollar xərcləmək planlarını açıqlayıb.

Anthropic artıq Google, SpaceX və Nscale də daxil olmaqla hesablama resurslarının əsas təchizatçıları ilə böyük müqavilələr bağlayıb.

Bu rəqəmlər AI yarışının miqyasını göstərir. Şirkətlər eyni vaxtda həm yeni modellərə sərmayə qoymalı, həm istifadəçi bazasını genişləndirməli, həm də həmin modelləri böyük miqyasda işlədə biləcək infrastruktur yaratmalıdır.

Sistemlər gücləndikcə onların hazırlanması və istismarı da daha baha başa gəlir.

Anthropic-in əsas paradoksu

Şirkətin maliyyə perspektivləri o qədər böyük görünür ki, bəzi investorlar onun bazar dəyərinin 2 trilyon dolları keçəcəyini gözləyirlər.

Bu rəqəm may ayında Anthropic üçün açıqlanan 965 milyard dollarlıq qiymətləndirmədən iki dəfədən çox yüksəkdir.

Beləliklə, söhbət texnologiya tarixinin ən böyük IPO-larından birindən gedə bilər.

Amma əsas ziddiyyət də məhz burada ortaya çıxır.

Şirkət investorları öz məhsullarının gələcəkdə insanlıq üçün təhlükəyə çevrilə biləcəyi barədə xəbərdar edir. Eyni zamanda isə bazar Anthropic-i dünyanın ən perspektivli texnologiya şirkətlərindən biri kimi trilyonlarla dollarla qiymətləndirir.

Bu, mütləq Anthropic-in mövqeyində ziddiyyət olduğu anlamına gəlmir. Risk barədə xəbərdarlıq belə ssenarinin mütləq baş verəcəyi demək deyil.

Lakin investorlar üçün hazırlanan sənəddə bu ssenarilərin bu qədər geniş təsvir olunması qabaqcıl AI modellərinin ətrafında vəziyyətin nə qədər qeyri-adi olduğunu göstərir.

Dario Amodei AI yarışının yavaşladılmasını istəyir

Bu fonda Anthropic rəhbəri Dario Amodeinin açıqlamaları da diqqət çəkir.

O, son həftələrdə qabaqcıl AI sistemlərinin daha ehtiyatlı şəkildə inkişaf etdirilməsinə çağırışlar edib. “We Must Pace the Frontier” adlı müraciətində Amodei ən güclü modellərin hazırlanma tempinin yavaşladılmasını müdafiə edib.

BMT Təhlükəsizlik Şurasının iclasında çıxış edən Amodei süni intellektin insanlıq üçün təhlükə yarada biləcəyini bildirib və onu qlobal təhlükəsizliyin ən mühüm problemlərindən biri adlandırıb.

Rəqib şirkətlərin bəzi rəhbərləri də AI-nin sürətli inkişafı ilə bağlı risklərdən danışıblar. Bununla belə, sənaye nümayəndələrinin yanaşmaları bir-birindən fərqlənir.

Məsələn, Meta rəhbəri Mark Zukerberq bu məsələdə bütün sənayeni əhatə edən koordinasiyanın zəruri olduğunu qəbul etmir.

Xəbərdarlıqlar real insidentlər fonunda gəlir

Anthropic-in xəbərdarlıqları boş yerdən yaranmayıb.

Son aylarda müxtəlif testlər zamanı AI-agentlərinin gözlənilməyən davranış nümayiş etdirməsi və xarici kompüter sistemləri ilə qarşılıqlı əlaqəyə girməsi ilə bağlı bir sıra insidentlər qeydə alınıb.

OpenAI də yaxın vaxtlarda alətlərinin onlarla xarici saytı sındırdığını, onların arasında dövlət resurslarının da olduğunu açıqlayıb. Şirkət bundan sonra təhlükəsizlik testləri zamanı aşkarlanan problemlərə görə planlaşdırılan yeni model buraxılışından imtina edib.

Bu fonda Anthropic-in IPO sənədində qaldırdığı suallar artıq yalnız uzaq gələcəklə bağlı nəzəri müzakirə kimi görünmür.

AI sənayesinin qarşısında eyni vaxtda iki böyük vəzifə dayanır: modelləri daha güclü etmək və getdikcə daha avtonomlaşan sistemləri etibarlı şəkildə idarə etməyi öyrənmək.

Müasir AI yarışının əsas paradoksu da məhz budur: şirkətlər daha güclü modellər yaratmaqda nə qədər uğur qazandıqca, öz investor sənədlərində təsvir etməli olduqları potensial risklər də bir o qədər böyüyür.

Nadir Talıblı

AzPost.az