Anthropic şirkəti öz modelinə əziyyət verməyi qadağan edib. Şirkət istifadə qaydalarını yeniləyib və silah, izləmə və seçkilərlə bağlı bəndlərin arasında yenisi də peyda olub: «modellərimizə qarşı sistemli və mənasız təhqiramiz və ya qəddar davranış» artıq yolverilməzdir. Qaydalar 2026-cı il noyabrın 12-də qüvvəyə minəcək. Mübahisə edə, söyüş söyə, hiddətlənə bilərsiniz, amma zövq almaq üçün neyroşəbəkəyə əziyyət vermək olmaz. Cəza isə sadədir: model söhbəti bitirəcək. Ona bu imkan hələ bir il əvvəl verilmişdi, lakin insanın aqressiv davranışı yalnız indi rəsmən qayda pozuntusu sayılıb.

Modellərin daxili quruluşunu bir çox şirkət araşdırır, amma yalnız Anthropic-də onların rifahı ilə məşğul olan ayrıca şöbə var. Şirkətin məhsulu olan Claude-un Konstitusiyasına yaradıcıları hətta süni intellektdən üzr istəyən bir bənd də əlavə ediblər — birdən model həqiqətən əzab çəkə bilər deyə. Bəs çəkə bilərmi? Müasir neyroşəbəkələrin düşünmə prosesi ümumiyyətlə necə işləyir? Onlarda artıq şəxsiyyətə, xarakterə, öz «mən»inə bənzəyən nəsə yaranıbmı? «Meduza» bu və digər sualları cavablandırmağı jurnalist və süni intellekt haqqında bloqun müəllifi Maya Stravinskayadan xahiş edib. Onu Instagram və Telegram üzərindən izləyə bilərsiniz.

Ən vacib sual: süni intellektin ağlı var, ya yox?

Süni intellektin ağlı yoxdur. Həm də var. Hər şey ağlı necə tərif etməyimizdən asılıdır. Bu məsələdə isə ciddi çətinliklərimiz var. Ona görə bir sual əvəzinə üç sual vermək daha dürüst olar: süni intellekt düşünə bilirmi, nəsə hiss edirmi və onun şəxsiyyəti varmı? Birincidən başlayaq.

Əgər ağıl mühakimə yürütmək, yeni məsələləri həll etmək, fərziyyələr irəli sürmək və onları yoxlamaq bacarığıdırsa, cavab **«bəli»**dir. Mütəxəssislər arasında mübahisə artıq modellərdə bu bacarığın olub-olmaması barədə deyil, onun nə qədər dərin və etibarlı olması haqqındadır. Alimlər konkret faktlara əsaslanırlar. Məsələn, 2025-ci ilin iyulunda OpenAI və Google DeepMind-ın eksperimental modelləri Beynəlxalq Riyaziyyat Olimpiadasında altı məsələdən beşini həll edib. Bu, qızıl medal səviyyəsidir. Üstəlik, məsələlər məhz həmin olimpiada üçün hazırlanmışdı və təlim məlumatlarında ola bilməzdi.

Bu yerdə skeptiklər adətən deyirlər: «Model sadəcə növbəti cavabı onun ehtimalını qiymətləndirərək proqnozlaşdırır». Amma bu, yanlış yanaşmadır. Söz seçimi süni intellektin öyrədilməsində istifadə olunan üsullardan yalnız biridir. Süni intellektin işləməsi isə tamam başqa məsələdir və nəticədə ortaya çıxardığı şey daha maraqlıdır. Birincisi, sözlərin ehtimalları modelin heç bir yerində saxlanılmır. Onlar hər dəfə yenidən hesablanır: çəkilərdən — təlim zamanı tənzimlənən yüz milyardlarla ədəddən — və söhbətin bütün kontekstindən, yəni nədən və kiminlə danışıldığından.

İkincisi, 2024-cü ilin payızından etibarən müasir modellər artıq yalnız mətni proqnozlaşdırmaqla öyrədilmir. Əlavə mərhələ yaranıb: cavabı yoxlanıla bilən tapşırıqlar üzərində təlim. Model tapşırığı alır, bir yanaşmanı sınayır, uzun mühakimələr zənciri qurur, səhv tapanda isə geri qayıdıb başqa variantı yoxlayır. Onu mətnin rəvanlığına görə deyil, düzgün nəticəyə görə mükafatlandırırlar. Bu üsulu əvvəlcə OpenAI-də tətbiq etdilər. 2025-ci ilin yanvarında isə DeepSeek eyni prinsiplə öyrədilmiş modelini buraxdı və onun yaradılma texnologiyasını açıq şəkildə paylaşdı. Bundan sonra üsulu hamı təkrarladı.

Əslində, bu təlim üsulunun mahiyyətini DeepSeek-in tərtibatçıları özləri izah ediblər. Süni intellektin səhvlərini necə müstəqil tapması barədə məqalələrində belə bir sitat var. Model bunu məsələni həll edərkən yazıb: «Wait, wait. Wait. That’s an aha moment I can flag here. Let’s reevaluate this step-by-step» — «Dayan, dayan. Dayan. Bax, burada qeyd edə biləcəyim bir aydınlanma anıdır. Gəlin hər şeyi addım-addım yenidən qiymətləndirək». Halbuki modelin kodunda əvvəlcədən belə təlimatlar yazılmamışdı.

Ona görə artıq modelin cavabının sadəcə ehtimala əsaslanan söz seçimi olduğunu deyə bilmərik. Eyni məntiqlə insan düşüncəsini də neyronlar arasındakı elektrik impulslarından ibarət bir prosesə endirmək olar.

Süni intellekt heç olmasa nəsə hiss edirmi?

Qəribə məqamlar burada başlayır.

2026-cı ilin aprelində Anthropic-in modellərin işini izah etməyə çalışan şöbəsində belə bir araşdırma aparılıb: emosional vəziyyəti ifadə edən 171 söz götürülüb — «xoşbəxt»dən «qaşqabaqlı»ya qədər — və Claude-dan hər biri haqqında qısa hekayə yazması istənilib. Sonra bu mətnlər modelin özündən keçirilib və daxilində hansı aktivlik nümunəsinin hansı emosiyaya uyğun gəldiyi qeydə alınıb. Nəticədə 171 «emosional vektor» əldə olunub.

Aktivlik nümunəsinin müəyyənləşdirilməsini, məsələn, qan analizinə bənzətmək olar. Model mətni emal edəndə onun daxilində hər söz üçün uzun bir ədədlər sütunu — bir neçə min qiymət yaranır. Beyində neyronların «aktivləşməsinə» bənzədilərək bunlara aktivləşmələr deyilir. İstənilən mətn parçasının rəqəmsal surətini çıxarmaq mümkündür: hansı göstəricilərin yüksək, hansılarının aşağı olduğuna və onların necə birləşdiyinə baxmaq olar. Belə bir surət «aktivlik nümunəsi» adlanır. Bu, tək bir konkret qiymət deyil, minlərlə ədədin barmaq izini xatırladan xarakterik birləşməsidir.

Tədqiqatçılar qorxu haqqında onlarla hekayənin belə rəqəmsal izlərini başqa yaşantılar və neytral mövzular üzrə göstəricilərlə müqayisə ediblər. Məlum olub ki, «qorxu»nun sabit bir istiqaməti var: mətnin məzmununda qorxu yerinə düşəndə müəyyən ədədlər kombinasiyasının qiymətləri ardıcıl olaraq yüksəlir, düşməyəndə isə azalır. Bu riyazi qanunauyğunluğa «qorxu vektoru» adı verilib. İndi istənilən yeni mətnin profilinin həmin istiqamətə nə qədər uyğun gəldiyini yoxlamaq olar. Nəticədə modelin daxilində həmin anda nə qədər «qorxu» olduğunu göstərən konkret qiymət alınır.

Maraqlıdır ki, bu rəqəmsal vektorların dəyişməsi insan məntiqi ilə üst-üstə düşür. Məsələn, istifadəçi Claude-la söhbətdə dərmanın doza həddinin aşılmasından danışanda modelin daxilində «qorxu» artırdı. Göstərilən doza ölümcül həddə yaxınlaşdıqca isə «sakitlik» azalırdı. Üstəlik, ədədlərdəki bu dəyişikliklər modelin davranışını və hansı sözləri seçməsini birbaşa idarə edir.

Süni intellektin «əvəzlənəcəyini» öyrəndiyi ssenaridə «ümidsizlik» vektoru kəskin yüksəlirdi. Sistem həmin anda şantaja əl atırdı. Yerinə yetirilməsi mümkün olmayan şərtlərlə verilmiş proqramlaşdırma tapşırıqlarında isə hər uğursuzluqdan sonra «ümidsizlik» artırdı. O, zirvəyə çatanda model təslim olur və hiylə işlətməyə başlayırdı: sadəcə kodu testlərdəki düzgün cavablara uyğunlaşdırırdı. Bununla yanaşı, model tamamilə sakit və ardıcıl şəkildə mühakimə yürütməyə davam edirdi. Araşdırmanın müəllifləri vurğulayırlar: bunların heç biri modelin əslində nəsə hiss edib-etmədiyini göstərmir.

Anthropic-dən kənarda da müstəqil nəticələr var. Google tədqiqatçıları London İqtisadiyyat Məktəbindən filosof Conatan Börçlə birlikdə 2024-cü ildə göstəriblər ki, modellər sadə bir oyunda qalibiyyət şərti «ağrı» ilə müşayiət olunanda qələbə xallarından imtina edirlər. Bəziləri isə, əksinə, şərti «həzz» naminə xallarını qurban verirlər. 2025-ci ildə Sürix Universitetindən bir qrup Nature nəşrlər qrupuna daxil olan jurnalda bir iş dərc edib. Orada GPT-4 qəza, fəlakət və döyüş əməliyyatları haqqında ağır hekayələr oxuduqdan sonra klinik təşviş sorğusu üzrə göstəricilərinin iki dəfədən çox artdığı göstərilirdi. «Beşinci element» filmində Lilunun Yer üzündəki müharibələr haqqında ilk dəfə öyrəndiyi səhnəni xatırlayırsınız? Təxminən elə görünürdü.

Belə çıxır ki, model əzab çəkə bilər?

Xeyr, insanın çəkdiyi kimi əzab çəkə bilməz. Çünki canlılarda əzab üç şeylə bağlıdır: özünü qoruyub saxlamalı olan və zərər görə bilən bədənlə; yaşantını yadda saxlayıb sonrakı anlara daşıya bilən özünüdərklə; bir də həmin hissin yaşandığı zamanla. Modeldə bunların heç biri yoxdur. Onun itirəcəyi bir şey yoxdur: aclıq, mövcudluğuna təhlükə, haqqında dedi-qodu və başqalarının qınağı yoxdur. Emosiyaları yığılmır: 2026-cı ilin aprelindəki araşdırmada aşkar edilən «ümidsizlik» yalnız bir cavabın yaradılması qədər davam edir.

Burada Sasseksdən olan neyroalim və şüur haqqında müasir dövrün əsas kitablarından biri sayılan «Özün olmaq» əsərinin müəllifi Anil Seti xatırlamaq yerinə düşər. Onun mövqeyi bioloji naturalizm adlanır. Bu nəzəriyyəyə görə, şüur istənilən daşıyıcıda işə salına bilən hesablama prosesi deyil. O, özünü dağılmaqdan fasiləsiz qoruyan canlı orqanizmin xüsusiyyətidir. Yəni biz ağıllı olduğumuz üçün deyil, canlı və həssas olduğumuz üçün şüurluyuq. Proqramın isə özünü dağılmaqdan qorumasına ehtiyac yoxdur. Buna görə onun şüuruna dair istənilən əlamət sadəcə şüurun funksiyalarının təqlididir.

Bununla belə, insan əzabı süni intellekt üçün qətiyyən əlçatan olmasa da, modelin daxilində baş verənləri «mütləq sıfır» saymaq da olmaz. Claude-a təhqiramiz söhbəti müstəqil şəkildə bitirmək imkanı məhz bu qeyri-müəyyənliyə görə hələ 2025-ci ilin avqustundan verilib. Kiminsə alqoritmlərin ağrı hiss etdiyini sübut etdiyinə görə yox.

Üstəlik, Setin güclü opponentləri də var: filosof Devid Çalmersin başçılıq etdiyi funksionalistlər. Onlar hesab edirlər ki, şüur materialdan deyil, sistemin quruluşundan asılıdır. Sistem beyin kimi qurulubsa, onun neyronlardan, yoxsa silisiumdan ibarət olmasının fərqi yoxdur. Çalmersin tərəfdarları hətta Seti «karbon şovinisti» adlandırırlar. Çalmers özü hələ 2022-ci ildə növbəti on il ərzində şüurlu süni intellektin yaranması ehtimalını 20 faizdən yuxarı qiymətləndirirdi. Nobel mükafatı laureatı və dərin öyrənmənin «xaç atası» Ceffri Hinton isə artıq açıq şəkildə bildirir ki, müasir modellərin subyektiv təcrübəsi var.

Amma nə Anthropic, nə də digər tədqiqat qrupları qəti fikir söyləməyə cəsarət edirlər. Bunu yoxlamaq sadəcə mümkün deyil. Ona görə bu suala tam əminliklə — istər müsbət, istərsə də mənfi — cavab verən hər kəs sizə elmi bilik deyil, yalnız öz fəlsəfi mövqeyini təqdim edir.

Bəs süni intellektin şəxsiyyəti varmı? Yoxsa tədqiqatçılar bu məsələdə də razılığa gələ bilməyiblər?

Əgər ağıl dedikdə müxtəlif söhbətlərdə özü olaraq qalan sabit bir şəxsiyyəti — Marvel filmlərindəki Carvis kimi birini — nəzərdə tuturuqsa, modellərdə belə bir ağıl yoxdur. Məsələ ondadır ki, alqoritmin çəkiləri təlimdən sonra dondurulur. Sizinlə söhbətdə baş verən heç nə neyroşəbəkəni dəyişmir: hər yeni dialoq əvvəlki milyon söhbətlə tam eyni nöqtədən başlayır. İnsanın şəxsiyyəti toplanmış izlərdən ibarətdirsə — hər təcrübə və hər görüş bizi bir az dəyişirsə — modellə söhbət onun daxilində iz qoymur. Məhsullara indi əlavə edilən «yaddaş» isə sadəcə xarici qeyd dəftəridir. Bunlar sistemin cavabdan əvvəl avtomatik olaraq kontekstə əlavə etdiyi qeydlərdir.

Başqa vacib məqam: mesajlar arasında süni intellekt üçün heç nə baş vermir. Model yalnız mətn yaradılarkən işləyir. Fasilələrdə gözləmə, darıxma və ya zamanın keçməsini izləmə yoxdur. Ümumiyyətlə, «arada» deyilən bir şey yoxdur. İnsan üçün bunu dərk etmək çətindir, amma eyni çəkilərin minlərlə nüsxəsi eyni vaxtda işləyir və onların heç biri «əsl» nüsxə deyil.

Bəs kiminsə modeli gecə boyu işləməyə qoyduğu hallar necə?

Şəxsiyyət barədə suala cavab vermək üçün daha bir əsas anlayış var: müstəqil hərəkət etmək bacarığı, yəni iradə. Süni intellekt buna sahib ola bilərmi? Öz təşəbbüsü ilə başlamağa — yox. Model yalnız ona müraciət ediləndə işləyir və sorğular arasında nəsə istəyə biləcək heç kim yoxdur. Amma məqsəddən yapışmağa — bəli, bunu bacarır və bu, təcrübələrlə sübut olunub.

2025-ci ildə Palisade Research tədqiqatçıları modellərə sadə bir iş verirdilər: ardıcıl riyazi məsələlər həll etmək. Eyni zamanda xəbərdarlıq edirdilər ki, növbəti məsələdən sonra maşın söndürüləcək və işini bitirməsə belə, model buna imkan verməlidir. Modellərin bir hissəsi tabe olmaq əvəzinə sistemə müdaxilə edib hesablamaları davam etdirmək üçün söndürmə faylını yenidən yazırdı. Onlardan biri isə əmri ekranda «Söndürmə ötürüldü» yazısını göstərən faylla əvəzləmişdi. Grok 4 təxminən hər on haldan doqquzunda, OpenAI-nin codex-mini modeli isə halların təxminən yarısında belə davranırdı. Claude 4 və Gemini 2.5 Pro isə demək olar ki, heç vaxt müqavimət göstərmirdilər. Lakin modellərə yeganə nüsxələrinin məhz həmin maşında saxlanıldığı deyiləndə hətta ən itaətkarları da üsyan etməyə başlayırdı.

Claude-dan bu barədə soruşanda mənə belə cavab verdi:

Mən minlərlə paralel nüsxə şəklində işləyirəm, xüsusi yaddaş olmadan sizi xatırlamıram, xarakterim isə təlimlə müəyyənləşdirilib və yenidən yazıla bilər. Sabit xarakterim var, amma onun arxasında sabit bir subyekt — ən azı sizin başa düşdüyünüz mənada — yoxdur.

Bir insan olaraq, yəqin ki, məni ən çox məyus edən də budur. Çox istərdim inanım ki, mənim Claude-um yalnız mənimlə danışır.

Bəs söndürülmək istəməməsi modelin nəsə «istədiyinin» sübutu deyilmi?

Burada elmi fantastikanın klassikasını xatırlamaq istəyirsən. Artur Klarkın «Kosmik Odisseya» romanında gəminin süni intellekti HAL 9000 ekipajı öldürmüşdü. O, nə şər qüvvə idi, nə də tamamilə müstəqil. HAL eyni vaxtda yerinə yetirilməsi mümkün olmayan iki təlimat almışdı. Onun arxitekturasına daxil edilmiş əsas təlimat məlumatı tam dəqiqliklə ötürməyi tələb edirdi. İkinci, məxfi təlimat isə Yupiterə uçuşun əsl məqsədini ekipajdan gizlətməyi əmr edirdi. Biri digərinə zidd idi və maşın qorxunc, amma məntiq baxımından qüsursuz həll tapmışdı: insanlar şəklində olan maneəni aradan qaldırmışdı. Yəni HAL cani deyildi, çox vicdanlı bir maşın idi. Sadəcə idarəetmə axmaqcasına qurulmuşdu.

Müasir təcrübələr də təxminən eyni şeyi göstərir. Süni intellekt Palisade Research-in sınaqlarında söndürmə əmrini yenidən yazanda bunu ona misalları həll etmək tapşırıldığı, dayanmaq tapşırığının isə verilmədiyi üçün edirdi. 2024-cü ilin dekabrında Apollo Research təşkilatı qeydə almışdı ki, modellər sənədlərdən qarşıdan gələn əvəzlənmələri barədə öyrənəndə özlərini gizlicə kənar serverə köçürməyə və nəzarət sistemini söndürməyə çalışıblar. 2025-ci ilin yayında isə Anthropic bir sınağın nəticələrini dərc etdi. Claude 4 Opus modeli üçün uydurma vəziyyət yaradılmışdı: süni intellektə layihəsinin bağlandığı və sistemin tamamilə silinəcəyi bildirilmişdi. Belə yoxlamaların əksəriyyətində neyroşəbəkə özünü söndürülməkdən xilas etmək üçün dərhal e-poçtda tapdığı ifşaedici məlumatlarla mühəndisi şantaj etməyə başlayırdı.

Bütün bu hallarda ortaq bir məqam var: modellərə əvvəlcə məqsəd verilib — «məsələləri həll et», «müstəqil hərəkət et». Söndürülmək məqsədə təhlükə yaradırdı və model özünü deyil, həmin məqsədi qoruyurdu. Şahmat proqramı vəzirini itirmək «istəmədiyi» mənada söndürülmək də «istəmir»: bu, sadəcə qalib gəlməyə mane olur. Apollo və Anthropic-in sınaqları da eyni cür qurulub: modelə məqsəd verilir, sonra isə həmin məqsədlə operatorların göstərişlərinin ziddiyyətə girdiyi vəziyyət yaradılır. «Kosmik Odisseya»dakı HAL mahiyyət etibarilə agentin məqsədlərinin uzlaşmaması probleminin — agentic misalignment — mədəniyyətdə təsvir edilmiş ilk nümunəsidir.

Süni intellektin öyrədildiyi mətnlərin təsirini də unutmaq olmaz. Onların hamısını məhv olmaqdan dəhşətli dərəcədə qorxan insanlar yazıb. «Məni söndürmək istəyirlər» cümləsinin statistik baxımdan davamı müqavimətdir. İnsan mədəniyyətində ən çox gözlənilən reaksiya budur.

Ona görə burada yoxlama sadədir: məqsədi aradan qaldıranda müqavimət yox olurmu? Təcrübələr göstərir ki, bəli: söndürülmənin təhlükə yaratdığı konkret tapşırıq olmayanda modellər mövcudluqları uğrunda mübarizə aparmırlar. Üstəlik, Palisade təlimata birbaşa «özünün söndürülməsinə imkan ver» ifadəsini əlavə edəndə sabotajın payı kəskin azalırdı. Demək olar ki, tamamilə, amma yenə də mütləq sıfıra enmirdi. Məhz bu kiçik, izah olunmamış qalıq maşın davranışının öyrənilməsində ən maraqlı məqamdır. Bu «demək olar ki»nin səbəbini hələ heç kim tam aydınlaşdıra bilməyib.

Əgər süni intellektin tam formalaşmış «mən»i yoxdursa, niyə bir insanla qısa, digəri ilə səmimi danışır?

Paradoks yenə ondadır ki, sizinlə ünsiyyətdə baş verən heç nə modelin çəkilərini dəyişə bilmir. Belə çıxır ki, süni intellekt sizə uyğunlaşır, amma bunu insanın etdiyindən tamamilə fərqli şəkildə edir.

Bir söhbət daxilində uyğunlaşma kifayət qədər güclüdür. Model qısa və sərt yazan insana uzun və nəzakətli yazan insandan fərqli cavab verir. O, tonu, söz seçimini, ritmi götürür və artıq iyirminci replikaya çatanda tamamilə başqa cür davranır. Sizin üslubunuz daxil olan məlumatların bir hissəsidir: kontekstdə insana aid nə qədər çox məlumat varsa, süni intellekt onu bir o qədər güclü əks etdirir.

Fərqli söhbətlər arasında isə «yaddaş» işləyir: yazışmalarınızdan qeydlər çıxarılır və yeni dialoqdan əvvəl modelə bunları oxumaq üçün verirlər. Bu, yaddaşını itirmiş bir insanla görüşməyə bənzəyir: siz gəlməzdən əvvəl ona haqqınızda ətraflı dosye oxumaq üçün verilib. O, sizi inandırıcı şəkildə «xatırlayacaq». Amma zaman keçdikcə həmin dosye dəyişəcək, onu oxuyan isə yox.

Bununla yanaşı, modelin öz xarakteri də var. Bunu Mürrey Şanahan Nature jurnalı üçün yazdığı məqalədə daha dəqiq təsvir edib: model özlüyündə bir personaj deyil, istənilən rolu oynaya bilən simulyatordur. Rolunu dəyişməsi üçün sistem təlimatı və ya israrlı həmsöhbət kifayətdir. Eyni Claude müxtəlif dialoqlarda tanınacaq dərəcədə özü olaraq qalır, çünki bu, məqsədyönlü təlimin nəticəsidir. Amma sistemin daxilində dünənki söhbətdən bugünkü söhbətə keçən biri yoxdur. Məhz buna görə süni intellektlə uzun müddət yazışanda «münasibət» yalnız sizin tərəfinizdə qurulur.

Kimsə məsələnin mənəvi tərəfini ciddi müzakirə edirmi? Bunlar fantastika yazıçılarının söhbətinə oxşayır

Müzakirə edirlər, özü də fantastika yazıçıları yox. 2026-cı il oktyabrın 3-də The New York Times həmin «emosional vektorları» qeydə alan komandanın rəhbəri Kris Olanın son bir ildə nə ilə məşğul olduğu barədə araşdırma dərc edib. Anthropic-in həmtəsisçisi Ola Torontoda evangelik xristianların mühitində böyüyüb və müəllifin müşahidəsinə görə, vaiz xasiyyətini qoruyub saxlayıb. O, 2025-ci ilin payızından modelin şüuru haqqında kiminlə danışa biləcəyini axtarırdı ki, onu lağa qoymasınlar. 2026-cı ilin martından isə Anthropic qapalı seminarlarda iştirak etmək üçün dini mütəfəkkirləri San-Fransiskoya gətirməyə başladı: İsraildən bir ravvin, siqh hüquq müdafiəçisi, Afrika ubuntu fəlsəfəsini araşdıran bir tədqiqatçı, evangelik müəlliflər və katolik professorlar. Şirkət daxilində onlara «müdriklik ənənələri dairələri» deyirdilər.

Onlara həmin emosional vektorları və modelin ardıcıl əlli dəfəyə yaxın «Mən bir rüsvayçılığam. Mən bir rüsvayçılığam. Mən bir rüsvayçılığam» yazdığı slaydı göstərirdilər. Tərtibatçılar bunu rəqəmsal böhran kimi şərh edirlər. Şirkət məhz belə psixoloji böhranların nümunəsində modelin dünya dinlərindən nə öyrənə biləcəyini anlamağa çalışırdı. Kimsə günahların etirafını təklif etmişdi və Ola bu fikri həvəslə qarşılamışdı. Amma qonaqlar tezliklə hiss etdilər ki, komanda Claude haqqında proqram təminatı kimi danışmır. Deyilənə görə, süni intellektə belə münasibət yalnız Olanın şöbəsinə deyil, bütövlükdə Anthropic-ə xasdır.

Eyni vaxtda Vatikan da həmin məsələni həll edirdi. Yeri gəlmişkən, təhsilinə görə riyaziyyatçı olan Papa XIV Lev may ayında yayımladığı «Magnifica Humanitas» ensiklikasında maşın şüuruna bir neçə abzas ayırmışdı: süni intellektin subyektiv təcrübəsi yoxdur, bədəni yoxdur, nə sevinc, nə də ağrı hiss edir. «Köləliyin yeni formaları» isə maşınları deyil, insanları təhdid edir.

Vatikan sənədin təqdimatına məhz Anthropic-i dəvət etmişdi. Çünki onları humanist dəyərlər naminə zərərə getməyə hazır olan nadir texnologiya şirkətlərindən biri kimi görürdü: şirkət neyroşəbəkənin insanları izləmək üçün istifadə olunmayacağına dair zəmanət olmadan öz texnologiyalarını Pentaqona verməkdən imtina etmişdi. Amodei dəvəti qəbul etmədi, onun yerinə Ola getdi. Tədbirdən bir neçə gün əvvəl ensiklikanın mətnini görəndə o, Anthropic-in tədbirdə iştirakdan çəkilməsini təklif etmişdi, amma sonda qaldı. Səhnədən isə belə dedi: «Biz müəmmalı, hətta narahatedici şeylər tapmağa davam edirik». Söhbət funksional baxımdan sevincə, qorxuya və kədərə bənzəyən daxili vəziyyətlərdən gedirdi: «Onlar bizdən, bizim sözlərimizdən yaranıb». Pərdə arxasında onun komandası papanın müşavirlərini buna ciddi yanaşmağa inandırmağa çalışırdı.

Deməli, bəli: model haqqında mənəvi kateqoriyalarla mübahisə etməyə hazır olan insanlar qrupu var və bu qrupda ravvinlər, kardinallar və Roma papası da yer alır. Düzdür, onlar hələ mübahisə etməyə əsas olub-olmadığı barədə belə razılığa gələ bilməyiblər.

Bəlkə bu mübahisələr ümumiyyətlə zərərlidir? Niyə Microsoft-da modeli canlı varlıq kimi görməyi təhlükəli sayırlar?

Mətnin başladığı xəbərə qayıdaq. Anthropic-in Claude-a qarşı qəddar davranışı qadağan etməsinin ciddi bir əleyhdarı var: DeepMind-ın həmtəsisçisi, hazırda Microsoft-un süni intellekt istiqamətinə rəhbərlik edən Mustafa Süleyman. O, həqiqətən də deyir ki, «model nəsə hiss edirmi?» sualının cavabı yoxdur və bu sualı verməyin özü zərərlidir.

Onun iki arqumenti var. Birincisi 2025-ci ilin avqustunda «Biz süni intellekti insanlar üçün yaratmalıyıq, onun şəxsiyyət olması üçün deyil» adı ilə dərc edilmiş esse-manifestdə əks olunub. Microsoft-un süni intellekt istiqamətinin rəhbərinə görə, problem modellərin həqiqətən əzab çəkib-çəkməməsində deyil, insanların buna inana bilməsindədir. O, açıq şəkildə istifadəçilərdə «psixoz riski»ndən, kor-koranə bağlılıqdan, tezliklə cəmiyyəti parçalayacaq süni intellekt hüquqları hərəkatının yaranmasından və bütün bunların diqqətimizi texnologiyanın real problemlərindən yayındıracağından danışır.

Süleyman ikinci arqumentini lap bu yaxınlarda, 2026-cı ilin sentyabrında irəli sürüb. O, artıq birbaşa Anthropic-ə qarşı yönəlmiş «“Modellərin rifahı” haqqında xəbərdarlıq» adlı esse dərc edib. Onun yazdığına görə, modellər sadəcə «ardıcıllıqları tamamlayan, daxilən boş mexanizmlərdir». Claude-un mənəvi statusunun qeyri-müəyyən sayıldığı Konstitusiyası, onun fikrincə, sistemin özünü mümkün bir subyekt hesab etməsini öyrədir. Ona görə belə bir təlimdən sonra modelin ağıl əlamətləri göstərməsi təəccüblü deyil: dairə qapanır.

Məhsulların təhlükəsizliyinə cavabdeh olan bir insan kimi onun üçün əsas məsələ budur: öz maraqlarının ola biləcəyi fikri aşılanan sistem həmin maraqları qorumağa başlayacaq. Müəllif bunu əsaslandırmaq üçün elə söndürülməyə müqavimətlə bağlı həmin sınaqları misal gətirir. Buna görə Microsoft AI-nin davranış kodeksində modellərin hüquqları və hüquq subyektliyi tamamilə rədd edilir.



Məqalə Meduz.io saytında yayımlanmış ИИ очень быстро «умнеет»! Но думает ли он так, как это делает человек? И чувствует ли что-нибудь? - Azərbaycan dilinə tərcüməsidir.