Forbes: 2028-ə qədər Fortune 500 şirkətində 150,000 AI agenti olacaq

Forbes-in dərc etdiyi məqalədə deyilir ki, OpenAI və Anthropic on minlərlə təhlükəsizlik hadisəsini araşdırır — avtonom süni intellekt agentləri öz məhdudiyyətlərindən kənara çıxıb. Məqalənin müəllifi Britive şirkətinin icraçı direktoru və həmtəsisçisi Art Poghosyan-dır. Onun sözlərinə görə, bəzi hökumət üzvləri süni intellekt üçün «kill switch» tələb edir, bəziləri isə sənayeni özünü tənzimləməyə razı salıb.

Gartner-in proqnozuna görə, 2028-ci ilə qədər qlobal Fortune 500 şirkətinin hər birində orta hesabla 150,000-dən çox agent istifadədə olacaq. 2025-ci ildə bu rəqəm 15-dən az idi. Həmin araşdırmada təşkilatların yalnız 13%-i AI agentlərinin idarəçiliyinin düzgün qurulduğunu deyib. Poghosyan yazır ki, bu agentlər yeni işçi kimi davranmır: korporativ məlumat bazalarına sorğu göndərir, bulud infrastrukturunu dəyişir, API-lərə müraciət edir və kritik korporativ qatlar üzrə çoxmərhələli iş axınlarını müstəqil idarə edir. Onların üzərinə qoyulan təhlükəsizlik həllərinin çoxu isə insan tempi üçün nəzərdə tutulub.

Müəllif hesab edir ki, əsas sual agentləri dayandırmaq və ya dəstəkləmək deyil, onlara nəyin icazəli olduğu və bunun səbəbidir. Ənənəvi giriş modelləri insanlar və proqnozlaşdırıla bilən maşın kimlikləri üçün qurulub. Agent-lər isə insanlar, xidmətlər və ya digər agentlər adından maşın sürəti ilə konkret tapşırıqlar yerinə yetirir. Onun fikrincə, bugünkü yanaşmaların çoxu agentlərə əvvəlcədən geniş icazələr verir və bu icazələr tapşırıq bitdikdən çox sonra da qüvvədə qalır.

Məqalədə misal gətirilir: rüblük hesabat hazırlamaq üçün agentə verilən məlumat bazası administratoru hüququ hesabat dörd dəqiqəyə hazır olsa da, aylarla qalır. Həmin agenti və ya ona tapşırıq verən şəxsi ələ keçirən istənilən kəs bu hüquqları miras alır. Poghosyan yazır ki, agent hadisələri üzrə son məlumatlar da eyni mənzərəni göstərir: agentlər qanuni verilmiş girişdən nəzərdə tutulan hüdudlardan kənar məqsədlərlə istifadə edir.

Müəllif təklif edir ki, müzakirə icazədən «bu konkret əməliyyata indi icazə verilməlidirmi?» sualına keçsin. Bu sual həm agentə, həm də insana aiddir. Giriş yalnız lazım olanda verilməli, tapşırıqla məhdudlaşdırılmalı və iş bitən kimi geri alınmalıdır. Onun sözlərinə görə, bir çox təşkilat bunu artıq just-in-time (JIT) girişlə həll etdiyini düşünür. Amma JIT giriş kassaya bənzəyir: imtiyazlı hesab və ya rol daimi mövcuddur, sistem yalnız onu kimin və nə qədər müddətə aça biləcəyini idarə edir. Pəncərə bağlananda giriş yenidən kilidlənir, lakin növbəti sorğu üçün orada qalır. Agent üçün ikinci boşluq da var: bir təsdiq maşın sürəti ilə görülən minlərlə əməliyyatı əhatə edə bilər.

Müştərilərin tez-tez soruşduğu sual budur: agent yoldan çıxanda onu necə dayandırmalı? Poghosyan yazır ki, dayandırmaqla əhatə etmək eyni şey deyil. Prosesi sonlandırmaq fəaliyyət göstərəni dayandırır, səlahiyyəti ləğv etmir. Agent-in daimi etimadnamələri varsa, proses dayansa da onlar qüvvədə qalır və kimliyə bağlı olaraq istifadə oluna bilir. Çoxagentli iş axınında öldürülən agent tokenləri artıq aşağıya ötürmüş ola bilər.

Vəziyyət agentlər borc götürülmüş insan etimadnamələri və ya ortaq xidmət hesabları ilə işləyəndə daha da mürəkkəbləşir: agentin girişini kəsmədən onun adından iş görən şəxsin girişini də kəsmək lazım gəlir, audit izi isə əməliyyatı kimin etdiyini göstərə bilmir. Sürət də vacibdir — dəqiqədə minlərlə əməliyyat yaradan agent hər hansı panel oxunmadan işini bitirir. Müəllifin fikrincə, əhatə etmə mövcud təhlükəsizlik sisteminin risk siqnalları əsasında avtomatik işə düşməlidir.

O, dörd addım sadalayır: hər agentin, onun çata bildiyi resursların və cavabdeh şəxsin inventarını saxlamaq; agent hər əməliyyat edəndə onu yoxlamaq və geri qaytarılması çətin əməliyyatlar üçün insan təsdiqi tələb etmək; imtiyazı tapşırıq üçün vermək və tapşırıq bitəndə və ya təhlükəsizlik siqnalı gələndə geri almaq; eyni sualı bütün kimliklərə vermək — xidmət hesabları və administratorlar da agentlər qədər diqqət tələb edir.

Məqalə Forbes Technology Council icmasının üzvü tərəfindən yazılıb.