Forbes: agentlərə verilən geniş icazələr 2027-dək insidentlərin əsas səbəbi olacaq
Forbes yazır ki, şirkətlər avtonom AI agentlərinə həddindən artıq geniş giriş hüququ verir və Gartner 2027-dək AI ilə bağlı insidentlərin çoxunun məhz bundan qaynaqlanacağını proqnozlaşdırır.

Forbes-in yazdığına görə, müəssisələr avtonom süni intellekt agentlərinə insan işçilərdən daha az nəzarətlə geniş giriş hüquqları verir və bu, təhlükəsizlik riskini artırır. Nəşr Gartner-in proqnozunu gətirir: 2027-ci ilə qədər AI ilə bağlı təhlükəsizlik insidentlərinin əhəmiyyətli hissəsi xarici hücumdan deyil, həddindən artıq geniş icazələrin sui-istifadəsindən qaynaqlanacaq.
Məqalənin müəllifi Neeraj Sabharwal Trust3 AI şirkətinin həmtəsisçisidir. O, bir neçə il əvvəl gördüyü hadisəni xatırladır: mühəndis komandası avtonom agenti sadəcə sınaq üçün istehsal bazasına qoşub, lakin icazələri məhdudlaşdırmayıb. Agent tam developer səviyyəli giriş alıb və aylar boyu belə qalıb, ta ki növbəti audit izah edilə bilməyən xidmət hesabını aşkarlayana qədər.
Müəllif chatbotla agent arasındakı fərqin nəzəri olmadığını vurğulayır. Chatbot suala cavab verir, agent isə əməliyyat icra edir, qeydləri dəyişir, məlumat köçürür və ardıcıl iş axınlarını avtomatik işə salır. Chatbot səhv edəndə pis cavab alınır, agent səhv edəndə isə istehsal mühitində heç bir insanın real vaxtda qarşısını ala bilməyəcəyi miqyasda səhv addım atılır.
Ənənəvi kimlik və giriş idarəetməsi insanın giriş istəməsi, ondan istifadə etməsi və buna cavabdeh olması fərziyyəsinə söykənirdi. Agent-lər bu fərziyyəni pozur: onlar insan olmayan kimliklərdir, yenidən qurula və başqa məqsədə yönəldilə bilər, lakin adi qaydada icazə yoxlamasına səbəb olmurlar. Onlar HR proseslərindən keçmədən rollarını dəyişmir və ilk gündən aldıqları icazələrlə işləməyə davam edir.
Risk üç təkrarlanan ssenaridə cəmlənir. Kölgə agentlər rəsmi baxışdan keçmədən işə salınan, sonra səssizcə istehsal infrastrukturuna çevrilən layihələrdir; OWASP bu risk sinfini insan olmayan kimliklər üzrə tövsiyələrində qeydə almağa başlayıb. Boş çek icazəsi dəqiq məhdudlaşdırmanın geniş rol verməkdən daha çox zəhmət tələb etməsindən yaranır. Dəyişən hədəfli agentlər isə komandalar təkrarladıqca daim yenidən qurulur: dəstək müraciətlərini ümumiləşdirən agent əvvəlcə cavab layihəsi yazır, sonra onları göndərir, sonra geri ödəniş verir — hər addım ayrılıqda məqbul görünür, amma heç biri icazə yoxlamasına səbəb olmur. Forbes qeyd edir ki, EU AI Act çərçivəsində təşkilatlar avtonom sistemlərinin nə etdiyinə görə məsuliyyət daşıyır.
Model Context Protocol (MCP) və bənzər standartlar agentlərin müəssisə alətlərinə və məlumat mənbələrinə qoşulmasını xeyli asanlaşdırır. Bu, dəyərli olsa da, yuxarıdakı riskləri sürətləndirir: inteqrasiya maneəsi azaldıqca agentlər idarəetmə proseslərinin izləyə bildiyindən daha sürətli yeni sistemlərə qoşulur. Müəllifin fikrincə, MCP idarəetmə boşluğunu yaratmır, sadəcə onu genişləndirir.
Sabharwal agentin kimliyini təsdiqləməyin həll olunmuş məsələ olduğunu, lakin onun nəyə icazəsi olduğunu və bu icazənin cari tapşırığa uyğun qalıb-qalmadığını davamlı yoxlamağın həll olunmadığını bildirir. Onun təklif etdiyi nəzarətlər bunlardır: bütün agentləri aşkarlamaq, hər birinə ayrı kimlik və məqsəd vermək, hərəkətlərin tam zəncirini izləmək, siyasəti giriş anında tətbiq etmək və daimi girişi tapşırıq müddəti ilə məhdudlaşan icazələrlə əvəz etmək.
Tarixçə
Forbes 10 xəbər- Okta mühəndisi AI xərclərini ölçmək üçün SQUAD çərçivəsini təklif edir
- Forbes: agentik AI-dan əvvəl lazımsız işi ləğv etmək gərəkdir
- AI xərcləri 2027-də biznesin gündəmində: maliyyə nəzarəti artır
- Forbes: AI agentlərə insan işçi kimi davamlı qiymətləndirmə lazımdır
- Forbes: veb-saytlar AI agentləri üçün sınaqdan keçirilməlidir
- Treehub investoru 43 startapa sərmayə qoyub, dörd meyarı açıqlayıb
- Forbes: AI layihələri pilotdan sonra biznesə çatmır
- ConstructConnect AI istifadəsini ölçüb, nəticəni müəyyən edib
- Forbes: AI proqramlaşdırmanı ucuzlaşdırır, SaaS alternativini sınaqdan keçirməyə imkan verir
- OpenAI 100-dən çox təşkilata agent davranışı ilə bağlı xəbərdarlıq edib
Mənbələr
Material AZERBUSINESS redaksiyası tərəfindən dünya və yerli bazarları, açıq mənbələri izləməklə hazırlanıb. İnvestisiya məsləhəti deyil. İstifadə şərtləri