Anthropic mühəndisi AI-dən asılılıqda “idrak təslimi” riskindən danışır

Anthropic-in Claude Code komandasında çalışan bir mühəndis AI agentlərinin işinin böyük hissəsini öz üzərinə götürməsindən sonra yaranan düşünmə vərdişləri itkisindən yazıb. Business Insider-in xəbərinə görə, həmin mühəndis Osmani çərşənbə axşamı X-də dərc etdiyi yazıda bildirib ki, gündəlik işinin çoxu agentlər vasitəsilə getdiyi üçün onu tənqidi düşünməyə məcbur edən getdikcə daha az şey qalır. O, özü şirkətin AI kodlaşdırma məhsulunun yaradılmasında iştirak edir, Anthropic isə insanın kod yazmasını azaldıb.

Osmani mühəndislərin AI-dan imtina etməsini istəmir. Onun tezisi belədir: tənqidi düşünməni gündəlik işinə qurmalısan, çünki öz-özünə bunu heç nə etməyəcək. Yazısında AI istifadəsi ilə düşünmənin zəifləməsinin üç növünü göstərib. Birincisi, işi AI-a ötürmək, amma məhsulun sahibliyini saxlamaqdır. O yazıb ki, bütün günü bunu edir və oxuculara da bunu məsləhət görür.

İkinci növ AI-ın çıxışının yeni girişə çevrilməsidir. Üçüncüsü isə Wharton School-un iki tədqiqatçısının irəli sürdüyü “idrak təslimi” anlayışıdır: AI-ın nəticələrinə tam etibar. Osmani bunu tənbəllik adlandırır və deyir ki, tez-tez təslim olmaq “idrak borcu” yaradır.

AI-ın bizi axmaqlaşdırdığı, yoxsa düşünmə tərzimizi dəyişdiyi hələ aydın deyil. Business Insider-in danışdığı tədqiqatçılar bəzi pis əlamətlər görür, amma tez nəticə çıxarmaqdan çəkinirlər. Osmani isə bu təslimin tez-tez baş verdiyini müşahidə edir. Onun sözlərinə görə, bu ən pis şey deyil, sadəcə məsələnin vacibliyindən asılıdır. Risk az olanda tamamilə ötürmək olar. Amma cavabı özün, hətta agent vasitəsilə də izah edə bilmirsənsə, sahibliyi itirmisən.

Osmani özünə verdiyi sualları da paylaşıb: soruşmazdan əvvəl fərziyyə qurdummu, indi nəyi məşq etmirəm? O, mühəndislərdən hər şey, hətta çox şey haqqında dərin düşünməyi istəmir. Yardımla ötürmə arasındakı fərqə cavabında yazıb ki, hansını etdiyini bilsən, ikisi də qaydadır. Mühəndislər AI-ın yazdığı kodun işlədiyini yoxlamaq üçün dövrələr qurmalıdır. Osmani bunu “vərdiş kimi yoxlama” adlandırır və agentdən nəyi yoxlaya bildiyini, nəyi bilmədiyini soruşmağı məsləhət görür.

Bacardıqlar zamanla zəifləyir. Telefon tətbiqləri xəritələri əvəz edəndən sonra neçəmiz kağız xəritə ilə yol tapa bilirik, ya da dostlarımızın nömrələrini yadda saxlayırıq? Osmani-nin sözlərinə görə, kodlaşdırma da fərqlənmir. Məşq etmədiyin bacarıqlar yox olacaq və bəlkə də təxmin etdiyindən tez. Ona görə də əlindən buraxmaq istəmədiyin bacarıqları davam etdirməyi tövsiyə edir.