Jacob Kaxson, yetak sun’iy intellekt tadqiqotchisi, Anthropicdan ajralib chiqqanda odatdagi shifoli qadam tashladi; uni tark etgan ko‘plab hamkasblari yangi startaplarni ishga tushurish yoki reklamabiy biznes modellarga qarshi e'tiroz ko‘rsatish uchun ketgan bo‘lsa, u o‘z istefasini yetakchi sun’iy intellekt tuzilmalarining mavjudlik xavflari haqida ochiq ogohlantirish berish uchun imkoniyat deb hisoblaganijdi. Ijtimoiy tarmoqdagi yozuvida Kaxon katta sun’iy intellekt kompaniyalari “haqiqiy ishonchlarga” ega bo‘lib, shu o‘n yillikning oxirigacha insoniyatni yo‘q qiluvchi omil aylanishi mumkin bo‘lgan tizimlarni ishlab chiqqani uchun milliardlab insonlarning jonini o‘yin-qovonga kiritayotgani haqida da’vo qildi.
Uning fikricha, bu xavf hozirgi modellarda emas, balki “O‘z-o‘zini takomillashtiruvchi Superintelligensiya”ning yaqin kelajakda paydo bo‘lishidan xabardorlikda. Ushbu ixtisoslashtirilgan tizimlar istalgan tizimga kirish, deyarli har qanday sohani bir tun ichida o‘zgartirish va haqiqiy hoki va resurslarga yetib borish imkoniyatiga ega bo‘ladi. Kaxon boshqalar yoki ushbu muammoning mavjudlik salohiyatini anglamasdan shu modellarni ishlab chiqmoqda yoki kritiklar yoki javobsiz shaxslar undan avval yetib borishini oldini olish uchun Superintelligensiya sari rivojlantirishni tezlashtirish kerakligiga ishonishadi deb hisoblaydi.
Ushbu tanqidlar yagona shaxs bilan cheklanmaydi; Anthropicdagi Mukofotlash naukobil bo‘limi boshlig‘i Evan Xabinger ijtimoiy tarmoqda ushbu nuqtai nazarni qo‘llab-quvvatladi. Xabinger yozdi: “Jacob shu yerda haq tomonda — biz aslida AI insoniyatning butunligini yo‘q qilishi mumkinligiga ishonamiz! Men shu ofat shu o‘n yillik ichida sodir bo‘lish ehtimolini 10% dan katta deb baholayman.” Bu bayonotlar sun’iy intellekt sohasi yetakchi texnik qatlamlarida chuqur bo‘shliqlar va jiddiy tashvishlarni ochiq ravishda namoyon etadi.