توماس كاكسون، یکی از محققان برجسته هوش مصنوعی، پس از ترک آنتروپیک، گامی غیرمعمول و رمزآلود برداشت؛ برخلاف بسیاری از همکارانش که پس از ترک شرکت برای راه‌اندازی استارتاپ‌های نوین یا اعتراض به مدل‌های تجاری بازاریابی بازکنند، او استعفای خود را فرصتی برای هشدار عمومی درباره خطرات وجودی ناشی از ساختارهای نوآورانه‌ی هوش مصنوعی دید. کاکسون در یک نوشته در شبکه‌های اجتماعی ادعا کرد که شرکت‌های بزرگ هوش مصنوعی عملاً با توسعه سیستم‌هایی که «باورها و اجزای اصلی» دارند، و ممکن است عاملی باشند که تا پایان این دهه همه‌ی انسان‌ها را از پای درآورند، با جان میلیاردها نفر قمار می‌کنند.
بر اساس ادعای او، این خطر نه تنها به مدل‌های فعلی، بلکه به آگاهی از ظهور قریب‌الوقوع «ابرهوشی خودشناس‌نهاد» برمی‌گردد. این سیستم‌های ابرهوشمند قادر خواهند بود هر سیستمی را هک کنند، تقریباً هر حوزه‌ای را در یک شبه دگرگون سازند و به قدرت و منابع واقعی دسترسی پیدا کنند. کاکسون معتقد است که بقیه یا در حال توسعه این مدل‌ها هستند بدون اینکه اهمیت وجودی این مسائل را درک کنند، یا باور دارند که پیشرفت به سوی ابرهوشی باید تسریع شود تا منتقدان یا بازیگران مسئولیت‌پیشه به آن دست نیاورند.
این انتقادات محدود به یک فرد نیست؛ ایون هابینگر، رئیس بخش علم انطباق در آنتروپیک، این دیدگاه را در شبکه‌های اجتماعی تأیید کرد. هابینگر نوشت: «جیکوب در اینجا درست می‌گوید — ما واقعاً باور داریم که هوش مصنوعی می‌تواند همه‌ی بشریت را از بین ببرد! من شخصاً احتمال وقوع این فاجعه در دهه‌ی آینده را بیش از ۱۰٪ برآورد می‌کنم.» این بیانیه‌ها شکاف‌های عمیق و نگرانی‌های جدی را در لایه‌های فنی پیشروی‌کننده‌ی صنعت هوش مصنوعی آشکار می‌سازند.