بر اساس نتایج یک پژوهش از ۱۰۷ شرکت، روند سرمایهگذاری در زیرساختهای هوش مصنوعی با سرعتی بیشتر از توان مشاهده و مدیریت اقتصادی آنها پیش میرود. اکثر سازمانها هنوز در مراحل اولیه اجراییسازی AI هستند و تنها ۲۱ درصد AI را در مقیاس وسیع به تولید رساندهاند، در حالی که برنامههای خرید عمدتاً به سوی زیرساختهای تخصصی معطوف است که تقریبا هیچکدام در حال حاضر از آن استفاده نمیکنند.
با وجود استفاده گسترده از سرویسدهندههای ابر (گوگل، مایکروسافت، AWS، اوراکل) و مدلهای API (مانند Gemini، OpenAI و Anthropic)، شرکتها تمایل دارند به سوی پلتفرمهای ابری ویژه و شتابدهندههای جدید حرکت کنند. جالب آنکه تصمیمگیری خرید، بیشتر بر پایه قابلیت ادغام و هزینه کل مالکیت صورت میگیرد و قیمت اولیه نقش کمی دارد؛ اما بسیاری از شرکتها هنوز نمیتوانند هزینههای واقعی و بازده زیرساختهای AI خود را با دقت اندازهگیری کنند. همچنین بیشتر GPUهای خریداریشده کمتر از نصف ظرفیت خود کار میکنند و بهرهوری پایین است.
در حالی که ۶۴ درصد سازمانها طی ۱۲ ماه آینده قصد افزودن یا تغییر ارائهدهنده زیرساخت را دارند، اکثراً میان سرویسدهندههای شناختهشده جابجا میشوند. از سوی دیگر، ۸۳ درصد سازمانها گزارش دادهاند که GPUهایشان کمتر از ۵۰ درصد ظرفیت کار میکنند و کمتر از نیمی قادر به دنبالگیری دقیق هزینهها هستند. چالش بعدی، انتقال تنگناهای inference از پردازش به حافظه (bandwidth) است که هنوز برای بسیاری روشن نشده و اهمیت آن کمتر مورد توجه است.
این نتایج نشان میدهد عطش خرید زیرساختهای AI جلوتر از توان اندازهگیری و بهینهسازی هزینههاست و شکاف پردازشی موجود با خرید بیشتر سختافزار حل نمیشود؛ بلکه نیازمند افزایش شفافیت و پایش اقتصادی زیرساختهاست.