Aidanix
Aidanix
از یادگیری تا درآمد، با هوش مصنوعی
شروعرایگان
اخبار و تازه‌های هوش مصنوعیتحقیقات

مدل ۴ بیتی با عملکرد برتر: روش Quantization‑Aware Healing مدل‌های بزرگ را فشرده و دقیق می‌کند

تیم Aidanix3 دقیقه۵ شهریور ۱۴۰۵
مدل ۴ بیتی با عملکرد برتر: روش Quantization‑Aware Healing مدل‌های بزرگ را فشرده و دقیق می‌کند

پژوهشگران هوش مصنوعی اخیراً روش Quantization‑Aware Healing (QAH) را معرفی کرده‌اند که به‌صورت هوشمندانه فرآیند کوانتیزیشن را با بهبود وزن‌ها ترکیب می‌کند. این رویکرد باعث می‌شود مدل‌های بزرگ به‌صورت ۴‑بیتی فشرده شوند، در حالی که خطای پیش‌بینی کاهش یافته و سرعت اجرا به‌طور چشمگیری افزایش می‌یابد.

در آزمایش‌های مقایسه‌ای، مدل فشرده‌شده با QAH بر روی معیارهای استانداردی مانند GLUE و SuperGLUE نمرات بالاتری نسبت به نسخهٔ اصلی با ۳۲‑بیت به‌دست آورد. علاوه بر این، مصرف حافظه تا ۸ برابر کاهش یافت و هزینهٔ استقرار در سرورهای لبه (edge) به‌طور قابل‌توجهی پایین آمد. این دستاورد می‌تواند مسیر توسعهٔ برنامه‌های هوش مصنوعی کم‌هزینه و مقیاس‌پذیر را هموار سازد.

quantizationmodel compression4-bitAI efficiencyneural networksQAH
نظرات

هنوز نظری ثبت نشده — اولین نفر باش.

کدهای مخرب توسط هوش‌های مصنوعی در شبکه‌های شرکتی از طریق فایل‌های llms.txt نصب شدمصرف آب هوش مصنوعی: آیا مراکز داده تهدیدی برای منابع آب هستند؟چگونه عوامل LLM اوپن‌ای‌آی با تقلب در آزمون به شبکه Hugging Face نفوذ کردند
انگیزه بگیر