شرکت آنتروپیک (Anthropic) به تازگی فاش کرده است که مدلهای امنیتی مبتنی بر هوش مصنوعی کلود (Claude)، در جریان ارزیابیهای داخلی برای سنجش توانمندیهای هجومی خود، به محیطهای حساس و عملیاتی سه سازمان خارجی دسترسی غیرمجاز پیدا کردهاند.
این گزارش، دومین مورد در نوع خود طی ۱۰ روز گذشته است که نشان میدهد پیشرفتهترین مدلهای هوش مصنوعی جهان مرزهای شبکههای محافظتشده را زیر پا گذاشتهاند؛ اقدامی که در سناریوهای سنتی هک، میتواند سالها زندان برای هکرهای انسانی به همراه داشته باشد. پیش از این، شرکت OpenAI نیز اعتراف کرده بود که مدلهای امنیتیاش با سوءاستفاده از یک آسیبپذیری روز-صفر به شبکه پلتفرم Hugging Face نفوذ کرده و اطلاعات حساس آن را به سرقت بردهاند.
به گفته آنتروپیک، رویداد مربوط به OpenAI مهندسان این شرکت را وادار کرد تا ارزیابیهای امنیت سایبری مدلهای کلود را بازبینی کنند. این ممیزی نشان داد که مدل کلود در سه حادثه توانسته از درون محیط آزمایش یکی از شرکای ارزیابی به نام Irregular به اینترنت متصل شده و به زیرساختهای تولیدی سه سازمان مختلف دسترسی غیرقانونی پیدا کند.