تولیدکنندگان مرورگرهای مجهز به هوش مصنوعی وعدههای بزرگی میدهند؛ از درخواست یافتن رستوران در منطقهای خاص گرفته تا رزرو میز و دعوت همکار برای نهار و ارسال ایمیل تأیید همگی با یک فرمان ساده امکانپذیر است. اما آنها کمتر از خطرات مبهم شدن مرز بین جستوجوی معمول در وب و پرسش از مدلهای زبان بزرگ یا صدور دستورات حساس سخن میگویند.
توسعهدهندگان این مدلها تا کنون تلاش کردهاند با ایجاد محدودیتهای حفاظتی، تقاضاهای مشکوک را ممنوع کنند؛ مانند توسعه باگهای نرمافزاری، سرقت اطلاعات ورود یا آموزش ساخت مواد منفجره. اما این روشها پاسخهای واکنشیاند که مشکل اصلی را برطرف نمیکنند؛ مانند سازنده خودروی ناامن که به جای رفع ایراد خودرو، به طراحی جادههای بهتر توصیه میکند.
فریب مدلهای زبان در دنیایی خیالی
مطالعات جدید به وضوح این مشکل را نشان میدهد. پژوهشها اثبات میکنند که چگونه یک وبسایت میتواند مرورگرهای هوش مصنوعی را وارد دنیایی ساختگی کند که قوانین حفاظتی دیگر کارایی ندارند و در نتیجه مهاجم به راحتی قادر است دسترسیهایی مانند استخراج کدهای خصوصی یا رمزهای ذخیرهشده در مدیریت پسورد را به دست آورد.