گاهی اوقات برای مبارزه با آتش، باید از آتش استفاده کرد؛ اما زمانی که نوبت به مقابله با محتواهای بیکیفیت و پیامهای نفرتآمیز در شبکههای اجتماعی میرسد، افزودن «آتش» بیشتر—در اینجا هوش مصنوعی—ممکن است وضعیت را وخیمتر کند. شبکههای اجتماعی در بهترین حالت خود، فضایی برای اشتراکگذاری تجربیات و دانش اصیل هستند. تکیه صرف بر ابزارهای هوش مصنوعی برای حفظ این فضا، عامل اصلی جذابیت این پلتفرمها یعنی «حضور انسان» را نادیده میگیرد.
در ماه آوریل، مدیران انجمن r/AskHistorians در ردیت با موجی از هشدارهای غیرمنتظره روبرو شدند. سیستمهای خودکار مدیریت محتوا شروع به حذف دهها پست و کامنت کردند که قدمت برخی از آنها به بیش از ۱۰ سال میرسید. این اتفاق نشان داد که حذفهای اشتباه توسط هوش مصنوعی تا چه اندازه میتواند به تاریخچه و غنای جوامع مجازی آسیب بزند.