أحيانًا يجب عليك استخدام النار لمكافحة النار؛ ولكن عندما يتعلق الأمر بالتعامل مع المحتوى منخفض الجودة وخطاب الكراهية على وسائل التواصل الاجتماعي، قد يؤدي إضافة المزيد من النار—في هذه الحالة، الذكاء الاصطناعي—إلى تفاقم الوضع. في أفضل حالاته، تُعد وسائل التواصل الاجتماعي مساحة لمشاركة التجارب والمعارف الأصيلة. الاعتماد فقط على أدوات الذكاء الاصطناعي للحفاظ على هذه المساحة يتغاضى عن الجاذبية الأساسية لهذه المنصات: الحضور البشري.
في أبريل، واجه مشرفو مجتمع r/AskHistorians على Reddit موجة من التحذيرات غير المتوقعة. بدأت أنظمة المراقبة الآلية للمحتوى بحذف العشرات من المشاركات والتعليقات، بعضها يعود إلى أكثر من عشر سنوات مضت. أظهر هذا الحدث مدى الضرر الذي يمكن أن تسببه الحذف الخاطئ بواسطة الذكاء الاصطناعي لتاريخ وغنى المجتمعات الافتراضية.