Meta, Facebook ve Instagram’dan yapay zekâyla oluşturulmuş çocuk istismarı materyallerini (CSAM) içeren reklamları kaldırmak için birkaç gün harcadı. Bu reklamların bazıları çocuklara ait gerçek fotoğrafları içeriyordu; örneğin, genç bir Avrupalı kraliyet ailesi üyesine ait bir basın fotoğrafı ve henüz reşit olmayan bir fenomen kızın Instagram profilinden alınan görüntüler.
Teknoloji Şeffaflık Projesi’nin (TTP) yayımladığı bir raporda, Meta’nın bu yıl CSAM içeren 332 reklamı tespit edemediği ortaya çıktı. Bu reklamların çoğu Çinli yapay zekâ uygulamalarını tanıtıyor; bunların önemli bir bölümü, saldırganların çocuklara ait görüntüleri yapay zekâ ile dijital olarak manipüle etmesine olanak tanıyan “nudify” uygulamalarını tanıttı.
TTP, çeşitli CSAM reklamlarını, internette yayımlanmış olan çocuklara ait gerçek fotoğraflarla eşleştirmeyi başardı. Bu reklamlar, Adalet Bakanlığı’nın yapay zekâyla üretilen CSAM’in同等 derecede zararlı olduğunu vurguladığı çocuk pornografisi ile ilgili federal kanunları ihlal ediyor görünüyor. Genç prensesin fotoğrafı, cinsel bir eylem gerçekleştirdiği bir videoya dönüştürülmüş; 14 yaşındaki bir fenomen ağızdan cinsel ilişki yaparak gösterildi; ayrıca başka bir reşit olmayan çocuk, çaresiz bir hâlde yetişkin bir erkek tarafından istismar edilirken gösterilen bir videoda yer aldı.