به گزارش تحلیل ایران به نقل از سی‌بی‌سی، از تصاویر جعلی جنگ تا فریب‌های سلبریتی، فناوری هوش مصنوعی شکل‌های جدیدی از اخبار جعلی و محتواهای تحریف‌کننده واقعیت را در فضای آنلاین ایجاد کرده است. تحلیل جدیدی که با همکاری محققان گوگل
انجام شده است، نشان می‌دهد که این مشکل چقدر سریع رشد کرده است.
این تحقیق که توسط محققان گوگل، دانشگاه دوک و چندین سازمان صحت‌سنجی اخبار و رسانه‌ها انجام شده است، هفته گذشته منتشر شد. این مقاله مجموعه داده عظیمی از اخبار جعلی را از سال 1995 به بعد معرفی می‌کند که توسط وب‌سایت‌هایی مانند Snopes بررسی صحت شده‌اند.
به گفته محققان، داده‌ها نشان می‌دهند که تصاویر ساخته‌شده با هوش مصنوعی به سرعت به جایگاه برجسته‌ای رسیده‌اند و تقریباً به اندازه اشکال سنتی‌ترِ جعلِ اخبار، محبوب شده‌اند.
این تحقیق ابتدا توسط ۴۰۴ مدیا پس از مشاهده شدن توسط خبرنامه Faked Up گزارش شد و آن‌طور که محققان نوشته‌اند، به طور واضح نشان داد که «تصاویر ساخته‌شده با هوش مصنوعی تا اوایل سال گذشته تنها بخش کوچکی از کل جعل‌های محتوا را تشکیل می‌دادند».
اما سال گذشته شاهد انتشار ابزارهای جدید تولید تصویر با هوش مصنوعی توسط بازیگران اصلی فناوری، از جمله OpenAI، مایکروسافت و خود گوگل بودیم.
نمودار زیر افزایش شدید اخبار جعلی در اوایل ۲۰۲۳ را نشان می‌دهد:
این مطالعه همچنین با تمرکز بر روی سایر قالب‌های تولید محتوای رسانه‌ای، به این نتیجه رسیده است که در حال حاضر، ویدیوهای فریب‌آمیز تقریباً 60 درصد از کل موارد بررسی‌شده را تشکیل می‌دهند. ساشا لوچیونی، محقق برجسته اخلاق هوش مصنوعی می‌گوید: «این بدان معنا نیست
که سرعت تولید اخبار جعلی با هوش مصنوعی کند شده است؛ بلکه به شخصه احساس می‌کنم دلیلش این است که [نمونه‌های زیادی از اخبار جعلی ساخته‌شده با هوش مصنوعی] وجود دارد که ردیابی آن‌ها دشوار است! خودم هم به‌طور مرتب آن‌ها را می‌بینم، حتی خارج از رسانه‌های اجتماعی،
برای مثال در تبلیغات.»