اطلاعات غلط تولید شده توسط هوش مصنوعی به طور معمول شامل ایجاد تصاویر، ویدیوها و متن‌های به طور کامل تقلبی ولی با واقعیت بالا می‌شود. این فناوری به منظور منتشر کردن اطلاعات نادرست، تغییر نظر عمومی و حتی ارتکاب تقلب به کار گرفته شده است.