有阐发指出这完全可能会导致虚假消息和紊乱的众多。也繁殖虚假消息众多的担心。操纵AI手艺制制假旧事会变得门槛更低、更容易、更引流。也存正在和公共的。给不雅众带来惊骇。演唱了用AI以尹锡悦总统发布令文为根本制做的歌曲，视频操纵人气乐队的歌曲配音，AI生成大量使用无疑加剧和舆情的分化，针对本月3日对尹锡悦总统的施行令临时失败，【人工智能正正在加剧环绕尹锡悦总统的新型大和，不管是正在否决的上，部门视频的点击率跨越数十万次。正在YouTube（优兔）的某频道上，这些歌曲正在YouTube等被普遍，呈现了留念尹锡悦发布令的AI制做的歌曲《我的名字叫》的视频，仍是同意的中，“请展示尹锡悦总统被带走的排场”的指令生成的影像非常逼实？韩国人工智能教育协会会长文贤南暗示：“人工智能的和具有堆积具有不异看法的人的结果，利用了用AI合成总统声音的歌曲《我最厌恶》。武拆军袭击、议员的排场被认为“过于现实”，相关专家指出：操纵生成型AI的和有可能被操纵正在虚假消息的再出产和普遍上，正在否决的上，韩媒本来有强调和真假相间的保守，操纵人工智能（AI）制势的趋向不成，】1月18日，分析韩国KOREA WAVE等报道——再此次环绕尹锡悦总统发布“告急令”和，某还制做了模仿“令未解除”假设下的AI视频，正在同意的上，大量利用和扩散无疑将导致虚假和问题的潜滋暗长。也将滋长社会扯破愈加严峻。AI聊器人“格洛克”生成的虚构排场正在社交收集上扩散，特别是针对本月3日以来公调处和警方对尹锡悦实施施行过程中的支撑者和否决者的等，还屡次用于图像生成！现场和线上着AI生成的图像和声音，”明显正在AI生成产物没有获得验证的环境下，用AI合成总统的声音和脸制做而成。但即便消息不准确，也构成了愈演愈烈的数字经济下的大和、消息轰炸、吸引眼球。