1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议

标题:他们正在用AI疯狂给互联网“下毒”

正文:
先看一张图,这是AI生成视频的封面。如果你仅看这些图片就觉得不适,想象一下,如果这些视频自动播放,你会有什么反应?

上图的每张封面背后可能是一条类似的视频。10秒左右,前几秒平淡无奇,随后画风突变,AI生成的画面极其诡异,最终定格在令人毛骨悚然的一帧。这条视频在Instagram上的观看量达3.62亿,收获349万赞。

这种传播量意味着它作为爆火内容会被算法随机推送给用户。如果你好奇多看了几秒,又因震惊没及时划走,算法会继续推送更多类似视频,让你陷入AI生成的恐怖深渊。

这类视频发布者的主页充斥着类似内容,两个月就吸引12万关注者和上万美金收入。成千上万的类似账户每天产出数十条视频,投放到各大平台。

这些视频共性明显:“AI生成、十秒左右、画风突变、精神污染”。调教好提示词和参数后,制作者分分钟就能生产新内容。相比其他AI短视频,这类视频画面更为诡谲,常在普通场景中让角色畸变,变成不可名状的怪物。它们不像人为设计的恐怖片,而是“无意的恐怖”,无法预判,超出理性认知,让人感到“不该存在”。

这类视频本质是触发深层不适和惊悚感,让用户大脑短路,甚至不敢划走。作者Jason Koebler将其比喻为“暴力破解”,即尝试所有可能的组合,总有一种会成功。

尽管平台限流,但AI生成速度快,平台调整算法的速度永远赶不上其迭代速度。人类创作者耗时耗力制作优质视频,而AI只需批量生成垃圾内容,即使不火也无妨。

这种乱象让高质量内容难以浮现,低质量和假信息占据信息流,劣币驱逐良币。视频制作者获利,用户受精神污染,平台被侵蚀。

与此同时,AI工具产业链兴起。有人出售AI文案模板、语音剪辑工具等,甚至开发绕过版权检测的工具。以Crayo.ai为例,平台号称“一次制作无限短视频”,提供多种内容模板,实现全流程自动化,每月基础套餐仅19美元。

平台方对此态度不一。TikTok未有明显动作,Meta却积极推广AI内容。扎克伯格认为AI生成内容是趋势,用户会适应,数据显示AI内容增加后用户留存时间提升。对Meta而言,只要有流量和广告收入,AI垃圾内容不是问题。

未来社交媒体可能成为赌场,AI制造者赌算法,用户赌不被污染,平台赌平衡流量与内容质量。若极端化,这可能导致人类创作边缘化,真假难辨,用户被垃圾内容操控。

目前部分平台要求标注“AI制造”,但或许需要更细致的规范来保护用户。至少,我希望能有个“一键屏蔽AI内容”的按钮,相信你也需要。

原文链接
本文链接:https://kx.umi6.com/article/15970.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
相关推荐
换一换
谷歌 DeepMind 开源 SynthID Text 工具,可辨别 AI 生成的文字
2024-10-27 16:10:18
全国首批AI生成内容侵权责任保险落地无锡
2025-05-21 23:15:40
美国老牌小报《芝加哥太阳报》闹乌龙,专栏刊登大量 AI 生成虚假内容
2025-05-21 17:10:26
24小时热文
更多
扫一扫体验小程序