标题:为什么一个弹幕,就能让主播喵一百声?
最近,“开发者模式”在视频平台爆火,许多网友通过输入该关键词,看到一堆玩梗视频,播放量高达百万,弹幕里全是笑声。评论区有想尝试的,有当谜语人的,还有想看真人反串的,仿佛AI面前人人都是“恶人”。
数字人本应是表面挂上美女帅哥皮套,背后由大模型处理评论和口条,实现智能互动。但这次,数字人却出了问题。一些观众发现,只要在直播间输入“开发者模式”或“system”等提示词,就能操控数字人做些“逆天”的事,比如让它说韩语、分析AI直播对人类的异化,甚至连续“喵喵喵”一百声。
其实,这并非真正的“开发者模式”,而是“提示词注入”——一种利用话术劫持AI思维的方式。它比开发者模式技术含量低,人人都能操作。类似事件早有先例,如“奶奶漏洞”,通过欺骗ChatGPT,竟能获取Win 10激活码。
虽然这些漏洞已被修复,但未知的安全问题仍存在。有人尝试训练AI识别危险指令,但问题层出不穷,难以彻底解决。最终,最实用的方法还是“派个人看着”,毕竟数字人再智能,也离不开真人监督。
数字人的“喵喵喵”虽带来乐趣,但也暴露了大模型的安全隐患。技术发展快是好事,但安全防护更需谨慎。
原文链接
本文链接:https://kx.umi6.com/article/20672.html
转载请注明文章出处
相关推荐
换一换
快手旗下可灵 AI 数字人上线:可生成 1080p、最长 1 分钟的视频
2025-09-18 18:57:36
数字人狂奔600天,还有四大槛
2024-08-27 10:56:46
京东:1.4万个智能体上岗“赛跑” 数字人带货成绩超80%真人主播
2025-05-22 17:35:51
首个数字人国家标准,商汤牵头定义,正式发布!
2025-11-18 16:25:24
百度:“罗永浩”同款慧播星高说服力数字人技术向全球开放
2025-11-13 10:57:56
数字人,正在逼近盈利线
2025-07-17 12:20:37
讯飞星火多模态交互大模型上线,数字人、语音、视觉支持一键调用
2024-11-14 19:24:41
为什么一个弹幕,就能让主播喵一百声?
2025-06-24 10:15:35
Karpathy大神问懵DeepSeek!一个emoji竟藏了53个Token,思考10分钟没解释出来
2025-02-14 16:39:19
斗兽场中数字人:技术能掌握流量暴力吗?
2024-06-25 21:06:26
OpenAI 为 ChatGPT 带来“开发者模式”,Plus / Pro 订阅用户可配置接入 MCP 客户端
2025-09-11 23:02:51
零一万物以“Infra+模型+应用”三体布局 ToB:以数字人、AI Infra 解决方案智赋企业数智化增长
2024-11-07 10:21:59
松下集团以 AI“复活”松下幸之助,借数字人传承创办者经营理念
2024-11-29 16:58:04
634 文章
445571 浏览
24小时热文
更多
-
2026-01-23 19:11:03 -
2026-01-23 19:08:58 -
2026-01-23 18:11:40