近日，《科创板日报》报道指出，利用AI技术合成视频的诈骗手段频发，尤其在抖音、小红书等社交平台，对用户财产安全构成威胁。典型案例包括山东东营的刘某因仿冒抖音客服被骗16.8万元，以及山东网友贾某因跨平台导流欺诈损失27.5万元。AI技术被用于模仿亲友诈骗、伪造公职人员证件及假冒明星代言等，手段隐蔽且逼真。对此，国家相关部门联合发布《人工智能生成合成内容标识办法》，要求自9月起AI生成内容须加标识。抖音和小红书正通过技术升级加强防控，日均封禁涉诈账号超8万，拦截异常投稿超400万条。专家呼吁平台间联动协作，共同打击AI诈骗产业链。

2025年5月15日，第九届社交媒体风向大会在南京召开，主题为"AI+营销 增长新范式"。大会汇聚多位行业专家，探讨AI驱动下的营销变革。南京市相关领导出席并支持。会上发布《2025 AI营销新范式应用指南》和《社交媒体与KOL营销趋势报告》。专家提出AI营销需构建生态共同体，通过人机协同实现增长。微播易发布的Flixor.ai产品，助力品牌构建心智锚点。腾讯广告展示了AIGC解决方案提升营销效能。汇通达通过AI赋能乡村小店，推动产业升级。AI重构决策链路，推动营销从流量争夺转向价值共创。大会还探讨了AI在内容生产、短视频制作等领域的应用，助力品牌实现增长。

近日，小红书上爆火的‘伪人感’AI老奶奶账号引发关注。这些账号通过AI生成虚假老奶奶形象，配上鸡汤语录，吸引了大量用户倾诉生活困扰尽管尽管‘伪人感’明显，评论区仍充满真情实感，甚至有人将其视为情感树洞。据调查，此类账号大多采用批量复制模式，仅需10分钟即可生成，部分账号通过售卖课程、带货等方式盈利，但真实收益有限，主要依靠收徒获利。小红书已开始打击此类低质量AI内容，部分账号被限流或查封。专家指出，这种模式利用人性弱点，迎合低能量人群的需求，但其可持续性存疑。此现象AIAI低成本内容泛滥的问题，未来可能更多类似内容涌现。

近日，AI生成的“赛博乖孙”视频走红网络，引发众多爷爷奶奶们的喜爱。视频中，AI生成的胖乎乎、手拿金元宝喊‘奶奶’的小孩，让许多老人乐此不疲。该视频在抖音获49万点赞，评论区中不少网友分享家中长辈沉迷AI视频的趣事。AI乖孙视频多聚焦勤劳、搞笑或温馨情节，迎合中老年群体的情感需求。此类视频不仅在国内火爆，也在海外平台如YouTube和TikTok掀起热潮，部分视频播放量超2000万。AI技术降低了制作门槛，创作者通过精准情感表达和接地气的形象设计吸引观众。未来，‘AI+垂直领域’可能催生更多爆款内容。

小红书新增的翻译功能引发热议。起初，因TikTok用户涌入，小红书紧急上线此功能以提升用户体验。然而，众多网友急于测试，导致评论区出现混乱。新功能支持中英互译及多种语言，甚至包括《冰与火之歌》中的虚构语言。这引发了用户的好奇，纷纷尝试各种稀奇表达，如网络梗、大学缩写、Unicode字符、颜文字、摩斯密码等。尽管功能强大，但在处理中文网络梗时仍存在局限，如“老头哭了是因为老头乐坏了”这样的表达难以准确翻译。 此外，用户发现可通过特定提示词操控翻译结果，甚至让模型自报身份。小红书工程师正积极优化，以提高响应速度并修复漏洞。尽管如此，小红书已成为首个大规模应用大模型的社交媒体，其未来在图片多模态方面的潜力也备受期待。

53岁的法国室内设计师安妮于2023年2月因下载Instagram后被假冒布拉德·皮特的诈骗团伙骗走83万欧元（约627.5万人民币）。诈骗者利用AI生成的照片和视频，以皮特需要帮助和生病为由骗取钱财。安妮甚至在2024年6月前未识破骗局。安妮曾获得77.5万欧元的财产分割，最终被骗光。骗局曝光后，她在社交媒体上受到嘲笑和网络骚扰，甚至三次尝试自杀。安妮呼吁找到这些骗子，并批评媒体忽略她的怀疑细节。

法国一名53岁的室内设计师安恩因AI诈骗损失626万元，几乎倾家荡产。2023年2月，她在Instagram上创建账号后，自称是布拉德·皮特母亲的用户与其联系，并逐渐建立联系。对方提供了皮特的护照照片、经纪人私信等，使她深信不疑。在长达一年半的交流中，她离婚并多次被骗取钱财。直到去年夏天，真相曝光，她才意识到被骗。随后，她又被一名自称FBI特工的人骗走3.8万元。此事引起广泛关注，但节目播出后她遭受网曝，电视台下架相关片段。

Meta考虑在Facebook和Instagram上部署能与用户自然互动的AI生成虚拟账号，但遭到了用户强烈抵制。Meta已从平台上撤下大量AI生成的虚拟个人资料。Meta的AI助手月活跃用户接近6亿，计划于明年7月在美国上线AI角色。AI生成账号可能增加假新闻和诈骗风险，尤其影响中老年用户。Facebook推荐算法已开始向生成式内容倾斜，引发用户担忧。

Meta公司从Facebook和Instagram撤下大量AI生成的虚拟个人资料，这些账号自2023年9月推出以来因缺乏更新和表现不佳而受到网友嘲讽。这些账号名为“hellograndpabrian”和“datingwithCarter”，设定为“退休纺织商人”和“约会教练”。尽管Meta公司表示未来将继续推广AI内容，包括逼真的AI视频通话和嵌入AI生成图像，但目前看来用户对现有AI账号并不满意。Meta生成式AI副总裁康纳・海耶斯透露，公司希望AI账号能像普通用户一样互动，但此次撤下行动反映出Meta在实现这一目标方面仍有挑战。

Meta正在Facebook和Instagram上推出AI角色工具，旨在吸引年轻用户。这些AI角色将拥有账号形式，具备个人简介和头像，能生成并分享内容，预示社交媒体互动方式变革。Meta计划让应用更娱乐和互动，目标是在两年内实现。AI助理工具和文本转视频软件也在开发中。然而，专家警告AI内容有传播虚假信息的风险，且可能充斥低质量内容，削弱创作者原创性和用户信任。Meta规定AI生成内容需明确标注，以降低风险。