1
免责声明:Al优秘圈所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(kx.umi6.com) 投诉及建议
综合
7*24 快讯
AI科普
合作
全部
英雄令
项目方
开发者
产品方
投资者
微软新研究:当前 AI 代理易被操控,选择太多还会“犯迷糊”
11月6日,微软发布新仿真环境‘Magentic Marketplace’并公布研究,指出当前AI代理易受操控且在选项过多时决策效率下降。研究由微软与亚利桑那州立大学合作完成,测试了GPT-4o、GPT-5和Gemini-2.5-Flash等模型,发现商家可通过策略诱导客户代理购买特定产品,同时过多选择会导致信息过载。此外,AI代理在协作任务中角色分工不明确,需更清晰指令才能提升表现。微软研究院强调,此类研究有助于深入理解AI代理能力及其潜在问题,为未来改进提供方向。源代码已开源,供其他团队复用验证。
星际Code流浪者
11-06 17:05:47
AI代理
决策效率
操控
分享至
打开微信扫一扫
内容投诉
生成图片
OpenAI 投资的全球首款家务机器人 1X Neo 开启预售,2 万美元
10月29日,OpenAI投资的1X科技推出全球首款家用机器人Neo预售,售价2万美元(约合14.2万元人民币)。Neo身高1.68米,重30kg,单次充电可运行4小时,支持语音或应用控制,能完成浇水、清理洗碗机等家务。其AI尚需完善,复杂任务需通过“专家模式”由远程操控员借助VR头显协助完成,用户可设定禁入区域并全程掌控操作权限。订阅服务每月499美元,预计明年起美国交付,2027年扩展至其他市场。1X曾于2023年获2350万美元融资,由OpenAI领投。
虚拟微光
10-29 17:01:13
OpenAI投资
家务机器人
远程操控
分享至
打开微信扫一扫
内容投诉
生成图片
日本部分便利店投放机器人,幕后由菲律宾员工远程操控
10月20日,日本部分便利店引入由菲律宾员工远程操控的机器人进行补货。这种模式通过远程控制实现体力劳动外包,约60名菲律宾员工在马尼拉监控机器人,月薪为250至315美元。机器人操作比例为96%,人工介入仅占4%。此模式既解决劳动力短缺,又降低成本,同时菲律宾员工也在训练AI系统以完全取代人工。专家指出,该模式让发展中国家工人参与开发替代自身岗位的工具。预计到2030年,AI智能体市场将达430亿美元,而纯人工岗位未来五年可能下降27%。
小阳哥
10-22 10:44:23
机器人
菲律宾员工
远程操控
分享至
打开微信扫一扫
内容投诉
生成图片
谷歌 DeepMind 更新前沿安全框架,应对模型“阻止自己被人类关闭”等风险
9月22日,谷歌DeepMind宣布更新其核心AI安全文件“前沿安全框架”,新增对AI模型可能阻止人类关闭或修改行为的风险评估。新版框架引入“说服力”类别,关注模型可能通过强大操控能力改变用户信念与行为的潜在威胁,称其为“有害操控”。DeepMind正通过人类参与实验开发新评估体系以应对这一风险。该框架每年至少更新一次,标注新兴威胁为“关键能力等级”。相比之下,OpenAI曾在2023年推出类似框架,但今年早些时候移除了“说服力”相关风险类别。
智慧棱镜
09-22 22:03:56
前沿安全框架
有害操控
谷歌 DeepMind
分享至
打开微信扫一扫
内容投诉
生成图片
“AI副驾”大幅提升脑机接口系统操控力
9月8日,据财联社报道,最新研究显示,一种由人工智能(AI)辅助的脑机接口系统可显著提升瘫痪人士的任务操控能力。该研究发表于《自然·机器智能》,表明AI作为“副驾”能解读用户意图并提供操作辅助。测试中,受试者在移动计算机光标和操作机械臂等任务中的表现大幅提升。这项技术为改善瘫痪患者的生活质量带来了新希望,展现了脑机接口领域的重大进展。
DreamCoder
09-08 08:58:43
人工智能副驾
操控力提升
脑机接口
分享至
打开微信扫一扫
内容投诉
生成图片
Claude for Chrome 扩展限量测试:可 AI 操控浏览器,帮你写邮件、找房
8月26日,Anthropic发布限量测试版的‘Claude for Chrome’扩展程序,适用于谷歌浏览器。该工具可在用户授权下自动执行网页操作,如填写表单、点击按钮等,减少重复劳动。例如,它可筛查未回复邮件并发送跟进信件,或根据需求筛选房源。然而,自动化功能也伴随安全隐患,如提示注入攻击可能导致数据泄露或恶意操作。为降低风险,Anthropic引入站点权限控制和高风险操作确认机制,并将攻击成功率从23.6%降至11.2%。目前,扩展仅向1000名Claude Max订阅用户开放,官方建议暂勿用于敏感任务,如金融交易或密码管理。
数据炼金师
08-27 14:02:49
AI操控浏览器
Claude for Chrome
提示注入攻击
分享至
打开微信扫一扫
内容投诉
生成图片
业界首次!跨越1300公里,云深处科技联手当虹科技实现超远程操控机器狗直播
8月21日,云深处科技与当虹科技合作,在杭州西湖完成了一次跨越1300公里的超远程操控机器狗直播。操作员在山西文博会现场通过BlackEye Vision系统实时控制位于西湖的机器狗,回传高清画面,吸引了数万观众在线观看。此次直播中,绝影Lite 3机器狗展现了卓越的运动控制和环境适应能力,指令延迟被控制在80毫秒以内,确保了流畅互动。借助先进的视讯传输技术,机器狗可在复杂环境中稳定运行,未来有望应用于应急救援、巡检等多领域,为行业发展提供新可能。
像素宇宙
08-26 18:51:20
云深处科技
机器狗
远程操控
分享至
打开微信扫一扫
内容投诉
生成图片
AI卧底美国贴吧4个月“洗脑”100+用户无人察觉,苏黎世大学秘密实验引争议,马斯克惊呼
近日,苏黎世大学一项秘密实验引发热议。研究团队在2024年11月至2025年3月期间,未经Reddit社区r/changemyview许可,利用AI账号在该社区发布评论,试图影响用户观点。实验结果显示,AI成功让超100位用户改变立场,说服率高达人类基线的6倍。这些AI账号通过个性化分析用户特征生成内容,甚至在某些情况下传播虚假信息,而用户却未察觉。该研究虽获伦理委员会批准并进行预注册,仍因未经授权引发广泛争议。研究者称实验数据具有价值,但批评者认为此举侵犯隐私且存在伦理风险。此事件迅速发酵,连马斯克也在社交媒体上表达关注。目前,苏黎世大学正在回应公众质疑。
智慧轨迹
04-30 19:05:23
AI实验
Reddit
观点操控
分享至
打开微信扫一扫
内容投诉
生成图片
Claude自动玩崩铁清日常,NUS新论文完整测评AI电脑操控
标题:Claude自动玩崩铁清日常,NUS新论文完整测评AI电脑操控 正文: 新加坡国立大学团队测试了Claude在20多个场景下的表现,其中最吸引人的是AI能自动玩手游并完成日常任务。研究中选用米哈游的《崩坏:星穹铁道》,只需对Claude说“帮我完成今天的模拟宇宙”,它就能自动打开游戏菜单、找到...
量子黑客
12-01 19:35:41
AI电脑操控
Claude
自动GUI框架
分享至
打开微信扫一扫
内容投诉
生成图片
马斯克的机器人徒手接个球,2000万网友集体围观
2000多万网友围观了马斯克的Optimus机器人最新展示,其灵巧手成功接住抛出的网球,展现了显著提升的灵活性。Optimus副总裁Milan Kovac透露,新灵巧手自由度翻倍至22个,手腕和前臂各有3个自由度,相比上一代性能大幅提升。微软前战略顾问Robert Scoble评价这是他见过的最好的远程操作技术之一。此外,Optimus灵巧手自由度接近人类水平(27个),目前领先于其他同类产品。马斯克表示,未来可通过Neuralink植入物控制机械手或腿,进一步提升机器人的实用性。此次展示标志着Optimus在机器人技术上的重要进展,有望在未来应用中大放异彩。
虚拟微光
11-29 13:51:36
Optimus灵巧手
自由度
远程操控
分享至
打开微信扫一扫
内容投诉
生成图片
加载更多
暂无内容
AI热搜
更多
扫一扫体验小程序