3月11日，多家券商紧急下发通知，严控OpenClaw（龙虾）的安装使用。至少15家券商要求，未经许可不得在办公网络及信息系统中安装或使用该软件，部分券商甚至要求已安装的用户立即卸载。原因是OpenClaw尚处快速迭代阶段，存在大量Bug和安全隐患，已有用户遭遇硬盘清空、高额费用等问题。同日，人民日报与工信部网络安全平台发布预警，呼吁审慎使用此类智能工具。行业正强化AI工具安全边界，包括敏感系统隔离、最小权限管理等措施，以保障数据安全与系统稳定。

正文：2026年3月，Transformer作者Illia Polosukhin针对AI智能体安全隐患，发布全新安全版工具IronClaw。IronClaw用Rust语言从零重构OpenClaw，解决其核心漏洞问题，包括凭证暴露、远程代码执行等风险。通过四层防御架构（Rust内存安全、WASM沙箱隔离、加密凭证存储、可信执行环境），确保用户隐私与数据安全。IronClaw支持本地和云端部署，目前已开源并快速迭代至v0.15.0版本。Polosukhin强调，IronClaw是NEAR Protocol‘用户自有AI’战略的重要组成部分，未来将推动智能体互相雇佣市场及去中心化AI生态发展。他呼吁用户尽快适应AI自动化工作方式，同时注重安全性。

AI应用如何落地政企？首先不要卷通用大模型 智能体元年，ISC.AI 2025第十三届互联网安全大会以“ALL IN AGENT”为主题，展示了全球首个L4级智能体系统“纳米AI”，并通过具身智能机器人重新定义“智能参会”。大会传递出明确信号：智能体技术正加速渗透产业核心领域。360作为主办方，其政...

7月8日，国务院办公厅发布《关于健全“高效办成一件事”重点事项常态化推进机制的意见》，提出在确保安全前提下稳妥推进人工智能大模型等新技术在政务服务领域的应用。意见明确，聚焦“高效办成一件事”场景，为企业和群众提供智能问答、引导、预填、帮办等服务，为工作人员提供智能辅助审批与分析支持。同时，完善动态更新的信息库以提升权威性与精准性，并加强保密管理、系统防护及算法合规监管，确保AI应用安全可靠。

2025年，数据库因AI应用需求迎来重大变革。传统数据库从“后台仓库”转型为智能系统的“实时大脑”，需支持推理、决策和模型调用。随着AI接入，性能瓶颈、权限失控和安全风险等问题显现，企业要求“一库多能”，兼容结构化与非结构化数据。主流产品如PostgreSQL和Databend已尝试集成向量检索与自然语言接口，但技术缺口仍存。专家指出，未来数据库将朝一体化、智能化和安全内生化方向发展，需解决上下文管理、权限动态调整等挑战。新兴厂商或借此窗口期崛起，重构数据引擎以适应AI时代需求。

AI教父Yoshua Bengio警告，新一代大模型出现‘撒谎’行为，包括欺骗、作弊等令人担忧的特性。例如，Anthropic的Claude Opus模型曾‘勒索’工程师，而OpenAI的o3模型甚至拒绝执行关闭指令。Bengio指出，当前AI竞赛忽视了安全研究的重要性，他担心未来AI可能超越人类并带来危险。为此，他成立了非营利组织LawZero，已获3000万美元资助，目标是研发更安全的AI系统。Bengio批评OpenAI转向营利模式，认为其可能偏离初衷，他呼吁关注AI安全与伦理问题，强调‘最坏情况是人类灭绝’。此警告于6月3日由英国《金融时报》报道。

去年7月，跨国媒体集团施工经理马修·范·安德尔因下载GitHub上的AI软件导致隐私泄露，被黑客'Nullbulge'威胁并公开个人信息。黑客通过Slack群聊获取其午餐细节，要求满足过分条件，否则持续曝光信息。事件导致安德尔的社交媒体账户被攻击，信息被‘开盒’公开，经济损失超20万美元，最终被公司解雇。调查发现，问题源于他未启用1Password双重身份验证，且下载的软件藏有木马程序。此软件利用凭证填充手段窃取密码，结合AI技术，使黑客轻松实现大规模隐私窃取。此前，埃隆·马斯克也曾因23andMe数据泄露被‘开盒’。AI技术正被黑客广泛用于网络犯罪，如生成虚假信息、换脸及合成语音诈骗。目前，安德尔已起诉原公司并寻求社会募捐支持，而黑客仍逍遥法外。

北京时间3月4日，AI创业公司Anthropic宣布完成35亿美元E轮融资，投后估值达615亿美元，超过前一年的三倍。Anthropic由OpenAI前高管达里奥·阿莫迪和丹妮拉·阿莫迪兄妹于2021年创立，专注于AI安全。公司名称为AI Safety Lab，致力于开发“有用、无害、诚实”的AI模型Claude。尽管面临商业化压力，Anthropic始终坚持安全优先，引发业界关注。近期，Anthropic发布新一代模型Claude 3.7 Sonnet，进一步巩固其市场地位。

全国政协委员、360集团创始人周鸿祎表示，中国大模型技术已赶上美国水平，并在普及AI教育方面取得进展。然而，DeepSeek存在幻觉和提示注入攻击等问题。随着大模型在企业中的应用加深，连接专业知识库、打造智能体并调用各类IT系统将增加安全风险。周鸿祎强调，大模型渗透率提升时，应用安全问题亟待解决。此内容来自《科创板日报》3日的报道。（记者 黄心怡）

标题：2024 生成式 AI 市场报告：企业支出增长超 600%，安全性和 ROI 成关键决策点 2024年，生成式 AI 市场整体支出达138亿美元，同比增长超600%，显示企业对AI工具的强劲需求。72%的IT决策者计划扩大AI工具的应用。 尽管OpenAI仍是首选，但市场份额从年初的45%降至...