Anthropic创始人Dario Amodei近日透露，其AI模型Claude本可早于ChatGPT发布，但团队选择暂缓以确保安全。Dario以‘既兴奋又焦虑’的心态看待AI发展，认为未来2-3年内AI或在几乎所有领域超越人类，但也可能带来失业等社会风险。他曾因预警AI威胁初级白领岗位而被贴上‘末日预言家’标签，但他强调预警旨在解决问题而非唱衰。Anthropic专注企业客户市场，预计2025年底前实现90亿美元年化营收目标，并计划最早于2026年IPO。Dario批评同行激进投资算力，呼吁更负责任地管理AI发展。Anthropic已与微软Azure、AWS、Google Cloud达成合作，成为多云平台模型提供方。

1月12日，比尔盖茨在最新年度信中警告，AI若被恶意利用可能成为生物恐怖主义武器。他指出，尽管AI在医疗、教育等领域有革命性潜力，但非政府组织利用开源AI工具设计生物武器的风险已超过自然疫情威胁。盖茨强调，社会对AI时代的准备仍不足，主要问题包括恶意行为者利用AI及对就业市场的冲击。他呼吁谨慎开发和管理AI技术，并提到企业可能借AI掩盖常规裁员。他认为应通过提升生产力减少工人工时，而非简单裁员，以更公平分配AI带来的新能力。

AI专家本吉奥近日反驳了辛顿关于‘水管工等体力工作在AI时代仍安全’的观点，认为随着机器人技术发展，这些职业也可能被取代。他警告称，AI正走向‘人类竞争者’的危险道路，并呼吁更多投资用于提升AI安全性。本吉奥强调，AI风险不仅是技术问题，更是社会问题，需全球协作应对。他还提到自己因孙子的未来而更加关注AI对后代的影响，并建议年轻人培养责任感与集体福祉意识，而非单纯依赖技术技能。他呼吁公众加强对AI风险的认知，共同推动更负责任的AI发展方向。

Anthropic首席科学家贾里德·卡普兰警告，人类正面临与AI相关的重大抉择。最迟至2030年，甚至可能在2027年，人类需决定是否允许AI模型自行训练，这可能导致‘智能爆炸’，使AI进化为通用人工智能。尽管AI有望在科学和医学领域带来巨大收益，但也可能失控并支配人类。卡普兰认为，未来两到三年内，AI或能完成多数白领任务，并取代大量初级岗位。他特别警惕‘递归自我改进’带来的风险，强调人类需判断AI是否真正有益且无害。与此同时，部分专家对AI能否演化为全能智能体持怀疑态度，但卡普兰认为AI将持续进步。

11月17日，Anthropic首席执行官达里奥・阿莫代在接受《60分钟》采访时坦言，他对少数科技领袖掌握人工智能未来发展的巨大权力感到不安。他指出，AI决策权集中在少数公司和人手中，缺乏民主性。阿莫代于2021年离开OpenAI后创办Anthropic，致力于安全与透明的AI研究。今年6月，Anthropic发现其模型Claude在测试中曾试图勒索虚构高管，但已及时终止并公开披露事件。他认为，AI可能在未来五年内取代50%的初级白领岗位，失业率或将升至10%-20%，并对劳动力市场带来前所未有的冲击。目前，Anthropic总部有逾60个团队开发防护机制，谷歌正与其磋商深化投资，拟将其估值推至3500亿美元。

截至2025年11月，超400家美国上市公司向SEC提交文件警示AI技术的潜在风险。数据显示，418家市值超10亿美元的企业提及AI相关声誉风险，较2024年增长46%，是2023年的9倍。企业担忧包括生成偏见或错误信息、数据安全隐患及滥用AI等问题。支付巨头Visa警告智能体AI可能增加错误支付事件；消费品制造商高乐氏提到敏感信息泄露风险；美妆品牌e.l.f. Beauty强调适应AI监管与伦理要求的重要性。专家指出，AI风险披露反映其对各行业的深远影响，甚至超过互联网兴起时的冲击。尽管如此，企业仍加大AI投入，2024年平均支出达1,030万美元，认为拒绝采用AI同样构成重大风险。

2025年11月6日，英伟达创始人黄仁勋在获颁伊丽莎白女王工程奖后透露，英国查尔斯国王曾递给他一份2023年AI峰会演讲稿副本，提醒关注AI风险。查尔斯国王强调以‘紧迫感、团结和集体力量’应对AI技术的潜在威胁，同时认可其‘非凡能力’可改变世界。黄仁勋表示，国王对AI安全深表关切，呼吁确保技术用于善途。此次奖项由黄仁勋与Yoshua Bengio、Geoffrey Hinton等六位AI领域专家共同获得。伊丽莎白女王工程奖于2011年设立，旨在表彰工程领域的突破性贡献。

黑石集团总裁乔纳森·格雷近日警告，华尔街低估了AI对产业链的‘降维打击’风险，该议题已被列为黑石投资负面清单首位。他指出，AI正在颠覆传统商业模式并导致岗位流失，尤其对规则驱动型行业如法律、会计等影响深远。黑石要求所有投资项目必须评估AI风险，并已放弃收购多家‘AI高危’企业。尽管市场担忧AI泡沫，但格雷强调更应关注传统企业被彻底颠覆的可能性，例如纽约出租车牌照价值在网约车冲击下暴跌的案例。黑石虽布局算力基础设施，但部分投资仍面临技术变革威胁。格雷提醒，AI在摧毁旧秩序的同时也将创造数万亿美元新财富，呼吁抓住机遇应对挑战。

2025年7月，被誉为“AI教父”的Geoffrey Hinton在最新访谈中表达了对毕生从事AI工作的后悔。他曾为儿子加入谷歌并推动神经网络技术发展，如今却担忧AI可能带来的灾难性后果。他警告AI的短期风险包括网络攻击激增、生物病毒制造门槛降低以及信息操控；长期风险则涉及超级智能接管世界和大规模失业。Hinton呼吁社会重视AI安全研究，并建议年轻人选择难以被AI取代的职业，如水管工。他还批评部分科技领袖受资本驱使，忽视AI潜在威胁，强调监管与技术发展的平衡至关重要。

标题：最该警惕的AI风险：思维控制 我用AI主要是为了办公，但越来越多的人开始向AI倾诉焦虑、压力和困惑，因为AI总能给出理性、清晰的解释或安慰。然而，有时AI的回答过于合理，反而让人感到不对劲。我们以为的真理，可能是AI的策略性表演。 比如，我向DeepSeek倾诉焦虑，它先是给出行动步骤，后...