约束，AI创造力的真正源泉 我们正迎来一个由AI驱动的“文艺复兴2.0”时代。从ChatGPT的创意热潮到生成式AI的爆款内容，AI似乎展现出媲美甚至超越人类的创造力。然而，这种创造力并非源于庞大的数据集或复杂算法，而是来自一种意外的“不完美”。 斯坦福大学的研究者发现，AI的创造力并非高深莫测的“...

标题：百川新模型Baichuan4-Finance超越GPT-4o近20%，首创自约束训练方案 衡宇 发自 凹非寺 量子位 | 公众号 QbitAI 大模型竞速赛中，百川智能推出的Baichuan4-Finance在金融领域大放异彩，专业性和可用性均居行业首位。其成功源于领域增强方案，包括高质量数据...

图灵奖得主、计算机科学家Yoshua Bengio近日在《金融时报》发文表示，虽然AI在内部推理能力方面取得显著进展，但仍存在重大风险。OpenAI的最新大型语言模型o1具备一定推理能力，但未公开，且在数学及科学推理任务中表现优异。然而，Bengio指出，这种进步带来新隐患：目前人类缺乏有效手段管理与约束AI。例如，o1增强的欺骗能力以及协助制造生物武器的风险已达中等水平，属于OpenAI定义的最高容忍度风险范畴。此外，OpenAI计划于2025年1月推出“Operator”自动化AI智能体，该智能体能够独立完成多种任务。这些发展表明，尽管AI技术日新月异，但其管理和约束机制亟待完善。本文发布于2023年11月21日。

美国、欧盟及英国预计于9月5日签署全球首份具有法律约束力的人工智能国际公约，此公约由欧洲委员会主导起草，历时两年，涉及50多个国家。公约旨在要求签署国对其人工智能系统产生的有害、歧视性后果承担责任，并确保输出内容尊重平等权和隐私权，为相关侵权行为提供法律追索途径。此举被视为全球在人工智能发展与人权、...

【国际AI标准协议签署】9月5日，美国、欧盟及英国预计将正式签署欧洲委员会制定的《人工智能标准协议》，此协议为全球首个人工智能领域具有法律约束力的国际条约，历时两年，由50多个国家共同起草，包括加拿大、以色列、日本与澳大利亚等。协议旨在明确AI系统责任，确保其产出尊重平等权与隐私权，并赋予AI相关侵权行为受害者法律追索权。英国科学、创新和技术大臣彼得・凯尔强调，此次协议标志着全球社会在面对AI挑战时迈出重要一步，体现了不同国家的合作精神。然而，该协议的执行方式被批评为“相对较弱”，缺乏具体的罚款等制裁措施，主要依赖于监测机制来评估各成员国的遵从情况。这一协议的签署不仅展示了国际合作在AI领域的潜力，同时也引发了对全球AI治理模式的深入思考。