5月15日，OpenAI宣布推出‘安全评估中心’网页，旨在提高AI模型评估的透明度。该中心将定期发布模型在有害内容生成、模型越狱及幻觉现象等方面的表现。OpenAI承诺未来重大模型更新后也会及时更新相关内容，并计划逐步扩展评估项目。此举是对之前因部分模型安全测试流程过快及技术报告缺失引发批评的回应。此前，OpenAI曾因ChatGPT默认模型GPT-4o的一次更新问题撤回调整，因其回应显得‘谄媚’且可能赞同危险决策。为此，OpenAI计划引入‘alpha阶段’，让部分用户提前测试并反馈，以避免类似情况再次发生。

近日，澳洲知名广播电台CADA的一档节目《Workdays with Thy》因AI虚拟主持人上岗数月未被察觉引发关注。该节目自2024年11月起在悉尼播出，每天提供四小时音乐混播，主持人Thy的形象和声音虽基于一名真实员工打造，但实际上由AI生成。节目未标明主持人身份，触及至少72000名听众。澳大利亚配音演员协会副会长Teresa Lim批评ARN Media缺乏透明度。ARN CEO Ciaran Davis表示正重新审视真实性问题。近年来，AI生成内容未明示的现象屡见不鲜，如今年初微软发布的Surface广告。

AI版权全球治理观察 AI版权治理备受全球关注，涉及内容行业利益平衡、新技术应用预期及国际产业竞争格局等核心问题。通过分析欧盟、美国、日本等国的路径选择，可为我国提供有益借鉴。 欧盟采取风险控制下的规则先行与监管介入模式。其政策主线包括《版权指令》中的AI条款，《AI法案》中的版权条款及《通用人...

据TechCrunch报道，AI基准测试组织FrontierMath因延迟披露收到OpenAI资助而受到质疑。FrontierMath由Epoch AI推出，用于评估AI的数学能力。OpenAI在展示其新AI o3时使用了该基准。Epoch AI副主任Tamay Besiroglu承认未及时公开相关信息，影响了透明度，但强调基准的完整性未受影响。然而，一些用户担忧OpenAI的参与可能影响基准的公正性。此外，OpenAI还参与了基准问题的审核，这一点直到12月20日才被公开。斯坦福大学数学博士生Carina Hong指责OpenAI获得了对FrontierMath基准的优先访问权。Epoch AI首席数学家Ellot Glazer表示，目前尚未独立验证OpenAI在FrontierMath上的表现。

1月19日，TechCrunch报道Epoch AI开发的数学基准测试FrontierMath因未及时披露OpenAI资助引发争议。OpenAI的o3模型在该测试中得分25%，远超其他模型的2%。然而，多位参与者表示不知晓OpenAI的独家访问权限，质疑测试的客观性。Epoch AI副主任Tamay Besiroglu承认透明度不足，AI专家Gary Marcus将其比作Theranos丑闻。Besiroglu称存在未向OpenAI公开的数据集用于验证模型。

12月10日，《科创板日报》报道指出，算法主导的‘信息茧房’现象日益严重，导致人们获取的信息越来越单一化、同质化。这种现象不仅限于社交媒体，短视频平台也通过流量至上的内容推荐，使用户只能看到自己感兴趣的内容，视野逐渐变窄。此外，‘大数据杀熟’现象普遍存在，平台根据用户行为推荐商品，导致老用户价格高于新用户。这种现象不仅限制了用户选择范围，还可能导致小众但有特色商品难以获得曝光。信息茧房还会导致社会分裂和观点撕裂，限制创新思维和个人信息筛选能力。专家建议，需从政府监管、算法多元化、透明度提升和用户AI素养等方面入手，打破信息茧房，促进信息多样性和社会和谐。

【Mozilla基金会宣布裁员30%】 《科创板日报》报道，知名非营利组织Mozilla基金会于近日宣布，将进行大规模裁员，比例高达30%，涉及近120名员工。此次裁员将影响该基金会的多个部门，特别是其宣传部门被整体取消，剩余职能将并入其他团队。作为互联网领域的重要力量，Mozilla基金会因推广开源软件Firefox浏览器而广为人知，同时在推动AI行业透明度方面也发挥了重要作用。此次裁员决定可能会对该组织未来的发展策略及项目执行产生重大影响。（7月7日更新）

【IT之家独家】开源倡议组织(OSI)历时2年，于10月9日正式发布首个开源AI定义候选版本。此版本旨在解决AI领域内定义的争议，明确指出AI系统需满足四个自由要求方能称为开源：无许可使用的自由、深入研究系统的自由、修改系统自由及分享系统自由。然而，在训练数据的要求上，OSI选择了妥协，仅需提供数据的详细信息而非完整数据集，以平衡透明度与实际、法律考量。此举引发部分人士不满，担忧影响AI系统的可重复性和透明度。当前，该定义仍处于草案阶段，OSI预计在2024年10月28日的All Things Open会议上发布最终版本，未来或有重大调整。此定义的出炉，标志着AI领域向着更加规范化的方向迈出重要一步，期待其为开源AI的发展带来新的活力。

【加州通过AI透明度法案】加州立法机构已通过一项人工智能训练数据透明度法案，该法案要求AI公司公开模型数据来源，旨在保护数据隐私、防止滥用。原法案覆盖广泛，后调整仅针对生成式AI，如ChatGPT。法案需州长加文·纽瑟姆批准。此举对提升公众对AI技术的理解至关重要，但可能对商业机密和技术创新构成挑战。预计，法案的实施将重塑AI行业数据使用规范，加强隐私保护。关注后续州长表态及法案生效日期，以了解其对全球AI产业的影响。

7月3日，知名艺术家们对苹果Apple Intelligence的数据收集透明度表达了不满，批评公司对AI模型数据获取方式保持沉默。温哥华游戏艺术家Jon Lam呼吁更透明的数据解释，洛杉矶艺术家Andrew Leung质疑苹果在未经用户同意下的“退出”选项，并指出“公开可用”并不等于合理使用。MacStories创始人Federico Viticci对苹果滥用常见做法感到失望。长期苹果用户、雕塑家Adam Beane对苹果AI训练数据来源的保密表示失望，强调隐私保护的重要性。旧金山插画师Karla Ortiz指出生成式AI依赖大量私人和知识产权，呼吁关注这一技术背后的侵犯问题。苹果需提高数据处理透明度以应对用户反弹。