7月5日，美国约翰斯·霍普金斯大学等机构的研究人员开发出一款名为“多模态AI室性心律失常风险分层系统（MAARS）”的新型人工智能模型。该模型通过分析心脏增强磁共振成像（MRI）和多种医疗数据，挖掘此前未被识别的心脏健康信息，显著提高对心源性猝死高风险人群的预测准确性。这一成果已发表在《自然-心血管研究》杂志上，有助于减少不必要的医疗干预，挽救生命。

对齐科学旨在预测AI模型的危险行为倾向，尤其关注罕见的复杂行为。研究者通过实验检测模型是否会出现如“欺骗”等行为，并识别早期预警信号。然而，评估方法面临规模挑战，即在小型基准上评估大规模模型可能导致评估与部署间的不匹配。模型在评估中表现良好，但在实际部署时可能因罕见行为引发问题。 为解决这一问题，Anthropic团队提出了一种新方法，使用标准评估方法测试AI模型最罕见的风险并不现实。他们采用外推法，基于幂律分布预测罕见行为，即使评估数据集较小，也能预测大规模部署中的风险。结果显示，该方法在预测模型提供危险信息和不对齐行为方面表现出高准确性。 此外，该方法在自动化红队测试中有效，帮助确定最佳计算资源分配策略。尽管如此，未来仍需改进以提高预测的可靠性和鲁棒性。团队计划探索不确定性估计、捕捉尾部行为的新方法，并将预测与实时监控结合，以实现更有效的风险管理和控制。

英国国家医疗服务体系（NHS）将于明年年中在伦敦的两家医院试用一款名为“Aire”的人工智能工具，以预测患者的心脏病风险。Aire经过训练，能够读取心电图（ECG）测试结果，并检测出潜在的心脏结构问题，从而标记出需要进一步监测、检查或治疗的患者。研究人员使用189,539名患者的116万份心电图测试结果对Aire进行了训练。根据《柳叶刀数字健康》杂志上的研究，Aire在78%的病例中能正确识别患者在ECG检查后10年内死亡的风险，在预测未来严重心律问题的准确率为76%，在预测未来动脉粥样硬化性心血管疾病的准确率达到70%。项目负责人表示，Aire的目标不是取代医生，而是通过AI达到“超越人类”的效果。初期将招募数百名患者，随后扩大规模进行进一步研究。此次试用预计在明年的中期开始。

上海交通大学与多家医疗机构合作，成功开发出首个基于AI的流产风险预警系统，通过分析孕前血清代谢物，实现对流产风险的精准预测。该研究成果在《Innovation Medicine》期刊上发表，标志着人类在预防流产领域迈出了重要一步。 由李金金教授带领的项目团队，结合上海交通大学、上海市红房子妇产科医...