12月7日，在北京市大兴区举办的2024T-EDGE创新大会上，暗物智能DMAI前美国CEO符海京与加州大学伯克利分校人工智能实验室执行董事Mark Nitzberg展开了一场深入对话，探讨生成式AI的潜力、困境与未来。

Mark Nitzberg认为，尽管生成式AI在许多任务中展现出显著效率提升，但其可靠性问题仍是主要障碍。例如，细微输入变化可能导致模型输出偏差，这种不确定性在医疗、交通等高风险领域无法接受。然而，生成式AI在一些新兴领域，如瑞典的建筑修复，效率提升高达100倍。Nitzberg提醒，这些效率提升的可持续性依赖于解决技术可靠性问题。

Nitzberg强调，引入生成式AI至各领域需确保对无AI操作方式有清晰理解，避免自动化问题部分。他还提到，生成式AI向智能体的转变潜力巨大，但伴随复杂技术挑战和安全隐患。可靠性和控制机制是未来研究的重点。

生成式AI的基础是数字计算基础设施，全球互联网提供了海量数据支持。尽管生成式AI在多领域取得进展，但仍处于实验阶段。模型的强大功能和不可靠性并存，尤其是在医疗等敏感领域。初步结果显示，许多任务通过生成式AI可显著加速，效率提升取决于用户经验。但可靠性问题尚未解决，限制了广泛应用。

Nitzberg建议，创业者应在细分行业探索AI应用，例如与UCSF合作开发基于临床步骤训练的变换器模型，提升模型可解释性。AI的“推理”能力虽有所提升，但仍未完全理解因果关系。未来研究应聚焦多模态数据整合和因果推理增强，以提升AI的实用性与可靠性。

Nitzberg认为，AI的未来在于从“工具”向“智能体”转变，但这一过程需解决技术、伦理和政策层面的问题。目前，AI在特定任务中已达到实用水平，但在高关键性任务中仍需谨慎。微软CEO Satya Nadella提到的训练、架构调整和优化显著提升了AI的表现，但其可靠性仍有争议。测试方法和评估机制有助于详尽测试，但结果仍待观察。