3月22日，AMD宣布推出开源项目GAIA，旨在让Windows PC本地高效运行大语言模型（LLM）。GAIA针对锐龙AI 300系列处理器优化，支持包括Chaty、Clip、Joker和Simple Prompt在内的四大AI智能体。其核心技术基于ONNX TurnkeyML的Lemonade SDK，采用RAG技术框架，可实时检索与分析YouTube、GitHub等数据。硬件支持普通版与混合版两种方案，混合版专为锐龙AI 300处理器优化，可智能分配NPU与集成显卡负载。GAIA本地化处理保障数据隐私，尤其适合医疗、金融等行业，响应延迟较云端方案减少40-60%，且支持离线运行。该项目采用MIT协议开源，代码已上线GitHub，未来可能扩展至Linux/macOS平台。

科技潮流变化，AI大模型走红。随着用户需求增加，大语言模型在生活和工作中发挥重要作用。然而，云端大模型的局限性，如连接不稳定、成本高和隐私问题，促使本地部署的探讨。本地部署的大模型如Koboldcpp提供了一键式体验，尤其适合小白用户，它基于纯C/C++代码，支持GPU和CPU运行，且有预设选项简化设置。Koboldcpp允许用户轻松载入本地大模型，如CausalLM和MythoMax，构建个性化AI应用。尽管本地模型的性能和数据更新可能存在局限，但其可玩性强，能与AI语音和绘图集成，带来沉浸式体验。未来，理想是结合本地知识库和云端即时信息，兼顾便利性和隐私。