近日，个人开发者逯雨鑫（账号yuxinlu1）凭借两款12B GGUF量化模型，在Hugging Face热榜力压智谱、百度等大厂跻身前列，总下载量超70万。作为在美留学的AI方向研究生，他自费单人耗时40余小时，将顶级编程推理能力蒸馏至Gemma4-12B小模型中。该模型仅需4.5GB显存即可本地离线运行，主打代码编写与Agent能力，完美兼顾“隐私与免费”。逯雨鑫坦言，个人开发者虽无大厂算力，但能更专注解决具体痛点。他强调，不夸大能力、真诚回馈社区并坚持开源，正是个人开发者在AI时代突围的核心密码。

苹果在 WWDC24 上发布了Apple Intelligence，一款集成在iPhone和iPad中的AI技术。本地模型包含30亿参数，超越70亿开源模型，能在iPhone 15 Pro系列（预计今年夏天推出）上提供0.6毫秒的首词延迟和30个/秒的生成速率。模型经过优化，使用苹果芯片服务器，且不涉及用户隐私数据。Apple Intelligence是iOS 18和iPad Pro（M1+）的亮点，免费提供给搭载A17 Pro或M系列芯片的设备。Mac用户则需要M1及以上版本。