趋境科技&英特尔生态沙龙举办，硬件、推理引擎、上层应用生态融合，打通大模型私有化“最后一公里”

近日，由趋境科技和英特尔联合主办的“智启AI 效能跃迁——趋境科技生态沙龙”成功举办。顶级投资人、行业领先企业和硬件巨头等行业嘉宾，围绕大模型私有化部署展开深入探讨，吸引了百余位行业伙伴参与。

会上，趋境科技发布了最新软硬一体服务器8卡方案，性能对比单卡提升7倍。公司自研的KLLM推理引擎、AMaaS模型管理平台及智问应用套件均迎来升级，覆盖模型推理、管理、算力调度及应用等多个功能。

水木清华校友基金、图灵法思等多家企业代表分享了硬件、基础设施、应用等领域的洞察。圆桌环节聚焦私有化场景中的技术适配与商业落地，探讨产业级解决方案。

趋境科技CEO艾智远指出，私有化AI建设面临五大挑战，并推出软硬一体全场景产品，包括首创的“异构协同”和“以存换算”技术，显著提升性能。此外，公司开源了KTransformers框架，支持多种大模型部署。

趋境科技技术负责人陈祥麟介绍了KLLM推理引擎的新进展，包括AMX优化、KVCache缓存等，性能大幅提升。8GPU+2CPU异构方案支持百人团队使用。大模型管理平台AMaaS和应用套件智问也进行了多项升级。

英特尔展示其高性能硬件配置，与趋境科技的架构深度契合。图灵法思、未来式智能和长亭科技分别分享了法律AI一体机、AI Agent平台及网络安全大模型的实际应用案例。

本次沙龙展现了AI私有化部署的技术突破与产业协同，趋境科技正推动大模型从云端走向企业内部，赋能千行百业。