2月21-23日，2025全球开发者先锋大会在上海召开。MiniMax副总裁刘华分享了多模态大模型发展的见解。他指出，尽管Transformer架构推动了大语言模型的发展，但处理长文本时算力消耗呈平方关系增长。未来，MiniMax将转向稀疏架构和非Transformer架构的研究，以降低算力消耗。2024年OpenAI推出的Sora和GPT4o展示了视频、语音模型的新能力，大模型在未来两到三年内仍有重大突破可能。MiniMax将致力于构建多模态开源生态，以精细研发团队提升技术上限。