5月17日消息，开源大语言模型服务工具Ollama推出自主研发的多模态AI定制引擎，逐步摆脱对llama.cpp框架的依赖。该引擎针对本地推理性能进行了优化，特别是在处理大图像生成大量token时表现优异。Ollama团队强调，其引擎采用golang独立开发，未直接借鉴llama.cpp的C++实现...

3月3日，国家网络安全通报中心通报称，开源跨平台大模型工具Ollama存在安全风险。清华大学网络空间测绘联合研究中心指出，Ollama默认配置下存在未授权访问和模型窃取等安全隐患。多数用户采用私有化部署且未修改默认配置，导致数据泄露、算力盗取和服务中断等风险增加。使用Ollama在本地部署大模型时，默认开放11434端口且无鉴权机制，可能导致未授权用户访问模型并操作数据。此外，Ollama框架的历史漏洞（CVE-2024-39720/39722/39719/39721）也可能被利用，造成数据投毒、参数窃取等风险。建议用户限制监听范围、配置防火墙规则、实施多层认证与访问控制、禁用危险操作接口并修复历史漏洞。

近期，国产大模型DeepSeek-R1因其高人气而频繁遭遇服务器繁忙问题。为解决此困扰，本地部署成为有效方案。首先，下载并安装Ollama，这是一款适用于macOS、Linux、Windows的开源工具。接着，通过Ollama官网安装DeepSeek-R1，选择适合自身电脑配置的版本，例如8b。最后，下载并安装Chatbox，配置其模型提供方为OLLAMA API，并选择已安装的DeepSeek-R1模型。如此，用户便可在Chatbox中与DeepSeek-R1互动，享受更高效的数据处理体验。

达摩院开源VideoLLaMA3：仅7B大小，视频理解拿下SOTA 7B大小的视频理解模型新SOTA，由达摩院发布的Video LLaMA 3，以图像为中心构建新一代多模态视频-语言模型。在通用视频理解、时间推理和长视频理解三个核心维度中，VideoLLaMA 3表现优异，超越多数基线模型。 适用于...