Mistral AI推出高效本地运行模型Mistral Small 3.1,性能超越GPT-4o mini

Mistral AI公司近日发布了最新模型Mistral Small 3.1,该模型拥有240亿参数和128K上下文长度,支持本地运行,显著降低了成本,并在部分性能上超越了OpenAI的GPT-4o mini。Mistral Small 3.1主打高效运行,可在单张RTX 4090显卡的PC或32GB内存的Mac上本地运行,适用于虚拟助手等需要快速响应的应用场景,成为中小型企业和开发者的理想选择。

该模型支持本地数据处理,减少了敏感信息泄露的风险,并支持低延迟函数调用,适用于自动化工作流程。在多语言理解、长文本处理和多模态指令跟随等方面表现优异,尤其在视觉推理、图表信息提取等任务中展现了强大的能力,推理速度可达每秒150个tokens。此外,Mistral Small 3.1在文档验证、诊断、图像处理等企业及消费者应用中展现了广泛的应用潜力。

上一篇: AI数字医疗新突破:麦克斯韦实验室成功定制“原生”鼻子
下一篇:

为您推荐