加拿大AI初创公司Cohere昨日发布了名为“Command A”的轻量化AI模型。该模型主打高效部署,仅需两块英伟达A100或H100 GPU即可运行,性能号称可与GPT-4相媲美。Cohere表示,Command A专为中小型企业设计,支持256k上下文长度和23种语言,相比其他需要32块GPU部署的同类模型更具成本优势。
在性能测试中,Command A每秒可输出156个Token,速度比GPT-4快1.75倍,且在指令追踪、SQL处理等任务中表现出色。Cohere指出,大语言模型规模过大可能导致输出延迟,而Command A则能快速提供准确结果。目前,该模型已在Hugging Face平台开放学术使用,未来将登陆更多云服务平台。