加拿大初创公司推出 Command A 轻量级 AI 模型,号称仅需两块英伟达 A100 / H100 GPU 即可部署

发布时间:2025-03-16 18:53:28 来源:互联网

本站 3 月 14 日消息,加拿大 AI 初创公司 Cohere昨日发布了一款名为“Command A”的 AI模型,该模型主打轻量化应用,号称只需要两块英伟达 A100 或 H100 GPU 即可轻松部署,号称“表现能和 GPT-4o 相媲美”,实现“用最少的硬件发挥最大的性能”。

Cohere 表示,Command A 专门为中小型企业环境设计,其支持 256k 的上下文长度和 23 种语言,作为比较,其他竞争对手的“同类模型”需要 32 块 GPU 才能部署。

在性能测试中,Command A 最快每秒可以输出 156 个 Token,据称比 GPT-4o 快 1.75 倍。而在指令追踪、SQL、代理程序和工具任务的基准测试上,Command A 也表现出色。

Cohere 援引相应性能数据,声称业界的大语言模型如果“规模过大”,反而在输出结果时可能会出现严重的延迟问题;如果只是想快速得到正确答案,Command A 相对是个不错的选择。

目前,Cohere 已将相应 Command A 发布在Hugging Face 平台(点此访问),对学术界开放使用,未来还会登陆其他云服务平台。

本周热门教程

1
精品蜜桃秘一区二区三区:为什么这种高品质蜜桃会成为市场宠儿?

精品蜜桃秘一区二区三区:为什么这种高品质蜜桃会成为市场宠儿?

2025/03/18

2
日本黄冈站和日本黄冈站有什么区别?为什么它们在日本铁路网络中如此重要?

日本黄冈站和日本黄冈站有什么区别?为什么它们在日本铁路网络中如此重要?

2025/03/17

3
如何通过黄金网站9.1免费入口轻松获取丰富的资源和服务:安全保障与快速访问全揭秘

如何通过黄金网站9.1免费入口轻松获取丰富的资源和服务:安全保障与快速访问全揭秘

2025/03/18

4
HWDHDHDXⅩXXX69背后代表的技术与网络安全的未来发展:为什么这种符号如此重要?

HWDHDHDXⅩXXX69背后代表的技术与网络安全的未来发展:为什么这种符号如此重要?

2025/03/23

5
如何在陌陌影视平台在线观看高清完整版电影和电视剧:详细指南与问题解决方法

如何在陌陌影视平台在线观看高清完整版电影和电视剧:详细指南与问题解决方法

2025/03/18

6
草莓视频旧址为何依然吸引着用户?旧址与新平台的对比分析:你还在寻找那个熟悉的地址吗?

草莓视频旧址为何依然吸引着用户?旧址与新平台的对比分析:你还在寻找那个熟悉的地址吗?

2025/03/17

7
如何处理三个男躁一个女的复杂关系?从心理分析看情感互动的艺术

如何处理三个男躁一个女的复杂关系?从心理分析看情感互动的艺术

2025/03/17

8
郑州附近有200元随叫随到的学生靠谱吗?你需要了解这些信息

郑州附近有200元随叫随到的学生靠谱吗?你需要了解这些信息

2025/03/17

9
丁淑芬的陪读性经历:一段深入探索教育、亲情与个人成长的故事

丁淑芬的陪读性经历:一段深入探索教育、亲情与个人成长的故事

2025/03/18

10
《韩国大尺度《偷欢2》为何引发热议?深度解析电影内容与社会影响

《韩国大尺度《偷欢2》为何引发热议?深度解析电影内容与社会影响

2025/03/19