27B参数模型在16GB显存GPU上运行,据称推理能力接近Claude 4 Opus

robot
摘要生成中

ME News 消息,4 月 1 日(UTC+8),近日有消息称,一个27B参数规模的模型在本地16GB显存的GPU上以4位量化运行时,在SWE-bench基准测试中表现优于Claude Sonnet 4.5。据文中观点,该模型能提供与Claude 4 Opus相当的推理能力,但资源需求更低。该模型的v2版本将思维链(chain-of-thought)的冗余减少了24%,同时保持了96.91%的HumanEval准确率。(来源:InFoQ)

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论