News

推理成本降78%,API成本降97%,北大系创企开源4B上下文压缩模型

1 min read
Source: zhidx.com
智东西 作者 | 杨京丽 编辑 | 李水青 智东西11月11日报道,今日,孵化自北京大学软件工程研究所的AI编程创企硅心科技(aiXcoder)开源 上下文压缩专用模型aiXcompact-4B 。该模型主要面向编程Agent的长程复杂研发任务场景,参数量仅 4B , 支持单张A100-40GB显卡私有化部署 。 aiXcompact-4B进行上下文压缩时,能够针对编程Agent的历史轨迹进行结构化处理: 保留 关键原始信息, 精简 文件读取、代码搜索和测试运行等工具返回结果, 删除 重复或失去参考价值的中间记录,并 生成结构化任务摘要 ,以较低成本减少后续重复输入带来的Token开销。 根据aiXcoder公布的数据,在Terminal-Bench基准测试中,将aiXcompact-4B接入OpenCode进行上下文压缩测试后,整体任务完成 准确率与DeepSeek-V4-Pro持平 。在私有化部署场景下,针对特定任务的单次GPU推理成本较DeepSeek-V4-Pro 降低78% 。 采用API调用方式时,根据公开API费用估算,aiXcompact-4B单次上下文压缩请求的Token费用约为0.019元,相比DeepSeek-V4-Pro、GLM-5.3和Qwen3.8-Max的参考费用,分别 降低97.30%、97.08%和97.98% 。aiXcompact-4B以单次API调用费用降低97%的成本优势,为高频上下文压缩提供了 轻量化且经济 的选择。 上下文压缩后,Agent需要反复读取的历史上下文也随之减少。在目标任务场景下,aiXcompact-4B可将历史上下文