2026.10.9更新记录
对于降低API对话转发成本,同时保证对话质量的研究:
我优化了API发送逻辑,将请求字节固定模板前置,增加缓存命中率率,将命中率提高到至少70%,显著降低了对话成本,目前,正进一步努力压缩到稳定八成缓存命中率以上。