新增了一种语言环境:hrx_BR(巴西通用的 Hunsrik 语言)。更多详情可查看此处。
train/approx_kl Approximate KL Divergence,近似平均KL散度,代表的是更新前旧策略 和 更新后新策略 的分布差距有多大。
#define PRINT_LOG printf("file:%s\tline:%d\t\t" \ "date:%s\ttime:%s\n", \ __FILE__, __LINE__, __DATE__, __TIME__) 注意:\ 后面啥都不能有,空格也不行。
Prompt caching 是答案。K3 虽然轮数多、token 多,但命中的基本都是缓存,实际推理成本极低。