Prompt caching 是答案。K3 虽然轮数多、token 多,但命中的基本都是缓存,实际推理成本极低。
材料:鲜青核桃仁(也可用干核桃,但是干的核桃仁要先炒熟而且要去皮比较麻烦)、琼脂、牛奶、白砂糖
对现有函数的许多其他改进也已从 CORE-MATH 项目同步过来。在 C++26 中,assert 宏现已支持可变参数,允许使用包含逗号的更复杂的参数(但这些参数仍必须求值为单一值)。
于是我做了 videocompress.dev,压缩全程跑在你自己浏览器里,视频不上传,一个字节都不出你的电脑。