共 2 篇,按时间倒序。
上下文窗口不是"能记住多少字",而是单次请求的 token 总量上限。关键信息放在长文档中间,效果会明显变差。
模型输出的是一堆概率,temperature 缩放这些概率的陡峭程度,top-p 决定从哪个范围内抽。两者都会改变随机性,别同时大调。