大语言模型的超参数含义： Top-P 采样； Top-P 采样；logit_bias：

目录

大语言模型的超参数含义

 Top-P 采样

频率惩罚（Frequency Penalty）

top_k:

logit_bias：

top_logprobs：

max_tokens：

大语言模型的超参数含义

 Top-P 采样

• 含义：一种采样替代方法，称为核采样。模型考虑top_p概率质量的token结果。例如，0.1表示仅考虑组成前10%概率质量的token。
• 作用：这种方法可以限制输出序列的长度，并仍然保持样本的一定多样性。

频率惩罚（Frequency Penalty）

• 含义：该参数的值范围为-2.0到2.0。正值会对新token进行惩罚，基于其在当前文本中的出现