在某些情况下,您可能需要调整“Temperature”和“top_p”参数来微调 AI 生成字的创造力和焦点。以下是可能的组合: 高温低top_p:AI模型将考虑小范围的高概率字,但高温仍可能在输出中引入一些随机性。 低温高top_p:人工智能模型将考虑更广泛的字,但将高度关注选择最有可能的字,从而导致创意输出减少。 高温高top_...
在“p”值小于最大概率的假设下,简单地选择最有可能的单词。 Top_k以同样的方式工作,但只考虑参数“k”作为最可能的单词。与top_p过程一样,概率是排序的,但在这种情况下,不需要累积。排序后,设置k的阈值,最后重新计算概率。 https://medium.com/@daniel.puenteviejo/the-science-of-control-how-temperature-t...
在大語言模型中,Temperature、Top-P和Top-K是常見的參數,用於控制文字生成過程中的隨機性和創造性。我自己在開發 LLM 應用時,主要也都只會去調整Temperature而已,其實Top-P與Top-K很少去調他,因為每次調整都沒有什麼好結果,之前因為不太理解這兩個參數的真正含意,最後還是回歸預設值處理。這篇文章我打算好好的...