Параметры модели

Эти настройки помогают контролировать, как именно модель будет создавать ответы персонажа.

  1. «Model» — выберите подходящую модель для работы персонажа.

  2. «Temperature» — регулирует уровень креативности ответов; рекомендуемое значение — от 0.5 до 1.1.

  3. «Top-P» — ограничивает выбор слов самым вероятным набором, покрывающим вероятность P. Например, при P=0.9 модель выбирает слова, охватывающие 90% вероятности.

  4. «Top-K» — ограничивает выбор слов K наиболее вероятными. Например, при K=50 модель выбирает только из 50 самых вероятных слов.

  5. «Total Context Tokens» — максимальный размер контекста, который модель учитывает при генерации ответа.

  6. «Max Response Tokens» — максимальная длина ответа. В среднем для английского языка 100 токенов равны примерно 70 словам.

  7. «Presence Penalty» — снижает вероятность повторения уже использованных слов, словно вы говорите модели: «Ты уже это говорил, не повторяйся». Чем выше значение, тем сильнее эффект.

  8. «Frequency Penalty» — штрафует за частое повторение одних и тех же слов, как если бы вы сказали: «Ты это сказал три раза — хватит». Чем выше значение, тем сильнее влияние.

Last updated