llm-demo

API LLM

Настройки модели

Системный промпт

Рассуждения

Думать перед ответом

Модель сначала рассуждает, потом отвечает: точнее, но заметно дольше. Ход рассуждений — в свёрнутом блоке над ответом.

Генерация

Температура

Ограничить длину ответа

Стоп-строки (до 4)

Сэмплинг

Top K

Штраф за повторы

Top P

Min P

Структурированный вывод

Ответ в JSON

JSON Schema (необязательно)