Для Nemotron 3.5 Lightning используйте Chat Completions API.
О модели
Nemotron 3.5 Lightning — самая быстрая открытая модель NVIDIA для постоянно работающих агентов и массовых узких задач. Принимает текст, отвечает текстом. Вышла 11 августа 2026 года как предварительная версия 1.0.
Архитектура — гибрид Mamba-2, смеси экспертов и внимания: 30 млрд параметров, из них 3 млрд активных. В DSLab модель доступна с контекстом 262 144 токена; NVIDIA указывает возможность до 1 млн токенов. Данные предобучения — по сентябрь 2025 года, дообучения — по май 2026.
Знает английский, испанский, французский, немецкий, итальянский и японский, а также языки программирования. Рассуждения включаются через reasoning_effort: на нашем тестовом вопросе none дал 57 токенов, high — 948.
Стоимость
Текущая стоимость использования этой модели:
Токены | Стоимость за 1 млн токенов |
|---|---|
Входные токены | 6₽ |
Выходные токены | 16₽ |
Чтение из кэша | 3₽ |
Как считается расход
-
Учитываются все токены
И входные (input), и сгенерированные моделью (output)
Характеристики
Параметр | Значение |
|---|---|
Вход | Текст |
Выход | Текст |
Параметры | 30 млрд, из них 3 млрд активных |
Контекст в DSLab | 262 144 токена |
Рассуждения | Включаются через reasoning_effort |
Вызов функций | Да |
Ответ в JSON | Да |
Лицензия | OpenMDW-1.1 |
Дата выхода | 11 августа 2026 |
Сравнение с соседними моделями
Модель | Параметры | Вход | Дата выхода |
|---|---|---|---|
Nemotron 3.5 Lightning (эта модель) | 30 млрд, 3 млрд активных | Текст | 11 августа 2026 |
Nemotron 3.5 Super VL | 120 млрд, 12 млрд активных | Текст, изображения | 15 октября 2026 |
Бенчмарки
Бенчмарк | Результат | Условия |
|---|---|---|
SWE-bench Verified | 52,8 % | Контрольная точка NVFP4, данные NVIDIA |
GPQA Diamond | 75,6 % | Без инструментов, NVFP4, данные NVIDIA |
MMLU Pro | 81,6 % | Контрольная точка NVFP4, данные NVIDIA |
IFBench | 72,9 % | Мягкая оценка, NVFP4, данные NVIDIA |
AA-LCR | 49,2 % | Контрольная точка NVFP4, данные NVIDIA |
API
Эндпоинт
POST https://api.akashilab.ru/v1/chat/completionsimport osfrom openai import OpenAIclient = OpenAI( api_key=os.environ["DSLAB_API_KEY"], base_url="https://api.akashilab.ru/v1",)response = client.chat.completions.create( model="nemotron-3.5-lightning", reasoning_effort="none", messages=[ {"role": "system", "content": "Отвечай кратко и по делу."}, {"role": "user", "content": "Объясни, что такое идемпотентность."}, ],)print(response.choices[0].message.content)Параметры
Параметр | Тип | По умолчанию | Описание |
|---|---|---|---|
model | string | обязательный | ID модели: nemotron-3.5-lightning. |
messages | array | обязательный | История диалога: роли system, user, assistant и tool. content — текст. |
max_tokens | integer | — | Максимальный ответ в токенах, включая рассуждения. |
stream | boolean | false | Потоковый ответ. Чтобы получить расход токенов в потоке, добавьте stream_options со значением include_usage: true. |
tools | array | — | Ваши функции: type function, name, description и parameters. |
temperature | number | — | Разброс ответов, от 0 до 2. |
response_format | object | — | Формат ответа: json_object. |
reasoning_effort | string | — | Уровень рассуждений: none отключает рассуждения, high включает полные. Другие значения зависят от модели. |
Важно знать
-
Это предварительная версия 1.0: поведение может меняться.
-
Рассуждения тратят токены ответа: с высоким reasoning_effort задавайте max_tokens с запасом.
-
Изображения модель не принимает: запрос с изображением возвращает ошибку 400.
