Вышла открытая модель DeepSeek-V4: контекст на 1 млн токенов и уровень GPT-5.4 в кодинге

Состоялся релиз открытой языковой модели DeepSeek-V4. Она доступна в двух вариантах: старшая Pro на 1,6 трлн параметров и легкая Flash на 284 млрд. Обе нейросети удерживают в памяти контекст до 1 миллиона токенов. Для работы с такими объемами архитектуру перевели на гибридный механизм внимания. Теперь на миллионном окне версия Pro забирает лишь 10% памяти под KV-кэш и 27% вычислительных ресурсов в сравнении с прошлым поколением. Базовое обучение прошло на массиве из 32 трлн токенов с применением оптимизатора Muon.
Разработчики предусмотрели три профиля генерации. В режиме Think Max модель тратит максимум вычислительного бюджета на цепочку рассуждений перед ответом. На таких настройках версия Pro обходит проприетарные аналоги в задачах программирования. В бенчмарках LiveCodeBench и Codeforces открытая модель превосходит GPT-5.4. В тестах автономного исправления кода SWE Verified результаты идут наравне с Claude Opus 4.6 и Gemini 3.1 Pro.
Цены на API делают архитектуру применимой для массовой обработки логов или длинных документов. Миллион токенов на вход для версии Flash стоит 0,14 $, на выход — 0,28 $. Тарификация Pro составляет 0,435 $ и 0,87 $ соответственно. Веса обеих версий выложены на Hugging Face для локального развертывания в форматах FP8 и FP4.
Поделиться:
Ещё из архива
Все публикации
Интервью с Владимиром Аюевым: графический язык бигтеха, студия SASHA и дизайн-образование
1 месяц назад
Jockey от TwelveLabs: ИИ-агент для семантического поиска по видеоархивам и извлечения метаданных
1 месяц назад
Архитектура винной этикетки: баланс наборного шрифта и каллиграфии в кейсе Winecraft
1 месяц назад
Оптимизация контекста в Claude Code: как работает кэширование промптов и за что мы платим
1 месяц назад
Архитектура памяти для LLM-агентов: от базового SQLite до Graph RAG
1 месяц назад