Архитектура и экономика frontier-моделей: лекция Райнера Поупа о стоимости токенов и трейдоффах инференса

Дваркеш Патель выпустил новый формат подкаста. Это техническая лекция у доски с Райнером Поупом. Поуп — один из создателей архитектуры TPU, сейчас развивает свой стартап. В видео детально разбирают физику и математику обучения frontier-моделей.

Главная ценность материала — разбор экономики инференса. Поуп на конкретных формулах показывает расчет базовой стоимости токена. Он объясняет аппаратные причины трейдоффа между скоростью и ценой генерации. Это дает понимание внутренней механики режимов вроде Fast-mode в Codex или Claude Code.

Материал плотный и сфокусирован на математических расчетах. Для запоминания формул к видеолекции подготовлен специальный сет Anki-карточек. Они помогают перевести теорию в рабочие метрики для оценки стоимости вычислений.