За последние месяцы немного сменил свой стек для AI-разработки.

  1. Плюнул на локальные модели. Вне агентского кодинга с автоматической обратной связью существуют, похоже, только бредогенераторы. В мои 16Gb VRAM всё равно ничего лучше Gemma4:12b не влезает. У неё всё очень плохо с tool calling. Теоретически можно было бы пошатать MoE, llama.cpp покомпилировать под себя, настроечки понастраивать, выиграть 10-15% скорости генерации, но большого прорыва это не сделает. Для большого прорыва мне нужно 32Gb VRAM, либо DDR5, и то и другое стоит дороговато. В итоге пользуюсь какой-то там русской прослойкой а-ля openrouter с облачными моделями, плачу за токены по СБП, меня в целом устраивает. Кодил бы больше - парился бы за подписки на фронтир-модели.
  2. Пересел на Hermes. Начинал я с копирования из чатика, тулинг даже наклепал для автоматизации процесса, таки бесплатно же! Но очень долго. Потом был Continue. Я параноик, но подтверждение каждого пука начало бесить. Но разумеется я не запускаю Hermes на хост-системе. Он сидит в виртуальной машине, она забэкаплена. Hermes сидит под непривилегированным пользователем, sudo у него нет. Выход в интернет у машины появляется только по рубильнику, доступному только руту. Без рубильника доступен только API для инференса и DNS, чтобы найти этот API. Ну и локально развёрнутый PostgreSQL для автотестов. Локалка недоступна. Скиллы почти все отрублены, кроме реально необходимых.
  3. SDD. Я прям жесточайше подсел на OpenSpec. В сочетании с /clarify это просто какое-то великолепие. Кремниевый мешок даже какие-то осмысленные уточняющие вопросы задаёт. Экстаз же у меня занимает то, что этот кремниевый мешок в разы дисциплинированнее кожанных мешков и поддерживает актуальную спецификацию! ./openspec/changes/archive/ я засунул в .gitignore, но ./openspec/specs/ это просто бомба. Я их сам уже не читаю, но это прям эликсир против становления легаси - агент прям адекватным русским языком фиксирует нахрена система работает именно так (вытянутое из меня через /clarify). Я, как тимлид, от своих разработчиков за полтора года этого не смог добиться. Здесь я просто плачу и от радости (за openspec) и от бессилия (как человека, пытавшегося влиять на культуру разработки).