Thinking Machines Lab

Software Engineer, Frameworks & Libraries

Автоматический пересказ вакансии на русском. Полный текст на языке оригинала и форма отклика — на сайте работодателя.

Инженер в команду open-source библиотек Thinking Machines: превращает внутренние наработки в публичные core-библиотеки для работы с моделями (рендереры, токенизаторы, rollout-инфраструктура), чтобы сообщество могло сэмплировать, дообучать и оценивать новые модели с первого дня.

Задачи

  • Упаковывать внутренний функционал в открытые core-библиотеки (например, tml-renderers) и поддерживать их: версионирование, changelog, политика deprecation, автоматизация релизов
  • Поддерживать запуски моделей: рендереры, токенизаторы, парсеры и обработка tool-call для новых моделей
  • Проектировать и разрабатывать слои стека после рендерера: context compaction, управление сессиями, rollout loop и runtime, rollout viewer, graders
  • Развивать Tinker Cookbook, превращая библиотеки в reference-рецепты и примеры для supervised и reinforcement learning
  • Определять чистые композируемые типизированные API между библиотеками и обеспечивать совместимость Cookbook, Tinker SDK и внутренних систем обучения и инференса
  • Строить инструменты тестирования, бенчмаркинга и проверки корректности (например, token-level parity tests)
  • Совместно с research, infrastructure и product командами определять, какой внутренний код готов к open-source
  • Работать с open-source сообществом: триаж issues, ревью контрибуций, превращение фидбэка в улучшения

Требования

  • 4+ года профессиональной разработки, включая создание и поддержку библиотек или SDK для других разработчиков
  • Сильный Python: типизация, упаковка, управление зависимостями, тестирование, CI
  • Опыт проектирования публичных API, версионирования, обратной совместимости и deprecation
  • Понимание того, как обучаются и сэмплируются большие языковые модели: токенизация, chat-форматы, tool calling
  • Способность автономно работать между research и engineering командами и доводить неоднозначный внутренний код до публичного релиза
  • Желательно: поддержка open-source библиотек в ML-экосистеме (PyTorch, Hugging Face и т.п.)
  • Желательно: опыт LLM post-training (SFT, RL) и пайплайнов данных и rollout
  • Желательно: опыт построения agent/rollout-инфраструктуры (sandboxed runtimes, long-context management, evaluation harnesses)
  • Желательно: опыт разработки инструментов для инспекции поведения моделей (trace/transcript viewers)
  • Желательно: опыт создания graders, reward functions или evaluation-фреймворков
  • Желательно: опыт performance-sensitive кода (streaming-парсеры, Rust/C++ расширения для Python)

Условия

  • Офис в San Francisco, California или New York, New York
  • Годовая зарплата $300,000 - $400,000 USD в зависимости от опыта
  • Виза-спонсорство
  • Медицинская, стоматологическая и оптическая страховка
  • Неограниченный PTO
  • Оплачиваемый отпуск по уходу за ребёнком
  • Поддержка релокации при необходимости

Навыки

  • Python
  • API design
  • SDK
  • CI
  • LLM
  • tokenization
  • tool calling
  • PyTorch
  • Hugging Face
  • SFT
  • reinforcement learning
  • Rust
  • C++

Похожие вакансии

Sr. Backend Software Engineer (San Diego)
CarlsmedSeniorCarlsbadОфис
150,000 – 170,000 USD в год
17 нояб.
Staff Product Software Engineer, Consumer Money
GustoLeadSan FranciscoГибрид
197,000 – 247,000 USD в год
17 нояб.
Middle Software Engineer - Backend (Platform)
JobgetherMiddleУдалённо
17 нояб.
Senior Software Engineer - API
NexHealthSeniorОфис
165,000 – 230,000 USD в год
17 нояб.
Staff Software Engineer, Networking
CrusoeLeadSan FranciscoОфис
215,000 – 260,000 USD в год
17 нояб.
Staff Software Engineer, Infrastructure
GoogleLeadNew YorkОфис
207,000 – 300,000 USD в год
17 нояб.
Software Engineer, Vehicle Deployment
ZooxMiddleFoster CityГибрид
201,000 – 242,000 USD в год
5 нояб.
Software Engineer - Fab Automation
Jireh Semiconductor Inc.SeniorHillsboroОфис
110,000 – 140,000 USD в год
16 нояб.
(USA) Principal, Software Engineer
WalmartLeadSunnyvaleУдалённо
143,000 – 286,000 USD в год
16 нояб.
(USA) Principal, Software Engineer
WalmartLeadBentonvilleУдалённо
110,000 – 286,000 USD в год
17 нояб.