Majestic Labs ai
Product Manager - AI SDK / Model-Serving Product Manager - IL
Продакт-менеджер в AI-стартап, разрабатывающий инфраструктуру для AI-нагрузок. Отвечает за software-стек: компилятор, runtime-движки и интеграции с ML-фреймворками для платформы Ignite APU.
Задачи
- Переводить требования клиентов, инженеров и бизнеса в PRD, технические спецификации и описания фич
- Составлять планы продукта, вехи и сроки релизов, управлять зависимостями между инженерными командами
- Определять требования к тулчейну компиляции AI-моделей и дорожную карту компилятора
- Вести продуктовые партнёрства и технические интеграции с ML-фреймворками и рантаймами (PyTorch, JAX, vLLM, SGLang, Hugging Face Optimum)
- Определять дорожную карту оптимизации производительности низкоуровневых библиотек операторов, включая BLAS и кастомные ядра OpenAI Triton
- Определять требования к кластеризации и multi-node scale-out (SLURM, Ray, LMCache)
- Выступать адвокатом developer experience: следить за компиляцией и исполнением в песочницах клиентов, убирать необходимость ручного управления памятью и кастомных хаков
Требования
- Строгое требование: степень M.Sc. или Ph.D. в Computer Science, Electrical Engineering, Mathematics или Physics
- Минимум 5–8 лет опыта в product management или software systems engineering с подтверждённым треком поставки компиляторных технологий, deep learning фреймворков или developer platform инструментов
- Глубокое теоретическое и практическое понимание CUDA, Triton, высокопроизводительных C++ DSP-библиотек и многопоточных парадигм параллельных вычислений
- Понимание inference serving (vLLM, TensorRT-LLM, Triton Inference Server, SGLang), включая батчинг, управление KV cache и компромиссы latency/throughput
- Знание HPC scale-out инфраструктур, распределённых архитектур памяти и сетевых протоколов для высокопроизводительной кластеризации
- Опыт работы в компаниях, строящих сложные AI compute системы (NVIDIA, Meta, Google, AWS, SambaNova, Cerebras, Groq, Lightning AI)
Условия
- Работа в быстрорастущем US-Israeli AI-стартапе
- Поддержка топовых инвесторов и руководство от отраслевых ветеранов
- Equal opportunity employer, ценящий разнообразие опыта и мышления
Навыки
- CUDA
- Triton
- C++
- PyTorch
- JAX
- vLLM
- SGLang
- Hugging Face Optimum
- TensorRT-LLM
- Triton Inference Server
- BLAS
- SLURM
- Ray
- LMCache
- MLIR
- LLVM
- HPC