Задачи: — Реализация продвинутых оптимизаций инференса (спекулятивное декодирование, квантизация, модификации внимания и др.) для максимизации mining weight. — Настройка Docker-конфигураций для различных моделей GPU на основе доступного реестра. — Разработка пользовательских стратегий оптимизации, балансирующих пропускную способность и качество. — Создание и поддержка пользовательских Docker-образов, оптимизированных под конкретные архитектуры GPU. — Проектирование и внедрение систем для стабильного и масштабируемого майнинга Gonka и других протоколов. — Разработка оптимизированных образов для Tenstorrent AI ASICs для расширения аппаратной экосистемы. — Миграция Python-кода и реализаций VLLM на новые VLLM-образы с адаптацией под конкретные GPU. Требования: — Подтвержденный опыт оптимизации больших языковых моделей. — Глубокое понимание архитектур трансформеров и механизмов внимания. — Владение PyTorch, CUDA и методами оптимизации GPU. — Опыт работы с vLLM, FlashInfer или аналогичными фреймворками оптимизации инференса. — Знание Docker и управления GPU-нагрузками. Желательные квалификации: — Опыт работы с Claude Code Max (предоставляется при необходимости). — Опыт работы с Gonka или аналогичными децентрализованными AI-сетями. — Опыт в конкурентной оптимизации ML или распределенных систем. — Знание архитектур NVIDIA GPU (B200/B300/H200/H100/A100). — Знание Tenstorrent AI ASICs или специализированного AI-оборудования. Условия: — Возможность работы с передовой AI-инфраструктурой. — Бонусы, зависящие от достигнутых улучшений mining weight. — Возможность постоянной работы с долей в прибыли от майнинга. — Гибкий удаленный режим работы. — Доступ к высокопроизводительному GPU-оборудованию для экспериментов.
Загружаем…