Наша команда занимается исследованием и разработкой больших нейронных сетей на данных банка. Мы сфокусированы на создании новой модельной платформы: исследуем архитектуры, способы обучения и представления данных, чтобы построить универсальную большую мультимодальную модель на различных источниках клиентских сигналов. Тебе предстоит присоединиться к небольшой сильной команде, которая работает на стыке representation learning, sequence modeling, multimodality и foundation-моделей на финансовых данных и цифровых следах клиентов. У нас много данных, серьезные вычислительные ресурсы и редкая возможность не адаптировать чужие идеи, а формировать собственное направление исследований.
Обязанности
- Проводить research полного цикла: формулировать сильные гипотезы, проектировать эксперименты, глубоко анализировать результаты и на их основе принимать решения о том, куда двигать модель дальше
- Искать и прорабатывать направления улучшения больших моделей: новые источники данных, архитектурные решения, objective-функции, режимы обучения, способы объединения разнородных сигналов и подходы к мультимодальному обучению
- Определять вектор развития направления: помогать коллегам в выборе решений, формировать и приоритизировать исследовательский backlog, удерживать высокий темп экспериментов и поддерживать техническую целостность работы команды
- Автоматизировать исследовательскую рутину, превращая эксперименты в воспроизводимые пайплайны, удобные инструменты и инфраструктуру, которая позволяет быстро и качественно проверять гипотезы.
Требования
- Сильный опыт работы в DS/ML/DL, желательно в роли senior researcher, staff-level individual contributor или tech lead
- Отличное понимание современных deep learning подходов, прежде всего transformer-based архитектур, representation learning и практики обучения больших моделей
- Отличное знание PyTorch (must, это то, без чего ты не сможешь работать)
- Практический опыт distributed training больших моделей на терабайтных объемах данных: multi-GPU / multi-node обучение, эффективная загрузка и подготовка данных, оптимизация скорости и стабильности обучения
- Опыт самостоятельного ведения исследований: от постановки гипотез и дизайна экспериментов до интерпретации результатов и выбора следующего исследовательского шага
- Опыт работы с неидеальными, разнородными и масштабными данными и умение превращать их в работающие обучающие постановки.
Будет плюсом:
- Опыт работы с большими языковыми моделями, мультимодальными моделями, sequence modeling или representation learning на пользовательских событиях
- Опыт обучения моделей на больших объемах слабоструктурированных данных, включая финансовые данные, клиентские события и цифровые следы
- Опыт неформального или формального техлидства: помощь коллегам, формирование backlog исследований, приоритизация направлений и удержание высокого качества исследовательской работы команды
- Сильный трек-рекорд в исследованиях: заметные результаты, open-source, ML-соревнования или другие подтверждения исследовательской силы
- Опыт с distributed training, инфраструктурой экспериментов, data pipelines и инструментами, которые ускоряют цикл экспериментов.
Условия
- Комфортный современный офис рядом с м. Кутузовская
- Формат работы - гибрид
- Ежегодный пересмотр зарплаты, годовая премия
- Корпоративный спортзал и зоны отдыха
- Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
- Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
- Гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
- Бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
- Вознаграждение за рекомендацию друзей в команду Сбера.
