30 сент.
Руководитель отдела инфраструктуры / Lead DevOps / Head of Infrastructure
ЗП не указана, ≈ 247 200 ₽
Нижний Новгород
Удалённо
Lead
ИТ-аккредитация
В Дирекции ИТ Центрального офиса федеральной розничной сети лента открыта вакансия DevOps инженера по безопасности ИИ.
ИТ-команда "ЛЕНТЫ" - одна из сильнейших в ритейле, на плечах которой непрерывная работа корпоративной сети, информационная стабильность и безопасность.
Сила "ЛЕНТЫ" в ее сотрудниках и мы предлагаем Вам стать частью большой, но сплоченной команды профессионалов!
Ваши задачи:
- Безопасный инференс LLM: локально в защищённом облаке и через внешние шлюзы.
- Работа с моделями: DeepSeek, Qwen, специализированные модели для разработки, малые модели (Whisper, GigaAM и др.).
- Развёртывание новых моделей: быстрый деплой + обязательная проверка ИБ.
- Выбор моделей под задачи: бенчмарки, сравнение (GLM, DeepSeek и аналоги).
- Снятие метрик: latency, обрывы, TTFT.
- Разделение разработки: супер-критичная — только локально, остальное — в облаке.
Шлюзы доступа к внешним моделям:
- Прокси-шлюз для обхода блокировок, оплата агрегатору по токенам с корп. счёта.
- Работа через OpenRouter, подключение новых моделей за 15 минут.
- Внутренний шлюз в контуре (LiteLLM).
- Закрытие несанкционированных точек подключения к агрегаторам.
- Биллинг, квотирование, управление ключами, мультитенантность.
ИБ-слой и AI Firewall:
- Внедрение AI firewall, PII-маскирование и демаскирование.
- Детектирование КТ, гварды, работа с перечнем угроз.
- Плотное взаимодействие с ИБ.
Ждем от вас:
Будет плюсом:
Мы предлагаем:
Умножим шансы на каждом этапе поиска и поможем получить выгодный оффер
Узнать большеБудьте осторожны: если работодатель просит войти через Google, iCloud или Госуслуги, прислать код или пароль, запустить ПО или перевести деньги — это мошенники.
Будьте осторожны: если работодатель просит войти через Google, iCloud или Госуслуги, прислать код или пароль, запустить ПО или перевести деньги — это мошенники.
