О компании Anthropic
Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы искусственного интеллекта. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, которые работают вместе над созданием полезных систем ИИ.
О роли
Команда Safeguards в Anthropic отвечает за соблюдение наших политик, защиту пользователей и обеспечение того, чтобы наша платформа не использовалась неправомерно. В роли аналитика по обеспечению соблюдения Safeguards с фокусом на оценках безопасности вы сыграете центральную роль в обеспечении соответствия наших моделей стандартам безопасности и политики до и после запуска. Вы будете проводить и контролировать оценки, инициировать меры по устранению проблем при их выявлении, координировать создание новых оценок и помогать строить процессы и документацию, которые позволят команде масштабировать эту работу со временем.
Обязанности
- Поддерживать готовность модели к запуску, проводя оценки, отслеживая и интерпретируя результаты, а также выявляя регрессии или неожиданные изменения поведения и сообщая о них соответствующим заинтересованным сторонам
- Тесно сотрудничать с экспертами по политике и предметной области на протяжении всего жизненного цикла оценки — от выявления рисков и определения правильного подхода к оценке до координации создания новых оценок и обеспечения актуальности существующих с учетом изменений в политике, угрозах и возможностях моделей
- Работать с межфункциональными заинтересованными сторонами для управления результатами оценок, включая интерпретацию результатов и инициирование мер по устранению проблем при необходимости
- Стратегически подходить к качеству оценок, создавая процессы и парадигмы оценок, которые сохраняют их насыщенность, высокую информативность и полезность по мере улучшения моделей
- Разрабатывать процессы и рамки для создания оценок, специфичных для продуктов, по мере расширения продуктовой линейки Anthropic
- Помогать в проектировании и определении объема улучшений инструментов, которые учитывают меняющиеся потребности в оценках и расширяют возможности самостоятельного создания и итерации оценок для пользователей без технической подготовки
- Писать и поддерживать строгую документацию по созданию, выполнению и интерпретации оценок по мере развития инструментов и процессов оценки в команде
Вы можете подойти на эту роль, если:
- Имеете опыт работы в области доверия и безопасности, операциях с контентом, обеспечении соблюдения политики или в аналогичной операционной роли в технологической компании
- Процветаете в условиях неопределенности и быстрого темпа — вас вдохновляет, а не расстраивает, когда путь вперед не ясен и нужно разбираться по ходу дела
- Имеете опыт создания процессов, рабочих потоков или программ с нуля (работа с нуля), а не только поддержки существующих
- Обладаете сильными инстинктами управления программами, естественно создавая структуру вокруг сложных многозадачных проектов, отслеживая сроки, зависимости и результаты для поддержания работы в графике
- Желаете расширить свой технический инструментарий, включая освоение внутренних инструментов и рабочих процессов с поддержкой ИИ (например, Claude Code) для ускорения своей работы
- Можете управлять несколькими параллельными рабочими потоками в разных областях, не теряя деталей — важны сильные навыки приоритизации и переключения контекста, особенно когда сроки и приоритеты быстро меняются
- Являетесь сильным универсалом, комфортно переходящим между разными типами работы и меняющим контексты в течение дня
- Умеете принимать решения при неполной информации и своевременно эскалировать вопросы при необходимости
- Четко и лаконично общаетесь как письменно, так и в межфункциональном взаимодействии
Дополнительные преимущества для сильных кандидатов:
- Опыт работы в условиях жестких, высоконагруженных сроков — например, циклы запуска продуктов, реагирование на инциденты или регуляторные дедлайны, когда информация и приоритеты могут меняться без предупреждения
- Опыт координации между инженерными, политическими и продуктовыми командами для перевода результатов в конкретные действия
- Опыт создания и поддержки стандартных операционных процедур (SOP), инструкций и операционной документации в быстро меняющейся среде
- Уверенное владение инструментами работы с данными (SQL, панели мониторинга, электронные таблицы) для поддержки и улучшения рабочих процессов
- Комфорт при работе с чувствительным контентом в рамках создания оценок или обязанностей по проверке соблюдения
Логистика
Годовой диапазон компенсации для этой роли указан ниже.
Для ролей в продажах указанный диапазон представляет собой ожидаемый доход ("OTE"), что означает, что диапазон включает как целевые комиссионные/бонусы за продажи, так и годовую базовую зарплату по роли.
Годовая зарплата:
230 000 - 270 000 долларов США
Требования к образованию
Мы требуем как минимум степень бакалавра в смежной области или эквивалентный опыт. Политика гибридной работы в зависимости от местоположения: в настоящее время мы ожидаем, что весь персонал будет находиться в одном из наших офисов не менее 25% времени. Однако некоторые роли могут требовать большего времени в офисе.
Спонсорство виз: Мы спонсируем визы! Однако мы не всегда можем успешно спонсировать визы для каждой роли и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и у нас есть иммиграционный юрист, который помогает в этом.
Мы призываем вас подавать заявку, даже если вы считаете, что не соответствуете всем требованиям полностью.
Чем мы отличаемся
Мы считаем, что исследования ИИ с наибольшим воздействием будут масштабными научными проектами. В Anthropic мы работаем как единая сплоченная команда над всего несколькими крупномасштабными исследовательскими инициативами. И мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, надежного ИИ — больше, чем работу над мелкими и более специфическими задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько общего с физикой и биологией, сколько и с традиционными усилиями в области компьютерных наук.
Самый простой способ понять наши направления исследований — это прочитать наши последние исследования.
Присоединяйтесь к нам!
Anthropic — это корпорация общественной пользы с головным офисом в Сан-Франциско. Мы предлагаем конкурентоспособную компенсацию и льготы, опциональное сопоставление пожертвований акциями, щедрый отпуск и декретный отпуск, гибкий график работы и прекрасное офисное пространство для совместной работы с коллегами.
