Менеджер по инженерным вопросам, вмешательства в систему безопасности

Сан-Франциско, Калифорния

О компании Anthropic

Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы искусственного интеллекта. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и общества в целом. Наша команда — быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, которые работают вместе над созданием полезных систем ИИ.

О роли

Команда безопасности отвечает за то, чтобы наши модели и продукты разрабатывались и внедрялись безопасно. Мы ищем менеджера по инженерным вопросам, который возглавит команду вмешательств: группу, отвечающую за действия, когда срабатывает система безопасности. Она владеет составным арсеналом систем, которые располагаются между нашим стеком обнаружения (классификаторы и датчики) и пользователем на всех платформах Anthropic: собственных продуктах, API и облаках третьих сторон. Это включает встроенные вмешательства в таких областях, как биология, кибербезопасность и приемлемое использование, а также последующие области, такие как безопасность детей и авторские права. Эта команда отвечает за то, чтобы мы развивали и повышали качество наших вмешательств, позволяя нашим продуктам безопасно расти.

Основные обязанности

• Практическое руководство и развитие команды инженеров; управление дорожной картой, ключевыми результатами (OKR) и выполнением задач.
• Организация межфункциональной работы с командами ML Infra, Research, Product, Policy и Legal — а также с облачными партнерами для развертывания на платформах третьих сторон.
• Установление критериев, когда вмешательство достаточно хорошее для выпуска — на основе измерений — и представление компромиссов между безопасностью и продуктом руководству и внешним заинтересованным сторонам.
• Ответственность за надежность производства систем вмешательства и соответствия: реагирование на инциденты, анализ после инцидентов, SLO, а также процессы проверки, предотвращающие повторение инцидентов.

Минимальные квалификации

• Опыт управления инженерными командами, выпускающими производственные системы машинного обучения или системы обеспечения безопасности, где решения системы напрямую влияли на пользователей.
• Опыт работы с производственными системами, связанными с соблюдением требований, где ставки высоки: комфортное отношение к дежурствам, инцидентам, требованиям регуляторов и построению процессов, предотвращающих повторение проблем.
• Забота об измерениях: вы создавали (или настаивали на создании) оценки, доказывающие, что система выполняет заявленные функции, и прекращали использование тех, которые не справлялись.
• Умение принимать решения в условиях неоднозначности и множества заинтересованных сторон (безопасность против пользовательского опыта, задержки и стоимости) и брать на себя ответственность за результат.
• Глубокая заинтересованность в безопасности ИИ и желание, чтобы работа вашей команды была причиной, по которой продвинутые модели могут быть развернуты вообще.

Желательные квалификации

• Опыт работы в области доверия и безопасности, обеспечения целостности или предотвращения злоупотреблений в масштабах.
• Опыт работы с системами, ориентированными на соблюдение требований (безопасность детей, авторские права, подтверждение возраста) и необходимыми юридическими/политическими интерфейсами.
• Опыт выпуска систем на нескольких облачных провайдерах и понимание проблем паритета и проверки, которые это создает.

Годовая зарплата:

405 000 – 485 000 долларов США

Логистика

• Минимальное образование: степень бакалавра или эквивалентное сочетание образования, обучения и/или опыта
• Политика гибридного местоположения: в настоящее время мы ожидаем, что весь персонал будет находиться в одном из наших офисов не менее 25% времени. Однако некоторые роли могут требовать большего времени в офисе.
• Спонсорство визы: мы спонсируем визы! Однако мы не всегда можем успешно спонсировать визу для каждой роли и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и у нас есть иммиграционный юрист, который помогает в этом.

Мы призываем вас подавать заявку, даже если вы не уверены, что соответствуете всем требованиям. Не все сильные кандидаты соответствуют каждому из перечисленных требований. Исследования показывают, что люди из недостаточно представленных групп чаще испытывают синдром самозванца и сомневаются в силе своей кандидатуры, поэтому мы настоятельно рекомендуем не исключать себя преждевременно и подавать заявку, если вас интересует эта работа. Мы считаем, что системы ИИ, подобные тем, которые мы создаем, имеют огромные социальные и этические последствия. Это делает представительство еще более важным, и мы стремимся включать разнообразные точки зрения в нашу команду.

Ваша безопасность важна для нас.

Чтобы защитить себя от возможных мошенничеств, помните, что рекрутеры Anthropic связываются с вами только с адресов электронной почты @anthropic.com. В некоторых случаях мы сотрудничаем с проверенными рекрутинговыми агентствами, которые представляются как работающие от имени Anthropic. Будьте осторожны с письмами с других доменов. Законные рекрутеры Anthropic никогда не будут просить деньги, сборы или банковскую информацию до вашего первого рабочего дня. Если вы сомневаетесь в каком-либо сообщении, не переходите по ссылкам — посетите anthropic.com/careers напрямую для подтвержденных вакансий.

Чем мы отличаемся

Мы считаем, что исследования ИИ с наибольшим воздействием будут крупномасштабными научными проектами. В Anthropic мы работаем как единая сплоченная команда над несколькими крупными исследовательскими инициативами. Мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, надежного ИИ — больше, чем работу над мелкими и более специфическими задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько общего с физикой и биологией, сколько и с традиционными усилиями в области компьютерных наук. Мы — чрезвычайно коллективная группа и часто проводим исследовательские обсуждения, чтобы убедиться, что занимаемся наиболее значимой работой в любой момент времени. Поэтому мы очень ценим навыки коммуникации.

Присоединяйтесь к нам!

Anthropic — это корпорация общественной пользы с головным офисом в Сан-Франциско. Мы предлагаем конкурентоспособную оплату и льготы, опциональное сопоставление пожертвований акциями, щедрый отпуск и отпуск по уходу за ребенком, гибкий график работы и прекрасное офисное пространство для совместной работы с коллегами.

Руководство по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявок.

Подать заявку на эту работу

* обозначает обязательное поле

Ваша безопасность важна для нас. Чтобы защитить себя от возможных мошенничеств, помните, что рекрутеры Anthropic связываются с вами только с адресов электронной почты @anthropic.com. В некоторых случаях мы сотрудничаем с проверенными рекрутинговыми агентствами, которые представляются как работающие от имени Anthropic. Будьте осторожны с письмами с других доменов. Законные рекрутеры Anthropic никогда не будут просить деньги, сборы или банковскую информацию до вашего первого рабочего дня. Если вы сомневаетесь в каком-либо сообщении, не переходите по ссылкам — посетите anthropic.com/careers напрямую для подтвержденных вакансий.