Менеджер по инженерным разработкам, инструменты для обзора мер безопасности

Сан-Франциско, Калифорния

О компании Anthropic

Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы искусственного интеллекта. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и общества в целом. Наша команда — быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, которые работают вместе над созданием полезных систем ИИ.

О роли

Команда мер безопасности отвечает за обеспечение безопасной разработки и внедрения наших моделей и продуктов. Мы ищем менеджера по инженерным разработкам, который возглавит нашу команду Review Tooling, создающую системы, которые люди — и всё чаще Клод — используют для расследования потенциальных вредов и принятия мер по обеспечению безопасности в продуктах Anthropic и на сторонних облачных платформах.

Это фундаментальная роль: вы будете отвечать за инструменты, на которые полагаются наши специалисты по безопасности, чтобы понимать, что происходит на наших платформах, и принимать меры, а также за платформу, лежащую в основе этих инструментов. Эта платформа включает аналитические возможности, примитивы, сохраняющие конфиденциальность, которые обеспечивают совместимость рабочих процессов обзора с нашими обязательствами по хранению данных, и песочницу, где можно быстро создавать и улучшать новые интерфейсы и рабочие процессы обзора. По мере роста возможностей и использования моделей вы также будете определять, как масштабировать обзор с помощью автоматизации — создавая системы, в которых Клод существенно расширяет возможности человеческих рецензентов, при этом сохраняя людей в цикле там, где их суждения наиболее важны.

Вы будете тесно сотрудничать с командами по политике, операциям, анализу данных и юридическим вопросам, чтобы обеспечить эффективность, точность и надежность наших систем обеспечения безопасности.

Основные обязанности

• Руководить, развивать и расширять команду инженеров, создающих инструменты для расследований, обзора и обеспечения безопасности как для собственных, так и для сторонних платформ.
• Определять видение и дорожную карту для нашей платформы инструментов обзора, включая аналитику, примитивы доступа к данным с сохранением конфиденциальности и песочницу для быстрого создания новых интерфейсов обзора.
• Разрабатывать стратегию команды по масштабированию обзора с помощью автоматизации, включая эффективное использование Клода рецензентами и создание рабочих процессов с поддержкой и управлением Клодом.
• Сотрудничать с заинтересованными сторонами из областей политики, операций, юридических вопросов, конфиденциальности и анализа данных для преобразования потребностей в обеспечении безопасности и расследованиях в надежные, хорошо спроектированные системы.
• Обеспечивать развитие инструментов обзора в соответствии с новыми примитивами конфиденциальности и обязательствами по хранению данных, чтобы рецензенты могли выполнять свою работу, не подрывая доверие пользователей.
• Создавать ясность для команды и заинтересованных сторон в условиях неопределенности и изменений.
• Применять инклюзивный и справедливый подход к найму и наставничеству лучших технических специалистов, поддерживать высокую эффективность команды.
• Вносить вклад в инициативы на уровне всей инженерной команды как член сообщества менеджеров по инженерным разработкам Anthropic.

Минимальные квалификации

• Опыт управления командами разработчиков программного обеспечения, включая найм, наставничество и развитие инженеров.
• Технический опыт в full-stack или платформенной инженерии с возможностью глубоко участвовать в обсуждениях архитектуры и дизайна.
• Опыт выпуска внутренних инструментов или платформ с требовательными операционными пользователями и доказанный успех в улучшении их рабочих процессов.
• Опыт работы в кросс-функциональных командах с партнерами, не связанными с инженерией, такими как операции, политика или юридические команды.
• Отличные коммуникативные навыки, включая способность объяснять технические компромиссы нетехническим заинтересованным сторонам.
• Забота о социальном воздействии ИИ и желание сделать мощные системы более безопасными благодаря своей работе.

Желательные квалификации

• Более 4 лет опыта управления и более 10 лет опыта в индустрии разработки программного обеспечения.
• Опыт создания инструментов для доверия и безопасности, целостности, предотвращения мошенничества или злоупотреблений, либо других систем, поддерживающих масштабный человеческий обзор.
• Опыт проектирования систем с жесткими ограничениями по конфиденциальности, соответствию или управлению данными, например, в средах с нулевым хранением данных.
• Опыт интеграции больших языковых моделей (LLM) или агентных систем в операционные рабочие процессы или создания автоматизации с участием человека в цикле.
• Опыт создания платформ для разработчиков или расширяемых инструментальных фреймворков, на которых строятся другие команды.
• Опыт поддержки систем обеспечения и модерации на нескольких продуктовых поверхностях, включая корпоративные или облачные платформы.

Годовой диапазон компенсации для этой роли указан ниже.

Для ролей в продажах указанный диапазон представляет собой целевой доход ("OTE"), что означает, что диапазон включает как целевые комиссионные/бонусы по продажам, так и годовую базовую зарплату.

Годовая зарплата:

405 000 - 485 000 долларов США

Логистика

Минимальное образование: Степень бакалавра или эквивалентное сочетание образования, обучения и/или опыта.

Требуемая область обучения: Область, релевантная роли, подтвержденная курсами, обучением или профессиональным опытом.

Минимальный опыт работы: Требуемый опыт будет соответствовать внутренним требованиям уровня должности.

Политика гибридной работы в зависимости от местоположения: В настоящее время мы ожидаем, что весь персонал будет находиться в одном из наших офисов не менее 25% времени. Однако некоторые роли могут требовать большего времени в офисе.

Спонсорство визы: Мы спонсируем визы! Однако мы не можем гарантировать успешное спонсорство для каждой роли и каждого кандидата. Если мы сделаем вам предложение, мы приложим все разумные усилия для получения визы и сотрудничаем с иммиграционным юристом для помощи в этом.

Мы призываем вас подавать заявку, даже если вы не соответствуете всем требованиям. Не все сильные кандидаты соответствуют каждому пункту квалификаций. Исследования показывают, что люди из недостаточно представленных групп чаще испытывают синдром самозванца и сомневаются в своих силах, поэтому мы настоятельно рекомендуем не исключать себя преждевременно и подавать заявку, если вас интересует эта работа. Мы считаем, что системы ИИ, подобные тем, что мы создаем, имеют огромные социальные и этические последствия. Это делает представительство еще более важным, и мы стремимся включать разнообразные точки зрения в нашу команду.

Ваша безопасность важна для нас. Чтобы защитить себя от возможных мошенничеств, помните, что рекрутеры Anthropic связываются с вами только с адресов электронной почты @anthropic.com. В некоторых случаях мы сотрудничаем с проверенными рекрутинговыми агентствами, которые представляются как работающие от имени Anthropic. Будьте осторожны с письмами с других доменов. Законные рекрутеры Anthropic никогда не будут просить деньги, сборы или банковскую информацию до вашего первого рабочего дня. Если вы сомневаетесь в сообщении, не переходите по ссылкам — посетите сайт anthropic.com/careers для подтверждения открытых вакансий.

Чем мы отличаемся

Мы считаем, что исследования ИИ с наибольшим воздействием — это крупномасштабная наука. В Anthropic мы работаем как единая сплоченная команда над несколькими крупными исследовательскими проектами. Мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого и надежного ИИ — больше, чем работу над мелкими и более специфическими задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько общего с физикой и биологией, сколько и с традиционными направлениями компьютерных наук. Мы — чрезвычайно совместная группа и регулярно проводим исследовательские обсуждения, чтобы гарантировать, что занимаемся наиболее значимой работой в каждый момент времени. Поэтому мы очень ценим коммуникативные навыки.

Самый простой способ понять наши исследовательские направления — прочитать наши последние исследования. Эти исследования продолжают многие направления, над которыми работала наша команда до Anthropic, включая: GPT-3, интерпретируемость на основе цепей, мультимодальные нейроны, законы масштабирования, ИИ и вычисления, конкретные проблемы безопасности ИИ и обучение на основе человеческих предпочтений.

Присоединяйтесь к нам!

Anthropic — это корпорация общественной пользы с главным офисом в Сан-Франциско. Мы предлагаем конкурентоспособную оплату и льготы, опциональное сопоставление пожертвований акциями, щедрый отпуск и декретный отпуск, гибкий график работы и прекрасное офисное пространство для совместной работы с коллегами. Руководство по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявок.