О компании Anthropic
Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы искусственного интеллекта. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, которые работают вместе над созданием полезных систем ИИ.
О роли
Эта роль предоставляет уникальную возможность формировать то, как системы ИИ обрабатывают чувствительную информацию о химическом оружии и взрывчатых веществах. Вы будете работать с ведущими исследователями в области безопасности ИИ, решая критически важные задачи по предотвращению катастрофического злоупотребления. Если вас вдохновляет использовать свой опыт для обеспечения безопасности и пользы систем ИИ, мы хотим услышать вас.
Обязанности:
- Разрабатывать и внедрять методологии оценки возможностей моделей ИИ, связанных с химическим оружием, синтезом взрывчатых веществ и энергетическими материалами
- Разрабатывать и реализовывать стратегии выявления и смягчения потенциального злоупотребления химическими/взрывчатыми веществами в выводах моделей
- Создавать модели угроз, связанные с химическими/взрывчатыми веществами, включая идентификацию прекурсоров, маршруты синтеза и методы вооружения
- Проводить обзор и анализ трафика для выявления потенциальных нарушений политики, связанных с содержанием о химических/взрывчатых веществах
- Сотрудничать с инженерами-программистами для разработки и совершенствования систем обнаружения и автоматизированных инструментов обеспечения безопасности от угроз, связанных с химическими/взрывчатыми веществами
- Осуществлять оперативное реагирование на эскалации, связанные с опасными запросами о химических/взрывчатых веществах
- Взаимодействовать с другими командами для установления стандартов безопасности и разработки соответствующих ограничений для моделей
- Переводить знания в области химии/взрывчатых веществ в конкретные требования по безопасности
- Разрабатывать подходы для оценки границ знаний моделей в области химических/взрывчатых веществ, касающихся двойного использования химической информации
- Отслеживать новые угрозы в области химических/взрывчатых веществ для информирования разработки политики
Вы можете подойти на эту роль, если вы:
- Имеете степень Ph.D. в области химии, химической инженерии или смежной области с акцентом на энергетические материалы, взрывчатые вещества и/или химическое оружие
- Обладаете 5-8 и более годами опыта в области защиты от химического оружия и/или взрывчатых веществ с глубокими знаниями энергетических материалов, агентов химического оружия или смежных областей
- Знаете применение взрывчатых веществ высокой мощности для радиологических рассеивающих устройств (грязных бомб) и связанных радиологических видов оружия
- Имеете опыт трансляции специализированных технических знаний в конкретные политики или руководства по безопасности
- Уверенно ориентируетесь в условиях неопределенности и разрабатываете решения для новых задач безопасности
- Можете работать самостоятельно, сохраняя при этом тесное сотрудничество с межфункциональными командами, включая инженеров, службы обеспечения и исследователей
- Процветаете в быстром темпе работы, где необходимо сочетать строгие научные стандарты с оперативным реагированием на угрозы
- Страстно стремитесь предотвратить злоупотребление опасными техническими знаниями, одновременно способствуя полезным применениям
Сильные кандидаты могут иметь:
- Опыт работы как с химическим оружием, так и с защитой от взрывчатых веществ высокой мощности
- Опыт работы с оборонными, разведывательными или организациями по нераспространению (например, ОЗХО, МАГАТЭ, национальные лаборатории, оборонные подрядчики)
- Опубликованные исследования или практический опыт в области характеристики взрывчатых веществ, обнаружения химического оружия или смежных приложений безопасности
- Знание международных конвенций по химическому оружию (CWC) и правил контроля за веществами
- Доказанную способность объяснять сложные технические концепции неспециалистам
- Опыт работы с химическими базами данных (PubChem, Reaxys, SciFinder) и инструментами вычислительной химии
- Понимание радиологических материалов и их взаимодействия с механизмами взрывного рассредоточения
- Знакомство с проблемами исследований двойного использования в области химии/взрывчатых веществ и практиками ответственного раскрытия информации
Чем мы отличаемся
Мы считаем, что исследования ИИ с наибольшим воздействием — это большие научные проекты. В Anthropic мы работаем как единая сплоченная команда над всего несколькими крупномасштабными исследовательскими инициативами. Мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, заслуживающего доверия ИИ — а не работу над мелкими и более специфическими задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько общего с физикой и биологией, сколько и с традиционными усилиями в области компьютерных наук. Мы — чрезвычайно коллективная группа и регулярно проводим исследовательские обсуждения, чтобы гарантировать, что в любой момент времени мы занимаемся работой с наибольшим воздействием. Поэтому мы очень ценим навыки коммуникации.
Присоединяйтесь к нам!
Anthropic — это корпорация общественной пользы с головным офисом в Сан-Франциско. Мы предлагаем конкурентоспособную оплату и льготы, возможность добровольного сопоставления пожертвований акциями, щедрый отпуск и декретный отпуск, гибкий график работы и прекрасное офисное пространство для совместной работы с коллегами.
