О компании Anthropic
Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы искусственного интеллекта. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, которые работают вместе над созданием полезных систем ИИ.
О вакансии
Мы ищем следователя по угрозам технических операций влияния для присоединения к нашей команде по разведке угроз. В этой роли вы будете отвечать за обнаружение, расследование и пресечение злоупотреблений системами ИИ Anthropic в операциях влияния, кампаниях дезинформации, скоординированном неаутентичном поведении и других формах манипуляции информацией.
Вы будете работать на стыке безопасности ИИ и целостности информации, сочетая глубокую экспертизу в операциях влияния с техническими навыками расследования для выявления акторов угроз, которые используют ИИ для генерации синтетического контента, усиления нарративов, манипулирования общественным дискурсом или подрыва демократических процессов. Ваша работа напрямую повлияет на то, как Anthropic защищается от одной из самых быстро развивающихся категорий злоупотребления ИИ.
Важный контекст: на этой позиции вы можете столкнуться с откровенным контентом, охватывающим широкий спектр тем, включая сексуальные, насильственные или психологически тревожные материалы. Эта роль может требовать реагирования на эскалации в выходные и праздничные дни.
Обязанности:
- Обнаруживать и расследовать попытки злоупотребления системами ИИ Anthropic в операциях влияния, включая дезинформацию, сгенерированную ИИ, скоординированное неаутентичное поведение, астротёрфинг и кампании по манипулированию нарративами
- Проводить технические расследования с использованием SQL, Python и других инструментов для анализа больших наборов данных, отслеживания моделей поведения пользователей и выявления скоординированных сетей акторов угроз, осуществляющих операции влияния
- Разрабатывать специализированные возможности обнаружения операций влияния, включая сигналы злоупотреблений, методы кластеризации поведения и методологии обнаружения, адаптированные к манипуляциям информацией с помощью ИИ
- Создавать практические разведывательные отчеты о тактиках, техниках и процедурах (TTP) операций влияния, новых угрозах нарративов и кампаниях акторов угроз, использующих системы ИИ
- Проводить межплатформенный анализ угроз, связывая активность на платформах с более широкими кампаниями влияния в социальных сетях, мессенджерах и других цифровых экосистемах
- Мониторить и анализировать операции влияния, спонсируемые государствами и негосударственными субъектами, которые могут использовать возможности ИИ, с особым вниманием к операциям, исходящим из геополитически значимых регионов или направленным на них
- Сотрудничать с командами по политике и обеспечению соблюдения правил для принятия обоснованных решений о нарушениях со стороны пользователей и обеспечения соответствующих мер по смягчению последствий
- Взаимодействовать с внешними заинтересованными сторонами, включая государственные учреждения, команды по целостности платформ, академических исследователей и сообщества по обмену разведданными об угрозах
- Прогнозировать, как развитие технологий ИИ — включая улучшенную генерацию контента, синтез голоса и мультимодальные возможности — изменит ландшафт операций влияния и поможет формировать стратегии безопасности по принципу «безопасность по дизайну»
Вы можете подойти, если вы:
- Обладаете глубокими знаниями в области операций влияния, скоординированного неаутентичного поведения, дезинформации или информационной войны
- Демонстрировали владение SQL и Python для анализа данных и обнаружения угроз
- Имеете опыт отслеживания и атрибуции кампаний влияния конкретным акторам угроз, включая операции, спонсируемые государствами
- Имеете практический опыт работы с крупными языковыми моделями и понимание того, как технологии ИИ могут быть использованы в операциях влияния
- Обладаете опытом работы с методологиями и инструментами разведки на основе открытых источников (OSINT) для расследования онлайн-информационных экосистем
- Обладаете отличными навыками управления заинтересованными сторонами и способны работать с разнообразными командами, включая исследователей, экспертов по политике, юридические команды и внешних партнеров
- Можете представлять аналитическую работу как технической, так и нетехнической аудитории, включая государственных заинтересованных лиц и высшее руководство
Сильные кандидаты также могут иметь:
- Опыт работы на крупной технологической платформе в области операций влияния, целостности платформы или аутентичности контента
- Опыт в разведывательном анализе, информационных операциях или противодействии дезинформации в государственных или военных структурах
- Опыт расследования операций, связанных с китайскими, российскими, иранскими или другими государственными информационными кампаниями
- Свободное владение мандаринским китайским, русским, фарси и/или арабским (говорение, чтение и письмо) в сочетании с глубоким пониманием геополитического ландшафта и культурного контекста соответствующих регионов
- Знание методов и инструментов анализа социальных сетей для картирования скоординированного поведения
- Опыт в области безопасности ИИ, безопасности машинного обучения или расследования злоупотреблений технологиями
- Опыт создания и масштабирования систем обнаружения угроз или программ мониторинга злоупотреблений
- Наличие активного допуска к секретной информации уровня Top Secret
Логистика
Требования к образованию: Мы требуем как минимум степень бакалавра в смежной области или эквивалентный опыт. Политика гибридного формата работы в зависимости от местоположения: В настоящее время мы ожидаем, что весь персонал будет находиться в одном из наших офисов не менее 25% времени. Однако некоторые роли могут требовать большего времени в офисе.
Спонсорство визы: Мы спонсируем визы! Однако мы не можем гарантировать успешное спонсорство виз для каждой роли и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия для получения визы и привлекаем иммиграционного юриста для помощи в этом.
Чем мы отличаемся
Мы считаем, что исследования ИИ с наибольшим воздействием — это большие научные проекты. В Anthropic мы работаем как единая сплоченная команда над всего несколькими крупномасштабными исследовательскими инициативами. И мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, заслуживающего доверия ИИ — больше, чем работу над меньшими и более специфическими задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько общего с физикой и биологией, сколько и с традиционными усилиями в области компьютерных наук. Мы — чрезвычайно совместная группа и регулярно проводим исследовательские обсуждения, чтобы гарантировать, что мы занимаемся работой с наибольшим воздействием в любой момент времени. Поэтому мы очень ценим навыки коммуникации.
