Staff Plus Fullstack Software Engineer Safeguards Engineering

Anthropic ищет опытного инженера Fullstack уровня Staff Plus для работы в гибридном формате в Сан-Франциско или Нью-Йорке. В обязанности входит разработка инструментов для контроля безопасности, выявление злоупотреблений с моделями и предотвращение их недопустимого использования. Кандидат должен обладать навыками в области обнаружения злоупотреблений, бэкенд-разработки, prompt engineering, визуализации данных, контроля доступа, фронтенда, а также иметь опыт работы с AI-безопасностью и предотвращением обхода ограничений (jailbreak). Технологический стек включает React, Python и TypeScript. Задачи связаны с созданием полнофункциональных решений для мониторинга и защиты моделей искусственного интеллекта, включая разработку дашбордов и систем контроля доступа.