MLSecOps Engineer (AI Safety)

30 Мая

Партнерские Вакансии

Компания "Okko"

MLSecOps Engineer (AI Safety) — это специалист, который отвечает за безопасность и надежность систем искусственного интеллекта.

Обязанности

• Участие в разработке архитектуры и дизайна стандартизированного размещения ИИ агентов, сегментировании и изолировании контекстов агента (разделение памяти, защита системных промптов);
• Внедрение и настройка инструментов перехвата и валидации промптов (guardrails), написание правил детекции атак (Jailbreaking, Prompt Injection) и фильтрации вывода;
• Построение пайплайна безопасной загрузки данных (RAG), реализация механизмов санитизации данных (очистка PII, секретов) до попадания в векторный индекс, настройка прав доступа (RBAC) на уровне чанков данных в векторной базе данных;
• Разработка и поддержка набора автотестов для ежедневного тестирования безопасности агента;
• Разработка валидаторов для структурированного вывода, проверка планов агента на безопасность перед исполнением (pydantic).

Требования

• Свободное владение Python;
• Знание LangChain и/или LlamaIndex, умение писать кастомные callbacks, chains, tools;
• Понимание OWASP Top 10 for LLM, знание механик атак (prompt injection, indirect injection, data poisoning, model denial of service);
• Понимание работы векторных баз данных (Pinecone, Milvus, Qdrant);
• Базовое понимание Docker и CI/CD для интеграции проверок в общий пайплайн.

• Необходимое оборудование и софт для работы;
• Официальное трудоустройство;
• ДМС со стоматологией, офисный врач, доплата больничного листа, корпоративные скидки;
• Льготные условия ипотеки в рамках зарплатного проекта;
• Бесплатная подписка на сервисы партнеров;
• Корпоративный спорт;
• Насыщенная корпоративная жизнь;
• Электронная библиотека издательства МИФ, в которую входят почти 2 тыс. единиц контента по бизнесу, саморазвитию, здоровому образу жизни и другим актуальным темам.