Обязанности
- Участвовать в проектировании и развитии защищённой ML-инфраструктуры;
- Следить за безопасностью процессов подготовки данных, обучения и тестирования моделей;
- Внедрять безопасные практики на уровне CI/CD для ML (автоматизация, контроль доступа, политика);
- Работать над защитой моделей от целевых атак: data poisoning, inversion, leakage и др.;
- Проводить проверки безопасности (включая пентесты) и анализ уязвимостей в ML-компонентах;
- Помогать командам правильно применять политики и подходы к защите конфиденциальных данных;
- Участвовать в анализе инцидентов и формировании рекомендаций по устранению рисков;
- Разработка и внедрение решений безопасности для ML-моделей и инфраструктуры;
- Обеспечение соответствия требованиям безопасности на всех этапах жизненного цикла разработки ML-продуктов;
- Проведение анализа уязвимостей и оценка рисков для ML-систем;
- Реализация мер защиты от атак на модели машинного обучения (например, атаки переноса обучения, отравление данных);
- Настройка и мониторинг инструментов для обеспечения безопасности моделей и данных
- Взаимодействие с командами разработчиков и инженеров данных для интеграции; процессов DevSecOps в ML-проекты;
- Участие в разработке политик и стандартов безопасности для организации;
- Поддержка и улучшение существующих процессов мониторинга и реагирования на инциденты безопасности;
- Анализировать безопасность систем ML, LLM и GenAI;
- Разрабатывать защиту от атак на системы ML, LLM и GenAI;
- Проводить аудиты и тестирование AI-систем на проникновение;
- Разрабатывать политики и процессы безопасности AI/ML;
- Интегрировать безопасные практики в жизненный цикл моделей;
- Отслеживать новые угрозы и требования в сфере AI-безопасности;
Знания и навыки
- Глубокое понимание принципов работы алгоритмов машинного обучения;
- Знание Python, R или других языков для анализа данных;
- Знание распространенных фреймворков машинного обучения;
- Знание ML-фреймворков (TensorFlow, PyTorch) и MLOps-инструментов;
- Знание принципов работы с большими данными и аналитическими платформами;
- Знание CI/CD-процессов и инструментов автоматизации (например, Teamcity, Jenkins, Airflow, MLflow);
- Знание контейнеризации и оркестрации (Docker, Kubernetes);
- Знания моделей угроз для ИИ (например, OWASP), а также методических рекомендаций по обеспечению ИБ ИИ моделей;
- Знакомство с инструментами анализа безопасности ML/LLМ;
- Понимание принципов работы современных систем искусственного интеллекта и машинного обучения;
- Базовое понимание работы ML-моделей и их окружения (желательно: TensorFlow, PyTorch);
- Умение анализировать архитектуру и находить риски;
- Готовность к работе в команде и взаимодействию с ML- и DevOps-инженерами;
- Навыки работы с инструментами MLOps;
- Глубокое понимание принципов кибербезопасности и современных угроз;
- Навыки программирования на Python или другом языке для автоматизации задач безопасности;
- Понимание архитектуры и методов развертывания ML-моделей;
- Глубокое понимание принципов работы ML/LLM/GenAI;
- Знакомство с работой MLOps-конвейера;
- Понимание угроз и атак на ML/LLM/GenAI;
- Умение разбираться в современных LLM и GenAI;
Опыт
- Опыт в области ИБ, DevSecOps, разработки или Data Science от 3–5 лет;
- Опыт работы с ML-средами или интерес к их безопасности;
- Опыт работы с инструментами MLOps конвейера;
- Опыт пентестов, аудитов или управления уязвимостями будет плюсом;
- Опыт работы с инструментами DevOps и CI/CD (Jenkins, GitLab CI, Kubernetes);
- Опыт работы с системами мониторинга и алертинга (Prometheus, Grafana, ELK Stack);
- Опыт проведения аудитов безопасности и тестирования на проникновение;
- Практический опыт работы с методами машинного обучения и моделями;
Дополнительно
- Знание распространенных уязвимостей и атак на системы машинного обучения;
- Знание специфических атак на ML: adversarial examples, model extraction;
- Знание распространенных уязвимостей и атак на системы машинного обучения;
- Знание стандартов: OWASP ML Top 10 или других;
- Понимание подходов и практик DevSecOps;
- Навыки threat modeling для AI/ML-систем;
- Навыки работы с IaC-инструментами: Terraform, Ansible и др.;
- Понимание подходов и практик DevSecOps / MLOps / MLSecOps / LLMSecOps;
- Опыт threat modeling для ML-продуктов;
- Опыт работы с MLSecOps-инструментами;