fokcus

AI application security engineer

Контур · Екатеринбург · офис

Свежая вакансия Появилась 21 дн назад

Обязанности

  • Анализ защищенности LLM-приложений, AI-агентов, RAG, векторных БД, Low-Code/No-Code-систем и интеграций с внешними API/облачными моделями (преимущественно Whitebox).
  • Выявление AI-специфичных векторов атак: prompt injection, jailbreak, data poisoning и др.
  • Настройка и валидация защитных механизмов: фильтры PII, ограничения контекста, rate limiting, контроль вызова инструментов, ручные подтверждения.
  • Совместная работа с платформенными командами по укреплению AI/ML-тулинга, создание правил, скиллов, хуков, MCP-серверов.
  • Проверка безопасности локального запуска LLM и агентов в Kubernetes и Linux-песочницах: изоляция сессий, памяти, контейнеров, RBAC, NetworkPolicy, Secrets Management.
  • Формирование требований к аудиту и трассировке AI-систем: trace ID, логирование prompt/response, фиксация вызовов моделей и действий агентов.
  • Консультирование команд, помощь во внедрении безопасного кода и построении процессов.

Требования

  • Опыт в ИБ от 2 лет в AppSec, DevSecOps, Cloud/K8s Security, Product Security или ML Security.
  • Владение Python, Go, C#, TS или Rust; умение читать код, искать уязвимости, писать PoC.
  • Знание AI/LLM-стека: языковые модели, RAG, векторные БД (Milvus, Qdrant, pgvector), AI-агенты, agent memory, tool calling, MCP.
  • Понимание AI-угроз: OWASP for LLM, MITRE ATLAS (prompt injection, раскрытие system prompt, утечки данных, выполнение кода агентами).
  • Знание Linux, базовые знания безопасности Kubernetes: RBAC, ServiceAccount, NetworkPolicy, Secrets, изоляция контейнеров.
  • Знание веб-уязвимостей, механизмов аутентификации и авторизации OAuth2, OIDC, JWT, RBAC, Secure SDLC, Threat Modeling.
  • Умение аргументированно объяснять риски и находить компромиссы с разработкой.

Условия и контакты обсуждаются на собеседовании.

Навыки

PythonGoC#TSRustKubernetesLinuxOAuth2OIDCJWTRBACMilvusQdrantpgvector
Показать как в источнике 
AI application security engineer.

Локация: #Екатеринбург.
Зарплата: ₽. Обсуждается на собеседовании.
Компания: Контур.

Обязанности:
•  Проводить анализ защищенности (преимущественно Whitebox) LLM-приложений, AI-агентов, RAG, векторных БД, Low-Code/No-Code-систем (Dify, n8n) и интеграций с внешними API / облачными моделями.
•  Выявлять специфичные для AI векторы атак: prompt injection, indirect prompt injection, jailbreak, data poisoning, excessive agency, unsafe tool calls и over-privileged agents.
•  Настраивать и валидировать защитные механизмы: фильтры PII / конфиденциальных данных, ограничения контекста, rate limiting, контроль вызова tools и ручные подтверждения для критичных операций.
•  Укреплять внутренний AI/ML-тулинг совместно с платформенными командами. Строить систему правил, скиллов и хуков, чтобы встраивать политики ИБ непосредственно в среду разработки: skills, rules, hooks, MCP-серверы.
•  Проверять безопасность локального запуска LLM и агентов в Kubernetes и Linux-песочницах: изоляция сессий, памяти, контейнеров, RBAC, NetworkPolicy, Secrets Management.
•  Формировать требования к аудиту и трассировке AI-систем: trace ID, логирование prompt/response, фиксация вызовов моделей и действий агентов.
•  Консультировать команды, помогать внедрять безопасный код и выстраивать понятные процессы.

Требования:
•  Опыт в сфере ИБ от двух лет в одном или нескольких направлениях: AppSec, DevSecOps, Cloud/K8s Security, Product Security или ML Security.
•  Уверенное владение одним из языков программирования: Python, Go, C#, TS, Rust. Умение читать чужой код, искать уязвимости и писать PoC.
•  Знание AI/LLM-стека: понимание устройства языковых моделей, RAG, векторных БД (Milvus, Qdrant, pgvector и др.), AI-агентов, agent memory, tool calling, а также стандарта взаимодействия MCP.
•  Знание AI-угроз: понимание рисков OWASP for LLM, MITRE ATLAS (prompt injection, раскрытие system prompt, утечки данных, необдуманное выполнение кода агентами).
•  Знание основ Linux и базовое понимание безопасности Kubernetes: RBAC, ServiceAccount, NetworkPolicy, Secrets, изоляция контейнеров.
•  Знание классических веб-уязвимостей, механизмов аутентификации и авторизации OAuth2, OIDC, JWT, RBAC и безопасной разработки — Secure SDLC, Threat Modeling.
•  Умение аргументированно объяснять риски, находить компромиссы с разработкой.

✈ Откликнуться.

#Офис
Пожаловаться

Похожие вакансии