fokcus

Специалист по кибербезопасности AI/LLM-решений

СберЗдоровье · Москва · гибрид

Свежая вакансия Появилась 28 дн назад

Обязанности

  • Проводить security review AI/LLM-решений, включая LLM-приложения, AI-агентов, RAG, векторные базы данных, интеграции с внешними API и облачными LLM;
  • Участвовать в threat modeling AI-решений, выявлять риски prompt injection, jailbreak, утечек данных, небезопасных вызовов инструментов, избыточных привилегий и data poisoning;
  • Проверять защитные механизмы: guardrails, фильтры персональных данных, ограничения длины prompt/response, rate limiting, валидацию ответов, контроль вызовов tools;
  • Оценивать безопасность работы с персональными и конфиденциальными данными, источниками данных для RAG, embeddings и индексами векторных БД;
  • Проверять соблюдение принципа минимально необходимых привилегий AI-агентами и отсутствие выполнения чувствительных операций без ручного подтверждения;
  • Контролировать изоляцию пользовательских сессий, контекстов и памяти AI-решений;
  • Участвовать в проверке безопасности локального запуска LLM в Kubernetes: контейнеры, RBAC, secrets, network policies, ingress, resource limits;
  • Формировать требования к логированию, аудиту и трассировке AI-решений: trace ID, логи prompt/response, вызовы модели и tools, действия AI-агента;
  • Разрабатывать тестовые сценарии для проверки AI-решений на prompt injection, утечки данных, обход ограничений и небезопасное поведение;
  • Помогать командам разработки и эксплуатации безопасно использовать локальные и облачные LLM.

Требования

  • Опыт в кибербезопасности от 2–3 лет в областях Application Security, DevSecOps, Cloud Security, Kubernetes Security, API Security или Product Security;
  • Знание принципов security review, threat modeling и безопасной разработки;
  • Понимание web/API-безопасности: аутентификация, авторизация, OAuth2/OIDC, SAML, JWT, RBAC, service-to-service взаимодействие;
  • Базовые знания AI/LLM-стека: LLM, prompt, system prompt, context window, embeddings, RAG, векторные базы данных, AI-agent, agent memory, tools/function calling;
  • Понимание основных рисков LLM-приложений: prompt injection, indirect prompt injection, jailbreak, утечка чувствительных данных, раскрытие system prompt, небезопасная обработка ответов, excessive agency;
  • Знание особенностей безопасности RAG и векторных БД (Milvus, Qdrant, Weaviate, pgvector, Chroma, Elasticsearch/OpenSearch vector search);
  • Понимание рисков работы с персональными и конфиденциальными данными при использовании локальных и облачных LLM;
  • Базовые знания Kubernetes и контейнерной безопасности: secrets, service account, RBAC, network policy, resource limits;
  • Умение формулировать понятные и проверяемые требования безопасности для продуктовых команд.

Навыки

AILLMRAGvector databaseAPIOAuth2OIDCSAMLJWTRBACKubernetesDevSecOpsApplication SecurityCloud SecurityProduct SecurityMilvusQdrantWeaviatepgvectorChromaElasticsearchOpenSearch
Показать как в источнике 
Специалист по кибербезопасности AI/LLM-решений.

Локация: #Москва.
Опыт: 2+ лет.
Зарплата: ₽. Обсуждается на собеседовании.
Компания: СберЗдоровье.

Обязанности:
•  Проводить security review AI/LLM-решений: LLM-приложений, AI-агентов, RAG, векторных БД, интеграций с внешними API и облачными LLM;
•  Участвовать в threat modeling AI-решений: prompt injection, jailbreak, утечки данных, небезопасные tool calls, избыточные привилегии AI-агента, RAG/data poisoning;
•  Проверять наличие и корректность защитных механизмов: guardrails, фильтры персональных данных, ограничения длины prompt/response, rate limiting, валидация ответов, контроль вызовов tools;
•  Оценивать безопасность работы с данными: персональные данные, конфиденциальная информация, источники данных для RAG, embeddings, индексы векторных БД;
•  Проверять, что AI-агенты работают по принципу минимально необходимых привилегий и не выполняют чувствительные операции без ручного подтверждения;
•  Проверять изоляцию пользовательских сессий, контекстов и памяти AI-решений;
•  Участвовать в проверке безопасности локального запуска LLM в Kubernetes: контейнеры, RBAC, secrets, network policies, ingress, resource limits;
•  Формировать требования к логированию, аудиту и трассировке AI-решений: trace ID, логи prompt/response, вызовы модели, вызовы tools, действия AI-агента;
•  Разрабатывать тестовые сценарии для проверки AI-решений на prompt injection, утечки данных, обход ограничений и небезопасное поведение агента;
•  Помогать командам разработки и эксплуатации безопасно использовать локальные и облачные LLM.

Требования:
•  Опыт в кибербезопасности от 2–3 лет в одной или нескольких областях: Application Security, DevSecOps, Cloud Security, Kubernetes Security, API Security, Product Security;
•  Понимание принципов security review, threat modeling и безопасной разработки;
•  Понимание web/API-безопасности: аутентификация, авторизация, OAuth2/OIDC, SAML, JWT, RBAC, service-to-service-взаимодействие;
•  Базовое понимание AI/LLM-стека: LLM, prompt, system prompt, context window, embeddings, RAG, vector database, AI-agent, agent memory, tools/function calling;
•  Понимание основных рисков LLM-приложений: prompt injection, indirect prompt injection, jailbreak, утечка чувствительных данных, раскрытие system prompt, небезопасная обработка ответа модели, excessive agency;
•  Понимание особенностей безопасности RAG и векторных БД: например, Milvus, Qdrant, Weaviate, pgvector, Chroma, Elasticsearch/OpenSearch vector search;
•  Понимание рисков работы с персональными и конфиденциальными данными при использовании локальных и облачных LLM;
•  Базовое понимание Kubernetes и контейнерной безопасности: secrets, service account, RBAC, network policy, resource limits;
•  Умение формулировать понятные и проверяемые требования безопасности для продуктовых команд.

✈ Откликнуться.

#Гибрид
Пожаловаться

Похожие вакансии