fokcus

AI/ML Engineer (NLP)

ТОО CROCOS · Астана · гибрид · проект

Свежая вакансия Появилась 1 мес назад

Формат/working arrangement: гибрид / на месте работодателя, проектная занятость Должность/position: AI/ML Engineer (NLP) Место работы/workplace: ТОО CROCOS Заработная плата/salary estimate: от 500 000 до 1 000 000 ₸ в месяц (на руки)

Обязанности/responsibilities

  • Развёртывание open-source LLM (Mixture-of-Experts, ≥20B параметров) на on-premise GPU-сервере заказчика
  • Настройка RAG-пайплайна: подключение базы знаний контакт-центра, настройка векторного поиска, chunking и retrieval-стратегий
  • Конфигурация системных промптов, тональности ответов и фильтрации персональных данных
  • Настройка function calling и генерации структурированного вывода (JSON/XML) для интеграций
  • Оптимизация инференса: параллельная обработка запросов и управление GPU-памятью
  • Интеграция LLM с low-code платформой через REST API
  • Настройка мониторинга, логирования запросов и метрик качества ответов
  • Подготовка технической документации по LLM-компоненту

Требования/requirements

  • Опыт развёртывания open-source LLM (Qwen, Mistral, DeepSeek, LLaMA и аналогов) от 1 года
  • Понимание архитектур MoE, трансформеров и механизмов внимания
  • Опыт построения RAG-систем с использованием LangChain, LlamaIndex или аналогов
  • Опыт работы с векторными БД (Qdrant, Chroma, FAISS)
  • Практический опыт работы с GPU-серверами (CUDA, vLLM, llama.cpp, Ollama или аналоги)
  • Уверенное знание Python
  • Понимание REST API
  • Базовые знания Docker и Linux
  • Навыки подготовки технической документации

Будет плюсом

  • Опыт работы с ASR/TTS системами
  • Опыт решения NLP-задач для казахского языка
  • Опыт оптимизации моделей (quantization, GGUF, AWQ)
  • Участие или достижения в соревнованиях Kaggle

Условия/working conditions

  • Проектная занятость сроком на 4 месяца с возможностью перехода в штат
  • Работа над внедрением AI-диспетчера (голосовой + чат-бот) для крупной дорожной компании
  • Гибридный формат работы или удалённая работа по согласованию
  • Современный стек: Python, LLM (MoE ≥20B), vLLM / llama.cpp, RAG, GPU Linux
  • Выплаты за проект
  • График работы: 5/2, 8-часовой рабочий день
  • Старт проекта: июнь 2026 года

Контакты для связи/Contact information: https://hh.kz/vacancy/134204667?query=Python+Developer+%28Data+%2F+ML%29&hhtmFrom=vacancy_search_list Контактное лицо: Картов Адлет

Адрес офиса

Астана, проспект Республики, 34А

Навыки

PythonLLMMoEvLLMllama.cppRAGGPULinuxDockerREST API
Показать как в источнике 
#jobs #Астана

📍 Формат/working arrangement: гибрид / на месте работодателя, проектная занятость
✔️ Должность/position: AI/ML Engineer (NLP)
🏢 Место работы/workplace: ТОО CROCOS
💸 Заработная плата/salary estimate: от 500 000 до 1 000 000 ₸ в месяц (на руки)

📈 Обязанности/responsibilities:
- Развёртывание open-source LLM (Mixture-of-Experts, ≥20B параметров) на on-premise GPU-сервере заказчика
- Настройка RAG-пайплайна: подключение базы знаний контакт-центра, настройка векторного поиска, chunking и retrieval-стратегий
- Конфигурация системных промптов, тональности ответов и фильтрации персональных данных
- Настройка function calling и генерации структурированного вывода (JSON/XML) для интеграций
- Оптимизация инференса: параллельная обработка запросов и управление GPU-памятью
- Интеграция LLM с low-code платформой через REST API
- Настройка мониторинга, логирования запросов и метрик качества ответов
- Подготовка технической документации по LLM-компоненту

📌 Требования/requirements:
- Опыт развёртывания open-source LLM (Qwen, Mistral, DeepSeek, LLaMA и аналогов) от 1 года
- Понимание архитектур MoE, трансформеров и механизмов внимания
- Опыт построения RAG-систем с использованием LangChain, LlamaIndex или аналогов
- Опыт работы с векторными БД (Qdrant, Chroma, FAISS)
- Практический опыт работы с GPU-серверами (CUDA, vLLM, llama.cpp, Ollama или аналоги)
- Уверенное знание Python
- Понимание REST API
- Базовые знания Docker и Linux
- Навыки подготовки технической документации

Будет плюсом:
- Опыт работы с ASR/TTS системами
- Опыт решения NLP-задач для казахского языка
- Опыт оптимизации моделей (quantization, GGUF, AWQ)
- Участие или достижения в соревнованиях Kaggle

✅ Условия/working conditions:
- Проектная занятость сроком на 4 месяца с возможностью перехода в штат
- Работа над внедрением AI-диспетчера (голосовой + чат-бот) для крупной дорожной компании
- Гибридный формат работы или удалённая работа по согласованию
- Современный стек: Python, LLM (MoE ≥20B), vLLM / llama.cpp, RAG, GPU Linux
- Выплаты за проект
- График работы: 5/2, 8-часовой рабочий день
- Старт проекта: июнь 2026 года

📢❗️🚨 Контакты для связи/Contact information: https://hh.kz/vacancy/134204667?query=Python+Developer+%28Data+%2F+ML%29&hhtmFrom=vacancy_search_list 
Контактное лицо: Картов Адлет

📍 Адрес офиса:
Астана, проспект Республики, 34А
Пожаловаться

Похожие вакансии