Мы ищем ML-инженера, который возьмёт на себя всю машинно-обучающую часть проекта — от подбора эмбеддингов до тонкой настройки языковых моделей.
Кратко о проекте…
Мы разрабатываем интеллектуальную систему, которая:
- собирает, векторизует и индексирует сотни документов;
- извлекает релевантный контекст по запросу пользователя;
- отвечает на вопросы и формирует новые отчёты на основе локально развёрнутых LLM.
Проект в стадии активной разработки — и нам нужен инженер, который будет развивать ML-часть: от экспериментов до подготовки к запуску в прод.
Если вам интересна разработка прикладных AI-систем с высокой долей инженерной ответственности — будем рады видеть вас в Команде!
Обязанности:
- Vectorization & Search: подбор и тестирование эмбеддингов, оптимизация по качеству и скорости поиска;
- LLM-инфраструктура: запуск и оптимизация через Transformers, настройка гиперпараметров инференса (temperature, top_p, top_k, repetition_penalty);
- RAG-Chains: настройка RetrievalQA через LangChain / LlamaIndex: поиск, сбор контекста, формирование и обработка промптов;
- Fine-tuning & PEFT: подготовка JSONL-датасетов, запуск LoRA/SFT-обучения, оценка метрик (R-precision, MRR, human-eval);
- DevOps & CI/CD: контейнеризация сервисов (Docker Compose/K8s), настройка GitLab CI/GitHub Actions, мониторинг (Prometheus/Grafana, метрики);
- Automation scripts: поддержка скриптов для сравнения версий документов.
Требования:
- Уверенные знания Python 3.8+, PyTorch, HuggingFace Transformers;
- Опыт построения RAG-пайплайнов и работы с векторными поисковыми системами;
- Навыки квантования моделей (BitsAndBytes, 4/8-bit);
- Опыт тонкой настройки LLM с использованием PEFT / LoRA;
- Знание Docker, Docker Compose.
Преимуществом для кандидата будет:
- Опыт поддержки production-кластеров LLM (мониторинг, автоскейлинг);
- Знание алгоритмов сравнения текстов и визуализации различий;
- Опыт построения и оркестрации ML-pipelines;
- Практика в NLP-задачах: NER, relation extraction, summarization.
Условия:
- Официальное трудоустройство, оформление по ТК РК;
- Полная занятость;
- Возможность профессионального и карьерного роста;
- Место расположение офиса: г. Алматы, район Аль-Фараби;
- Работа в молодом коллективе.