LLM/AI Engineer (Python)

О компании / продукте

Мы делаем динамичный web3/DeFi продукт c использованием LLM/AI для внутренних инструментов и клиентских фич.

Чем предстоит заниматься

• Разрабатывать LLM-сервисы на Python (REST API, FastAPI/Flask): RAG-поиск по документации, интерпретация правил/запросов пользователeй.
• Интегрировать локальные модели через Ollama и облачные API (OpenAI/HF) — выбирать режим под задачу.
• Реализовывать ретривер: разбиение на чанки, BM25/TF-IDF/эмбеддинги, top-k, дедуп, реранк, сборка prompt с лимитами контекста.
• Делать безопасные пайплайны: AST/валидация, параметризация запросов, защита от галлюцинаций и инъекций.
• Писать автотесты, настраивать логирование и простые метрики (latency/cost/quality).
• Участвовать в архитектурных обсуждениях, вносить улучшения.

Требования

• Python 3.x, опыт бэкенда (FastAPI/Flask), написание REST-сервисов.
• Практика с LLM: OpenAI/HF и/или локальные модели (Ollama).
• Поисковая компетенция: TF-IDF/BM25 или векторный поиск, понимание эмбеддингов.
• Умение ограничивать контекст, собирать prompt и проверять источники.
• Pandas/SQL, работа с CSV/JSON, аккуратность с типами данных и датами.
• Git, Docker; умение писать unit-тесты.

Будет плюсом

• FAISS/sentence-transformers, простые реранкеры.
• Понимание парсинга, опыт “text-to-SQL-like” задач.
• CI/CD, базовое знание K8s.

Условия

• Полный ремоут, стабильный график 10:00–19:00 МСК.
• Команда, обмен опытом, быстрый рост.
• Работа на стыке AI × web3/DeFi