AI/ML Engineer в направление «Интеллектуальные решения»

Описание вакансии

компания "транстелеком"

ключевые задачи:

• разбирать запросы заказчиков и предлагать, каким классом решений их закрывать;
• разрабатывать и улучшать rag-пайплайны: поиск, реранжирование, сборка контекста, цитирование;
• поднимать и оптимизировать инференс на своём gpu-кластере: выбор модели, квантизация, батчинг, kv-кэш;
• проектировать агентную логику: маршрутизация запросов, вызов инструментов, память диалога;
• измерять качество системно: golden-датасеты, офлайн-метрики, a/b на проде, разбор жалоб пользователей;
• доводить прототипы до продакшена вместе с backend и devops-командой;
• что мы ожидаем:
• 3+ года в ml/ai-инженерии с реальным опытом вывода моделей в прод, а не только исследований в ноутбуках
• самостоятельность в постановке задач: превратить размытый запрос в проверяемую гипотезу и оценить, стоит ли она реализации;
• python на уровне промышленной разработки;
• практический опыт с llm: промптинг, rag или дообучение, доведённое до работающего результата;
• понимание устройства трансформера: attention, токенизация, контекстное окно, природа галлюцинаций;
• фреймворк инференса: vllm, tgi, triton, ollama или аналог;
• векторный поиск: qdrant, pgvector, milvus, faiss - любой;
• умение измерять качество цифрами: метрики, датасеты, воспроизводимые эксперименты;
• docker, git, понимание, как код доезжает до прода.

навыки, которые нам желательны:

• langgraph, langchain или llamaindex;

• fine-tuning (lora, qlora, dpo) ;

• квантизация и профилирование gpu;

• whisper, stt/tts, диаризация, мультимодальность;

• kubernetes, langfuse, ragas и другие инструменты оценки llm;

• казахский язык в nlp open-source и публикации.

• что мы предлагаем:

• собственная инфраструктура. работаем на своём железе, без ограничений и квот чужого облака;

• содержательные задачи. направление молодое, готовых шаблонов нет подходы вырабатываем сами;

• масштаб. продукты для десятков тысяч пользователей группы компаний

• влияние. ключевые архитектурные решения принимаются сейчас, и ваш голос в них весит.

то, что ждет вас в команде:

• работа в стабильной и динамичной компании;
• карьерный рост;
• социальный пакет по коллективному договору
• отпуск 28 дней;
• яркая корпоративная жизнь.