О нас: Мы создаем экосистему цифровых сотрудников на базе передовых открытых LLM/VLM-моделей. Наши AI-агенты автоматизируют ключевые операционные процессы, напрямую влияя на эффективность и конкурентное преимущество бизнеса наших заказчиков
Обязанности
Ключевые обязанности
1. Архитектурное руководство
o Проектирование высоконагруженной мультиагентной платформы: обеспечение отказоустойчивости, горизонтального масштабирования, безопасности и наблюдаемости (observability) на всех уровнях — от инфраструктуры до семантики ответов агентов.
o Определение технологического стека и стратегии развития GenOps-инфраструктуры (оркестрация агентов, инференс LLM/VLM, работа с GPU, базы данных, очереди).
o Внедрение современных подходов к оптимизации моделей, управлению ресурсами и MLOps-практик.
2. Управление командой и процессами
o Техническое лидерство: менторство инженеров, проведение код-ревью, рефакторинг, синхронизация команды вокруг единого технического видения.
o Координация разработки self сервисных бэкенд-сервисов (REST/gRPC), позволяющих дата-сайентистам и бизнес-пользователям быстро разворачивать агентов без погружения в инфраструктуру.
o Выстраивание процессов непрерывной поставки и мониторинга качества: от метрик генерации (галлюцинации, точность ответов) до бизнес-показателей (скорость выполнения задач).
3. Стратегическое развитие и R&D
o Участие в формировании дорожной карты продукта, синхронизация с заинтересованными сторонами (product owners, бизнес-заказчики).
o Исследование и внедрение методов оценки качества агентов, борьбы с галлюцинациями, оптимизации инференса.
4. Инженерная практика
o Обеспечение высокой доступности и масштабируемости систем на базе LLM.
o Работа с инфраструктурой: Kubernetes, Docker, S3, PostgreSQL, брокеры сообщений (Kafka, RabbitMQ).
Обязательные требования
Глубокое понимание принципов машинного обучения, NLP и информационного поиска (Information Retrieval).
Практический опыт проектирования архитектуры сервисов на базе больших языковых моделей (LLM) в промышленную эксплуатацию.
Владение современным LLM-стеком (фреймворки оркестрации агентов, инференса, оценки), инструментами MLOps и компонентами Modern Data Stack.
Навыки технического лидерства: проведение код-ревью, менторство, принятие архитектурных решений.
Стек: Python, FastAPI, langchain/llamaindex/haystack k8s, docker, S3, postgres
Будет плюсом
-
