Разработка внутренней корпоративной ИИ-платформы для автоматизации процессов, поддержки сотрудников и повышения эффективности взаимодействия с данными. В задачи проекта входит создание удобных пользовательских интерфейсов (чат-ассистенты, RAG-поиск, генерация текстов и изображений), сервисов для создания ИИ продуктов, в том числе агентов, интеграция с существующими системами компании и обеспечение контроля и мониторинга использования модели.
Обязанности
Развертывание и поддержка LLM-платформы в Kubernetes (Helm, Terraform, K8s Operators)
Настройка CI/CD для ML/AI сервисов (обучение, inference, data pipelines)
Автоматизация ML workflow в Kubeflow
Настройка и поддержка мониторинга моделей (latency, drift, cost metrics)
Управление пайплайнами данных для обучения и inference (Kafka, DataLake, объектное хранилище S3, векторные БД)
Оптимизация работы GPU-кластера (распределённое обучение, эффективное использование ресурсов)
Обеспечение безопасности и комплаенса: изоляция сред, контроль доступа, логирование
Обязательные требования
Опыт работы с Kubernetes и облачными/on-prem кластерами
Знание Python и инструментов ML Ops (Kubeflow, Airflow)
Опыт настройки CI/CD (Jenkins)
Опыт работы с системами хранения и векторными БД (Weaviate/Qdrant/PGVector)
Знания в области мониторинга и логирования (Prometheus, Grafana, ELK, OpenTelemetry)
Понимание принципов работы LLM/GenAI и RAG-систем будет плюсом
Будет плюсом
*
