Архитектор решений (NLP/LLM)

Описание

Стрим создаёт экосистему цифровых помощников на базе opensource LLM/VLM, которые решают реальные бизнес-задачи наших клиентов от автоматизации процессов до интеллектуального анализа данных.

Мы ищем в команду Architect платформы цифровых агентов, который заложит технологический фундамент и будет определять стратегию развития нашей GenOps-инфраструктуры. Это ключевая роль, объединяющая видение продукта, выбор технологического стека и создание стандартов разработки.

Вместе с нами вам предстоит:

• Проектирование высоконагруженных систем: разработка архитектуры мультиагентной платформы, обеспечивающей надежную оркестрацию тысяч цифровых помощников и эффективный инференс LLM/VLM в продакшене;
• Стратегия и выбор стека: определение технологического ландшафта (оркестрация, базы данных, очереди, фреймворки инференса), внедрение современных подходов к оптимизации и управлению GPU-ресурсами;
• Обеспечение нефункциональных требований: закладывание в архитектуру принципов отказоустойчивости, горизонтального масштабирования, безопасности и наблюдаемости (observability) на всех уровнях от железа до качества семантических ответов агентов;
• Техническое лидерство: участие в код-ревью ключевых компонентов, написание архитектурных решений, синхронизация команды вокруг технического видения и менторство инженеров;
• Исследование и внедрение R&D: оценка и прототипирование новых open-source решений в области агентных систем и LLMOps для повышения эффективности платформы.

Для нас важно:

• Наличие высшее технического образования;

• Глубокое понимание принципов машинного обучения, NLP и информационного поиска (Information Retrieval);

• Практический опыт проектирования архитектуры сервисов на базе больших языковых моделей (LLM) в промышленную эксплуатацию;

• Владение современным LLM-стеком (фреймворки оркестрации агентов, инференса, оценки), инструментами MLOps и компонентами Modern Data Stack;

• Стек: Python, FastAPI, langchain/llamaindex/haystack k8s, docker, S3, postgres