Руководитель лаборатории «Искусство и ИИ» в ЕУСПб
Анастасия Старобыховская
Инференс-сервер своими руками: воркшоп по BentoML
Чтобы не терять времени на воркшопе, установите Docker, Python и свою любимую IDE, если ещё нет. И проверьте, что на диске есть 10 Гб свободного места
Что будет на лекции
Как передать готовую модель без погружения в репозитории backend-команды
Когда BentoML не подходит и что использовать вместо него
Как упаковать модель с помощью BentoML и поднять инференс-сервер
Как обращаться к модели из внешнего кода
