TorchServe 简单教程

torchserve是Facebook和AWS联手开发的一款用于机器学习模型部署和调用的微服务程序。

网址：https://pytorch.org/serve/

Torchserve调用的模型文件是 .mar 文件，pytorch生成的模型文件要使用 torch-model-archiver 来转换成 mar文件。
 

$ torch-model-archiver
usage: torch-model-archiver [-h] --model-name MODEL_NAME
                            [--serialized-file SERIALIZED_FILE]
                            [--model-file MODEL_FILE] --handler HANDLER
                            [--extra-files EXTRA_FILES]
                            [--runtime {python,python2,python3}]
                            [--export-path EXPORT_PATH]
                            [--archive-format {tgz,no-archive,default}] [-f]
                            -v VERSION [-r REQUIREMENTS_FILE]

TorchServe

$ torchserve --help
usage: torchserve [-h] [-v | --start | --stop] [--ts-config TS_