腾讯云计算加速套件TACO KitTACO Infer 安装

操作场景

本文介绍如何在服务器上安装 TACO Infer。TACO Infer 的安装包包括 Python Wheel 包和推理 SDK 包两个部分。Python Wheel 包用于在具有目标加速芯片的机器环境中对模型进行优化，SDK 则用于 C++开发模型推理部署。

使用环境要求

操作步骤

安装深度学习框架

使用 TACO Infer 时，需要您的 Python 运行环境中已安装深度学习框架。以 Tensorflow 1.14 为例：

pip install tensorflow==1.14

注意：TACO Infer 不代替您安装深度学习框架。使用 TACO Infer 时，请确保您的 Python 运行环境中已安装（pip install）相应的深度学习框架(Tensorflow/Pytorch)。TACO Infer会自动适配您所选择的深度学习框架版本。

依赖安装

Taco Infer 依赖 libcurl、openssl、libuuid。您可以通过以下命令检查是否已经安装这些组件：

yum list installed | grep ${package}

若未安装，请通过以下命令安装。libcurl

yum install libcurl-devel

openssl

yum install openssl-devel

libuuid

yum install libuuid-devel

获取 Wheel 包及 SDK 包

填写 TACO Infer 调查问卷，评估通过后可获得 TACO Infer Python Wheel 包和 SDK 安装包。目前支持计算环境和框架请参见 使用环境要求，获取更多资讯可以 联系我们。

安装 Wheel 包

通过 pip 命令，即可安装 Taco python 包：

pip install ${path/to/wheel_package}

获取 SDK 包

建议将解压后的库文件拷贝到 /usr/local/lib 下，以便 ld 程序能够找到 Taco 动态链接库进行链接。对于 CPU 设备，SDK包中存在以下文件:libtaco_tf.solibtidy_ops.solibomp-1fdec59b.sotidy_vm对于 GPU 设备，SDK包中存在以下文件：libtidy_runtime.solibtacaudio_ops.solib_tactorch.solibnvinfer.solibnvinfer_plugin.solibnvonnxparser.solibnvparsers.solibnvinfer_builder_resource.so.8.5.1SDK包中所包含的文件会随您选择的深度学习框架版本和硬件设备有所区别，实际包含内容以发布的SDK包为准。
官网1折活动，限时活动，即将结束，速速收藏
同尘科技为腾讯云授权服务中心。
购买腾讯云产品享受折上折，更有现金返利。同意关联立享优惠