jetson 安装mmdeploy docker
时间: 2023-11-20 13:05:49 浏览: 37
以下是在Jetson上安装mmdeploy docker的步骤:
1. 确保您的Jetson设备已经安装了Docker和Nvidia-docker。如果没有安装,请参考引用中的链接进行安装。
2. 打开终端并输入以下命令拉取mmdeploy docker镜像:
```shell
sudo docker pull registry.cn-hangzhou.aliyuncs.com/megvii-model/mmdeploy:latest-jetson
```
3. 等待镜像下载完成后,输入以下命令启动mmdeploy docker容器:
```shell
sudo docker run -it --rm --net=host --runtime nvidia --privileged -v /dev:/dev -v /usr/lib/aarch64-linux-gnu/tegra:/usr/lib/aarch64-linux-gnu/tegra registry.cn-hangzhou.aliyuncs.com/megvii-model/mmdeploy:latest-jetson /bin/bash
```
4. 进入容器后,您可以使用mmdeploy进行模型部署。具体使用方法请参考引用中的链接。
相关问题
jetson安装mmdeploy
以下是在Jetson上安装mmdeploy的步骤:
1. 创建mmdeploy环境,Python版本为3.6:
```
conda create -n mmdeploy python=3.6 -y
conda activate mmdeploy
```
2. 克隆mmdeploy代码并安装依赖:
```
git clone https://github.com/megvii-model/mmdeploy.git
cd mmdeploy
pip install -r requirements.txt
```
3. 构建mmdeploy:
```
python setup.py build
python setup.py install
```
4. 下载TensorRT并安装:
```
wget https://developer.nvidia.com/compute/machine-learning/tensorrt/7.2.3/local_repos/nv-tensorrt-repo-ubuntu1804-cuda11.1-trt7.2.3.4-ga-20210226_1-1_amd64.deb
sudo dpkg -i nv-tensorrt-repo-ubuntu1804-cuda11.1-trt7.2.3.4-ga-20210226_1-1_amd64.deb
sudo apt-key add /var/nv-tensorrt-repo-cuda11.1-trt7.2.3.4-ga-20210226/7fa2af80.pub
sudo apt-get update
sudo apt-get install tensorrt
```
5. 构建mmdeploy TensorRT插件:
```
cd mmdeploy
mkdir build
cd build
cmake .. -DTRT_LIB=/usr/lib/aarch64-linux-gnu/libnvinfer.so.7.2.3 -DTRT_BIN=/usr/lib/aarch64-linux-gnu/libnvinfer_plugin.so.7.2.3 -DPYTHON_INCLUDE_DIR=$(python -c "from distutils.sysconfig import get_python_inc; print(get_python_inc())") -DPYTHON_LIBRARY=$(python -c "import distutils.sysconfig as sysconfig; print(sysconfig.get_config_var('LIBDIR'))")/libpython3.6m.so
make -j$(nproc)
```
6. 启动tritonserver并指定预加载库:
```
LD_PRELOAD=/root/mmdeploy/build/libmmdeploy_tensorrt_ops.so ./tritonserver --model-repository=/root/models
```
jetson docker gpu
Jetson Docker GPU是一种用于Jetson系列嵌入式设备的软件解决方案,它结合了Docker和GPU技术。Jetson是由NVIDIA推出的一系列低功耗高性能的嵌入式系统,而Docker则是一种轻量级的容器化技术,能够将应用程序及其依赖项打包到一个独立的容器中,并在不同的环境中进行部署。
Jetson Docker GPU的出现解决了在Jetson设备上进行GPU加速计算的问题。由于Jetson设备在硬件上已经集成了GPU,可以提供强大的计算能力,但在软件层面上,使用GPU进行加速却需要相应的支持。而Jetson Docker GPU通过与Jetson设备上的GPU驱动程序进行集成,可以帮助用户轻松地在Jetson设备上运行支持GPU加速的应用程序。
使用Jetson Docker GPU,用户可以通过简单的命令行操作,将应用程序及其依赖项打包成一个容器,并在Jetson设备上进行部署。这种容器化的方式可以轻松地管理不同的应用程序,避免了因为应用程序之间的依赖关系而导致的冲突和兼容性问题。同时,由于Docker容器可以在不同的环境中运行,Jetson Docker GPU也提供了更高的移植性和可扩展性。
总而言之,Jetson Docker GPU是一种将Docker和GPU技术应用于Jetson设备的解决方案。它提供了简单、高效的部署方式,可以帮助用户充分发挥Jetson设备上的GPU计算能力,从而加速应用程序的运行。