jupyterlab在Linux服务器上如何指定使用某台特定的GPU

要在Linux服务器上指定使用某台特定的GPU运行jupyterlab，需要执行以下步骤：

1. 确保服务器上已经安装了GPU驱动和CUDA库。

2. 安装jupyterlab。

3. 安装jupyterlab-nvidia插件。该插件可以让jupyterlab使用NVIDIA GPU来运行代码。

4. 在终端中使用以下命令启动jupyterlab：

   CUDA_VISIBLE_DEVICES=<设备号> jupyter lab

其中，<设备号>是GPU设备的编号，可以是0、1、2等，表示使用哪一块GPU来运行jupyterlab。

例如，如果要使用设备号为1的GPU来运行jupyterlab，可以使用以下命令：

   CUDA_VISIBLE_DEVICES=1 jupyter lab

运行命令后，jupyterlab将会在指定的GPU上运行。

相关问题

在Linux服务器上如何指定使用某台特定的GPU来运行jupyterlab的某个python程序

在Linux服务器上指定使用某台特定的GPU来运行jupyterlab的某个python程序，需要执行以下步骤：

1. 确保服务器上已经安装了GPU驱动和CUDA库。

2. 安装jupyterlab。

3. 安装jupyterlab-nvidia插件。该插件可以让jupyterlab使用NVIDIA GPU来运行代码。

4. 编写一个python程序，并将其保存为.py文件。

5. 在终端中使用以下命令启动jupyterlab：

   CUDA_VISIBLE_DEVICES=<设备号> jupyter lab

其中，<设备号>是GPU设备的编号，可以是0、1、2等，表示使用哪一块GPU来运行jupyterlab。

例如，如果要使用设备号为1的GPU来运行jupyterlab，可以使用以下命令：

   CUDA_VISIBLE_DEVICES=1 jupyter lab

6. 打开jupyterlab界面，在界面中找到并打开保存的.py文件。

7. 在代码单元格中加入以下代码，将程序运行在指定的GPU上：

   import os
   os.environ["CUDA_VISIBLE_DEVICES"]="<设备号>"

其中，<设备号>是GPU设备的编号，可以是0、1、2等，表示使用哪一块GPU来运行程序。

例如，如果要使用设备号为1的GPU来运行程序，可以使用以下代码：

   import os
   os.environ["CUDA_VISIBLE_DEVICES"]="1"

8. 运行程序即可在指定的GPU上运行。

autodl在jupyterlab

### 使用 JupyterLab 和 AutoDL 进行自动深度学习模型训练和部署

#### 准备工作
为了在 JupyterLab 中使用 AutoDL 平台进行深度学习模型的训练和部署，需先完成必要的准备工作。这包括但不限于租用 GPU 资源并配置相应的开发环境。

- 租用 GPU：通过云服务提供商获取适合深度学习任务所需的计算资源[^1]。

# 假设已经登录到云服务平台，并选择了合适的GPU实例规格后启动实例

- 配置环境：安装 Python 解释器以及依赖库如 PyTorch 或 TensorFlow 等框架；设置 SSH 密钥以便安全访问远程主机上的 Jupyter Notebook/Lab 实例。

#### 安装与配置 JupyterLab
一旦完成了上述准备活动，则可以在所选的云计算环境中搭建 JupyterLab：

- 登录至已开通的服务节点；
- 更新系统包管理工具并安装 Anaconda 发行版来简化后续操作过程中的软件包管理和虚拟环境隔离问题解决方法[^4]。

sudo apt-get update && sudo apt-get install -y wget bzip2
wget https://repo.anaconda.com/archive/Anaconda3-2023.07-1-Linux-x86_64.sh
bash Anaconda3-2023.07-1-Linux-x86_64.sh -bfp /opt/anaconda3
export PATH="/opt/anaconda3/bin:$PATH"
source ~/.bashrc

- 创建新的 conda 环境用于支持特定版本的 Python 及其扩展组件集合（例如 CUDA Toolkit 版本匹配）。

conda create --name autodl_env python=3.9
conda activate autodl_env
pip install jupyterlab ipykernel torch torchvision torchaudio cudatoolkit=11.3 -f https://download.pytorch.org/whl/cu113/torch_stable.html
python -m ipykernel install --name=autodl_env

#### 启动 JupyterLab 服务并与本地浏览器建立连接
现在可以开始运行 JupyterLab 来加载 notebook 文件或编写新脚本来实现自动化机器学习流程了。

- 执行 `jupyter lab` 命令开启 Web 应用程序监听端口，默认情况下会打印出一个 token 字符串作为身份验证机制的一部分。

nohup jupyter lab --ip='*' --port=8888 --allow-root &

- 将生成的安全令牌复制下来备用，在个人电脑上打开终端窗口并通过 ssh tunneling 技术转发远端服务器开放出来的 HTTP 接口给本地客户端设备使用。

ssh -N -L localhost:8888:localhost:8888 username@your_remote_host_ip_address

此时应该能够在 web 浏览器地址栏输入 http://localhost:8888 访问到了位于云端的工作空间界面内开展进一步的研究探索工作了！

#### 开始训练模型
当一切就绪之后就可以着手构建自己的项目工程结构体并且导入数据集文件夹等内容项了。对于 YOLOv5 模型而言，可以通过克隆官方 GitHub 存储库的方式快速获得完整的代码基线[^2]。

git clone https://github.com/ultralytics/yolov5.git
cd yolov5/

按照之前提到过的指南说明准备好对应的图片样本及其标注信息之后便可以直接调用内置函数接口来进行迭代优化参数直至收敛为止。

!python train.py --img 640 --batch 16 --epochs 50 --data custom_dataset.yaml --weights yolov5s.pt

#### 大规模预训练语言模型微调实践
如果计划调整大型预训练的语言模型比如 Qwen2.5 7B Instruct ，则需要额外注意下载过程中涉及到版权归属等问题。确保遵循 ModelScope 社区准则合法合规地取得授权许可后再行动作[^3]。

from modelscope import snapshot_download

model_path = "Qwen/Qwen2.5-7B-Instruct"  # 替换成实际路径
cache_path = "/root/autodl-tmp"

snapshot_download(model_path, cache_dir=cache_path)