手把手教你在腾讯云部署官方pyTorch版CPM

本文将手把手教你在腾讯云部署清源CPM并进行简单测试，但仍需要一定Linux基础初次部署需要消耗30元，之后每小时14元有问题可以联系我，有时间会尽量回答

图片见b站！图片见b站！图片见b站！ b站链接https://www.bilibili.com/read/cv8943397 —————————— 小凡/Empathy 微信：geekareabao 东莞理工学院网络工程今年大三 ——————————

选择自定义配置，开启按量计费GPU服务器（建议广州）

必须选择双GPU的服务器，且显存均大于7G

这里建议选最便宜的双GPU服务器 GN6S双卡版

操作系统镜像建议CentOS 7.8，其他保持默认

勾选自动安装驱动，所有选项选最新的应该就可以了

公网带宽调至50或100Mbps，按流量计费

然后进入下一步

安全组设为Linux安全组

自行设置密码或密钥，然后下一步，并充值开通服务器

开启成功后可以查询到自己的服务器，会自动开机，但开机时间比较长

关机时只计算磁盘费用，开机时计算全部费用，流量单独计费

开机成功后会显示公网IP，在ssh软件输入该IP连接服务器

使用预设的用户名密码或密钥对ssh登录服务器

可以使用lspci命令检查显卡有没有正常工作，倒数第二、三行出现NVIDIA XXX则表示成功

然后安装nvidia-docker，请不要安装普通版docker，如果你已经安装普通docker，需要删除所有与docker有关的软件

具体参照

https://blog.csdn.net/keineahnung2345/article/details/84527956 的内容删除旧docker

安装方法参照

https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/install-guide.html#docker

如果你是以root用户登录，则不需要sudo，否则在命令前添加sudo

这里给出CentOS 7使用的命令(我在真机部署的时候没有记录，这些是事后敲的，没有验证正确性，有错误请联系我）

安装支持显卡的Docker-ce

yum install -y https://download.docker.com/linux/centos/7/x8664/stable/Packages/containerd.io-1.4.3-3.1.el7.x8664.rpm

systemctl start docker

安装英伟达容器组件

distribution=$(. /etc/os-release;echo $ID$VERSION_ID) \ && curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.repo | sudo tee /etc/yum.repos.d/nvidia-docker.repo

yum clean expire-cache

yum install -y nvidia-docker2

systemctl restart docker

docker run --rm --gpus all nvidia/cuda:11.0-base nvidia-smi

然后出现GPU详细信息则安装成功

由于官方docker源很慢，我们把源换成腾讯云

以centOS为例，参考

https://cloud.tencent.com/document/product/1207/45596?from=information.detail.%E8%85%BE%E8%AE%AF%E4%BA%91%E5%8A%A0%E9%80%9Fdocker

vim /etc/docker/daemon.json

切换到编辑模式

DOCKER_OPTS="--registry-mirror=https://mirror.ccs.tencentyun.com" —————内容————— {"registry-mirrors": [ "https://mirror.ccs.tencentyun.com" ]} —————————— esc

退出编辑模式

:wq

保存并退出

cd ~

回到主目录

接下来是清源CPM（默认目录为~/CPM-Generate）

docker pull dmye/cpm:v0

docker run --gpus '"device=0,1"' -it -v ./CPM-Generate --name=cpm dmye/cpm:v0

运行后，会进入Docker容器内的命令行，进入docker后不论之前是不是root都要用sudo

我们需要先进入CPM所在的目录，并下载模型

参照图中命令，进入/CPM文件夹，默认是没有80000和checkpoint文件的，这两个就是我们要下载的，使用如下命令下载模型

sudo wget https://baai.org/l/QLtmx