分享免费的编程资源和教程

网站首页 > 技术教程 正文

ubuntu22/24中利用国内源部署大模型(如何快速安装必备软件)

goqiw 2025-03-24 16:23:21 技术教程 28 ℃ 0 评论

本地AI部署的基础环境,一般会用到docker, docker compose, python环境,如果直接从官网下载,速度比较慢。特意记录一下ubuntu使用国内源快速来搭建基础平台。

一,docker安装
1.1,删除旧版

sudo apt-get remove docker docker-engine docker.io containerd runc

# 如果有错误也没关系。


1.2,下载KEY和添加国内docker源;

 
curl -fsSL https://mirrors.ustc.edu.cn/docker-ce/linux/ubuntu/gpg | sudo apt-key add -
sudo apt-key fingerprint 0EBFCD88
sudo add-apt-repository "deb [arch=amd64] https://mirrors.ustc.edu.cn/docker-ce/linux/ubuntu jammy stable"
# 24.04是 noble,需要用下一条命令。
# sudo add-apt-repository "deb [arch=amd64] https://mirrors.ustc.edu.cn/docker-ce/linux/ubuntu noble stable"


1.3,安装docker

sudo apt-get update
sudo apt-get install apt-transport-https ca-certificates curl gnupg-agent software-properties-common docker-ce docker-ce-cli containerd.io
docker ps
# 测试结果如下即表示正常。



1.4,配置docker使用国内镜像,提高下载速度

sudo vi /etc/docker/daemon.json

{
"registry-mirrors": [
"https://docker.registry.cyou",
"https://docker-cf.registry.cyou",
"https://dockercf.jsdelivr.fyi",
"https://docker.jsdelivr.fyi",
"https://dockertest.jsdelivr.fyi",
"https://mirror.aliyuncs.com",
"https://dockerproxy.com",
"https://mirror.baidubce.com",
"https://docker.m.daocloud.io",
"https://docker.nju.edu.cn",
"https://docker.mirrors.sjtug.sjtu.edu.cn",
"https://docker.mirrors.ustc.edu.cn",
"https://mirror.iscas.ac.cn",
"https://docker.rainbond.cc"]
}


1.5,重启docker

sudo systemctl daemon-reload && sudo systemctl restart docker

1.6,如果下载有问题,可以去国内的一个镜像网站上查询:

渡渡鸟镜像同步站



二,安装Docker Compose

2.1,以下安装是最便捷的方式:

# 下载安装
sudo apt update
sudo apt install docker-compose-plugin
# 验证
docker compose version




三,安装python

3.1,下载安装文件

# 从官网下载,最新版本可能有变化
wget https://repo.anaconda.com/archive/Anaconda3-2024.10-1-Linux-x86_64.sh

3.2,安装

# 如果下载的不是这个文件,需要更改下面的文件名称。
chmod +x Anaconda3-2024.10-1-Linux-x86_64.sh
./Anaconda3-2024.10-1-Linux-x86_64.sh
# 中间有提示,按yes即可。

3.3,验证


source ~/.bashrc  # 或重启终端
conda --version
# 输出示例:conda 24.1.2
conda list

3.4,增加国内源,提升下载速度

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge
conda config --set show_channel_urls yes
cat ~/.condarc
# 应显示清华镜像地址

3.5,升级环境

conda update -n base -c defaults conda

3.6,创建python版本示例:

## 用管理员帐号打开powerShell
conda create -n open_manus python=3.12
conda activate open_manus
## 测试
python --version

Tags:

本文暂时没有评论,来添加一个吧(●'◡'●)

欢迎 发表评论:

最近发表
标签列表