百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT知识 > 正文

ubuntu22/24中利用国内源部署大模型(如何快速安装必备软件)

liuian 2025-06-03 23:26 8 浏览

本地AI部署的基础环境,一般会用到docker, docker compose, python环境,如果直接从官网下载,速度比较慢。特意记录一下ubuntu使用国内源快速来搭建基础平台。

一,docker安装
1.1,删除旧版

sudo apt-get remove docker docker-engine docker.io containerd runc

# 如果有错误也没关系。


1.2,下载KEY和添加国内docker源;

 
curl -fsSL https://mirrors.ustc.edu.cn/docker-ce/linux/ubuntu/gpg | sudo apt-key add -
sudo apt-key fingerprint 0EBFCD88
sudo add-apt-repository "deb [arch=amd64] https://mirrors.ustc.edu.cn/docker-ce/linux/ubuntu jammy stable"
# 24.04是 noble,需要用下一条命令。
# sudo add-apt-repository "deb [arch=amd64] https://mirrors.ustc.edu.cn/docker-ce/linux/ubuntu noble stable"


1.3,安装docker

sudo apt-get update
sudo apt-get install apt-transport-https ca-certificates curl gnupg-agent software-properties-common docker-ce docker-ce-cli containerd.io
docker ps
# 测试结果如下即表示正常。



1.4,配置docker使用国内镜像,提高下载速度

sudo vi /etc/docker/daemon.json

{
"registry-mirrors": [
"https://docker.registry.cyou",
"https://docker-cf.registry.cyou",
"https://dockercf.jsdelivr.fyi",
"https://docker.jsdelivr.fyi",
"https://dockertest.jsdelivr.fyi",
"https://mirror.aliyuncs.com",
"https://dockerproxy.com",
"https://mirror.baidubce.com",
"https://docker.m.daocloud.io",
"https://docker.nju.edu.cn",
"https://docker.mirrors.sjtug.sjtu.edu.cn",
"https://docker.mirrors.ustc.edu.cn",
"https://mirror.iscas.ac.cn",
"https://docker.rainbond.cc"]
}


1.5,重启docker

sudo systemctl daemon-reload && sudo systemctl restart docker

1.6,如果下载有问题,可以去国内的一个镜像网站上查询:

渡渡鸟镜像同步站



二,安装Docker Compose

2.1,以下安装是最便捷的方式:

# 下载安装
sudo apt update
sudo apt install docker-compose-plugin
# 验证
docker compose version




三,安装python

3.1,下载安装文件

# 从官网下载,最新版本可能有变化
wget https://repo.anaconda.com/archive/Anaconda3-2024.10-1-Linux-x86_64.sh

3.2,安装

# 如果下载的不是这个文件,需要更改下面的文件名称。
chmod +x Anaconda3-2024.10-1-Linux-x86_64.sh
./Anaconda3-2024.10-1-Linux-x86_64.sh
# 中间有提示,按yes即可。

3.3,验证


source ~/.bashrc  # 或重启终端
conda --version
# 输出示例:conda 24.1.2
conda list

3.4,增加国内源,提升下载速度

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge
conda config --set show_channel_urls yes
cat ~/.condarc
# 应显示清华镜像地址

3.5,升级环境

conda update -n base -c defaults conda

3.6,创建python版本示例:

## 用管理员帐号打开powerShell
conda create -n open_manus python=3.12
conda activate open_manus
## 测试
python --version

相关推荐

结构力学!EI会议图表规范秘籍(ei会议排版)

推荐会议:国际结构与材料工程进展大会(ISME2026)会议编号:EI#73521截稿时间:2026年3月10日召开时间/地点:2026年8月15-17日·德国柏林论文集上线:会后4...

如何在simulink中获取足端轨迹?(simulink怎么设置触发角)

哈喽大家好,我是咕噜美乐蒂。很高兴又和大家见面啦。在机器人控制的应用中,足端轨迹是一个非常重要的参数,可以用来评估机器人的运动性能和精度。在Simulink中获取足端轨迹需要考虑到模型的复杂性、仿...

JCMsuite:旋转对称发射器(旋转式发射)

示例取自Gregersen等人[1]。几何形状为非理想微柱结构:单光子柱发射器(旋转对称)多层膜是在布局文件layout.jcm中由外部形状为梯形的特殊原始多层创建的(见下文)。参数扫描Matlab(...

动态离散周期变换技术突破:无ECG参考的生理信号精准解析

来源:电子产品世界摘要本文介绍了新型滑动离散周期变换(DPT)算法,可设计用于处理生理信号,尤其是脉搏血氧仪采集的光电容积脉搏波(PPG)信号。该算法采用正弦基函数进行周期域分析,可解决随机噪声和非平...

电气EI源刊避坑指南速存(电气工程开源期刊)

期刊推荐:《IEEETransactionsonPowerSystems》刊号:ISSN0885-8950影响因子:8.5(最新JCR数据)分区:中科院1区|JCRQ1版面费:约2200美...

Matlab基础入门手册(第五章:脚本/函数)

第五章脚本和函数1.44循环和条件语句1.循环语句和条件语句的用法2.说明循环语句:for,while条件语句:if,switch3.实例演示%1_44forx=1:5%简单for程序实例...

利用GPT4-V及Langchain实现多模态RAG

多模态RAG将是2024年AI应用架构发展的一个重要趋势,在前面的一篇文章里提到llama-index在这方面的尝试《利用GPT4-V及llama-index构建多模态RAG应用》,本文[1]中将以另...

WPF基础之UI布局(wpf ui界面设计)

知识点:WPF中的布局控件主要有以下几种:StackPanel:栈面板,可以将元素排列成一行或者一列。其特点是:每个元素各占一行或者一列。WrapPanel:环绕面板,将各个控件从左至右按照行或列的顺...

27.WPF 形状(wps 形状)

摘要  在WPF用户界面中,绘制2D图形内容的最简单方法是使用形状(shape)——专门用于表示简单的直线、椭圆、矩形以及多变形的一些类。从技术角度看,形状就是所谓的绘图图元(primitive)。可...

WPF与WinForm的本质区别(wpf和winui)

在Windows应用程序开发中,WinForm和WPF是两种主要的技术框架。它们各自有不同的设计理念、渲染机制和开发模式。本文将详细探讨WPF与WinForm的本质区别,并通过示例进行说明。渲染机制W...

.NET跨平台绘图基础库--SkiaSharp

SkiaSharp是一个跨平台的2D图形API,用于.NET平台,基于Google的Skia图形库。它提供了全面的2DAPI,可以在移动、服务器和桌面模型上渲染图像。SkiaS...

django python数据中心、客户、机柜、设备资源管理平台源码分享

先转发后关注,私信“资源”即可免费获取源码下载链接!本项目一个开源的倾向于数据中心运营商而开发的,拥有数据中心、客户、机柜、设备、跳线、物品、测试、文档等一些列模块的资源管理平台,解决各类资源集中管理...

在树莓派上:安装Ubuntu Server 20.04

什么是树莓派树莓派是英国树莓派基金会(https://www.raspberrypi.org)开发的卡片式电脑,采用高通的BCM2711ARM64处理器,可用于机器人、物联网、边缘计算、通用计算等多...

手把手教你搭建深度学习环境Pytorch版-Ubuntu

引言很多搞人工智能的小伙伴,刚开始学习,往往摸不着头脑怎么跑代码。跑代码的前提是要有个环境。本篇结合自己的亲身经历,带你搭建环境。相关知识Ubuntu是Linux系统的一种显卡驱动和cuda是两个不同...

干货,Python竟然可以用Kivy编写和打包安卓APP

请大家多多点赞,关注和分享在上一篇文章中,我们介绍了在Python中使用BeeWare框架编写图形程序并将其打包为安卓的apk文件程序。爆强!直接把Python编写的图形程序打包为安卓A...