-
1. LoRA主要参考
Hoper-J/AI-Guide-and-Demos-zh_CN: 这是一份入门AI/LLM大模型的逐步指南，包含教程和演示代码，带你从API走进本地大模型部署和微调，代码文件会提供Kaggle或Colab...
-
1. 代码梳理1.1 逻辑1.1.1 初始化初始化模型: __init__(vllm/engine/llm_engine.py): executor_class(vllm_config=vllm_config, )【根据...
-
1. SMB csi1.1 （可选）开启smb服务如果有smb服务则不需要开启
1.1.1 安装server1sudo apt install samba -y
1.1.2 配置12345678910111213141516171819mkdir ...
-
1. 安装etcd客户端1apt install etcd-client
2. 创建备份1234567mkdir ./etcd-backupETCDCTL_API=3 etcdctl --endpoints=https://127.0.0.1:23...
-
1. 下载镜像docker.io/sonatype/nexus3 项目中国可用镜像列表 | 高速可靠的 Docker 镜像资源
Docker Proxy 镜像加速
2. 修改并安装123456789101112131415# ...
-
1. 执行123456789101112131415161718192021222324Install-Module PSReadLine -RequiredVersion 2.1.0Import-Module PSReadLineSet-PSRea...
-
1. argo1.1 准备离线helm部署文件123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555...
-
1. 下载csi12wget https://gh-proxy.com/github.com/CrunchyData/postgres-operator-examples/archive/refs/heads/main.ziptar xvf main...
-
1. 部署1.1 修改host并配置互信（所有节点都需执行）vim /etc/hosts
10.244.0.228 ubuntu-vm-2404-test-1
10.244.0.155 ubuntu-vm-2404-test-2
10.244.0.2...
-
1. 步骤
在物理机上安装驱动
在物理机上安装NVIDIA Container Toolkit并完成配置
12sudo nvidia-ctk runtime configure --runtime=containerdsudo systemctl ...
