-
1. 调度优化1.1 概念理解1.1.1 Executor是airflow部署的模式，更改后必须重启airflow才可以生效。
本地Executor
Airflow 任务在调度器进程内部本地运行。优点: 非常易于使用，速度快，延迟极低，设置要求少...
-
1. 背景vllm使用pagedAttention（LLM(17)：从 FlashAttention 到 PagedAttention, 如何进一步优化 Attention 性能 - 知乎 ）加速推理，但是其没有做到以下几点：
内容
参考
...
-
1. 设计1.1 架构1.1.1 客户端
fuse（需要多次内核态和用户态拷贝，多线程锁抢占性能不佳）
Native client（USRBIO）
File metadata 仍然走fuse daemon流程（例如open/close&...
-
1. LoRA主要参考
Hoper-J/AI-Guide-and-Demos-zh_CN: 这是一份入门AI/LLM大模型的逐步指南，包含教程和演示代码，带你从API走进本地大模型部署和微调，代码文件会提供Kaggle或Colab...
-
1. 代码梳理1.1 逻辑1.1.1 初始化初始化模型: __init__(vllm/engine/llm_engine.py): executor_class(vllm_config=vllm_config, )【根据...
-
1. SMB csi1.1 （可选）开启smb服务如果有smb服务则不需要开启
1.1.1 安装server1sudo apt install samba -y
1.1.2 配置12345678910111213141516171819mkdir ...
-
1. 安装etcd客户端1apt install etcd-client
2. 创建备份1234567mkdir ./etcd-backupETCDCTL_API=3 etcdctl --endpoints=https://127.0.0.1:23...
-
1. 下载镜像docker.io/sonatype/nexus3 项目中国可用镜像列表 | 高速可靠的 Docker 镜像资源
Docker Proxy 镜像加速
2. 修改并安装123456789101112131415# ...
-
1. 执行123456789101112131415161718192021222324Install-Module PSReadLine -RequiredVersion 2.1.0Import-Module PSReadLineSet-PSRea...
-
1. argo1.1 准备离线helm部署文件123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555...
