cuda-toolkit下载入口 https://developer.nvidia.com/cuda-toolkit-archive
nccl下载入口https://docs.nvidia.com/deeplearning/nccl/install-guide/#down
分类 "经验累积" 下的文章
核心:
#全自动 ./hdf.sh xxx/xxxx
export HF_ENDPOINT=https://hf-mirror.com
或者
find /home/aistudio/work/ComfyUI/custom_nodes/ -type f -exec sed -i 's/huggingface.co/hf-mirror.com/g' {} +
# 下载模型
huggingface-cli download --resume-download --local-dir-use-symlinks False bigscience/bloom-560m --local-dir bloom-560m
# 下载数据集
huggingface-cli download --resume-download --repo-type dataset lavita/medical-qa-shared-task-v1-toy
下载需要登录的模型(Gated Model)
请添加 --token hf_ 参数,其中 hf_ 是 access token,请在 Hugging Face官网这里 获取。示例:
huggingface-cli download --token hf_*** --resume-download --local-dir-use-symlinks False meta-llama/Llama-2-7b
tar命令及文件分割
删除现有的cuda\nvcc\nccl\nvidia*
sudo apt-get --purge remove "*cublas*" "cuda*" "nsight*" libnccl-dev libnccl2 -y
sudo apt-get --purge remove "*nvidia*" -y
sudo apt autoremove -y
sudo rm -rf /usr/local/cuda*
准备工作【可以不做】
设置apt源
清华 https://mirrors.tuna.tsinghua.edu.cn/help/ubuntu-ports/
阿里 https://developer.aliyun.com/mirror/ubuntu
cuda-toolkit下载入口 https://developer.nvidia.com/cuda-toolkit-archive
nccl下载入口https://docs.nvidia.com/deeplearning/nccl/install-guide/#down
frps.toml的中文注释说明