-
Windows 查看 Nvidia 是否支持 CUDA
命令 使用nvidia-smi。CUDA Version有版本输出时表示支持CUDA。 PS C:\Users\user\Desktop> nvidia-smi Thu Mar 19 10:29:5
-
使用 llama.cpp 将 Hugging Face 模型转为 GGUF 格式
clone git repo git clone https://github.com/ggerganov/llama.cpp.git 安装 Python 依赖 进入到llama.cpp文件夹 p
2024-10-10, Views: 7966 , Topics: llama.cpp Hugging Face AI
-
本地运行 Llama3.2 和 Open WebUI
Ollama 在Ollama官方网站上下载对应的安装包：https://ollama.com 安装包是Ollama程序，不是模型。 运行模型 Ollama安装完成后，拉取模型。 运行后使用Contr