要本地部署无限制版本的DeepSeek R1(即所谓的“越狱版”),您可以按照以下步骤进行操作。请注意,使用无限制版本的模型可能会带来一些伦理和安全风险,建议在合法和道德的框架内使用。
1. 安装Ollama
首先,您需要下载并安装Ollama。Ollama是一个用于本地运行大型语言模型的工具。
-
下载Ollama:点击下载
2. 下载DeepSeek R1越狱版模型
在安装完Ollama后,您可以通过命令行下载不同大小的DeepSeek R1越狱版模型。以下是下载不同模型的命令:
-
7B模型:
ollama run huihui_ai/deepseek-r1-abliterated:7b
-
8B模型:
ollama run huihui_ai/deepseek-r1-abliterated:8b
-
14B模型:
ollama run huihui_ai/deepseek-r1-abliterated:14b
-
32B模型:
ollama run huihui_ai/deepseek-r1-abliterated:32b
-
70B模型:
ollama run huihui_ai/deepseek-r1-abliterated:70b
3. 可视化安装
可参照以前的本地部署:https://www.arlulu.com/6629.html
4. 卸载模型
如果您需要卸载已安装的模型,可以使用以下命令:
ollama rm <模型名称>
例如,要卸载7B模型,您可以运行:
ollama rm huihui_ai/deepseek-r1-abliterated:7b
注意事项
-
硬件要求:运行较大的模型(如32B或70B)需要较高的硬件配置,尤其是GPU资源。请确保您的硬件能够支持所选模型的运行。
-
伦理与法律:无限制版本的模型可能会生成不受控制的内容,使用时请务必遵守当地法律和道德规范。
-
安全性:无限制版本的模型可能会生成有害或不适当的内容,使用时请谨慎。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
THE END
暂无评论内容