ITPub博客

首页 > 数据库 > 数据库开发技术 > 手把手DeepSeek本地部署教程,十分钟学会!

手把手DeepSeek本地部署教程,十分钟学会!

原创 数据库开发技术 作者:晓棠AI视界 时间:2025-02-07 22:55:44 0 删除 编辑


新生力量DeepSeek,震惊世界

DeepSeek的v3和R1模型相继发布之后,以迅雷不及掩耳之势响彻了大江南北,但人怕出名猪怕壮,随着名声四起,流量蜂拥而入,让DeepSeek官网都顶不住压力。

好在,DeepSeek还提供了开源模型,咱们可以直接本地部署,这样就能够离线使用,不惧官网卡顿。

话不多说,开整!

第一步,下载ollma。


首先,请出重头戏ollma,它是什么呢?

一句话概括,它就是一个大模型管理以及调用工具。

现在市面上有很多公司发布的开源大模型,比如阿里幻方量化等等。

这么多家的大模型,如果每个都自己去适配的话就很麻烦,所以就会有大模型管理工具,把各个厂家的大模型做好适配,统一进行管理调用。

那ollma就是这样一个工具,这样作为我们使用方来说,就只需要使用ollma就能快速接入使用各大厂家的开源大模型。

今天的主角DeepSeek,就是用ollma来实现本地化部署!

咱们先去官网下载ollma。


这里有Windows、Linux和Mac三个版本,根据自己的系统版本选择一个对应的安装就可以了。

我是Mac系统,就下载Mac系统版本,也用Mac系统来演示。


等下载完成后,双击安装,等待完成即可。

第二步,部署deepseek-r1模型

下载安装好ollma以后,直接去它官网,找到对应的模型。


这里有7个不同参数的模型,数字越大,要求的性能就越高。


正常来说,咱们个人本地化部署,用7B就够了,当然如果你的电脑配置足够高,可以尝试更大参数的模型,回答的效果会更好!

复制安装命令,Mac系统打开终端窗口,Windows系统打开命令行窗口执行命令。


然后,就等着它去执行安装。


等进度走完,ollma会自动执行模型的部署。

当看到success的字样就代表部署成功,这时就可以开始和DeepSeek对话了。

使用


先来问问他是谁,看到“由中国深度求索公司开发”这几个字,那是相当的敞亮和自豪,在大模型市场上,咱们也不落下风嘛!


再来问问他会干什么,嗯不错这个回答很AI,和其他大模型回答也差不多。


最后再来问问他喜欢什么,看起来他没有什么爱好,只是一个冷冰冰的AI助手。

进阶


当然了,总是在命令行执行总是有点不够方便,那这个时候就引入另外一个工具Anything,就可以实现像DeepSeek官方网站一样的对话了。



还是那三个问题,这次的回答就变成了对话的形式,是不是感觉非常棒呢?

结语

DeepSeek本地化部署,相当的快捷方便,有了本地化,再也不怕卡顿和数据泄露了!

本地部署,无拘无束,赶快去试试!

部署成功的小伙伴,别忘记下方给个赞赏,写教程不容易!

关注并回复本地部署,我会分享给你deepseek本地部署完整教程!



原文作者:晓棠AI视界;如有侵权,请联系管理员删除。

请登录后发表评论 登录
全部评论

注册时间:2019-03-25

  • 博文量
    59
  • 访问量
    32320