本地安装Deepseek太简单了,用不了5分钟。人人都可以安装

为了深入了解DS,对各大AI公司的可能的影响,决定是否需要做投资上的调节。这几天在本地计算机上(苹果MacBook Pro 和Windows11),安装亲测了Deepseek r1:70b 开源大模型。发现安装起来,极其简单,就两步骤,不到5分钟搞定。

1)下载安装开源的 ollama:  https://ollama.com/

2) 在ollama里输入:ollama run deepseek-r1:70b

ollama 就会自动下载被指定的大模型,并自动进入DS, 可以开始提问题了

Ollama上还有许多其它开源大模型,例如META的llama3.3 等等。也是一条指令: "ollama run llama3.3",就可以安装+运行, 太方便了。

DS  使人人都可以在自己本地的计算机上,运行相当不错的AI大模型。将来还会有更好的模型,AI大大普及化。这对AI应用公司,像AAPL,AMZN,CRM,META等的发展前景,是一个巨大的利好。

 

 

 

所有跟帖: 

本地安装能用API吗? -Wakeland- 给 Wakeland 发送悄悄话 (0 bytes) () 01/28/2025 postreply 15:57:00

看谁调用API了,就编程工具而言,cursor调用不了API, Roo-cline行。 -亚特兰蒂斯- 给 亚特兰蒂斯 发送悄悄话 亚特兰蒂斯 的博客首页 (0 bytes) () 01/28/2025 postreply 16:41:57

安装一个webUI,用起来更爽,https://chromewebstore.google.com/detail/pag -亚特兰蒂斯- 给 亚特兰蒂斯 发送悄悄话 亚特兰蒂斯 的博客首页 (0 bytes) () 01/28/2025 postreply 16:00:54

你贴的链接被截断了。是这个吧? -gyarados- 给 gyarados 发送悄悄话 (107 bytes) () 01/28/2025 postreply 20:04:19

你觉得个人数据安全吗?我用他们的网站就够了。 -parentb- 给 parentb 发送悄悄话 parentb 的博客首页 (0 bytes) () 01/28/2025 postreply 16:11:45

我会尽量不用网上的大模型,不止是DS,也包括OpenAI等等,因为它们会收集你的问题, -未知- 给 未知 发送悄悄话 未知 的博客首页 (242 bytes) () 01/28/2025 postreply 16:32:16

本地安装不是也有同样问题!?至少网站无法收集本地的文件。 -parentb- 给 parentb 发送悄悄话 parentb 的博客首页 (0 bytes) () 01/28/2025 postreply 16:38:58

怎么可能?本地安装根本不联网 -未知- 给 未知 发送悄悄话 未知 的博客首页 (100 bytes) () 01/28/2025 postreply 16:49:05

本地安装应该是很安全的。 实际上runtime是Ollama -CatcherInTheRye- 给 CatcherInTheRye 发送悄悄话 (0 bytes) () 01/28/2025 postreply 16:34:37

本地安装Ollama我也会有这个安全性的顾虑。 -parentb- 给 parentb 发送悄悄话 parentb 的博客首页 (0 bytes) () 01/28/2025 postreply 16:40:22

ollama 是开源的,用户很多,安全上应该没有问题。 -未知- 给 未知 发送悄悄话 未知 的博客首页 (0 bytes) () 01/29/2025 postreply 23:34:41

个人使用,还是上网方便。本地模型提供了定制化的可能,永远免费,如果够用的话。 -亚特兰蒂斯- 给 亚特兰蒂斯 发送悄悄话 亚特兰蒂斯 的博客首页 (0 bytes) () 01/28/2025 postreply 16:40:42

70B太大了,我的4080的机器32b的跑起来都嫌慢,14b的才差不多 -gyarados- 给 gyarados 发送悄悄话 (0 bytes) () 01/28/2025 postreply 19:54:45

只就是苹果计算机的优势了,Unified Memory?构建CPU&GPU共享RAM,可以跑大模型 -未知- 给 未知 发送悄悄话 未知 的博客首页 (88 bytes) () 01/28/2025 postreply 20:35:43

你的ram多大?我8G的ram,低配版M2,只能跑7b版。加个UI每次问问题它思考我都不能干别的事。 -largesammy- 给 largesammy 发送悄悄话 (0 bytes) () 01/29/2025 postreply 18:39:44

M2跑大模型有的吃力,试试1.5b版 -未知- 给 未知 发送悄悄话 未知 的博客首页 (81 bytes) () 01/29/2025 postreply 23:46:03

请问Mac 和 Windows 电脑是什么配置,内存 GPU等等? -paterman- 给 paterman 发送悄悄话 (0 bytes) () 01/29/2025 postreply 12:33:01

本地安装的能做网络搜索及Retrieval Augmented Generation吗? -大观园的贾探春- 给 大观园的贾探春 发送悄悄话 大观园的贾探春 的博客首页 (0 bytes) () 01/29/2025 postreply 12:51:37

可以,但需要再加安开源的AnythingLLM -未知- 给 未知 发送悄悄话 未知 的博客首页 (284 bytes) () 01/29/2025 postreply 23:33:18

请教各位大侠,我安装成功了,但是电脑重启后在DOS上面的目录名忘了。应该是什么?感谢!好像C: WINDWOS3.2 -zhang1988h- 给 zhang1988h 发送悄悄话 (68 bytes) () 02/07/2025 postreply 18:16:29

请您先登陆,再发跟帖!