《家庭财务宝典》

硬核教程!手把手教你在本地跑 DeepSeek-R1,零门槛上手!

3次阅读

共计 2797 个字符,预计需要花费 7 分钟才能阅读完成。

硬核教程!手把手教你在本地跑 DeepSeek-R1,零门槛上手!插图

在 AI 发展浪潮中,逻辑推理能力正成为衡量智能水平的重要标准。而 DeepSeek-R1 作为一款由中国 AI 公司 DeepSeek 开发的 开源推理模型 ,正引领这一领域的新变革。 它不仅能解决复杂的数学问题,还能执行实时决策,为 AI 在实际应用中的落地提供了更多可能性。

在本教程中,我将手把手带你完成 DeepSeek-R1 在本地的运行流程,并详细讲解如何使用 Ollama 进行环境配置。

硬核教程!手把手教你在本地跑 DeepSeek-R1,零门槛上手!插图1

此外,我们还将探索如何结合 R1 模型、LangChain 和 Gradio,从零搭建一个轻量级的 RAG 应用 ,让你的笔记本电脑秒变智能问答助手! 无论你是刚接触 RAG 还是想要在本地体验最新的大模型技术,这篇教程都将为你提供清晰易懂的实践指南。

在本地运行 DeepSeek-R1 带来了诸多优势,尤其是对于希望享有更多控制权的用户。以下是一些显著的好处:

  • 隐私和安全:所有数据都保留在您的系统内,无需担心数据外泄。

  • 不间断访问:避免了因速率限制、停机或服务中断而带来的使用困扰。

  • 性能:通过本地推理,您可以获得更快的响应速度,避免了 API 延迟带来的影响。

  • 自定义:您可以根据需求修改参数、微调提示,甚至将模型整合到本地应用中,提升灵活性。

  • 成本效益:在本地运行模型无需支付 API 费用,节省了开销。

  • 离线可用性:一旦下载模型,即可在没有互联网连接的情况下继续工作,确保随时随地可用。

     

Ollama 是一个开源平台,旨在简化和加速本地 AI 模型的部署和管理。它提供了一个简单的界面,使开发者能够轻松地在本地运行和配置多个 AI 模型,尤其适用于大语言模型(LLMs)。

硬核教程!手把手教你在本地跑 DeepSeek-R1,零门槛上手!插图2

Ollama 支持快速启动模型,并优化推理性能,允许用户在不依赖外部服务器的情况下进行高效的 AI 操作。它为开发者提供了灵活的环境,可以方便地进行模型集成、定制和性能调优。

下载完成后,您可以像安装任何其他应用程序一样,安装 Ollama 应用程序。安装成功后,接下来我们需要测试环境设置并下载模型。请按照以下步骤操作:

  •  
ollama run deepseek-r1

此命令将启动 DeepSeek-R1 模型的下载过程,并在本地环境中运行它。完成后,您就可以开始与模型进行交互,测试其性能和功能。

Ollama 提供一系列 DeepSeek R1 模型,从 1.5B 参数到完整的 671B 参数模型。671B 模型是原始的 DeepSeek-R1,而较小的模型是基于 Qwen 和 Llama 架构的提炼版本。

如果您的硬件不支持 671B 型号,您可以使用以下命令并将下面的 X 替换为您想要的参数大小(1.5b、7b、8b、14b、32b、70b、671b),轻松运行较小的版本:

  •  
ollama run deepseek-r1:Xb

为了让 DeepSeek-R1 持续运行并通过 API 提供服务,您需要启动 Ollama 服务器。在终端中执行以下命令:

  •  
ollama serve

该命令将启动 Ollama 服务器,使 DeepSeek-R1 在后台持续运行,并通过 API 提供访问。完成后,您就可以通过 API 调用与模型进行交互了。

下载并安装 DeepSeek-R1 模型后,您可以直接在终端中与模型进行交互。只需启动终端,并运行以下命令:

  •  
ollama chat DeepSeek-R1

这将启动一个交互式会话,您可以直接向 DeepSeek-R1 提出问题或请求,模型会实时返回答案或响应。您无需依赖外部服务,完全在本地进行交互,享受更快的响应速度和更高的控制性。

硬核教程!手把手教你在本地跑 DeepSeek-R1,零门槛上手!

要将 DeepSeek-R1 集成到您的应用程序中,您可以使用 curl 通过 Ollama API 与模型进行交互。以下是如何使用 curl 调用 Ollama API 并与 DeepSeek-R1 进行集成的示例:

  •  
  •  
  •  
  •  
  •  
curl http://localhost:11434/api/chat -d '{  "model": "deepseek-r1",  "messages": [{"role": "user", "content": "Solve: 25 * 25" }],  "stream": false}'

在这个命令中:

  • localhost:11434 是本地 Ollama 服务器的默认地址和端口。

  • "model": "DeepSeek-R1" 指定了您希望使用的模型。

  • "question": "Your question here" 是您希望模型回答的问题,您可以根据需求替换为实际的问题内容。

     

通过这种方式,您可以将 DeepSeek-R1 集成到任何支持 HTTP 请求的应用程序中。

curl 是 Linux 原生的命令行工具,但也适用于 macOS。它允许用户直接从终端发出 HTTP 请求,使其成为与 API 交互的绝佳工具。

硬核教程!手把手教你在本地跑 DeepSeek-R1,零门槛上手!

我们可以在选择的任何集成开发环境(IDE)中运行 Ollama。您可以使用以下代码安装 Ollama Python 包:

  •  
!pip install ollama

安装 Ollama 后,使用以下脚本与模型交互:

  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
import ollamaresponse = ollama.chat(    model="deepseek-r1",    messages=[        {"role": "user", "content": "Explain Newton's second law of motion"},    ],)print(response["message"]["content"])

ollama.chat() 函数获取模型名称和用户提示,并将其作为对话交换进行处理。然后,该脚本提取并打印模型的响应。

硬核教程!手把手教你在本地跑 DeepSeek-R1,零门槛上手!

使用 Ollama 在本地运行 DeepSeek-R1 可以实现更快、更私有且经济高效的模型推理。通过简单的安装过程、CLI 交互、API 支持和 Python 集成,您可以将 DeepSeek-R1 用于各种 AI 应用程序,从一般查询到基于检索的复杂任务。

接着分享 一个重磅新闻!ai.com域名 作为一个具有 30 年历史的顶级域名,一直是人工智能领域的一个标志性地址。过去,这个域名经历了多次易主,每次都吸引了大量关注。

而如今,这个域名的重定向到 DeepSeek 官网,标志着它在人工智能领域的最新演变。

硬核教程!手把手教你在本地跑 DeepSeek-R1,零门槛上手!插图3

ai.com 作为一个具有巨大潜力的域名,在 ChatGPT 爆火后被 OpenAI 以至少 1100 万美元的价格收购,成为历史上最贵的域名之一,这无疑凸显了人工智能行业的商业价值。

如今,它的重定向转移到 DeepSeek 官网,更是给人一种新旧交替、技术迭代的强烈感觉。这个域名背后的商业故事以及它的潜在价值,绝对是值得关注和讨论的焦点!

 

你的工作,由 AI 赋能!🔥

还在为文案、脚本卡壳、做视频、写代码、设计图片灵感枯竭而烦恼吗?🤯

板板 AI,你的工作好帮手!

一键生成    各种文案、脚本、图片、视频、代码、报告,轻松应对各种工作 / 营销需求!

现在注册体验,即可获得:

  • 🎁 30 积分基础模型余额
  • 🎁 3 积分高级模型余额
  • 🎁 3 积分绘画余额

还不快来试试?

点击链接,开启你的 AI 创作之旅!>>>https://www.banbanai.cn

板板 AI,让你的工作效果发挥无限可能! 🚀

正文完
关注板板AI免费获得移动AI助手
post-qrcode
 
天天
版权声明:本站原创文章,由 天天 2025-02-21发表,共计2797字。
转载说明:

本文由 天天资讯网 整理发布,转载请注明出处.
版权声明:部分文章内容或图片来源于网络,我们尊重作者的知识产权。如有侵犯,请联系我们在第一时间删除。

文字广告位10/月 文字广告位10/月 文字广告位10/月 文字广告位10/月 文字广告位10/月
文字广告位10/月 文字广告位10/月 文字广告位10/月 文字广告位10/月 文字广告位10/月
文字广告位10/月 文字广告位10/月 文字广告位10/月 文字广告位10/月 文字广告位10/月
文字广告位10/月 文字广告位10/月 文字广告位10/月 文字广告位10/月 文字广告位10/月
文字广告位10/月 文字广告位10/月 文字广告位10/月 文字广告位10/月 文字广告位10/月

温馨提示:请在上面搜索| 查找更多免费资源,如需广告位请联系站长QQ 48704478

《家庭财务宝典》