如何使用DeepSeekV3搭建个人AI知识库,小白快速上手

AI教程 01月02日
406

文章提供了快速搭建个人AI知识库的方案,通过结合 AnythingLLM 和 DeepSeek V3,用户可以高效地管理自己的知识库,通过AI进行智能检索和问答。文章详细介绍了安装、配置、上传文档和知识检索的具体步骤,适合新手快速上手。

站长推荐:DeepSeek服务器繁忙怎么解决?16个免费R1满血版平替

为什么需要私人AI知识库?

传统的大型语言模型(LLM)在回答问题时可能会出现答非所问、套话连篇等问题,导致信息检索效率低下。私有知识库在AI时代,私有知识库结合优秀的LLM,可以显著提升知识检索和归纳的效率。可以用于企业内部知识管理,适用于个人知识库的搭建。

个人AI知识库的搭建方案

使用 AnythingLLM + DeepSeekV3 是简单且知识检索效果不错的方案
  • AnythingLLM:开源免费的知识库管理前端工具,支持上传知识、向量化数据、检索增强(RAG)等服务。
  • DeepSeekV3:(简称DS)幻方量化推出的大模型,性能与Claude 3.5相当,Token价格较低,本次方案使用DS作为推理模型。

1. 安装AnythingLLM

  • 下载与安装
    • 下载地址:访问AnythingLLM的官方网站,支持Windows、macOS和Linux系统。
    • 打开软件后,需要先设置LLM(语言模型)。
  • 设置LLM
    • 选择 DeepSeek 作为LLM提供商。
    • 模型选择 chat(即DeepSeek V3模型)。
    • 获取API Key:需要在DeepSeek官网注册账号并充值少量费用。
DeepSeekV3搭建个人知识库
  • 基础配置
    • 在左下角的设置按钮中可以进行基础配置,如LLM、嵌入模型、向量数据库等。
    • 新手建议保持默认设置。
    • 嵌入模型(Embedding):建议使用 bge-m3,它对多语言和长文本支持较好,但需要本地运行Ollama加载。新手可以跳过这一步。

2. 上传文档

  • 上传方式
    • 点击工作空间的上传按钮,支持上传PDF、CSV、音频文件,或者抓取网页内容。
    • 上传后,右键点击文件并选择“加入工作空间”即可。
DeepSeekV3搭建个人知识库
  • 扩展功能
    • DataConnector 中,可以获取YouTube视频(需要有字幕)、Confluence文档库等平台的数据。
DeepSeekV3搭建个人知识库

3. 知识检索问答

  • 开启对话
    • 在工作区点击 New Thread 开启新的对话。
    • 提问后,AI会根据知识库中的内容进行回答。
DeepSeekV3搭建个人知识库
  • 查看引用来源
    • 如果想确认AI回答的知识来源,可以在回答底部点击 Show Citations 查看引用的知识。
DeepSeekV3搭建个人知识库
  • 实时搜索功能
    • AnythingLLM的新版本支持Agent模式,可以接入Google、Bing等搜索引擎,实现实时搜索,增加知识检索的时效性。

相关文章