用Llama3零成本构建私有AI知识库

sunsili

用Llama3零成本构建私有AI知识库

今天的分享是关于如何零成本搭建一个私有的AI知识库，这个方案特别适用于那些面临大量产品知识需要记忆的销售人员。

我的一个朋友，一位中年转行到医疗器械公司的销售员，最近就和我聊到了这样的问题：产品种类繁多，技术参数复杂，要为客户推荐合适的产品，就需要有深厚的产品知识储备。这对于他来说是个挑战，因为除了要学习产品知识，还要面对领导的压力和业绩的挑战，这使得他的工作倍感压力。

于是我给他提出了一个建议：将产品说明和技术资料提供给AI，让AI来学习。这样，销售人员在推广产品时遇到问题，可以直接向AI咨询，或者让客户自己向AI提问，以了解他们适合哪种产品。这样的智能客服问答系统可以大大减轻基层销售人员的工作负担。

如果你也有类似的需求，那么接下来的方案可能会对你有所帮助。这个方案完全利用本地资源，不需要任何费用，并且可以轻松地嵌入到第三方平台，比如你自己公司的网站、微信小程序等等。

让我们先来看看这个知识库的效果。这里展示的是知识库中的一个产品说明截图为例，它包含了产品适用的病症的患病人群发病率数据。

现在，我将向AI提出一个问题，看看它如何回答。

看到了吗？AI不仅给出了答案，并指明了它是从哪个知识库中学习到这些信息的。

接下来，将向大家展示如何从零开始搭建这样一个系统。

这次使用的框架是MaxKB和Ollama分别提供前端UI和本地的免费大模型接口

安装Ollama

下载地址：https://ollama.com/download

下载之后双击安装即可。

然后打开CMD窗口输入命令：

1. ollama run llama3

复制代码

开始自动下载llama3模型

安装MaxKB

1. docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
   

复制代码

在命令行输入以上命令部署docker服务

成功之后在浏览器访问：127.0.0.1：8000

进入到登录页面后输入默认用户名密码：

# 用户名: admin# 密码: MaxKB@123..

首次登陆后需要修改密码，然后进入设置页面配置大模型参数

模型名称随便取一个，模型类型只有一个默认选项，基础模型填写ollama中实际下载的模型名称，API域名填写安装ollama主机的地址，本机就填写127.0.0.1:11434，api key随便填点什么，然后保存

模型配置完开始创建知识库

知识库类型分两种通用性可以手工录入信息和上传数据文档，web站点是提供一个网址，然后系统爬取网页上的文字信息。

这里我们需要上传文档，就选通用型。

填写基本信息后点击上传文档，然后导入系统

导入后系统会对文档内容进行只能分段，速度很快，但精准度可能不如手工分段，这根据自己的需求来选择，这里演示智能分段

点击右下角导入

现在就可以根据这个知识库创建一个智能助手了

填写基本信息

添加知识库

点击创建

进入设置界面

进入一个调试设置页面

对比一下原文档的内容：

很ok

接下来就可以将这个应用分发给业务人员作为产品知识助手，也可以把这个应用接入公司网站或者微信小程序直接面对客户用作AI客服

至此我们就拥有一个智能的AI知识库，它不仅能提高工作效率，还能提升客户服务质量。希望这个方案能对你有所帮助！