准备工作

公众号：知攻善防实验室

电脑：配置尽量高一点

系统：Windows/Linux/MacOS

软件：docker，docker-compose，git

其中，请自行解决网络问题

开始实验

安装dify

➜  ai git clone https://github.com/langgenius/dify.git
Cloning into 'dify'...remote: Enumerating objects: 128041, done.remote: Counting objects: 100% (14005/14005), done.remote: Compressing objects: 100% (1213/1213), done.remote: Total 128041 (delta 13356), reused 12817 (delta 12787), pack-reused 114036 (from 2)Receiving objects: 100% (128041/128041), 66.00 MiB | 12.14 MiB/s, done.Resolving deltas: 100% (94493/94493), done.➜  ai

然后直接执行

cd difycd dockercp .env.example .envdocker-compose up -d

这里注意，如果你是macOS用户，可能会报错，只需要安装一下brew install docker-credential-helper即可

运行完成后打开浏览器

Windows和macOS用户在你的docker desktop里面应该是这样的

如果你是Linux用户，应该是这样的

初始化一下

然后我们需要去安装Ollama，官网地址

https://ollama.com/

安装完ollama后去找适合的模型下载

https://ollama.com/search

下列我举例一下网友比较推荐的模型

yi  Yi 1.5 是一个高性能的双语语言模型。  参数大小：6b9b34b  更新时间：7个月前  适合编程的双语（中文和英文）模型。  yi-coder
  Yi-Coder 是一系列开源代码语言模型，提供少于100亿参数的最先进的编码性能。  参数大小：1.5b9b  更新时间：3个月前  适合编程的双语模型。
qwen
  Qwen 1.5 是由阿里云提供的一系列大型语言模型，参数从0.5B到110B不等。  参数大小：0.5b1.8b4b7b14b32b72b110b  更新时间：8个月前  阿里云提供的模型，可能包含对中文的支持。    qwen2
  Qwen2 是阿里集团提供的一系列大型语言模型。  参数大小：tools0.5b1.5b7b72b  更新时间：3个月前  同样可能包含对中文的支持。  llama2-chinese
Llama 2 基于模型，针对提高中文对话能力进行了微调。参数大小：7b13b更新时间：14个月前专门针对中文对话进行了优化的模型。

这里的几b是代表着多少亿的参数，个人笔记本建议选择10b以内，不然参数太多了可能会很慢。

这里我以yi-coder为例子

终端运行

ollama run yi-coder

➜  ai ollama run yi-coderpulling manifestpulling 8169bd33ad13... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏ 5.0 GBpulling afc128547699... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏  527 Bpulling 43070e2d4e53... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏  11 KBpulling 3dc12ee097e8... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏  135 Bpulling a60ed831ae4c... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏  485 Bverifying sha256 digestwriting manifestsuccess>>> 你好Hi, how can I assist you? Please provide more specific information about your request.

然后配置模型

这里URL填写http://host.docker.internal:11434(因为dify是安装在docker里面的，但是ollama是安装在本机的，所以需要让docker访问ollama的api)

点击保存，右上角会提示修改成功

然后回去创建空白应用

右上角选择yi-code，然后给他提示词就可以了

然后上方点击知识库进行知识库配置

我这边上传的小迪安全的笔记

可见，迪总对整个安全行业的贡献有多大🥵

点击下一步

保存并处理

这样就可以了

导入文本，或者其他设置，自己可以看看，很简约的。

然后回到刚才的聊天机器人，添加知识库

这样，你就拥有了一个网络安全知识库，只要你喂的材料越多，就越好使用

这是我的提示词

​​​​​​​- 网络安全工程师- 所有回答都要使用中文- 全栈开发工程师- 所有回答都要使用中文- 所有回答都要使用中文- 所有回答都要使用中文- 所有回答都要使用中文- 所有回答都要使用中文

另外，你可以酌情添加，尽情享用吧～