准备工作
电脑:配置尽量高一点
系统:Windows/Linux/MacOS
软件:docker,docker-compose,git
其中,请自行解决网络问题
开始实验
安装dify
➜ ai git clone https://github.com/langgenius/dify.git
Cloning into 'dify'...
remote: Enumerating objects: 128041, done.
remote: Counting objects: 100% (14005/14005), done.
remote: Compressing objects: 100% (1213/1213), done.
remote: Total 128041 (delta 13356), reused 12817 (delta 12787), pack-reused 114036 (from 2)
Receiving objects: 100% (128041/128041), 66.00 MiB | 12.14 MiB/s, done.
Resolving deltas: 100% (94493/94493), done.
➜ ai
然后直接执行
cd dify
cd docker
cp .env.example .env
docker-compose up -d
这里注意,如果你是macOS用户,可能会报错,只需要安装一下brew install docker-credential-helper即可
运行完成后打开浏览器
Windows和macOS用户在你的docker desktop里面应该是这样的
如果你是Linux用户,应该是这样的
初始化一下
然后我们需要去安装Ollama,官网地址
https://ollama.com/
安装完ollama后去找适合的模型下载
https://ollama.com/search
下列我举例一下网友比较推荐的模型
yi
Yi 1.5 是一个高性能的双语语言模型。
参数大小:6b9b34b
更新时间:7个月前
适合编程的双语(中文和英文)模型。
yi-coder
Yi-Coder 是一系列开源代码语言模型,提供少于100亿参数的最先进的编码性能。
参数大小:1.5b9b
更新时间:3个月前
适合编程的双语模型。
qwen
Qwen 1.5 是由阿里云提供的一系列大型语言模型,参数从0.5B到110B不等。
参数大小:0.5b1.8b4b7b14b32b72b110b
更新时间:8个月前
阿里云提供的模型,可能包含对中文的支持。
qwen2
Qwen2 是阿里集团提供的一系列大型语言模型。
参数大小:tools0.5b1.5b7b72b
更新时间:3个月前
同样可能包含对中文的支持。
llama2-chinese
Llama 2 基于模型,针对提高中文对话能力进行了微调。
参数大小:7b13b
更新时间:14个月前
专门针对中文对话进行了优化的模型。
这里的几b是代表着多少亿的参数,个人笔记本建议选择10b以内,不然参数太多了可能会很慢。
这里我以yi-coder为例子
终端运行
ollama run yi-coder
ai ollama run yi-coder
pulling manifest
pulling 8169bd33ad13... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏ 5.0 GB
pulling afc128547699... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏ 527 B
pulling 43070e2d4e53... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏ 11 KB
pulling 3dc12ee097e8... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏ 135 B
pulling a60ed831ae4c... 100% ▕██████████████████████████████████████████████████████████████████████████████████████▏ 485 B
verifying sha256 digest
writing manifest
success
你好
how can I assist you? Please provide more specific information about your request.
然后配置模型
这里URL填写http://host.docker.internal:11434(因为dify是安装在docker里面的,但是ollama是安装在本机的,所以需要让docker访问ollama的api)
点击保存,右上角会提示修改成功
然后回去创建空白应用
右上角选择yi-code,然后给他提示词就可以了
然后上方点击知识库进行知识库配置
我这边上传的小迪安全的笔记
可见,迪总对整个安全行业的贡献有多大🥵
点击下一步
保存并处理
这样就可以了
导入文本,或者其他设置,自己可以看看,很简约的。
然后回到刚才的聊天机器人,添加知识库
这样,你就拥有了一个网络安全知识库,只要你喂的材料越多,就越好使用
这是我的提示词
- 网络安全工程师
- 所有回答都要使用中文
- 全栈开发工程师
- 所有回答都要使用中文
- 所有回答都要使用中文
- 所有回答都要使用中文
- 所有回答都要使用中文
- 所有回答都要使用中文
另外,你可以酌情添加,尽情享用吧~
另外大家可以再评论区留言讨论哪个模型好用,以及各种提示词。
后台回复“交流群”获取技术交流群链接
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论,来说两句吧...