前言
前几天写了一篇关于【如何使用ai喂出一个网络安全工程师】的文章,具体看这里
今天对一些相关问题进行答疑以及模型推荐
答疑
本地离线可以用吗?
可以,只要下载了本地模型
2.什么配置可以用?
Windows系统中是需要单独的显卡支持的,如果你是亮机卡或者集成显卡,肯定是运行不了的。另外显卡差一点的可以尝试运行3b,好一点的运行8b的,再强悍一点的运行14b以上,不过毕竟我们为了是本地跑模型结合知识库,重点在于知识库,如果日常使用,还是建议运行14b以上的模型或者在线的产品。
模型推荐
再经过我的尝试下我留下了这几个模型,不只ollama的模型可以运行抱抱脸的模型同样可以运行
https://huggingface.co/models
qwen2.5-coder:14b
千问2.5的模型14亿的参数,对代码编写进行了优化
运行指令
ollama run qwen2.5-coder:14b
2.Gemma-2-9B-Chinese-Chat-Uncensored:Q8_0
Gemma-2,9亿参数,对中文进行了加强
3.yi-coder
yi-coder,对代码的问答进行了优化,我保留它的原因是国内外编程思维的差距
运行指令
ollama run yi-coder
4.wizard-math
7.24亿参数,模型侧重于数学和逻辑问题
运行指令
ollama run wizard-math
剩下的咱们可以留言区见,😁😁
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论,来说两句吧...