dify可以调本地部署的大模型,纯离线可以的。就看本地的配置,能装多大参数的了。 实测只能运行7b的,16g显存应该没问题啊,我用的lm studio。 如果离网怕敏感数据的话,搞个二手的2080ti试试看。
回答于 2025-03-07 18:02
最好把这些整合成一个文档,用RAGflow,然后选择知识图谱模式,实体要写好系统名字。这样就能分出来了。 如果再想高级一点,根据公司oa不同身份去区分,就得做二次开发了。 用dify编排工作流,在用户交互时选择功能进行问题分类,间接隔离知识库,我觉得可以。但如果用户也不知道应该选哪个系统,就很麻烦。
回答于 2025-03-07 18:00
如果纯知识库,是RAGflow更好用。对于知识库的场景,有索引和语意两个维度,对应众多文件。 至于外接嘛?这是和 dify 一样的工具
回答于 2025-03-07 17:57
如果已经是一些行业共识的知识,大概率不用单独给rag,您试试用提示词直接输出试试。
回答于 2025-03-07 17:55
16g内存。如果本地部署大模型至少16g显存,如果windows必须英伟达,如果可以ubuntu可以amd显卡。硬盘至少100g,看知识库要存多少文件。 加上国补,1万以内拿下,13和14代英特尔桌面版不要买,缩缸。 比如ubuntu服务器
回答于 2025-03-07 17:54
打开【设置】-【蜂窝网络】-【下拉找到设置】-【无线局域网与蜂窝数据】 如果仍然无法解决问题,可以在【设置】—【通用】—【还原】中尝试还原网络设置(此操作会让所有保存的Wi-Fi密码都消失,需要重新连接),再重新连接Wi-Fi看看。 也可以尝试重启设备之后再看看是否能够正常登录或退出。
回答于 2025-03-07 17:49