Created
Jun 20, 2024 08:50 AM
Favorite
Favorite
Priority
备注
推荐
🌟🌟🌟🌟
类型
Dify
大模型相关目录
大模型，包括部署微调prompt/Agent应用开发、知识库增强、数据库增强、知识图谱增强、自然语言处理、多模态等大模型应用开发内容从0起步，扬帆起航。- 大模型应用向开发路径：AI代理工作流
- 大模型应用开发实用开源项目汇总
- 大模型问答项目问答性能评估方法
- 大模型数据侧总结
- 大模型token等基本概念及参数和内存的关系
- 大模型应用开发-华为大模型生态规划
- 从零开始的LLaMA-Factory的指令增量微调
- 基于实体抽取-SMC-语义向量的大模型能力评估通用算法（附代码）
- 基于Langchain-chatchat的向量库构建及检索（附代码）
- 一文教你成为合格的Prompt工程师
- 最简明的大模型agent教程
- 批量使用API调用langchain-chatchat知识库能力
- langchin-chatchat部分开发笔记（持续更新）
- 文心一言、讯飞星火、GPT、通义千问等线上API调用示例
- 大模型RAG性能提升路径
- langchain的基本使用
- 结合基础模型的大模型多源信息应用开发
- COT：大模型的强化利器
- 多角色大模型问答性能提升策略（附代码）
- 大模型接入外部在线信息提升应用性能
- 从零开始的Dify大模型应用开发指南
- 基于dify开发的多模态大模型应用（附代码）
- 基于零一万物多模态大模型通过外接数据方案优化图像文字抽取系统
- 快速接入stable diffusion的文生图能力
- 多模态大模型通过外接数据方案实现电力智能巡检（设计方案）
- 大模型prompt实例：知识库信息质量校验模块
- 基于Dify的LLM-RAG多轮对话需求解决方案（附代码）
- Dify大模型开发技巧：约束大模型回答范围
文章目录
需求介绍
例如开发公司手册的知识专属大模型，如果不对大模型问答范围进行约束，一来该专属领域大模型应用的专属特征丢失了，二来对于无用问题，容易对模型资源造成浪费，如果存在一定信息存储和多轮对话功能，那么浪费将会更严重。
解决方案
Dify提供了
问题分类器模块可以对模型回答范围进行约束，但其使用上具有技巧。如下图所示：
该模块由于是单独的判别模块，因此需要关闭记忆，避免对后续问答功能产生信息串扰和记忆交叠。
该模块分类1、分类2…所在红框需进行设定，但仅设定此处模块
生效不明显/不生效。需点击高级设置，添加prompt，模块即可生效。图中案例效果明显。
需强调的是，如果新增一个独立的分体分类器模块，在问答时进行prompt进行和约束，例如：
该方法也可行，但效果不稳定、不够好。且在涉及多轮、外接知识库、外接AI检索信息的场景下，由于token过多，其效果进一步衰减。
因此建议新增独立的问题分类模块。