当前位置: 首页 > news >正文

关于Dify聊天对话名称无法自动生成的原因和解决方法

现状

每次创建一个新对话时,聊天对话名称都是new conversation,或者明明问的是中文,聊天对话名称却是英文

原因

因为dify默认是调用设置的系统模型来对问题进行总结输出,但如果你的默认模型是推理模型,由于存在<think>标签,导致代码用正则匹配不到文本,所以导致每一个都是new conversation

解决方法

(1)更改系统默认模型为非推理模型就可以了。

(2)如果你特别想用或者只能用推理模型作为系统模型也不是不可以,只需要在源码中修改正则匹配的逻辑就可以了

拓展

我更改为非推理模型后确实能够正常生成聊天对话名称了,但是还存在几个问题。

(1)我发现这个对话名称有时候会生成英文名称,但我提问的明明是中文。

(2)通过大模型生成的名称其实对于自己的使用来说并没有想象的方便,不如直接以第一个问题作为聊天名称来的方便。

关于第一个问题,一开始从源码入手,发现大模型对于生成对话名称也是有提示词的,并且提示词还是英文

于是我对提示词进行翻译,然后对docker中的文件进行修改,但是名称生成的效果也不是很好,最后才发现是设置的系统默认模型太拉跨,导致对于提示词的理解也不够,生成的不行,建议大家能够8B及以上的非推理模型作为系统默认模型。

解决完第一个问题后能够正常生成聊天名称了,可总觉得总结后的名称看起来怪怪的,不如直接以第一个问题作为对话名称,于是我对题目生成的函数进行修改,并且也减少了对大模型资源的消耗

经过上面的步骤,你就可以自定义你想要对话名称了,是不是非常简单!

http://www.lqws.cn/news/132571.html

相关文章:

  • 区块链跨链通信:使用 Cosmos SDK 实现链间互操作
  • Modbus转EtherNET IP网关开启节能改造新范式
  • Mermaid 绘图--以企业权限视图为例
  • Cursor 工具项目构建指南: Web Vue-Element UI 环境下的 Prompt Rules 约束(new Vue 方式)
  • 如何在mac上安装podman
  • 核心线程池大小如何设置?
  • 基于LangChain构建高效RAG问答系统:向量检索与LLM集成实战
  • 实践篇:利用ragas在自己RAG上实现LLM评估②
  • 性能剖析:在 ABP 框架中集成 MiniProfiler 实现性能可视化诊断
  • 【vibe coding解决100个问题】开发CRM管理系统, Augment/windsurf/bolt.new哪家强?
  • 【论文写作】如何撰写基于模型拼接(A+B)的创新性论文
  • 论文导读 | 动态图存储与事务处理系统总结
  • 华为VanillaNet遇上BiFPN:YOLOv8的性能突破之旅
  • Ubuntu更新国内源
  • CATIA-CAD 拆图
  • 153页PPT麦肯锡咨询流程管理及企业五年发展布局构想与路径规划
  • DAY43 复习日
  • 解决docker运行zentao 报错:ln: failed to create symbolic link ‘/opt/zbox/tmp/mysq
  • Webpack性能优化:构建速度与体积优化策略
  • 如何用AI高效运营1000+Tiktok矩阵账号
  • 防止网站被iframe嵌套的安全防护指南
  • 红外测温传感器:为母婴类产品精准测温保驾护航
  • 大模型相关技术综述
  • Day12
  • TMS320C55xx——AIC23B的进阶使用_中断与DMA+中断
  • [网页五子棋][匹配模块]实现胜负判定,处理玩家掉线
  • 前端面试二之运算符与表达式
  • 十六、【前端强化篇】完善 TestCase 编辑器:支持 API 结构化定义与断言配置
  • <el-table>构建树形结构
  • nest实现前端图形校验