基于Dify,实现 在线 Fine-tuning

来安利一波 dify,没有收费.. ??

背景:

众所周知 Gpt3.5 等训练的数据截止到2021年,但是如Open Api 也提供了Embeddings能力,实现一定的 Fine-tuning,其中Embeddings介绍,可以参考我之前的转译文档:OpenApi 接口使用说明 (二)

这里介绍一下 dify 平台,提供了 LLMOps 能力,让基于ChatGpt 等能力的 WebApp 更加容易被创建出来(尤其是非程序员),并完成开发、部署、维护等一系列流程,实现个人专属App。

接下来尝试两个实验,来一起感受下 云 Fine-tuning。

三国大师App

目标:

实现一个三国大师App,并 Fine-tuning 三国演义,让其更专业的回答三国相关的问题。

现状:

image

image

可以看到上图是使用 ChatHub 进行问答,基于chatGpt3.5 模型,但是其回答的过于大众化,笼统些,且模棱两可,不够专业。

改进:

这里我下载了 三国演义全本的电子版,并在 dify 平台上,通过在数据集中上传对应 三国演义的txt 文本,并在对应新建的APP-三国大师中的 提示词编排 的上下文中,选择对应的 物料,之后点击 发布即可。

image

image

效果对比:

普通的ChatGpt 三国大师
imageimage image

可以发现经过 fine-tuning 后的 三国大师:

  1. 回答的更加准确,专业。

  2. 能够将三国演义的 具体细节 展示出来,甚至是章节。

如需体验,可以使用我的 WebApp: udify.app/chat/u4u8Id…

姜小妹传记App

目标:

虚拟一个姜小妹人物传记,并让ChatGpt 回答姜小妹人生经验相关的问题。

现状:

如果网上没有重名的且在2021年前有对应的新闻等介绍,ChatGpt 是不知道她是谁的,就像如下图:

image

Fine-tuning

这里我提供了一个姜小妹传记(内容是ChatGpt生成的,如有雷同纯属巧合),并将该传记txt 上传至 dify 的数据集中,传记内容如下:


姜小妹,出生于山东省济南市,家境贫寒。为了减轻家庭经济负担,她在毕业后成为了一名卡车司机,辛勤工作了10年。虽然工作辛苦,但姜小妹一直敬业认真,得到了客户和同事的信任和赞誉。

由于对厨艺的激情,姜小妹将部分工资用于学习烹饪技术,在业余时间里作为一名厨师兼职。渐渐地,她成为了一名备受欢迎的私人厨师,为众多高端餐厅和富豪家庭服务。

2015年,一次偶然的机会,姜小妹开始关注股市,投入大量的时间和精力进行研究和分析。2017年,她成功地用短线交易赚到了100万元人民币,成为了一名成功的股民。

从此,姜小妹决定放弃厨师的职业,开始进军房地产业。她深入研究市场趋势,努力寻找机会,最终成功创建了自己的房地产公司。多年的辛勤努力和坚持不懈的追求,让姜小妹的公司成为了一家有影响力的企业,并连续多年入选中国房地产百强企业榜单。在鼓舞人心和激励下,姜小妹珍视过去的历程,也期待未来的发展。

效果展示:

image

这里可以看到:

  1. Ai 知道了自己叫什么名字。

  2. Ai 知道了自己的经历,并基于该经历 并分享了一些经验。

其他:

Dify 帮助手册:docs.dify.ai/getting-sta…

Github 开源地址:github.com/langgenius

© 版权声明
THE END
喜欢就支持一下吧
点赞0

Warning: mysqli_query(): (HY000/3): Error writing file '/tmp/MYDV5XC6' (Errcode: 28 - No space left on device) in /www/wwwroot/583.cn/wp-includes/class-wpdb.php on line 2345
admin的头像-五八三
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

图形验证码
取消
昵称代码图片