你是不是总感觉每天自己的时间不够用,总是陷入在重复性的工作和流程里。那么恭喜你只要看完这个视频教程,就可以用ai来搭建自己的工作流,完成各种复杂任务啦。作为一名经常研究a i的工程师,最近我参考了国内外很多大神的视频,结合我自己半年多对defy的深度使用和实践,录制了一个保姆级的defi使用教程,在这里免费分享给大家。只需要看完这个视频,你就能了解如何用d f a a i搭建工作流,让ai帮助你打工,秒变成你的得力助手,甚至助力业务高速增长。温馨提示,本教程比较硬核和干货,适合有一定编程基础的工程师同学学习。欢迎大家先一键长按点赞三连,然后再看。
做过a i agent开发的同学都知道,要将一个能够执行复杂的长期任务的a i应用落地,是需要非常强的工程能力的。defy一个为快速增长而设计的开箱即用的a i应用开发平台,几乎满足任意工作流编排型的agents开发需求。它内置了强大的编排框架与丰富的应用模板,让开发者可以把复杂的a i应用开发过程变得像搭乐高积木一样简单便捷。此外d f i还提供了boss解决方案,后端即服务,可轻易将agents集成到其他系统中。对于期望快速开发复杂且瑞星变化的a i应用的开发者来说,一五堪称神器。它让开发者可以专注于产品的创意和设计,而不被繁琐的agents工程开发绊住脚步。
通过github或google账号登录defi官网,即可体验d五三box版本的全部功能。它甚至帮我们配好了open a i与anthropic的大多数的模型。如果需要深度嵌入企业内部系统和业务流程中,也可以通过开源的社区版本进行私有化部署。我们以docker compose部署来演示部署环境,最好满足这里的要求。如下是部署的具体步骤。这里我先登录到google云的虚拟机上请注意您需要在您的虚拟机上自行安装好dit与doctor engine,安装开始。
首先拉取开源仓库。然后我们进入到源码的刀客目录中,初始化环境变量,然后通过docks compose启动服务。这里我需要使用速度执行命令,如此就部署好了。我们查看一下本机的公网ip然后通过它进入这个环境验证一下。注册总的管理员账号。登录。
您可以基于私有化的部署环境,实现高可靠的、合规的、数据安全的、个性化的客户体验环境。初次进入d五社区版,我们需要自行配置模型,在这里将你的open a i a p i t配置上来,即可使用open a i的所有模型,其他供应商的模型类似。这里我们以微软的action open a i a p i t为例,我们配置一个大语言模型g p t四o mini,再配置一个text ebel ding模型embedding三small,如此我们的基础模型就配置好了。进入到d五u i界面的探索页签,可以看到大量开箱即用的应用模板。我们可以选择与自己需求匹配的模板,直接添加到工作区。这样一个新的应用就创建好了,这里会提示我们这个应用的配置存在的问题,需要我们将该应用所使用的模型切换为我们前面已添加的模型。
我们测试一下可以看到这个会议纪要助手可以轻松将我们零散的会议事项整理成一份完整的会议纪要。如果探索页没有找到合适的模板,我们也可以按自己的想法从头创建应用,切换到工作室页签。在这里我们可以创建基础型和进阶型五种类型的应用。其中基础形式地方已经帮我们封装好了,基本框架的应用类型,基本可以开箱即用。聊天助手及基于大模型的对话式交互的助手。a站是能够分解任务、推理思考、调用工具的对话式智能体。
应用文本生成则提供单轮次文本生成的能力。如翻译故事、撰写判断索引等。这里的进阶型则是基于工作流编排的,可以完全由我们自主定义的应用类型。我们可以将chat floor看作是agent的高阶d i y版,它基本可以满足我们任意业务流程编排。工作流则类似于没有记忆的chat flow,它用于处理单文的复杂任务。一般可以基于这里的两种工作流类型,自助实现其他所有类型的应用。
我们直接以工作流的方式来演示复刻模板中的会议纪要。开始节点可以设置应用的输入。添加一个用于处理输入内容的大模型节点,设置会议纪要的system prompt,将用户输入的内容引入到user count,添加结束节点,并将大模型的输出内容返回给用户。通过发布保存配置。我们看一下它的效果。在工作流编排界面,我们可以在面板上添加各种功能的组件节点,进行复杂的业务流程编排。
我们以简单的chat flow来说明各个节点的用法。他为我们预设了三个节点。开始节点给我们预设了对话的用户输入内容和附件,以及对话的上下文信息。也可以自行设置这六种类型的输入变量。最核心的是大模型节点。大模型节点是我们a i应用的大脑,是它根据我们给定的提示在思考问题的解法。
这里可以选择不同的模型并配置模型参数。system prompt用于定义节点的意图以及约束大模型的行为。比如保持知识的谦逊。这里的饭内置了便捷的提示生成器,我们可以一键生成提示。并应用到system prompt中。user prompt用于引入用户的问题。
也可以设置assistant prompt来传递模型所需行为的示例。记忆可以引入历史轮次的相关对话内容,增强大模型思考的上下文。视觉开关则可以开启对附件中图片的理解,最后是以大模型输出直接回复用户的结束节点。我们再看知识检索节点,知识检索将会根据输入从知识库匹配最相关的数个内容片段为大模型引入这些片段可以有效的抑制大模型的幻觉问题,并回答更具参考性。这里我们以用户输入的问题作为知识检索的输入,添加知识库。我们可以先快速创建一个演示的知识库,直接导入本地p d f文档。
知识库细节我们后面再说,这里直接保存并处理。完成,然后我们选中这个知识库。这里可以通过召回设置进行召回率的调优。检索结果。蒂法无法直接处理的业务逻辑,还可以引入代码执行节点,通过简短的代码完成任意意想不到的小功能。这里我们将上游检索到的知识进行了简单排序和拼接。
处理器。处理超时和异常。您可以试试其他的逻辑控制与转换节点,找到流程最直观方便的编排方式。我们在大模型节点的system prompt中引入检索到的知识片段,看一下这个chat flow的效果。特别值得注意的地方,配置了大量实用的工具,论文搜索、绘画、股票查询、一键生成p p t等等功能,都可以直接交由工作流中大模型来使用,前提是给他们配置好了健全的key。如果这些都不能满足需求,还可以自定义工具,随时按需扩展以驱动业务增长。
编排好的应用可以直接预览调试,也可以在运行界面或探索界面进行使用。另外def i还提供了bus解决方案,我们可以把应用直接以a p i的形式集成到其他业务系统,或直接开放给用户使用。这些使用方式极大简化了应用的研发流程。你可能早就注意到了这里的知识库。是的,它就是刚刚我们在工作流中,在知识检索节点引用的知识库。dpi在这里提供了rec pelle的整套工程能力。
这里提供了离线文档、notion web页面三种文档源的导入方式。我们以离线文档为例,一键导入。这些内容将通过red high eline进行指定的切分、清洗和向量化处理。我们可以定义pipeline的具体规则和检索设置。构建。如此知识库就构建好了。
构建好的知识库还可以在召回测试中进行召回效果验证和调优。我们输入要查询的文本。测试。这里可以根据知识库的具体情况调整合适的相似度阈值和最相似分片的数量,还可以引入re rank模型对多路召回结果进行重排序等。知识库的使用方式参考前面知识检索部分的介绍,简单来说无需任何编码。工作立法为我们提供了知识库的构建、检索、调优、测试等一整套平台化解决方案。
最后也是非常重要的,我们进入对工具的介绍。def i内置了大量使用的工具,如前面演示中所见,我们可以很方便的在应用中添加和使用它们。需要进一步说明的是这里的自定义工具,接下来因为使用内部网络的a p i,我们以内网环境演示。我们可以将我们任意业务系统的a p i e o a s规范集成进来。这里我们让cloud三三点五帮我们将a p i转o s配置。我们测试一下效果。
这样就可以在立法的应用中,像使用工具一样,直接使用我们业务系统的能力。我们将蒂法的功能简单体验了一遍,接下来使用地法演示一个为研发提效的小例子。地法助手它需要为使用地法搭建a i应用的同学提供快速、准确、全面的指引。首先我们基于地法官方文档构建知识库,这里需要自行集成gina reader或file co。根据文档的内容设置分段。索引方式选择高质量,这样会将文档内容构建成基于语义理解的向量化检索知识库。
这里的向量化是需要通过open a i error之类供应商的ebeni模型来进行的,因此会产生额外的费用。瑞克可以对多路召回结果进行重排序,从而进一步优化检索精准度。我们没有配置瑞克模型,这里可以暂时跳过保存,开始知识库的构建。这样我们为d f i助手准备的知识库就构建好了。可以在召回测试这里验证索引的召回效果。比如我们输入一个工具使用的问题,看看知识库是否能准确找到最相关的几个描述片段。
有了这些片段,我们的助手就能回答的有根有据了。切换到工作室页面,创建一个空白应用,选择功能最全面且最具d i y属性的chef l类型,命名defi助手创建。首先我们添加一个大模型节点,将用户问题和上下文信息整合为一个独立问题,以减少干扰,明确主题。然后引入知识检索,通过这个独立问题去官方文档知识库中检索相关内容,设置用来生成用户问题答案的大模型节点。在system prompt中设置节点的意图,令g p t四o根据我们检索到的内容来回答问题。可以打开记忆窗口向大模型提供更多的上下文信息,问题直接放在user prompt中。
如此一个可以在产研中提效的智能助手就搭建好了。我们试一下效果。不难发现d f的工作流可视化编排能力,允许用户轻松搭建复杂的a i应用,无需广泛的开发技能。这使得蒂法不仅适用于开发者,对于非技术同学同样友好。好了,以上就是本期用defi教程的全部内容了,教程录制不易,希望大家多多投币点赞收藏。d fi是一个有一定学习门槛的a i工具,为了更好的帮助到大家,我们还整理了一份d fi使用和安装教程的超详细文档。
如果你有需要这份详细资料的话,欢迎给这个视频一键三连并评论,我们会将资料私信发送给大家。如果你还有什么defi和a i agent相关的问题,也欢迎在评论区提问和交流。