网站用的服务器是什么,团购机票网站建设,海南在线人才网招聘,wordpress上传到服务器如何解压缩无穷尽的QA 钉钉...钉钉... 双双同学刚到工位,报销答疑群的消息就万马纷沓而来。她只能咧嘴无奈的摇摇头。水都还没有喝一口就开始“人工智能”的去回复。原本很阳光心情开始蒙上一层薄薄阴影。在这无休无止的QA中#xff0c;就算你对工作有磐石一般强硬#xff0…无穷尽的QA 钉钉...钉钉... 双双同学刚到工位,报销答疑群的消息就万马纷沓而来。她只能咧嘴无奈的摇摇头。水都还没有喝一口就开始“人工智能”的去回复。原本很阳光心情开始蒙上一层薄薄阴影。在这无休无止的QA中就算你对工作有磐石一般强硬有芦苇一般坚韧... 也经不住如此水滴石穿般消磨。工作激情便如磨刀之石不见其消日有所损。 然则不只双双有这样的困境人事的同学也是每天为各种简单的咨询扰得不胜其烦牢骚满腹还有负责合同用章的coco同学同样不堪其扰... 更让人苦恼是无人值班的周末问的同事在焦急的等待而支持的同事可能无法及时响应... “母婴护理”做为公司的核心业务虽然每个护士同学上岗前都有过专业的训练但是在实践过程中难免遇到各类问题这时她们只有去问有经验的护士或者护士长... 所有种种问题最后都是由一名“专家”完成了解答。这个“专家”在哪里这成了我一直思考的问题。显然我还不至于去搞一个真正的“专家系统”。 OpenAi Assistant 横空出世 面对上面的困境我们也有尝试使用 openai 的 emebedding能力但是效果不是太好并且每次问答要花费50美分也用闻达独立搭建过就是不太稳定可能是没部署好吧老是要重启。一直在想为啥如雨后春笋般出现的各路大模型没有一个可以非常方便的让我们导入领域知识呢。一筹莫展之时OpenAi 11月7号的发布会给我带来了希望。其中新增的Assistant就如立于高山之巅远看东方已见光芒四射喷薄欲出的一轮朝日。发布会只有45分之短但是其涵盖的内容却不短。鉴于英文听力能力欠缺找了一个“AI同声中文版”发布会视频有需要的可以点击「链接」观看一定不虚此点。 一个简单的通用方案问题 OpenAi 的assistant 已经具备了根据提供的领域知识检索retrieve特定问题的答案了。接下来就是接入企微自建应用考虑到语音便利性这次增加了对语音的支持通过腾讯云asr接口识别语音再通过文字调用Assistant。大致组件如下图。其中问答有个特别的地方就是在创建一个 “Run”后需要轮询检查其是否是终态如果是 “completed”再去检索消息获取最终的回复。 实现一个Assistant的流程如下为了偷懒我就直接在平台创建了assistant及上传文件。 1.Create an Assistant in the API by defining its custom instructions and picking a model. If helpful, enable tools like Code Interpreter, Retrieval, and Function calling. 2.Create a Thread when a user starts a conversation. 3.Add Messages to the Thread as the user ask questions. 4.Run the Assistant on the Thread to trigger responses. This automatically calls the relevant tools. 有了想法趁着大好的周末早上带着两娃去学校踢球贪婪的享受着冬日阳光消耗完体力娃子们吃过午饭便早早的开始了午睡。趁着着孩子们睡觉的光景我又有大把的时间开始打代码实现想法了。有时真感觉自己不再年轻了遛个娃写个代码就觉得可以受用一个周末。 由于之前的一些准备工作不到两小时demo就基本完成了。没有压力之下的代码几乎不用调试就跑起来了原来没有压力也可以动力十足也许这就是专注的力量。基本用起来是没啥问题了唯一的问题就是响应时间几乎在30秒左右。对于人事一类的问答尚可一些需要快速响应的场景这个时间稍微慢了些。 近些时间尝试过好几种方式这里也简单做个对比,鉴于能力这个对比不一定准确仅供参考。 方式 响应速度 单次花费 稳定性 整体 Fine-tuning 20s 低 高 训练成本高难度大。效果不好。 Embeddings 20s 高50美分 高 单次成本高回答不全面 Assistant 30s 低(数美分) 高 回答全面响应速度稍差 闻达 20s 无 低 自备服务器稳定性不太好。 未来的思考 目前是直接嫁接在企业微信的自建应用之上钉钉也是同理可以通过不同应用对应不同的Assistant解决不同场景的答疑。任何企业只要有现成资源的情况下任何问答场景都可以快速应用。 如果要移植到微信小程序或者app就可以使用同声传译插件快速语音识别并可通过tts 文字转语音提升应用的便利性。 希望语音小助手的上架可以为双双同学为coco同学为那些每天还埋没在无休无止的问答中的同事们带来些许支持扫除阴影还他们一个阳光的心情。 微信jijunjian 成为一名优秀的程序员