北京网站定制价格表,网址制作,wordpress 面包屑插件,吴兴网站建设文章目录 学术工作公司为什么要使用日记应用程序#xff1f;定制总结 本文翻译整理自#xff1a; https://blog.langchain.dev/langfriend/ (发布于2024 年 3 月 28 日) 在LangChain我们最感兴趣的概念之一就是内存。 每当我们对一个概念感兴趣时#xff0c;我们都喜欢构建一… 文章目录 学术工作公司为什么要使用日记应用程序定制总结 本文翻译整理自 https://blog.langchain.dev/langfriend/ (发布于2024 年 3 月 28 日) 在LangChain我们最感兴趣的概念之一就是内存。 每当我们对一个概念感兴趣时我们都喜欢构建一个示例应用程序来展示该概念。 为了记忆我们决定构建一个日记应用程序 我们正在托管一个任何人都可以尝试的版本。我们还开始与一些 alpha 用户合作开发面向开发人员的 API。 如果您对此感兴趣请在下面注册。 关键链接 YouTube期刊应用程序开发者API访问 我们还将在 2024 年 4 月 6 日与 New Computer、MongoDB 和 Anthropic 一起举办一场与内存相关的黑客马拉松。在此注册。 我们最看好的LLM系统组件之一是内存。 生成式人工智能的强大之处在于它能够动态生成独特的内容。这对于定制用户体验来说非常强大。 这可以通过利用有关用户的现有信息来完成但也可以通过记住以前的用户交互并从中学习来完成。 我们热衷于探索的正是这种类型的“记忆”。 我们认为用户和LLM之间将会发生越来越多的交互——聊天机器人是LLM应用程序的主要形式因素。 这意味着越来越多有价值的用户信息将在这些对话中交换——一个人喜欢或不喜欢他们的朋友是谁他们的目标是什么。 学习这些属性 - 然后将它们合并回应用程序中可以极大地改善用户体验。 当我们探索内存时我们认为整理一个用例示例来激励和奠定我们的大量工作会很有帮助。 我们选择一个日记应用程序作为这个用例。 我们将这个日记应用程序命名为“LangFriend”并于今天向公众开放。 虽然这仍然只是一个不起眼的研究预览但我们希望在开源之前收集社区反馈了解什么是有效的以及如何改进它。 在这篇文章中我们将讨论一些之前在记忆方面的学术工作、其他公司所做的有趣的事情以及我们为什么选择一款日记应用程序作为重点。 然后我们将深入研究日记应用程序逐步了解其功能。如果您有兴趣与我们一起探索记忆请联系这里。 学术工作 我们发现有两篇主要学术论文对我们的记忆工作有启发。 第一MemGPT。来自加州大学伯克利分校的研究人员这篇论文的 TLDR 是他们让 LLM 能够调用一些函数。这些功能可以执行诸如记住特定事实、回忆相关事物等操作。 大型语言模型 (LLM) 彻底改变了人工智能但受到有限的上下文窗口的限制阻碍了它们在扩展对话和文档分析等任务中的实用性。 为了能够在有限的上下文窗口之外使用上下文我们提出了虚拟上下文管理这是一种从传统操作系统中的分层内存系统中汲取灵感的技术它通过物理内存和磁盘之间的分页提供了扩展虚拟内存的幻觉。 利用这种技术我们引入了MemGPTMemoryGPT这是一个智能管理不同存储层的系统以便在LLM有限的上下文窗口内有效地提供扩展上下文 第二生成代理。来自斯坦福大学的研究人员这篇论文的 TLDR 是他们利用对经验的反思来形成记忆然后以编程方式存储和检索这些记忆。 我们通过消融证明我们的智能体架构的组成部分——观察、规划和反思——每一个都对智能体行为的可信度做出了至关重要的贡献。 通过将大型语言模型与计算交互代理融合这项工作引入了架构和交互模式以实现对人类行为的可信模拟。 这两篇论文之间的一个有趣的区别是LLM主动决定使用内存的程度而不是更多地使用后台进程。 MemGPT 强制 LLM 使用内存功能而生成代理更多的是一个后台进程。 公司 有一些公司在内存方面做了一些很棒的事情。 Plastic Labs 是一家构建 TutorGPT 等项目的初创公司。 LangChain LLM 应用。用于心理理论辅导的动态元提示。 Good AI是一家刚刚开源了 具有长期记忆功 能的聊天助手的初创公司。 乍一看Charlie 可能类似于现有的 LLM 代理如 ChatGPT、Claude 和 Gemini。然而它的显着特点是 LTM 的实现使其能够 从每次交互中学习。 这包括 将用户消息、助理响应和环境反馈存储并集成到 LTM 中 以便将来在与手头任务相关时进行检索。 OpenAI最近将内存功能整合到 ChatGPT 中。 观察这些公司还可以发现将内存实现为 LLM 需要有意识调用的活动 (ChatGPT) 与自动合并的后台进程 (TutorGPT) 之间存在差异。 为什么要使用日记应用程序 当考虑实施一个测试长期记忆的好用例时我的脑海中浮现出一款日记应用程序。 主要原因是我们相信此应用程序中的交互将比标准聊天应用程序包含更多需要记住的相关信息。 使用标准的聊天应用程序可能会有很多多余的交流 - “嘿”、“嗨”、“怎么样”等。 在日记设置中您可以更快地达到分享真实、有趣的感受的地步和见解。 尽管如此我们还是想向这个应用程序添加一个聊天组件。 这样做的主要原因是为了表明我们的应用程序正在学习和记住有关用户的信息。 它将能够使用这些信息来为用户制作个性化的响应。 在这里你可以看到我是意大利菜的粉丝运动后感觉神清气爽。 添加您的第一篇日记并与我们的同伴聊天后您会在导航栏中看到“回忆”按钮。 单击此按钮将向您显示我们能够从您的日记中提取的所有主要记忆。 您会注意到该列表很薄并且不包含太多信息。 这些只是我们提取的最重要、最高级的事实。 在幕后我们从您的条目中提取了比这更多的事实您可以搜索所有这些 开始输入“搜索记忆…”输入您将实时看到 LangFriend 存储的有关您的各种事实 定制 我们希望让 LangFriend 尽可能吸引所有用户。 因此我们允许任何人更新前缀的系统消息并为与我们的同伴的所有聊天定下基调。 包含一个默认值这是我们精心设计的以满足许多用户的需求。 但是如果您正在寻找稍微或完全不同的东西您可以根据需要进行尽可能少的更改或尽可能多的更改。 找到系统提示并通过访问“日志”页面并单击“配置”按钮来更新它。 从这里将弹出一个对话框其中包含系统提示。 所做的任何更改都将在会话之间持续存在并将作为您未来所有聊天对话的前缀 总结 LangFriend 是一项令人兴奋的研究预览展示了将长期记忆纳入LLM申请的潜力。 通过专注于日记应用程序我们的目标是捕获有意义的用户信息以提供个性化响应并增强用户体验。 受到该领域学术工作和创新公司的启发LangFriend 展示了如何积极利用记忆或将记忆纳入后台流程以创建引人入胜且适应性强的互动。 我们很高兴邀请社区探索 LangFriend提供反馈并与我们一起突破 LLM 应用程序中内存的可能性界限释放生成式 AI 的全部潜力实现更强大、个性化和有意义的用户体验。 伊织 2024-04-07日