大型语言模型（LLM）在扩展对话和文档分析等任务中存在上下文窗口有限的局限性。为了解决这个问题，作者提出了虚拟上下文管理，这是一种受传统操作系统的分层存储系统启发的技术。他们引入了MemGPT系统，该系统管理不同的存储层次，在LLM有限的上下文窗口中提供扩展的上下文，并利用中断来管理其与用户之间的控制流。作者在两个领域评估了他们基于操作系统的设计，其中现代LLM的有限上下文窗口严重限制了其性能：文档分析和多会话聊天。
原创文章，作者：校长，如若转载，请注明出处：https://www.yundongfang.com/Yun262289.html
微信扫一扫不于多少！
支付宝扫一扫礼轻情意重
一亿上下文长度的 LLM：LTM-2-Mini Magic 发布了一个具有 1 亿 Token 上下文的模型 LTM-2-mini。1 亿 Token相当于大约 1000 万行代码…
Jamba 1.5系列模型：非 Transformer 模型首次追上先进模型 AI21 推出了新的 Jamba 1.5 模型家族，包括 Jamba 1.5 Mini 和 Jamba…
您是否正在使用 Microsoft Word 创建在线调查或表单？如果是，您可能需要向 Word 文档添加复选框，以便于回答和阅读。Word 文档上每个选项旁边都有一个复选框的文档…
RAG Flow：新的RAG开源框架 InfiniFlow开源的项目叫RAG Flow，有下面这些特点： RAGFlow的核心功能是文档的智能解析和管理，支持多种格式，并允许用户使…
Anthropic 发布 Claude 3 工具使用API和上下文越狱方法 Cloud可以使用的工具由JSON模式表示，模型可以调用其中的任何工具，客户端可以将结果分发并返回。而且…
Jan： 本地LLM聊天软件 一个全平台的本地 LLM 聊天软件Jan，支持自动下载模型以及非常详细的设置。懒得配置 Ollama 的可以试试。 除了支持本地模型以外，在线的模型可…
X AI 发布了Grok-1.5更新 X AI 发布了Grok-1.5更新，具有更好的图里能力及 128K 的上下文长度。马斯克还说普通的 Premium 用户马上也可以使用 Go…
Opera 正在将对 150 种本地 LLM（大型语言模型）变体的支持集成到 Opera One（该公司的 AI 集成浏览器）的开发人员流中。添加对 AI 的实验性本地支持是浏览器…
Word 文档中的损坏可能会表现出奇怪的错误和问题。其中一个问题是打开一个 Word 文件，只得到一个空白的白板页面，而不是实际的项目。无论问题是什么，您都可以使用这些说明集来解决…
如何在 PDF 中创建链接 如果您需要学习如何在 PDF 文档中向网页添加链接（超链接），您会很高兴知道本快速指南将向您展示如何在 Microsoft Word、Google Do…
包括 WordPad 在内的多个 Windows 旧版功能在 2023 年被标记为弃用。Microsoft在最初的公告中没有明确说明删除日期。但现在，官方支持文档已更新，以指定哪些…
提升本地 AI 大型语言模型 （LLM） 的智能 在快速发展的自然语言处理领域，出现了一种新的方法来提高大型语言模型（LLM）的本地AI性能、智能和响应准确性。通过将代码分析和执行…
什么是LangChain，如何使用它？ 如果您一直在寻找可以使您的工作更顺畅、项目更令人印象深刻的工具。您可能听说过围绕大型语言模型 （LLM） 的嗡嗡声，以及它们改变我们与技术交…
如何在 Mac 上免费编辑 PDF 文件 如果您需要编辑 PDF 文件，但不想放弃辛苦赚来的现金并购买第三方应用程序。如果您使用的是 Apple Mac 计算机，您会很高兴知道 m…
生成冗长文档的摘要是 AI 更好的用例之一。但是，在大多数情况下，您必须启动 AI 网站，启动文档插件，然后上传文件。但是有了 Microsoft 的 AI 伴侣 Copilot，…
随着最近的更新，Gemini 一直在向 Google Workplace 及其他领域展示自己的力量。Gemini 可以通过各种 Google 工具进行连接和搜索，例如 Gmail、…
Microsoft Word的自动保存功能是恢复丢失工作的真正救星。文字处理器还会在文档仍处于打开状态时创建临时文件。但是文件存储在哪里以及如何再次访问它们？以下是您需要了解的有关…
使用 CoPilot 的强大功能创建酷炫文档从未如此简单。Co-Pilot，您自己的 AI 助手可以起草您的重要信件，并简历、为高级会议创建时间表等等。但是，您不能将常规的 Co-…
Notdiamond-0001：自动选择LLM模型 Notdiamond-0001这个项目可以自动帮你选择将用户的问题发送给GPT-4还是GPT-3.5，从而大幅降低调用模型的成本…
LLM Visualization 这个 LLM 算法的可视化演示太强了，之前我们看到的都是 2D 的，这个是 3D 的。而且他完整的展示了整个 LLM不同模块内部的运作机制和各模…
在不断发展的技术环境中，Google 不断突破创新的界限，推出突破性的工具和功能，以提高我们的工作效率和沟通能力。在这些创新中，Google Bard 作为一个强大的语言模型脱颖而…
LangChain正式开源全栈应用程序AnythingLLM，为用户提供了构建私有ChatGPT的便利。无论是使用商业的现成LLM（Large Language Models），还…
Claude 2.1 的发布在作者中引起了一些最初的担忧，特别是由于难以使用以前版本 Claude 2.0 中的既定技术。用户报告说，Claude 2.1 似乎没有那么有创意，而且…
在文稿中编辑主页设置是避免日后更正的好方法。完全按照您的意愿设置页面将帮助您相应地起草和格式化您的内容，最大限度地减少完成后需要进行的编辑。这就是为什么您可能希望在 Google …
向文档添加页码是跟踪内容的好方法。它们可以帮助您保持文档井井有条，同时确保您可以在需要时根据需要轻松地重新排序它们。Google Docs 允许您轻松地在文档中插入页码。您甚至可以…
