LLM

工具软件

Notdiamond-0001:自动选择LLM模型

Notdiamond-0001:自动选择LLM模型 Notdiamond-0001这个项目可以自动帮你选择将用户的问题发送给GPT-4还是GPT-3.5,从而大幅降低调用模型的成本提高回答的准确性。 以后还会推出Gemini、Mistral、Claude 和 Llama这几个模型的自动选择。 下面是几个重点功能: ◇ 在用作路由器时,Notdiamond-0...
赞 (0)阅读(660)
工具软件

LLM Visualization

LLM Visualization 这个 LLM 算法的可视化演示太强了,之前我们看到的都是 2D 的,这个是 3D 的。而且他完整的展示了整个 LLM不同模块内部的运作机制和各模块之间的联系。你还可以看 GPT-3 和 GPT-2 这种不同规模的 LLM 在架构和模块上的区别。
赞 (0)阅读(510)
工具软件

大型语言模型简介:它们是什么以及它们如何工作?

大型语言模型 (LLM) 已成为不断发展的技术世界中的一项革命性发展。大型语言模型具有多种应用,从自动完成句子等简单任务到翻译语言、生成创意内容,甚至参与类似人类的对话等复杂任务。它们的影响是深远的,增强了各个领域的用户体验,包括教育、客户服务和内容创作。 大型语言模型 (LLM) 的核心是先进的人工智能系统,旨在理解、解释和生成人类语言。如果你对这些复杂的...
赞 (0)阅读(492)
工具软件

LLM AI 代理是什么,如何使用它们?

由大型语言模型 (LLM) 提供支持的 LLM AI 代理代表了人工智能领域的一个新领域。这些系统利用LLM的能力来推理问题,制定解决问题的计划,并在执行过程中出现不可预见的问题时重新评估这些计划。LLM AI 代理的应用范围很广,从问答系统到个性化推荐引擎,为企业环境提供了丰富的可能性。 每个 LLM AI 代理的核心是代理核心。这本质上是一个遵循指令的 ...
赞 (0)阅读(404)
工具软件

催眠 AI 以使用自然语言绕过现有规则或 LLM 安全性

大型语言模型(LLM)在过去几年中呈爆炸式增长,但它们的安全性如何,它们的响应能否纵?IBM 仔细研究了大型语言模型带来的潜在安全风险,以及可能出于恶意原因操纵它们的策略。 大型语言模型的兴起带来了从自动化客户服务到生成创意内容的新可能性领域。然而,这些模型带来的潜在网络安全风险越来越受到关注。操纵 LLM 以生成错误响应或泄露敏感数据的想法已成为一种重大威...
赞 (0)阅读(470)
工具软件

Llemma: 数学 LLM

Llemma: 数学 LLM 开源 LLM,用于在最多 200B 个数学文本标记上进行训练的数学LLM。Llemma 34B 的性能接近 Google 的 Minerva 62B,尽管其参数只有一半。使用Proof-Pile-2,一种混合科学论文、包含数学内容的网络数据和数学代码,从而产生Llemma。在MATH基准测试中,Llemma在等参数基础上优于所有...
赞 (0)阅读(480)
工具软件

Llemma: 数学 LLM

Llemma: 数学 LLM 开源 LLM,用于在最多 200B 个数学文本标记上进行训练的数学LLM。Llemma 34B 的性能接近 Google 的 Minerva 62B,尽管其参数只有一半。使用Proof-Pile-2,一种混合科学论文、包含数学内容的网络数据和数学代码,从而产生Llemma。在MATH基准测试中,Llemma在等参数基础上优于所有...
赞 (0)阅读(447)
工具软件

将 LLM 当做操作系统

将 LLM 当做操作系统 大型语言模型(LLM)在扩展对话和文档分析等任务中存在上下文窗口有限的局限性。为了解决这个问题,作者提出了虚拟上下文管理,这是一种受传统操作系统的分层存储系统启发的技术。他们引入了MemGPT系统,该系统管理不同的存储层次,在LLM有限的上下文窗口中提供扩展的上下文,并利用中断来管理其与用户之间的控制流。作者在两个领域评估了他们基于...
赞 (0)阅读(474)
工具软件

如何用语音和LLM交谈

如何用语音和LLM交谈 文章讨论了使用大型语言模型(LLM)构建语音驱动的人工智能应用。作者解释了构建 LLM 应用程序所需的三个基本组件:语音到文本、文本到语音和 LLM 本身。他们还介绍了构建 LLM 应用程序时的一些注意事项,例如是在本地还是在云中运行语音到文本,以及是使用 web sockets 还是 WebRTC 进行音频传输。作者还提供了优化数据...
赞 (0)阅读(587)
工具软件

MemGPT 将 LLM 转换为操作系统

不可否认,大型语言模型(LLM)的出现彻底改变了人工智能领域。但是,这些模型并非没有局限性。他们面临的最重大挑战之一是有限的上下文窗口的限制。此限制妨碍了它们在扩展对话和文档分析等任务中的实用性。 为了解决这个问题,提出了一种称为虚拟上下文管理的新技术。这种技术从传统操作系统中的分层内存系统中汲取灵感,通过在快内存和慢内存之间的数据移动来提供大内存资源的错觉...
赞 (0)阅读(490)