• 有了长期记忆,语言模型可能会更加具体——或者更加个性化。MemoryGPT 给人的第一印象。 语言模型中更大的上下文窗口有助于它们同时处理更多信息。 但是,缩放上下文窗口可能存在技术和财务限制。在可预见的未来,可能需要用于长期机器记忆的新记忆系统。 借助“Me
  • 对于每一款新iPhone,我们都期望更长的电池续航时间。 上下文窗口长度是LLM的新电池。对于每一个新的GPT,将有更多,直到上下文变得无限。 上下文检索并不新鲜,可以与注意力深度整合,而不是嵌入式搜索。
  • 该提示工程指南刚刚超过100万访问者! - GitHub上的33 K星星- 近100名贡献者- 12种语言- 增加了模型集合- 添加了更多关于技术,如艺术,思想之树,RAG,...- 在未来几周内教授2个以上 icon
  • 在这个观点中,我们讨论了意识的问题,虽然我们专注于它在人类中的表现,但我们注意到这种现象存在于众多的非人类物种中,并使用各种动物研究的结果来解释我们对意识如何产生的假说。 当心灵内容,如感知和思想,被自发地识别为属于一个特定的有机体/所有者时,意识 icon
  • 涌现emergent :定义为一种能力“不存在于小模型中,但......存在于大模型中。” 在大型语 icon
  • 在过去十年中,机器学习软件开发的格局经历了重大变化。许多框架层出不穷,但大多数框架都严重依赖利用Nvidia的CUDA,并在Nvidia GPU上表现最佳。 然而,随着PyTorch 2.0和OpenAI的Triton的到来,Nvidia在该领域的 icon
  • 展示了如何迅速工程可以是一个真实的的系统的方法,从语言模型中提取的价值。 “提示工程Prompt Engineering”源于语言模型的发展,描述了应用提示以有效地从语言模型中提取信息的过程,通常用于现实世界的应用程序。 icon
  • 随着 AI 行业的蓬勃发展,英伟达可能面临来自竞争对手的越来越大的威胁。 更多竞争对手进入AI芯片市场,如英特尔、AMD、三星和华为。这些公司正在开发自己的人工智能芯片,与英伟达的GPU竞争。 像Grap icon
  • 有很多关于人工智能的炒作,特别是大型语言模型(LLMs)。直截了当地说,这些炒作只是一些演示性的废话,一旦有人试图将其用于他们工作所依赖的真正的任务,就会被推翻。 现实远没有那么光鲜亮丽:在LLM的支持下很难建立一个真正的产品。</ icon
  • 基于 Transformer 的大型语言模型在机器学习研究领域发展迅速,应用范围涵盖自然语言、生物学、化学和计算机编程。从人类反馈中进行极端缩放和强化学习显着提高了生成文本的质量,使这些模型能够执行各种任务并推理他们的选择。 在本文中,我们提出了一 icon
  • icon
  • 这篇综述重点介绍了过去三十年来在驱动归纳推理的过程的计算建模方面取得的进展。 这些模型的形式复杂性和解释范围都取得了重要进展。 需要注意的是,这项工作的大部分重点是证明给定模型可以很好地说明归纳数据,而不 icon
  • 6 月 12 日版 - OpenAI GPT 最佳实践、Deepmind 的排序算法、Bard 改进等: 1.最佳的解决方案是不人道的排序是互联网上每天使用的基本算法之一。想想像Netflix这样的公司如何 icon
  • femtoGPT 是最小生成预训练转换器GPT的纯 Rust 实现。 一切都是从头开始实现的,包括张量处理逻辑以及最小 GPT 架构的训练/推理代码。 对于那些对 LLM 着迷并想了解这些模型如何在非常深 icon
  • Open Worldwide Application Security Project (OWASP) 是一个致力于提高软件安全性的非盈利基金会。 OWASP Top 10 for Large Language Model Applications icon
  • 亚马逊Kindle Unlimited的畅销书排行榜,尤其是青年爱情小说,最近充斥着人工智能创造的书籍。这些书中有许多是无稽之谈,显然是被用来诱骗点击。 在前100本书中,只有19本看起来是合法的,其他都是人工智能生成的。 人工智能生成的标题的例子:在这些无意义的标 icon
  • 下面介绍的四个项目,每个项目都与语言模型有一些联系: VertexAI-kt虽然OpenAI和ChatGPT经常主导公众的意识,但其他参与者也提供了他们独特的解决方案。谷歌的Vertex AI就是一个典型的 icon
  • 就像我们与朋友之间的长期关系的发展一样,相互同情也在决定我们企业与客户关系的成功方面发挥着关键作用。当客户花时间在产品或服务的评论中输入他们的想法和感受,通过社交媒体平台分享他们的感受,或通过一些类似的媒介提供反馈时,我们有责任把他们作为同胞来同情,并确定他们对他们所经历的事情的集体感受。使 icon