Dojo
话题
新佳
订阅
极道
元认知
元逻辑
元设计
元编程
元语言
AI人工智能指南
上下文的长窗口是大语言模型的核心秘密
对于每一款新iPhone,我们都期望更长的电池续航时间。 上下文窗口长度是LLM的新电池。对于每一个新的GPT,将有更多,直到上下文变得无限。 上下文检索并不新鲜,可以与注意力深度整合,而不是嵌入式搜索。
大语言模型背后的原理 - arxiv
语言本质上是一个由语法规则支配的复杂、错综复杂的人类表达系统。它对开发能够理解和掌握语言的人工智能算法提出了重大挑战。 作为一种主要的方法,语言建模在过去20年里被广泛研究,用于语言理解和生成,从统计语言模型发展到神经语言模型。
AutoGPT才是这条街最靓的仔!
AutoGPT正在以惊人的速度改进,并可能很快改变业务的面貌。 上周刚刚出现的AutoGPT旨在自动执行GPT-4任务,允许创建代理,在没有任何干预的情况下为您完成任务。我们将迎来有多个AI Agent(AutoGPT)相互协作的新人工智能阶段!<
大语言模型137个涌现特征列表 — Jason Wei
涌现emergent :定义为一种能力“不存在于小模型中,但......存在于大模型中。” 在大型语
GPT-4已经是通用人工智能AGI了?
微软发布了一篇154页的关于OpenAI GPT-4的论文:通用人工智能的火花:GPT-4 的早期实验,文章说:
人工智能可以告诉我们关于人类智能到底是什么?
将人类的专业知识提炼成一套规则和事实是非常困难、耗时且昂贵的。这被称为“知识获取瓶颈”。 虽然编写数学或逻辑规则很简单,但世界本身却非常模糊。 这正是神经网络擅长的地方:发现模式和接受歧义。神经网
知识图谱在捕捉知识方面存在严重缺陷吗?
当提到 "知识图谱 "时,是指各种方法: CI(类别、实例) ERE(实体、关系、实体) OPV(对象、属性、价值) SPO(主语、谓语、宾语) 无论什么方案,都能以一致和可计算的方式组织知识。<
成人递归模式处理的认知机制 - Wiley
人类是强大的泛化者,能够跨多个领域进行推断、预测和生成模式。 经常在人类行为中观察到的递归模式由嵌入在同类其他结构中的结构组成。它们被视为跨领域,如自然语言、音乐、计算机编程和数学:自然语言:例如,“他们不知道我们知道”这样的
抵制确定性思维
确定性思维是一种盲目的力量,与理性截然相反,尽管许多支持确定性思维的人认为自己是超理性的。 什么是确定性思维?简单地说,决定论是“如果 x,则 y”。它的概念是,如果我们做某事 (x),特定结果 (y) 是
gpt-finite-state.ipynb :一个带有两个标记0/1和上下文长度为3的小型GPT
训练/研究微小的GPT很有趣,因为它变得很容易可视化,并对整个动态系统有一个直观的感觉。 这是一个带有两个标记0/1和上下文长度为3的小型GPT,将其视为有限状态马尔可夫链。它在序列“111101111011110”上训练了50次迭代。 <
你的数字孪生可以改善你的健康
数字孪生在制造业、工业和航空业中很常见,但对人的数字模拟却很罕见。 几周前,我们分享了研究人员如何以数字孪生的形式开发人体的精确数字模拟,这有可能拯救和延长生命。现在我们分享更多关于数字孪生如何帮助个性化医疗,预测疾病、饮食和生活方式的改变,以及使
生成式 AI 的模式语言
GPT-4之于皮尔士符号学就像冯·诺依曼计算机之于布尔逻辑。 然而,不同之处在于GPT-4的架构师(与冯·诺依曼不同)并不了解皮尔士符号学。 为何需要符号学(Semiotics)?语义学不行吗?语义学的概念本身掩盖了太多的细节。 我们需要一
用于因果推理和学习的神经脉冲 | PLOS
当一个神经元被驱动超过其阈值时,它就会出现尖峰。 它不传达其连续的膜电位这一事实通常被看作是一种计算上的责任。 在这里,我们表明,这种尖峰机制允许神经元产生对其因果影响的无偏估计,以及一种近似于基于梯度下
ai-component-generator:使用ChatGPT产生任何图形界面组件
项目使用 OpenAI 的 ChatGPT 生成几乎所有 UI 组件,并允许您复制 html 代码 使用这个开源项目,您可以要求产生任何 UI 组件,自由样式。也可以用作项目界面设计的一个引导程序。样式设置默认为 Material-UI 样式,但您
ChatGPT vs. IBM Watson
您还记得 IBM Watson 在2011年的 Jeopardy! 中获胜吗? vanilla’ ChatGPT在 Jeopardy! 上的表现如何? 它似乎比 Watson 做得更好——至少在 2169
什么是一个人的核心知识?
发展心理学中的“核心知识(Core knowledge)”:确定了一系列被认为是连贯的心理实体的抽象概念,包括“主体”,“对象”,“数字”,“社会群体”,以及相关的推理过程。 人类的认知部分建立在代表物体、行动、数字和空间的四个系统上。它也可能建立
MLOps 主要是数据工程 - cpard
MLOps 作为管理数据基础设施的一类新工具出现,专门针对 ML 用例,主要假设是 ML 具有独特的需求。 几年后,随着炒作消失,很明显,MLOps 与数据工程的重叠比大多数人认为的要多。让我们看看为什么以及这对 MLOps 生态系统意味着什么。<
上周大语言模型顶级ML论文概要
这是上周顶级 ML 论文(3 月 27 日至 4 月 2 日): BloombergGPT 一个新的 50B 参数的金融 LLM。声称拥有 3630 亿个令牌的最大特定领域数据集......进一步增加了来自
上页
下页