ChatGPT等OpenAI技术

ChatGPT 的内部实际上在计算上可能与大脑非常相似——由数百万个简单元素（“神经元”）形成一个“神经网络”，其中包含数十亿个连接，这些连接已通过渐进的训练过程“调整”直到他们成功地再现了所有这些网页上看到的人类书写文本的模式，等等。即使没有训练，神经网络仍然会产生某种文本。

对于每一款新iPhone，我们都期望更长的电池续航时间。 上下文窗口长度是LLM的新电池。对于每一个新的GPT，将有更多，直到上下文变得无限。 上下文检索并不新鲜，可以与注意力深度整合，而不是嵌入式搜索。

1、GPT-4是一项令人难以置信的变革性技术。 用了不到60秒的时间重现了乒乓球游戏：链接，所有的代码都是HTML。

OpenAI 插件将 ChatGPT 连接到第三方应用程序。这些插件使 ChatGPT 能够与开发人员定义的 API 进行交互，从而增强 ChatGPT 的功能并允许其执行范围广泛的操作： 检索实时信息；例如，体育比分、股票价格、最新消息等。 检索知识库信息；例如，公

微软发布了一篇154页的关于OpenAI GPT-4的论文：通用人工智能的火花：GPT-4 的早期实验，文章说：

ChatGPT作为OpenAI训练的大型语言模型，为自然语言处理任务提供人工智能服务。通过使用 ChatGPT API，开发人员可以将 ChatGPT 模型的功能集成到他们的应用程序中。在本文中，我们将探索如何通过 Java 使用 ChatGPT API。

甚至在一周前，人们还不清楚ChatGPT+Wolfram会是什么样子。但这些现在进展如此迅速的东西是建立在几十年前的发展基础上的。在某些方面，ChatGPT+Wolfram的到来最终将历史上采取的两种主要的人工智能方法结合在一起，而这两种方法长期以来一直被认为是不相干和不相容的。 <

将 OpenAI API 引入 PostgreSQL 以使用人类语言运行查询的实验性扩展。 该扩展将数据库模式的一个子集发送到 ChatGPT，并要求它根据此和用户输入生成一个查询。 安装

AI不会来抢你的工作...但它是为你的雇主而来! 人工智能将给经济带来进化的压力，这将深刻地改变我们的工作方式。 在我深入探讨这个问题之前，让我们先谈谈什么是公司，以及它们为什么存在。 <

随着GPT年龄增长，RLHF正在摧毁创造力，就像我们的社会对每个人所做的那样！ 刚开始生活时我们是最有创造力的，随着时间的推移，我们收到其他人类的反馈，说我们的创造性产出是不正常的，可悲的是我们听信了。

在计算机科学的许多领域（密码学，NP复杂性），验证解决方案比生成解决方案容易得多。这篇博客文章发现大语言模型LLM（主要是GPT-4）可能能够自我验证其解决方案。 与概率推理和最优控制中的大多数算法思想一样，让代理者自己批评其决策以使其变得更好是一

NLP 在金融技术领域的应用广泛而复杂，应用范围从情感分析和命名实体识别到问答。 大语言模型 (LLM) 已被证明对各种任务有效；但是，文献中没有报道过专门针对金融领域的LLM。在这项工作中，我们展示了 BloombergGPT，这是一个 500

当我们在人类生产的媒体语料库上训练一个机器学习模型，在特定的例子上对其进行微调，并就其对这些事物的解释给予反馈，我们就在做类似于生产文化的事情。 历史上的人类文化是由交流、创新和分歧的混合物形成的。他们产生了不同的语言、哲学、艺术风格、经济体系和社

训练ChatGPT 这样的 LLM(大型语言模型) 需要数十亿单词，其抽象的想法是通过文本来学习的。 大型语言模型不知道语言描述的潜在现实，语言建立在我们共同拥有的大量背景知识之上，我们称之为常识，计算机需要通过观察来学习以获得这种非语言知识。</

一个开源聊天机器人，通过微调LLaMA对约70 K用户共享的ChatGPT对话进行训练。 声称达到“OpenAI ChatGPT和Google Bard的90%以上 * 质量，同时在90%以上 * 的情况下优于LLaMA和斯坦福大学Alpaca等其

这是上周顶级 ML 论文（3 月 27 日至 4 月 2 日）： BloombergGPT 一个新的 50B 参数的金融 LLM。声称拥有 3630 亿个令牌的最大特定领域数据集......进一步增加了来自