更新后的“使用应用程序”功能现在允许 ChatGPT 直接从各种应用程序(包括终端、IDE 和文本编辑器)读取内容。AI现在可以分析 Git 存储库中的提交并为 Xcode 生成代码。
ChatGPT 还支持来自 Apple Notes、Notion 和 Quip 的文本。虽然该功能可以直接从应用程序读取内容,但无法写回应用程序,需要用户手动复制内容。
此外,高级语音模式现在可以从应用程序中读取内容并回答有关它的问题。此更新可立即用于 macOS,Windows 版本稍后推出。
2、谷歌加入“推理时间计算”的范式转变
与其竞争对手一样,谷歌正在摆脱单纯扩大 AI 模型的思路。据报道,该公司努力通过为 Gemini 2.0 添加更多训练数据来实现有意义的改进,从而采取一种新方法,让模型在使用过程中有更多时间处理信息。
谷歌以高达 25 亿美元间接收购 Character.ai,让著名人工智能研究员、颇具影响力的《Transformer 论文》的原作者之一诺姆·沙泽尔 (Noam Shazeer) 重返公司,专注于业界所谓的“推理模型”。
Flash Thinking 是他工作的第一个成果。该系统不再专注于使用大量数据进行预训练,而是将更多的计算能力投入到业界所谓的“推理时间” ——即模型实际解决问题的时间。OpenAI 对其o1 模型也采取了类似的方法。
Hugging Face 最近的一项研究支持了这一新方向,该研究表明,具有更好处理能力的小型模型有时可以匹敌甚至超越更大的系统。在一项测试中,仅具有 10 亿个参数的 Llama 模型表现不逊于其八倍大小的模型。
3、AI向推理时间计算转移 造就了 博通股票(Broadcom)大涨
随着人工智能的发展,AI的战场逐步从训练端转向推理端。这意味着算力需求会加速从预训练向推理侧倾斜,对定制化芯片的需求也有望扩大。
博通等公司正在开发ASIC(特殊应用集成电路)芯片,这些芯片针对特定应用所设计的专用芯片,有望逐步从英伟达GPU手中争取更多市场份额。预计ASIC市场规模将从2024年的120亿美元增长至2027年的300亿美元,年复合增长率达到34%
博通与人工智能初创公司OpenAI合作开发新型AI推理芯片,专门用于AI模型的推理过程。这一合作旨在增强深度学习和大型模型的计算能力
4、Pinokio 3.0 为开源 AI 模型浏览器带来重大更新
在过去的几个月里,志愿者们稳步扩展了 Pinokio 的功能,使其成为本地运行 AI 模型最实用的解决方案之一。用户无需费力操作复杂的终端命令或手动管理库,即可启动并运行他们的模型。
Pinokio 的最新版本对开源 AI 模型浏览器和安装工具进行了重大改进。3.0 版引入了可自定义的界面、更好的包管理以及自动化浏览器交互的功能。
用户现在可以使用 CSS 代码完全自定义界面,更改起始页、应用页面和终端的外观。这位自称“cocktailpeanut”的开发人员表示,他们很快就会发布更多主题。
Pinokio 3.0 现在使用 UV 作为其 Python 的原生包管理器,开发人员称其为最佳可用选项。UV 很快也将取代 Gepeto 中的 pip,这将使安装新包的速度更快。
更新还显示每个应用程序占用的磁盘空间,从而让管理已安装的应用程序变得更加容易。当出现问题时,用户现在会收到有用的错误消息,
而不是他们过去看到的神秘的“ENOENT:文件未找到”通知。
5、据两位知情人士透露,OpenAI 目前 正在准备下一代 o1 推理模型
该模型需要更多时间“思考”用户提出的问题,然后再做出回答。
然而,由于与英国电信服务提供商 O2 存在潜在的版权或商标冲突,OpenAI 已考虑将下一个更新命名为“o3”,而跳过“o2”,这些知情人士说。一些领导人在内部将该模型称为 o3。这家初创公司已将资源投入到推理 AI 研究中, 此前它在预训练过程中使用了更多的计算和数据,其改进速度有所放缓。 预训练过程最初使用大量数据对模型进行训练,以帮助它们理解世界和不同概念之间的关系。
尽管如此,OpenAI 仍打算使用一种新的预训练模型 Orion 来开发后来成为 o3 的模型。