AI新闻: OpenAI GPT最佳实践、Deepmind排序算法、Bard改进等


6 月 12 日版 - OpenAI GPT 最佳实践、Deepmind 的排序算法、Bard 改进等:

1.最佳的解决方案是不人道的
排序是互联网上每天使用的基本算法之一。想想像Netflix这样的公司如何需要从他们巨大的内容库中找到正确的电影并将其呈现给你。每天都有更多的内容产生。因此,需要更新、更有效的算法。

寻找这些算法一直是人类的任务。人们想出了高效和最佳的解决方案。上周,谷歌的DeepMind提出了3项和5项排序的新算法。

Deepmind的研究人员通过将寻找高效算法的过程变成一场游戏来实现这一目标。然后他们训练Alphadev来玩这个游戏。在玩这个游戏时,Alphadev想出了一些看不见的策略。这些 "策略 "就是新的排序算法。

这个解决方案并不是革命性的,因为它并没有找到新的方法。这个解决方案是通过优化当前的方法来实现的。

这些算法已经被添加到C++库中。这是第一次将一个完全的人工智能解决方案加入到库中。

这是一个重要的发现,因为它表明寻找最佳的最优解决方案需要计算机。因为计算机能够超越人类所能感知的范围。此前,Deepmind的AlphaGo曾以类似的方式击败了评级最高的围棋选手李世石。它想出了以前从未见过的招数。

另一方面,计算机可能被限制在它们所学的范围内。有人能够使用ChatGPT复制这一发现。

2.GPT最佳实践
关于GPT-4的质量下降,已经有很多声音了。

现在我们有一个直接来自Open AI的战术和策略清单,以获得更好的结果。

我看了一下这些策略和战术,其中大部分是围绕着提供更好的输入。如果你可以的话,"及时工程"。鉴于这是在关于GPT质量问题的一周后出现的,这给人一种 "不是我,是你 "的感觉。

在浏览了一些建议后,我发现我下意识地使用了大部分的策略。我的提示总是长于5句话,因为我试图尽可能多地添加细节。老实说,GPT-4使我能够做到以前无法实现的事情。

3.Bard 的逻辑和推理改进
另一方面,Bard一直都很缺乏。谷歌正试图通过一次一次地添加功能来改善反应。

上周宣布,Bard 将在逻辑和推理方面变得更好。这是用 "隐式代码执行 "实现的。任何时候你给Bard 一个逻辑或推理的问题,它都不会以正常的LLM方式回答。因此,不再有 "序列中的下一个词是什么 "这种容易产生幻觉的问题。

相反,Bard 现在会认识到这个提示是一个逻辑问题。然后它将在引擎盖下编写和执行代码。它将通过获取执行代码的输出来回应这个问题。

你可以把这看作是OpenAI的GPT最佳实践中 "给GPT时间来 "思考 "策略的实施。按照谷歌的说法,这可以提高30%的性能。


10 条 AI 新闻亮点和有趣读物

  1. Apple 在 WWDC 期间没有展示任何生成式 AI 产品。尽管他们将 LLM 的“序列中的下一个单词是什么”逻辑引入到自动更正中。可以这样总结:


https://preview.redd.it/4gk465cxem5b1.jpg?width=900&format=pjpg&auto=webp&v=enabled&s=3af9532e55f529e285d8ef6e3c4c240af3757245
  1. ChatGPT 无法读取名称 - davidjdl。有人认为这是由于 Reddit 数据的标记化。在学习资源部分,我添加了一个关于标记化的教程。
  2. 浏览器扩展是一个安全噩梦。GPT 和 LLM 热潮为恶意软件扩展提供了另一种窃取用户数据的方式。当心摘要和“为我写”的扩展。
  3. 大多数 AI 生成的图像将用于图库摄影。但这个行业正在消亡吗?这是到目前为止的数据。作者的结论是,早期的指标表明,寻找 AI 股票图像通常没有人在里面。因此,AI 卖家没有“微笑的商务人士在会议室握手”。这可能会随着 MidJourney V5 而改变。未来还是未知数。
  4. 使用 ChatGPT 更好编码的六个技巧。我一直在使用 Trust,但验证心智模型的频率很高。我已经看到 ChatGPT 在多次提示的情况下仍难以处理部分 Python 代码,我不得不自己编写部分代码。
  5. GPT-5 不会很快推出
  6. 人工智能初创公司可能太容易复制了。随着 AI 需要更少的资源,我们甚至可能会看到 1 人的公司价值超过 100 万美元
  7. Google 保护 AI 的愿景。
  8. A16z 说人工智能将拯救世界。
  9. 人工智能图片可能被用于虚假信息。欧盟的解决方案是给人工智能图像贴上标签,以打击虚假信息。


学习资源

  1. 如果您希望使用 GPT 构建更好的解决方案,那么必须了解分词器:[list=1]
  2. https://simonwillison.net/2023/Jun/8/gpt-tokenizers/
  3. https://matt-rickard.com/the-problem-with-tokenization-in-llms
  • 使用 Flowise 和 HuggingFace LLM 和 Langchain
    https://cobusgreyling.medium.com/how-to-use-huggingface-llms-with-langchain-flowise-2b2d0f639f03