微软发布了一篇154页的关于OpenAI GPT-4的论文:通用人工智能的火花:GPT-4 的早期实验,文章说:
在所有这些任务中,GPT-4 的性能都非常接近人类水平,并且常常大大超过 ChatGPT 等先前的模型。鉴于 GPT-4 功能的广度和深度,我们认为可以合理地将其视为通用人工智能 (AGI) 系统的早期(但仍不完整)版本。
但有许多部分是从原始版本中注释掉的:
有传言说GPT-4有了一个内部名称DV-3,这是真的,事实上,DV-3实际上是论文的隐藏第三作者,因隶属关系不清而被删除:
有趣的是,这些可怜的MSFT研究人员对GPT-4的了解并不多(比我们还少?)
- 1.他们不知道训练模型到底要花多少钱。
- 2.他们似乎将此模型称为纯文本,这与GPT-4是多模态的已知事实相矛盾。
他们在这篇论文中还把两个关于毒性的部分完全注释掉了。
以下是这些隐藏部分的摘录:“模型在没有任何提示的情况下生成有毒内容”。
但幸运的是,与所有已知的LLM相比,GPT-4在检测有毒语言方面也更好。
总结
从这份文件中可以挖掘出更多的信息,但我们担心OpenAI为减少这个强大的AI模型的危害而采取的未知对齐程序,以及这个模型对公众访问的安全程度。
没有人预料到纯语言的自动化会导致AGI。也许这是我们集体无视人类语言本身是有生命的这一事实的结果。