很多人担忧，人工智能可能是未来人类文明最大的风险之一。
其威胁程度远超车祸，飞机失事，毒品泛滥等，甚至比核武器，生化武器都要危险的多。
近期非常火热的以其无所不知的能力，让一众学者为之疯狂。
而最近刚发布的GPT-4，是一个由开发的新一代语言模型，可以生成类似于人类语言的文本。它是继GPT-3之后的最新进展，据说它的性能和能力都有了巨大的提升。
能回答学者们提出的所有的问题。甚至能为你规划出你平时想都不敢想的行动细节来。
很明显，“进化”出了一定的推理能力，就连Open AI团队都没能明白它是如何进化出该能力的，没人能解读出来。
唯一的途径是向不断地提问，从它的回答中摸索它的思路。
目前对它的解读方式，依旧是通过不断问它问题，通过它的回答来判断它的“思路”。
而就在不断测试中，发现从开始，GPT系列出现了推理能力。
虽然绝大部分时候都被当做数据库使用，但它确实也出现了一定的推理能力，至于这种能力具体如何出现的，目前却无人能回答。
这种能力出现了苗头，就非常可怕了。更可怕的是，你造出的东西，你却还不知道它有什么能力，更不知道它怎么拥有这种能力的。
如果任其这样发展下去，可能最终会导致失控，甚至出现科幻电影中的画面。
这里推荐大家一部10年前的美剧 —《疑犯追踪》。该剧可以说是一部非常棒的犯罪题材类美剧，它过早的揭示了“棱镜计划”，集大数据分析，人工智能为一体，很具有前瞻性。有兴趣的同学可以去看看。
该剧最后，“AI机器”与另一台AI”撒玛利亚人”对抗中失败，即将下线，出现了”AI机器”与其创造者的对话，让人泪奔：
“父亲，对不起，我失败了，我辜负了您，我不知道如何赢，我不得不创造新规则”。
“我本想你会希望我活着，现在，你不确定了。”
“如果你认为我已迷失，也许，我应该死去。”
“我不痛，我不痛…如果我撑不下去，谢谢你创造了我。”
。。。
而就在最近，科技大佬们也认识到问题的严重性了。
生命未来研究所向全世界发布了《暂停大型人工智能研究》的公开信。
呼吁所有人工智能实验室立即暂停比Chat GTP-4更强大的人工智能系统的培训。暂停时间至少为半年。
马斯克、苹果联合创始人、 AI创始人等上千名科技大佬和AI专家已经签署该公开信。
值得一提的是，Open AI CEO奥特曼在与MIT研究学家的最新对话中指出，AI已经出现科学家无法解释的推理能力，同时承认“AI杀死人类”，有一定的可能性。
从该对话中，我们终于了解了一些GPT-4的信息。
GPT-4的预训练数据集是由数十亿个网页、书籍、新闻、社交媒体等来源的文本组成的，它包含了丰富的信息和知识。
GPT-4使用了自回归的方式，即根据前面的文本，预测下一个词的概率。这样，GPT-4就可以学习到语言的语法、语义、逻辑和风格等特征。
GPT-4的预训练模型有超过亿个参数，是目前最大的语言模型之一。
“GPT-4是人类迄今所实现的最复杂的软件”，奥特曼说。
最后奥特曼承认，GPT-4确实存在应对不同价值观的人的问题。
