人工智能的真实和想象风险（意见）

前阵子，我的Pablinux小伙伴 他告诉我们 上 难以忍受的伊隆马斯克和其他名人写的要求暂停人工智能研究的信 直到采取措施防止其可能的不利影响。 这给了我谈论人工智能的真实和想象风险的借口。

冒着用失败的比尔·盖茨风格的预测来取笑自己的风险，我首先要说的是，在我看来 现在最大的风险是泡沫破灭 这将使网络公司受到轻微冲击。

人工智能的真实和想象的风险

我同意 Pablinux 的观点，这封信比科学推理更具有中世纪的蒙昧主义。 那 同时继续分享应该建立立法来规范其内容的使用的想法. 然而，我们不能否认，所有的技术在被人们熟知之前，都会使人感到困惑和恐惧。

电影开始时火车到达的投影使人们逃离房间，尽管它有很多都市传说，但无线电版本 拉瓜拉德洛斯蒙多斯 Orson Welles 的作品在相信它是真实的人中引起了相当大的恐慌。

事实上，这类软件监管并不是什么新鲜事。 许多国家的金融监管机构禁止 Photoshop 等程序编辑钞票或支票的图像。

1994 年，汤姆·克兰西 (Tom Clancy) 出版了 荣誉债务。 被认为是国防问题的专家，Clancy i想象通过操纵股票公司的专家系统相信危机正在发生对美国金融系统的攻击 释放出最终导致危机的抛售浪潮。

在将其视为虚构之前，请记住，在双子塔建成 7 年前的同一部小说中，克兰西预计美国可能会遭受使用商用飞机的袭击。

其实这个想法并不新鲜。 1983年的电影 战争游戏 它讲述了一个少年如何将负责导弹发射的计算机误认为是俄罗斯人在进攻。

让我们想象一下，我们听到疾驰逼近。 我们的第一个结论是它是一匹马，9 次中有 10 次我们是对的。 但是，总有可能是从动物园逃出来的斑马。 医生、宇航员和飞行员接受了关于斑马的严格培训，知道如果出现异常情况该怎么做。 人工智能模型在训练时考虑到了马匹。

类似于 ChatGPT 使用的模型基于其知识库中的现有信息。 信息重复的次数越多，它赋予的可信度就越高。

由于保存所有可用信息需要大量存储空间， 它只保存相关的内容，然后根据要求使用统计上看起来最相关的结构重建它. 因此，很多时候我引用不存在的参考文献只是因为从统计上讲，很可能有一份具有该标题的文档包含该内容。

关于斑马和不叫的狗

你还有什么要提请我注意的吗？
-晚上狗的奇怪事件。
- 狗在晚上什么也没做。
这就是奇怪的事件。

阿瑟·柯南·道尔爵士

人工智能系统的另一个风险是它们不做什么。 这也是要记住的重要一点。

在 XNUMX 年代，一位澳大利亚医生推测，最常见的溃疡原因是细菌。 由于他没有出色的履历，他们一直嘲笑他，直到他被证明是正确的。 与许多其他科学发现（行星自转、休息越多、工作效率越高）一样，它们与当下的智慧背道而驰。

但是，智能模型是基于当下的智慧。 在那些达成共识的知识中。 正如冷冻技术、汽车和快递增加了肥胖人数一样，人工技术工具的可用性也会让我们成为懒惰的知识分子并扼杀创新。

如您所见，除了害怕被机器奴役之外，还有很多事情需要担心。 而且我们仍然不谈论源代码的访问和用户的隐私。