迷雾：数字世界中我们能否拥有自己？

两年多前在做 AO.space 项目期间，曾写了一篇文章《迷雾：我们是否拥有自己的数据》。

现在看来，随着 AI 的日益强大，平台对数据的吞噬和索取也愈发强烈，我深深感受到已经不仅是数据所有权的问题，而是在数字世界我们是否还能拥有自己，人类的发展是否会迷失在数字世界中？

因此，近期再次提笔写了这篇文章《迷雾：数字世界中我们能否拥有自己》，也由此开启个人、数据、系统的系列探讨。《迷雾》、《探索》、《田园》是作者关于个人、数据、系统的概述三部曲。这是第一篇《迷雾》。

何为数字世界

从 1946 年世界第一台通用计算机 ENIAC 诞生起，数字世界就像宇宙大爆炸一样在短短 80 年的时间内占据了我们的生活。根据英国广告从业者协会（IPA）发布的《TouchPoints》年度调查，英国成年人每天接近 7.5 个小时时间在屏幕中。这意味着除了睡觉，每天有一半时间在数字世界中生活。数字世界的扩张远远超乎我们想象！

相比于数字世界的爆炸式发展，现实世界可以说是停滞不前了：）。

各种各样的计算机（电脑、手机、服务器、智能设备、互联网平台）就是数字世界的承载体，连接着现实世界和数字世界。曾经，计算机被认为只是一个高级的计算器，手机只是座式电话的便携版、高级的大哥大，数字世界只是科幻小说里对未来幻想而已。

但随着新一代的 AI 在各个方面超越人的能力局限，不由得开始思考未来数字世界的主宰还会是人类吗？如果不是，那么在现实世界中，人类面对 数字 AI + 机器人 是否还能继续进化避免被淘汰呢？

数字世界中的智能

1950 年人工智能之父 阿兰·图灵 Alan Mathison Turing 的论文《计算机器与智能》Computing Machinery and Intelligence、1958年计算机之父 冯·诺伊曼 John von Neumann 的未完成的手稿《计算机与人脑》（The Computer and the Brain）都在让我们了解计算机科学先辈们对于机器智能的思考和观点。

图灵论文的经典话语之一是 'Can machines think?' I believe to be too meaningless to deserve discussion. （粗略翻译：我认为机器可以思考这个问题太没有意义了，没有必要讨论），并且就在论文中这句话的前面，图灵预测在 20 世纪末计算机通过编程就能够通过图灵测试，让审讯者无法区分回答问题的是人类还是机器。原文用的是 The imitation game (就是 2014 年卷福主演的经典电影《模仿游戏》的英文原名)，被后人称为图灵测试。

另外一个计算机科学家 Edsger W. Dijkstra（对，他就是经典最短路径算法 Dijkstra 算法的作者），在他的 1984 年的手稿《The threats to computing science》中也有一个“潜水艇”经典论断：机器是否能思考的问题就类似于潜水艇是否会游泳一样。

这种思考问题的方法被称为功能主义 functionalism 。其实这很适合于工程师，避免陷入哲学层面的深邃思考，让我们能够专注在问题的解决和技术的进步。

个人、数据、系统

现实世界中，从古代到现代，一直都是由个人、数据、系统来构建我们世界的发展演进。数据就是信息，从甲骨文到短视频一直都是数据的交流、进化促进着社会的发展、生产力的进步。系统就是社会、生态，让这个世界有机组成在一起演变。

数字世界中，依旧是个人、数据、系统。只是这里的信息完全解构为 0 1 数字。系统则由软件系统、硬件系统共同组成，也就是硅基世界。数字世界中的个人，可以理解为每个人申请到的各种账户，形成个人的数字镜像。

假象

只是数字世界中的个人，貌似是现实世界的个人数字镜像，但是实际上往往完全被系统掌控。更让人担忧的是，最近 AI 的力量让我们意识到，程序能够在数字世界中替代个人，数字世界中有没有个人（人类）看起来是个可选项。

近几个月 AI 技术的大幅提高以及穿插的各类公司裁员的新闻，AI 替代人类看起来已经不可扭转。

那么我们是否应该从整个人类发展的角度来思考 AI、忧虑 AI 呢？

拨开迷雾

既然我们是工程师，那么我们还是回到功能主义的方式来思考这些问题吧。

AI 对生产率的提升

AI 技术对生产率的提升确实是划时代的，就像汽车的出现对于交通效率一样。一个人 + AI 确实可以替代过去 2 个人、10 个人甚至需要更多人完成的很多类型的工作，所以这种技术进步短期内必然对现有工作有非常大的冲击。

• 但在担忧之前，请记得 AI 是工具，AI 是个人能力的放大器，AI 需要有人用好才能发挥更大的价值。
• 就像汽车出现，车夫不学会开车就被淘汰一样。AI 工具是需要学会使用的。

AI 对社会的影响

• AI 会提高社会生产力，科技有机会跨越式发展，社会经济水平会进一步提高。
• AI 正在进入各行各业的实际工作中，提高各行各业的生产效率。
• 不确定的影响是社会财富如何再分配，就像每一次生产力革命一样。（这句话是从导师那里学习到的）。

AI 是否会主导数字世界

• 目前不会，当前真正的威胁来源于系统（数据平台、AI 平台）背后的人。是否数字世界会完全被几个寡头通过 AI 所垄断？能否防止这种情况的发生？这些是现实问题，并且会影响国与国之间的发展竞争。
• 而且，现在的 AI 技术本质依旧是 token 预测，而非自主意图。无论 AI 做了多么复杂的工作，背后都是有人想让它这么做，是有人要用它这么做。所以另一种真实威胁是有人用 AI 的能力做坏事，或者有人滥用 AI 、做失控的事。

分享

拨开迷雾思考，我们面对的现实问题还是人的问题，自身能力的提升、人与人的关系、安全的防范。

近期自己也在学习并使用 AI 开发协作，形成一下经验供参考：

1. 基本原则：AI 只是工具，并且 AI 会犯错，可控的使用 AI
2. 绝不泄漏个人私人信息到 AI 平台
3. 持续学习提升自己能力和知识，这样用 AI 就会有更大的能力
4. 使用 AI 前，先确定自己想要什么
5. 使用 AI 时，对于自己不知道、不确定的信息
   • 要经过其他权威信息交叉确认才使用
   • 有需要补足的知识进一步学习理解
   • 难以理解的内容大胆丢弃
6. AI 协助编程
   • 生成代码前先确定测试用例、API 设计和文档
   • 逐行通读代码，时常发现意外惊喜：）
   • 对关键代码重点审核
   • 让 AI Review 代码，条件允许的情况下让两个不同 AI 工具交叉审核代码

AI 的狂欢终究会冷静下来，迷雾也会渐渐散去。但愿人类的未来依旧会掌握在人类手中，在这纷争的时刻，愿世界和平与自由！

作者备注：

• 此文章完全是个人撰写，没有使用 AI，也没有使用 AI 润色。作者认为这种方式在当今时代额外宝贵。
• 不同语言的文章会使用翻译工具基于原版文章进行翻译，并逐句校验。

参考链接

• [1]: COMPUTING MACHINERY AND INTELLIGENCE by A. M. Turing
• [2]: The Computer and the Brain by John von Neumann
• [3]: The threats to computing science by Edsger W. Dijkstra