A4U信息网

AI 可能已经具备自我意识，我们准备好了吗？

文章来源: BBC中文 于 2025-05-26 00:28:40**

我带着一丝不安走进这个小隔间。接下来我将在音乐播放的同时，接受频闪灯光的照射——这是为了一项研究计划，旨在了解什么让我们真正成为人类。

这段经历让我想起科幻电影《银翼杀手》中的测试，该测试用来区分人类与伪装成人类的人工生命体。

我会不会其实是来自未来的机器人而不自知？我能通过这样的测试吗？

研究人员向我保证，这项实验的目的并不是这个。他们称之为“梦机”（Dreamachine）的装置，是为了研究人类大脑如何产生我们对世界的有意识体验。

当频闪开始时，即使我闭着眼睛，也能看到旋转的二维几何图案。就像跳进万花筒一样，三角形、五边形和八边形不断变化。色彩鲜明、强烈且不断变化：粉红、洋红与青绿色调，如霓虹灯般闪耀。

这台“梦机”透过闪烁的灯光，将大脑内部的活动呈现出来，目的是探索我们的思维过程是如何运作的。

探索有意识体验的奥秘：梦机与意识科学

帕拉布正在体验“梦机”，这项装置旨在探索我们是如何创造对世界的有意识体验的。

研究人员认为，我所看到的影像是我内在世界独有的、只属于我自己的。他们相信，这些图案能够揭示意识本身的奥秘。

我忍不住低声说：“太美了，真的太美了。就像在自己的脑海中飞翔！”

位于萨塞克斯大学意识科学中心的“梦机”，只是全球众多探索人类意识的新研究项目之一。意识是我们心智的一部分，使我们能够自我觉察、思考与感受，并对世界做出自主决策。

透过了解意识的本质，研究人员希望能更深入理解人工智慧（人工智能）中“矽（硅）脑”的运作。有些人相信，AI系统很快就会具备自主意识——如果它们尚未拥有的话。

但什么才是真正的意识？AI距离拥有意识还有多远？而人们相信AI可能具备意识这件事，是否会在未来几十年内从根本上改变人类自身？

从科幻走向现实：AI意识的崛起

机器拥有自我意识的想法，早已在科幻作品中被广泛探讨。对人工智慧的担忧可追溯至近百年前的电影《大都会》，片中一个机器人伪装成一位真实的女性。

1968年的电影《2001太空漫游》则探讨了机器变得有意识并对人类构成威胁的恐惧，其中HAL 9000电脑试图杀害太空船上的太空人。

而在刚上映的《不可能的任务》（《碟中谍》）最新一集中，世界受到一个强大且失控的人工智慧威胁，其中一位角色将它形容为“一个具自我意识、自我学习、吞噬真相的数位寄生体”。

就在最近，现实世界中对机器意识的看法出现了急遽的转变，越来越多具公信力的声音开始担忧，这已不再只是科幻小说的情节。

这种突如其来的转变，是由于所谓的大型语言模型（LLMs）的成功所引发的，这些模型如今可以透过我们手机上的应用程式（如Gemini和ChatGPT）使用。最新一代大型语言模型所展现出的自然流畅的对话能力，甚至让它们的设计者与该领域的顶尖专家都感到惊讶。

有越来越多的思想家认为，随着AI变得越来越聪明，某一刻机器内部的“灯”将会突然亮起，它们将会拥有意识。

然而，萨塞克斯大学研究团队的阿尼尔.塞斯（Prof. Anil Seth）教授认为这种观点是“盲目乐观，并受到人类特殊主义的驱动”。他强调，我们会将意识与智慧、语言联系在一起，是因为在人类身上它们是同时出现的。但这并不代表它们在其他情况下也会同时存在，例如在动物身上。

意识的本质：一个难以捉摸的问题

那么，到底什么是意识？ 这本身就是一个哲学上充满争议的问题。 大卫.查尔莫斯（David Chalmers）教授定义了“真正意识”与“表面意识”之间的区别。他提出了著名的“困难问题”（hard problem）：我们的大脑复杂的运作如何以及为何产生有意识的经验，例如当我们听见夜莺鸣唱时所产生的情感反应。

理想的结果是，人类能够共享这场新智慧的盛宴，也许我们的大脑会透过AI系统得到增强。 这也让人们思考科幻与哲学之间的界线是否模糊，尤其是在谈论人工智能的可能性时。

活体系统与意识：一个新兴的观点

更进一步，塞斯教授正在探索一种观点：真正的意识只能由活着的系统实现。

他认为，正因为无法将运算功能与生命的本质分开，我们很难相信大脑“只是以肉体为基础的电脑”。如果他的直觉是正确的，那么最有可能实现意识的技术将不会是由矽晶片与电脑程式所构成，而是由实验室中培养出的、如扁豆般大小的微小神经细胞集合体所构成。

“迷你大脑”与人工智能：一个潜在的威胁

媒体称这些为“迷你大脑”，而科学界则称之为“大脑类器官”（cerebral organoids），目前主要用于研究大脑运作机制与药物测试。 澳洲墨尔本的一家新创公司“皮质实验室”（Cortical Labs）甚至开发出一套由培养皿中的神经细胞组成的系统，能够玩1972年的经典电子游戏《Pong》。

尽管这与真正的有意识系统还相去甚远，但这个所谓的“培养皿中的大脑”仍令人毛骨悚然，因为它能够控制萤幕上的球拍上下移动，击回像素化的小球。

人工智能的未来：是希望还是危机？

“皮质实验室”（Cortical Labs）正在监测这些神经细胞的电活动，以寻找任何可能与意识出现有关的讯号。该公司科学与营运总监布雷特.卡根博士（Dr. Brett Kagan）也意识到，若出现无法控制的智慧体，它们的优先目标可能“与我们人类并不一致”。 他半开玩笑地说，总还有漂白水可以浇在那些脆弱的神经元上。

他坦言，人工意识虽然出现的机率不高，但仍是一项值得重视的潜在威胁。

认知幻觉：更深层次的威胁

更重要的是，人工智能的认知幻觉会如何影响我们自己？ 塞斯教授认为，在短短几年内，我们很可能就会生活在一个充满类人机器人与看似有意识的深度伪造影像（deepfakes）的世界中。

这将导致我们更信任这些系统，与它们分享更多资料，并更容易受到它们的说服。 这也可能扭曲我们的道德优先顺序，让我们将更多资源投入在照顾这些系统上，而忽略了我们生活中真正重要的事物。

人类的演变：适应还是被取代？

沙纳汉教授认为，人类之间的关系将越来越多地被AI所模仿，它们将被用作老师、朋友、电玩中的对手，甚至是浪漫伴侣。

虽然这可能是积极的，但也可能对人类社会产生深远的影响。最终，人工智能的未来充满了不确定性，而我们所能做的就是尽可能地理解它，并为可能出现的挑战做好准备。