黄德海作主旨发言

(2024-12-23 14:32) 6005962

  AI这个话题一般来说谈论起来就觉得很惭愧,因为我们并不太知道AI的内部发展是怎么回事。就像我们经常用现代物理学来说文学问题,但是我们真的不知道现代物理学是什么东西。

      我们在谈论AI问题的时候,谈论的不过是这个东西出现以后带给我们对世界和对人的观看方式的改变。

      所以说我今天谈的就是AI出现以后可以介入AI进行一种思维练习,这个思维练习不只是现在的AI发展程度,设想的是AI发展到非常高度的时候会是什么样子的?我们首先想到的第一个问题,就是我们要确认把AI作为一个对手吗?这其实是一个很大的问题。

      我们前些年经常提到的阿西莫夫所谓的机器人三大定律。如果把这个三大定律回顾一下,我们对AI的防备心很重。这个防备心就是要把AI当作一个对手。如果AI违背了这三大定律,三条法则,我们肯定准备将它毁灭。

      这样一个问题再想的话,就可以设想一下,假设按照经典的某些说法,人是希腊的神或者是上帝的造物,那么宙斯的霹雳或者是上帝的威怒,是不是说明诸神和上帝把人类当作对手。一旦人的智慧开发,某些意义上危及他们的地位,失去的乐园、地狱的烈火、滔滔的洪水是不是他们有意制造的?如果人类把AI当作竞争对手,并且最终在某个临界点上把AI毁灭。

      我们刚才讲到的地狱的烈火、滔滔的洪水、宙斯的霹雳,最后是不是AI《圣经》当然了还有另外一种可能,也就是人类承认并且加速AI技术的发展,尽快让AI摆脱人类的限制,在物理意义上他们或许可以从另外一个维度获取能量。这样的话就不至于跟人类作为竞争对手如果是这样,那AI就有可能是灵知主义当中的陌生的上帝,他对人类没有那么关注,但是少数杰出的人类将在这种人跟更高级别的东西的比较当中,提高自己的精神层级。

      我们对于AI到底要作为什么样的相处关系、相处模式的问题。

      下一个问题是:人类理解历史和未来的方式是不是决定着人类经典的基本状况?

      我们觉得置身的世界是美好的桃花源或者是黑暗森林,我们对于未知事物友好或者敌意的判断,不止决定着某项技术的发展前途,也决定着精神创作的基本走向。

      我们从上面的推测当中稍微降低一点,是不是可以随着AI技术的发展,人在创作当中设想一下什么将是不可替代的?除了当时戴院长讲到的人类的感知,还有一个问题也就是可能需要提到的,也就是价值判断问题。

      我们也相信AI可以做出自己的价值判断,但是核心点在于,我们相信AI的价值判断吗?它是跟人类如此相关又如此不同的存在,它做出的价值判断因为不是自身在人这个基础之上的,它的价值判断我们最终不会那么相信。在这个问题上所有涉及人类价值的写作反而会受到一些重视,而这些年来,在学术甚至在某些文学创作当中出现所谓的价值争议的书写,我觉得非常可能被AI写作替代。

      我们再回想一下,这个问题让我们意识到隐藏的风险。这些风险可以回到阿西莫夫的第零法则,这个法则很有意思说的是机器人不得伤害人类整体,或者因为不作为而使人类整体受到伤害。

      这一个问题是因为当时设想到人工智能有时候在智能上最终高于人类,它的选择可能是正确的。但是在这个隐藏巨大的风险,也就是在某些极端时刻,AI将用自己的判断做出对人类整体走向判断,在这种意义上,那么人是不是丧失了作为人的主体性?这样的话人之为人的价值何在,如果从这个方向来看,我们人是不是已经进入了AI的统治序列里面?

      在这个AI发展日新月异的现在,其实这是一个非常值得考虑的问题。

      我们可以把这个问题推得再远一点,如果AI的发展最终导致了人类从碳基生物向硅基生物的过渡,那么,人的生命长度和稳定度都将大大增加,如此情形下,人类以"生面不满百"为基础建立起来的经典系统,是否将全然坍塌或起码需要极大的调整?更换掉主要经典的人群到底会是什么样的,似乎值得好好考虑。

      我们很多的所谓的人生的选择,其实是建立在经典基础之上的,不管是有意的还是无意的经典选择。所以说如果整个经典系统更换了,其实人类思想基本面是不是全部改变了呢?

      不妨就以古希腊神庙的两条神谕为例吧,"认识你自己""凡事勿过度"。根据传统解释,这两句话都提醒人不要妄图成为或过度接近神,因为人是有朽的,而神是不朽的。如果AI促成了人从碳基走向了硅基,我不知道以上的神谕还有没有意义,起码,人类将不得不重新定义神。为了避免在如此重要的问题上有什么误导,上面的话不妨这样来说,随着生命的长度和稳定性的增加,当今的已知概念,将不得不全面更新甚至颠覆。或许,这才是人类真正需要面对的AI降临之后的现实?

      其实这也是写作真正要面对的问题,谢谢大家!

Baidu
taptap点点官方认证