| |
[ 2020/10/31 22:24 |     ty ]
点击在新窗口中浏览此图片
文:MOYASHI

国《卫报》上月刊登了一篇由 AI 书写的文章,内容是关于人工智能会否毁灭人类的问题。这个名叫 GPT-3 的 AI 告诉人类不需要担心,因为人工智能绝对不会危害人类,反而希望奉献自己,全心为人类社会服务。这篇文章意味着两个可能性:一是现阶段 AI 真的没有危险性,二是 AI 终于学会了说谎。

关于「人工智能说谎」的反思,从思想精神上而言,或可以追溯到19世纪末的儿童文学经典 ——「木偶奇遇记」的皮诺丘 (Pinocchio) 。皮诺丘是老木匠制作的一个拥有思想意志的木偶,但他品性顽劣,爱搞恶作剧,结果被妖精下了诅咒:每当说谎,鼻子便会变长。皮诺丘经历一连串的冒险,学懂了成熟的道德与品性,最后被妖精赐予人类的身体。

「木偶奇遇记」是一本道德教化童话,故事主旨是如何学习成为理想的人格象。作为非人的皮诺丘可理解儿童 (心智尚未成熟的人) 的隐喻,主题是儿童长大为「成人」的条件。另外19世纪的意大利正经历工业革命,大量乡郊的农民投身为工厂的劳工,现代教育与文明观念正在冒起。在这个大背景下,「如何成为文明国民」也是可能的解读方向。

当我们思考「AI 会否说谎」的时候,我们必须先回答的是「AI」的定义:到底 AI 是「无限接近人类」,还是「完美状态的人类」。人类会说谎,但完美无缺的人类不会说谎。如果 AI 是完美的机器,则不会说谎。「木偶奇遇记」中想像的人工智能 (皮诺丘) 学懂了不说谎,成为了完美的人类,所以同时超越了「人类」。如果 AI 能够说谎,则并不完美。它会无限地接近人类,但不会超越人类,不会成为相对上更完美的存在,充其量只会是聪明一点的人类。

我们对 AI 的想像,多数无法超越对自身的理解,无法超越「人类」的理想象。于是 AI 会被想像成拥有更高智能的人类,又将自己投射进去:如果我拥有这么强的能力,首先是征服他者。然而,很少人会想像,如果 AI 真的成为超越人类的存在,它很可能根本不想鸟这群智障的猴子。

你问问自己,你有想过要征服蚂蚁吗?

(撰文:MOYASHI @ CUP媒体)
Via 本站原创 | TY随笔 | 评论(0) | 引用(0) | 阅读(326)
分享到: