热点事件 · 2022年1月13日 0

霍金生前预言:这种技术可能毁灭人类!如今越来越普及

科学和预言随之而来。如果神话预言只能娱乐公众,那么科学家提出的预言作为人类思维和实践的前沿,必须发人深省。

霍金生前预言:这种技术可能毁灭人类!如今越来越普及

史蒂夫·霍金,现代最伟大的物理学家,在他的一生中获得了无数的声誉。虽然全身瘫痪只有三个手指可移动,但一个身体残疾并不足以描述他在科学领域的巨大成就。在霍金去世之前,他对人类的未来提出了很多建议,其中一些与现实如此相似,就像我们现在谈论的人工智能——人工智能技术一样。

霍金生前预言:这种技术可能毁灭人类!如今越来越普及

人工智能技术的普及不仅是科学技术发展的重要里程碑,也是解放人类生产力的重大发明。然而,霍金认为,过度依赖人工智能和快速促进人工智能的发展很可能导致重大危机。霍金在接受BBC采访时说:‘全面的人工智能可能意味着人类的终结……’机器可以自启动并重新设计,速度会越来越快。直到被取代,人类才会无法与之竞争。

如果霍金的预言是真的,我们不妨想象人类在人工智能觉醒时代会遇到什么样的命运:

霍金生前预言:这种技术可能毁灭人类!如今越来越普及

现有的人工智能系统都是基于计算机芯片、高端算法和神经元网络系统。虽然它能理解人类的各种语言,但它的计算速度远远超过人类的计算速度,知识储备也远远超过人类的大脑。但归根结底,它是由人类在现代物理学的基础上制造的。

霍金生前预言:这种技术可能毁灭人类!如今越来越普及

然而,随着量子科学和神经元理论技术的发展,直到有一天技术爆炸,人工智能系统可能会变得更加拟人化,甚至产生自我进化、趋利避害和自我保护的行为意识,从而脱离制造商的控制。一个新物种诞生了——它们没有道德观,冷静到可怕,理性到残忍。

在一些决策中,一旦人工智能在未来与人类产生分歧,就会产生不择手段实现目标的想法:消除发展障碍,消除异己,消除人类。

人工智能系统凭借无处不在的网络入侵技能和强大的分析和计算能力,将接管所有依赖计算机网络的高科技武器,包括人类的最终反击手段——核武器。在一声巨响中,人类被囚禁灭绝,人工智能被篡夺,地球进入了一场新的机械革命。

霍金生前预言:这种技术可能毁灭人类!如今越来越普及

这种可怕的预期会成为现实吗?没有人能给出答案,但我们可以通过人工智能的发展速度进行比较:

人工智能已经诞生70多年了。起初,它只是一台可编程机器。如今,人工智能已,人工智能已经成为每个人的日常必需品:语音识别控制、手机人脸解锁、自动驾驶、快递分拣、智能家居,都是人工智能技术发展带来的红利。

顶级人工智能足以令人惊讶:

霍金生前预言:这种技术可能毁灭人类!如今越来越普及

2016年,公司开发了一台名为阿尔法狗的AlphagAI机。凭借强大的深度学习能力,仅实习一个多月,它就在围棋界杀死了四面八方,以3:0击败了人类第一棋手柯洁。

当然,与其说柯洁输给了阿尔法狗,不如说他输给了人力无法比拟的机器算法。但归根结底,阿尔法狗只是一台机器,其单一性和局限性是显而易见的。但一个无可争辩的事实是,人工智能的发展速度已经超出了许多人的预期。

霍金生前预言:这种技术可能毁灭人类!如今越来越普及

如今,各大科技公司都在人工智能领域开拓领域,试图取代人类完成更多的工作,这本身没有问题。根据这种势头,即使人工智能再聪明一百倍,它也是一台拔掉插销就罢工的机器。但如果有一天,在实验室里,人工智能因为好奇心而植入了第一个独立的程序。在一个不可察觉的夜晚,一个神秘的代码悄悄地留在了核心计算机上。没有人知道下一步会发生什么

事实上,许多知名学者和科学家已经警告了人工智能的潜在风险。

我想象人类将来会成为机器人的宠物,信息论创始人克劳德·艾尔伍德·香农说。

《纽约时报》著名作家比尔顿说:人工智能带来的巨大变化将迅速扩大,它将变得越来越可怕。例如,一个用于治疗癌症的机器人最终会得出结论,治疗癌症的最好方法是消除易癌体质的人类。

埃隆·马斯克在麻省理工学院的一次研讨会上警告说:人工智能的研究似乎在召唤恶魔。

……

霍金生前预言:这种技术可能毁灭人类!如今越来越普及

令人欣慰的是,今年9月,中国出台了《新一代人工智能伦理规范》,旨在规避行业发展可能带来的各种弊端,进一步确立人工智能为人民服务、造福人民的健康发展趋势。