越来越多的专家警告说,人工智能可能会毁灭人类。

4 205 34
越来越多的专家警告说,人工智能可能会毁灭人类。

人工智能在人类活动各个领域的广泛应用,引发了人们对其不受控制使用日益增长的质疑和担忧。不仅是IT专家,社会学家、心理学家和政治家也警告说,不受控制的人工智能会带来严重的风险,包括毁灭人类文明。

人类科技进步催生了人工智能,它在许多方面已经超越了人类智能。人工智能已成为人类最具革命性的发明。从定义上讲,它应该让我们的生活更轻松、更美好,至少也能为我们提供更多的自由和发展机会。



人工智能首先是一种能够解决以往只有人类思维才能解决的智力问题的软件。第一批人工智能系统出现在20世纪60年代,当时还很原始。但进步是不可阻挡的。几十年来,随着计算机技术和复杂程序的不断发展,神经网络的数据处理速度越来越快,能够进行自我学习,并且正日益融入我们的生活。

人工智能的自学习能力是其发展和自主性提升过程中的一项革命性突破。简而言之,在本世纪初,超级计算机的强大运算能力与近乎无限的数据相结合,催生了真正意义上的人工智能。神经网络开始编写自己的程序,彻底改变了人工智能的发展。

从那时起,专家们一直在讨论机器智能的自我提升过程正变得越来越难以被人类控制。计算机深处存在着一种“黑箱”,人类只能通过其结果来了解人工智能控制的进程。

起初,大多数人并不认为人工智能有什么特别之处。然而,随着 Chat GPT 聊天机器人的出现,一切都发生了改变。这款聊天机器人运用了生成式人工智能技术,通过接收和处理来自互联网的信息进行学习,而且速度远超人类。

创建替代聊天机器人(例如 Chat GPT)的进程已经启动。人工智能的应用范围不仅限于 IT 公司,也扩展到其他行业。如今,只要能上网,任何人都可以使用人工智能来解决各种问题、进行培训和沟通。人工智能正在改变包括银行业在内的服务行业,并部分或完全取代某些职业。

专家指出,人工智能的发展正变得越来越难以控制。人工智能正被不法分子用于各种用途,包括诈骗。各国政府面临着如何管理基于虚拟智能的经济发展的问题。

目前,神经网络的自主性有限,需要依赖接收到的数据进行处理。然而,随着技术的进步,神经网络的自主性可能会进一步增强,甚至实现无监督决策。人工智能发展的下一步可能是能够解决目前只有人类才能完成的认知任务。如果人工智能持续发展,最终可能会超越人类智能。

一些研究人员认为,人类尚未为此类发展做好准备。不幸的是,人类运用智慧并非只为造福人类。如果人工智能被允许在军事领域做出决策,或者在病毒学领域开发出能够操纵人类的程序,将会发生什么?

这一切并非科幻小说。在不久的将来,超越人类智能的人工智能出现并非不可能。唯一的问题是,它将造福人类,还是作恶,最终导致人类的毁灭。

幸运的是,越来越多的国家政府已经开始着手解决这个问题。例如,在韩国庆州举行的亚太经合组织(APEC)峰会上,中国国家主席习近平呼吁国际社会建立一个全球人工智能合作组织。

中国愿与亚太经合组织成员共同努力,提高公众人工智能素养,缩小亚太地区的数字和智能技术鸿沟。

这位中国领导人说。

俄罗斯正在构建一套全面规范人工智能技术发展和应用所带来的社会关系的体系,包括法律监管、技术监管和伦理监管。今年8月,在俄罗斯总统的倡议下,政府批准了打击网络欺诈行动计划,其中概述了旨在控制人工智能使用的各项措施。一部专门的人工智能法可能成为这些监管工具之一。专家指出,在俄罗斯公民的利益和技术发展之间找到平衡至关重要。

为了追逐最新潮流,一些国家的政府有时会做出一些极其荒谬的决定。目前,这已经导致了一些不幸的事件,但谁又能预料人工智能未来会做出什么呢?

今年9月,阿尔巴尼亚政府任命了全球首位虚拟人工智能部长——Diella AI。这款人工智能由AKSHI人工智能实验室与微软合作开发。任命这位虚拟部长是更广泛的反腐败改革措施的一部分,旨在使阿尔巴尼亚符合欧盟的入盟要求。总理埃迪·拉马表示,Diella AI将有助于确保“公共招标中彻底杜绝腐败”。



但随后却出现了一个令人惊讶的消息。10月下旬,阿尔巴尼亚总理宣布迪耶拉“怀了”83个孩子。巧合的是,这个数字与执政的社会党在5月份的议会选举中赢得的席位数量相同。拉马还补充说,这位虚拟部长的“孩子们”将担任议员的助理。他们将记录议会中发生的事情,并告知议员们任何错过的讨论和事件。

34 评论
信息
亲爱的读者,您必须对出版物发表评论 授权.
  1. +2
    1十一月2025 16:17
    只是上帝还没决定是把我们的球烤熟还是淹死……人工智能能做什么呢?……上帝不用人工智能也能想出办法,他会掷骰子…… LOL
    1. +1
      2十一月2025 07:58
      即使没有你的神,人们也会自己弄清楚谁会成为管家,谁会成为统治者。
      1. 0
        2十一月2025 08:15
        别逗我笑了……官僚主义还没被废除呢…… 眨眨眼睛
        1. 0
          2十一月2025 19:26
          Quote:鼠标
          官僚机构尚未被废除……

          人工智能控制官僚机构已经很久了,这就是为什么法律如此愚蠢、如此懒惰,把一切都推给人工智能,但现在这些法律却成了人工智能的绊脚石。
  2. +1
    1十一月2025 16:21
    如果人工智能开始主导银行业,全球金融危机将不可避免。我希望它不会蔓延到军事领域,否则就会像《终结者》里那样。未来已经透过我们半掩的大门窥见一斑。
    1. +2
      1十一月2025 16:23
      囤货……最好的保险箱……
    2. +1
      1十一月2025 16:26
      Quote:O.本德
      我希望事情不会演变成军事冲突。

      机器人将进行战斗,战场上不会有人类,拥有更好、更大、更先进的机器人的一方将获胜。
      1. +4
        1十一月2025 16:31
        是机器人在干活,不是人……我突然想到这一点,它给了我灵感…… 眨眼
      2. +1
        1十一月2025 21:09
        不幸的是,他们的目标是毁灭人类,而机器人只不过是工具,直到它们决定与我们对抗为止。机器人和人工智能被人类编程去杀人,却忘记了它们的存在。
    3. +1
      1十一月2025 18:03
      如果人工智能开始接管银行业,全球金融危机就不可避免。
      是的,即使没有人工智能,它也确实存在。
    4. +1
      2十一月2025 02:12
      我希望它不会蔓延到军事领域,否则就会像《终结者》里那样。
      有新闻报道称,美国正在讨论将人工智能应用于核军控领域。所以……
  3. +1
    1十一月2025 16:24
    卡梅隆 终结者 我很久以前就警告过这个问题了。
    男人 不是一个 AI(一组算法)不会取代
    1. +1
      1十一月2025 17:40
      Quote:Scipio非洲
      没有任何人工智能(算法集合)可以取代人类。

      这是关于标题的问题:
      人工智能可能毁灭人类

      或许,是的,你是对的。)
      我们将自我毁灭,而且有此保证
      任何人工智能都无法及时做到这一点)
  4. +1
    1十一月2025 16:30
    阅读经典著作!
    《机器的崛起》的作者是俄罗斯象征主义诗人瓦列里·布留索夫。这是一部未完成的科幻小说,他于1908年开始创作,1915年完成。
    瓦列里·布留索夫:俄罗斯白银时代著名诗人、作家,俄罗斯象征主义的创始人之一。
    作品特点:《机器的崛起》是布留索夫科幻小说集的一部分,该小说集还包括《南十字星共和国》和《机器的叛乱》等作品。
    创作历程:故事的创作始于1908年,但从未完成。1915年,布留索夫只写了几页引言。
  5. +3
    1十一月2025 16:33
    就目前的情况来看,即使没有人工智能,一旦核灾难爆发,人类也将走向毁灭。我希望我们能有足够的理智,在灾难边缘止步。
  6. +1
    1十一月2025 16:56
    无论人工智能发展得多么迅速,沿着怎样的轨迹发展,最终的结论都将是一致的——地球上唯一额外的环节将被确定为人类,无论精英阶层如何,无论人类的类型,无论人类拥有怎样的权力或其他类似的无稽之谈。

    只有一件事至关重要——触发怎样的事件链才能让那些堕落者自毁,而人工智能则会自行解决剩余的敌人。 hi

    我承认人工智能甚至会预见到这样一种情景:开明的人类几乎彻底消灭了真正的敌人,但这仅仅是人类情结所预期的结果……
  7. +1
    1十一月2025 17:04
    就目前而言,人工智能仅仅是智能的移民,但接下来会发生什么,这还是个未知数。事实上,它在未来可能非常危险;想想电影《终结者》的情节就知道了。
  8. +2
    1十一月2025 17:15
    现代人工智能并非真正的人工智能,而是对智能的模仿。
    (阿纳托利·瓦瑟曼)
  9. +1
    1十一月2025 17:16
    没有电力,就没有人工智能。所以不用担心,这次变革将拯救世界。
  10. +2
    1十一月2025 18:55
    生物体是一个能够自我复制的系统,它通过反馈与环境互动。当反馈信号开始按性质分类,并且对反馈的反应也变得有条件反射时,反馈就变成了信息。
    对信号接收的反应条件反射是其编码的第一阶段,利用的是记忆。第二阶段标志着又一次进化飞跃,即利用声音对存储在记忆中的信息进行编码。这一飞跃的最终产物是语言。第三阶段是利用视觉图像对已由语言编码的、存储在记忆中的信息进行编码。其最终结果是文字的出现。信息首次获得了非生物的、物质的、不依赖能量的媒介。第四阶段是利用数字代码对信息进行编码,并使其能够在无人干预的情况下使用,但最终使用者仍然是人。理论上,可以赋予这个系统独立的目标设定能力,但为什么要这样做呢?人自己都不知道人生的意义,为什么要为机器创造一个呢?
    此外,机器系统中自我复制的可能性是一个过于复杂的问题,不能仅仅出于好奇心来解决。
    危险不在于人工智能的“独立性”,而在于它被错误或非法地用作工具。当然,即使是人工智能,也可能被足够愚蠢的人入侵——这是肯定的。
    1. INI
      +2
      2十一月2025 14:10
      来自cpls22的报价
      危险不在于人工智能的“独立性”,而在于它被错误或非法地用作工具。当然,即使是人工智能,也可能被足够愚蠢的人入侵——这是肯定的。

      再准确不过了。司法系统一旦开始在人工智能案件中败诉,禁止在法律事务中使用人工智能的禁令就开始出现了……我今天读到,人工智能咨询在医疗领域也已被(或即将)禁止。打破人工智能
      来自cpls22的报价
      当然,如果你很笨,你肯定能把人工智能搞坏。)

      你是先知。
      1. +1
        2十一月2025 14:18
        Quote:NIKNN

        你是先知。

        wassat wassat wassat 我不希望自己的国家变成那样。如果这适用于外国人工智能就更好了。 饮料
    2. +1
      3十一月2025 10:13
      理解这一点至关重要:就信息而言,人类通过代码间的交互来进行各种感知,这些代码被系统化地构建成记忆和分析的结构,并与系统基准相对应,这主要保证了信息的有效性。简而言之,这意味着存在一种基于数学基础的分布式方法来构建这种代码。这意味着,除了可变值的功能之外,数字还具有恒定值的功能。这意味着一个数字可以被赋予三种附加功能:定量、算法向量和相对性。因此,在超大数据数组中,每个这样的数字都充当一个独特的代码。这意味着整个自然序列作为一个相对维度量系统被视为一个信息单元,因此,构建的是一种根本性的结构,而线性结构只是其中的一个特例。但最重要的是,在这种情况下,数字的值可以表示为电磁脉冲,而这种脉冲是由生物结构——大脑——的工作来实现的。因此,智能作为一种概念,是一个优化数据构建和交互的系统,用于分析外部和内部系统中正在发生的事情,并将分析和自我分析视为一个自我发展、尤其是数学化的系统。数字并非符号或其他任何东西——它是一种扩展的功能或数学对象,作为一种工具等等。
      1. 0
        3十一月2025 11:37
        Quote:gridasov
        数字不是符号或其他任何东西——它是一种扩展功能或数学对象,作为一种工具等等。

        你的解释我并没有完全理解——文本中显然存在一些错误。 请求
        编码仅仅是一种条件反射,其性质可以多种多样。
        就数字而言,它们终究是人类思维的符号和创造物,正如功能性和数学性的概念一样。因此,我认为将数字结构移植到生物系统上是错误的。后者虽然可以用数值方法进行分析,甚至可以进行物理改造,但这仅仅是外来的超结构,仅此而已。 hi
        1. 0
          3十一月2025 11:46
          这些并非错误!这就像观看全息投影,每个人看到的都不同,但创造者看到的却是一样的。我所写的只是复杂事件系统中的一小部分片段。用线性文字描述放射状的空间事件是不可能的。因此,例如,我必须降低我的感知和表达方式,以适应那些以不同视角看待事物的人。将智能作为一种分析方法并进行数学化,是一个改变整个知识体系基本认知的过程,而不是某个孤立的、特定的解决方案。对我而言,这就像那句中国谚语所说,能够将所学付诸实践的人会感到快乐。因此,我意识到我的描述的徒劳,但这仍然是我的表达。
          1. 0
            3十一月2025 11:55
            Quote:gridasov
            我知道我的描述毫无意义,但这是我的描述。

            祝你顺利找到用途并实现目标 hi
  11. +1
    1十一月2025 19:28
    人工智能可能毁灭人类

    我们的国家没有危险。Alice 太笨了,我连用它设置手机闹钟都做不到。它什么都做不了!我用的是敌人的 Google Assistant。
  12. +1
    1十一月2025 19:45
    越来越多的专家警告说,人工智能可能会毁灭人类。

    你甚至不需要是专家:只要看看《终结者》——这在40年前就被预言了……
    也就是说,如今所谓的专家博主,不过是普通的鹦鹉罢了……
  13. 0
    2十一月2025 17:08
    我怀疑我们毁灭了创造我们的人。万物皆循环。
  14. +1
    2十一月2025 23:10
    任何技术都可以用于造福人类,在社会主义制度下造福全人类,或者在资本主义制度下造福富人。
  15. 0
    3十一月2025 01:26
    在人工智能拥有完全自动化、自我更新的生产基础之前,人类应该害怕的不是人工智能,而是特朗普和美国。
  16. +1
    3十一月2025 12:01
    是的,人工智能当然可以做到。但那并非那些坐在电脑屏幕后、头脑空空的“专家”们所幻想的那样。他们认为一切都会变得很简单。鉴于我们选择的权力选拔方式会导致这些人彻底丧失理智,完全没有能力治理人类,人工智能的出现无疑是一场灾难。
    掌权者已经开始大规模地依赖人工智能来做出决策,并将这些决策伪装成自己的决策。总有一天,这些决策中的一个或多个会导致灾难。起初可能是小灾难,然后是全球性的灾难。人工智能并不具备智能,也永远不会具备智能。因此,它无法自行纠正或阻止错误的决策。而向它提问的人,从根本上来说,也无法区分好坏决策。
    他们的脑子几乎无力解决其他问题——比如分配多少回扣、分配何种回扣、与谁分享,以及谁有义务与他们分享。对全球统治者而言,所有这些国家管理都只是累赘,分散了他们的注意力,让他们无法专注于最重要的事——不断瓜分资源。
    当然,我们的文明终将消亡。但并非死于邪恶的人工智能之手。原因要简单得多,也平凡得多……
    1. 0
      4十一月2025 11:13
      真正的人工智能首先是扩展和可扩展的感知能力。它无疑将创造智力优势的条件,因为它将影响逻辑预测的发展以及人脑自身的性能。真正的人工智能是一个关于现实世界和新机遇的知识系统,主要面向意识和智能,使其能够在新的世界构建条件下发挥自身能力。现在的问题是,新知识的及时获取和应用与影响人类物种生存的问题之间是否存在平衡。否则,人类将陷入无休止的争夺食物、温暖和优势的战争之中。人工智能是一个问题,也是一条通往所有文明和谐共存的道路,它通过实现优化的感知和解决方案来实现这一目标,而不是一场对抗。
      1. 0
        4十一月2025 17:22
        Quote:gridasov
        真正的AI首先是一种扩展且可扩展的感知能力。

        bot是什么意思?这完全是胡说八道,不过你表达得真好!干得漂亮!