军事评论

杀手机器人震惊了Ilona Musk甚至一百多名专家

49



自主 武器 或者通过自主武器系统(AWS),军事专家提到他们自己做所有事情的武器类型:既可以找到目标,也可以在没有人为干预的情况下完成任务。 其中最着名的,迄今为止仅在科幻电影和书籍AWS上被认为是所谓的“杀手机器人”。

伊隆马斯克和其他一百多名机器人专家在公开的联合国警告信中写下致命机器人的致命威胁。 麝香,穆斯塔法·苏莱曼,AI-公司的创建者DeepMind技术,现在谷歌的一部分,甚至从114 26国家的专家警告说,联合国在AWS军备竞赛可能打开了潘多拉的盒子,这是能够引起人类很难预测,危害极大。 他们要求禁止自主武器系统的开发和实施。

所有签署者都精通这个问题,因为他们在人工智能(AI)领域工作。 他们相信,发达国家的机器人 - 杀手军队的装备对于军事事务具有与发明火药和核武器相同的意义,他们称之为军事上的第一次和第二次革命。 他们相信,AWS将是第三次革命。

“在被提升到高水平之后,自主武器系统将导致军事冲突达到人类尚未看到的程度,”一封集体信件说。 - 而且,它会以极快的速度发生。 AWS可以成为一种恐怖武器,一种暴君和恐怖分子将对平民使用的武器......“

这封信的作者警告说,一种假想的武器可以在没有人为干预的情况下杀死人。 当从小说的范畴,这将是一个残酷的现实,并为解答各种复杂问题的搜索,从这样的系统的安全管理,并造成致命的机器的“铁”残酷和不可预测性的道德和伦理问题,结束了一天。

马斯克与支持者分享他对AWS人类危险的立场,强调没有时间进行反思和讨论,并且必须立即采取行动。 “我们只有很少的时间,”他们写信给联合国。“一旦Pandora的盒子打开,就很难关闭它。”

写一封公开信的时间不是随机选择的。 专家们希望与国际人工智能会议(IJCAI)墨尔本工作的开始同时进行。 本应于8月21周一开放,但联合国决定将其移至11月。

在一封公开信的最后,Ilon Mask和他的同事呼吁联合国加倍努力,在11月之前制定一项战略,以保护地球免受杀手机器人袭击。

在此之前,马斯克本人曾警告人工智能作品的危险性,因为基于它的系统可能会失控。 与此同时,带电动马达的特斯拉汽车已经以无人驾驶模式在美国的道路上行驶,这并非毫无意外。
作者:
原文出处:
http://expert.ru/2017/08/21/ilon-mask-protiv-robotov-ubijts/
49 评论
广告

订阅我们的 Telegram 频道,定期获取有关乌克兰特别行动的更多信息,大量信息、视频以及网站上没有的内容: https://t.me/topwar_official

信息
亲爱的读者,您必须对出版物发表评论 授权.
  1. MadCat
    MadCat 26 August 2017 06:40
    +4
    很快,将对ISKINs进行审判,将其撤职,并在低温清洗机中入睡,以防误杀这些行走的肉块 笑
    1. kotische
      kotische 26 August 2017 07:44
      +5
      更有可能的是,四处走动并干扰伊斯基纳州道路转向的肉块将成为“法官”! 舌
  2. Razvedka_Boem
    Razvedka_Boem 26 August 2017 06:48
    +8
    R. Sheckley在这个问题上有一个很好的故事-Birdwatch。
    您可以回想起S. Lem和他的Iyon Tychy在月球上的日子,在那里军事训练场被带到了月球,武器的演变在AI的监督下进行。 结果是纳米武器。 同一作者在nf中描述得很好 无敌的小说。
    1. kotische
      kotische 26 August 2017 07:53
      +2
      哪位科幻小说作家是第一要点! 但是历史知道两位先驱提出了“三种扎科夫机器人技术”。 的确,他们互相“指责作者”。
      引用维基:
      1939年,艾萨克·阿西莫夫(Isaac Asimov)开始写他的第一个关于机器人的故事,这个故事是“罗比”(生于罗比)。 1941年,阿西莫夫(Asimov)撰写了一个有关可以读懂思想的机器人的故事“骗子”(英语为Liar!)。 著名的机器人三定律开始出现在这个故事中。 阿西莫夫将这些法律的作者归因于约翰·W·坎贝尔,他在23年1940月XNUMX日与阿西莫夫的一次对话中制定了这些法律。 坎贝尔说,这个想法属于阿西莫夫,他只是给了她措辞。 在同一故事中,阿西莫夫(Asimov)创造了英语中包括的“机器人学”(robotics)一词。 在将阿西莫夫(Asimov)译成俄文时,机器人技术也翻译为“机器人”,“机器人”。

      下一个故事书“我,机器人”是幻想世界的经典!
      1. Zheleznostop
        Zheleznostop 26 August 2017 09:08
        +4
        关于霍比特人的幻想,elfofv。
        1. kotische
          kotische 26 August 2017 11:06
          +1
          您说得对,我已概括了这些概念。 如果指定类型,则-科幻小说。
          顺便说一句,您的昵称与R. Tolkin“ sherstolap”类似! 笑
          别被冒犯!
    2. voyaka呃
      voyaka呃 26 August 2017 12:43
      +8
      不管Shekli是第一个,不是Shekley,但这一次已经到来。 比预期快得多。
      和马斯克一样,也不白费心思。 他是少数有远见的人之一。
      1. 樱桃九
        樱桃九 26 August 2017 13:35
        +7
        Quote:voyaka嗯
        他是少数有远见的人之一。

        什么是点?

        信文

        https://futureoflife.org/autonomous-weapons-open-
        信-2017

        假设联合国的圣人说(基本上,我会提醒,包括盗贼,食人族和专业撒谎者),终结者是ah-ah-ah。 所以呢? 例如,以色列立即关闭商店? 真主党呢?

        马斯克,谷歌和来自旧金山的所有其他帮派似乎都决定再次以做爱笔记小偷的形式晋升。
        1. voyaka呃
          voyaka呃 26 August 2017 19:00
          +1
          来自旧金山的一帮水决定了我们明天都拥有什么技术。
          他们不能禁止任何技术方向,但可以迫使政客提出立法,将这种方向提前引入某个框架。
          例如,不可能禁止开发新的毒药,但是任何人都清楚,不能以化学武器的形式使用新的毒药。
          1. 樱桃九
            樱桃九 26 August 2017 19:20
            0
            Quote:voyaka嗯
            例如,不可能禁止开发新的毒药,但是任何人都清楚,不能以化学武器的形式使用新的毒药。

            还有什么还没有被禁止以钝器的形式使用凳子呢? 真讨厌。 应该禁止它。

            还是这里的NURSy。 是否可以禁止炮弹NURSami,例如Sderot? 这是因为他们正在炮击他,是因为联合国没有将这一方向引入某个框架吗? 我应该写信给谁?
  3. vladimirvn
    vladimirvn 26 August 2017 08:09
    +7
    由公关叔叔决定。 看起来他身体状况不太好。
    1. 笑大师
      笑大师 26 August 2017 13:33
      +3
      它只是提前删除竞争对手。
    2. saturn.mmm
      saturn.mmm 27 August 2017 08:08
      +3
      引用:vladimirvn
      由公关叔叔决定。 看起来他身体状况不太好。

      事情进展顺利。
  4. 解决Oparyshev
    解决Oparyshev 26 August 2017 08:48
    +2
    这个话题是相关的,但是进步是无法阻止的,如果无人机力争变得庞大,那么没人会取消它。另一个问题:精英们会通过无人机将自己与无人机隔离开来,并通过铁兵和破甲部队与人民进行虚拟战争。准备一款直升机将与您战斗的游戏。
    1. igordok
      igordok 26 August 2017 09:11
      +1
      引用:p-k Oparyshev
      如果是无人机 寻求 要大规模,那么没有人会取消。

      即 无人机将创建类似的无人机。 追索权
      1. 解决Oparyshev
        解决Oparyshev 26 August 2017 13:46
        0
        为什么会这样呢?几十年来,这种VO已经盖过印章,一如既往地准备参加上次战争。
      2. yehat
        yehat 28 August 2017 10:52
        +1
        不,他们会学会像蝇一样繁殖:)
  5. Moryarty
    Moryarty 26 August 2017 09:29
    +1
    AI带来三大威胁:
    1)最有可能的威胁是独裁者和恐怖分子有可能使用这种机器人。 机器人无情,无论执行多么残酷,都可以简单地执行任何命令。
    2)AI正在失去管理者的控制权,并且停止它非常困难。 但这是最不可能的情况。
    3)在不久的将来很有可能。 机器人将取代工人以及警察和士兵。 任何不满都会被残酷镇压(机器人不知道可惜)。 结果,少数富人将控制整个世界,并消灭那些在不敏感的机器的帮助下不同意的人。
    1. 笑大师
      笑大师 26 August 2017 13:41
      0
      到目前为止,已经引发了原始威胁欺骗和随后的恐慌。
    2. 樱桃九
      樱桃九 26 August 2017 13:46
      0
      Quote:Moryarty
      一堆富人将控制整个世界

      犹太复国主义职业政府发布666.1488 beta测试。

      到目前为止,独裁统治,种族灭绝和其他流行娱乐在非常低的技术水平上都非常成功。 纳根牵手走!

      Quote:Moryarty
      最可能的威胁是独裁者和恐怖分子有可能使用这种机器人。


      碰巧的是,对这些人来说,他们深深地陷入了面具和联合国
  6. andrewkor
    andrewkor 26 August 2017 09:31
    +3
    他们对炸药,机关枪也有同样的想法,只有核武器仍然在某种程度上证明了希望!
  7. 鲍勃57
    鲍勃57 26 August 2017 10:44
    +2
    来自俄罗斯的美国热爱合作伙伴!
    1. 格林伍德
      格林伍德 26 August 2017 15:53
      +12
      是的,合作伙伴真的很害怕!
  8. 自由风
    自由风 26 August 2017 11:10
    +1
    现在他走路真傻了! 标头已成为.........
  9. 叶夫根尼·斯特林金
    叶夫根尼·斯特林金 26 August 2017 14:33
    +2
    这一切都大惊小怪,将“ Mask”这个名字推到了所有难以接近的裂缝中。
    1. tforik
      tforik 26 August 2017 16:39
      0
      好吧,当有人要推的时候
  10. tforik
    tforik 26 August 2017 15:44
    +3
    明智的家伙是埃隆·马斯克(Elon Musk)。 遗憾的是,我国没有这样的道路。
    1. kotische
      kotische 26 August 2017 16:50
      +9
      伊隆·马斯克(Elon Musk)-聪明吗? 扎绳
      但是您所说的“在我们国家没有这样的道路”的说法更让我感到困扰! 我立刻得到了“克隆面具人群沿着粉刷的平行公路奔跑的人群”的联想! 眨眼 笑
      1. vadim dok
        vadim dok 26 August 2017 18:38
        +1
        记住Zvorykin,Sikorsky,Brin和许多其他人!
      2. voyaka呃
        voyaka呃 26 August 2017 19:08
        +9
        “伊隆麝香-明智吗?” /////
        ---------
        在这里,我同意你的看法。 称面具为“明智”是如何称呼查里亚宾为“好歌手”。
        Falcon-40发射了9架,其中第一阶段返回时发射了15架,其中今年发射了1架(Roscosmos-12)。 明智的家伙。
        1. 瓦迪姆 237
          瓦迪姆 237 26 August 2017 20:39
          +1
          只是这个人在正确的方向,正确的时间和正确的地方开始做事,这正在迅速发展。
          1. 樱桃九
            樱桃九 26 August 2017 22:13
            0
            Quote:Vadim237
            那家伙只是在正确的方向,正确的时间和正确的地方开始做生意。

            不太“简单”。
            在导弹方面,麝香是猎鹰9号和轨道ATK的Antares之间的区别,后者是在相同的任务下同时创建的,旨在获得更多的资金,并拥有更大,更富有经验的公司。
        2. yehat
          yehat 28 August 2017 10:56
          +3
          这是面具的优点吗?
          我认为这是NASA的一项优点,即为其提供资金,慷慨分享其经验并训练有素的人员
          我个人认为马斯克是一位才华横溢的公关经理,仅此而已。
          1. 樱桃九
            樱桃九 2九月2017 20:15
            0
            Quote:是的
            我认为这是NASA的一项优点,即为其提供资金,慷慨分享其经验并训练有素的人员

            再一次。
            商业补给服务程序可以使用多个SpaceX。 而且SpaceX的表现要比其他人好得多。 那是区别。 优点是面具(Mask)或马斯克(Musk)雇用的人,即 还是要蒙面。
            在这一计划下,美国人将拥有一个安塔雷斯,而第二个则是他-发射业将发生根本不同的调整。
  11. 迈克尔·兹韦列夫
    迈克尔·兹韦列夫 26 August 2017 19:22
    0
    这些设备让人想起地下室的流氓涂过的“空气薄饼”。 笑
    通常,此类设备确实非常危险,并且技术的发展使它们更易于访问。 例如,很可能将常规的无人机,带面部识别功能的手机,枪支和一些炸药,几十个甚至上百个这样的设备放到伦敦某个地方的屋顶上,然后在高峰时间放手狩猎。 奖励-认不出黑脸,拍摄大多会变亮。 微笑
  12. 波波维奇
    波波维奇 26 August 2017 20:33
    0
    伊隆·马斯克-终结者4(精简版)
  13. 德卡波列夫
    德卡波列夫 26 August 2017 22:16
    +4
    马斯克只说了所有人都清楚的那句话。 而且,通常,这就是PR。 同样,许多人想禁止核武器。 结果为零。 任何人都不拥有核武器,只是因为其制造需要非常严重的资源。 恐怕无人机和其他全自动武器不会有这样的问题。 基本元素越来越便宜。 同样,从民用领域窃取或改编的软件也很有可能。 也许我错了。 让专家纠正。
    1. 迈克尔·兹韦列夫
      迈克尔·兹韦列夫 26 August 2017 22:53
      0
      我根本不是专家,但是对我来说在技术上似乎并不困难:他们已经知道如何识别人的脸和身材,已经可以使用无人驾驶飞机,可以很容易地配备发射装置和少量炸药以自行引爆以消耗弹药。 2015年,一名学生用手枪制造了一架无人机。 https://www.youtube.com/watch?v=c5zFyJyTIBw
  14. Oleg7700
    Oleg7700 27 August 2017 18:37
    +2
    正如历史上屡屡发生的那样,当前的“预测和恐惧”可能类似于“科学的”预测,即“由于将马粪从街道上清除掉的问题,城市公共交通的发展不可能达到一定的极限”,而真正的危险则完全不同。 。 至于以色列的学说:“……如果情境意识与在同一时间间隔内做出回应的能力没有联系,仅凭情境意识是不够的。由于目前这些时间间隔只有几秒钟甚至几分之一秒,因此一个人的能力会产生局限性。因此,“火篷”的概念包括自动响应和态势感知的发展。” Elbit Systems的第二代Tzayad(数字陆军)系统将成为将所有这些结合在一起的主要要素,“关闭电路”,工作如火如荼,没有所谓的“公众关注”,没有顾问:-好不要手拉手...
    1. voyaka呃
      voyaka呃 27 August 2017 23:27
      +3
      “包括自动响应和态势感知的开发” ////

      这是麻烦的一半... 追索权 问题是带有自学习软件的情境感知设备将自动响应。 即
      由自己而不是由人工程序员(逐步根据情况)编写的软件。 上帝知道机器人将为自己编程的内容。 这就是技术大师警告的内容。
      1. Oleg7700
        Oleg7700 28 August 2017 00:08
        +1
        物流和人工智能为以色列大师提供了一些工作。 “你想生活;
        1. voyaka呃
          voyaka呃 28 August 2017 10:30
          0
          以色列当然会处理这个问题。 当然要加强军队。
          而且,正如我想的那样,以色列公司将获得
          AI很多钱。 但是加利福尼亚仍然有天气。
          他们在新闻界很吵。
  15. 列昂尼德·哈尔
    列昂尼德·哈尔 28 August 2017 04:37
    +1
    埃隆·马斯克(Elon Musk)警告所有人注意人工智能的危险,但他仍在继续发展人工智能。 真奇怪。 是不是?
    1. voyaka呃
      voyaka呃 28 August 2017 10:26
      +1
      发展势不可挡。 当然,硅谷的公司和
      西雅图-位于最前沿。 但是很自然地,他们警告可能
      自身发展的后果。 第一次,人们很清楚人工智能的存在,它已经被开发出来,并且是一种武器。
      事先考虑这方面的立法并不愚蠢。
      1. yehat
        yehat 28 August 2017 10:58
        0
        有什么可以阻止对权力和利润的渴望?
        人工智能是提取所有这一切的一种手段,没有道德标准可以阻止恶棍。
  16. DimerVladimer
    DimerVladimer 28 August 2017 15:22
    +1
    人工智能按照既定程序行事并受其局限性是一回事。
    当提供自学习的可能性时,另一件事是编辑不受道德计划任何限制约束的代码。
    专家们正试图警告-人类用自己的双手终结了命运。

    随着采矿场的出现(用于加密货币结算的计算能力),不受政府控制的大量分布式计算能力将变得相对易于AI使用。
  17. Mestny
    Mestny 29 August 2017 00:13
    0
    Quote:voyaka嗯
    事先考虑这方面的立法并不愚蠢。

    确实是的。 事实证明,就像原子武器一样,它们没有时间庆祝对整个人类的完全优越,因为它首先出现在另一个国家,然后出现在随后的国家。 我不得不说服“不散布”了很长又乏味。
    有必要,除特殊国家以外,迫切有必要禁止其他所有国家。
  18. ML-334的
    ML-334的 29 August 2017 06:27
    0
    造物主悖论通过“上帝的诫命”计划创建了我们的生物机器人-我们是否实现了它们?这个和那个想像我们的上帝会受到惩罚吗?顺便提一下,他清理了多少种文明?
  19. solovald
    solovald 30 August 2017 06:45
    +1
    一切都遵循伯德伯里《鸟类观察》中的脚本