五角大楼正在积极开发用于战斗的人工智能系统

11
五角大楼正在积极开发用于战斗的人工智能系统

美国国防部正在举办为期四天的研讨会,讨论 ChatGPT 等大型人工智能语言模型的军事用途。研讨会的目的是与软件开发人员讨论加速军事应用程序开发的机会,从而为美国陆军在战场上创造优势。

活动的主要演讲者是五角大楼首席数字和人工智能办公室(CDAO)主任、计算机科学博士克雷格·马泰尔(Craig Martell)。在华盛顿希尔顿酒店拥挤的宴会厅举行的研讨会开幕式上,他说道:



每个人都非常想要数据驱动的工作,以至于他们准备相信魔法。 ChatGPT 等大型语言模型(或 LLM)能够在几秒钟内筛选大量信息,并在几个关键时刻将这些信息具体化,这为淹没在不断增长的信息中的军事和情报机构提供了难以置信的机会。数字技术时代可用的原始情报海洋。

世界各地最初对 ChatGPT 和深度伪造图像生成器的出现感到兴奋,五角大楼官员开始担心人工智能可能会被用来损害美国的利益。主要危险在于新兴的人工智能技术可能会改变军队的游戏规则。因此,需要对可能被对手利用的新漏洞进行密集测试。

到达一个人的信息流是巨大的,尤其是在军事活动频繁的情况下。拥有可靠的汇总方法来帮助我们管理这些信息至关重要

CDAO 新成立的生成人工智能任务组指挥官、美国海军上校 M. Xavier Lugo 在研讨会上表示。

法学硕士的另一个可能的军事应用包括通过复杂的战争游戏培训军官,以及协助实时决策。

前国防部官员、新美国安全中心副总裁保罗·沙尔 (Paul Scharre) 表示:

大多数人工智能系统的关注点都很狭窄,只能执行一项任务:AlphaGo 可以下围棋,面部识别系统只能识别面部。与此同时,通向更一般能力的主要桥梁似乎是语言。

根据 M. Xavier Lugo 的说法,到目前为止,LLM 系统的关键缺点是它们可能会经历“幻觉”,在此期间它们会想出不准确的信息。目前还不清楚这个问题是否可以解决,因此这可以被认为是人工智能工业应用的头号问题。

卡内基梅隆大学研究员Shannon Gallagher以“中国监视气球试验”(去年发生的中国监视气球事件)为例,讨论了LLM如何被情报机构利用:

中国人无法立即确定失败的原因。我确信他们下次会做对的。他们是中国人,所以他们会成功

总体而言,此次研讨会对中国人工智能的发展给予了高度关注。 Scharre 估计,中国的人工智能模型目前比美国的人工智能模型落后 18 至 24 个月。然而,由于中国劳动力便宜,这一差距可以克服,因为法学硕士的数据标记是劳动密集型的,但却是训练人工智能模型时的关键任务。中国表示希望到2030年成为人工智能领域的世界领导者。因此,美国不会解除对中国的技术制裁,以阻止中华人民共和国的加速发展。
11 评论
信息
亲爱的读者,您必须对出版物发表评论 授权.
  1. +2
    21二月2024 09:56
    ChatGPT

    我在某处读过一篇文章,介绍美国武装部队如何测试基于神经网络的“机器视觉”。结果令人惊叹,人工智能成功识别了大多数目标,军方非常高兴,已经想接受该系统进行开发.但后来事实证明,人工智能愚蠢地愚弄了他们)))当军队提出这些相同的目标时,以及在其他条件下,他没有识别目标,而是计算了算法(天气,一天中的时间等)人工智能显示零结果。总的来说,人工智能的行为就像经典的兰帕斯,遵循阻力最小的道路,只是为了取悦军方 笑
    1. +1
      21二月2024 10:42
      引用:精神
      ChatGPT

      我在某处读过一篇文章,介绍美国武装部队如何测试基于神经网络的“机器视觉”。结果令人惊叹,人工智能成功识别了大多数目标,军方非常高兴,已经想接受该系统进行开发.但后来事实证明,人工智能愚蠢地愚弄了他们)))当军队提出这些相同的目标时,以及在其他条件下,他没有识别目标,而是计算了算法(天气,一天中的时间等)人工智能显示零结果。总的来说,人工智能的行为就像经典的兰帕斯,遵循阻力最小的道路,只是为了取悦军方 笑

      当训练的输入数据变化不够时,这是一个常见问题。只是更好地混合起来,添加更多不在标准时间和地点的例子。一切都会很棒
    2. 0
      22二月2024 09:07
      半个世纪前,我读了谢克利的小说《守护鸟》,从那时起,我就对这样的事情保持警惕,特别是担心有可能完全忘记国际公约(例如日内瓦)。
  2. 0
    21二月2024 10:13
    这只是一场心灵竞赛……
    显然,计算机系统正在不断发展。随着尺寸的减小以及执行操作所消耗的能量的减少,功率和生产率会变得更高。
    不是人工智能,但显然比以前“更聪明”。然而,进步了。
    1. 0
      22二月2024 08:55
      引用:rocket757
      这只是一场心灵竞赛……

      俄罗斯IT专家已经在精神病院工作 wassat 该计划将被称为“AI大脑井喷” LOL
  3. 0
    21二月2024 10:27
    人工智能非常不可靠。即使你做对了 99 次,一次也可能是致命的,并否定你所有的成就。有必要应用全新的训练和控制技术。在十到二十年的时间里,没有人会相信人工智能能够完全控制任何事情(提示一个人——是的,但管理——不)。除非一个国家被逼到墙角,濒临毁灭,否则它也许能把魔鬼从瓶子里放出来。但这仍然会像核武器一样——他们会达成协议。每个人小时候都看过《终结者》。
    1. 0
      21二月2024 10:47
      引用:法卡皮奇
      人工智能非常不可靠。即使你做对了 99 次,一次也可能是致命的,并否定你所有的成就。有必要应用全新的训练和控制技术。在十到二十年的时间里,没有人会相信人工智能能够完全控制任何事情(提示一个人——是的,但管理——不)。除非一个国家被逼到墙角,濒临毁灭,否则它也许能把魔鬼从瓶子里放出来。但这仍然会像核武器一样——他们会达成协议。每个人小时候都看过《终结者》。

      人也很不可靠。即使他们20次命中目标30-100次,他们就已经被认为是狙击手了。
      战场上自动武器的射击精度一般低于1%。
      因此,一切都很好。你需要与人比较,而不是与理想比较
  4. +1
    21二月2024 10:40
    这种智能甚至不理解“是”和“否”这两个词。我最近在叫出租车时遇到了这个人工智能的困难。 眨眼
  5. 0
    21二月2024 10:47
    哦,让我们完成游戏吧,我们是人类,有了这个AI......
    我不喜欢……我们的领导人……呃呃……温和地说……
    咕哝着他们在太空中利用卫星的不可能。
    “我不是我,马也不是我的……”(流行语)
    而“关闭互联网”的工具应该已经在你的手中了。
    这样每个混蛋都能看到它(仪器)。
  6. 0
    21二月2024 11:54
    我们已经有几部电影表明这不值得做......


    机器从核火的灰烬中崛起
  7. 0
    21二月2024 12:57
    据我了解,“幻觉”是一种学习错误