军事人工智能真的可靠么?如果这么容易就被篡改数据……
发布网友
发布时间：2023-05-06 16:49
共1个回答
热心网友
时间：2023-11-21 18:34
（文/Will Knight）
去年3月，来自中国 科技 巨头腾讯(Tencent)安全实验室——科恩实验室演示了几种欺骗特斯拉 汽车 上的人工智能算法的方法。巧妙修改 汽车 传感器输入的数据，研究人员能够迷惑驾驶 汽车 的人工智能。
特斯拉的算法通常在发现挡风玻璃上的雨滴或跟踪道路上的路线方面表现出色，但它们的工作方式与人类的感知方式有着根本的不同。这种“深度学习”算法正迅速席卷不同行业，应用于面部识别和癌症诊断等领域。
把特斯拉“引入歧途”对美国来说似乎不是战略威胁。但是，如果使用类似的技术来欺骗无人攻击机或分析卫星图像的软件，让它们看到不存在的东西，或者看不到存在的东西，结果会怎样？细思极恐！
五角大楼推动人工智能的部分原因是担心竞争对手可能会采用这种技术。去年，时任美国国防*吉姆•马蒂斯向美国总统特朗普发送了一份备忘录，警告称美国在人工智能方面已经落后了。他的担心是可以理解的。
想要制造最聪明、最致命的武器是可以理解的，但正如特斯拉的黑客攻击所显示的那样，如果敌人知道人工智能算法是如何工作的，可能会让它变得无用，甚至让它与自己的主人作对。赢得人工智能战争的秘诀可能不在于制造最令人印象深刻的武器，而在于掌握软件令人不安的背叛。
战斗机器人
去年，迈克尔·卡纳安(Michael Kanaan)坐在五角大楼的自助餐厅里，吃着三明治，惊叹于一套强大的新机器学习算法。
几周前，卡纳安观看了一款视频 游戏 ，在 游戏 中，五种人工智能算法一起工作，在一场涉及控制力量、营地和资源的复杂、广阔的战场上，几乎完胜五个人类。这是他所见过的最令人印象深刻的人工智能战略演示之一，是一种出人意料的发展，类似于人工智能在国际象棋和其他 游戏 中的进步。
这些人工智能战士不是由军方开发的，而是由OpenAI公司开发的。OpenAI是一家由埃隆•马斯克(Elon Musk)和山姆•阿尔特曼(Sam Altman)等硅谷大人物创建的公司，从事基础人工智能研究。该公司的算法战士，即OpenAI Five，通过不懈的实践，通过最具优势的行动，制定出了自己的获胜策略。
人工智能制导导弹可能会被敌方的数据欺骗，甚至可能会转向友军目标。
卡纳安是空军Maven项目的负责人，该军事项目旨在使用人工智能自动识别空中图像中的物体。谷歌是Maven的承包商，当其他谷歌员工发现后，在2018年，公司决定放弃这个项目。随后，该公司制定了一项人工智能行为准则，称谷歌不会使用其人工智能开发造成伤害的武器或其他技术。
幸运的是，五角大楼已经开始注意到了这一点。今年8月，美国国防高级研究计划局宣布了几个大型人工智能研究项目。“AI反欺骗鲁棒性保证”（GARD）就是其中之一，这是一个专注于对抗性机器学习的项目。马萨诸塞大学阿姆赫斯特分校教授、GARD项目经理哈瓦·西格尔曼说，这些袭击在军事情况下可能是毁灭性的，因为人们无法识别它们。她说，“这就像我们瞎了眼一样。这就是它真正非常危险的地方。”
对抗性机器学习带来的挑战也解释了为什么五角大楼如此热衷于与谷歌和亚马逊这样的公司以及麻省理工学院这样的学术机构合作。这项技术正在迅速发展，最新的进展是在硅谷公司和顶尖大学的实验室里进行的，而不是传统的国防承包商。
反对军事使用人工智能是可以理解的，但它可能忽略了更大的图景。尽管人们担心智能杀手机器人，但近期更大的风险可能是算法上的战争迷雾——即使是最聪明的机器也无法看穿它。
