遇见诺曼,这是世界上最黑暗,最不安的人工智能
发布网友
发布时间：2023-01-10 03:00
共1个回答
热心网友
时间：2023-10-24 20:07
一个名为“Norman”的神经网络与其他类型的人工智能（AI）有着令人不安的不同。
位于MIT媒体实验室，这是一个研究人工智能和机器学习的实验室，诺曼的计算机大脑据称被暴露在“Reddit最黑暗的角落”中扭曲了在早期的训练中，根据4月1日（是的，愚人节）在该项目网站上发表的一篇描述，人工智能留下了“慢性幻觉障碍”。麻省理工学院媒体实验室的代表们描述了“诺曼的建筑中存在着一些根本*的东西，使得他无法再接受训练。”他补充说即使没有接触到可爱小猫的全息图，也足以扭转它的电脑大脑在Reddit肠道受到的任何损害。【人工智能的5个有趣用途（不是杀人机器人）】
这个古怪的故事显然是一个恶作剧，但诺曼本身是真实的。人工智能已经学会了在出现墨迹时以暴力、恐怖的场景做出反应；它的反应表明它的“头脑”经历了一种心理障碍。
在给诺曼配音为“精神病人工智能”时，它的创造者们对精神病状态的临床定义玩忽职守，据《科学美国人》杂志报道，诺曼的
描述了一系列特征，其中包括缺乏同情心或内疚感，以及犯罪或冲动行为。诺曼用墨迹图像（一种被称为罗夏测验的精神分析工具）展示了自己的异常。心理学家可以根据他们看到的这些墨迹的描述来获得关于人们潜在心理健康的线索。
当麻省理工学院媒体实验室的代表用罗夏墨迹测试其他神经网络时，这些描述平庸而温和，比如“一架飞机在空中飞过，烟雾从飞机上飘来”和“一张小鸟的黑白照片”，根据网站的说法，
然而，诺曼对同一墨迹的反应却出现了一个黑暗的转折，“精神病”人工智能描述的模式是“人被从车上扔下来的子弹”和“人被拉进面团机”。
（麻省理工学院媒体实验室）根据恶作剧，人工智能目前位于地下室的一个隔离服务器室，通过与诺曼的接触，保护人类的其他电脑和互联网免受污染或伤害。此外，房间里还有一些武器，如喷灯、锯子和锤子，用于对诺曼进行物理拆卸，麻省理工学院媒体实验室的代表说：“如果所有数字和电子故障保险箱出现故障，就可以使用这些武器。”4月愚人节的进一步记录显示，诺曼构成了一种独特的危险，与神经网络交互的10名实验者中有4人遭受了“永久性的心理损伤”（迄今为止没有证据表明与人工智能交互会对人类造成任何伤害）。
神经网络是计算机接口，处理信息的方式与人脑类似。多亏了神经网络，人工智能可以通过分析数据来“学习”执行独立的动作，比如给照片加字幕，这些数据展示了这项任务的典型执行方式。它接收到的数据越多，它需要的信息就越多，它的行为就越有可能遵循一种可预测的模式。
例如，一个被称为噩梦机器的神经网络——由麻省理工学院的同一组人建造——被训练来识别可怕的图像，通过分析吓人的视觉元素。然后，它将这些信息通过数码照片操作加以利用，将平庸的图像转换成可怕的、噩梦般的图像。
另一个神经网络以类似的方式进行训练，生成恐怖故事。以《弗兰肯斯坦》作者玛丽·沃尔命名《石器时代的雪莱》（stonecraft Shelley），人工智能消耗了超过14万个恐怖故事，并学会了创造自己的原始恐怖故事。
，然后是诺曼，他看到了一个彩色的墨迹，一个标准人工智能将其描述为“桌上婚礼蛋糕的特写镜头”，看到了一个“被超速司机杀死的人”。
，但可能有诺曼的希望。网站的访问者有机会通过参与一项调查来帮助人工智能，该调查收集了他们对10个墨迹的回答。麻省理工学院媒体实验室的代表在网站上建议，他们的解释可以帮助任性的神经网络自我修复。
是关于生命科学的原始文章。
