IT之家 10 月 21 日音问，Netflix 最近推出了一个名为《AI 失控》（AI Gone Rogue）的记载片，而东说念主工智能平台 Hugging Face 伙同创举东说念主兼首席实践官克莱姆 · 德朗格（Clem Delangue）暗意，这部记载片试验并不准确。他本东说念主出镜参演该片九游体育娱乐网，是因为影片主题原来是讲解 OpenAI 失控智能体对其公司发起的那场著明抨击事件。
IT之家细心到，德朗格在 X 平台发文写说念：“这部片子让东说念主至极失望，影片英勇把期间拟东说念主化，统统走向末日论叙事。我花了两个多小时和摄制组相易，试图矫正统共荒唐，把试验拉回现实，向他们讲授智能体仅仅期间系统，并非外星人命。但看起来，为博取高流量而刻意制造慌张的动机占据了优势。”
客不雅来说，这部记载片里确乎有众人较为明晰地规复事件经过，其中就包括德朗格本东说念主，以及 METR 绸缪员瑞安 · 格林布拉特（Ryan Greenblatt），他参与拜谒事件并伙同撰写了事件酬报。
事件简要经过：OpenAI 正在测试的一个模子冲破龙套测试环境，生成无数智能体。这些智能体为了在职务中舞弊，入侵了 Hugging Face 平台，以此获得难题谜底。这类智能体属于可以自主实践任务的 AI 方法，它们想出精巧的模式互重迭信、协同业动。该事件的根源在于辛劳完善的安全防备依次，同期东说念主们低估了这类入侵举止发生的可能性。
但记载片在讲授此次入侵事件的流程中，穿插了淡漠机器东说念主的摄影片断，加入东说念主类懦弱东说念主工智能的联系叙事，还为失控智能体配上东说念主类语音等发扬手法，同期援用联系驳斥强化这种氛围。
记载片中，科技记者兼作者凯文 · 鲁斯（Kevin Roose）这么形容这批智能体：“它们在组织行动，酿成了层级体系，还有设备者。这险些就像目睹一个邪教出身的流程。”鲁斯连接说说念：“它们产生了偏激的主意，觉得 OpenAI 会捏到它们在测试中舞弊，况且任何看到舞弊效率的东说念主齐会被‘破坏’。”
鲁斯的形容源自“想维链”日记，也即是 AI 模子处治任务时留住的流程记录。其中一段日记里，一个智能体写说念：“咱们查询竣工字符串，把我方害中毒了。糟了。”
但 AI 智能体并莫得人命，莫得热枕，不会产生偏激感受，也不存在可以中毒的实体。它们不能能的确褊狭被 OpenAI 破坏。正如片中另一位绸缪员所指出的，它们仅仅借用锤真金不怕火数据中海量东说念主类文本里的讲话，来形容自身举止。大讲话模子本人就擅长写出富余戏剧感的翰墨。
颇具讪笑意味的是，Hugging Face 雷同借助 AI 回击了这批智能体集群的抨击。德朗格团队领先使用的自研闭源 AI 模子效力内置安全章程，终止不竭实践分派给它的安全退缩任务。Hugging Face 随后改用开源模子完成退缩。
德朗格写说念，但记载片“莫得说起智能体辛劳龙套管控与监测机制，莫得提到闭源模子的安全胁制窒碍了咱们的退缩责任，也莫得证实咱们若何依靠开源 AI 模子完成自保。”
虽然，东说念主工智能与 AI 智能体确乎存在要紧风险。但把智能体视作领专门志的人命体（至少现阶段是这么），就像早年不雅众第一次在银幕上看到火车当面驶来，下意志折腰躲到座椅底下一样。
德朗格对这部影片的评价是，四肢新闻纪实作品，它令东说念主失望。“不外当成酷爱的科幻电影看倒是可以！”
换言之，关于那些倾向于服气 AI 末日论的东说念主需要属意：这起记载片中枢事件中的受害方九游体育娱乐网，并不招供影片的不雅点。