Will•D•Heaven 麻省理工科技评论APP
互联网上的恶意、谩骂以及其它非琐碎、足以改变世界的意见不合...
人工智能既性感又酷炫。它在加深不平等、颠覆就业市场并破坏教育体系。人工智能像是主题公园的游乐设施，又好像是魔术戏法。它是大家的终极发明，也是道德责任的体现。人工智能是这十年的流行语，也是源自 1955 年的营销术语。人工智能类人，又似异星来客；它超级智能却也愚不可及。人工智能热潮将推动经济发展，而其泡沫似乎也将一触即发。人工智能将增加富足，赋能人类在宇宙中最大限度地繁荣发展，却又预示着大家的末日。
大家都在谈论些什么呢？
人工智能是大家时代最炙手可热的技术。但它究竟是什么？这听起来像是一个愚蠢的问题，但从未像现在这样紧迫。简而言之，人工智能是一系列技术的总称，这些技术使计算机能够完成那些当人类实行时被认为需要智慧的任务。想想面部识别、语音理解、驾驶汽车、写作句子、回答问题、创作图像等。但即便这样的定义也包含多重含义。
而这正是问题所在。让机器“理解”语音或“书写”句子意味着什么？大家能要求这类机器完成哪些任务？大家又该对它们的实行能力给予多大信任？
随着这项技术从原型快速转化为产品，这些问题已成为大家所有人的议题。但（剧透警告！）我并没有答案。甚至无法确切告诉你人工智能是什么。制造它的人也不真正知道。Anthropic 人工智能实验室位于旧金山的首席科学家 Chris Olah 表示：“这些都是重要的问题，以至于每个人都觉得自己可以有意见。同时，我认为你可以对此争论不休，而目前没有任何证据会反驳你。”
但如果你愿意坐稳并加入这场探索之旅，我可以告诉你为何无人真正知晓，为何大家看似各执一词，以及你为何应当关注这一切。
让大家从一个随口的玩笑开始...
回溯至 2022 年，在《神秘 AI 炒作剧场 3000》这一档略显扫兴的播客首集的中途——该播客由易怒的联合主持人 Alex Hanna 和 Emily Bender 主持，他们乐此不疲地用“最锋利的针”刺向硅谷一些最被吹捧的神圣不可侵犯的事物中——他们提出了一个荒谬的建议。当时，他们正在大声朗读 谷歌 工程副总裁 Blaise Agüera y Arcas 在 Medium 上发表的一篇长达 12,500 字的文章，题为《机器能学会如何表现吗？》。Agüera y Arcas 认为，人工智能能够以某种与人类相似的方式理解概念——比如道德价值观这样的概念，从而暗示机器或许能够被教导如何表现。
（来源：MIT TR）
然而，Hanna 和 Bender 并不买账。他们决定将“AI”一词替换为“数学魔法”——就是大量且复杂的数学运算。
这个不敬的表达旨在戳破他们认为存在于引述句中的夸张和拟人化描述。很快，身为分布式人工智能研究机构的研究主任及社会学家的 Hanna，以及华盛顿大学计算语言学家、因批评科技行业夸大其词而在网络上声名鹊起的 Bender，就在 Agüera y Arcas 想要传达的信息与其选择听取的内容之间划开了一道鸿沟。
Agüera y Arcas 问道：“AI、其创造者及使用者应如何在道德上承担责任？”
Bender 则反问：“数学魔法应如何在道德上承担责任？”
她指出：“这里存在分类错误。”Hanna 和 Bender 不只是反对 Agüera y Arcas 的观点，他们认为这种说法毫无意义。“大家能否停止使用‘一个人工智能’或‘人工智能们’这样的表述，好像它们是世界上的个体一样？”Bender 说。
这听起来仿佛他们在讨论完全不同的事物，但实际上并非如此。双方讨论的都是当前人工智能热潮背后的技术——大型语言模型。只是关于人工智能的讨论方式比以往任何时候都更加两极分化。同年 5 月，OpenAI 的 CEO Sam Altman 在预告其企业旗舰模型 GPT-4 的最新更新时，在推特上写道：“对我来说，这感觉就像魔法。”
从数学到魔法之间，存在着一条漫长的道路。
人工智能拥有信徒，他们对技术当前的力量和不可避免的未来进步抱有信仰般的信念。他们宣称，通用人工智能已近在眼前，超级智能紧随其后。同时，也有异见者对此嗤之以鼻，认为这些都是神秘主义的胡言乱语。
流行的、充满话题性的叙述受到一系列大人物的影响，从 Sundar Pichai 和 Satya Nadella 这样的大型科技企业首席营销官，到 Elon Musk 和 Altman 这样的行业边缘玩家，再到 Geoffrey Hinton 这样的明星计算机科学家。有时，这些鼓吹者和悲观论者是同一批人，告诉大家这项技术好到令人担忧的地步。
随着人工智能的炒作不断膨胀，一个直言不讳的反炒作阵营也应运而生，时刻准备着击破那些雄心勃勃、往往过于离谱的声明。在这个方向上努力的，包括 Hanna 和 Bender 在内的一大群研究者，还有诸如前GOOGLE员工、有影响力的计算机科学家 Timnit Gebru 和纽约大学认知科学家 Gary Marcus 这样的行业批评者。他们每个人都有众多追随者，在评论中争持不休。
简而言之，人工智能已经成为所有人眼中无所不能的存在，将领域分割成一个个粉丝群体。不同阵营之间的交流似乎常常驴唇不对马嘴，而且并不总是出于善意。
也许你觉得这一切都很愚蠢或烦人。但鉴于这些技术的力量和复杂性——它们已被用于决定大家的保险费用、信息检索方式、工作方式等等——至少就大家正在讨论的内容达成共识已经刻不容缓。
然而，在我与处于这项技术前沿的人们的诸多对话中，没有人直接回答他们究竟在构建什么。（旁注：本文主要聚焦于美国和欧洲的人工智能辩论，很大程度上是因为许多资金最充裕、最先进的 AI 实验室都位于这些地区。当然，其他国家也在进行重要的研究，尤其是中国，他们对人工智能有着各自不同的看法。）部分原因在于技术发展的速度，但科学本身也非常开放。如今的大型语言模型能够完成令人惊叹的事情，从解决高中数知识题到编写计算机代码，再到通过法律考试乃至创作诗歌。当人做这些事情时，大家认为这是智慧的标志。那么，当计算机做到这些时呢？表象上的智慧是否足够？
这些问题触及了大家所说的“人工智能”这一概念的核心，人们实际上已经为此争论了几十年。但随着能够以或令人惊悚，或令人着迷的真实模仿大家说话和写作方式的大型语言模型的兴起，围绕 AI 的讨论变得更加尖酸刻薄。
大家已经制造出了具有类人行为的机器，却没有摆脱想象机器背后存在类人思维的习惯。这导致对人工智能能力的过高评价；它将直觉反应固化为教条式的立场，并且加剧了技术乐观主义者与怀疑主义者之间更广泛的学问战争。
在这团不确定性的炖菜中，再加上大量的学问负担，从我敢打赌许多行业内人士成长过程中接触到的科幻小说，到更恶劣地影响大家思考未来的意识形态。鉴于这种令人陶醉的混合体，关于人工智能的争论不再仅仅是学术性的（或许从来都不是）。人工智能点燃了人们的激情，使得成年人互相指责。
（来源：MIT TR）
“目前这场辩论并不处于一个智力健康的状态，”Marcus 这样评价道。多年来，Marcus 一直在指出深度学习的缺陷和局限性，正是这项技术将人工智能推向主流，支撑着从大型语言模型到图像识别，再到自动驾驶汽车的一切应用。他在 2001 年出版的《代数思维》一书中提出，作为深度学习基础的神经网络本身无法独立进行推理。（大家暂时略过这一点，但稍后我会回来探讨像“推理”这样的词汇在一个句子中的重要性。）
Marcus 表示，他曾试图与 Hinton 就大型语言模型的实际能力展开一场恰当的辩论，而 Hinton 去年公开表达了对自己参与发明的这项技术的生存恐惧。“他就是不愿意这么做，”Marcus 说，“他叫我傻瓜。”（过去在与 Hinton 谈及 Marcus 时，我可以证实这一点。Hinton 去年曾告诉我：“ChatGPT 显然比他更了解神经网络。”）Marcus 在他撰写的一篇名为《深度学习正遭遇瓶颈》的文章后也招致了不满。Altman 在推特上回应称：“给我一个平庸深度学习怀疑论者的自信吧。”
与此同时，敲响警钟也让 Marcus 成为了一个个人品牌，并获得了与 Altman 并肩坐在美国参议院人工智能监督委员会面前作证的邀请。
而这正是所有这些争论比普通网络恶意更重要的原因。当然，这里涉及到巨大的自我和巨额的资金。但更重要的是，当行业领袖和有观点的科学家被国家元首和立法者召集，来说明这项技术是什么以及它能做什么（以及大家应该有多害怕）时，这些争议就显得尤为重要。当这项技术被嵌入到大家日常使用的App中，从搜索引擎到文字处理应用程序，再到手机上的助手，人工智能不会消失。但如果大家不知道自己购买的是什么，谁又是那个受骗者呢？
Stephen Cave 和 Kanta Dihal 在 2023 年出版的论文集《构想 AI》中写道：“很难想象历史上还有其他技术能引起这样的辩论——一场关于它是否无处不在，或者根本不存在的辩论。对人工智能能有这样的辩论，证明了它的神话特质。”
最重要的是，人工智能是一种观念、一种理想，它受到世界观和科幻元素的塑造，就如同数学和计算机科学的塑造一样。当大家谈论人工智能时，弄清楚大家在谈论什么将澄清许多事情。大家可能在这些事情上无法达成一致，但就人工智能的本质达成共识将是讨论人工智能应该成为什么样子，至少是一个良好的开端。
| 
264
发表于 2024-7-24 16:39:34
