大语言模型为科学研究开启了全新可能性

2025年初,当特朗普总统宣布实施一系列关税措施时,一场口水战也随之爆发。威胁与反击的言论跨越大西洋和太平洋,在升级、报复与暂缓的漩涡中交织飞舞。但是经济学家们很难透过新闻头条的表象,看清究竟发生了什么实质性的变化。确切的经济数据往往需要数周甚至数月才能出炉,而即便数据最终呈现,也只能反映出整体局势的冰山一角。

“作为经济学家,我们希望能追踪并量化所有这些地缘经济压力究竟是如何施加作用的。” 斯坦福商学院金融学助理教授、斯坦福经济政策研究所(SIEPR)教职研究员Antonio Coppola说道,“但其中很大一部分影响并不会体现在常规的表格型数据集中。”

“令人倍感振奋的是,那些专为语言分析而设计的人工智能工具,如今可以被轻松地加以调整,从而应用于解决科学研究领域中截然不同的各类难题。”
– Susan Athey

具体而言,Coppola及其在斯坦福商学院“全球资本配置项目”的同事们,迫切想要了解美国乃至全球各地的企业究竟是如何应对这场剧变的。“它们是否调整了产品定价?是否正在重构其供应链?是否正在开展新的研发工作,以开发出那些恰好避开出口管制限制的产品?”

这些问题的答案其实早已存在,但是却深埋于一个庞杂且无序的信息源之中,即企业高管与行业分析师们所撰写及发表的数千万字的书面与口头言论。

因此,Coppola与斯坦福商学院金融学教授兼SIEPR高级研究员Matteo Maggiori以及来自耶鲁大学和哥伦比亚大学的两名同事合作,共同搜集整理了一批财报电话会议记录与分析师研究报告。这批资料文档总数逾78万份,涵盖了过去十多年间的两万一千多家企业。随后,他们将这些文本数据输入到运行于斯坦福大学高性能计算集群之上的大语言模型(LLMs)中进行处理与分析。大语言模型拨开贸易战的迷雾,发掘出大量确凿证据,揭示了在特朗普于2025年4月发表“解放日”宣言后的数周内,企业担忧情绪的急剧升温及战略层面的种种转变。在所有财报电话会议中,超过30%提及了关税带来的负面影响。而在美国企业的电话会议中,这一比例更是高达60%以上。

以前,人们若要开展此类研究,往往需要动员一支由研究生组成的庞大队伍,发放调查问卷并进行关键词检索,不仅耗时费力、成本高昂,所得出的研究成果也往往流于表面且滞后过时。如今,通过充分借力预训练语言模型的强大能力,Coppola、Maggiori及其同事得以快速生成既宏大全面又细致入微的研究成果。

“我们能够以极高的频率且几乎是实时地提取出这些详尽的信息。” Coppola说道。他们的研究进一步印证了一个事实:无论是在规模、速度还是精密度方面,由人工智能驱动的语言分析正将传统的科研方法远远甩在身后。

对意义的探寻

自诞生之初,人工智能的发展便与让计算机理解人类语言的复杂性这一目标密不可分。如今,大多数人所熟知的人工智能,也就是那些展现出惊人语言流畅度、且无需编写代码即可接受指令的聊天机器人,正是这一探寻历程中最为引人注目的里程碑。

“它们让你能够梳理海量的内容,其规模之巨,绝非任何人类编码员所能企及。”
– Douglas Guilbeault

斯坦福商学院组织行为学教授Amir Goldberg表示:“当ChatGPT在2022年11月发布并迅速引爆公众舆论时,这标志着计算方法领域这场漫长的发展历程达到了巅峰;而这一历程,其实可以追溯至上世纪90年代。” 2017年,Transformer的出现标志着一项关键性的突破。这是一种旨在从海量文本中学习语言模式的神经网络架构。得益于机器学习技术的进步以及计算能力的爆发式增长,这一架构的出现不仅促成了当今生成式人工智能系统的诞生,更开启了前所未有的广阔研究前景。

在过去十年间,研究人员利用这些飞速演进的工具来解读文本集已成为一种常态;这些语料库往往包含数百万份文档或数十亿个词汇。斯坦福商学院组织行为学助理教授Douglas Guilbeault指出:“这些工具让你能够梳理海量的内容,其规模之巨,绝非任何人类编码员所能企及。” 而且,它们的能力远不止于单纯地解读文本。1995届博士校友、斯坦福商学院经济学教授兼SIEPR高级研究员Susan Athey表示,尤其是大语言模型 “彻底改变了我们能够将各类丰富信息整合进统计模型的方式。”

除了能够大规模地解读文本之外,大语言模型还能将那些看似杂乱无章、互不关联的零散概念,整合成条理清晰且可量化的内容。这使得它们成为一种强有力的工具,能够帮助人们理解非结构化数据。据估算,这类数据在所有新产生的信息中至少占据了五分之四的份额。

社会学家、斯坦福大学计算文化实验室联合主任Goldberg认为,现代生活留下的种种“数字足迹”,包括电子邮件、聊天记录以及社交媒体发帖等等,共同构成了一座蕴藏丰富信息的宝库。“文化关乎这样一种社会过程:人们通过这一过程来协商并确立意义。” 他说道,“促成这种协商的最主要媒介,便是语言交流。突然之间,这种语言交流转化为了一种数据,使我们得以去衡量那些以前遥不可及的事物。”

在一项近期研究中,Goldberg分析了1470万封电子邮件,旨在衡量员工的自我身份认同与其集体的职场身份认同之间的重叠程度。随着越来越多的记录实现数字化,大语言模型也为我们开启了一扇通往过去的窗口。在探究那些最终跻身主流的非传统观念究竟源自何处时,Goldberg查阅了490万篇国会演讲稿以及420万份法院裁决书。

“突然间,我们拥有了一件能够让我们穿越回过去的工具。” Goldberg说道,“我无法回到过去直接询问20世纪60年代的人们究竟作何感想,但可以对那个时代的人们留下的大量文献资料进行分析。”

不止于文字

尽管大语言模型的架构在某种程度上借鉴了人类大脑的神经连接模式,但它们处理语言的方式却有着本质的区别。“从神经网络的视角来看,语言不过是一串数字序列。” Goldberg说道,“至于这些数字究竟代表着什么样的文本内容,这一点其实无关紧要。” 尽管模型对语言采取了这种纯粹数学化的处理方式,但它们在捕捉语境线索和语义细微之处时却表现得惊人地敏锐。例如,在Coppola和Maggiori的一项研究中,即便高管或分析师在交流过程中完全没有提及“关税”、“制裁”或“出口管制”等具体词汇,大语言模型也能够准确识别出他们何时正在探讨“地缘经济压力”所带来的影响。

“突然之间,我们手中多了一件能够让我们穿越回过去的工具。”
– Amir Goldberg

斯坦福商学院市场营销学助理教授Ada Aka解释道,这种“读懂言外之意”的能力,使得研究人员能够从数据中挖掘出更为丰富、深刻的含义。在传统的调查研究中,研究人员可能会要求受访者通过数字量表对某款产品进行评分,从而仅能获得一个单一的数据点。如今,研究人员可以转而要求受访者提供口头反馈,随后便可利用大语言模型对这些反馈内容进行处理。通过这种方式,模型不仅能够识别出受访者明确表达的偏好,更能洞察出隐藏在这些偏好背后的情感与动因。

“在同样的时间跨度内,或许只需多花上几秒钟,你所能获取的将是极其丰富且极具个性化的语境信息。” Aka说道,“借助这些语境信息,我们就可以将个体的思维活动进行量化分析。语言数据蕴含着极其丰富的信息,涵盖了从人们的价值观到他们的期望、担忧及不确定性等方方面面。”

此外,大语言模型还能捕捉到那些人类肉眼难以察觉的关联与模式。在一项针对真实品牌标语“记忆度”的研究中,Aka运用了OpenAI旗下的GPT模型,对929条品牌标语的语义关联进行了特征分析,其分析维度多达1500余项。在完全未借助任何人类标注数据的前提下,该模型有力地展示了营销人员如何利用此类预测性工具,来筛选并打造出更具传播力、更易于被受众记住的品牌标语。

大语言模型的另一项显著特征,在于其在数据分析过程中所展现出的高度一致性与客观超然性。“这绝不仅仅是因为没有任何人类个体拥有足够的精力去逐一审阅如此庞大的数据量。” Guilbeault指出,“更深层的原因在于人类自身所固有的‘认知局限性’’,即人们在解读信息时,往往会不自觉地将自身对‘意义’的个体化理解投射其中,从而影响其对所读内容的客观解读。” 尽管大语言模型远未做到毫无偏见,比如Guilbeault就曾记录过它们从训练数据中习得的性别和年龄刻板印象,但他仍然认为这些模型“能够提供一种更为中立客观的分析视角”。

大语言模型在解决那些看似与语言毫无关联的问题时,也展现出了令人惊叹的有效性。在斯坦福商学院近期发布的一期“快速学习”视频中,Golub Capital社会影响力实验室的创始主任Athey介绍了自己的一项研究。在该研究中,她利用大语言模型解答了一个长期困扰经济学家的难题:预测人们的职业发展轨迹。“我和我的团队不禁思考……用于实现ChatGPT等突破性成果的底层架构,是否也能被加以调整,用来预测你未来的职业走向?”

仅凭极少量的编程工作,Athey及其同事便利用数万份简历对一个公开可用的大语言模型进行了微调。通过分析职位名称及工作经历中的模式,这一方法(被命名为LABOR-LLM,即“基于大语言模型的职业表征”)在预测职业变动方面,展现出了比那些基于海量数据集进行训练的专业模型更高的准确率。“对于大语言模型而言,” Athey解释道,“一连串的职业经历,本质上就是一连串的词语序列。”

正如大语言模型让公众得以窥见人工智能的巨大潜力一样,它们也为科学研究开启了全新的可能性。而就在短短几年前,这些研究方向还是人们所无法想象的。“这确实令人振奋:原本旨在分析语言的人工智能工具,如今竟能轻而易举地被加以调整,去解决科学领域中截然不同的各类难题,甚至包括那些人们此前从未将其视为‘文本问题’的挑战。” Athey说道,“而这仅仅是一个开端。”