摘要:在介绍司法大模型之前,我们先弄清楚——那个曾在互联网上被念叨了无数遍、如今正在改写国运的"大模型",究竟是什么。
当人类把诗砌进代码,把文章喂给机器,让一台没有呼吸的机器学会"续写"人类的话——这,就是大模型(Large Pre-trained Language Models)。它的出身,不过是一串被反复咀嚼的"顺口溜"。
你问它:3457 × 43216 = ? 它回答 149575912(这是错的,正确结果是 149397712)。但你别急着嘲笑它,因为它读过的书太多、吃了太多文字,隐隐约约"感觉"以 7 结尾的数乘上以 6 结尾的数,尾数是 2,挺押韵。它没有在脑内重构一幅算盘的画面,它只是不过脑子、顺口溜出来的。
可恰恰是这份"顺口溜",让人类看到了另一种可能:当文字积累到亿万级的规模,偶然就变成了必然,语言便不再需要被"记住",而是被"生长"出来。
在很长一段时间里,机器是"认"世界的。人脸识别、车牌识别、文字识别——它们各自抱着一副"判别模型"(discriminative)的骨架,认得清,却说不出一句自己的话。
直到"生成式"(Generative)的火种被点燃。它不再满足于"认出这就是你",而是努力回答一个更难的问题:给定一些字,若是人类,接下来会写什么?
生成式并非只有一条路。有人借对抗网络(GAN)作画,也有人踏上扩散模型(Diffusion)的荒野——Stable Diffusion、MidJourney 逆着风狂奔。而 ChatGPT 走上的,是另一条险峻而堂皇的路:Transformer。
三条路,三个方向,却都是人类共同的时代课题:让机器真正开口。
曾经,每一台模型都只为单一使命而生。给它一千张猫的照片,它就能认出猫;给它一万篇合同,它就只能读懂合同。它们是专才。
而预训练(Pre-Training)改变了这一切——它不再为特定的目标去教,而是先把一个"通才"养出来。它被无数文本、无数领域、无数语料"预教"过,然后谁有需要,就在它的肩头再做一次微调(Fine-Tuning)。
ChatGPT 的预训练,便是交给了我们所有人一个"预先养成的孩子"。它的行文如行云流水,无论它说着多么离谱的话,你都得承认——它讲中文的顺溜程度,已然无可挑剔。至于回答得对不对,才是我们仍需反复微调、反复调教的地方。
古人常说"熟读唐诗三百首,不会作诗也会吟"。Transformer 干的正是这件事。它不必真的"看见"田野,就能补全"锄禾日当__";它不必真懂诗意,却能顺着语感写出押韵的人生。它不是重构了世界,而是读透了语言本身的结构、语义与上下文,然后把这份"语感"化作了自己的骨骼。
于是,从"预教出一个通才",到"顺口溜里长出诗",大模型完成了从技术名词到时代基石的蜕变。它不再是实验室里的一件玩物,而是排进机房、接入电网、走进司法、医疗、制造的——一个新产业的命脉。