谈谈「语言硅基化」
· 阅读需 2 分钟
「语言硅基化」？在我看来，背后的操盘手还是人类自己。
AI 味来自哪里
目前大多数LLM采用的是GPT架构，这是一种序列到序列的自回归模型。如很多人所知，序列的基本元素为「token」。一般来说，其训练有两个步骤。
第一步是预训练，其核心优化（或者说训练）的核心目标是「最大似然估计」，即模型的「输出分布」要尽可能吻合「真实分布」。所谓真实分布，就是研究者采集的数据的分布。数学上，大概是用KL散度或交叉熵来衡量二者的差异。
所以，在经过预训练后，模型的输出分布会接近真实分布，但受技术和训练方法所限，会有一定误差。然而，这个误差应该是随机的，不应该表现定向的差异。而现在说的「人机味」明显是有定向指向的，而非随机的产物。
定向的「偏移」应该来自于「基于人类反馈的强化学习」（RLHF）。这个过程目标是「对齐」，即让模型的输出「迎合」人类预期。比如，「人类」更喜欢严谨、客观的回答，而不是像海量训练数据那样参差不齐的回答。
而正是这个过程让模型输出的文本与人类语言有了可感知的「偏移」，即人机味。本质上，这也算是最大化满足人类期望的产物。这是人机味的第一推手。
AI 为何可以影响语言
人机味的第二推手，源于AI生成的效率。AI生产文本的速度明显大于人类，于是在公开数据中，AI生产内容的占比会快速上升。事实上在未来的某个时刻，AI写下的句子将超过有史以来所以人类写下的。（谁知道现在没有呢？）AI内容占比的上升，相当于一次「源头投毒」。新AI接受预训练时，其「样本分布」就已经不是人类语言的「真实分布」了。这是一个不可逆的正反馈机制，只会让AI味越来越浓。
再加上AI实在太方便了，不借助AI的「纯人类」内容的生产速度还会下降。
「人机味」的泛滥，已经是大势所趋。