生成式 AI —— 把偏见固定下来

模型从人类文本里学语言，也把文本里的偏见一起学走。训练数据里对职业、性别、地域的刻板描述，会在生成时被重复。

「我想说生成式 AI 最大的风险在于把一些人类社会由来已久的偏见，或者把一段特定时期人类的语言表达现象给固定化和永恒化」。语言本来在变，网络用语几年换一批；模型把这些瞬间冻住，再输出给下一轮训练。