少见本身就成了嫌疑

十一月底我写过一段风控的话,里面有个很小的例子:「像正常数据里绝大部分人都不root,所以root了就不像正常人。」我那段话的意思是,算法眼里的正常人只是数据中的大多数,少见本身就成了嫌疑。

2021 年我在另一件事上说过类似的话,AI 语音识别的普及对方言和口音不太友好,「甚至可以说 AI 语音考(面)试的普及会加速方言或小众语言的衰亡」。我猜风控和口试偏差的来路是一样的,都是拿多数人的样子去定义合格。这只是联想,我没有证据。

被判成异常的人想改也难。那段话里我写到,少数群体在数据里只占小数点后好多位,公司要是没有 AI 伦理委员会之类的机构,投诉也没有动力去改。我自己碰过类似的事:2020 年我用越南手机号注册的微信,加个好友就被封了,后来的新号加好友、进群都没事。

另外,今天我又感叹了一遍想法的事:「想法会过期,而且保质期很短,时代发展在加速,想法的出厂保质期也会越来越短。」我在这方面有所欠缺,M4 Mac mini 这个案例说明我的效率还有待提高,虽然我和合作的那位 UP 都不是全职 UP。

系列:社会观察

查看全部 475 篇

此前与后续

2021-04-04:担心 AI 口试按多数人的发音判分,加速方言衰亡;2024-11-28:风控模型同样把数据里的多数当成正常。