风控模型眼里的正常人 —— 只是大多数
新用户没有历史记录,模型不知道拿你怎么办;行为稍微偏一点,就被归到可疑那一类。
「但是算法眼里的正常人其实只是数据中的大多数,以评估数据为标准。」所谓风控,大部分时候是在判断你像不像样本里的多数人。
少数群体也一样,样本里人少,默认就被当成异常。「然而现在大公司都在解散AI伦理委员会这种东西。」模型不会解释为什么,它只给一个结果。
系列 · 社会观察
同一系列共 364 篇。
全部 364 篇 →新用户没有历史记录,模型不知道拿你怎么办;行为稍微偏一点,就被归到可疑那一类。
「但是算法眼里的正常人其实只是数据中的大多数,以评估数据为标准。」所谓风控,大部分时候是在判断你像不像样本里的多数人。
少数群体也一样,样本里人少,默认就被当成异常。「然而现在大公司都在解散AI伦理委员会这种东西。」模型不会解释为什么,它只给一个结果。
同一系列共 364 篇。
全部 364 篇 →