看到一篇论文,作者提出了一种减少大语言模型幻觉的方法。作者举例说,这只柯基明明是橘色的,AI偏偏说是红色的:
这真的是冤枉模型了。不过这篇文章的作者都是中国人,也情有可原。其实这个颜色在英文里就叫 red。
不信?在谷歌图片搜 redhead
试一试用苹果键盘英文输入法输入 red hair
用谷歌图片搜索 "red haired dog" (红毛狗)
最后,咱来搜索一下「柯基是什么毛色」
红色实锤了这下
其实这个色在西方世界就叫red,中国人管它叫橘色/黄色。
我也是在加拿大待了一段时间才发现的。我发现别人每次说 red hair,我看到的都是橘色,查过之后才接受这个颜色叫法真的不一样。
我给那个论文作者发邮件了,希望他们没把这个柯基用到benchmark里,到时候就叫一个矫枉过正。