Language Models As or For Knowledge Bases

  • https://arxiv.org/pdf/2110.04888.pdf
  • LM 不应该是 KB 的替代,而应该用来辅助 KB
  • 文章首先对比了二者的区别,包括:预测 vs 查找,LM 犯的错误一般都有那么点道理,LM 一定会给个答案而不能分辨无答案的 fact,KB 一定是有局限的但 LM 能泛化,KB 方便增删知识,KB 可以追溯到答案来自的具体文章,LM prompt 的时候 entity 可能会混淆不像 KB 完全准确,LM 对训练时的小样本数据很难记住,LM 对 multi-object 很难判断到底应该预测多少个
  • 于是作者得出结论,应该是先从 KB 查,然后再用 LM-as-KB 打分,作为二次确认

发表评论