- NLPCC 2021 https://link.springer.com/chapter/10.1007/978-3-030-88483-3_31
- FewCLUE 里面腾讯组的方法。
- ① 将原来的 finetune 和 PET 两个目标一起学，② 有多个 prompt，相当于多个 prompt 也来 multi-task training，美格尔 pattern 对应的 loss 前面有一个 learnable 的参数，训练时用正确的 distribution 辅助预测的 distribution
同时还有类似迭代的 multi-stage training 的技巧。感觉这是把 multi-task learning 玩出花了