模型设计

为了提高模型的差异度，我们主要选择了不同模型的变体，其中包括以下五个模型：

• Deberta-v3-large

• Bert-for-patents

• Roberta-large

• Ernie-en-2.0-Large

• Electra-large-discriminator