Toolformer: Language Models Can Teach Themselves to Use Tools

论文解决了什么问题

让语言模型以自监督方式学会使用多种外部工具，在保证通用语言能力的前提下，自行决策何时调用、调用哪个工具、传什么参数以及如何融入结果。；大语言模型虽展现强泛化能力，但内在固有短板：不能获取最新信息、易产生幻觉、数学计算差、缺乏时间意识等。给模型接入外部工具是直接解法，但已有方案或依赖大量人工标注，或仅限特定任务场景，难以推广。

核心方法

在预训练语料上，先利用少量人类写的 API 调用示例作为提示，让模型自主采样候选 API 调用并执行；再通过比较带/不带调用结果时的语言建模损失，仅保留对 next token 预测有实质帮助的调用；最后用这些过滤后的 API 调用与原始文本交错形成新数据集，微调原模型。工具涵盖问答、维基检索、计算器、日历和机器翻译。

实验结论

• 在 LAMA、数学推理（ASDiv/SVAMP/MAWPS）、开放域问答、多语言问答及时间敏感任务上，Toolformer 的零样本性能显著优于同等规模基线，并在多数任务上超过 OPT 66B 和 GPT-3 175B
• 语言建模困惑度与原模型持平，证明通用能力未受损

适合谁阅读