英伟达推出了ChatQA模型,据悉其性能可以对飚GPT-4,使用两阶段指令调整和改进的上下文检索等高效的训练方法。
ChatQA是一组对话式问答 (QA) 模型,可以获得GPT-4级别的精度。具体来说,开发团队提出了一种两阶段指令调优方法,可以显着改善大型语言模型(LLM)的零样本对话QA结果。
为了处理对话式 QA 中的检索,在多轮 QA 数据集上微调了密集检索器,这提供了与使用最先进的查询重写模型相当的结果,同时大大降低了部署成本。值得注意的是,ChatQA-70B 在10个对话式 QA 数据集(54.14对53.90)上的平均得分方面优于 GPT-4,而无需依赖来自 OpenAI GPT 模型的任何合成数据。
[免责声明]如需转载请注明原创来源;本站部分文章和图片来源网络编辑,如存在版权问题请发送邮件至398879136@qq.com,我们会在3个工作日内处理。非原创标注的文章,观点仅代表作者本人,不代表本站立场。