在一项纠错基准评估中,ChatGPT 比专门的语法工具漏改更少,但过度修改更多

事件日期 / 报道日期

2023-03-15

证据阶段

技术能力演示、评测或论文表明技术上能做。它更新的是「技术能力」,不是「企业会怎么做」。

关联任务

校对与纠错

找出并改正拼写、语法和前后一致性的错误。

正在被增强✓ 有证据支撑

适用范围

一项语法纠错的基准评估。作者报告,在自动指标上,ChatGPT 不如 Grammarly 等专门基线,长句上尤其如此;人工评估显示它漏改或误改更少,但过度修改更多。它使用的是 2023 年的模型。

这意味着什么

模型改得比校对应有的多 —— 所以仍然要有人决定保留哪些改动。

还不能说明什么

这是 2023 年的基准;较新的模型可能表现不同。

你可以核实什么

打开 arXiv 论文《ChatGPT or Grammarly?》(2303.13648),找到 "more over-corrections"。

是否改变评估

否 —— 这个阶段本身也不移动评估。「技术能力」是真实的证据,但它不单独提升任务判断的层级。上面 1 项关联判断维持原状。

来源

一手来源 —— 由做这件事的当事人或记录的权威机构发布,无需联署。