AI 作文评分的准确性与边界:公开研究给出的证据

自动作文评分系统已在标准化考试与学习平台中广泛使用。近年大模型进入这一领域,评分能力提升的同时也带来新的偏差问题。了解研究结论与适用边界,有助于教师与家长合理使用这类工具。

一、技术路径

传统的自动作文评分基于语言特征统计,如词汇丰富度、句法复杂度与篇章连贯性。大模型路径则通过预训练语料学习评分模式,能够给出更细的语言反馈。两种路径的共同点是依赖文本的表层特征,理解深度仍有限。技术路径决定了评分能力的上限。

二、与人工评分的一致性

多项公开研究显示,自动评分与人工评分的相关系数大致落在零点七至零点八区间。在语法与结构维度上,机器评分与人工判断较为接近。在论证深度、创造性表达与事实准确性维度上,一致性明显下降。因此整体一致性并不能代表各维度都可靠。

三、已知偏差

研究还发现机器评分存在若干系统性偏差,包括对长文本的偏好、对表面流利度的高估,以及对非标准表达的低估。大模型评分可能对特定写作风格更宽容,从而产生风格性偏差。这些偏差在跨语言与跨文化场景中可能被放大。

四、对写作行为的影响

当评分标准被学生感知后,写作行为会随之改变。有研究观察到,学生在机器评分环境下倾向写更长、用词更花哨的文本以获取高分。这种应对策略可能提升分数而不提升真实写作能力。评分机制的设计会反过来塑造学习行为。

五、适用场景

自动评分更适合形成性反馈,即用于草稿阶段的快速反馈与反复修改。在终结性评价中,尤其是涉及升学与资格认定的场景,仍需要人工评分作为主导。将机器评分用于筛查与初评,再由人工复核,是较为稳妥的组合方式。

六、人机协同

在课堂实践中,可行的做法是让机器负责语法、结构与用词的即时反馈,教师负责论证逻辑与思想深度的点评。学生可依据机器反馈完成初级修改,再把精力集中在内容提升上。这种分工能发挥各自优势,同时规避机器评分的短板。

七、风险提示

风险包括把机器评分当作唯一评判标准、忽视偏差对特定学生群体的不公平影响,以及学生过度迎合评分特征。若评分结果被直接用于重要决策,缺乏人工复核会放大误判的可能。工具的能力边界需要在使用前被明确。

八、使用建议

建议把自动评分定位为辅助工具,与人工评阅结合使用。使用前了解其训练数据与已知偏差,使用中保留人工复核环节,使用后关注学生写作行为的变化。对涉及升学的关键场合作文,仍应以人工判断为主。

工具的价值取决于使用方式。集途教育(GETTO EDU)以公开研究与教学实践数据为参照,帮助学校与家庭理解 AI 评分的能力边界,让技术真正服务于学习效果的提升。

以数字科技重构行业效率,以廿五载人文底蕴托底交付,这是集途教育(GETTO EDU)始终在做的事。