用AR游戏,帮“来自星星的孩子”多记住一点

2026年10月29日

2022年秋天,张博博士拖着行李箱来到无锡。

接下来的一个月,她每天步行去附近的自闭症儿童康复机构,陪80个孩子玩一系列自主研发的增强现实(Augmented Reality, AR)游戏。她想回答一个问题:与传统2D认知训练相比,AR认知训练游戏能不能真正帮自闭症儿童提高记忆力?

张博博士与自闭症儿童的实验现场

张博如今是西浦创业家学院(太仓)创业与企业港的助理教授。2021年,她的课题“无标记增强现实认知培训游戏对我国自闭症谱系障碍儿童工作记忆的干预研究”被列为国家社会科学基金“十四五”规划2021年度教育学青年课题。

但她更在意的是,AR认知训练游戏能否真正走进这些孩子的生活。

“没有差异”的结果,为什么她没有放弃?

张博在都柏林大学攻读博士学位期间,师从虚拟现实(Virtual Reality, VR)领域资深学者Lizbeth Goodman教授和Jacki Morie博士,研究虚拟现实空间中的情境化合作游戏。她所在的SMARTlab实验室有一条贯穿始终的理念:技术服务于妇女、儿童、老人等弱势群体。

2017年苹果发布增强现实开发框架ARKit,实现了无标记增强现实。无需外界二维码或图片,摄像头便能够直接在现实空间中实时投射虚拟内容。

2019年,回国后的张博发现,VR需要头戴式设备和电脑,不够便携,而AR只需一台平板或手机便能在教育场景中应用。

至此,她决定通过科学实验验证AR技术是否可以应用于认知训练领域并有效改善自闭症儿童的认知能力。

剑桥认知量表CANTAB: 以标准化测试支撑自闭症儿童认知训练研究

但在此之前,张博先拿健康大学生群体试水,设计了一款基于平板的AR n-back游戏,并与传统2D版本做比较。在一项60名大学生参与的实验中,她发现,两组的工作记忆表现均有显著改善,AR游戏虽然更具视觉吸引力和参与感,但并没有比2D版本表现更好。而在另一项沉浸体验研究中,AR组与2D组的沉浸感差异并不显著。换作很多研究者,这个“没有显著差异”的结果会被归档、遗忘,但张博选择把它发表出来。

为什么?

因为“没有显著差异”告诉她两件事:第一,AR虽然更具视觉和交互优势,但沉浸感不一定比2D强,技术的优势不能只凭体验判断;第二,进一步的实验发现,男性的“参与感”和“完全沉浸”显著高于女性,这说明不同人群的体验可能存在差异,后续研究必须考虑个体差异。

更重要的是,这些发现促使她反思:沉浸感高,不一定等于认知训练效果更好。这让她继续追问一个更核心的问题:AR到底能不能真正改善认知能力,尤其是帮助那些有特殊教育需求的儿童?

80个孩子的实验场

2022年,张博开始了这场实验。

80个轻症的自闭症孩子,从4岁到15岁,张博把他们随机分成了四组,每组20人:两组基于平板电脑用AR做认知训练(其中一组玩“记住位置”的游戏,另一组玩“按颜色规则点击”的游戏),一组用平板电脑做相同规则的2D颜色点击认知训练,还有一组作为对照组,不训练,只参加前后测试。

虚实融合:面向自闭症儿童自主设计的AR认知训练游戏

她选择的这所康复机构采取一对一教学模式:每个孩子身边都有老师进行安抚、解释任务,陪伴他们完成屏幕上的任务测试。有的孩子无法一次性完成测试,测到一半注意力散了,好在评估工具会记住做到哪里,下次登录可以继续。这场实验延续了一个月。

数据跑出来的那一刻,张博愣住了。“AR到底能不能真正改善认知能力”这个问题有了初步答案:能,至少在空间工作记忆方面,实验结果令人振奋。

两个AR任务组在空间工作记忆测试中的效应量分别达到1.000和0.962。效应量是衡量训练前后变化幅度的统计指标。在教育干预研究中,这两个数值均属于非常大的效应。作为对比,普通2D训练组的效应量为0.567,不训练组仅为0.063。经统计检验,两个AR组的改善幅度均显著优于未接受训练的对照组。更重要的是,张博发现,这种进步不只发生在游戏里,还迁移到了孩子们没练过的空间工作记忆任务上。

剑桥认知量表CANTAB作为前测和后测工具,记录自闭症儿童认知能力的变化

“效应量1.0”难以理解。张博换了一种说法:“空间工作记忆,简单说,就是知道自己已经去过哪里、还没去过哪里。比如,一个7岁的自闭症孩子,每次在超市里可能因为记不住自己走过哪些位置而迷失方向;当老师让他先打开书本第三页找到图,再翻到第八页,他跟不上。而我们的实验发现,经过AR认知训练,孩子们在这类空间记忆能力的测试中确实取得了明显进步。这让我们看到了一种希望:如果这样的改善未来能够延伸到真实生活中,孩子们在超市、在游乐园、在课堂上,或许就能更加从容,减少对成人不断引导的依赖。”

但是,还有一个结果不那么乐观。在情绪识别任务上,所有训练组都有改善,但AR游戏并没有比普通游戏更好。“AR的认知红利似乎没有延伸到社会情感领域,也许是不同认知能力需要不同的训练任务,也可能是训练时间还不够长。这恰恰是下一步需要回答的问题。”张博说。

技术好,也得有人愿意用

实验做完了,技术被验证有效。但一个新的问题浮上来:谁会用它?

在此前80名孤独症儿童的实验中,张博就为老师开展过平板AR游戏培训。有的教师说,自己愿意尝试,但担心内容不够准确,出了问题自己担不起责任;有的教师说,技术听起来很好,但不知道从哪一步开始操作。

所以张博把游戏设计得足够简单:只需要点击,再点击。老师培训的内容也很直白:打开平板,登录,让孩子点击屏幕,没了。

“老师说,这个容易。他们学得很快。”张博说。

张博博士给特教教师进行平板AR认知训练游戏的培训但会操作,就意味着愿意用吗?“出了问题担不起责任”的疑虑,显然不是简化操作就能解决的。

2022年至2023年间,张博还向中国不同地区的310名特殊教育教师进行了问卷调研,调查他们对计算机化认知训练(Computerized Cognitive Training, CCT)的态度、主观规范和感知行为控制。结果显示,教师对CCT的态度整体积极,也认可它对神经发育障碍儿童的潜在价值,但实际使用经验有限。真正影响教师使用意愿的,不只是“自己有没有信心使用CCT指导孩子”,更重要的是“学校、同事等周围的人支不支持”。

这恰好回应了一些教师的顾虑:如果没有明确的制度支持,教师个人再愿意,也不会轻易把新技术用在孩子身上。

光有好技术不够,必须配套培训和制度支持。

2026年,张博再次带领团队走进特殊教育机构,为一线教师开展新研发的AR智能眼镜认知训练游戏培训。从平板到智能眼镜,技术在升级,但张博关注的始终是同一个问题:如何让好技术真正走进特殊教育课堂?

2026年,张博团队在特殊教育机构开展AR智能眼镜认知训练游戏教师培训

从论文到订单,形成一个完整的闭环

2026年春,张博获得了两项软件著作权。一部超过20万字的学术专著也已提交,现如今该国家项目也已经以“良好”结项。

但她最在意的,是另一件事。

上海一家特殊教育机构,与张博的合作已经持续了好几年。从2022年起,张博就为该机构的特殊教育信息化转型提供指导。2025年,双方围绕人工智能驱动的特殊学生“一人一案”平台开展校企合作研究。2026年,合作又向前迈了一步:双方进一步拓展智慧教室、AI+AR智能眼镜认知训练游戏等领域的应用合作。

“我的研究有了订单。”张博说。

从国家级科研项目到企业合作,从论文到软件著作权,再到特教机构采购,研究真的落地了。

合作企业人员现场体验AR认知训练游戏(左一为张博博士)

除了自己的研究,张博还带着学生一起做。基于国家社科项目研究成果,张博指导的本科生团队开发了一款面向自闭症儿童的AR应用“不孤鸟”。这个项目依托西浦融合式教育卓越中心(CoESE),与Rokid灵伴科技合作,逐步发展成为一款能够落地、服务社会的应用,如今已获得国家版权局计算机软件著作权登记。

今年,该AR项目已在无锡、上海等地的特殊教育机构开展应用实践。

学生团队在Spatial Joy 26 Rokid 全球高校AR与AI创新挑战赛获金奖、银奖

对于这项五年的研究长跑,张博想了想,说:“虽然在研究过程中遇到很多困难,我也曾收到来自其他学者对该研究难度和完成度的质疑,但是我觉得最大的回报是,我们用孩子喜欢的方式——游戏,帮他们的大脑变得更强大,让他们更好地记住事情。”

“传统的认知训练方法,大多需要面对面地借助物理教具改善儿童的认知能力,很多家长从不同城市赶来参加培训,只为学一个方法回家教孩子。我希望在未来,一台平板、一个智能眼镜结合游戏,在家就能做认知训练。”

张博并没有给这个故事画上句号,她说:“这项研究其实打开了一个更大的、我还没来得及回答的问题。”

情绪识别为什么没有表现出更显著的优势?AR的“认知红利”边界在哪里?老年人呢——那是她最初申请书写下的目标人群之一。如果训练周期更长,会发生什么?这些都是张博未来打算继续深入的内容。

回顾这项研究,张博认为:“这项研究该抵达的地方,不是论文的页码,不是期刊的影响因子,应当是一个个家庭里,自闭症的孩子可以多记住一件事、多读懂一个表情的日常瞬间。”

(记者:季嘉焱 编辑:石露芸 图片提供:张博博士)

2026年10月29日