浙大设计研究|从语言智能到身体智能

2026-06-23

操作技能学习

驾驶、骑行、手术等操作技能依赖反复练习和身体感知,仅靠文字或语音很难让学习者准确掌握动作幅度与节奏。现有大模型训练助手擅长讲解和个性化反馈,却很少提供能直接作用于身体的动觉指导。如何让大模型不仅“告诉你怎么做”,还能在保留学习者自主性的前提下“带着你做”,成为人机协同技能学习的新问题。

从语言提示到大模型驱动的动觉反馈
从语言提示到大模型驱动的动觉反馈

为此,浙江大学设计学团队开发了FlightAxis,将大语言模型与电肌肉刺激(EMS)结合,设计出“对齐-分析-调整”的飞行驾驶辅助学习系统:先检索飞行知识库标准操作,再分析实时模拟飞行状态,最后把动作建议转化为前臂电刺激和语音提示。系统会在操作开始前给予轻柔引导,偏离标准时提示纠正方向,让学习者仍能自主控制动作。实验显示,大模型在四类飞行任务中的总体判断准确率显著改善,系统接受度和满意度均获较高评价。

对齐-分析-调整工作流程
“对齐-分析-调整”工作流程

本研究由浙江大学人工智能学院向为副教授团队完成。该成果的第一学生作者为浙江大学工业设计工程硕士生雷子悦。“智能不应只停留在语言层面的理解与表达,还应进入人与环境互动的身体过程。FlightAxis以动觉反馈连接大模型与人的操作行为,为人机协同学习提供了新的探索路径。”雷子悦分享道。

浙江大学工业设计工程硕士生雷子悦
浙江大学工业设计工程硕士生雷子悦

项目成果:
项目成果发表于国际人工智能领域顶级会议IJCAI 2025人本人工智能专题。研究团队:向为*、雷子悦、车皓远、叶芳源、吴雪婷、孙凌云。本项目受到国家自然科学基金等基金支持。

论文原文链接:
Wei Xiang*, Ziyue Lei, Haoyuan Che, Fangyuan Ye, Xueting Wu, and Lingyun Sun. 2025. Hand by Hand: LLM Driving EMS Assistant for Operational Skill Learning. In Proceedings of the Thirty-Fourth International Joint Conference on Artificial Intelligence (IJCAI-25), Special Track on Human-Centred AI, pages 10334-10342.
https://doi.org/10.24963/ijcai.2025/1148
(*通讯作者)