关键词：
知识图谱
智能问答
LLM
注意力机制
嵌入表示
摘要：
近年来,随着人工智能技术的飞速发展,其与教育的结合受到了国家及教育部门的高度重视。智能问答作为人工智能技术在教育实践中的一项重要应用,能够在课程学习中提供智能化、个性化学习支持,提高教育效率。特别是在程序设计这类对思维能力要求较高的课程中,由于每位学生具有不同的思维模式、理解能力及知识背景,学生在学习过程中遇到的问题和挑战也各具特点,对答疑解惑有着更高的要求。因此,智能问答在程序设计类课程教学中的应用显得尤为重要。
在传统的程序设计类课程教学中,存在着教师数量有限而学生问题无限、课堂时间有限而提问时间无限、教师知识有限而领域知识无限等诸多矛盾。为此,本研究通过构建程序设计类课程知识图谱,设计基于知识图谱的课程智能问答系统,旨在为学生提供流畅、精准的教辅支持。同时,在知识图谱构建过程中,本研究发现存在部分不同的实体节点实际上指向了相同概念,导致知识图谱存在冗余现象,进而影响了智能问答效果。此外,由于自然语言生成的复杂性,传统智能问答的生成能力仍有待提高。针对这两个问题,本研究展开了以下工作:
(1)针对知识图谱构建过程中存在的实体冗余问题,本研究提出了一种联合实体邻域信息与属性信息的知识图谱嵌入模型NARL,将符号化的知识图谱嵌入到低维向量空间,根据数值化的嵌入向量对冗余实体进行融合,提高知识图谱质量。首先采用图注意力网络(Graph Attention Networks,GAT)对一跳邻域与二跳邻域实体分别进行聚合,接着使用门控机制对二者进行融合,以充分获取邻域信息。此外,利用BERT(Bidirectional Encoder Representations from Transformers)模型获取实体属性信息,并通过注意力机制赋予不同属性差异化权重,从而实现属性信息的优化聚合。最后,将两种信息进行联合训练,获取最终的向量表示并据此进行实体融合。实验表明,本模型在FB15K-237公共数据集链接预测任务中的Hits@10及MRR指标上,相较于图神经网络模型KBGAT(Knowledge Base Graph Attention Networks)分别提高了3.3%、1.1%,相较于联合嵌入模型PDRL(Relation Path and Entity Description Information Based Knowledge Graph Representation Learning)分别提高了11.3%、17.2%。
(2)针对传统智能问答生成能力不足的问题,本研究提出了一种模式驱动的大语言模型(Large Language Models,LLM)文本生成框架PatternGPT。该框架首先根据用户问题利用LLM进行问题扩展,从问题中抽取相关模式。然后,借鉴联邦学习思想,通过模式共享机制提升知识多样性。接下来,对得到的模式进行筛选和优化,得到质量良好的模式。最后,根据所选模式从知识图谱中检索事实知识并注入LLM,使其生成流畅、可靠的回复。实验表明,本框架在Simple Questions公共数据集上的Hits@1指标相较于思维链方法和问题相关知识检索方法分别提高了13.8%、3.4%,在自构建的PCKG数据集上达到了84.9%的准确率.。
(3)基于以上研究内容,构建了基于知识图谱的程序设计类课程智能问答系统。首先采用半自动方法构建知识图谱,在构建过程中,利用本研究提出的NARL模型进行知识融合。之后,根据PatternGPT框架,将系统通过钉钉机器人API接入钉钉软件。本系统不仅能为学生提供丰富的扩展知识,也可提供主动问答服务,帮助学生更好地理解问题、扩展知识面,激发学生自主学习的动力和兴趣。
中国知网总库（CNKI）
中国学术期刊网络出版...
详细信息
