Kaiyun·官方网站-中国大陆权威在线教育平台

　　2024年，我校国家社科基金重大项目（含重大专项）获批7项、教育部哲学社会科学研究重大课题攻关项目获批2项，国家社科基金年度项目及后期资助项目获批49项，国家自科基金项目获批39项，全年国家“两金”项目立项总数达95项、立项总经费2910万元，立项数与立项经费均创历史新高！9项成果荣获第九届高等学校科学研究优秀成果奖（人文社会科学）。

　　今天“中南师说”学术微视频栏目为大家推荐的是2024年度国家社科基金一般项目“智慧图书馆中生成式人工智能伦理安全保障机制研究”。

　　全国计算机协会会员、中国信息经济学会会员、湖北省信息学会会员。获湖北省科技进步奖三等奖、湖北省高校教学成果奖三等奖。发表论文30余篇，主持国家社科一般、青年共2项，省部级、校级及政府单位委托科研、教改项目多Kaiyun开云项，撰写专著2部，建设智库成果2篇。

　　近年来，例如Chatgpt和Deepseek这样的生成式人工智能（AIGC）的快速发展，让读者获取知识的方式更加便捷、高效。但是，AIGC在给我们带来便利的同时，也带来了一系列伦理安全问题，比如道德价值观问题、知识产权问题、隐私与数据安全问题、信息质量问题等。为了应对这些问题，本课题研究的重点就是如何让生成式人工智能在智慧图书馆中发挥更好的作用，同时避免伦理风险。本研究提出了两大核心思路：

　　01人机共治与模型挂载。即让人类和AIGC共同参与治理，而不是完全依赖技术。同时，在智慧图书馆的人工智能大模型上挂载一个专门的伦理安全Kaiyun开云保障模块。

　　02建立一套伦理评估体系。这套体系可以对AIGC的行为进行分析，识别可能出现的伦理问题，并对AIGC进行引导，让它的内容更加安全、更加合规。刘雅琦副教授还设计了伦理学习奖励机制，通过奖励的方式，让AIGC不断优化自己的输出，减少伦理风险。

　　在实际应用方面，计划先在高校图书馆进行试点，并提出“多层级风险评估+多智能体协同保障+多场景应用示范”的新治理模式，希望能突破目前智慧图书馆发展中的伦理瓶颈。