近日，一则关于国际学术季刊曝光的学术不端事件，为学术界敲响了警钟。一篇发表于该刊物的博士论文被发现存在严重学术不端行为，在其列出的61条参考文献中，竟有24条系由人工智能凭空捏造的“幽灵文献”。虽然部分引文标注了真实的来源期刊信息，但在相应期数中却查无实据。
“这是‘AI垃圾’在学术领域最恶劣、最危险的表现之一。”浙江大学哲学学院教授李恒威在接受本报记者采访时表示，所谓“幽灵文献”，是指那些在学术成果中被正式引用并标注为信息来源，但实际无法查证、根本不存在，或与引用内容严重不符的虚假资料。它们如同学术界的“幽灵”，表面上构建起论证的“支撑”，实则空无一物，不仅可能误导研究方向，更严重破坏了学术共同体赖以维系的信任基石。
当生成式人工智能（AIGC）的强大生产力被滥用，其产出的内容空洞、逻辑混乱、价值缺位的数字产物，正在引发社会各界尤其是学术界的深切忧虑。如何有效识别、遏制并治理“AI垃圾”，守护清朗的数字生态与学术净土，已成为人工智能时代必须正视的紧迫课题。
技术滥用毁掉深度思考能力
“幽灵文献”事件并非孤例。记者调查发现，从社交平台上空洞无物的“废话文学”，到短视频里荒诞离奇的恶搞内容；从营销号批量产出的模板化文章，到以假乱真的深度伪造人文科普——一种被网民形象地称为“AI垃圾”或“数字泔水”的低质量信息流，正以惊人的速度在互联网空间蔓延。而这股浊流已悄然突破公共信息领域的边界，开始渗透并侵蚀严谨的学术生态。
在AI技术浪潮下，“幽灵文献”暴露了部分研究者对技术底线的失守。正如中国社会科学院新闻与传播研究所网络信息与智能传播研究室副主任杨斌艳所观察到的，当前一个突出问题是，大量缺乏约束和引导的“试探性使用”正在泛滥。人们出于好奇或测试目的，向AI输入各种非常规甚至刻意设计的指令，导致其输出大量逻辑混乱、脱离现实的荒诞内容。当这些“玩闹”性质的内容被不当利用，甚至移植到严肃的学术生产领域时，便构成了对学术精神的直接挑战。
“用AI得来的轻松快乐，最终可能会毁掉我们深度思考的能力。”中国人民大学哲学院教授刘永谋对此深感忧虑。他将依赖AI替代费力思考的行为称为“认知卸载”。在他看来，思考本身即是学术与求知的核心价值所在。如果任由AI代劳核心的思考环节，长期“不费脑子”，人类最终可能会丧失宝贵的独立思考能力。当论文发表沦为形式空转，其探索真理、推动文明进步的根本意义也将荡然无存。
“AI垃圾”何以泛滥
“AI垃圾”肆虐并非偶然，是多重因素交织下的必然产物。北京师范大学心理学部教授刘超从技术与社会心理层面剖析了成因。在他看来，大语言模型的普及使得内容生产成本降低，原本需要创造性投入的活动，正异化为机械的“流水线工作”。更深层的危机在于，AI模型本身依赖于互联网海量数据进行训练，而当网络中已充斥大量低质AI内容时，新一代模型再抓取这些“垃圾”作为语料，便形成了一个“用垃圾喂出更多垃圾”的恶性循环，导致信息环境的质量每况愈下。
中国科学院计算技术研究所研究员陈薇从技术特征上揭示了“AI垃圾”的隐匿性。她表示，这类内容往往呈现出“形式完整，实质空洞”的特点。它们拥有虚假的专业感和极高的流畅度，惯于讲述“正确的废话”。其伪装手段多样，例如，通过多语种互译、同义词改写、半人工润色等手段来掩盖AI生成痕迹，甚至利用编造虚假文献、一本正经地论述谬误等方式来制造“原创”假象。
识别这些“数字泔水”，正成为数字时代公众必备的素养。杨斌艳提醒，对于那些严重违背常识逻辑、明显不符合现实情况的内容，应保持高度警惕。同时，要提防以各种“变脸”形式隐匿出现、实则推销同一话术的内容。刘超则建议关注内容的生成动机：“是意在引导读者站队、转发、加群还是转账？是在单纯煽动情绪，还是引发深度思考？”这些追问都有助于剥开AI生成内容的伪装。
学者们呼吁，公众应主动培养对“模板化表达”和“过度完美叙事”的敏感度，并结合交叉验证、溯源查证等方法，提升自身的辨识能力。
构建多维治理格局
面对汹涌而来的“AI垃圾”，单一的治理手段显然难以应对。多位学者在接受本报记者采访时都表示，必须构建一个覆盖技术、制度与人文教育的全流程、多维度的防控体系。
从技术层面筑起“防火墙”是首要任务。陈薇提出两点具体建议：一是大力推广数字水印与内容指纹技术，实现对AI生成内容从生产到传播的全链条溯源，让每一份“数字产物”都有迹可循；二是研发高精度的AI生成内容检测算法，并针对科教领域优化学术工作流，建立“引用可点击、证据可复算”的自动化验证机制，确保研究数据和结论的真实性与可复现性。
李恒威将AI比作承载人类文明的“忒修斯之船”。他认为，治理“AI垃圾”需秉持“在航行中修理船只”的动态思维。首先，在技术设计初期即“造船阶段”，就应嵌入可追溯、可解释的机制，并建立明确的AI训练与生成内容的质量规范和伦理标准。其次，在技术运行过程中即“日常维护”阶段，需要建立功能强大的事实核查、深度伪造检测及质量评估体系，并强化专业审核力量。最后，在价值导向层面，必须锚定AI服务于求真、向善、创造的核心目标，加强人文教育与公众数字素养，从根本上提升社会对低质信息的“免疫力”。
平台作为信息传播的关键枢纽，同样责无旁贷。杨斌艳提出，网络平台应积极建立“AI垃圾”一键举报机制，并构建共享错误信息的阻隔数据库，让广大网民成为治理环节中的活跃力量，形成群防群治的局面。
学术界应自觉守护知识标准
在这场抵制“AI垃圾”的战役中，学术界不能成为被动的研究者，应成为主动的守护者和引领者。守护知识生产与认知标准，是学术界责无旁贷的使命。
刘永谋强调，人文学界尤其应发挥价值引领作用。通过积极的学术发声，倡导优质内容生产，抵制“AI垃圾”的泛滥。同时，要致力于培育理性、审慎、有深度的网络文化与数字伦理，推动形成尊重原创、崇尚思辨、拒绝信息快餐的网络道德共识，为清朗的数字生态注入不可或缺的人文精神与价值定力。
杨斌艳认为，学术界应将学者的集体智慧转化为治理力量，通过聚合专家们的碎片化时间，共同参与构建识别“AI垃圾”的“防火墙”。学者更应积极参与到大模型的“有效投喂”和持续优化训练中去，为纠正“AI幻觉”充当“守门人”，为优质内容的生成贡献高质量的知识养料。
刘超建议，学术界应以开放课程、科普文章等多元化形式，提升大众对AI生成低质信息的鉴别能力。“学术界在整治‘AI垃圾’中的核心使命，不是与技术进行简单的对抗，而是致力于重建可信知识的生产、验证与传播秩序。”陈薇进一步提出，鉴于AI对教育领域的深远影响，应推动教育回归思维训练与价值塑造的本质，弱化对机械记忆的考核，强化逻辑思辨能力的培养，鼓励那些虽不完美却真实、独特的表达，培育人们对具有灵魂与情感深度内容的审美判断力。
李恒威认为，我们或许永远无法抵达一个AI被“完全修复”、信息环境“毫无瑕疵”的静止终点。技术将持续迭代，新的问题会随之滋生，新的“AI垃圾”也会以新的形态不断涌现。这要求我们具备一种与时俱进的治理智慧——在技术的发展与治理的完善之间，保持动态的平衡，在航行中不断修缮我们这艘承载着人类文明与认知希望的“忒修斯之船”。
来源：中国社会科学报
如遇作品内容、版权等问题，请在相关文章刊发之日起30日内与本网联系。版权侵权联系电话：010-85202353
全部评论
0条