基于主题模型的经济犯罪智能检索方法之计算机研究

最早期的主题模型可以追溯到 1973 年 Salton 提出的 TF-IDF 模型，用于发现文档中每个词语的重要程度，该模型能够区分能力较强的词语，降低文档的维度，但是无法表示词语文档间的关系[1]。在 2003 年，Blei DM，Ng AY，Jordan MI 等学者提出了潜在狄利克雷分配模型（Latent Dirichlet Allocation，LDA），它是理论更完善的主题模型。该模型在 PLSA 模型的基础之上，在主题和其包含的特征词中加入了文本主题分布，使数据维度从高维转变为较低的维度[2]，并且模型不限制文档集的自身规模，因此更适用于大规模文档集。清华大学吴平博主要研究语言处理的信息内容，在信息检索方面结合主题事件，研究在主题框架基础上智能信息检索的的改进与利用，对信息检索在网络内容上的质量有一定得见解[3]。之后，Blei 等人又提出了一个相关主题模型 CTM，与 LDA的区别在于其利用对数正态分布对主题概率分布采样，其先验参数中包含一个可以描述主题之间相关性的协方差矩阵[4]。2009 年，Petterson 和其他学者使用单词信息作为特征，并定义了一个潜在的“主题”、“单词”分布的先验知识，使得语义上一致的单词能够有近似的主题分布[5]。Andrzejewsk 等学者在 2011 年以 LDA 模型为基础，结合了一阶逻辑推理的方法，改进了 LDA 模型[6]。Templeton 等人于 2012 年提出了句法主题模型 STM，该模型的改进在于，为每个词分配主题时，不但要考虑到“文档”、“主题”概率分布，还要考虑到句法树中父节点的主题类型[7]。Chen Z 和其他学者在 2013 年提出了多领域知识主题模型 MDK-LDA，利用多个领域的先验知识推理新领域的主题模型建模[8]。ChenZ 等人在 2013 年又提出了 GK_LDA 模型来利用与领域无关的通用的知识。具体来说，就是使用了一些词汇间的语义关系，例如同义关系、反义关系和形容词属性，来帮助生成更相关的主题[9]。由于一般的知识都是领域独立的，对于特定领域可能会出现问题。2016 年，尹通提出了一个整合先验知识的主题模型 PLTM。在微博热点话题发现的任务中，采用划分结合层次的混合聚类算法来解决微博主题发现问题[10]。Wang Z , Gu S 等人在 2018 年提出了一种基于 LDA 的计算框架 GS-LDA，用于产品评论数据中的群发垃圾邮件检测[11]。2018 年张祥平，曹步清等人提出一种基于 Word2Vec 和 LDA 主题模型的Web 服务聚类方法，将 Wikipedia 语料库作为扩充源，使用 word2vec 对 Web 服务描述文档内容进行扩充，再将扩充后的描述文档利用主题模型进行特征建模，将短文本主题建模转化为长文本主题建模，更准确地实现服务内容主题表达，最后根据文档的主题分布矩阵寻找相似的服务并完成聚类[12]。余圆圆，巢文涵等人在 2019 年提出一种融合双语主题模型及双语词向量的排序模型，实现了英文维基百科和中文百度百科之间军事领域的跨语言知识链接[13]。
.............................

第二章 基于主题模型的智能信息检索框架设计
 

2.1 经济犯罪信息的智能检索基本思路
2.1.1 经济犯罪智能检索业务分析
本文所讨论的问题是经济犯罪信息的检索问题。经济犯罪类案件类信息主要是由各市局经侦支队及分县局经侦专业队全面采集非法集资、金融诈骗等经济类犯罪的已经立案侦查或已经办结的案件信息。
信息结构的特点主要是信息结构多为长文本类型，表现为一篇文档，字数通常在1000 至 2000 字之间，同时也有少量 300 字以内的文本信息。案件中存在大量的经济类犯罪领域短语，如“伪造印章”、“虚假刷单”、“假冒网警”等。
业务流程的特点主要为经济犯罪的案件侦查需要各局民警在办案时，将包括案件编号、简要案情、受立案时间、案件现状、办案民警信息等的案件信息编写成一篇篇在侦案件文档；在破案后将整个办案的内容和过程加以整理，编写成结案的文档，存储在不同的平台网站中，这类平台多数需要登录后才能浏览信息。在日常工作中，常常需要检索已有的案件内容，来辅助在侦案件的顺利侦破。