计算机论文哪里有?本文的工作不仅涉及如何解决特定领域任务,而且还涉及使用任务的实践来启发深度学习方法的研究。现从以下 2 个角度对未来工作进行展望:(1)具有可视化能力的模型,或许能够从现实角度,完成一些与医学研究课题的互动。在保证模型性能的条件下,有可能利用可视化深度学习模型的解释性推动睡眠分期标准的合理化和精准化。同时,这样的应用实践,也有助于完善深度学习理论研究。
1 绪论
1.2 国内外研究现状
自动睡眠分期是人工智能与睡眠医学结合的产物,与计算机应用领域、信号处理领域、神经科学领域等多种研究领域相关。在自动睡眠分期方法研究早期,主要的方法思路可以分为两大类:基于规则推断的知识工程方法和基于数值分类的特征工程方法。前者需要消耗较长的时间构建知识库,且适用情况比较有限,因此,在后续发展中逐步被特征工程所取代。自 2012 年,AlphaGo 大败世界冠军李世石及 AlexNet 在 ImageNet 挑战赛一举夺冠以来,使用深度学习的睡眠分期方法被越来越多的研究者所提出。
本节首先对现有自动睡眠分期方法从研究目标、使用数据、特征及模型四个角度进行总体梳理(如图 1-1)。在此基础上,围绕本文研究的主要课题,重点介绍了国内外基于深度学习的睡眠分期方法研究现状。最后,分析了现有研究存在的问题。
睡眠分期任务,无论是对于睡眠专家而言还是对于机器而言,都是一个分类任务。若分类目标是针对睡眠“帧”(sleep epoch)的,比如文献[13][14],那么就属于普通单实例分类,若是针对记录(包含多个连续睡眠“帧”,以独立文件的形式存在)的,比如文献[15][16],那么就属于序列分类。特别地,Phan 等人[17]本身的网络结构只需进行单实例分类即可,但是为了在决策时考虑序列上下文信息,故而以一对多的形式将分类任务和预测任务联合,采用序列作为输入和输出。
2 基于注意力机制的混合神经网络睡眠分期模型设计
2.1 问题的提出
睡眠分期本质上是一个多分类任务——输入一个睡眠阶段的一小段一维时序数据,输出相应的睡眠阶段决策。根据 AASM 标准,通常,这一小段信息持续的时长为 30 秒;而一个 PSG 记录,往往是几分钟、几小时的;因此,睡眠分期又可以分为简单多分类和序列多分类两大类。前者讨论的对象是单个睡眠“帧”,后者讨论的则是可以切分成多个连续“帧”的单个记录。
由于存在个体差异性,简单多分类任务要想较好地避免这种差异对模型性能的影响,不仅需要学习类间差异,还需要学习类内差异。而且,通常做自动睡眠分期时,直接输入的是某个个体记录,不大可能提前学习到该个体与数据库中个体的差异。再者,简单多分类任务无法学习到连续睡眠“帧”之间存在持续传递的信息。所以,本文解决的是序列型多分类任务。
现有模型除了 GraphSleepNet[23],实现多通道数据输入大多局限在迁移学习、分通道训练上,这本质上仍然是分别处理单通道数据的一种扩展。而且,睡眠专家在判读睡眠“帧”时,常常以 PSG 不同通道的数据作为参考,体现了通道利用的同步性。因此,本章模型以同时处理多通道数据为目的提出。
GraphSleepNet[23]利用 GCN 和多个 EEG 通道,动态学习睡眠分期脑功能连接图,在该领域内具有很强的先进性。但是,睡眠分期的其他非 EEG 生理信号,比如,EOG 信号,虽然无法与 EEG 关联,在实际分期中,却有很大的参考价值。所以,为了学习不同种类生理信号,本章仍然选用普通卷积网络作为基础架构。
除此之外,目前在该领域内使用注意力机制的模型,基本全是基于自注意力机制的,那有没有可能像别的领域一样基于 RNN 使用非自注意力机制呢?
基于上述分析,提出本章研究。
3 基于序列学习的多目标睡眠分期方法
3.1 问题的提出
在一个睡眠“帧”序列中,如果一个睡眠“帧”与上一睡眠“帧”的睡眠阶段相同,那么,它就是一个非过渡“帧”,反之,为过渡“帧”。
受文献[17]启发,本章将视角放在睡眠“帧”的过渡集与非过渡集上。本章认为,就睡眠阶段是否转移而言,可以将睡眠“帧”分成两大类:过渡睡眠“帧”与非过渡睡眠“帧”。在这样的两大类中,过渡“帧”相较于非过渡“帧”是少数类。
基于上述内容,本章在传统睡眠分期任务中,引入了过渡与非过渡的二分类任务,并将两个任务联合到一起,进行多目标学习,提出一种基于序列学习的多目标睡眠分期方法。通过将过渡与非过渡的关系类别化,可以从数据本身出发,学习到蕴藏其中的关系变化特征。
这里,基于序列学习,在序列到序列(sequence to sequence, seq2seq)问题的模式下,可以在分类时进行序列间的交互,这便为过渡与非过渡的标记提供了可能。
3.2 基于序列学习的多目标睡眠分期方法实现
为了在任何情况下都保证能够进行二分类标记,本方法的适用对象是进行序列学习的睡眠分期模型。图 3-1 为本章所提出的基于序列学习的多目标睡眠分期方法的整体框架。本小节先介绍了与框架相关的序列到序列模型和多目标学习,然后对所提框架进行了具体的描述,最后给出二分类标记的实现和多目标损失函数的构造。
4 总结与展望
4.2 展望
本文的工作不仅涉及如何解决特定领域任务,而且还涉及使用任务的实践来启发深度学习方法的研究。现从以下 2 个角度对未来工作进行展望:
(1)具有可视化能力的模型,或许能够从现实角度,完成一些与医学研究课题的互动。在保证模型性能的条件下,有可能利用可视化深度学习模型的解释性推动睡眠分期标准的合理化和精准化。同时,这样的应用实践,也有助于完善深度学习理论研究。
(2)睡眠分期的损失下降趋势线多锯齿,不稳定,在多目标学习时,训练的困难程度更甚。而且,使用人工设参的方式进行对目标学习的任务平衡比较随机化。因此,未来需要从训练的角度探索睡眠分期模型的优化策略,并尝试使用自适应的任务平衡策略,比如:动态加权平均法、梯度归一化。
参考文献(略)