热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

论文笔记目录(ver2.0)

1时间序列1.1时间序列预测论文名称来源主要内容论文笔记:DCRNN(DiffusionConvolutionalRecurrentNeuralNe

1 时间序列

1.1 时间序列预测


论文名称来源主要内容
论文笔记:DCRNN (Diffusion Convolutional Recurrent Neural Network: Data-Driven Traffic Forecasting)_UQI-LIUWJ的博客-CSDN博客iclr 2017使用双向扩散卷积+GRU,建模空间和时间依赖性
机器学习笔记 soft-DTW(论文笔记 A differentiable loss function for time-series)_UQI-LIUWJ的博客-CSDN博客2017 icml

soft-dtw,可微分版本的dtw

PYTORCH 笔记 DILATE 代码解读_UQI-LIUWJ的博客-CSDN博客

论文笔记:Forecasting at Scale(Prophet)_UQI-LIUWJ的博客-CSDN博客2017 facebook时间序列分解成趋势,季节性和特定节假日的影响这三类
交通预测论文笔记:Spatio-Temporal Graph Convolutional Networks: A Deep Learning Frameworkfor Traffic Forecast_UQI-LIUWJ的博客-CSDN博客IJCAI 2018
交通预测论文笔记《Attention Based Spatial-Temporal Graph Convolutional Networks for Traffic Flow Forecasting》_UQI-LIUWJ的博客-CSDN博客AAAI2019

ASTGCN:

1)使用空间注意力机制来建模空间层面复杂的相关性

2)使用时间注意力机制来捕获不同时间之间的动态时间相关性

3)使用图卷积来捕获交通图中的空间特征;以及不同时间篇之间的依赖关系 

论文笔记: Modeling Extreme Events in Time Series Prediction_UQI-LIUWJ的博客-CSDN博客2019 KDD

使用记忆网络来记忆历史记录中的极端事件

开发了一种新的损失函数,称为极值损失(EVL)【约束异常事件的分布】

 

 论文笔记 Enhancing the Locality and Breaking the MemoryBottleneck of Transformer on Time Series Forecas_UQI-LIUWJ的博客-CSDN博客NIPS 2019

transformer 用于时间序列

1,使用因果卷积使得Q,K计算过程中可以看到一定的局部性

2,提出LogSparse Transformer,将空间复杂度降至O(L(logL)^2)

利用深度学习解决单变量时间序列点预测问题

提出了一种基于后向和前向残留链路和一个非常深的全连接层堆栈的深度神经结构。该模型具有可解释性

 

论文笔记:Unsteady Multi-Element Time Series Analysis and Prediction Based on Spatial-Temporal Attention_UQI-LIUWJ的博客-CSDN博客2020 MDPI

时空注意力机制

 


论文笔记 A Spatial-Temporal Decomposition Based Deep Neural Network for TimeSeries Forecasting_UQI-LIUWJ的博客-CSDN博客

时空数据分解+ Conv LSTM

 

交通预测论文翻译:Deep Learning on Traffic Prediction: Methods,Analysis and Future Directions_UQI-LIUWJ的博客-CSDN博客IEEE Transactions on Intelligent Transportation Systems 2021综述性质论文,同时给出了一些公共数据集
论文笔记:COST: CONTRASTIVE LEARNING OF DISENTANGLEDSEASONAL-TREND REPRESENTATIONS FORTIME SERIES FOREC_UQI-LIUWJ的博客-CSDN博客    ICLR 2022将时间序列解耦成趋势表征和周期表征,同时使用了对比学习
 论文笔记 Triformer: Triangular, Variable-Specific Attentions for Long SequenceMultivariate Time Series_UQI-LIUWJ的博客-CSDN博客2022 IJCAI使用attention进行长期时间序列分解。通过patch attention,使得复杂度维O(n)

 


 1.2 时间序列补全


论文名称来源主要内容
论文笔记 Spectral Regularization Algorithms for Learning Large IncompleteMatrices (soft-impute)_UQI-LIUWJ的博客-CSDN博客2010 JMLR

基于迭代SVD的矩阵补全(软阈值+硬阈值)

对MF有很多理论的证明和说明(写论文的时候可以用来参考)


论文笔记:Temporal Regularized Matrix Factorization forHigh-dimensional Time Series Prediction_UQI-LIUWJ的博客-CSDN博客
NIPS 2016

TRMF 辅助论文:最小二乘法复现TRMF_UQI-LIUWJ的博客-CSDN博客

提出了一个新的时间正则化矩阵分解框架(TRMF)用于高维时间序列分析。

论文笔记 & R 笔记:imputeTS: Time Series Missing ValueImputation in R_UQI-LIUWJ的博客-CSDN博客R语言包,进行单变量时间序列补全
论文笔记:Autoregressive Tensor Factorizationfor Spatio-temporal Predictions_UQI-LIUWJ的博客-CSDN博客ICDM 2017

在TRMF的基础上,添加了空间自回归DAR的正则项

论文笔记: BRITS: Bidirectional Recurrent Imputation for Time Series_UQI-LIUWJ的博客-CSDN博客2018NIPS双向LSTM进行补全&时间序列分类/回归
论文笔记:Hankel Matrix Factorization for Tagged Time Series to Recover Missing Values during Blackouts_UQI-LIUWJ的博客-CSDN博客2019 ICDE 对于连续数据缺失的补全(单变量时间序列)
论文笔记:NAOMI: Non-Autoregressive MultiresolutionSequence Imputation_UQI-LIUWJ的博客-CSDN博客2019NIPS使用双向RNN+分治(对抗学习)的方式进行补全

论文笔记:Matrix Completion in the Unit Hypercube via Structured Matrix Factorization_UQI-LIUWJ的博客-CSDN博客
2019IJCAI

EMF,SMF 用于 0~1的打分矩阵补全


论文笔记:Stochastic Weight Completion for Road Networks using Graph Convolutional Networks_UQI-LIUWJ的博客-CSDN博客
ICDE2019graph-autoencoder
论文笔记 Traffic Data Reconstruction via Adaptive Spatial-Temporal Correlations_UQI-LIUWJ的博客-CSDN博客part-c 2019

TAS-LR 论文辅助笔记 & 图拉普拉斯正则项推导_UQI-LIUWJ的博客-CSDN博客

MF+时间序列约束自适应拉普拉斯正则化空间约束

 

论文笔记:Time Series Data Imputation: A Survey on Deep Learning Approaches_UQI-LIUWJ的博客-CSDN博客20年(attention之前)的time series 补全论文综述
论文笔记:Mind the Gap An Experimental Evaluation of Imputation ofMissing Values Techniques in TimeSeries_UQI-LIUWJ的博客-CSDN博客PVLDB 202012种方法的比较
 论文笔记:SAITS: SELF-ATTENTION-BASED IMPUTATION FOR TIMESERIES_UQI-LIUWJ的博客-CSDN博客2021 将self-attention运用到time-series中
论文笔记:Missing Value Imputation for Multi-view UrbanStatistical Data via Spatial Correlation Learning_UQI-LIUWJ的博客-CSDN博客TKDE 2021
  •  空间关联性的挖掘
  •  多维度属性关联性的问题
  • 时间信息的缺失
  • 设计了一种空间相关的多核 K 均值 (S-MKKM) 方法来识别多视图之间的潜在关系并捕获区域相似性。
  • 提出了一种自适应权重非负矩阵分解方法,以利用上面学到的信息来解决多视图缺失数据插补问题。 此外,所提出的方法还考虑了单视图信息补全模型的特点,同时考虑了 KNN 策略来利用真实地理信息。
论文笔记:HKMF-T: Recover From Blackouts in TaggedTime Series With Hankel Matrix Factorization_UQI-LIUWJ的博客-CSDN博客2021 TKDE 对于连续数据缺失的补全(延伸到多变量时间序列)
论文笔记:Spatial Data Imputation with Landmarks_UQI-LIUWJ的博客-CSDN博客非负矩阵分解+拉普拉斯约束+landmark(landmark细节后续补充)

1.3 next-location 


论文名称来源主要内容

论文阅读笔记:STAN: Spatio-Temporal Attention Network for Next Location Recommendation_UQI-LIUWJ的博客-CSDN博客
提出一种基于注意力机制的神经网络架构,考虑用户访问轨迹中每个访问点相较于整个过往访问轨迹的时空关系,以此对不相邻非连续但功能相近的访问点进行关联,打破以往仅仅关联连续、相邻访问点的限制。

 1.4 region representation


论文名称来源主要内容
论文笔记:Region Representation Learning via Mobility Flow_UQI-LIUWJ的博客-CSDN博客2017 CIKM

使用了flow graph和spatial graph来学习region 向量表征

每一个点表示(地理空间上的点+时刻)

 


2 datamining
 
论文名称来源主要内容
论文笔记:Integrating Classification and Association Rule Mining (CBA算法)_UQI-LIUWJ的博客-CSDN博客1998 KDD
  • 生成类关联规则的完整集合,这个集合满足最小支持度以及最小置信度
  • 建立一个基于类关联规则的分类器

Data Mining 论文翻译:Deep Learning for Spatio-Temporal Data Mining: A Survey_UQI-LIUWJ的博客-CSDN博客

3 其他 
论文名称来源主要内容
论文笔记 Bayesian Probabilistic Matrix Factorizationusing Markov Chain Monte Carlo (ICML 2008)_UQI-LIUWJ的博客-CSDN博客ICML 2008

BPMF论文辅助笔记: 固定U,更新θU 部分推导_UQI-LIUWJ的博客-CSDN博客

https://blog.csdn.net/qq_40206371/article/details/120865455

在模型中使用了马尔可夫链蒙特卡罗(MCMC)方法进行近似推理

为超参数引入先验,并在参数和超参数上最大化模型的对数后验,从而允许基于训练数据自动控制模型的复杂性 。


论文笔记:[ICLR 2020] Tips for prospective and early-stage PhD students_UQI-LIUWJ的博客-CSDN博客
ICLR 2020
 论文笔记:Honor of Kings Arena: an Environment forGeneralization in Competitive Reinforcement Learning_UQI-LIUWJ的博客-CSDN博客NIPS2022王者荣耀开悟平台
论文笔记:A survey of deep nonnegative matrix factorization_UQI-LIUWJ的博客-CSDN博客2022DNMF综述

4 生物
论文名称来源主要内容
生物计算论文笔记1:The construction of next-generationmatrices for compartmentalepidemic models_UQI-LIUWJ的博客-CSDN博客SEIR模型中基本再生数R0和下一世代矩阵NGM之间的关系
论文笔记:Highly accurate protein structure prediction with AlphaFold (AlphaFold 2 & appendix)_UQI-LIUWJ的博客-CSDN博客

利用Transformer变体,物理和生物知识,预测蛋白质3D结构

原子级别的误差


 5 图

5.1 图聚类


论文名称来源主要内容
论文笔记&#xff1a;Weighted Graph Cuts without Eigenvectors:A Multilevel Approach_UQI-LIUWJ的博客-CSDN博客TPAMI 2007图中点聚类<——>kernel k-means

机器学习笔记&#xff1a; 聚类 模糊聚类与模糊层次聚类&#xff08;论文笔记 Fuzzy Agglomerative Clustering :ICAISC 2015&#xff09;_UQI-LIUWJ的博客-CSDN博客
ICAISC 2015模糊聚类 &#43; 分层聚类

算法/论文笔记 Fluid Communities: A Competitive, Scalable and Diverse Community Detection Algorithm &#xff08;2017&#xff09;_UQI-LIUWJ的博客-CSDN博客
2017graph点cluster 算法

5.2 GNN 


论文名称来源主要内容
论文笔记&#xff1a;E(n) Equivariant Graph Neural Networks_UQI-LIUWJ的博客-CSDN博客2021ICML

在传统GNN的基础上&#xff0c;每个点不仅有标量信息&#xff0c;还有矢量信息&#xff0c;EGNN可以保证矢量经过EGNN之后平移、旋转、排列等变性

 


 论文笔记&#xff1a;GraphSleepNet: Adaptive Spatial-Temporal Graph Convolutional Networks for Sleep Stage Classific_UQI-LIUWJ的博客-CSDN博客
IJCAI自适应邻接矩阵&#43;STGCN&#43;时空注意力&#xff0c;用于睡眠阶段分类

6 机器学习类
论文名称来源主要内容
论文笔记&#xff1a;On Large-Batch Training for Deep Learning: Generalization Gap and Sharp Minima_UQI-LIUWJ的博客-CSDN博客ICLR 2017大batch size会导致在测试集上泛化效果不行&#xff0c;原因在于大batch学到的local minima太sharp
当分布 非正态分布时&#xff0c;能否使用Pearson Correlation&#xff1f;_UQI-LIUWJ的博客-CSDN博客大部分情况下&#xff0c;Pearson correlation是很robust的&#xff0c;除非数据很不正态分布&#xff0c;且数据量不足。论文中比较了12种处理方法&#xff0c;并提出建议

7 强化学习
 
论文名称来源主要内容
论文笔记 Hierarchical Reinforcement Learning for Scarce Medical Resource Allocation_UQI-LIUWJ的博客-CSDN博客KDD 2021

使用GRU来求解未知疾病状态

使用DQN来或者各区域重要性排序

使用actor-critic来求解各区域口罩病床分配情况

论文代码解读 Hierarchical Reinforcement Learning for Scarce Medical Resource Allocation_UQI-LIUWJ的博客-CSDN博客 


论文笔记&#xff1a;STMARL: A Spatio-Temporal Multi-AgentReinforcement Learning Approach for Cooperative Traffic_UQI-LIUWJ的博客-CSDN博客

使用attention和LSTM进行空间和时间建模&#xff0c;然后对每个红绿灯分别进行强化学习&#xff0c;计算红绿灯控制方式

 


7.1 分层强化学习 


论文名称来源主要内容
论文笔记&#xff1a; Feudal Reinforcement Learning_UQI-LIUWJ的博客-CSDN博客用Q-table实现的最早的层次强化学习
分层强化学习&#xff1a;基于选项&#xff08;option&#xff09;的强化学习/论文笔记 The Option-Critic Architecture 2017 AAAI_UQI-LIUWJ的博客-CSDN博客AAAI 2017两层决策&#xff0c;option可以视作一组action的时域抽象。上层策略现决定选择哪个option。然后option再选择执行哪些action&#xff0c;每个option有自己的策略函数和终止函数
论文笔记&#xff1a;When Waiting Is Not an Option:Learning Options with a Deliberation Cost AAAI 2018_UQI-LIUWJ的博客-CSDN博客AAAI 2018在上一篇option-critic的基础上&#xff0c;认为切换option的时候是有开销的&#xff0c;不能很频繁地切换option
论文笔记&#xff1a;Hierarchical Deep Reinforcement Learning:Integrating Temporal Abstraction and Intrinsic_UQI-LIUWJ的博客-CSDN博客

上层函数mata-controller根据state&#xff0c;从实现给定的目标集中选择一个目标传给底层函数controller&#xff0c;controller 根据状态s和目标g选择动作。

goal作为一个输入&#xff0c;所以不同的goal共享相同的Q函数

 

论文笔记&#xff1a;FeUdal Networks for Hierarchical Reinforcement Learning_UQI-LIUWJ的博客-CSDN博客

也是上层制定goal&#xff0c;下层实现。

不过和上一个H-DQN不同&#xff0c;这里并没有一个goal集合&#xff0c;这边学习的goal可以看成是一个direction&#xff0c;也就是状态S 变化的方向。如果下层学到的策略使得实际的状态按照goal的方向变化&#xff0c;那么reward会比较大

论文笔记&#xff1a;Universal Value Function Approximators_UQI-LIUWJ的博客-CSDN博客

求解V(s,g)。 由于(s,g)对很少&#xff0c;所以将s-g对组成的矩阵进行矩阵分解&#xff08;行state&#xff0c;列goal&#xff09;

 


8 CV
论文名称来源主要内容
论文/机器学习笔记&#xff1a;SENet &#xff08;Squeeze-and-Excitation Networks&#xff09;_UQI-LIUWJ的博客-CSDN博客2017 ImageNet冠军学习各个channel重要性权重&#xff0c;对channel进行重新加权
论文笔记&#xff1a;Spatial-Temporal Map Vehicle Trajectory Detection Using Dynamic Mode Decomposition and Res-UNe_UQI-LIUWJ的博客-CSDN博客轨迹提取
论文笔记&#xff1a;CTSpine1K: A Large-Scale Dataset for Spinal Vertebrae Segmentation in Computed Tomography_UQI-LIUWJ的博客-CSDN博客一个大规模脊柱分割/识别的数据集
论文笔记&#xff1a;nnU-Net: Self-adapting Frameworkfor U-Net-Based Medical Image Segmentation_UQI-LIUWJ的博客-CSDN博客

在经典U-Net的基础上&#xff0c;没有对模型架构进行修改&#xff0c;而是根据数据集自动进行数据预处理、模型架构参数选择、训练、inference等

医学影像分割

论文笔记&#xff1a;nnU-Net: a self-configuring method for deep learning-based biomedical image segmentation_UQI-LIUWJ的博客-CSDN博客

论文笔记&#xff1a; Masked Autoencoders Are Scalable Vision Learners_UQI-LIUWJ的博客-CSDN博客
cvpr2021类似于BERT的MLM
论文笔记&#xff1a;Swin-Unet: Unet-like Pure Transformer for MedicalImage Segmentation_UQI-LIUWJ的博客-CSDN博客CVPR 2021swin transformer&#43;u-net
论文笔记&#xff1a;Swin Transformer: Hierarchical Vision Transformer using Shifted Windows_UQI-LIUWJ的博客-CSDN博客ICCV 2021 best paper

基于窗口的transformer&#xff0c;具有多尺度信息&#xff0c;同时计算复杂度和图像的尺寸呈线性关系

pytorch 笔记&#xff1a; Swin-Transformer 代码_UQI-LIUWJ的博客-CSDN博客


论文笔记 TransUNet: Transformers Make Strong Encoders for Medical Image Segmentation_UQI-LIUWJ的博客-CSDN博客
CNN&#43;transformer 作为 Unet的encoder&#xff0c;进行医学图像分割


推荐阅读
  • 浏览器中的异常检测算法及其在深度学习中的应用
    本文介绍了在浏览器中进行异常检测的算法,包括统计学方法和机器学习方法,并探讨了异常检测在深度学习中的应用。异常检测在金融领域的信用卡欺诈、企业安全领域的非法入侵、IT运维中的设备维护时间点预测等方面具有广泛的应用。通过使用TensorFlow.js进行异常检测,可以实现对单变量和多变量异常的检测。统计学方法通过估计数据的分布概率来计算数据点的异常概率,而机器学习方法则通过训练数据来建立异常检测模型。 ... [详细]
  • 线性代数:机器学习背后的优化原理线性代数作为数学的一个分支,广泛应用于科学和工程中,掌握好线性代数对于理解和从事机器学习算法相关工作是很有 ... [详细]
  • 【论文】ICLR 2020 九篇满分论文!!!
    点击上方,选择星标或置顶,每天给你送干货!阅读大概需要11分钟跟随小博主,每天进步一丢丢来自:深度学习技术前沿 ... [详细]
  • 每日一书丨AI圣经《深度学习》作者斩获2018年图灵奖
    2019年3月27日——ACM宣布,深度学习之父YoshuaBengio,YannLeCun,以及GeoffreyHinton获得了2018年的图灵奖, ... [详细]
  • Unity3D平台宏定义之美
    Unity包含一个“平台相关的编译”功能。这包括一些预处理指令,让你分割你的脚本编译和专为支持的平台之一执行代码段。您可以Unity编辑器中运行代码,这 ... [详细]
  • 系数|量纲_机器学习基础一文带你用sklearn做特征工程
    篇首语:本文由编程笔记#小编为大家整理,主要介绍了机器学习基础一文带你用sklearn做特征工程相关的知识,希望对你有一定的参考价值。使用sklearn做特 ... [详细]
  • PyTorch 2.0来了!100%向后兼容,一行代码将训练提速76%!
    点击下方卡片,关注“CVer”公众号AICV重磅干货,第一时间送达点击进入—CV微信技术交流群转载自:机器之心PyTorch官方 ... [详细]
  • 微软头条实习生分享深度学习自学指南
    本文介绍了一位微软头条实习生自学深度学习的经验分享,包括学习资源推荐、重要基础知识的学习要点等。作者强调了学好Python和数学基础的重要性,并提供了一些建议。 ... [详细]
  • 生成式对抗网络模型综述摘要生成式对抗网络模型(GAN)是基于深度学习的一种强大的生成模型,可以应用于计算机视觉、自然语言处理、半监督学习等重要领域。生成式对抗网络 ... [详细]
  • [译]技术公司十年经验的职场生涯回顾
    本文是一位在技术公司工作十年的职场人士对自己职业生涯的总结回顾。她的职业规划与众不同,令人深思又有趣。其中涉及到的内容有机器学习、创新创业以及引用了女性主义者在TED演讲中的部分讲义。文章表达了对职业生涯的愿望和希望,认为人类有能力不断改善自己。 ... [详细]
  • 本文介绍了机器学习手册中关于日期和时区操作的重要性以及其在实际应用中的作用。文章以一个故事为背景,描述了学童们面对老先生的教导时的反应,以及上官如在这个过程中的表现。同时,文章也提到了顾慎为对上官如的恨意以及他们之间的矛盾源于早年的结局。最后,文章强调了日期和时区操作在机器学习中的重要性,并指出了其在实际应用中的作用和意义。 ... [详细]
  • 深度学习中的Vision Transformer (ViT)详解
    本文详细介绍了深度学习中的Vision Transformer (ViT)方法。首先介绍了相关工作和ViT的基本原理,包括图像块嵌入、可学习的嵌入、位置嵌入和Transformer编码器等。接着讨论了ViT的张量维度变化、归纳偏置与混合架构、微调及更高分辨率等方面。最后给出了实验结果和相关代码的链接。本文的研究表明,对于CV任务,直接应用纯Transformer架构于图像块序列是可行的,无需依赖于卷积网络。 ... [详细]
  • 本文介绍了在Python张量流中使用make_merged_spec()方法合并设备规格对象的方法和语法,以及参数和返回值的说明,并提供了一个示例代码。 ... [详细]
  • 本博文基于《Amalgamationofproteinsequence,structureandtextualinformationforimprovingprote ... [详细]
  • Flex中使用filter过滤数据 ... [详细]
author-avatar
l清笛l
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有