Fennel

初级炼丹师

力扣题目记录

题目分类,刷提记录

差分/前缀和 题目 难度 标签 1109. 航班预订统计 中等 差分 2055. 蜡烛之间的盘子 中等 前缀和 798. 得分最高的最小轮调 困难 差分 ...

LSTNet论文笔记

Modeling Long- and Short-Term Temporal Patterns with Deep Neural Networks

论文pdf Modeling Long- and Short-Term Temporal Patterns with Deep Neural Networks 前言 Purpose:多元时间序列预测是一个重要的机器学习问题。而在许多实际应用中时序数据往往是长短期混合的,这就导致如自回归模型和高斯过程等传统方法失效。传统的RNN模型如:GRU、LSTM对于长时序数据也会有梯度...

脑网络基础

A Comprehensive Survey on Graph Neural Networks

神经影像技术 脑影像的成像手段主要分为脑结构成像技术和脑功能成像技术。 脑结构成像常用的技术手段主要包括:结构磁共振成像(Structural MagneticResonance Imaging,sMRI)、弥散张量成像(Diffusion Tensor Imaging,DTI)和计算机辅助 X 射线断层扫描(Computerized Tomography,CT)等等。 脑功能成像常用...

图神经网络综述阅读笔记

A Comprehensive Survey on Graph Neural Networks

前言 左:二维欧式数据下的卷积;右:图数据下的卷积 曾经在机器学习的特征工程中主要依靠人工提取特征,而现在通过端到端的深度学习框架(CNN、RNN、自编码器)可以更好的进行特征提取。深度学习的快速发展得益于计算机算力的大幅度提升、大规模的训练数据以及可以有效的从欧式数据中提取潜在特征。虽然深度学习可以有效地应用于欧式数据,但越来越多的数据是以图的形式来表示,如:化学分子结构、论文的引文...

Git命令与常见问题

记录一下Git命令,以及自己使用过程中碰到的问题(会持续更新)

设置全局用户与邮箱 添加配置 git config --global user.name "你的用户名" git config --global user.email "你的邮箱" 查看配置 git config --global user.name git config --global user.email 删除配置 git config --global --unset us...

Transformer论文笔记

Attention Is All You Need

论文pdf Attention Is All You Need 前言 Purpose: 循环模型通常沿输入输出的序列顺序来计算,产生一系列的隐藏状态,通过先前的隐藏状态与当前位置的输入来输出,这种方式使得计算过程中无法并行计算。 减少顺序计算也构成了扩展模型的基础,在如ByteNet、ConvS2S等模型中关联两个输入或输出位置的信号所需的计算量随着位置的增加而增加,这...

ResNet论文笔记

Deep Residual Learning for Image Recognition

论文pdf Deep Residual Learning for Image Recognition 前言 Purpose: 更深层的神经网络往往更加难以训练,而且堆叠更多的层会带来更多的问题,如梯度爆炸、梯度消失、网络退化(degradation)等。梯度爆炸、消失问题可以通过BN层与参数初始化来解决;但网络退化问题则没有很好的办法去解决。退化是指随着网络深度的增加,网络...

GoogLeNet论文笔记

Going deeper with convolutions

论文pdf Going deeper with convolutions 前言 Purpose: 提高网络性能最直接的方法就是增加网络的深度与宽度。但深层的网络容易发生过拟合且计算量太大往往难以训练。通常应对这两个问题的方法是将全连接的架构转换为稀疏连接的架构,但由于在非对称稀疏结构上进行计算效率非常低,所以转换为稀疏矩阵的回报很小。 Method: 作者提出了Incepti...

VGG论文笔记

VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION

论文pdf VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION 前言 Purpose: 主要研究了深度对模型性能的影响。 Method: 设置对照实验,深度加深、通道数增多。 Results: 深度对分类精度是有利的。 VGG的模型与传统的CNN模型没有太大的区别,主要对具有3×3的卷积...

ALexNet论文笔记

ImageNet Classification with Deep Convolutional Neural Networks

论文pdf ImageNet Classification with Deep Convolutional Neural Networks 前言 ALexNet是2012年 ImageNet 2012 图像识别挑战赛的冠军,并且Top-5错误率到达了15.3%,比第二名低了10.8个百分点。 本来在1998年LeNet提出后,卷积神经网络在计算机视觉和机器学习领域中很有名气。但...