VGG-1
VGG理论结构VGG详解VGG 在2014年由牛津大学著名研究组 VGG(Visual Geometry Group)提出,斩获该年 ImageNet 竞赛中 Localization Task(定位任务)第一名和 Classification Task(分类任务)第二名。原论文地址:Very Deep Convolutional Networks for Large-Scale Image Recognition
VGG网络的创新点:通过堆叠多个小卷积核来替代大尺度卷积核,可以减少训练参数,同时能保证相同的感受野。论文中提到,可以通过堆叠两个3×3的卷积核替代5x5的卷积核,堆叠三个3×3的卷积核替代7x7的卷积核。
CNN感受野在卷积神经网络中,决定某一层输出结果中一个元素所对应的输入层的区域大小,被称作感受野(receptive field)。通俗的解释是,输出feature map上的一个单元 对应 输入层上的区域大小。
以下图为例,输出层 layer3 中一个单元 对应 输入层 layer2 上区域大小为2×2(池化操作),对应输入层 layer1 上大小为5×5(可以这么理 ...
5G网络架构和组网部署-1
预备知识太多名词看的晕晕乎乎的这里可以让你豁然开朗
名词汇总核心网与接入网
名词
定义
核心网
核心网部分就是位于网络子系统内,核心网的主要作用是把A口上来的呼叫请求或数据请求,接续到不同的网络上。
接入网
所谓接入网是指核心网络到用户终端之间的所有设备,其长度一般为几百米到几公里,因而被形象地称为”最后一公里”。
个人理解,核心网和接入网的定义比较好理解,就像是快递公司,会把一座城市的快递收集起来,这部分是接入网,再根据快递的信息处理其下一步应该发往哪个城市,这个快递公司的工作就是核心网。
5G网络架构
名词
定义
SA组网
(Standalone)5G独立组网
NSA组网
(Non-Standalone)5G非独立组网
NB
3G基站代称
eNB
4G基站代称
gNB
5G基站代称
en-gNB
承载部分4G业务的5G基站代称
gn-eNB
承载部分5G业务的4G基站代称
5GC
5G核心网
NG-(R)AN
由多个与5GC连接的gNB组成的(无线)接入网
NG接口
无线接入网和5G核心网之间的接口
Xn接口
NG ...
AlexNet-3
AlexNet实践练习代码部分文件预处理1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253545556575859606162636465666768import osfrom shutil import copy, rmtreeimport randomdef mk_file(file_path: str): if os.path.exists(file_path): # 如果文件夹存在,则先删除原文件夹在重新创建 rmtree(file_path) os.makedirs(file_path)def main(): # 保证随机可复现 random.seed(0) # 将数据集中10%的数据划分到验证集中 split_rate = 0.1 # 指向你解压后的flower_photos文件夹 cwd = os.getcwd() data_root = os.pa ...
AlexNet-2
AlexNet研读ImageNet Classification with Deep Convolutional Neural Networks,【中文翻译】
网络优点ReLU非线性单元AlexNet使用的神经元激活函数是ReLU激活函数 f(x)=max(0,x) ,相比于饱和非线性函数如Sigmoid和tanh函数,不饱和非线性函数如ReLU在梯度下降时具有更快的收敛速度,更快地学习,在大型网络中训练大量数据具有非常好的效果。作者通过在CIFAR-10数据集上做的实验证明了此论点。如下图,实线表示使用ReLUs的CNN,虚线表示使用tanh函数的CNN,可以看出使用ReLUs的CNN能更快地把训练错误率降低到25%(迭代次数比tanh的CNN快约5倍)。
ReLU是本文作者Hinton在2010年提出来改善RBM性能的,把ReLU引入深度CNN中,使得ReLU成为以后深度网络普遍使用的非线性函数,从而在这个领域替代经典的sigmoid、tanh函数。ReLU有三个好处:
简单的max计算,大大减少了计算量,可以提高训练速度;
梯度在ReLU中是直接传递的,鉴于深度网络的 ...
AlexNet-1
AlexNet网络结构详解AlexNet 是2012年 ISLVRC ( ImageNet Large Scale Visual Recognition Challenge)竞赛的冠军网络,分类准确率由传统的70%+提升到80%+。它是由Hinton和他的学生Alex Krizhevsky设计的。 也是在那年之后,深度学习开始迅速发展。
注:作者使用了两块GPU,所以网络模型变成上下两块
使用Dropout的方式在网络正向传播过程中随机失活一部分神经元,以减少过拟合Conv1
结构分析Conv1注意:原作者实验时用了两块GPU并行计算,上下两组图的结构是一样的。
输入:input_size = [224, 224, 3]
卷积层:
kernels = 48 * 2 = 96 组卷积核
kernel_size = 11
padding = [1, 2] (左,上围加1列圈0,右下围加2列圈0)
stride = 4
输出:output_size = [55, 55, 96]
Maxpool1
输入:in ...
LeNet-2
Pytorch官网入门Demo——实现一个图像分类器参考:
哔哩哔哩:pytorch官方demo(Lenet)
pytorch官网demo(中文版戳这里)
pytorch中的卷积操作详解
Fan的CSDN笔记
代码部分Model 模型构建
123456789101112131415161718192021222324252627282930import torch.nn as nnimport torch.nn.functional as Fclass LeNet(nn.Module): # 继承于nn.Module这个父类 def __init__(self): # 初始化网络结构 super(LeNet, self).__init__() # 多继承需用到super函数 self.conv1 = nn.Conv2d(3, 16, 5) #构建卷积层1,深度3,卷积核个数为16,核大小为5*5 输出深度为卷积核个数 self.pool1 ...
Pytorch的安装指南
Pytorch的安装指南视频教程环境配置
PS:嫌麻烦anaconda在base环境就行,不需要再建立一个新环境,以防萌新环境混乱。
一堆官网CUDA:https://developer.nvidia.com/zh-cn/cuda-toolkit
Cudnn:https://developer.nvidia.com/rdp/cudnn-archive
Pytorch:https://pytorch.org/
个人版本:CUDA:
1https://developer.nvidia.com/cuda-11-7-1-download-archive
Cudnn:
1https://developer.nvidia.com/compute/cudnn/secure/8.6.0/local_installers/11.8/cudnn-windows-x86_64-8.6.0.163_cuda11-archive.zip
Pytorch:
1conda install pytorch torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c ...
LeNet-1
Lenet结构及研读论文原文下载 《Gradient-Based Learning Applied to Document Recognition》
论文研读以及理解使用梯度下降算法的多层网络能够从大量样本中学习到复杂、高维、非线性的映射关系,这使得它们能够用于图像识别任务。在传统的模式识别模型中,手工设计的特征提取器用于从输入数据中提取相关信息并且消除不相关的变量。然后用一个可训练的分类器将结果特征向量分类成对应类别。在该方案中,一个标准的、全连接的多层网络用于当作分类器。一个更有意思的模式是特征提取器能够进行自我学习。在该字符识别任务中,原始输入的图像即可用于特征提取及分类(标准大小的图像)。虽然可以通过普通的全连接前馈网络成功完成字符识别等任务,但在部分方面仍存在问题。
第一,图像比较大,通常包含几百个像素(pixels)。第一层包含上百个隐藏神经元的全连接层,会包含成千上万的权重。如此大量的参数提高了系统的识别能力,但也导致了需要大量的训练集。并且,存储如此大量的权重超出了当前的硬件承载能力。但是,对于图像或者语音应用而言,缺乏结构性的网络最大不足在于不具备平移、形变扭曲的 ...
贪吃蛇大作战分析
与对象玩游戏的思考-1
贪吃蛇大作战是一款对象爱玩的游戏,我也经常陪她一起玩,一开始觉得这个游戏些许幼稚,但一段时间发先此游戏确实有些独特之处,我仅站在我的角度对此款游戏进行分析。
游戏操作作为一款IO型游戏(.io域名网页移植型游戏)它必定轻量化且易上手。左侧摇杆进行方向控制,右侧控制加速按钮和道具/技能按钮。玩家通过操控贪吃蛇食取地图上的粒子和大粒子以及道具,延长自身长度。通过灵活操作让别的贪吃蛇撞到自身身体部分达成击杀。对象作为一个讨厌复杂操作的游戏玩家很容易掌握,其上手门槛极低,老少咸宜。
游戏模式实际上分为两类:
人机模式(无尽模式及其衍生)
PvP模式(团战模式,击杀模式)
前者对应了需要打发时间的休闲玩家,后者对应了有对战需求的竞技玩家。其各个模式都含有玩家的排行榜,鼓励玩家游玩。
运营思路作为一款运营6年的游戏,微派网络的运营显然是成功的。但于此同时,观察微派网络官方的产品介绍,微派至今未能拿出较为重量的游戏产品…
贪吃蛇的运营思路:广告+效果付费+礼物
对于免费玩家,通过看广告奖励游戏道具创收。对于付费玩家,通过游戏皮肤,击杀效果等场上道具,以及社群属 ...
神经网络基础模型学习资源
神经网络基础模型学习资源视频课
霹雳吧啦Wz基础教程
刘二大人
博客笔记
CSDN神经网络
红色石头
吴恩达笔记
可视化部分摘自数据studio,部分自行收集
1、PlotNeuralNet使用Latex绘制神经网络。传送门:https://github.com/HarisIqbal88/PlotNeuralNet
FCN-8模型
overleaf上Latex代码:https://www.overleaf.com/read/kkqntfxnvbsk
FCN-32模型
overleaf上Latex代码:https://www.overleaf.com/read/wsxpmkqvjnbs
Holistically-Nested Edge Detection
overleaf上Latex代码:https://www.overleaf.com/read/jxhnkcnwhfxp
2、Matlabhttps://www.mathworks.com/help/deeplearning/ref/view.html;jsessionid=bd77484ba149c98d4d410 ...