欢迎光临!
登录

Public Library of Bioinformatics Public Library of Bioinformatics

  • 首页
  • 分类文章
    • Bioinformatics
    • Machine Learning
    • Transcriptomics
    • Genomics
    • Single Cell
    • Epigenetics
    • Statistics
    • Script
    • Evolution
    • Glossary
    • ncRNA
    • Advance
    • Popular Science
  • 在线文档
    • ggplot2画图教程
    • 鸟哥的Linux私房菜
    • Perl教程
    • 机器学习
  • 关于我们
  • 站内
  • 百度
  • 谷歌
  • 必应
  • 360
  • 搜狗
首页深度学习
Machine Learning

深度学习参数优化和训练技巧总结

寻找合适的学习率(learning rate) 学习率是一个非常非常重要的超参数,这个参数呢,面对不同规模、不同batch-size、不同优化方式、不同数据集,其最合适的值都是不确定的,我们无法光凭经...
06月15日645评论学习率 深度学习
阅读全文
Machine Learning

理解深度学习中的学习率及多种选择策略

学习率是最影响性能的超参数之一,如果我们只能调整一个超参数,那么最好的选择就是它。相比于其它超参数学习率以一种更加复杂的方式控制着模型的有效容量,当学习率最优时,模型的有效容量最大。本文从手动选择学习...
12月08日1,842评论学习率 深度学习
阅读全文
Machine Learning

深入了解tensorlow运行原理

导读:“我叫 Jacob,是谷歌 AI Residency 项目的学者。2017 年夏天我进入这个项目的时候,我自己的编程经验很丰富,对机器学习理解也很深刻,但以前我从未使用过 Tensorflow。...
09月16日892评论tensorflow 深度学习
阅读全文
Machine Learning

PyTorch 深度学习学习笔记:Finetune和各层定制学习率

我们知道一个良好的权值初始化,可以使收敛速度加快,甚至可以获得更好的精度。而在实际应用中,我们通常采用一个已经训练模型的模型的权值参数作为我们模型的初始化参数,也称之为Finetune,更宽泛的称之为...
07月15日252评论深度学习
阅读全文
Machine Learning

直白介绍卷积神经网络

什么是卷积神经网络,它为何重要? 卷积神经网络(也称作 ConvNets 或 CNN)是神经网络的一种,它在图像识别和分类等领域已被证明非常有效。 卷积神经网络除了为机器人和自动驾驶汽车的视觉助力之外...
05月24日1,814评论卷积神经网络 深度学习
阅读全文
Machine Learning

卷积神经网络中的softmax,softmax loss和cross entropy的讲解

我们知道卷积神经网络(CNN)在图像领域的应用已经非常广泛了,一般一个CNN网络主要包含卷积层,池化层(pooling),全连接层,损失层等。虽然现在已经开源了很多深度学习框架(比如MxNet,Caf...
04月11日2,251评论卷积神经网络 深度学习
阅读全文
Machine Learning

谈谈深度学习中的 Batch_Size

首先,为什么需要有 Batch_Size 这个参数? Batch 的选择,首先决定的是下降的方向。如果数据集比较小,完全可以采用全数据集 ( Full Batch Learning )的形式,这样做至...
04月10日1,447评论卷积神经网络 深度学习
阅读全文
Machine Learning

卷积神经网络入门

卷积神经网络是近年发展起来,并引起广泛重视的一种高效识别方法。20世纪60年代,Hubel和Wiesel在研究猫脑皮层中用于局部敏感和方向选择的神经元时发现其独特的网络结构可以有效地降低反馈神经网络的...
04月06日925评论卷积神经网络 深度学习
阅读全文
Statistics

深度学习必须掌握的 13 种概率分布

作为机器学习从业者,你需要知道概率分布相关的知识。这里有一份最常见的基本概率分布教程,大多数和使用 python 库进行深度学习有关。 一 概率分布概述 共轭意味着它有共轭分布的关系。 在贝叶斯概率论...
04月06日229评论概率分布 深度学习
阅读全文
Machine Learning

Tensorflow一些常用基本概念与函数(2)

摘要:本文主要对tf的一些常用概念与方法进行描述。为‘Tensorflow一些常用基本概念与函数’系列之二。 1、tensorflow的基本运作 为了快速的熟悉TensorFlow编程,下面从一段简单...
04月03日1,176评论机器学习 深度学习
阅读全文

文章导航

1 2 3

赞助链接




随机文章

  • 优化模型训练时间-BERT 02/01 155
  • PyTorch 基础篇(2):线性回归(Linear Regression) 04/01 88
  • 深度学习中的术语介绍 03/18 964
  • pytorch实战经验:4个提高深度学习模型性能的技巧 11/29 1,229
  • backbone、head、neck等深度学习中的术语解释 03/08 184
  • 深度学习参数优化和训练技巧总结 06/15 645
Copyright © 2011-2023 Public Library of Bioinformatics (PLoB). All Rights Reserved. Sitemap