[5] Z.-H. Zhou and J. Feng. Deep forest: Towards an alternative to deep neural networks. I...
http://neuralnetworksanddeeplearning.com/chap2.html https://www.deeplearning.ai/coursera对应课程视频讲义 coursera华盛顿大学机器学习专项 周志华《机器学习》 李航《统计学习方法》 张明淳《工程矩阵理论》 0. 什么是人工神经网络? 首先给出一个经典的定义:“神经网络是由具有适应性的简单单元组成的广泛并...
就是堆算法。但也有可能五十年后，未来的人来看着我们今天的技术进步，会说，就是堆数据。
向量形式的知识表示具有上述良好的性质, 且可以与数据一样, 使用大量的数学工具, 包括深度学习方法, 因此被大量应用于文本处理, 如机器翻译等, 取得明显的效果. 下面以神经机器翻译(neural machine translation) 为例予以说明[57,58]. 神经机器翻译的基本思路是, 给定源句子(比如中文) ,寻找目标句(比如英文) .神...
Revisiting Character-Based Neural Machine Translation with Capacity and Compression 带着容量和压缩的疑问,重新思考基于字符的神经机器翻译 http://aclweb.org/anthology/D18-1461 Self-governing neural networks for on-device short text classification
Learning Less to Learn Better—Dropout in (Deep) Machine learning:https://medium.com/@amarbudhiraja/https-medium-com-amarbudhiraja-learning-less-to-learn-better-dropout-in-deep-machine-learning-74334da4bfc5 Geoffrey Hinton 等人的「Dropout: A Simple Way to Prevent Neural Networks from Overfitting...
computer vision, and natural language processing. Before joining OpenAI, he taught at Stanford University and developed a popular course on convolutional neural networks. In addition, he has developed many well-known open-source deep learning projects and actively participates in the AI community's ac...
DeepMind 联合谷歌大脑、MIT 等机构 27 位作者发表重磅论文“Relational inductive biases, deep learning, and graph networks”，提出“图网络”（Graph network），将端到端学习与归纳推理相结合，有望解决深度学习无法进行关系推理的问题。 作者认为组合泛化是人工智能实现与人类相似能力的首要任务，而结构化表示和计...
Journal of Machine Learning Research, 2015, 1-40. Silver D, Huang A, Maddison C J, et al. Mastering the game of Go with deep neural networks and tree search[J]. Nature, 2016, 484-489. Mnih V, Badia A, Mirza M, et al. Asynchronous methods for deep reinforcement learning[C]. In ...
自过去的几十年里,人工神经网络取得了显著的进展,这归功于一种理念:增加网络的复杂度可以提高性能。从 AlexNet 引爆了深度学习在计算机视觉的热潮后,研究者们为了提升深度网络的性能,精心地设计出了各种各样的模块,包括 ResNet 中的残差,ViT 中的注意力机制等。然而,尽管深层的复杂神经网络可以取得很好的性能,但他...