神经网络
-
全面碾压AdamW!谷歌新出优化器内存小、效率高,网友:训练GPT 2果然快
优化器即优化算法,在神经网络训练中起着关键作用。近年来,研究者引入了大量的手工优化器,其中大部分是自适应优化器。Adam…
-
GNN如何建模时空信息?伦敦玛丽女王大学「时空图神经网络」综述,简明阐述时空图神经网络方法
这些强大的算法在过去几年中获得了巨大的兴趣。然而,这种性能是基于静态图结构假设的,这限制了图神经网络在数据随时间变化时…
-
逆天了!用Numpy开发深度学习框架,透视神经网络训练过程
哈喽,大家好。 今天给大家分享一个非常牛逼的开源项目,用Numpy开发了一个深度学习框架,语法与 Pytor…
-
漂移感知动态神经网络加持,时间域泛化新框架远超领域泛化&适应方法
在领域泛化 (Domain Generalization, DG) 任务中,当领域的分布随环境连续变化时,如何准确地捕捉…
-
首个在ImageNet上精度超过80%的二值神经网络BNext问世,-1与+1的五年辛路历程
两年前,当 MeliusNet 问世时,机器之心曾发表过一篇技术文章《第一次胜过 MobileNet 的二值神经网络…
-
如何提高存储、传输效率?参数集约型掩码网络效果显著
为了处理更复杂的任务,近年来神经网络的规模也在不断变大,如何高效的储存和传输神经网络变得十分重要。另一方面,随着彩票假说…


























