A Modular Analysis of Provable Acceleration via Polyak’s Momentum Training a Wide ReLU Network and a Deep Linear Network

下载本文档

阅读 1583
下载 5
格式 pdf
大小 273.76 KB
约12页
2023-11-16 17:51:09
收藏
评论
点赞(0)
海报
举报

/12

AModularAnalysisofProvableAccelerationviaPolyak’sMomentum:TrainingaWideReLUNetworkandaDeepLinearNetworkJun-KunWang1Chi-HengLin2JacobAbernethy1Abstract1.IntroductionIncorporatingaso-called“momentum”dynamicMomentummethodsareverypopularfortrainingneuralnetworksinvariousapplications(e.g.Heetal.(2016);ingradientdescentmethodsiswidelyusedinVaswanietal.(2017);Krizhevskyetal.(2012)).Ithasbeenwidelyo...

温馨提示：
本文档由用户上传，版权归属用户，文库宝负责整理代发布。如果您对本文档版权有争议请及时联系客服。

温馨提示：
1. 部分包含数学公式或PPT动画的文件，查看预览时可能会显示错乱或异常，文件下载后无此问题，请放心下载。

2. 下载前请仔细阅读文档内容，确认文档内容符合您的需求后进行下载，若出现内容与标题不符可向本站投诉处理。

3. 下载文档时可能由于网络波动等原因无法下载或下载错误，付费完成后未能成功下载的用户请联系客服处理。

精品文档大全的最新文档

NB_T47006-2019铝制板翅式热交换器

1.90金币

265下载

GB19153-2019《容积式空气压缩机能效限定值及能效等级》标准

1.90金币

96下载

GB 18613-2020电动机能效限定值及能效等级标准

1.90金币

217下载

MT+950-2005+煤矿井下空气压缩机安全技术检验规范　标准

精品文档大全: 已认证
内容提供者

分享有价值的文档,专注于学术论文、行业资料、简历模板、应用文档、教育资料、PPT等资源文档。

收藏店铺进入空间

A Modular Analysis of Provable Acceleration via Polyak’s Momentum Training a Wide ReLU Network and a Deep Linear Network

阅读排行