跳到正文
原文
观点Oriol Vinyals · X· @OriolVinyalsML·· 2026-06-27

10.3万 次浏览 · 203 赞 · 7 转发 (收录时)

Oriol Vinyals 回忆 Wojciech Zaremba 曾想撤下 RNN Regularization 论文

发生了什么

趣闻:大约一年后,@woj_zaremba 想让那篇论文彻底消失。不过我忘了原因——Woj? @OfirPress 的引用帖:我于 2016 年 1 月开始研究语言建模,使用 @woj_zaremba、@OriolVinyalsML 和 @ilyasut 提出的“RNN Regularization”模型中的 LSTM,尝试降低它在 Penn Treebank(100 万个词元)上的困惑度。这促成了权重绑定方法,这种方法有时至今仍在使用。

继续阅读

最新日报 · 第 24 期NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流水线

正在热议

  1. 1Meta 开放发布 Muse Spark Open,支持 Mac 和云端部署,位居美国开放权重模型榜首
  2. 2Google 在全球推出 Gemini 4 Argon,并扩大付费访问范围,基准测试结果不一
  3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
  4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议

明早 08:00 把这样一份日报发到你邮箱

和上面这份一样:几件值得看的事。免费,点确认信之后才会开始发送,每封信都能一键退订。 看一份往期日报 · 2026-10-17