遗憾的是,自VQ-VAE首次提出VQ以来,其理论并没有显著进步,像编码表的坍缩或利用率低等问题至今仍亟待解决,取而代之的…阅读全文 赞同178 8 条评论 分享收藏 低秩近似之路(三):CR 最佳排版请看原博客: 在《低秩近似之路(二):SVD》中,我们证明了SVD可以给出任意矩阵的最优低秩近似。
苏剑林,今年(2009)正好16岁,居住在广东省云浮市的一个小村庄。 我从小就对科学感兴趣,数学是我的强项,不过到了初三,还要加上一个“化学”。 我从2006.09开始接触电脑,而接触网络的时间就是2007.01,想想看,发展还是挺快的(接触电脑之前我可是一无所知)。2007.04接触到了BBS,后来曾经自行建立过IT类的BBS,后来因为...
作为生成模型,扩散模型跟VAE、GAN、flow等模型的发展史很相似,都是先出来了无条件生成,然后有条件生成就紧接而来。无条件生成往往是为了探索效果上限,而有条件生成则更多是应用层面的内容,因为它可以实现…阅读全文 赞同343 34 条评论 分享收藏...
它自称是一种独立于已有的VAE、GAN、flow、Diffusion之外的新型生成模型,并且具有单步采样的特点。也许是大家苦于当前主流的扩散模型的多步采样生成过程久矣,…阅读全文 赞同54 6 条评论 分享收藏 Transformer升级之路:16、“复盘”长度外推技术 最佳排版请看原博客: 回过头来看,才发现从第7...
简单得令人尴尬的FSQ:“四舍五入”超越了VQ-VAE 最佳版本请看原博客: 正如“XXX is all you need”一样,有不少论文都以“简单得令人尴尬”命名(An Embarrassingly Simple XXX),但在笔者看来,这些论文大多数都是噱头多于实力。不过,笔者最近阅读到的一篇论文,真的让人不由得发出“简单得令人尴尬”的感叹~ 论...
作为生成模型,扩散模型跟VAE、GAN、flow等模型的发展史很相似,都是先出来了无条件生成,然后有条件生成就紧接而来。无条件生成往往是为了探索效果上限,而有条件生成则更多是应用层面的内容,因为它可以实现…阅读全文 赞同343 34 条评论 分享收藏 生成扩散模型漫谈(八):最优扩散方差估计(下) ...
苏剑林 数学、python、数据挖掘、天文 关注 知乎历史荣誉 知势榜科技互联网领域影响力榜答主 知乎影响力 获得5.2 万次赞同 · 1 万次喜欢 · 5.6 万次收藏 已更内容 · 192 简单得令人尴尬的FSQ:“四舍五入”超越了VQ-VAE 最佳版本请看原博客: 正如“XXX is all you need”一样,有不少论文都以“...