transformer
-
这就是GPT模型听起来像人类的原因
译者 | 刘涛 审校 | 重楼 没人知道为什么AI可以工作,对吧? 是和否。 从根本上说,我们对于人类大脑的秘密仍然知之…
-
1000000000!微软改进Transformer一次能记住这么多token了



微软亚研院最新研究,有点震撼: 他们开发了一个Transformer变体,居然将其token拓展到了10亿。 图片 什么…
-
清华朱军团队新作:使用4位整数训练Transformer,比FP16快2.2倍,提速35.1%,加速AGI到来!
将激活、权重和梯度量化为4位,有望加速神经网络训练。 然而,现有的4位训练方法需要自定义数字格式,而现代硬件不支持这种格…
-
NTU、上海AI Lab整理300+论文:基于Transformer的视觉分割最新综述出炉
SAM (Segment Anything )作为一个视觉的分割基础模型,在短短的 3 个月时间吸引了很多研究者的关注和…
-
清华朱军团队开源首个基于Transformer的多模态扩散大模型,文图互生、改写全拿下
据悉 GPT-4 将于本周发布,多模态将成为其一大亮点。当前的大语言模型正在成为理解各种模态的通用接口,能够根据不同模态…
-
图与代码不一致,Transformer论文被发现错误,网友:早该被指出1000次
2017 年,谷歌大脑团队在其论文《Attention Is All You Need》中创造性的提出 Transfor…





























