欢迎光临散文网 会员登陆 & 注册

67 自注意力【动手学深度学习v2】

2023-08-27 13:18 作者:云在青天大水瓶  | 我要投稿

证明:对于任意位置偏移量δ,Positional Encoding 中的任意一对(p_i,2j, p_i,2j+1)都可以投影到(p_i+δ,2j, p_i+δ,2j+1),且投影矩阵j与位置i无关



67 自注意力【动手学深度学习v2】的评论 (共 条)

分享到微博请遵守国家法律