我想知道 attn_output_weight 的矩阵是否可以证明输入序列中每个词对之间的关系。在我的项目中,我根据这个输出绘制了热图,它显示如下:
attn_output_weight
但是,我几乎看不到这张热图中的任何信息。我参考了别人的作品,他们的热图是这样的。至少矩阵的对角线应该具有深色。
那我想知道我绘制热图的方法是否正确(即直接使用attn_output_weight的输出)如果这不是正确的方法,请告诉我如何绘制热图地图?