多模态算法工程师

注意力机制的核心思想是什么？

注意力机制的计算包含哪几个关键步骤？

为什么注意力计算中要除以√d_k这个缩放因子？

Self-Attention和传统Attention有什么区别？

在实际工程中，注意力计算的复杂度是多少？如何优化？