人工智能
未读
Stable Diffusion推理概览
Stable Diffusion属于一类称为扩散模型（diffusion model）的深度学习模型，属于生成类模型。 目前有 SD1.x、SD2.x 以及 SDXL系列，支持 文生图、图生图以及图像重绘。 训练过程包括前向扩散和反向扩散， 推理时只使用反向扩散。 前向扩散（Forward Diff
人工智能
未读
自注意力机制中的MHA/MQA/GQA
1、MHA MHA (Multi-Head Attention): MHA 是 "Multi-Head Attention" 的缩写。它是一种注意力机制，通常用于处理序列数据，如自然语言文本。在 MHA 中，输入序列被分成多个头（head），每个头都可以关注输入序列的不同部分。这些头并行运算，然后结