windows安装flash attention2

### 如何在 Windows 上安装 Flash Attention

#### 准备工作
为了顺利安装 `flash_attn` 库，在开始之前需确认已正确配置 Python 和 PyTorch 的环境。建议使用 Anaconda 或 Miniconda 来管理虚拟环境以及依赖项。

#### 获取适用于 Windows 的预编译轮文件 (wheel)
由于官方并未提供针对 Windows 平台的预构建二进制文件，可以考虑第三方资源来获取兼容版本。具体来说，可以从 GitHub 用户 bdashore3 提供的发布页面下载适合当前系统的 `.whl` 文件[^2]。

#### 执行安装命令
假设已经找到并下载了名为 `flash_attn-2.5.9.post1+cu122torch2.3.1cxx11abiFALSE-cp311-cp311-win_amd64.whl` 的 wheel 文件至本地磁盘中的某个目录下，则可以通过如下方式完成库的安装：

pip install C:\path\to\downloaded\file\flash_attn-2.5.9.post1+cu122torch2.3.1cxx11abiFALSE-cp311-cp311-win_amd64.whl

请注意替换上述路径为实际存放 whl 文件的位置。

#### 验证安装成功与否
一旦安装过程结束，可通过导入模块测试是否正常加载：

import flash_attn
print(flash_attn.__version__)

如果一切顺利的话，应该能够看到所期望的版本号输出而不会抛出异常。