掌握单周期、多周期和五段指令流水线的执行模型、吞吐率与加速比,能够分析结构、数据和控制冒险及其处理方法。
流水线把 “完成一条指令” 拆为连续阶段,让不同指令同时占用不同阶段。它改善的是稳定运行时的吞吐率,而不是必然缩短单条指令从进入到完成的延迟;流水线寄存器、冒险处理和阶段不平衡都会带来额外代价。
# 一、从单周期到流水线
# 1. 单周期与多周期
单周期处理器要求每条指令在一个时钟周期内完成取指、译码、执行、访存和写回。时钟周期必须覆盖最慢指令的完整路径,设计直观,但短指令也被迫等待最长路径,硬件资源利用率偏低。
多周期处理器把一条指令拆为若干阶段,每个阶段在一个或多个时钟周期中完成,并复用硬件资源。它能让不同类型指令用不同拍数,但若仍要等当前指令全部完成后才开始下一条,就尚未实现指令间重叠。
指令流水线进一步让后续指令在前一条进入下一阶段时进入前一阶段。前提是各阶段的资源可并发使用,并且重叠后的可见结果等价于串行执行。
# 2. 五段模型
教材中常用的 RISC 风格五段模型为:
| 阶段 | 常用名称 | 主要动作 |
|---|---|---|
| IF | Instruction Fetch | 用 PC 取指,并形成顺序下一地址 |
| ID | Instruction Decode / Register Read | 译码、读寄存器、生成立即数或控制信息 |
| EX | Execute / Address | ALU 运算、有效地址计算或分支条件判断 |
| MEM | Memory Access | 对数据存储器读写 |
| WB | Write Back | 将结果写回寄存器组 |
并非每条指令都真正使用所有阶段,例如纯寄存器 ALU 指令一般不读写数据存储器;但为方便统一调度,流水线仍可让它经过相应的阶段边界。具体 ISA 可能采用不同阶段数和不同分支判定位置。
flowchart LR
IF[IF<br/>取指] --> R1[(IF / ID<br/>段寄存器)]
R1 --> ID[ID<br/>译码、读寄存器]
ID --> R2[(ID / EX<br/>段寄存器)]
R2 --> EX[EX<br/>ALU、地址、分支]
EX --> R3[(EX / MEM<br/>段寄存器)]
R3 --> MEM[MEM<br/>数据存储器]
MEM --> R4[(MEM / WB<br/>段寄存器)]
R4 --> WB[WB<br/>写回]每个流水段后应有流水段寄存器,在统一时钟边沿锁存本段输出和后续阶段所需的控制位。若不锁存,前一段输入变化会直接扰动后一段正在使用的数据;不能把五个组合逻辑块直接串接后称为同步流水线。
# 3. 时序图的读法
以三条无冒险指令为例:
| 指令 \ 周期 | 1 | 2 | 3 | 4 | 5 | 6 | 7 |
|---|---|---|---|---|---|---|---|
| IF | ID | EX | MEM | WB | |||
| IF | ID | EX | MEM | WB | |||
| IF | ID | EX | MEM | WB |
横轴是时钟周期,纵轴是指令;同一列不同指令处于不同阶段,正是重叠执行。也可以用 “横轴为时间、纵轴为流水段” 的时空图表示资源占用。画图时先给每条指令顺序安排 IF,再沿对角线推进;出现停顿或冲刷时再修改。
# 二、性能指标
设有 个阶段,每个流水段的节拍为 ,连续完成 个任务,且没有停顿。流水线先灌入 个阶段,再每拍完成一个任务,故总时间为
吞吐率定义为单位时间完成的任务数:
若非流水线中每个任务依次经历同样的 段,且各段都为 ,则
当 很大时,理想加速比趋近于 ,而不是无穷大。实际还要考虑段间寄存器延迟、最慢阶段决定的时钟周期,以及冒险造成的气泡:
理想流水线的完成间隔可达到一个时钟周期,但第一条指令仍需经过全部 段才完成。因而 “吞吐率提高” 和 “单条延迟降低” 是两件不同的事。
例题 5.3:理想五段流水线的时间
五段流水线的时钟周期为 ,连续执行 条无冒险指令。求总时间、平均吞吐率和相对理想串行执行的加速比。
【解】
未达到 倍是因为灌入和排空阶段对有限条指令仍有影响。
# 三、流水线冒险与处理
理想排程要同时满足两项约束:
- 重叠的阶段不能争用同一不可并行的硬件资源;
- 重叠执行的读写结果必须与串行执行一致。
违反这些约束的潜在问题称为冒险(hazard)。冒险描述 “可能导致错误的条件”;若不加处理而实际改变了正确结果,才形成冲突或错误结果。
flowchart TD
H[流水线冒险] --> S[结构冒险<br/>资源不足]
H --> D[数据冒险<br/>读写相关]
H --> C[控制冒险<br/>下一 PC 未确定]
S --> S1[资源重复或停顿]
D --> D1[停顿、转发、调度]
C --> C1[停顿、预测、冲刷、延迟分支]# 1. 结构冒险
结构冒险发生在同一周期的不同指令需要同一份不可同时使用的硬件。例如 IF 要读指令存储器而 MEM 要读写数据存储器,或同一寄存器组端口不足以支持同时读写。
处理方法有:
- 资源重复或多端口化:分离指令 / 数据存储器,增加端口或复制功能单元;
- 流水线停顿:推迟其中一条指令进入冲突阶段,插入气泡。
增加资源通常减少停顿,却提高面积、功耗和设计复杂度;停顿无需新硬件,却直接降低吞吐率。
# 2. 数据冒险
指令间若对同一位置存在读写依赖,顺序被流水线重叠改变时会产生数据冒险。
| 名称 | 英文 | 先后指令的关系 | 常见于 |
|---|---|---|---|
| 写后读 | RAW | 前指令写,后指令读该值 | 真数据依赖,顺序流水线最常见 |
| 读后写 | WAR | 前指令读,后指令写同一位置 | 乱序或多发射中可能出现 |
| 写后写 | WAW | 两条指令都写同一位置,写入次序可能颠倒 | 乱序或多发射中可能出现 |
在经典五段、按序发射按序写回流水线中,主要需处理 RAW;WAR/WAW 通常由固定读写阶段顺序避免。不能因为题目列出三种名字,就断言它们在任意五段流水线都会发生。
处理 RAW 的常用方法:
- 停顿(bubble):冻结相关前级,使消费者的读操作推迟到生产者结果已可见之后;
- 旁路 / 转发(forwarding):把 EX/MEM 或 MEM/WB 中的刚产生结果直接送到后续 ALU 输入,不必等其写回寄存器组;
- 编译器或硬件调度:在依赖两侧插入独立指令;更高级的动态硬件还会结合保留站、重排序等机制;
- 寄存器重命名:消除 WAR、WAW 这样的名字依赖,常用于乱序多发射实现。
例题 5.4:识别 RAW 依赖
考虑以下指令:
1 | I1: LOAD R1, [a] |
【解】 读取 写入的 ,是 RAW; 读取 写入的 ,也是 RAW。若加载结果到 MEM 后才获得,即使有转发, 与紧随其后的 在典型五段模型中也可能需要至少一个停顿周期;具体取决于转发路径和存储器时序。
# 3. 控制冒险
分支、跳转、调用、返回、异常和中断都可能改变 PC。取指单元在控制转移结果尚未确定时,无法肯定顺序下一条是否正确;已取入的路径指令若不应执行,就必须停顿或冲刷(flush)。
常见处理策略:
| 方法 | 思路 | 代价或条件 |
|---|---|---|
| 停顿 | 直到分支目标和条件明确后再取后续指令 | 简单但浪费周期 |
| 提前判定 | 把分支比较、目标地址计算放在较早阶段 | 可能增加该阶段关键路径 |
| 分支预测 | 预测跳或不跳并继续取指 | 预测错时冲刷错误路径,存在失误代价 |
| 延迟分支 | 编译器安排独立指令填充分支后的延迟槽 | 依赖 ISA 支持与可调度指令 |
冲刷不是让已执行的错误路径产生可见写回,而是取消其尚未提交的效果。例外和中断若要求精确状态,也需要保证处理程序看到的状态与 “某条指令边界” 一致。
# 四、高级流水线与指令级并行
# 1. 超标量流水线
超标量(superscalar)在同一时钟周期可发射多条指令到多个执行单元,例如整数 ALU、乘除单元、访存单元。硬件需要检查资源冲突和数据 / 控制依赖;现代实现还可能动态调度、乱序执行和按序提交。它提高的是每拍发射宽度,并不只是把原来五段简单复制一份。
# 2. 动态流水线
动态流水线(也常放在 “动态调度” 或 “乱序执行” 语境下讨论)由硬件在运行时观察指令的操作数是否就绪、功能单元是否空闲和是否存在名字依赖。遇到长延迟指令时,后续没有真实数据依赖的指令可先执行,不必机械等待前一条完成;最终仍需以体系结构规定的顺序提交可见结果,保证异常与中断看到精确状态。
| 机制 | 解决的问题 | 关键边界 |
|---|---|---|
| 保留站 / 发射队列 | 暂存等待操作数的指令,操作数就绪后再分派执行 | 只是 “等待处”,不等于已经提交结果 |
| 旁路与结果广播 | 将刚产生的值提供给等待者 | 可减少等待写回寄存器的周期 |
| 寄存器重命名 | 消除 WAR、WAW 的名字依赖 | 不消除 RAW 真数据依赖 |
| 重排序缓冲区等提交机制 | 允许执行完成顺序不同,但按程序顺序使结果可见 | 对精确异常、错误恢复尤其重要 |
例如 MUL R1,R2,R3 延迟较长,而下一条 ADD R4,R5,R6 与其无数据依赖时,动态调度可让 ADD 先占用空闲 ALU;若随后 ADD R7,R1,R8 需要 R1 ,它仍必须等待乘法结果。这说明 “乱序” 不是随意改变程序语义,而是在依赖和资源约束内重新安排执行时机。
# 3. 超流水线
超流水线(superpipelining)把原有阶段进一步切细,使每段更短、时钟频率更高,让更多指令同时处于流水线中。它增加的是流水线深度。阶段越深,段间寄存器开销和分支误预测的冲刷代价通常也越明显。
# 4. 超长指令字
超长指令字(VLIW)把多个可以并行的操作编码在一条很长的指令中,主要由编译器在编译时分析相关性和资源冲突、决定操作槽位。相对地,超标量更多依赖硬件在运行时决定并行发射。
| 技术 | 主要提升方式 | 并行决策的主要承担者 |
|---|---|---|
| 超标量 | 同一拍多发射到并行执行单元 | 硬件动态分析 |
| 动态流水线 | 操作数就绪后动态调度,可能乱序执行 | 硬件动态分析与按序提交机制 |
| 超流水线 | 细分阶段、提高重叠深度与频率 | 硬件流水段设计 |
| VLIW | 一条指令中编码多个并行操作 | 编译器静态调度 |
# 五、解题检查
- 先写无冒险对角线时序,再逐个检查资源、数据依赖和控制转移。
- 只适用于理想无阻塞、各阶段统一节拍的模型;有停顿时要加上额外周期。
- RAW 是真数据依赖;WAR/WAW 在按序五段流水线一般不出现,但在乱序环境不可忽略。
- 转发能解决很多 ALU 结果依赖,却未必消除 load-use 冒险。
- 分支预测正确时减少停顿,预测错误时要冲刷错误路径;它不改变程序的正确语义。
- 动态流水线依据就绪性调度执行,而不是无视依赖;可以乱序完成,但体系结构状态通常要按规则提交。
