掌握单周期、多周期和五段指令流水线的执行模型、吞吐率与加速比,能够分析结构、数据和控制冒险及其处理方法。

流水线把 “完成一条指令” 拆为连续阶段,让不同指令同时占用不同阶段。它改善的是稳定运行时的吞吐率,而不是必然缩短单条指令从进入到完成的延迟;流水线寄存器、冒险处理和阶段不平衡都会带来额外代价。

# 一、从单周期到流水线

# 1. 单周期与多周期

单周期处理器要求每条指令在一个时钟周期内完成取指、译码、执行、访存和写回。时钟周期必须覆盖最慢指令的完整路径,设计直观,但短指令也被迫等待最长路径,硬件资源利用率偏低。

多周期处理器把一条指令拆为若干阶段,每个阶段在一个或多个时钟周期中完成,并复用硬件资源。它能让不同类型指令用不同拍数,但若仍要等当前指令全部完成后才开始下一条,就尚未实现指令间重叠。

指令流水线进一步让后续指令在前一条进入下一阶段时进入前一阶段。前提是各阶段的资源可并发使用,并且重叠后的可见结果等价于串行执行。

# 2. 五段模型

教材中常用的 RISC 风格五段模型为:

阶段常用名称主要动作
IFInstruction Fetch用 PC 取指,并形成顺序下一地址
IDInstruction Decode / Register Read译码、读寄存器、生成立即数或控制信息
EXExecute / AddressALU 运算、有效地址计算或分支条件判断
MEMMemory Access对数据存储器读写
WBWrite Back将结果写回寄存器组

并非每条指令都真正使用所有阶段,例如纯寄存器 ALU 指令一般不读写数据存储器;但为方便统一调度,流水线仍可让它经过相应的阶段边界。具体 ISA 可能采用不同阶段数和不同分支判定位置。

flowchart LR
    IF[IF<br/>取指] --> R1[(IF / ID<br/>段寄存器)]
    R1 --> ID[ID<br/>译码、读寄存器]
    ID --> R2[(ID / EX<br/>段寄存器)]
    R2 --> EX[EX<br/>ALU、地址、分支]
    EX --> R3[(EX / MEM<br/>段寄存器)]
    R3 --> MEM[MEM<br/>数据存储器]
    MEM --> R4[(MEM / WB<br/>段寄存器)]
    R4 --> WB[WB<br/>写回]

每个流水段后应有流水段寄存器,在统一时钟边沿锁存本段输出和后续阶段所需的控制位。若不锁存,前一段输入变化会直接扰动后一段正在使用的数据;不能把五个组合逻辑块直接串接后称为同步流水线。

# 3. 时序图的读法

以三条无冒险指令为例:

指令 \ 周期1234567
I1I_1IFIDEXMEMWB
I2I_2IFIDEXMEMWB
I3I_3IFIDEXMEMWB

横轴是时钟周期,纵轴是指令;同一列不同指令处于不同阶段,正是重叠执行。也可以用 “横轴为时间、纵轴为流水段” 的时空图表示资源占用。画图时先给每条指令顺序安排 IF,再沿对角线推进;出现停顿或冲刷时再修改。

# 二、性能指标

设有 kk 个阶段,每个流水段的节拍为 TcT_c,连续完成 nn 个任务,且没有停顿。流水线先灌入 kk 个阶段,再每拍完成一个任务,故总时间为

Tpipe=(k+n−1)Tc.T_{\mathrm{pipe}}=(k+n-1)T_c.

吞吐率定义为单位时间完成的任务数:

TP=nTpipe=n(k+n−1)Tc.\mathrm{TP}=\frac{n}{T_{\mathrm{pipe}}} =\frac{n}{(k+n-1)T_c}.

若非流水线中每个任务依次经历同样的 kk 段,且各段都为 TcT_c,则

Tserial=nkTc,S=TserialTpipe=nkk+n−1.T_{\mathrm{serial}}=nkT_c, \qquad S=\frac{T_{\mathrm{serial}}}{T_{\mathrm{pipe}}} =\frac{nk}{k+n-1}.

当 nn 很大时,理想加速比趋近于 kk,而不是无穷大。实际还要考虑段间寄存器延迟、最慢阶段决定的时钟周期,以及冒险造成的气泡:

Tc≥max⁡i(Ti)+Treg,CPIactual=1+stallCyclesPerInstruction.T_c\geq \max_i(T_i)+T_{\mathrm{reg}}, \qquad \mathrm{CPI}_{\mathrm{actual}} =1+\mathrm{stallCyclesPerInstruction}.

理想流水线的完成间隔可达到一个时钟周期,但第一条指令仍需经过全部 kk 段才完成。因而 “吞吐率提高” 和 “单条延迟降低” 是两件不同的事。

例题 5.3:理想五段流水线的时间

五段流水线的时钟周期为 2ns2\,\mathrm{ns},连续执行 2020 条无冒险指令。求总时间、平均吞吐率和相对理想串行执行的加速比。

【解】

Tpipe=(5+20−1)×2ns=48ns,T_{\mathrm{pipe}}=(5+20-1)\times2\,\mathrm{ns}=48\,\mathrm{ns},

TP=2048ns,S=20×55+20−1=10024≈4.17.\mathrm{TP}=\frac{20}{48\,\mathrm{ns}}, \qquad S=\frac{20\times5}{5+20-1}=\frac{100}{24}\approx4.17.

未达到 55 倍是因为灌入和排空阶段对有限条指令仍有影响。

# 三、流水线冒险与处理

理想排程要同时满足两项约束:

  1. 重叠的阶段不能争用同一不可并行的硬件资源;
  2. 重叠执行的读写结果必须与串行执行一致。

违反这些约束的潜在问题称为冒险(hazard)。冒险描述 “可能导致错误的条件”;若不加处理而实际改变了正确结果,才形成冲突或错误结果。

flowchart TD
    H[流水线冒险] --> S[结构冒险<br/>资源不足]
    H --> D[数据冒险<br/>读写相关]
    H --> C[控制冒险<br/>下一 PC 未确定]
    S --> S1[资源重复或停顿]
    D --> D1[停顿、转发、调度]
    C --> C1[停顿、预测、冲刷、延迟分支]

# 1. 结构冒险

结构冒险发生在同一周期的不同指令需要同一份不可同时使用的硬件。例如 IF 要读指令存储器而 MEM 要读写数据存储器,或同一寄存器组端口不足以支持同时读写。

处理方法有:

  • 资源重复或多端口化:分离指令 / 数据存储器,增加端口或复制功能单元;
  • 流水线停顿:推迟其中一条指令进入冲突阶段,插入气泡。

增加资源通常减少停顿,却提高面积、功耗和设计复杂度;停顿无需新硬件,却直接降低吞吐率。

# 2. 数据冒险

指令间若对同一位置存在读写依赖,顺序被流水线重叠改变时会产生数据冒险。

名称英文先后指令的关系常见于
写后读RAW前指令写,后指令读该值真数据依赖,顺序流水线最常见
读后写WAR前指令读,后指令写同一位置乱序或多发射中可能出现
写后写WAW两条指令都写同一位置,写入次序可能颠倒乱序或多发射中可能出现

在经典五段、按序发射按序写回流水线中,主要需处理 RAW;WAR/WAW 通常由固定读写阶段顺序避免。不能因为题目列出三种名字,就断言它们在任意五段流水线都会发生。

处理 RAW 的常用方法:

  • 停顿(bubble):冻结相关前级,使消费者的读操作推迟到生产者结果已可见之后;
  • 旁路 / 转发(forwarding):把 EX/MEM 或 MEM/WB 中的刚产生结果直接送到后续 ALU 输入,不必等其写回寄存器组;
  • 编译器或硬件调度:在依赖两侧插入独立指令;更高级的动态硬件还会结合保留站、重排序等机制;
  • 寄存器重命名:消除 WAR、WAW 这样的名字依赖,常用于乱序多发射实现。
例题 5.4:识别 RAW 依赖

考虑以下指令:

1
2
3
I1: LOAD R1, [a]
I2: ADD R3, R1, R2
I3: STORE R3, [b]

【解】 I2I_2 读取 I1I_1 写入的 R1R_1,是 RAW;I3I_3 读取 I2I_2 写入的 R3R_3,也是 RAW。若加载结果到 MEM 后才获得,即使有转发,I1I_1 与紧随其后的 I2I_2 在典型五段模型中也可能需要至少一个停顿周期;具体取决于转发路径和存储器时序。

# 3. 控制冒险

分支、跳转、调用、返回、异常和中断都可能改变 PC。取指单元在控制转移结果尚未确定时,无法肯定顺序下一条是否正确;已取入的路径指令若不应执行,就必须停顿或冲刷(flush)。

常见处理策略:

方法思路代价或条件
停顿直到分支目标和条件明确后再取后续指令简单但浪费周期
提前判定把分支比较、目标地址计算放在较早阶段可能增加该阶段关键路径
分支预测预测跳或不跳并继续取指预测错时冲刷错误路径,存在失误代价
延迟分支编译器安排独立指令填充分支后的延迟槽依赖 ISA 支持与可调度指令

冲刷不是让已执行的错误路径产生可见写回,而是取消其尚未提交的效果。例外和中断若要求精确状态,也需要保证处理程序看到的状态与 “某条指令边界” 一致。

# 四、高级流水线与指令级并行

# 1. 超标量流水线

超标量(superscalar)在同一时钟周期可发射多条指令到多个执行单元,例如整数 ALU、乘除单元、访存单元。硬件需要检查资源冲突和数据 / 控制依赖;现代实现还可能动态调度、乱序执行和按序提交。它提高的是每拍发射宽度,并不只是把原来五段简单复制一份。

# 2. 动态流水线

动态流水线(也常放在 “动态调度” 或 “乱序执行” 语境下讨论)由硬件在运行时观察指令的操作数是否就绪、功能单元是否空闲和是否存在名字依赖。遇到长延迟指令时,后续没有真实数据依赖的指令可先执行,不必机械等待前一条完成;最终仍需以体系结构规定的顺序提交可见结果,保证异常与中断看到精确状态。

机制解决的问题关键边界
保留站 / 发射队列暂存等待操作数的指令,操作数就绪后再分派执行只是 “等待处”,不等于已经提交结果
旁路与结果广播将刚产生的值提供给等待者可减少等待写回寄存器的周期
寄存器重命名消除 WAR、WAW 的名字依赖不消除 RAW 真数据依赖
重排序缓冲区等提交机制允许执行完成顺序不同,但按程序顺序使结果可见对精确异常、错误恢复尤其重要

例如 MUL R1,R2,R3 延迟较长,而下一条 ADD R4,R5,R6 与其无数据依赖时,动态调度可让 ADD 先占用空闲 ALU;若随后 ADD R7,R1,R8 需要 R1 ,它仍必须等待乘法结果。这说明 “乱序” 不是随意改变程序语义,而是在依赖和资源约束内重新安排执行时机。

# 3. 超流水线

超流水线(superpipelining)把原有阶段进一步切细,使每段更短、时钟频率更高,让更多指令同时处于流水线中。它增加的是流水线深度。阶段越深,段间寄存器开销和分支误预测的冲刷代价通常也越明显。

# 4. 超长指令字

超长指令字(VLIW)把多个可以并行的操作编码在一条很长的指令中,主要由编译器在编译时分析相关性和资源冲突、决定操作槽位。相对地,超标量更多依赖硬件在运行时决定并行发射。

技术主要提升方式并行决策的主要承担者
超标量同一拍多发射到并行执行单元硬件动态分析
动态流水线操作数就绪后动态调度,可能乱序执行硬件动态分析与按序提交机制
超流水线细分阶段、提高重叠深度与频率硬件流水段设计
VLIW一条指令中编码多个并行操作编译器静态调度

# 五、解题检查

  • 先写无冒险对角线时序,再逐个检查资源、数据依赖和控制转移。
  • Tpipe=(k+n−1)TcT_{\mathrm{pipe}}=(k+n-1)T_c 只适用于理想无阻塞、各阶段统一节拍的模型;有停顿时要加上额外周期。
  • RAW 是真数据依赖;WAR/WAW 在按序五段流水线一般不出现,但在乱序环境不可忽略。
  • 转发能解决很多 ALU 结果依赖,却未必消除 load-use 冒险。
  • 分支预测正确时减少停顿,预测错误时要冲刷错误路径;它不改变程序的正确语义。
  • 动态流水线依据就绪性调度执行,而不是无视依赖;可以乱序完成,但体系结构状态通常要按规则提交。