逐题说明考什么、怎么想、如何代入，以及容易出错的地方。每题末尾附英文答案要点；简答每个有效得分点 1 分，计算题允许保留正确方法分。
先做题再看解析。标为“进一步理解”的补充不额外计分。
在线值(1,5)，目标值(7,2)，Double 的未来项究竟读取哪个数？
先在在线表圈动作下标，再在目标表读同一个下标。不要直接把两个表各取一个最大数。
Online next-state values are (1,5), while target-network values are (7,2). Which value is used for the bootstrap term in Double DQN?
A. 2
B. 7
C. 5
D. 1
先看在线网络：第二动作 5 最大，所以选择 a₂。再到目标网络查同一动作的值，得到 2。题目只问自举部分所读的 Q，不要求另外加奖励。
B 是标准 DQN 的目标网络最大值；C 是在线网络最大值本身，没切换评价网络；D 对应在线表非最优动作。
随机环境的 Bellman 最优备份，先平均什么、再最大化什么？
可控的是动作，不可控的是该动作后的随机结果。每个动作先得到一个期望分数，再从动作分数中选最大。
For an MDP with stochastic next states, which operation order is correct in a Bellman optimality backup?
A. Choose the best next-state outcome, then average actions.
B. Average all actions equally and ignore the policy.
C. For each action take the expected reward plus discounted next value, then maximize over actions.
D. Multiply the immediate reward by γ before any averaging.
先算“如果指定做某动作”的期望结果，再比较这些动作哪个最好。环境随机性不由智能体选择。
A 把不可控结果也挑最好的，会过于乐观；B 是某一随机策略的评估，不是最优控制；D 奖励时序不对，下一步收到的奖励不折扣。
四种说法中哪一条不属于 GLIE 定义？题目特别问 NOT。
先在草稿写出无限探索、极限贪心两个条件；再看选项是否偷偷把“无限时间性质”换成“有限回合精确学会”。
Which statement is NOT part of the definition of GLIE?
A. All required state-action pairs are visited infinitely often.
B. The exact optimal policy is known after a finite number of episodes.
C. The policy becomes greedy in the limit.
D. It describes long-run exploration and exploitation properties.
注意题目问 NOT。GLIE 是无限时间意义的性质，并不承诺训练有限回合后已经知道精确最优策略。
A 与 C 是两个核心条件；D 正确描述其类别。要由这些性质得到具体算法收敛结论，还要加步长、有限状态动作空间等相应假设。
γ=0 时，回报公式还剩下什么？
把第一个奖励与后面奖励分开。只有后面项带γ，第一项权重是1。
If γ=0, which quantity does the return Gₜ equal?
A. Rₜ₊₁
B. The sum of all future rewards.
C. V(Sₜ₊₁)
D. Zero for every task.
γ=0 时，后面项都消失，第一项系数仍是 1。因此只关心下一次即时奖励，不是所有回报都为零。
B 忽略折扣；C 是价值估计；D 把第一项也错误乘了零。
离散动作 DQN 输入一个状态后，输出的数分别代表什么？
比较“动作有多好”与“动作被选中的概率”。DQN 先打价值分，再由贪心或探索规则选动作，这两个步骤不是同一个输出。
In a standard discrete-action DQN, what does the network output for one input state?
A. A probability distribution that must sum to one.
B. Only the next state.
C. The exact transition matrix.
D. An estimated Q value for each available action.
DQN 输出每个离散动作的估计价值。Q 可正可负，通常不要求和为 1，然后用贪心或 ε-greedy 选动作。
A 更像随机策略网络输出；B、C 是模型相关信息。Q 值为 (2,5) 不代表动作概率为 (2/7,5/7)，除非另外明确规定某种概率转换规则。
5个动作只有1个最高，ε=0.1。问选到任何非贪心动作的总概率。
先算每个动作的探索份额，再数共有几个非贪心动作。探索时也可能抽中贪心动作，所以总非贪心概率不等于ε。
With five actions, a unique greedy action and ε=0.1, what is the probability of choosing a nongreedy action in total?
A. 0.08
B. 0.10
C. 0.02
D. 0.90
每个非贪心动作得到 ε/5=0.02，一共有四个，所以总概率是 4×0.02=0.08。贪心动作概率为 0.9+0.02=0.92。
B 将探索概率误认为“选到非贪心的概率”，但探索也可能选到贪心；C 只算一个非贪心动作；D 是利用分支的概率。
Actor–critic 中 critic 主要做什么？
把 actor 想成决定怎么走的人，critic 想成估计这次选择长期效果的评分员。评分有误差，所以并不保证每次动作最优。
In actor–critic, what is the critic’s main role?
A. Choose actions without a policy.
B. Estimate value information used to guide policy improvement.
C. Guarantee every selected action is optimal.
D. Replace all rewards by zero.
critic 估计 V、Q 或相关评价信号，帮助 actor 判断刚才的动作表现是否好于预期。actor 才负责参数化和更新行为策略。
A 抹掉了 actor 的作用；C critic 本身是学习到的估计，会有误差；D 破坏了学习目标。critic 的批评不是语言评价，而是可用于梯度更新的数值信号。
同一状态在一回合出现两次，对应完整回报4和10，first-visit MC 用哪一个？
“首次”修饰访问发生的位置，不是只拿第一笔奖励。找到第一次访问，然后从那一刻算完整未来回报。
A state occurs twice in one episode, with returns 4 and 10 at its two visits. Which return is used by first-visit MC for that state in this episode?
A. 10 only
B. 7
C. Both returns as two updates
D. 4 only
首次访问 MC 每回合对该状态只使用第一次出现对应的完整回报，所以用 4。
A 是最后一次访问；B 是这两次访问的平均值，在特定每次访问样本均值计算中可能出现；C 是每次访问更新。first visit 不是“只拿第一笔即时奖励”，仍然要算从首次访问开始的完整未来回报。
小车下一位置受速度影响，只记录位置够不够？
想象同一位置的一辆车向左、一辆向右。相同控制动作不一定得到相同后续分布，所以状态需要能区分相关动态信息。
For a moving cart whose future position depends on its velocity, which claim is most reasonable?
A. Position alone must always be Markov.
B. Position and velocity can provide a more sufficient state than position alone.
C. Rewards alone always determine the next position.
D. A random policy automatically makes position Markov.
同一位置的车可能正向左或向右移动，即使施加相同动作，下一位置也可能不同。速度保留了预测未来所需的动态信息。
A 忽略了速度；C 没有足够动力学信息；D 改变策略不能凭空补上丢失的状态变量。说“更充分”也不表示任意复杂系统加速度这一个变量就必然完全 Markov，还需考虑具体环境。
线性价值函数的特征为(1,2)，权重为(3,−1)，求预测值。
把它当两项评分：第一特征乘第一权重、第二特征乘第二权重，最后相加。这里没有概率归一化。
A linear value approximator uses x(s)=(1,2) and w=(3,-1). What is v̂(s,w)?
A. 5
B. -1
C. 1
D. 3
这是点积：对应位置相乘再求和。A 忽略了第二个权重的负号；B 仅是某个权重；D 只取第一项。特征维度不是动作数量，也不是回报步数。
分别区分 reward/return、V/Q、max/argmax、k/t、α/ε，一共五组。
每组都用“它回答什么问题”解释。别只写中文译名：例如max回答分数多少，argmax回答选择谁。
Briefly distinguish reward from return, state value from action value, and max from argmax. Finally distinguish the iteration counter k from environment time t and the learning rate α from the exploration parameter ε. [5 points]
① Reward 是一次转移收到的即时数值；return 是从某时刻开始的未来折扣奖励和。② V(s) 尚未指定第一动作，按策略平均；Q(s,a) 指定第一步做 a，之后再按相应策略继续。
③ max 返回最大的数，argmax 返回达到该数的动作或下标。④ k 表示算法更新轮数，t 表示真实/采样轨迹的时间。⑤ α 控制估计向目标移动多少，ε 控制 ε-greedy 选动作时的探索概率。
例如 Q=(2,6)，max=6，argmax=第二动作；α=0.1 表示只改动目标差距的十分之一，不表示探索概率 10%。
解释首次/每次访问 MC、样本均值/常数步长，以及重复状态为何让在线TD的顺序重要。
这里有三个独立选择：用哪些访问产生的回报、如何平均这些回报、什么时候改表。不要因为都出现“每次”就把它们混在一起。
Explain first-visit versus every-visit MC. Distinguish sample-mean and constant-step-size estimation. Explain why online TD must specify the order of transitions when a state repeats. [5 points]
① First-visit 每回合每个状态只使用首次访问的回报。② Every-visit 每次访问对应的回报都使用。
③ Sample mean 以已有回报的算术平均估计，递推步长是 1/N。④ Constant α 用 V←V+α(G−V)，一般更重视近期样本，并非普通算术平均。
⑤ 在线 TD 每条转移后立即改表，后面的目标可能读到前面刚更新的值，重复状态时处理顺序就影响有限次更新结果。
例如旧 V=0，依次目标 2、6，α=0.5：得到 1 再到 3.5；样本均值则为 4。这两种估计不能互换。
把回放池、目标网络、Double、PER、Dueling 分别对应到主要作用，并各给一个细节。
按训练流程排位置：收集和存经验→选哪些经验训练→网络怎样表示Q→怎样构造目标。这样每个名字都有落脚点。
Match each mechanism to its main purpose and give one useful detail: (i) replay buffer, (ii) target network, (iii) Double DQN, (iv) prioritized replay, (v) dueling network. [5 points]
| 机制 | 主要作用 | 关键细节 |
|---|---|---|
| Replay buffer | 重用经验、减轻时间相关性 | 保存 (s,a,r,s′,done)，随机抽小批量 |
| Target network | 减慢自举目标变化 | θ⁻ 延迟从在线参数同步 |
| Double DQN | 缓解最大化过估计 | 在线选动作、目标网络评价 |
| Prioritized replay | 把更多采样分给值得学习的经验 | 常用绝对 TD error 作优先级并配重要性权重 |
| Dueling network | 共享状态价值并区分动作优势 | V+A−mean(A) |
这些方法改变的是不同环节，因此可以组合。比如“使用 dueling 架构、Double 目标、优先回放”的 agent 并不矛盾。
两动作单步 bandit：a₁概率是sigmoid(θ)，初始θ=0，实际选a₁获4分，基线2，α=0.1。求对数概率导数、更新后的θ及概率变化方向。
先算当前概率；再算这个概率对参数的敏感方向；用“本次回报−基线”决定沿正还是反方向；最后乘学习率。θ是参数，不是奖励或概率。
In a one-state two-action bandit, πθ(a₁)=σ(θ) and πθ(a₂)=1−σ(θ), where σ is the logistic function. An episode consists of one action. At θ=0 the sampled action is a₁ and its reward is 4. Use baseline b=2 and learning rate α=0.1. Compute ∂logπθ(a₁)/∂θ, the REINFORCE parameter update, and the direction of the probability change. Explain the role of the baseline. [5 points]
① θ=0 时 σ(0)=1/2。（1 分）② d logσ(θ)/dθ=σ′/σ=1−σ，因此梯度为 0.5。（1 分）
③ 新参数 0.1。（1 分）④ sigmoid 单调递增，所以 a₁ 概率从 0.5 上升，约为 0.5250。（1 分，方向正确即可）⑤ 基线将表现和参考水平比较，可降低梯度估计方差；动作无关时不改变期望梯度。（1 分）
这不是把奖励直接当概率，也不是令 θ=4。θ 是策略参数，要沿梯度方向小步更新。
区分无模型学习与规划，说明Dyna的真实和模拟两部分，并解释模型错误为何可能被更多规划放大。
先问数据是亲自遇到的，还是模型想象出的。模型生成的经验也能用相同价值更新式处理，但它是否可信取决于模型。
Distinguish model-free learning from planning. Outline the real-experience and simulated-experience parts of Dyna. Why can additional planning be harmful when the learned model is inaccurate? [5 points]
① Model-free 价值/策略学习直接用实际交互样本更新，不要求显式环境转移模型。② Planning 使用模型推演结果来改进价值或策略。
③ Dyna 接到真实 (s,a,r,s′) 后，可以直接进行一次学习更新，同时更新模型。④ 再抽取状态动作，通过模型生成模拟转移，进行额外学习更新。
⑤ 若模型系统性预测错奖励或下一状态，更多规划会重复放大错误，可能让价值或策略偏离真实环境的好解。
每点 1 分。Replay 是重放已经发生的数据，Dyna planning 是通过模型生成结果，这两个来源要分开。
γ=1，每个非终止转移扣1；A各半留A或去B；B以0.25回A、0.75结束。求转移矩阵、真实价值、A→A→B→T样本回报，并解释负价值对应的步数。
无折扣且每步扣1，所以总回报就是负的剩余步数。先解期望方程，再把结果翻译成平均还要走几步。无限允许的最长路径不等于无限期望步数。
γ=1. States A and B are nonterminal. Each transition from either state has reward -1. A moves to A or B with probability 0.5 each. B moves to A with probability 0.25 and to terminal T with probability 0.75. T is absorbing with zero reward.
(a) Write the transition matrix and the Bellman equations. [2]
(b) Solve for v(A),v(B). [2]
(c) For the observed episode A → A → B → T, compute all three returns. [2]
(d) Interpret -v(A) and -v(B), and explain why finite values are possible even though γ=1. [2]
这是一条会吸收终止且期望步数有限的有限链。每走一步扣 1，价值可以用负的期望剩余步数理解。
矩阵行按 (A,B,T)：(0.5,0.5,0)、(0.25,0,0.75)、(0,0,1)。
第一式整理为 vA=-2+vB；代入第二式得 vA=-3+0.25vA，因此 vA=-4，vB=-2。
三笔奖励均为 -1，且不折扣：G₀=-3、G₁=-2、G₂=-1。A 首次出现的样本回报 -3 不必等于平均值 -4。
从 A 起期望还需 4 步到终点，从 B 起为 2 步。各非终止状态都可到达 T，且不存在封闭的非终止类；本有限链具有有限期望吸收时间，所以 γ=1 时仍有有限总回报。
S的a得2去U、b得1结束；U的c得0回S、d得3结束；γ=0.5，旧策略固定a/c。求旧值、所有Q、新策略值和最优性。
旧策略确定，所以不要擅自给动作各乘1/2。旧值先按循环联立求解；然后评价没选过的b、d，才知道是否值得换。
γ=0.5. At S, a gives reward 2 and goes to U; b gives reward 1 and terminates. At U, c gives reward 0 and goes to S; d gives reward 3 and terminates. The initial deterministic policy is π=(a,c).
(a) Write its Bellman equations. [2]
(b) Solve for vπ(S),vπ(U). [2]
(c) Compute all four qπ values and give a greedy improvement. [2]
(d) Evaluate the improved policy and test whether it is optimal. [2]
策略 (a,c) 表示 S 必做 a、U 必做 c。环境动作也确定，整个旧策略是循环。
代入 vS=2+0.25vS，得 vS=8/3，vU=4/3。
S 的 a=2+0.5×4/3=8/3，b=1，仍选 a；U 的 c=0.5×8/3=4/3，d=3，改选 d。新策略 (a,d)。
U 直接终止得 3；S 得 2+0.5×3=3.5。重新比较 U 的 c=0.5×3.5=1.75<3，S 的 a=3.5>1，策略稳定且最优。
同一环境：S的a得0回S，b得1去U；U的c得2结束，d得−1回S；γ=0.5。V评估各半随机策略，W进行价值迭代，二者初值都零。
准备两张表。V每轮按动作概率平均，W每轮动作取max；两者都读自己的上一轮。最后一问指定用V₂求Q，不能误读成W₂。
γ=0.5. At S, a gives reward 0 and returns to S; b gives reward 1 and goes to U. At U, c gives reward 2 and terminates; d gives reward -1 and goes to S. Let Vₖ be random-policy evaluation with probability 0.5 per action. Let Wₖ be value iteration. Start both at zero.
(a) Write the update formulas for V and W at S. [1]
(b) Compute V₁,V₂ for (S,U). [2]
(c) Compute W₁,W₂ for (S,U). [2]
(d) Using V₂ as successor values, calculate all four one-step action values and the greedy policy. [2]
(e) Explain why the two sequences differ even though they use the same environment. [2]
![V_{k+1}(S)=0.5[0.5V_k(S)]+0.5[1+0.5V_k(U)]](data:image/svg+xml;base64,<?xml version="1.0" encoding="utf-8" standalone="no"?>
<!DOCTYPE svg PUBLIC "-//W3C//DTD SVG 1.1//EN"
  "http://www.w3.org/Graphics/SVG/1.1/DTD/svg11.dtd">
<svg xmlns:xlink="http://www.w3.org/1999/xlink" width="288pt" height="16pt" viewBox="0 0 288 16" xmlns="http://www.w3.org/2000/svg" version="1.1">
 <metadata>
  <rdf:RDF xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:cc="http://creativecommons.org/ns#" xmlns:rdf="http://www.w3.org/1999/02/22-rdf-syntax-ns#">
   <cc:Work>
    <dc:type rdf:resource="http://purl.org/dc/dcmitype/StillImage"/>
    <dc:date>2026-11-10T20:31:46.048251</dc:date>
    <dc:format>image/svg+xml</dc:format>
    <dc:creator>
     <cc:Agent>
      <dc:title>Matplotlib v3.11.2, https://matplotlib.org/</dc:title>
     </cc:Agent>
    </dc:creator>
   </cc:Work>
  </rdf:RDF>
 </metadata>
 <defs>
  <style type="text/css">*{stroke-linejoin: round; stroke-linecap: butt}</style>
 </defs>
 <g id="figure_1">
  <g id="patch_1">
   <path d="M 0 16 
L 288 16 
L 288 0 
L 0 0 
z
" style="fill: #ffffff"/>
  </g>
  <g id="text_1">
   <!-- $V_{k+1}(S)=0.5[0.5V_k(S)]+0.5[1+0.5V_k(U)]$ -->
   <g style="fill: #173e46" transform="translate(0 12) scale(0.17 -0.17)">
    <defs>
     <path id="TimesNewRomanPS-ItalicMT-39" d="M 972 -97 
L 1322 3431 
Q 1347 3700 1347 3794 
Q 1347 3934 1242 4028 
Q 1138 4122 913 4122 
L 800 4122 
L 831 4238 
L 2503 4238 
L 2469 4122 
Q 2197 4119 2095 4066 
Q 1994 4013 1934 3884 
Q 1903 3816 1869 3494 
L 1619 966 
L 3272 3222 
Q 3541 3588 3609 3731 
Q 3656 3828 3656 3900 
Q 3656 3984 3584 4046 
Q 3513 4109 3316 4122 
L 3353 4238 
L 4628 4238 
L 4597 4122 
Q 4444 4109 4353 4063 
Q 4181 3981 4011 3815 
Q 3841 3650 3472 3147 
L 1084 -97 
L 972 -97 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPS-ItalicMT-4e" d="M 1831 4444 
L 944 1372 
L 1300 1675 
Q 1884 2169 2059 2406 
Q 2116 2484 2116 2525 
Q 2116 2553 2097 2578 
Q 2078 2603 2023 2618 
Q 1969 2634 1831 2634 
L 1722 2634 
L 1756 2753 
L 3122 2753 
L 3091 2634 
Q 2856 2622 2686 2561 
Q 2516 2500 2356 2381 
Q 2041 2147 1941 2056 
L 1672 1819 
Q 1741 1594 1841 1191 
Q 2009 522 2069 397 
Q 2128 272 2191 272 
Q 2244 272 2316 325 
Q 2478 444 2663 703 
L 2772 625 
Q 2431 197 2250 61 
Q 2069 -75 1919 -75 
Q 1788 -75 1716 28 
Q 1591 213 1300 1481 
L 872 1109 
L 550 0 
L 63 0 
L 1100 3566 
L 1188 3869 
Q 1203 3947 1203 4006 
Q 1203 4081 1145 4131 
Q 1088 4181 978 4181 
Q 906 4181 750 4150 
L 750 4259 
L 1831 4444 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-e" d="M 1672 441 
L 1672 2000 
L 116 2000 
L 116 2256 
L 1672 2256 
L 1672 3809 
L 1922 3809 
L 1922 2256 
L 3484 2256 
L 3484 2000 
L 1922 2000 
L 1922 441 
L 1672 441 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-14" d="M 750 3822 
L 1781 4325 
L 1884 4325 
L 1884 747 
Q 1884 391 1914 303 
Q 1944 216 2037 169 
Q 2131 122 2419 116 
L 2419 0 
L 825 0 
L 825 116 
Q 1125 122 1212 167 
Q 1300 213 1334 289 
Q 1369 366 1369 747 
L 1369 3034 
Q 1369 3497 1338 3628 
Q 1316 3728 1258 3775 
Q 1200 3822 1119 3822 
Q 1003 3822 797 3725 
L 750 3822 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-b" d="M 1988 -1253 
L 1988 -1369 
Q 1516 -1131 1200 -813 
Q 750 -359 506 256 
Q 263 872 263 1534 
Q 263 2503 741 3301 
Q 1219 4100 1988 4444 
L 1988 4313 
Q 1603 4100 1356 3731 
Q 1109 3363 987 2797 
Q 866 2231 866 1616 
Q 866 947 969 400 
Q 1050 -31 1165 -292 
Q 1281 -553 1476 -793 
Q 1672 -1034 1988 -1253 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPS-ItalicMT-36" d="M 44 -97 
L 394 1475 
L 500 1475 
Q 478 1247 478 1097 
Q 478 669 751 400 
Q 1025 131 1466 131 
Q 1875 131 2087 382 
Q 2300 634 2300 963 
Q 2300 1175 2203 1350 
Q 2056 1609 1419 2263 
Q 1109 2575 1022 2728 
Q 878 2981 878 3259 
Q 878 3703 1209 4018 
Q 1541 4334 2059 4334 
Q 2234 4334 2391 4300 
Q 2488 4281 2744 4175 
Q 2925 4103 2944 4097 
Q 2988 4088 3041 4088 
Q 3131 4088 3197 4134 
Q 3263 4181 3350 4334 
L 3469 4334 
L 3144 2928 
L 3038 2928 
Q 3050 3116 3050 3231 
Q 3050 3609 2800 3850 
Q 2550 4091 2141 4091 
Q 1816 4091 1612 3900 
Q 1409 3709 1409 3459 
Q 1409 3241 1539 3042 
Q 1669 2844 2136 2395 
Q 2603 1947 2740 1695 
Q 2878 1444 2878 1159 
Q 2878 838 2708 536 
Q 2538 234 2219 68 
Q 1900 -97 1522 -97 
Q 1334 -97 1171 -62 
Q 1009 -28 653 106 
Q 531 153 450 153 
Q 266 153 163 -97 
L 44 -97 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-c" d="M 144 4313 
L 144 4444 
Q 619 4209 934 3891 
Q 1381 3434 1625 2820 
Q 1869 2206 1869 1541 
Q 1869 572 1392 -226 
Q 916 -1025 144 -1369 
L 144 -1253 
Q 528 -1038 776 -670 
Q 1025 -303 1145 264 
Q 1266 831 1266 1447 
Q 1266 2113 1163 2663 
Q 1084 3094 967 3353 
Q 850 3613 656 3853 
Q 463 4094 144 4313 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-20" d="M 116 2759 
L 3488 2759 
L 3488 2503 
L 116 2503 
L 116 2759 
z
M 116 1741 
L 3488 1741 
L 3488 1484 
L 116 1484 
L 116 1741 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-13" d="M 231 2094 
Q 231 2819 450 3342 
Q 669 3866 1031 4122 
Q 1313 4325 1613 4325 
Q 2100 4325 2488 3828 
Q 2972 3213 2972 2159 
Q 2972 1422 2759 906 
Q 2547 391 2217 158 
Q 1888 -75 1581 -75 
Q 975 -75 572 641 
Q 231 1244 231 2094 
z
M 844 2016 
Q 844 1141 1059 588 
Q 1238 122 1591 122 
Q 1759 122 1940 273 
Q 2122 425 2216 781 
Q 2359 1319 2359 2297 
Q 2359 3022 2209 3506 
Q 2097 3866 1919 4016 
Q 1791 4119 1609 4119 
Q 1397 4119 1231 3928 
Q 1006 3669 925 3112 
Q 844 2556 844 2016 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-11" d="M 800 606 
Q 947 606 1047 504 
Q 1147 403 1147 259 
Q 1147 116 1045 14 
Q 944 -88 800 -88 
Q 656 -88 554 14 
Q 453 116 453 259 
Q 453 406 554 506 
Q 656 606 800 606 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-18" d="M 2778 4238 
L 2534 3706 
L 1259 3706 
L 981 3138 
Q 1809 3016 2294 2522 
Q 2709 2097 2709 1522 
Q 2709 1188 2573 903 
Q 2438 619 2231 419 
Q 2025 219 1772 97 
Q 1413 -75 1034 -75 
Q 653 -75 479 54 
Q 306 184 306 341 
Q 306 428 378 495 
Q 450 563 559 563 
Q 641 563 702 538 
Q 763 513 909 409 
Q 1144 247 1384 247 
Q 1750 247 2026 523 
Q 2303 800 2303 1197 
Q 2303 1581 2056 1914 
Q 1809 2247 1375 2428 
Q 1034 2569 447 2591 
L 1259 4238 
L 2778 4238 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-3e" d="M 1900 -1269 
L 525 -1269 
L 525 4334 
L 1900 4334 
L 1900 4088 
L 994 4088 
L 994 -1025 
L 1900 -1025 
L 1900 -1269 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-40" d="M 234 4334 
L 1609 4334 
L 1609 -1272 
L 234 -1272 
L 234 -1025 
L 1141 -1025 
L 1141 4088 
L 234 4088 
L 234 4334 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPS-ItalicMT-38" d="M 838 4238 
L 2628 4238 
L 2594 4122 
Q 2319 4116 2201 4070 
Q 2084 4025 2001 3909 
Q 1919 3794 1828 3481 
L 1394 1981 
Q 1278 1581 1256 1456 
Q 1219 1256 1219 1084 
Q 1219 706 1500 445 
Q 1781 184 2253 184 
Q 2563 184 2806 301 
Q 3050 419 3223 630 
Q 3397 841 3540 1202 
Q 3684 1563 3794 1931 
L 4169 3225 
Q 4309 3709 4309 3856 
Q 4309 3959 4214 4032 
Q 4119 4106 3828 4122 
L 3863 4238 
L 5209 4238 
L 5175 4122 
Q 4938 4122 4833 4076 
Q 4728 4031 4650 3914 
Q 4572 3797 4475 3459 
L 4016 1888 
Q 3794 1122 3597 758 
Q 3400 394 3026 148 
Q 2653 -97 2100 -97 
Q 1463 -97 1072 264 
Q 681 625 681 1091 
Q 681 1275 716 1484 
Q 741 1622 838 1959 
L 1256 3400 
Q 1344 3713 1344 3859 
Q 1344 3975 1255 4039 
Q 1166 4103 806 4122 
L 838 4238 
z
" transform="scale(0.015625)"/>
    </defs>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-39" transform="translate(0 0.5625)"/>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-4e" transform="translate(61.083984 -12.69375) scale(0.7)"/>
    <use xlink:href="#TimesNewRomanPSMT-e" transform="translate(102.263672 -12.69375) scale(0.7)"/>
    <use xlink:href="#TimesNewRomanPSMT-14" transform="translate(151.851562 -12.69375) scale(0.7)"/>
    <use xlink:href="#TimesNewRomanPSMT-b" transform="translate(189.060937 0.5625)"/>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-36" transform="translate(222.361719 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-c" transform="translate(272.361719 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-20" transform="translate(320.105859 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-13" transform="translate(390.945703 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-11" transform="translate(440.945703 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-18" transform="translate(465.945703 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-3e" transform="translate(515.945703 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-13" transform="translate(549.246484 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-11" transform="translate(599.246484 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-18" transform="translate(624.246484 0.5625)"/>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-39" transform="translate(674.246484 0.5625)"/>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-4e" transform="translate(735.330469 -12.69375) scale(0.7)"/>
    <use xlink:href="#TimesNewRomanPSMT-b" transform="translate(768.60918 0.5625)"/>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-36" transform="translate(801.909961 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-c" transform="translate(851.909961 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-40" transform="translate(885.210742 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-e" transform="translate(932.954883 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-13" transform="translate(1003.794727 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-11" transform="translate(1053.794727 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-18" transform="translate(1078.794727 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-3e" transform="translate(1128.794727 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-14" transform="translate(1162.095508 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-e" transform="translate(1226.538867 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-13" transform="translate(1297.378711 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-11" transform="translate(1347.378711 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-18" transform="translate(1372.378711 0.5625)"/>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-39" transform="translate(1422.378711 0.5625)"/>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-4e" transform="translate(1483.462695 -12.69375) scale(0.7)"/>
    <use xlink:href="#TimesNewRomanPSMT-b" transform="translate(1516.741406 0.5625)"/>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-38" transform="translate(1550.042187 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-c" transform="translate(1622.258984 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-40" transform="translate(1655.559766 0.5625)"/>
   </g>
  </g>
 </g>
</svg>
)
![W_{k+1}(S)=\max[0.5W_k(S),1+0.5W_k(U)]](data:image/svg+xml;base64,<?xml version="1.0" encoding="utf-8" standalone="no"?>
<!DOCTYPE svg PUBLIC "-//W3C//DTD SVG 1.1//EN"
  "http://www.w3.org/Graphics/SVG/1.1/DTD/svg11.dtd">
<svg xmlns:xlink="http://www.w3.org/1999/xlink" width="267pt" height="16pt" viewBox="0 0 267 16" xmlns="http://www.w3.org/2000/svg" version="1.1">
 <metadata>
  <rdf:RDF xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:cc="http://creativecommons.org/ns#" xmlns:rdf="http://www.w3.org/1999/02/22-rdf-syntax-ns#">
   <cc:Work>
    <dc:type rdf:resource="http://purl.org/dc/dcmitype/StillImage"/>
    <dc:date>2026-11-10T20:31:46.059204</dc:date>
    <dc:format>image/svg+xml</dc:format>
    <dc:creator>
     <cc:Agent>
      <dc:title>Matplotlib v3.11.2, https://matplotlib.org/</dc:title>
     </cc:Agent>
    </dc:creator>
   </cc:Work>
  </rdf:RDF>
 </metadata>
 <defs>
  <style type="text/css">*{stroke-linejoin: round; stroke-linecap: butt}</style>
 </defs>
 <g id="figure_1">
  <g id="patch_1">
   <path d="M 0 16 
L 267 16 
L 267 0 
L 0 0 
z
" style="fill: #ffffff"/>
  </g>
  <g id="text_1">
   <!-- $W_{k+1}(S)=\max[0.5W_k(S),1+0.5W_k(U)]$ -->
   <g style="fill: #173e46" transform="translate(0 12) scale(0.17 -0.17)">
    <defs>
     <path id="TimesNewRomanPS-ItalicMT-3a" d="M 866 -97 
L 1231 3434 
Q 1253 3638 1253 3747 
Q 1253 3928 1150 4022 
Q 1047 4116 778 4122 
L 813 4238 
L 2400 4238 
L 2366 4122 
Q 2047 4125 1930 4008 
Q 1813 3891 1769 3434 
L 1534 1147 
L 3144 3631 
Q 3147 3694 3147 3738 
Q 3147 3913 3044 4006 
Q 2941 4100 2600 4122 
L 2625 4238 
L 4341 4238 
L 4306 4122 
Q 4009 4119 3906 4072 
Q 3831 4038 3779 3961 
Q 3728 3884 3697 3700 
Q 3688 3647 3620 2975 
Q 3553 2303 3419 1147 
L 4759 3184 
Q 4978 3519 5034 3653 
Q 5091 3788 5091 3881 
Q 5091 3969 5016 4036 
Q 4941 4103 4759 4122 
L 4784 4238 
L 6041 4238 
L 6009 4122 
Q 5844 4109 5716 4040 
Q 5588 3972 5413 3778 
Q 5313 3666 5000 3184 
L 2872 -97 
L 2756 -97 
L 3100 3184 
L 972 -97 
L 866 -97 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPS-ItalicMT-4e" d="M 1831 4444 
L 944 1372 
L 1300 1675 
Q 1884 2169 2059 2406 
Q 2116 2484 2116 2525 
Q 2116 2553 2097 2578 
Q 2078 2603 2023 2618 
Q 1969 2634 1831 2634 
L 1722 2634 
L 1756 2753 
L 3122 2753 
L 3091 2634 
Q 2856 2622 2686 2561 
Q 2516 2500 2356 2381 
Q 2041 2147 1941 2056 
L 1672 1819 
Q 1741 1594 1841 1191 
Q 2009 522 2069 397 
Q 2128 272 2191 272 
Q 2244 272 2316 325 
Q 2478 444 2663 703 
L 2772 625 
Q 2431 197 2250 61 
Q 2069 -75 1919 -75 
Q 1788 -75 1716 28 
Q 1591 213 1300 1481 
L 872 1109 
L 550 0 
L 63 0 
L 1100 3566 
L 1188 3869 
Q 1203 3947 1203 4006 
Q 1203 4081 1145 4131 
Q 1088 4181 978 4181 
Q 906 4181 750 4150 
L 750 4259 
L 1831 4444 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-e" d="M 1672 441 
L 1672 2000 
L 116 2000 
L 116 2256 
L 1672 2256 
L 1672 3809 
L 1922 3809 
L 1922 2256 
L 3484 2256 
L 3484 2000 
L 1922 2000 
L 1922 441 
L 1672 441 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-14" d="M 750 3822 
L 1781 4325 
L 1884 4325 
L 1884 747 
Q 1884 391 1914 303 
Q 1944 216 2037 169 
Q 2131 122 2419 116 
L 2419 0 
L 825 0 
L 825 116 
Q 1125 122 1212 167 
Q 1300 213 1334 289 
Q 1369 366 1369 747 
L 1369 3034 
Q 1369 3497 1338 3628 
Q 1316 3728 1258 3775 
Q 1200 3822 1119 3822 
Q 1003 3822 797 3725 
L 750 3822 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-b" d="M 1988 -1253 
L 1988 -1369 
Q 1516 -1131 1200 -813 
Q 750 -359 506 256 
Q 263 872 263 1534 
Q 263 2503 741 3301 
Q 1219 4100 1988 4444 
L 1988 4313 
Q 1603 4100 1356 3731 
Q 1109 3363 987 2797 
Q 866 2231 866 1616 
Q 866 947 969 400 
Q 1050 -31 1165 -292 
Q 1281 -553 1476 -793 
Q 1672 -1034 1988 -1253 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPS-ItalicMT-36" d="M 44 -97 
L 394 1475 
L 500 1475 
Q 478 1247 478 1097 
Q 478 669 751 400 
Q 1025 131 1466 131 
Q 1875 131 2087 382 
Q 2300 634 2300 963 
Q 2300 1175 2203 1350 
Q 2056 1609 1419 2263 
Q 1109 2575 1022 2728 
Q 878 2981 878 3259 
Q 878 3703 1209 4018 
Q 1541 4334 2059 4334 
Q 2234 4334 2391 4300 
Q 2488 4281 2744 4175 
Q 2925 4103 2944 4097 
Q 2988 4088 3041 4088 
Q 3131 4088 3197 4134 
Q 3263 4181 3350 4334 
L 3469 4334 
L 3144 2928 
L 3038 2928 
Q 3050 3116 3050 3231 
Q 3050 3609 2800 3850 
Q 2550 4091 2141 4091 
Q 1816 4091 1612 3900 
Q 1409 3709 1409 3459 
Q 1409 3241 1539 3042 
Q 1669 2844 2136 2395 
Q 2603 1947 2740 1695 
Q 2878 1444 2878 1159 
Q 2878 838 2708 536 
Q 2538 234 2219 68 
Q 1900 -97 1522 -97 
Q 1334 -97 1171 -62 
Q 1009 -28 653 106 
Q 531 153 450 153 
Q 266 153 163 -97 
L 44 -97 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-c" d="M 144 4313 
L 144 4444 
Q 619 4209 934 3891 
Q 1381 3434 1625 2820 
Q 1869 2206 1869 1541 
Q 1869 572 1392 -226 
Q 916 -1025 144 -1369 
L 144 -1253 
Q 528 -1038 776 -670 
Q 1025 -303 1145 264 
Q 1266 831 1266 1447 
Q 1266 2113 1163 2663 
Q 1084 3094 967 3353 
Q 850 3613 656 3853 
Q 463 4094 144 4313 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-20" d="M 116 2759 
L 3488 2759 
L 3488 2503 
L 116 2503 
L 116 2759 
z
M 116 1741 
L 3488 1741 
L 3488 1484 
L 116 1484 
L 116 1741 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-50" d="M 1050 2338 
Q 1363 2650 1419 2697 
Q 1559 2816 1721 2881 
Q 1884 2947 2044 2947 
Q 2313 2947 2506 2790 
Q 2700 2634 2766 2338 
Q 3088 2713 3309 2830 
Q 3531 2947 3766 2947 
Q 3994 2947 4170 2830 
Q 4347 2713 4450 2447 
Q 4519 2266 4519 1878 
L 4519 647 
Q 4519 378 4559 278 
Q 4591 209 4675 161 
Q 4759 113 4950 113 
L 4950 0 
L 3538 0 
L 3538 113 
L 3597 113 
Q 3781 113 3884 184 
Q 3956 234 3988 344 
Q 4000 397 4000 647 
L 4000 1878 
Q 4000 2228 3916 2372 
Q 3794 2572 3525 2572 
Q 3359 2572 3192 2489 
Q 3025 2406 2788 2181 
L 2781 2147 
L 2788 2013 
L 2788 647 
Q 2788 353 2820 281 
Q 2853 209 2943 161 
Q 3034 113 3253 113 
L 3253 0 
L 1806 0 
L 1806 113 
Q 2044 113 2133 169 
Q 2222 225 2256 338 
Q 2272 391 2272 647 
L 2272 1878 
Q 2272 2228 2169 2381 
Q 2031 2581 1784 2581 
Q 1616 2581 1450 2491 
Q 1191 2353 1050 2181 
L 1050 647 
Q 1050 366 1089 281 
Q 1128 197 1204 155 
Q 1281 113 1516 113 
L 1516 0 
L 100 0 
L 100 113 
Q 297 113 375 155 
Q 453 197 493 289 
Q 534 381 534 647 
L 534 1741 
Q 534 2213 506 2350 
Q 484 2453 437 2492 
Q 391 2531 309 2531 
Q 222 2531 100 2484 
L 53 2597 
L 916 2947 
L 1050 2947 
L 1050 2338 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-44" d="M 1822 413 
Q 1381 72 1269 19 
Q 1100 -59 909 -59 
Q 613 -59 420 144 
Q 228 347 228 678 
Q 228 888 322 1041 
Q 450 1253 767 1440 
Q 1084 1628 1822 1897 
L 1822 2009 
Q 1822 2438 1686 2597 
Q 1550 2756 1291 2756 
Q 1094 2756 978 2650 
Q 859 2544 859 2406 
L 866 2225 
Q 866 2081 792 2003 
Q 719 1925 600 1925 
Q 484 1925 411 2006 
Q 338 2088 338 2228 
Q 338 2497 613 2722 
Q 888 2947 1384 2947 
Q 1766 2947 2009 2819 
Q 2194 2722 2281 2516 
Q 2338 2381 2338 1966 
L 2338 994 
Q 2338 584 2353 492 
Q 2369 400 2405 369 
Q 2441 338 2488 338 
Q 2538 338 2575 359 
Q 2641 400 2828 588 
L 2828 413 
Q 2478 -56 2159 -56 
Q 2006 -56 1915 50 
Q 1825 156 1822 413 
z
M 1822 616 
L 1822 1706 
Q 1350 1519 1213 1441 
Q 966 1303 859 1153 
Q 753 1003 753 825 
Q 753 600 887 451 
Q 1022 303 1197 303 
Q 1434 303 1822 616 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-5b" d="M 84 2863 
L 1431 2863 
L 1431 2747 
Q 1303 2747 1251 2703 
Q 1200 2659 1200 2588 
Q 1200 2513 1309 2356 
Q 1344 2306 1413 2200 
L 1616 1875 
L 1850 2200 
Q 2075 2509 2075 2591 
Q 2075 2656 2022 2701 
Q 1969 2747 1850 2747 
L 1850 2863 
L 2819 2863 
L 2819 2747 
Q 2666 2738 2553 2663 
Q 2400 2556 2134 2200 
L 1744 1678 
L 2456 653 
Q 2719 275 2831 198 
Q 2944 122 3122 113 
L 3122 0 
L 1772 0 
L 1772 113 
Q 1913 113 1991 175 
Q 2050 219 2050 291 
Q 2050 363 1850 653 
L 1431 1266 
L 972 653 
Q 759 369 759 316 
Q 759 241 829 180 
Q 900 119 1041 113 
L 1041 0 
L 106 0 
L 106 113 
Q 219 128 303 191 
Q 422 281 703 653 
L 1303 1450 
L 759 2238 
Q 528 2575 401 2661 
Q 275 2747 84 2747 
L 84 2863 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-3e" d="M 1900 -1269 
L 525 -1269 
L 525 4334 
L 1900 4334 
L 1900 4088 
L 994 4088 
L 994 -1025 
L 1900 -1025 
L 1900 -1269 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-13" d="M 231 2094 
Q 231 2819 450 3342 
Q 669 3866 1031 4122 
Q 1313 4325 1613 4325 
Q 2100 4325 2488 3828 
Q 2972 3213 2972 2159 
Q 2972 1422 2759 906 
Q 2547 391 2217 158 
Q 1888 -75 1581 -75 
Q 975 -75 572 641 
Q 231 1244 231 2094 
z
M 844 2016 
Q 844 1141 1059 588 
Q 1238 122 1591 122 
Q 1759 122 1940 273 
Q 2122 425 2216 781 
Q 2359 1319 2359 2297 
Q 2359 3022 2209 3506 
Q 2097 3866 1919 4016 
Q 1791 4119 1609 4119 
Q 1397 4119 1231 3928 
Q 1006 3669 925 3112 
Q 844 2556 844 2016 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-11" d="M 800 606 
Q 947 606 1047 504 
Q 1147 403 1147 259 
Q 1147 116 1045 14 
Q 944 -88 800 -88 
Q 656 -88 554 14 
Q 453 116 453 259 
Q 453 406 554 506 
Q 656 606 800 606 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-18" d="M 2778 4238 
L 2534 3706 
L 1259 3706 
L 981 3138 
Q 1809 3016 2294 2522 
Q 2709 2097 2709 1522 
Q 2709 1188 2573 903 
Q 2438 619 2231 419 
Q 2025 219 1772 97 
Q 1413 -75 1034 -75 
Q 653 -75 479 54 
Q 306 184 306 341 
Q 306 428 378 495 
Q 450 563 559 563 
Q 641 563 702 538 
Q 763 513 909 409 
Q 1144 247 1384 247 
Q 1750 247 2026 523 
Q 2303 800 2303 1197 
Q 2303 1581 2056 1914 
Q 1809 2247 1375 2428 
Q 1034 2569 447 2591 
L 1259 4238 
L 2778 4238 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-f" d="M 344 -1066 
L 344 -928 
Q 666 -822 842 -598 
Q 1019 -375 1019 -125 
Q 1019 -66 991 -25 
Q 969 3 947 3 
Q 913 3 797 -59 
Q 741 -88 678 -88 
Q 525 -88 434 3 
Q 344 94 344 253 
Q 344 406 461 515 
Q 578 625 747 625 
Q 953 625 1114 445 
Q 1275 266 1275 -31 
Q 1275 -353 1051 -629 
Q 828 -906 344 -1066 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPS-ItalicMT-38" d="M 838 4238 
L 2628 4238 
L 2594 4122 
Q 2319 4116 2201 4070 
Q 2084 4025 2001 3909 
Q 1919 3794 1828 3481 
L 1394 1981 
Q 1278 1581 1256 1456 
Q 1219 1256 1219 1084 
Q 1219 706 1500 445 
Q 1781 184 2253 184 
Q 2563 184 2806 301 
Q 3050 419 3223 630 
Q 3397 841 3540 1202 
Q 3684 1563 3794 1931 
L 4169 3225 
Q 4309 3709 4309 3856 
Q 4309 3959 4214 4032 
Q 4119 4106 3828 4122 
L 3863 4238 
L 5209 4238 
L 5175 4122 
Q 4938 4122 4833 4076 
Q 4728 4031 4650 3914 
Q 4572 3797 4475 3459 
L 4016 1888 
Q 3794 1122 3597 758 
Q 3400 394 3026 148 
Q 2653 -97 2100 -97 
Q 1463 -97 1072 264 
Q 681 625 681 1091 
Q 681 1275 716 1484 
Q 741 1622 838 1959 
L 1256 3400 
Q 1344 3713 1344 3859 
Q 1344 3975 1255 4039 
Q 1166 4103 806 4122 
L 838 4238 
z
" transform="scale(0.015625)"/>
     <path id="TimesNewRomanPSMT-40" d="M 234 4334 
L 1609 4334 
L 1609 -1272 
L 234 -1272 
L 234 -1025 
L 1141 -1025 
L 1141 4088 
L 234 4088 
L 234 4334 
z
" transform="scale(0.015625)"/>
    </defs>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-3a" transform="translate(0 0.5625)"/>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-4e" transform="translate(83.300781 -12.69375) scale(0.7)"/>
    <use xlink:href="#TimesNewRomanPSMT-e" transform="translate(124.480469 -12.69375) scale(0.7)"/>
    <use xlink:href="#TimesNewRomanPSMT-14" transform="translate(174.068359 -12.69375) scale(0.7)"/>
    <use xlink:href="#TimesNewRomanPSMT-b" transform="translate(211.277734 0.5625)"/>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-36" transform="translate(244.578516 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-c" transform="translate(294.578516 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-20" transform="translate(342.322656 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-50" transform="translate(413.1625 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-44" transform="translate(490.945703 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-5b" transform="translate(535.330469 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-3e" transform="translate(585.330469 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-13" transform="translate(618.63125 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-11" transform="translate(668.63125 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-18" transform="translate(693.63125 0.5625)"/>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-3a" transform="translate(743.63125 0.5625)"/>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-4e" transform="translate(826.932031 -12.69375) scale(0.7)"/>
    <use xlink:href="#TimesNewRomanPSMT-b" transform="translate(860.210742 0.5625)"/>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-36" transform="translate(893.511523 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-c" transform="translate(943.511523 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-f" transform="translate(976.812305 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-14" transform="translate(1016.255664 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-e" transform="translate(1080.699023 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-13" transform="translate(1151.538867 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-11" transform="translate(1201.538867 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-18" transform="translate(1226.538867 0.5625)"/>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-3a" transform="translate(1276.538867 0.5625)"/>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-4e" transform="translate(1359.839648 -12.69375) scale(0.7)"/>
    <use xlink:href="#TimesNewRomanPSMT-b" transform="translate(1393.118359 0.5625)"/>
    <use xlink:href="#TimesNewRomanPS-ItalicMT-38" transform="translate(1426.419141 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-c" transform="translate(1498.635937 0.5625)"/>
    <use xlink:href="#TimesNewRomanPSMT-40" transform="translate(1531.936719 0.5625)"/>
   </g>
  </g>
 </g>
</svg>
)
V₁(S)=0.5，V₁(U)=0.5×2+0.5×(-1)=0.5。第二轮 S=0.5×0.25+0.5×1.25=0.75；U=1+0.5(-1+0.25)=0.625。
W₁=(max(0,1),max(2,-1))=(1,2)。W₂=(max(0.5,2),max(2,-0.5))=(2,2)。
Q(S,a)=0.5×0.75=0.375；Q(S,b)=1+0.5×0.625=1.3125；Q(U,c)=2；Q(U,d)=-1+0.5×0.75=-0.625。选 b、c。
V 的每轮都在问“随机选动作的策略平均如何”；W 在问“每一步选择最佳动作能如何”。同一个环境可以有很多策略，价值也因此不同。V 在评估 π，W 在逼近 v*，不能把两者当成同一算法的两种记号。
轨迹A得1→A得2→B得3→T；γ=0.5、α=0.5、初值A=2/B=1。比较首次常数步长MC、按时间顺序每次常数步长MC、在线TD，并解释为何不是回报算术平均。
先为三次访问算完整回报。每种方法重新取初值；每次访问MC按题给顺序连续更新A两次；TD第一条是A→A，目标读取本次更新前的A。
An episode is A --1→ A --2→ B --3→ T. γ=0.5. Initialize V(A)=2,V(B)=1 and use constant α=0.5. Reset to these initial values for each method. Every-visit MC updates are applied in chronological visit order after the episode has ended.
(a) Compute G₀,G₁,G₂. [2]
(b) Apply first-visit constant-step MC. [2]
(c) Apply every-visit constant-step MC, showing both A updates. [2]
(d) Apply online TD(0), showing all three updates. [3]
(e) Why is the every-visit result not simply the arithmetic mean of A’s two returns? [1]
和其他卷的 fresh sample mean 不同，这里 α 固定为 0.5，还保留了初始值的影响。读题时先圈出这些约定。
G₂=3，G₁=2+0.5×3=3.5，G₀=1+0.5×3.5=2.75。
A=2+0.5(2.75-2)=2.375，B=1+0.5(3-1)=2。
A 第一次到 2.375；第二次用回报 3.5，A=2.375+0.5(3.5-2.375)=2.9375。B 仍为 2。
第一转移 A→A：目标 1+0.5×2=2，所以 A=2 不变。读取的是更新前的当前 A，不是把新值当未知量联立求解。
第二转移 A→B：目标 2+0.5×1=2.5，A=2+0.5(2.5-2)=2.25。第三转移 B→T：B=1+0.5(3-1)=2。
最终 A=0.25×初值2+0.25×2.75+0.5×3.5=2.9375；两个回报的权重不相同，而且初值仍占 0.25。算术平均 (2.75+3.5)/2=3.125 是另一种估计方法。
旧Q=3、奖励0、γ=0.9、α=0.1；在线(2,6)、目标(7,4)、实际a₁、ε=0.2。计算行为概率、四种目标和终止版本更新。
把当前值3与两张下一状态表分开，避免把“目标网络值”误当最终训练目标。每次先找该算法读取哪个数，乘γ加奖励，再在要求时做α更新。
Q(S,A)=3, r=0, γ=0.9, α=0.1. The transition is nonterminal. Online next-state values for (a₁,a₂) are (2,6), target-network values are (7,4), and the actual next action is a₁. Behaviour is ε-greedy with ε=0.2. Run each algorithm independently.
(a) Compute behaviour action probabilities. [2]
(b) Compute the SARSA target and tabular update. [2]
(c) Compute the Q-learning target and tabular update. [2]
(d) Compute DQN and Double DQN targets; state which network selects and which evaluates the next action. [3]
(e) If this transition is terminal, compute its target and tabular update. [1]
a₂ 唯一最大，概率 1-0.2+0.2/2=0.9；a₁ 为 0.1。实际选到小概率 a₁ 完全可能，不是题目矛盾。
用实际 a₁ 的在线值 2：y=0+0.9×2=1.8；新 Q=3+0.1(1.8-3)=2.88。
用在线最大 6：y=5.4；新 Q=3+0.1(5.4-3)=3.24。
DQN 用目标网络选 a₁，且用它评价为 7，所以 y=6.3。Double 用在线网络选 a₂，再读目标网络 a₂=4，所以 y=3.6。它们都不直接采用“实际下一动作 a₁”作为 SARSA 式约束。
y=0，新 Q=3+0.1(0-3)=2.7。不是把 Q 立刻设为零，因为学习率仅 0.1。
S有short得4结束、long得0去U、wait得1回S；U有collect得6结束、back得0回S。γ=0.5，旧策略wait/back。要评估、比较全部五个动作、验证改进策略最优并做两轮价值迭代。
动作数量并不相同：S三个、U两个。先列完整候选清单避免漏算wait；每次改策略后再用新的未来价值重新检查所有候选。
γ=0.5. At S, short gives reward 4 and terminates; long gives reward 0 and moves to U; wait gives reward 1 and returns to S. At U, collect gives reward 6 and terminates; back gives reward 0 and moves to S. Start with π₀=(wait,back).
(a) Evaluate π₀. [2]
(b) Compute all five qπ₀ values and obtain π₁ by greedy improvement. [3]
(c) Evaluate π₁ and prove it is optimal by checking every action. [3]
(d) From V₀=(0,0), compute V₁,V₂ with synchronous value iteration. [2]
S 有三个候选动作，U 有两个。每个都算一遍，再比较最大值，不能漏掉 wait。
vS=1+0.5vS，得 2；vU=0.5×2=1。
S: short=4，long=0.5×1=0.5，wait=1+0.5×2=2；U: collect=6，back=0.5×2=1。因此 π₁=(short,collect)。
新策略一步终止，vπ₁=(4,6)。再检查 S 的 short=4、long=0.5×6=3、wait=1+0.5×4=3；U 的 collect=6、back=0.5×4=2。选择仍为 short、collect，满足最优方程。
V₁(S)=max(4,0,1)=4，V₁(U)=max(6,0)=6。V₂(S)=max(4,3,3)=4，V₂(U)=max(6,2)=6。此例第一轮数值恰好就等于固定点，但不能据此说所有价值迭代都一轮收敛。