混淆校验函数逐轮字节枚举:复刻状态机匹配目标字节表
ctf/reverse · verified
一句话结论
当校验函数是一个高度混淆的 32 轮状态机、但每轮只把当前输入字节与滚动状态混合成一个目标字节时,可以按汇编逐条复刻状态更新:对第 i 位枚举 0..255,计算该轮的输出低字节,使其等于从 .rodata 三段数组拼出的 target[i],然后固化该字节和状态进入下一轮;复杂度只有 32×256。
原理
- 整体校验:
main要求输入长度 32,KCTF{前缀、}结尾;sub_401890检查前缀/后缀,sub_401590是真正的混淆校验。 - 目标表:
sub_401550(i, a2, a3, a4)按i<=11、12..21、22..31从三段 rodata 数组取值,拼成一张 32 字节目标表;sub_401590调用 4 次(4 组常量),把每组结果按位 OR 到var_61/62/63/64。 - 返回 1 的条件:结尾
cmp [var_61],0; setz al,即var_61==0;每轮xor eax, r13d; or [var_61], al,所以每轮输出低字节必须等于target[i]。 - 状态依赖:每轮计算只依赖当前滚动状态(
r8/r9、16 字节var48、若干 lane)和当前输入字节;没有跨位置的全局哈希,因此可按位置贪心枚举。 - 为什么可行:每轮 256 个候选,32 轮共 8192 次模拟;只要复刻的状态更新正确,正确字节一定使输出匹配。若某轮无解,说明状态更新/字节序/常量抄错,而不是需要回溯。
- 本题:初始
r8=0xB1EB4606F35CF7F9、r9=0x881DB3E005D90DFF、var48=xmmword_4022C0;sub_401320用 xorshift32(seed0xF5A4ADA5)做 Fisher-Yates 生成 256 置换/逆表;sub_401480用固定 seed 生成 256 字节流;sub_401590每轮混合stream、perm、rol8/ror8、×0x100000001B3等。
触发条件
- 输入长度固定(32),有
KCTF{/}形式;main里出现sub_xxx(s) == 1的真校验。 - 校验函数循环次数等于输入长度,每轮把当前字节与滚动状态混合,最后 OR 到一个变量并与 0 比较。
.rodata中能找到与输入等长的目标字节表(可能拆成多段)。- 混淆很重,但每轮逻辑是确定性的、无随机/无外部输入。
利用步骤
- 从
main定位真校验函数、成功字符串和输入长度;确认前缀/后缀。 - 找到
sub_401550类“分段取表”函数,提取 32 字节target。 - 按汇编逐条复刻每轮状态:初始寄存器/16 字节状态、每轮的置换表/流表索引、rol8/ror8、乘法/异或、状态更新,以及下一轮 lane 的装载索引。
- 对
i=0..31: - 已知位置(KCTF{、末尾})固定候选; - 其余枚举b=0..255,用模拟器算v15_low,等于target[i]则选定; - 固化b,用该轮next_state进入下一轮。 - 拼接输出;用程序本地运行/符号执行复验;若某轮无解,检查
xmmword内存序、常量、&0xF索引和状态更新顺序。 - 动态调试可作为捷径:在比较分支读
v16-v20/目标字节,直接得到每轮期望值。
PoC
def step(state, i, b):
"""按汇编复刻一轮;返回 (v15_low, next_state)。"""
# 这里只给骨架:具体状态更新需按题目汇编逐条翻译
# r8/r9/var48/lanes -> 混合 -> v15_low
# next_state 中的 lane 索引按 asm 的 (i+1)/(i+8)/(i+12)/(i+6)/(i+14) & 0xF
raise NotImplementedError
def solve(target, prefix=b"KCTF{"):
state = initial_state() # 初始 r8/r9/var48/lanes
out = bytearray()
for i in range(32):
if i < len(prefix):
cand = [prefix[i]]
elif i == 31:
cand = [ord('}')]
else:
cand = range(256)
for b in cand:
v15, nxt = step(state, i, b)
if v15 == target[i]:
out.append(b); state = nxt; break
else:
raise RuntimeError(f"no solution at {i}")
return bytes(out)
说明:PoC 是逐轮枚举骨架;完整 step 需按原文/汇编逐条复刻(包括 xorshift 置换表、256 字节流、rol8/ror8、×0x100000001B3 和 xmmword 端序)。未在本机对附件复跑。
变体与关联
- 动态捷径:在每轮比较/写
var_61处下断点,读目标/中间值;或 dumpv16-v20直接得到每轮字节。 - 符号执行:angr 可对 32 轮状态机做符号求解,但复刻/动态通常更快。
- 目标表拆分:
sub_401550的三段数组(12+10+10)要按索引正确拼接;边界<=/<容易错。 - 关联:[[ctf-reverse-fjm-rv32-state-machine]](状态机 + DFS)、[[ctf-reverse-memcmp-length-bug-state-machine-reward]](菜单状态机 + reward 变换)。
检测与防御
- 识别:固定长度循环、每轮
xor/or到累加变量、最后与 0 比较;.rodata有等长目标字节表。 - CTF 防守:逐轮独立可枚举的状态机等价于 32 个独立 8-bit 约束,强度很低;应使用整体哈希/签名或 native 校验。
- 真实系统:混淆不能替代密码学;关键校验应在服务端/受保护硬件完成。