字节对加法+ROL8+缓冲区轮转的五轮可逆变换逆向:解析求逆与诱饵串识别
ctf/reverse · verified
一句话结论
16 字节缓冲区按相邻字节对做 (a+b)&0xff 与 rol8(x0^b,1),每轮结束后整体循环左移 1 字节;每一步都是 256 字节上的双射,因此可从目标值逐轮解析求逆,无需爆破;同时程序数据区里能“解密出一句英文”的长串可能只是诱饵,不参与最终比较。
原理
- 单轮变换:对
i = 0,2,...,14取a=buf[i]、b=buf[i+1],写入buf[i]=(a+b)&0xff、buf[i+1]=rol8(buf[i]^b,1);随后buf = buf[1:] + buf[:1](整体循环左移 1 字节)。 - 为什么可逆:记变换后一对为
x0=(a+b) mod 256、x1=rol8(x0 xor b,1)。先做t=ror8(x1,1)=x0 xor b,得b=x0 xor t;再由x0=(a+b) mod 256得a=(x0-b) mod 256。加法模 256、异或、8 位循环移位都是双射,所以整轮双射。 - 轮间顺序:程序先做字节对变换、再整体循环左移;求逆必须先“循环右移 1 字节”回到变换后的布局,再做字节对逆变换。顺序写反会得到自洽但错误的 seed。
- 确定性:变换不含密钥、随机数或输入相关的分支,目标常量直接给出 5 轮后的 16 字节,逆向是纯确定性的;轮数从目标常量前的一小段循环计数或直接观察循环边界得到。
- 诱饵识别:程序里另有一段长十六进制串,用求出的 seed 作重复流密钥按
((c - seed[i & 0xf]) & 0xff) ^ seed[i & 0xf]解密可得到一句通顺英文(“Evergreen broadleaf forests do not shed their leaves in winter”)。它能被解开并不代表它是 flag;判断依据是它是否进入最终比较路径。 - 两阶段模型:seed 校验与 flag 校验之间没有密钥派生关系,seed 可独立求解;flag 内部内容另由比较缓冲区反推。
触发条件
- 输入为固定长度(如 16 字节)缓冲区,程序提示 seed 为 32 个十六进制字符。
- 反编译中出现“按 2 字节步进、先加后异或再 rol/ror、循环末尾 memmove/rotate”的紧凑循环。
- 循环结束后与一个固定十六进制常量逐字节比较,循环次数固定(本例 5 轮)。
- 数据区存在可被某把“密钥”异或/加减解出可读文本的长串。
利用步骤
- 从比较点向上定位目标常量与轮数,确认每轮内是“字节对变换 → 缓冲区整体轮转”。
- 实现
rol8/ror8与inv_step:先buf = buf[-1:] + buf[:-1]撤销轮转,再对每对求t=ror8(x1,1)、b=x0^t、a=(x0-b)&0xff。 - 从目标常量开始连续执行
inv_step等于轮数的次数,得到 seed;再正向执行step相等次数,断言回到目标常量。 - 用 seed 尝试解密数据区的可疑长串,判断其是否为诱饵:看它是否被后续校验引用;仅“可解密”不足以认定。
- 对 flag 校验分支继续反推比较缓冲区;若内部长度固定(本例 23 字节),直接按比较逻辑还原。
PoC
def rol8(x, n=1):
return ((x << n) | (x >> (8 - n))) & 0xff
def ror8(x, n=1):
return ((x >> n) | (x << (8 - n))) & 0xff
def step(buf):
buf = list(buf)
for i in range(0, 16, 2):
a, b = buf[i], buf[i + 1]
buf[i] = (a + b) & 0xff
buf[i + 1] = rol8(buf[i] ^ b, 1)
return bytes(buf[1:] + buf[:1])
def inv_step(buf):
buf = list(buf)
buf = buf[-1:] + buf[:-1] # 先撤销整体循环左移
for i in range(0, 16, 2):
x0, x1 = buf[i], buf[i + 1]
t = ror8(x1, 1) # x0 ^ b
old_b = x0 ^ t
old_a = (x0 - old_b) & 0xff
buf[i], buf[i + 1] = old_a, old_b
return bytes(buf)
target = bytes.fromhex("df7b6a5d4da0f5facf32c4ee4b28b792")
seed = target
for _ in range(5):
seed = inv_step(seed)
assert seed.hex() == "0b5e321c68e0e4fb2d972226e8c70f8d"
for _ in range(5):
assert step(seed) == target
print("seed =", seed.hex())
# 诱饵串:seed 作重复流密钥
enc = bytes.fromhex(
"5986898a77726599708c726f716a72757596868f82657b8a8b8a6f6e6f7a8b"
"727998789075697a92758d7669837570876d8e789582"
)
trap = bytes((((c - seed[i & 0xf]) & 0xff) ^ seed[i & 0xf])
for i, c in enumerate(enc))
print("trap =", trap.decode()) # Evergreenbroadleafforests...,诱饵
变体与关联
- 轮转方向变体:每轮可能是循环右移、按 4 字节/字轮转,或
memmove只移动部分字节;按实际反编译顺序撤销。 - 运算变体:加法可换成减法/异或,
rol8可换成ror8、固定次数旋转或 32 位旋转;只要每步双射都可用同样方法解析求逆。 - 轮数未知:把
inv_step当迭代函数,正向/反向各试若干轮,用最终比较常量或明密文对断言。 - 诱饵变体:诱饵可能用相同 seed 加密、用另一常量加密,或干脆是明文;判断标准始终是“是否参与最终校验”。
- 关联卡片:[[ctf-reverse-custom-vmc2-vm-isa-extraction-invertible-arx]](逐轮可逆 ARX 求逆)、[[ctf-reverse-upx-custom-vm-unreachable-decrypt-rol-xor-ror-inverse]](rol/xor/ror 求逆)。
检测与防御
- 检测特征:二进制中出现极紧的 8/16/32 字节循环,含
add、xor、rol/ror、memmove,循环后紧跟memcmp常量;strings能看到Enter seed、Wrong Seed等两阶段提示。 - 分析建议:先写出单轮正向函数,再用目标常量做一次正向断言;不要从诱饵串或题名直接下结论。
- 防御视角:这类变换只是提高逆向成本,不构成密码学保护;真正需要保密的数据应使用带密钥的标准原语,且不要把可解密诱饵与真实校验放在同一可执行文件中。