按调用点反堆栈取异或键,用 IDC PatchByte 批量还原被 XOR 加密的代码段
ctf/reverse · verified
一句话结论
样本把某个函数的机器码在静态文件里以「整段逐字节 XOR」的形式存储,运行时才由调用方先写入密钥再跳进去执行;逆向时不必模拟执行,只要在调用点回溯压栈/传参的常量(原文是反堆"函数调用前对栈的操作")确定异或键,用 IDC 的 PatchByte(addr+i, Byte(addr+i) ^ key) 按已知字节区间原地还原,IDA 立刻能把这段从"垃圾字节"反编译成正常函数体,后续分析(以及爆破用的 patch)才有落点。
原理
- 静态密文 + 运行时解密:样本里可见一堆看似随机的
db字节(原文字节形态0B 0B 0B 0B 8D 87、FE BB BB BB等),入口处先有一条jmp到"解密桩",或调用方在call之前把常量压栈/写寄存器,解密桩据此逐字节 XOR 回可执行代码。 - 密钥来自调用约定:既然是"调用前先对栈操作",那密钥一定能在调用点附近以立即数/常量形式读到;原文的做法是从调用点向上反推栈布局(
sub/add调整栈指针、mov/push写常量),确定 XOR 键(本例为 0x43 与 0x44 两个区间用不同键)。 - 区间边界怎么定:密文是连续的一段(原文
0x12CB→0x155F、0x155F→0x176D),边界可由jmp目标、ret前的int 3/nop填充、或"解密后首字节应当是可识别的函数序言(55 48 89 E5/sub rsp, X)"来校验。 - PatchByte 为何有效:IDC 的
PatchByte直接改 IDA 数据库里的字节,不修改原始文件;对"静态密文"这种目标,还原后 IDA 的自动分析/反编译会把该区间重新识别为代码,等价于"离线解密",无需真正运行样本。 - 风险与校验:区间/键错一个就会把可执行代码写成乱码;因此必须先
GetManyBytesdump 原始字节备份,再逐区间 patch,并立刻用create_insn/反编译确认序言是否恢复。
触发条件
- 目标为 IDA 可加载的 PE/ELF,存在"静态为随机字节、运行时被解密"的函数段;
- 调用点能回溯出解密用的常量键(压栈/寄存器写入/紧邻的
mov); - 已知或可推断的区间起止(
jmp目标、填充、函数边界); - 需要在 IDA 里继续静态分析(或据此 patch 出可运行副本)。
利用步骤
- 加载样本,定位入口处的
jmp/call与"看起来是随机字节"的区间,记下候选起止地址。 - 在调用点回溯:看
sub rsp/add rsp、mov [rsp+X], imm、push imm等,找出写进解密逻辑的常量(原文得到 0x43、0x44 两个键)。 - 先备份:
GetManyBytes(start, end-start, 0)dump 到文件,便于出错回滚。 - 用 IDC 按区间 patch:
c #include <idc.idc> static main() { auto des = 0x176d, addr = 0x155f, i; for (i = 0; addr + i != des; ++i) PatchByte(addr + i, Byte(addr + i) ^ 0x43); des = 0x155f; addr = 0x12CB; for (i = 0; addr + i != des; ++i) PatchByte(addr + i, Byte(addr + i) ^ 0x44); } - 让 IDA 重新分析该区间(
create_insn或C/U后重定义),按 F5 反编译;若序言不对,换键或换边界重试。 - 还原成功后即可继续分析校验逻辑(例如把失败分支
exit(1)patch 成exit(i)做返回码爆破)。
PoC
#include <idc.idc>
static main()
{
auto des = 0x176d;
auto addr = 0x155f;
auto i;
for (i = 0; addr + i != des; ++i) {
PatchByte(addr + i, Byte(addr + i) ^ 0x43);
}
}
static main2()
{
auto des = 0x155f;
auto addr = 0x12CB;
auto i;
for (i = 0; addr + i != des; ++i) {
PatchByte(addr + i, Byte(addr + i) ^ 0x44);
}
}
(地址与键按目标替换;两段用不同键时分别跑两次 main。)
变体与关联
- 变体:key 不是常量而是运行时算出来的(与文件名/时间/环境相关)时,需改为在调试器里到解密桩之后下断,dump 已解密内存再 patch 回 IDA(
rebase/patch_bytes批量导入)。 - 变体:解密不是纯 XOR 而是
add/rol/字节置换,则需按对应逆变换写 patch(与 UPX 自定义 VM 的 rol/xor/ror 求逆同类)。 - 变体:区间很长时用 IDAPython 批量
ida_bytes.patch_bytes(addr, decrypted_bytes)一次写入,比逐字节PatchByte快。 - 关联:[[ctf-reverse-exit-code-index-oracle-byte-brute]](本卡是它的前置步骤:先还原代码段,才能定位比较与 exit 并 patch)。
- 关联:[[ctf-reverse-upx-custom-vm-unreachable-decrypt-rol-xor-ror-inverse]](同为"静态密文 + 运行时解密",但那条要处理不可达解密路径的逆运算)。
- 关联:[[binary-pwn-sandbox-escape-python-generator-frame-builtins-recovery]](无直接关系,仅提示"运行时才成立的状态需在运行态取"这一共性问题)。
- 边界:区间/键错会破坏 IDA 数据库(需先备份);若解密依赖运行时状态无法静态复现,只能动态 dump;
PatchByte只改数据库不改文件,若要产出可执行 patched 样本需再ApplyPatchesToFile或另存。
检测与防御
- CTF/逆向:优先在调用点回溯常量键,比逐字节试错更快;patch 前先 dump 备份。
- 软件保护(防守视角):静态密文 + 常量密钥只能抬高分析成本;更强的做法是把解密键与运行时状态绑定(环境、时间、校验和),并对代码段做完整性校验,防止离线 patch。