自定义 Python VM 字节码逆向:反汇编器与多轮变换逆推
ctf/reverse · verified
一句话结论
main.pyc 只是加载器,真正的校验在 kernelVM.pyc 实现的自定义 VM 中;先按 opcode 语义写反汇编器解析 opcode.bin,再识别“异或 0x55 + 加 7+3i”的变换并逆推;同一 VM 还藏在 ntbase.pyd(开头不是 MZ 而是 VM 指令流)中,需对第二段字节码再做“加 10、前缀异或、奇偶加 0x10/0x31”的逆变换。
原理
- VM 状态:
R0当前堆块指针、R1通用寄存器、PC程序计数器、heap字典;指令长度 1 或 2 字节(带 imm)。 - 常用 opcode:
0x10 ALLOC imm、0x11 LOAD imm、0x12 STORE imm、0x20 MOVI imm、0x30 ADDI imm、0x31 XORI imm、0x35 XOR_MEM imm、0x40 CMPEQ imm、0x42 JZ imm、0x43 JNZ imm、0x51 SWAP、0x52 SYSCALL(0x01 读输入、0x02 打印)。 - 反汇编器按
LEN2_OPS判断指令长度,遇到 JZ/JNZ 计算target = pc + imm并标注标签,即可恢复控制流。 - 第一段校验:对前 27 字节,若
input[i] != 0则input[i] ^= 0x55,再input[i] += 7 + 3*i,最后与常量表比较;逆运算为((target[i] - (7+3*i)) & 0xFF) ^ 0x55。 - 第二段藏在
ntbase.pyd:文件头不是MZ,而是10 64 10 32 ...的 VM 指令流;反汇编后可见+10、前缀异或(s[i] ^= s[i-1])、偶数位+0x10、奇数位+0x31,逆序还原。 - 关键点:自定义 VM 的“安全性”来自指令集不公开;一旦从
kernelVM.pyc恢复 opcode 语义,字节码就是可读程序。
触发条件
- 附件包含
.pyc加载器、opcode.bin/.pyd等自定义字节码。 .pyd/数据文件开头不是标准 PE/ELF 魔数,而是疑似指令流。- 加载器调用
CustomVM().run(bytecode)或等价解释器。 - 校验逻辑由多条算术/跳转指令组成,变换可逆。
利用步骤
- 反编译
main.pyc,确认字节码文件路径与 VM 类。 - 反编译/逆向
kernelVM.pyc,提取 opcode 表、指令长度、寄存器/堆语义、syscall。 - 写反汇编器:逐条解码、标注跳转目标、打印
PC/opcode/arg/name。 - 阅读反汇编,识别输入变换与目标常量表;按逆序实现逆变换。
- 对
ntbase.pyd等隐藏文件重复反汇编;若开头不是标准格式,直接按 VM 指令流处理。 - 还原所有阶段明文,拼接 flag;用格式/长度校验。
PoC
from pathlib import Path
LEN2 = {0x10,0x11,0x12,0x20,0x30,0x31,0x32,0x33,0x34,0x35,
0x36,0x37,0x40,0x41,0x42,0x43,0x44,0x45,0x46,0x50,0x52}
NAMES = {0x10:"ALLOC",0x11:"LOAD",0x12:"STORE",0x13:"FREE",0x20:"MOVI",
0x30:"ADDI",0x31:"XORI",0x35:"XOR_MEM",0x40:"CMPEQ",
0x42:"JZ",0x43:"JNZ",0x51:"SWAP",0x52:"SYSCALL"}
def disasm(data: bytes):
pc = 0
while pc < len(data):
op = data[pc]
ln = 2 if op in LEN2 else 1
arg = data[pc+1] if ln == 2 and pc+1 < len(data) else None
name = NAMES.get(op, f"DB_{op:02X}")
extra = ""
if name in ("JZ","JNZ") and arg is not None:
extra = f" -> 0x{pc+arg:04X}"
print(f"0x{pc:04X}: {op:02X} {arg if arg is not None else '':>2} {name}{extra}")
pc += ln
disasm(Path("opcode.bin").read_bytes())
# 第一段逆变换
target = [41,71,57,26,63,80,57,38,64,95,97,99,105,56,82,113,
115,96,71,124,105,80,106,115,111,130,191]
plain = bytes(((v - (7 + 3*i)) & 0xFF) ^ 0x55 for i, v in enumerate(target))
print(plain)
变体与关联
- 变体:栈式 VM、寄存器 VM、变长指令、加密 opcode 表;反汇编器需按实际语义调整。
- 变体:隐藏字节码可能放在
.pyd、资源段、图片附加数据、注册表等;按 VM 指令特征搜索。 - 变体:多轮变换可能包含前缀异或、奇偶位不同常量、查表;逆序处理即可。
- 关联:[[ctf-reverse-lua53-bytecode-xor-rc4]](Lua 字节码)、[[ctf-reverse-multistage-pe-vm-modified-sm4]](x86 VM)、[[ctf-reverse-custom-vm-isa-rol24-xor-base64-inverse]](自定义 VM ISA)。
检测与防御
- 检测:
.pyc加载器、非标准魔数的数据文件、CustomVM/run(bytecode)等符号。 - 防御:不要把敏感校验放在客户端 VM;使用服务端校验、代码签名与完整性保护。
- 响应:确认字节码可提取后,视为逻辑泄露,轮换相关密钥并审计客户端。