PELoader 内存 dump 脱壳 + 自定义 64 位 ARX 轮函数逆序还原 16 字节口令
ctf/reverse · verified
一句话结论
样本主函数把内嵌密文复制到堆上做就地异或解密,再交给一个自实现的 PE Loader(VirtualAlloc 映射、复制区段、修重定位、解析导入、跳入口)执行;在调用 Loader 前用调试器按 SizeOfImage dump 解密缓冲区即可得到二阶段 PE。二阶段对 16 字节输入做 12 轮 64 位 ARX 变换(ror8(c1*(d^k),47) + 乘法/异或混合),比较两个 8 字节常量;按轮依赖倒序求逆即可恢复输入 Matryoshka2025!!。
原理
- 一阶段是自解密 + PELoader:
main分配0x47C27字节,复制0x47C00的内嵌数据,然后在原缓冲区上做异或解密(标量尾部为^ ((0xC0DEC0DEBADC0FFE >> (7*i)) ^ 0xA5),向量路径用 SIMD 移位/异或做同样运算),最后把缓冲区传给 PELoader 函数。 - PELoader 特征:检查
MZ(0x5A4D/23117)与PE(0x4550/17744);VirtualAlloc(SizeOfImage, PAGE_READWRITE);按区段表把PointerToRawData/SizeOfRawData复制到VirtualAddress;若ImageBase与加载地址不同则遍历重定位表,对0xA000类型项按 delta 修正;遍历导入表LoadLibraryA+GetProcAddress填 IAT;最后按区段Characteristics调VirtualProtect,再((entry)(...))()跳转。 - dump 时机:在
sub_...PE_loader(buffer)调用前断下,buffer指针处的内存已经是解密后的完整 PE(含原始头),从头部读SizeOfImage(本例0x4C000),用调试器脚本(如 IDAPythondbg_read_memory)按该长度 dump 到文件即可;不要在 Loader 把区段映射并改写重定位/IAT 之后 dump。 - 二阶段输入与密钥:程序读取 32 个十六进制字符(即 16 字节输入),由内部常量/字符串派生两个 64 位 key(key1、key2),对 16 字节做两段 8 字节 ARX 变换。
- 自定义 ARX 轮函数:每轮先
d1 = ror8(c1 * (x ^ round_key), 47),再y = (c2 * (d1 ^ (d1 >> 31))) ^ prev ^ ((c2 * (d1 ^ (d1 >> 31))) >> 33),其中c1=0xA24BAED4963EE407、c2=0x9FB21C651E98DF25,round_key 由key1/key2与0x61C8864680B583EB等常量交替加减得到;共 12 轮,d3/d4 交替更新。 - 为什么能逆:每轮对输入
x是“异或轮密钥 → 乘常数 → ror8 → 再乘常数/右移混合后异或到另一状态”,乘法在 64 位模 2^64 下可逆(c1、c2 为奇数),ror8可逆,d ^ (d >> 31)可逆;因此按轮倒序、用已知的上一轮状态即可逐轮还原,而不用整体暴力。 - 比较与还原:最终两段 8 字节输出分别等于
0x741DD6EDF0798EB1与0x455249FABE301CE1;倒序执行 12 轮后得到两个 64 位输入值,按大端拼回 16 字节即Matryoshka2025!!。
触发条件
- 目标为 Windows PE,主函数包含“大块内嵌数据 + 分配/复制 + 就地解密 + 调用加载器”的模式。
- 加载器具备
VirtualAlloc、区段复制、重定位修正、LoadLibraryA/GetProcAddress导入解析等手工 PE 加载特征。 - 二阶段输入长度固定(本例 16 字节),校验为固定 8 字节常量比较。
- 轮函数由可逆的
ror/乘法/异或组成,且轮密钥可从二进制常量或已恢复 key 推导。 - 允许本地调试/内存 dump(弱反调试;本例仅检查
MATRY_NO_ADB环境变量,可直接跳过)。
利用步骤
- 定位
main:识别内嵌密文复制与解密循环,确认解密后的缓冲区指针。 - 识别 PELoader:确认
MZ/PE检查、VirtualAlloc、区段复制、重定位与导入解析、VirtualProtect、入口调用。 - 在
call PELoader前下断,从缓冲区头读SizeOfImage(先 dump 前0x1000字节解析 DOS/NT 头得到,本例0x4C000),按该长度 dump 完整 PE。 - 用 IDA/Ghidra 静态分析 dump 出的二阶段,定位输入读取、key 派生与两段 8 字节比较常量。
- 反编译轮函数,确认 12 轮、
c1/c2、ror8(...,47)、d^(d>>31)与轮密钥常量序列。 - 按轮倒序实现逆变换(每轮先撤销另一状态的异或,再对
ror/乘法求逆,最后异或回轮密钥),从两个目标常量还原 16 字节输入。 - 将恢复的输入(字符或
hex:前缀的十六进制)送入程序,获取 flag。
PoC
逆变换核心(C,按轮倒序;与原加密轮对称):
static uint64_t ror8(uint64_t x, int n){ return (x >> n) | (x << (64 - n)); }
/* key1=0x628591E23EE9495F, key2=0x11F7DF7B7133A3F0
c1=0xA24BAED4963EE407, c2=0x9FB21C651E98DF25
目标:d3=0x455249FABE301CE1(第二段), d4=0x741DD6EDF0798EB1(第一段) */
d1 = ror8(c1 * (d3 ^ (key2 - 0x339DC50787CCAB19ULL)), 47);
d4 = (c2*(d1^(d1>>31))) ^ d4 ^ ((c2*(d1^(d1>>31)))>>33);
d1 = ror8(c1 * (d4 ^ (key1 + 0x2E2AC13EF8E8D8D2ULL)), 47);
d3 = (c2*(d1^(d1>>31))) ^ d3 ^ ((c2*(d1^(d1>>31)))>>33);
d1 = ror8(c1 * (d3 ^ (key2 - 0x700CB87A8661A343ULL)), 47);
d4 = (c2*(d1^(d1>>31))) ^ d4 ^ ((c2*(d1^(d1>>31)))>>33);
d1 = ror8(c1 * (d4 ^ (key1 - 0x0E44323405AC1F58ULL)), 47);
d3 = (c2*(d1^(d1>>31))) ^ d3 ^ ((c2*(d1^(d1>>31)))>>33);
d1 = ror8(c1 * (d3 ^ (key2 + 0x538454127B096493ULL)), 47);
d4 = (c2*(d1^(d1>>31))) ^ d4 ^ ((c2*(d1^(d1>>31)))>>33);
d1 = ror8(c1 * (d4 ^ (key1 - 0x4AB325A704411782ULL)), 47);
d3 = (c2*(d1^(d1>>31))) ^ d3 ^ ((c2*(d1^(d1>>31)))>>33);
d1 = ror8(c1 * (d3 ^ (key2 + 0x1715609F7C746C69ULL)), 47);
d4 = (c2*(d1^(d1>>31))) ^ d4 ^ ((c2*(d1^(d1>>31)))>>33);
d1 = ror8(c1 * (d4 ^ (key1 + 0x78DDE6E5FD29F054ULL)), 47);
d3 = (c2*(d1^(d1>>31))) ^ d3 ^ ((c2*(d1^(d1>>31)))>>33);
d1 = ror8(c1 * (d3 ^ (key2 - 0x255992D382208BC1ULL)), 47);
d4 = (c2*(d1^(d1>>31))) ^ d4 ^ ((c2*(d1^(d1>>31)))>>33);
d1 = ror8(c1 * (d4 ^ (key1 + 0x3C6EF372FE94F82AULL)), 47);
d3 = (c2*(d1^(d1>>31))) ^ d3 ^ ((c2*(d1^(d1>>31)))>>33);
d1 = ror8(c1 * (d3 ^ (key2 - 0x61C8864680B583EBULL)), 47);
input02 = (c2*(d1^(d1>>31))) ^ d4 ^ ((c2*(d1^(d1>>31)))>>33);
d1 = ror8(c1 * (key1 ^ input02), 47);
input01 = (c2*(d1^(d1>>31))) ^ d3 ^ ((c2*(d1^(d1>>31)))>>33);
/* input01=0x4D617472796F7368, input02=0x6B61323032352121 -> "Matryoshka2025!!" */
说明:原文在本地复现出 01: 0x4D617472796F7368 02: 0x6B61323032352121(Matryoshka2025!!),输入后成功输出 flag;本库未复跑样本。
变体与关联
- 变体:PELoader 可换成 aPLib/UPX 等壳,dump 点改为
VirtualProtect入口或解压完成处;关键是拿到“已解密、未映射改写”的镜像。 - 变体:ARX 轮函数可换成标准 TEA/XTEA 或其它
ror/乘法/异或组合;只要每步可逆,都能按轮倒序还原。 - 关联:[[code-analysis-reverse-unpacking-pe-loader-lcg-chacha20]](PE Loader + ChaCha20 解密二阶段)、[[code-analysis-reverse-unpacking-dll-aplib-virtualalloc-protect-dump]](VirtualAlloc/VirtualProtect 断点 dump)、[[ctf-reverse-cpp-vtable-modified-tea-mask-xor]](魔改 TEA + 异或)、[[ctf-reverse-custom-vm-tea-like-30round-block-bruteforce]](TEA-like 轮函数逆向)。
- 限制:本例输入长度为 16 字节、比较常量为固定值;真实目标需按实际轮数/常量/字节序调整。
检测与防御
- 检测:PE 中出现大块高熵/内嵌数据、
VirtualAlloc+ 区段复制 +LoadLibraryA/GetProcAddress手工加载特征、入口前就地解密循环。 - 防御:EDR 监控内存中
MZ镜像生成与自映射执行;限制可执行内存与动态导入解析;对样本做内存扫描与 dump 分析。 - 逆向侧:dump 要在 Loader 改写重定位/IAT 前完成;按
SizeOfImage读取,避免截断区段。