MADV_DONTDUMP + mlock + PR_SET_DUMPABLE:把密钥页从 core 与 swap 泄露面移除
crypto/implementation · verified
一句话结论
madvise(addr, len, MADV_DONTDUMP) 会告诉内核在生成 core 文件时跳过指定页,配合 mlock() 防止密钥被换出到 swap、释放时 explicit_bzero() 清零,以及在进程级调用 prctl(PR_SET_DUMPABLE, 0),可以把密钥从 core/swap 这两个磁盘泄露面移除;原文用同一份密钥分别放在 DONTDUMP 的 mmap 页和普通 malloc 堆,崩溃后 core 中只找到全局数组与堆副本共 2 次,DONTDUMP 页那份没有出现。
原理
- core dump 的写入范围:进程崩溃时内核把整个地址空间写入 core;Linux 3.4 引入
MADV_DONTDUMP,被标记的虚拟内存页在写 core 时被跳过,对应的LOAD段不包含该页内容,就像这块内存从未存在。进程运行时该页仍正常可读可写。 - swap 的泄露面:即使不生成 core,密钥页也可能被内核换出到 swap 分区/文件;
mlock(addr, len)把页锁定在物理内存,阻止换出。mlock需要RLIMIT_MEMLOCK足够(root 或调高限制)。 - 释放后的残留:
munmap不会清零物理页;释放前必须explicit_bzero(见关联卡片),否则页被重新分配后仍可能被读到。 - 进程级开关:
prctl(PR_SET_DUMPABLE, 0)让进程变为 non-dumpable,禁止生成 core,并限制非 root 的ptrace与部分/proc/<pid>访问;副作用是调试/崩溃分析也会受限,适合生产进程。 - libsodium 封装:
sodium_malloc(size)内部使用 guard page +mlock+MADV_DONTDUMP,sodium_free()负责清零、解锁、解除映射;自己实现时至少要覆盖mmap/mlock/madvise/explicit_bzero/munlock/munmap六步。 - 页粒度与边界:
MADV_DONTDUMP以页为单位,密钥必须放在独立页(或整页都标记),否则会把同页其他数据一起排除;它只影响 core,不影响日志、堆副本、全局源数组、stdio 缓冲等其他泄露面。 - 原文验证:同一份密钥放在
mmap后标记MADV_DONTDUMP的页,以及普通malloc堆;崩溃后 core 中密钥出现 2 次(全局key_source在.data、heap_key在普通堆),DONTDUMP 页那份不出现,证明内核按页跳过了它。
触发条件
- Linux 内核 >= 3.4(
MADV_DONTDUMP引入版本);有mmap/madvise/mlock权限。 - 密钥能放在独立的 mmap 页中,而不是散落在普通堆/全局变量;否则需要改造分配方式。
mlock需要足够的RLIMIT_MEMLOCK(root 或ulimit -l调整);容器内可能受 seccomp/capability 限制。- 进程可能崩溃并生成 core,或存在 swap;若 core 已被全局禁用、swap 关闭,收益会降低,但仍可防其他转储机制。
prctl(PR_SET_DUMPABLE, 0)会影响ptrace和/proc访问,需要确认不影响监控/调试流程。
利用步骤
- 计算页对齐的分配大小:
alloc_size = (size + page_size - 1) & ~(page_size - 1)。 mmap(NULL, alloc_size, PROT_READ|PROT_WRITE, MAP_PRIVATE|MAP_ANONYMOUS, -1, 0)分配专用页。mlock(ptr, alloc_size)锁定内存,防止 swap。madvise(ptr, alloc_size, MADV_DONTDUMP)标记该页不进入 core。- 把密钥复制到该页使用;不要把同一密钥再复制到普通堆/全局/日志。
- 释放时:
explicit_bzero(ptr, alloc_size)→munlock→munmap;顺序不要颠倒。 - 进程级可选:
prctl(PR_SET_DUMPABLE, 0),并在启动脚本/服务单元中确认 core 策略。 - 验证:同一密钥放 DONTDUMP 页与普通 malloc 堆,触发崩溃,搜索 core;DONTDUMP 页的副本应缺失,其他副本仍可能存在,需逐一处理。
PoC
#include <stdio.h>
#include <string.h>
#include <stdlib.h>
#include <sys/mman.h>
#include <unistd.h>
static unsigned char key_source[32] = {
0xDE,0xAD,0xBE,0xEF,0xCA,0xFE,0xBA,0xBE,
0x01,0x23,0x45,0x67,0x89,0xAB,0xCD,0xEF,
0xFE,0xDC,0xBA,0x98,0x76,0x54,0x32,0x10,
0x11,0x22,0x33,0x44,0x55,0x66,0x77,0x88
};
void process_data(void)
{
/* A:专用页 + mlock + DONTDUMP */
void *key_page = mmap(NULL, 4096, PROT_READ | PROT_WRITE,
MAP_PRIVATE | MAP_ANONYMOUS, -1, 0);
if (key_page == MAP_FAILED) { perror("mmap"); return; }
memcpy(key_page, key_source, 32);
mlock(key_page, 4096);
madvise(key_page, 4096, MADV_DONTDUMP);
unsigned char *k = key_page;
printf("[*] DONTDUMP key: %02x%02x%02x%02x\n", k[0], k[1], k[2], k[3]);
/* B:普通堆,做对照(会出现在 core 中) */
unsigned char *heap_key = malloc(32);
memcpy(heap_key, key_source, 32);
printf("[*] Heap key (no DONTDUMP)\n");
printf("[*] Crashing...\n");
char *p = NULL;
*p = 'x';
}
int main(void)
{
process_data();
return 0;
}
gcc -g -O0 -o secret_holder_madvise secret_holder_madvise.c
./secret_holder_madvise
ls -lht core.* | head -5
python3 -c "
data=open('core.196111','rb').read()
key=bytes.fromhex('DEADBEEFCAFEBABE0123456789ABCDEFFEDCBA98765432101122334455667788')
hits=[]; s=0
while True:
i=data.find(key,s)
if i<0: break
hits.append(i); s=i+1
print('密钥出现 %d 次: %s' % (len(hits), [hex(x) for x in hits]))
"
# 预期 2 次:0x4060(全局 key_source)、0x5720(普通堆 heap_key);
# DONTDUMP 的 mmap 页不出现。
/* 生产封装:secure_alloc/secure_free */
void *secure_alloc(size_t size) {
size_t ps = 4096;
size_t n = (size + ps - 1) & ~(ps - 1);
void *p = mmap(NULL, n, PROT_READ | PROT_WRITE,
MAP_PRIVATE | MAP_ANONYMOUS, -1, 0);
if (p == MAP_FAILED) return NULL;
mlock(p, n);
madvise(p, n, MADV_DONTDUMP);
return p;
}
void secure_free(void *p, size_t size) {
size_t ps = 4096;
size_t n = (size + ps - 1) & ~(ps - 1);
explicit_bzero(p, n);
munlock(p, n);
munmap(p, n);
}
/* 进程级:禁止 core + 限制 ptrace/proc(注意副作用) */
#include <sys/prctl.h>
prctl(PR_SET_DUMPABLE, 0);
/* libsodium:自动 guard page + mlock + MADV_DONTDUMP */
#include <sodium.h>
unsigned char *key = sodium_malloc(32);
/* ... */
sodium_free(key); /* 自动清零、解锁、解除映射 */
变体与关联
- 变体:
MADV_WIPEONFORK:子进程 fork 后自动清零该页,适合会 fork 的父进程,防止子进程继承密钥;与MADV_DONTDUMP可组合使用(按内核支持情况)。 - 变体:
mlock2(MLOCK_ONFAULT):按需锁定,减少一次性 mlock 大页的开销;仍需要RLIMIT_MEMLOCK。 - 变体:systemd-coredump 策略:
Storage=none、ProcessSizeMax=0全局禁用 core,与页级 DONTDUMP 互补。 - 变体:Windows:对应
VirtualLock防换页、进程缓解策略/转储排除;本卡只覆盖 Linux 语义。 - 关联卡片:[[defense-forensics-core-dump-secret-extraction]](从 core 中提取密钥的完整方法)、[[crypto-implementation-memset-dead-store-elimination-key-wipe]](清零被编译器优化掉)、[[defense-forensics-proc-environ-startup-view-split]](环境变量泄露)。
- 边界:
MADV_DONTDUMP只防 core,不防/proc/<pid>/mem、ptrace、日志、堆副本;mlock受RLIMIT_MEMLOCK限制;PR_SET_DUMPABLE=0会影响调试和崩溃分析;容器/安全策略可能禁止mlock或madvise。
检测与防御
- 验证:在测试环境用同一密钥做 DONTDUMP 页 vs 普通堆对照,崩溃后搜索 core;确认页级保护生效,并检查是否还有其他副本(全局、堆、日志、环境变量)。
- 代码规范:敏感密钥统一走
secure_alloc或 libsodium;禁止把密钥复制到普通堆/全局/日志;释放顺序为清零 → munlock → munmap。 - 进程加固:生产进程设置
prctl(PR_SET_DUMPABLE, 0);禁用或限制 core(kernel.core_pattern=|/bin/false、systemdStorage=none);限制ptrace与/proc/<pid>/mem访问。 - 检测:审计
mlock/madvise(MADV_DONTDUMP)使用情况;监控 core 文件生成与访问;对生产 core 做秘密扫描;发现 core 中出现密钥时立即轮换并排查副本。 - 注意:页级保护不能替代密钥生命周期管理;短期凭据、KMS 托管和最小化明文驻留仍是根本措施。