CTF Pwn 数值校验绕过:strtod 十六进制浮点与 strtoull 解析差异
ctf/pwn · verified
一句话结论
当程序对同一段输入先用 strtod 解析成浮点/整数、再用 strtoull(..., 16) 解析成十六进制整数做校验,并且把校验函数的返回值取反时,用 0X..p.. 十六进制浮点写法可以让两个解析器得到不同数值——strtod 得到目标整数、strtoull 只读到 0X.. 前缀得到另一个值,从而通过“校验”;大写 X 还能绕过只过滤小写 x 的检查。
原理
- C99/C11 支持十六进制浮点字面量:
0x后跟十六进制尾数,可选小数点,再跟p/P和十进制指数,值为“尾数 × 2^指数”。例如0X04p-2 = 4 × 2^-2 = 1,0X30p-1 = 0x30 × 2^-1 = 24,0X60p-1 = 96,0X74p1 = 0x74 × 2 = 232 (0xe8)。 strtod("0X04p-2", NULL)按十六进制浮点解析得到1.0;而strtoull("0X04p-2", &end, 16)只按十六进制整数解析0X04得到4,遇到p停止。同一个字符串在两个解析器下含义不同,这是典型的解析器差异(parser differential)。- 例子中的校验逻辑:
judge1(heap, num2)把输入字符标记为哈希桶,再检查十进制字符串num2的每个字符是否出现在输入中,防止字符重叠;judge(heap, num)要求输入以0x/0X+ 十六进制数字开头,用strtoull解析后与num相等;- 调用处却是
judge1(...) == 1 && !judge(...):judge返回 1 表示“解析一致”,取反后反而要求“不一致”才通过。逻辑取反使解析器差异直接成为绕过。 - 输出值
num来自strtod的结果:0X04p-2得到 1,于是菜单选项 1 被选中;0X74p1得到 232,正好是draft允许的最大长度0xE8,可把栈缓冲区写满/溢出。0X..p..的指数部分可以自由调节,把同一个十六进制尾数映射到不同的目标整数。 - 只过滤小写
x的strchr(heap, 'x')对大写X无效;输入长度上限(如 19 字节)也足够容纳0X74p1这类短串。
触发条件
- 程序对同一输入使用两个不同解析器(
strtod/atof/sscanf("%lf")与strtoull/strtoul/atoi/sscanf("%x")),且校验逻辑允许或主动要求两者结果不一致(如返回值被!取反)。 - 输入过滤只检查小写
x,未统一大小写/未拒绝十六进制浮点指数。 - 目标值可以表示为
0x<hex>p<exp>形式,且十六进制尾数/十进制表示不触发字符重叠检查。 - 输入长度限制足以放下该字符串;后续存在可利用的栈溢出/越界等内存问题。
利用步骤
- 反编译定位数值解析与校验:
strtod/atof的返回值如何转成整数、strtoull(...,16)在哪里比较、judge1/judge的返回值在调用处是否被取反、是否有strchr(...,'x')。 - 枚举目标整数 N(菜单项、分配大小、溢出长度)。选择十六进制尾数 H 与指数 E,使
H × 2^E = N;优先让 H 的十六进制字符不出现在 N 的十进制表示中(满足字符不重叠检查)。 - 确认
strtoull解析 H 得到的整数与 N 不同(这样!judge才为真);若校验未取反,则需要寻找其他逻辑缺陷或让两个解析器在边界/符号/空白上产生差异。 - 发送
0X<H>p<E>(大写 X),观察程序进入的目标分支/分配大小是否符合预期。 - 用该技巧选择菜单/溢出长度,进入后续栈溢出,泄露 canary/PIE/libc 并构造 ROP(见关联卡)。
PoC
# 目标整数 -> 十六进制尾数/指数(尾数取 2 的幂附近,便于凑整)
def hexfloat(prefix: int, exp: int) -> bytes:
return f"0X{prefix:02x}p{exp}".encode()
print(hexfloat(0x04, -2)) # b'0X04p-2' -> strtod = 1.0,进入选项 1
print(hexfloat(0x30, -1)) # b'0X30p-1' -> 24
print(hexfloat(0x54, -2)) # b'0X54p-2' -> 21
print(hexfloat(0x60, -1)) # b'0X60p-1' -> 48 (0x30)
print(hexfloat(0x74, 1)) # b'0X74p1' -> 232 (0xe8),可写满 draft 缓冲区
/* 解析差异示意 */
strtod("0X04p-2", NULL); /* 1.0 */
strtoull("0X04p-2", &end, 16); /* 4,停在 'p' */
/* 若校验为 judge1(...) == 1 && !judge(...),则 1 != 4 反而通过 */
变体与关联
- 变体:
atof/sscanf("%lf")与atoi/strtol的组合同理;也可利用nan/inf、前导空白、正负号、溢出截断、0x前缀大小写等解析差异。 - 变体:若校验没有取反,可寻找“校验解析器与使用解析器不是同一个”的路径(TOCTOU/重复解析),或让校验通过后再用另一个字段影响实际长度。
- 关联:[[binary-pwn-stack-fake-rbp-check-seccomp-orw]](同一题中绕过数值校验后进入的栈溢出/RBP 校验/ORW 链)、[[binary-pwn-format-string-canary-libc-leak-rop-system]](后续泄露与 ROP 的通用流程)。
- 边界:十六进制浮点需要 C99 及支持它的 libc;
strtod的p指数只在0x前缀下生效;输入长度/字符过滤/日志可能暴露异常串;该技巧只解决“进入漏洞分支”,不等于最终利用。
检测与防御
- 检测:代码审计中搜索同一输入被
strtod与strtoull/atoi重复解析、校验函数返回值被!取反、只过滤小写x的逻辑;对十六进制浮点串(0[xX][0-9a-fA-F]+(\.[0-9a-fA-F]*)?[pP][+-]?[0-9]+)做输入告警。 - 修复:只解析一次并统一成规范整数;比较范围而不是比较字符串;拒绝不需要的十六进制浮点、指数、空白、正负号与超大长度;不要取反校验结果;对菜单/长度字段用白名单枚举。
- 加固:编译告警与单元测试覆盖解析器等价性;输入日志记录原始串;对关键分支做服务端/二次校验;不要把“数值校验通过”当作内存安全保证。