♧ Godown 安全知识树

IDA Appcall:在调试进程上下文中调用样本函数,直接跑 RC4/解密/校验逻辑

tools/ida · verified

一句话结论

IDA Appcall 在调试会话中劫持当前线程栈、推送参数并临时把指令指针指向目标函数,函数返回或异常后恢复原栈、寄存器与 IP;只要给出正确的函数原型,就能直接调用样本内的 RC4/解密/校验函数,把返回值或缓冲区读回 IDAPython,不必静态重写算法。

原理

  • Appcall 是调试器提供的“在调试程序上下文中调用函数”机制:保存当前线程上下文,切换到目标函数执行,结束后恢复。它高度依赖函数的类型信息,因此调用前必须有正确的原型(符号、调试信息或手写 Appcall.proto)。
  • Appcall.proto(name_or_ea, "ret name(args);") 把函数地址/名字和原型实例化成 Python 可调用对象;调用时 IDA 负责把 Python 参数按 ABI 编组到目标进程的栈/寄存器中。
  • 常用参数类型:
  • int 直接传;int64 用 Appcall.int64(x);
  • 指针/引用用 Appcall.byref(val),结果从 .value 读;
  • 字符串/可变缓冲区用 Appcall.buffer(size=...),结果从 .value 读;
  • 数组用 Appcall.array("int").pack([...]),结果从 .value 或 .unpack() 读;
  • 结构体用 Appcall.obj(**kwds)(始终按引用传递),地址用 arg["__at__"] 取;
  • 不透明类型(FILE/HANDLE 等)用返回值/参数的 .__at__ 取 C 指针;
  • 非标准调用约定用 __usercall 原型,如 int __usercall asm1@<rax>(int a@<rsi>, int b@<rdi>);。
  • Manual Appcall:设置 Appcall.set_appcall_options(Appcall.APPCALL_MANUAL) 或 func.options = Appcall.APPCALL_MANUAL 后调用,IDA 会跳到目标函数并暂停,允许继续单步调试;完成后 Appcall.cleanup_appcall() 返回原上下文。适合“调试一个函数后再回到原位置继续”。
  • 为什么成立:Appcall 本质上是调试器在目标进程里构造一次临时函数调用(保存/恢复上下文、压参、改 RIP),与手工改寄存器/栈调用等价;类型信息只影响参数编组和返回值解释。
  • 限制:必须在调试状态;原型错误会导致栈失衡/寄存器错乱甚至崩溃;目标函数依赖未初始化的全局状态、TLS、堆锁时可能失败;反调试/完整性校验可能阻断。

触发条件

  • IDA 已附加或启动目标进程并处于调试状态。
  • 目标函数有可用的原型(符号表、调试信息、反编译结果或手动定义);非标准 ABI 需要 __usercall/__fastcall 等修饰。
  • 目标函数不依赖外部网络/文件等无法满足的前置条件,或这些条件已在调试进程中就绪。
  • 允许在目标进程中执行代码(分析环境/授权样本),不会触发反调试自毁。

利用步骤

  1. 在 IDA 中附加/启动样本,定位目标函数地址:ea = idc.get_name_ea(0, "rc4_init") 或直接使用地址。
  2. 写原型:rc4_init_func = Appcall.proto(ea, "void rc4_init(unsigned char *s, unsigned char *key, int len);")。
  3. 准备参数:S 盒用结构体包装或 Appcall.buffer/Appcall.array;密钥用 Appcall.buffer;长度直接传 int。
  4. 调用函数,读回结果:arg.value、arg["__at__"] + offset 配合 idaapi.get_bytes 读取被修改的缓冲区。
  5. 复杂/需要单步的函数使用 Manual Appcall:设置 APPCALL_MANUAL,调用后 IDA 停在目标函数入口,调试完 Appcall.cleanup_appcall()。
  6. 实践(RC4):先调 rc4_init 生成 256 字节 S 盒,再调 rc4_crypt 解密密文数组,打印 arg2.value 得到明文。

PoC

import idc, idaapi
from idaapi import Appcall

# 1) 初始化 RC4 S 盒:把 unsigned char s[256] 包装成结构体
ea_init = idc.get_name_ea(0, "rc4_init")
rc4_init = Appcall.proto(ea_init, "void rc4_init(struct biu *arr, unsigned char *key, int len);")
s_arg = Appcall.obj(arr=[0] * 256)          # 或 Appcall.obj(arr=b"\x00" * 256)
key = Appcall.buffer("mysecretkey", 11)
rc4_init(s_arg, key, 11)

s = [int.from_bytes(idaapi.get_bytes(s_arg["__at__"] + i, 1), "little") for i in range(256)]

# 2) 解密密文
ea_crypt = idc.get_name_ea(0, "rc4_crypt")
rc4_crypt = Appcall.proto(ea_crypt, "void rc4_crypt(unsigned char *s, unsigned char *data, int len);")
cipher = [0x8c, 0xbf, 0x19, 0xdf, 0xbb, 0x3d, 0x5b, 0xe3, 0xb4, 0x70]
data_arg = Appcall.array("unsigned char").pack(cipher)
rc4_crypt(Appcall.array("unsigned char").pack(s), data_arg, len(cipher))
print(data_arg.value)   # 解密后的明文
# Manual Appcall:跳到目标函数单步调试,结束后恢复原上下文
func = Appcall.proto(idc.get_name_ea(0, "check"), "int check(char *s);")
Appcall.set_appcall_options(Appcall.APPCALL_MANUAL)
func(Appcall.buffer("test", 16))
# ... IDA 停在 check 入口,正常单步/下断点 ...
Appcall.cleanup_appcall()

变体与关联

  • 变体:IDC 方式 dbg_appcall(LocByName("func"), "proto", &arg1, &arg2, len),适合老脚本/不支持 Python 的环境。
  • 变体:用 idc.add_struc/idc.add_struc_member 动态创建结构体,把任意长度的 int/char 数组包装成结构体以绕过 arr.value 在元素 >127 时的 PyIdc_cvt_refclass__ 报错。
  • 变体:给数组一个已知可写地址,调用后 idc.get_bytes(addr+i, n) 读回,避免 Appcall 缓冲区转换问题。
  • 变体:调用 Windows API(fopen/fwrite/fclose)或样本内的网络/加密函数,做 I/O 或协议复现。
  • 关联:[[tools-ida-xor-string-call-arg-backtrack-decrypt]](静态回溯 XOR 解密调用)、[[tools-ida-python-conditional-breakpoint-register]](条件断点与寄存器读取)、[[tools-ida-trace-instruction-basicblock-function-export]](指令/基本块跟踪)。
  • 边界:原型错误/调用约定不匹配会造成崩溃;Appcall 期间目标进程的其它线程可能继续运行,需注意竞态;Manual Appcall 后必须 cleanup_appcall。

检测与防御

  • 使用风险:Appcall 会真实执行目标代码,可能有副作用(写文件、发网络包、修改全局状态);在分析环境/授权样本中先快照或隔离运行。
  • 对抗/失败场景:样本的反调试、完整性校验、TLS/heap 状态检查可能让 Appcall 失败或触发自毁;可先 patch 反调试或满足前置状态。
  • 防御方视角:调试器附加与临时函数调用会留下调试寄存器/断点/线程状态痕迹;高价值程序可检测调试器、校验代码段完整性、限制 ptrace/调试权限。
  • 加固建议:分析者保持 IDB 备份、先验证小函数原型再调用复杂函数;对不可信样本在隔离虚拟机中操作。