сбой dlsym при вызове из ассемблера

#linux #assembly #nasm #dlsym

#linux #сборка #nasm #dlsym

Вопрос:

У меня есть небольшая программа на ассемблере, которая загружает файл .so с помощью dlopen , а затем пытается загрузить указатель на функцию с помощью dlsym . Вызов dlopen , кажется, в порядке, но он вылетает при вызове dlsym .

 SECTION .text

;default rel

EXTERN dlopen ; loads a dynamic library
EXTERN dlsym ; retrieves the address for a symbol in the dynamic library

; inputs:
;   rdi: rdi the pointer to print
printHex:
    sub rsp, 19 ; allocate space for the string 0x0123456789ABCDEFn
    mov BYTE [rsp   0], '0'
    mov BYTE [rsp   1], 'x'
    xor rcx, rcx ; int loop variable to 0
    .LOOP1:
        lea rsi, [rsp   rcx] ; rsi will we the offset where we will store the next hex charcter
        mov rax, rdi
        and rax, 0xf
        sar rdi, 4 ; shift right 4 bits (divide by 16)
        lea rdx, [hexLookUp   rax]
        mov bl, [rdx]
        mov BYTE [rsi  18], bl
        dec rcx ; rcx--
        cmp rcx, -16 ; while rcx > -16
        jne .LOOP1
    mov BYTE [rsp   18], 10

    ; print
    mov rax, 1 ; syscall: write
    mov rdi, 1 ; stdout
    mov rsi, rsp
    mov rdx, 19
    syscall
    
    ; release stack memory
    add rsp, 19
    ret

global _start ; "global" means that the symbol can be accessed in other modules. In order to refer to a global symbol from another module, you must use the "extern" keyboard
_start:

    ; load the library
    mov rdi, str_libX11so
    mov rsi, 2; RTLD_NOW=2
    call dlopen wrt ..plt
        ; PLT stands for Procedure Linkage Table:
        ; used to call external library functions whose address is not know at link time,
        ; so it must be resolved by the dynamic linker at run time
        ; more info: https://reverseengineering.stackexchange.com/questions/1992/what-is-plt-got
    mov [ptr_libX11so], rax ; the previous function call returned the value in rax
    mov rdi, rax 
    call printHex

    ; load the function
    mov rdi, [str_libX11so]
    mov rsi, fstr_XOpenDisplay
    call dlsym wrt ..plt
    mov [fptr_XOpenDisplay], rax
    mov rdi, rax
    call printHex


    mov rax, 60 ; syscal: exit
    mov rdi, 0 ; return code
    syscall

hexLookUp: db "0123456789ABCDEF"
str_libX11so: db "libX11.so", 0

; X11 function names
fstr_XOpenDisplay: db "XOpenDisplay", 0


SECTION .data
ptr_libX11so: dq 0 ; ptr to the X11 library

; X11 function ptrs
fptr_XOpenDisplay: dq 0
 

Я попытался создать ту же программу на C, и, похоже, она работает. Так что я, должно быть, делаю что-то не так.

 extern void* dlopen(const char* name, int);
extern void* dlsym(void* restrict handle, const char* restrict name);

int main()
{
    void* libX11so = dlopen("libX11.so", 2);
    void (*XOpenDisplay)() = dlsym(libX11so, "XOpenDisplay");
}
 

Я попытался разобрать версию C и сравнить, но я все еще не могу понять, в чем проблема.

Интересная вещь, которую я заметил, это то, что указатель, возвращаемый dlopen (который отличается в каждом выполнении), в версии asm довольно мал по сравнению с версией C (например 0x0000000001A932D , vs 0x5555555592d0 ). Но, возможно, это может быть связано с тем, что я использую -no-pie флаг для связывания:

 nasm -f elf64 -g -F dwarf minimal.asm amp;amp; gcc -nostartfiles -no-pie minimal.o -ldl -o minimal amp;amp; ./minimal
 

Комментарии:

1. Для начала, sub rsp, 19 это довольно ужасно. Не делайте этого. Однако это не причина ваших проблем.

Ответ №1:

Я только что заметил свою ошибку:

     ; load the function
    mov rdi, [str_libX11so]
 

должно быть:

     ; load the function
    mov rdi, [ptr_libX11so]