1-1-1. 인라인 어셈블리와 MASM

본 글은 코드누리의 Windows Programming 강좌를 개인 학습 목적으로 정리한 글 입니다.

https://www.ecourse.co.kr/

ecourse 온라인 강의 – S/W 교육의 새로운 시도

 

목차

1. C언어에서의 함수 호출
2. 정말 EAX에 저장될까?
3. 함수 호출 과정도 인라인 어셈블리로 작성 해보자.

---

 

 

먼저! "인라인" 이란 무엇을 의미하나요?

이해를 돕기 위해 인라인 함수에 대해 설명하자면, 인라인 함수는 실제 호출된 곳에서 함수 코드를 호출한 곳에 삽입하도록 컴파일러에 지시하는 것이고, 이러한 함수를 "인라인 함수"라고 한다.

 

※ 인라인의 이점은 "함수 호출 오버헤드"를 줄이는 것!

 

- 인라인 어셈블리는 인라인 함수로 작성된 "어셈블리 명령어 세트"라고 볼 수 있다.

 

 

 

 

 

 

---

1.     C언어에서 함수 호출

 

1-1. 스택에 인자를 넣고 함수로 이동한다.

1-2. EAX 레지스터로 반환값을 전달한다.

 

 

 

 

 

 

---

2.      정말 EAX에 저장될까?

 

2-1. C언어에서 어셈블리 코드를 사용할 수 있는데 __asm 키워드를 써야 한다. (인라인 어셈블리라고 한다)

2-2. 어셈블리 코드를 사용하면 레지스터에 접근할 수 있다.

주의! 32bit에서만 인라인 어셈블리를 사용할 수 있다.

 

VS 인라인 어셈블리의 장점 중 하나는 C언어에서 사용하던 변수를 바로 사용할 수 있다.

- GCC는 안됨 

 

반환 값을 n으로 받지 않고 printf로 출력

결과는 당연하게도 0이다..

 

// 그렇다면 인라인 어셈블리를 사용하여 EAX에 결과값을 받아보자.

 

인라인 어셈블리를 추가하였다.

결과값은 예상대로 3

함수 return문을 인라인 어셈블리로 변환해도 결과는 마찬가지다.

 

 

 

 

 

 

---

3.      함수 호출 과정도 인라인 어셈블리로 작성 해보자.

 

이렇게 하면 되지 않을까?

에러 발생!!

 

- run-time check failure #0 - the value of esp was not properly

맨 첫 줄에 보이는 문장은 런타임 검사가 실패했고, esp값이 제대로 저장되지 않았다고 한다.

함수 호출 시 함수에서 사용했던 메모리를 정리해줘야 하는데 그걸 이행하지 않아서 발생한 문제라고 생각된다.

이것은 함수 호출 규약과 관련이 있는데 이후 강좌에서 이야기할 듯 하다.

 

어셈블리 마지막 부분에 add esp, 8을 넣어주었다.

정상 실행