Buffer Overflow? 버퍼 오버플로우(Buffer Overflow ).... 말 그대로를 이해해봅시다. 버퍼가 오버플로우(넘친다)된다.. 커피잔에 콜라 1.5리터짜리를 모두 다 넣으려고 해보세요. 당연히 넘치죠? 이게 바로 버퍼 오버플로우랍니다. 이거랑 무슨 상관이 냐구요? 이해하려면 당연히 이렇게라도 생각하시길.. 이런 것들이 왜 필요가 있을까요? 프로그램의 구조적인 차원에서 한번 볼까요? 프로그램을 짜본 사람은 알꺼에요. 안짜봐도 알겠지만.. main() 함수라는 것이 있으며 반드시 존재해야 프로그램이 돌아가겠죠. 이런 프로그램 소스를 보세요.. main() { printf("hello\n\n"); } 자. 이것을 컴파일 해보세요. 당연히 hello 라는 문자가 나오겠죠.. 왜 끝에 \n(한줄내림)을 두개나 했냐구요? 제 맘이랍니다. :) 이번에는 좀더 재미있는 것을 해봅시다. int test(void) { int i=100; i=i+1; return i; } void main(void) { int k; k = test(); /* (1) */ printf("정답(?) :: %d \n",k); } 이 소스를 컴파일해서 실행하면 이렇게 나오겠죠?? 정답(?) :: 101 이렇게 나오죠.. 여기서 우리가 사전 지식을 가져야 할 것은 우선 main() 함수가 불려진후에 main() 함수에서 test() 함수를 불렀죠? 이것은 당연하겠지만 좀더 심도있게 들어가보면 여러가지 재미있는 것들을 알 수 있어요.. 정답(?) :: 101 이라는 것을 출력하기위해 프로그램은 이렇게 함수를 움직이겠죠? main() --> test() --> main() --> 종료 그런데 프로그램이 시작되면 메모리에 main() 함수영역과 test() 함수영역이 따로 구분되어 놓여져 있습니다. 메모리가 잠시 옆으로 누워서 이런 형태로 보인다고 생각해봅시다. [ ] 그러면 main() 함수와 test() 함수가 메모리에 할당되어 메모리에 들어가 있을때의 화 면은 이렇겠죠? [ test() main() ] 이제 한번 프로그램이 움직이는 순서대로 가봅시다. main()함수가 호출되어 메모리에서 현재 프로그램이 움직이는 지점이 main() 이라는 부분일테고, 곧바로 test()를 호출/* (1) */했기때문에 현재 프로그램이 움직이는 지점이 test() 라는 부분으로 움직이겠죠.. 그리고 test() 함수에서 일이 다 끝나면 다시 main() 함수로 움직이고 정답(?) 어쩌구를 출력하고 프로그램이 종료되겠죠.. 그런데 여기서 프로그램이 움직이는 지점(포인터)가 main()으로 갔다가 test()로 갔다가 다시 main()으로 가는 일을 혼자서 스스로 움직이는 것은 불가능해요.. 왜냐.. 지능이 있는 사람은 그냥 보고서 main()과 test()를 왔다갔다 하지만 기계는 그렇지 못하죠.. 그래서 생각해낸것이 메모리 부분부분에 주소(address)를 할당하고 주소만 입력하면 그 주소로 곧바로 움직일 수가 있게되죠. 하지만 그래도 프로그램이 움직이는 포인터는 아직 모르죠.. test()가 메모리 어디에 있는지도 모르니까요. 또한 main()도 어디에 숨어있는지도 모르고.. 그래서 또(?) 생각한것이 리턴 어드레스라는 부분입니다. 그러니깐, tset() 라는 함수가 메모리에 할당되기전에 자신을 불렀던 main()함수의 메모리 주소를 기억하고 있습니다. 그래야 프로그램이 움직이는 포인터가 test() 로 갔다가 다시 main()으로 돌아갈꺼 아닌가요? 만약 그 저장된 리턴 어드레스가 엉뚱한 부분.. 그러니깐 main()함수를 가르키지 않고 엉뚱한 곳을 가르킨다면 영락없이 에러가 나면서 프로그램이 비정상적으로 돌아가겠죠. 프로그램이 움직이는 포인터가 엉뚱한 리턴어드레스로 메모리의 이상한 부분을 건드리게되면 에러가 나는데 이게 바로 세그먼테이션 오류입니다. (이렇게 나와요. Segmentation fault) 그러니깐 언제나 자신을 호출한 부모함수의 주소를 리턴어드레스가 생각하고 100% 안전하게 지키고 있어야 하죠. (test()함수의 경우 부모함수는 당연히 main() 함수겠죠???) 리턴어드레스가 왜 있는가에 대해서는 설명을 했고, 이번에는 test() 함수가 메모리에 할당되어있는 모습을 좀더 망원경을 가져다 대고 더 가까이 지켜봅시다. test() 함수가 메모리에 할당되어있는 것을 좀더 확대시켜서 보면 [ 변수에 관련된것을 저장 리턴어드레스(ret) ] <= test() 이런 형태로 있답니다. 리턴어드레스는 조기 가장 뒷쪽에 꼬불쳐 놓고있어요.. 아까 test() 함수를 보면 int i; 라는 부분이 있는데 이것이 바로 변수를 설정하는 부분이죠.. 그래서 test()의 메모리는 이렇게 되겠죠.. [ (i 변수 영역) ret(리턴어드레스)] 그런데 묘한것은 i 변수가 점점 커지게되면 이렇게 되요.. [ (i 변수 영역) ret(리턴어드레스)] [ (i 변수 영역))) ret(리턴어드레스)] 좀더... ^^; [ (i 변수 영역))))) ret(리턴어드레스)] [ (i 변수 영역))))))) ret(리턴어드레스)] 조금더..... [ (i 변수 영역)))))))))ret(리턴어드레스)] 어엇. 여기까쥐.. 보세요.. i변수 영역이 계속 커지다 보니깐 리턴어드레스 부분까지 계속 확장되죠? 여기서 주의 깊게 볼 부분은 i 변수 영역은 그대로인데 변수안에 들어가는 내용이 점점 커져서 계속 부풀어 올라가는 모습이에요.. 이제 좀더 커지게되면 어떻게 될까요? 하핫.. 리턴 어드레스 부분이 i 변수 내용이랑 겹치겠죠? 그렇게 되면 i 변수에 어떤 입력된 값이 들어가게 되면 리턴 어드레스 부분도 엉뚱한 숫자로 바뀌게 되어 원래 저장된 main() 함수의 주소를 잃어버리게되죠. 그러면 당연히 오류가 생기면서 Segmentation fault 가 나고 프로그램이 죽죠. 이것이 바로 버퍼 오버플로우가 일어난 예랍니다. 원래의 i변수 영역에 들어가는 내용이 점점 커져서 리턴어드레스까지 건드려 프로그램이 제대로 돌아가질 않게되죠.. 그런데 해킹기법중에 이런 부분이 있죠. 버퍼 오버플로우 공격기법(?)... 이런 해킹기법은 아까 말한 리턴 어드레스부분을 원하는 메모리 주소로 가게 하고 그 부분에 엉뚱한 프로그램을 올려놓고 그것이 실행되도록 하는 거랍니다.. 아까의경우를 보면 main() -> test() -> main() 이렇게 가죠? 하지만 해킹기법을 이용하면 main() -> test() -> 해커가 만든함수 혹은 프로그램부분 이렇게 한답니다.. 이제 아셨죠? 완전 횡설수설한건지...^^; 이해하길