어느 호기심많은 소년을 위하여 적어본, 입실론-델타 논법에 대한 간단한 설명

인터넷을 뒤지다 보면 종종 입실론-델타 논법(이하 ε-δ)을 물어보는 사람들이 있다. ε-δ이란 걸 전혀 들어보지 못한 상태에서 물어보는 경우도 있지만, 어떤 때에는 이미 ε-δ를 한 번쯤은 접해봤는데도 불구하고 그 말의 의미를 이해하지 못하여 질문하는 경우도 있는 것 같다. 지금의 나로써는 ε-δ가 굉장히 당연하게 와닿지만, 나도 사실 처음에 ε-δ의 정의를 봤을 땐 이해가 잘 안됬던 것 같다. 물론 평범한 고등학생이 굉장히 수학적이고 형식적인 것처럼 보이는 문장을 처음부터 쉽게 읽으면 그것도 나름대로 신기하긴 하겠지만…. 어쨋든, 이 글은 ε-δ를 좀 더 마음속으로 이해할 수 있도록 설명하는 방법을 찾기 위한 내 몸부림이다.

우선 정의부터 살펴보자. ε-δ를 이용한 극한의 정의는 다음과 같다.

[정의] a의 근방에서 정의된 실함수 f에 대해, 임의의 ε>0 에 대하여 δ>0 가 존재하여, 0<|x-a|<δ 이면 항상 |f(x)-L|<ε 일 때, f(x)가 a 에서 L로 수렴한다고 하고 lim_{x→a} f(x) = L 로 적는다.

젠체하고 싶을 땐 다음과 같이 영어로 적을 수도 있다. (사실 such that이라는 긴요한 문법 구조에 대응하는 표현이 국어에는 없기 때문에, 때때로 수학은 영어로 접하는 게 더 이해가 쉬울 수도 있다.)

Let f be a real valued function defined on a neighborhood of a. If for any ε>0, there is δ>0 such that |f(x)-L|<ε whenever 0<|x-a|<δ, we say f(x) converges to L at a and denote it by lim_{x→a} f(x) = L.

만약 당신이 이 정의를 처음 보는데도 불구하고 '아, 당연하잖아' 라고 말한다면, 지금 당장 해석개론을 공부해도 전혀 무리가 없다. 이 말은, 대부분의 경우 위 정의를 마음으로 받아들이기까지 좀 시간이 걸린다는 뜻이다. 그리고 이 글의 목표가 바로 위 정의를 직관으로 이해하는 것이다. 개인적으로는 이 글을 읽고 좀 생각하면 누구라도 유레카를 외치지 않을까 하는 기대를 품고 있다. 구체적으로, 이 글에서는 위 정의의 한 부분 한 부분을 풀어나가도록 하겠다.

우선 'a의 근방에서 정의된 실함수 f'라는 말부터 이해해보자. 극한의 본질을 가장 잘 설명하는 단어는 무엇일까? 여러가지 가능한 대답이 있겠지만, 나보고 꼽으라고 하면 역시 국소적 성질(local property)이라는 말을 하겠다. 수학에서는 크게 기하학적인 대상을 보는 두 가지 관점이 있다. 우선 보고자 하는 대상의 전체를 아우르는 성질, 즉 대역적 성질(global property)에 관심을 갖고 연구하는 관점이 있고, 반대로 대상의 부분부분이 가지는 성질, 즉 국소적 성질에 주목하는 관점도 있다. 극한은 이 중에서 후자를 대표한다. 극한을 입으로 설명할 때 보통 'x가 a에 한없이 가까우면 어쩌구 저쩌구'라고 말하는 것에서도 알 수 있듯이, 함수 전체에 집중하는 대신 함수 위의 한 점에 주목하여 그 점에서 매우 가까운 부분만 살펴본다는 것이 바로 극한에 담긴 가장 기본적인 아이디어이다. 그러므로 극한을 생각한다는 것은 기본적으로 우리가 관심을 갖고자 하는 지점의 근처만 보겠다고 선언하는 것과 같고, 함수 f의 정의역에서 우리가 보고자 하는 지점인 a의 근처를 제외한 나머지 부분은 그냥 쳐내버려도 상관 없다는 내용이 정의 첫 부분에 숨어있는 것이다.

이제 ε-δ 정의의 나머지 부분에 대해 이해해보자. (함수의) 극한이 'x가 a에 한없이 가까우면 f(x)의 값도 L에 한없이 가깝다' 라는 직관적인 아이디어를 수학적인 언어로 번역한 것에 불과함을 보이기 위해, 이 문장에서 ε-δ 정의를 논리적인 추론으로 이끌어보도록 하겠다. 일단 문장

'x가 a에 한없이 가까우면 f(x)의 값도 L에 한없이 가깝다'

(E-D1)

를 계속 반복해서 쓰는 건 공간과 시간 낭비이므로, 이 문장을 간단히 문장 E-D1이라고 부르자. (위 문장 옆의 (E-D1)라는 기호가 바로 이렇게 부르자는 약속을 나타낸다.)

E-D1은 굉장히 직관적으로 와닿는 문장이긴 하지만, 또한 너무 모호하기도 하다. 대체 L에 한없이 가깝다는게 얼마나 가깝다는 걸 의미하는가? 가깝다 멀다는 상대적인 개념이다. 기준이 있어야만 그 기준보다 가깝다 멀다를 이야기할 수 있는 것이다. 그러므로 가깝고 먼 것의 기준으로 ε이라는 양수를 하나 택하자. 즉, f(x)과 L 사이의 거리가 ε보다 작으면 f(x)와 L이 가까운 것이고, 그렇지 않으면 둘은 먼 것이다. 그리고 '한없이' 라는 말은 '기준 ε을 얼마나 작게 잡든지 상관없이'로 해석할 수 있다. 즉, 문장 E-D1은

'기준 ε>0 을 얼마로 잡든간에, x가 a에 한없이 가까우면 f(x)는 L에 가깝다'

또는

'기준 ε>0 을 얼마로 잡든간에, x가 a에 한없이 가까우면 |f(x) - L|<ε 이다'

(E-D2)

와 같이 적을수 있다.

x가 a에 한없이 가깝다는 것 역시 비슷한 방식으로 풀어낼수 있다. 이때 x가 변함에 따라 f(x)가 L에 가까워지고 멀어지는 것은 보통 f(x)의 성질과 기준 ε의 선택에 의존함에 주의하자. 그러므로 x가 a에가 가깝다는 것에 대한 기준을 δ라고 두면, δ가 아무 수나 될 수는 없음을 알 수 있다. 그러나 어쨋든간에 문장 E-D2는 x가 a에 충분히 가까울 때 f(x)도 L에 가까워지기를 요구하고 있으므로, 그러한 기준 δ를 적당히 잡을 수 있다면 문제는 해결된다. 그러므로 문장 E-D2는 다음과 같이 바꿔적을 수 있다.

'기준 ε>0 을 얼마로 잡든간에, (x와 a가 가깝다는 것에 대한) 적당한 기준 δ를 잡을 수 있어서, x가 a에 가까우면 |f(x) - L|<ε 이다'

또는

'기준 ε>0 을 얼마로 잡든간에, 적당한 기준 δ>0 를 잡을 수 있어서, 0<|x - a|<δ 이면 |f(x) - L|<ε 이다'

(E-D3)

여기서 x와 a가 같은 경우를 빼는 것에 의아해하는 사람이 있을지도 모르겠는데, 이 점은 우리가 함수의 극한을 'x가 a에 한없이 가까이 다가가지는 하지만 a 자신안 되지 않는 상황'에서 생각하는 것이 좀 더 의미있기 때문에 첨가한 조건일 뿐이다. 이리하여 문장 E-D3을 얻게 되었는데, 이 문장은 정확히 바로 ε-δ를 이용한 극한의 정의와 일치한다. 그러므로 우리는 처음의 문장 E-D1이 ε-δ와 일치함을 이해했다.