칼럼) 극한에 대하여 <1>

오랜만에 생산적인 글로 돌아왔습니다. 앞으로는 학습에 도움이 될 만한 글들도 쓰려고 생각 중이니, 원하시는 주제가 있다면 댓글로 추천 부탁드립니다.

수많은 질문글과 오개념을 양산한 문제, 23학년도 수능 14번입니다. 14번의 난이도에는 답이 1번이라는 점도 영향을 주었지만, ㄴ 선지를 해석하는 과정에서 이미 우극한이 포함된 함수인 h(x)의 좌, 우극한을 구해야 한다는 점이 특히 어려웠습니다. 

이와 같이 극한식 속에 또다른 극한식이 있는, 소위 '이중 극한'이 해석하기 힘든 이유는, 고등학교 미적분에서 극한 자체를 애매하게 정의하고 넘어가기 때문입니다. 이 칼럼은, 극한의 엄밀한 정의인 엡실론-델타 논법을 최대한 이해하기 쉬운 형태로 설명하고, 이를 바탕으로 231114와 같은 이중극한 문제에 적용할 수 있는 간단한 정리를 증명하는 내용입니다.

칼럼의 내용이 길어서 한번에 올려지지 않는 관계로, 극한의 정의를 다루는 <1>과 이중극한에 대한 내용을 증명하고 문제에 적용하는 <2>로 나누게 되었습니다. 따라서 이 글에는 그 자체로 수능 수학과 직접적인 관련이 있는 내용은 없지만, 그래도 나름 의미가 있고 이과라면 미래에 배우게 될 내용이니 한 번쯤 읽어 보시면 좋을 것 같습니다. 

1. 극한의 정의 - 수열의 발산

어떤 수열 a_n에 대해

라는 것, 즉 a_n이 양의 무한대로 발산한다는 것은 어떻게 정의할 수 있을까요? 

사실, '무한대로 발산한다'는 개념은 상당히 애매합니다. 하지만 반대로 생각해 볼 수는 있습니다. 어떤 수열 a_n이 무한대로 발산하지 '않는다'고, 확실히 말할 수 있는 기준은 무엇일까요?

우선, 만약 a_n의 항들에 최댓값이 존재한다면, 즉 어떤 자연수 m에 대해 이 항상 성립한다면, a_n이 무한대로 발산하지 '않는다'고 확신할 수 있을 것입니다. a_m은 어떤 유한한 값이고, a_n의 모든 항이 그 유한한 값보다도 작다면 무한을 향해 다가갈 수 없을 테니까요.

그리고 같은 논리를 따른다면, 단순히 모든 n에 대해   이 성립하게 하는 실수 M이 존재하기만 해도, a_n이 무한대로 발산하지 않는다고 할 수 있을 것입니다. M이라는 '벽'이, a_n이 무한대로 발산하는 것을 막는 셈이죠. 

그렇다면, 역으로 a_n이 양의 무한대로 발산한다는 것을, a_n이 위의 조건이 절대로 성립하지 않는 수열이라는 것으로 정의해 볼 수 있습니다. 즉, 

라는 식의 의미를, '(모든 n에 대해 a_n <= M)이게 하는 실수 M은 존재하지 않는다'와 같이 정의하는 것입니다. 

이 정의를 잠시 놓고 보면, 이는 '어떤 실수 M에 대해서도, (모든 n에 대해 a_n <= M) 은 성립하지 않는다'로 쓸 수 있습니다. (모든 n에 대해 a_n <= M)의 부정은 (어떤 n에 대해 a_n > M)이므로, 위의 정의는 다시 다음과 같이 쓸 수 있습니다.

"어떤 실수 M에 대해서도, aₙ > M이게 하는 자연수 n이 존재한다"

하지만, 이 정의에는 허점이 있습니다. 예를 들어 b_n이 0, 1, 0, 2, 0, 3, 0, 4...와 같이 진행되는 수열인 경우, 어떤 양수 M에 대해서도 b_n의 2*([M]+1)번째 항([x]는 x보다 작은 최대의 정수)은 M보다 크므로 위의 조건이 만족됩니다. 하지만, b_n은 홀수 번째 항마다 0으로 돌아오므로 n이 무한대로 갈 때, b_n이 "양의 무한대를 향해" 간다고 보기는 힘듭니다.

위의 b_n같은 케이스를 해결하기 위해서는, 정의를 조금 바꾸어야 합니다. 가능하다면, 원래의 의미를 유지하면서도 'a_n > M이 성립하는 자연수 n이 존재한다' 부분을 조금 바꾸어서, a_n > M이 '지속적으로' 성립한다고 말하고 싶은 것입니다.

그렇다면, 다음과 같은 정의는 어떨까요?

"어떤 실수 M에 대해서도, aₙ > M이 n > N인 모든 자연수에 대해 성립한다"

여기에서 N은 M에 따라 정해지는 하나의 자연수입니다. 위 정의의 의미는, 어떤 실수 M에 대해서도 a_n > M인 항이 존재할 뿐만 아니라, n을 충분히 키우면 a_n > M이 a_n의 '모든' 항에 대해 성립하게 된다는 것으로 이해할 수 있습니다. 정확히 말해서, n = N+1부터는 a_n > M이 항상 성립하게 된다는 거죠.

그리고 위의 정의는, 실제로 수학적으로 과 동치입니다. 엡실론-델타 논법의 형식으로 말한다면 "모든 실수 M에 대해 어떤 자연수 N이 존재하여 n > N이면 a_n > M이다"가 됩니다. 수식어가 많아서 가독성은 조금 떨어지지만, 의미상 위와 같고 N의 정체에 대해 설명하지 않아도 되기 때문에 이와 같은 정의가 선호됩니다.

물론, 도 거의 똑같은 방식으로 정의할 수 있습니다. a_n > M에서 부등호의 방향을 바꾸는 것만으로도 충분하죠.

다음 내용으로 넘어가기 전에, 위의 정의를 적용하는 연습을 해 보겠습니다. 예를 들어, 

은 어떻게 보일 수 있을까요? 

어떤 실수 M에 대해, N = 2^M이면 로그함수의 정의에 따라 log_2(N) = M입니다. 이때 로그함수는 증가함수이므로, n > N이면 log_2(n) > log_2(N) = M이고, 따라서 "어떤 실수 M에 대해서도, log_2(n) > M이 n > N = 2^M인 모든 자연수에 대해 성립"하게 됩니다. 물론 위의 극한은 직관적으로도 참이지만, 이와 같이 엄밀하게 증명할 수 있습니다. 

또다른 예로, f(n)이 자연수에서 자연수로의 함수이고, f(n)의 역함수가 존재한다면(즉, f(n)이 일대일대응이라면),  은 항상 성립할까요?

직관적으로는 아닐 것도 같지만, 맞습니다. 우선 f(n)은 따지자면 함수기는 하지만, 정의역이 자연수이므로 수열 f_n = f(n)으로도 볼 수 있습니다. 이때 임의의 자연수 M'에 대해 집합

은 유한집합이고, 따라서 최댓값이 존재합니다. 이 최댓값을 N이라 하면, n > N일 때 f(n) > M'이 성립합니다. 이유는 f(n) <= M'이면 f(n) = m이 M'보다 작은 자연수 m에 대해 성립해야 할 텐데, 그렇다면 n = f-1(m)이고, f-1(m)은 S의 원소니까 S의 최댓값인 N보다 작으므로 n = f-1(m) <= N이 성립하게 되기 때문이죠. f(n) <= M'이면 n <= N이니, n > N이면 f(n) > M'입니다. 

이때, 모든 실수 M에 대해서는 그 실수보다 큰 자연수 M'이 존재합니다. [M] + 1이 한 예시가 될 수 있죠. 따라서 임의의 실수 M에 대해 M' = [M] + 1로 두면, n > N일 때 f(n) > M이게 하는 자연수를 위와 같이 찾아낼 수 있습니다. 따라서 "어떤 실수 M에 대해서도, f(n) > M이 n > N인 모든 자연수에 대해 성립한다", 또는 "모든 실수 M에 대해 어떤 자연수 N이 존재하여 n > N이면 f(n) > M이다"가 참이고, 이는 곧 의 정의입니다. 극한의 정의를 사용하면 이와 같이 상당히 강력한 명제들을 증명할 수 있습니다.

2. 극한의 정의 - 수열의 수렴

수열 a_n이 어떤 값 L로 수렴한다, 즉

라는 식의 의미는, 위의 내용을 사용하여 정의할 수 있습니다.

a_n이 L로 수렴한다는 것은, 직관적으로 n이 커질 때 a_n이 L에 '무한히 가까워진다'는 것입니다. 수직선 위에서 거리는 절댓값으로 나타낼 수 있으므로, a_n이 L에 무한히 가까워진다는 것은 |a_n-L|이 무한히 작아진다는 것입니다. 

여기에서 |a_n-L|은 그 자체로 수열입니다. 우리는 수열이 무한히 커지는 것, 즉 무한대로 발산하는 것을 정의하는 방법은 알고 있지만, 수열이 무한히 작아지는 것을 정의하는 방법은 모릅니다. 하지만, |a_n-L|이 무한히 작아진다면 1/|a_n-L|은 무한히 커져야 하지 않을까요? 그렇다면 a_n이 L로 수렴하는 것에 대해 다음과 같은 정의가 가능합니다.

" , 즉 모든 실수 M에 대해 어떤 자연수 N이 존재하여, n > N이면 1/|aₙ - L| > M이다"

이때, 절댓값은 0보다 크므로 '모든 실수 M에 대해 ~ 1/|a_n-L| > M' 부분은 '모든 양의 실수 M에 대해 ~ 1/|a_n-L| > M'과 동치이고, 이는 다시 '모든 양의 실수 M에 대해 ~ |a_n-L| < 1/M'과 동치입니다. 양의 실수의 역수는 양의 실수이므로, 결국 이는 '모든 양의 실수 M에 대해 ~ |a_n-L| < M'과 같이 쓸 수 있습니다.

M은 보통 큰 값이나 최댓값을 나타내는 데 쓰이는데 M의 역수를 취했으니, M을 작은 값을 뜻하는 그리스 문자 ε (엡실론)으로 바꾸고 원래 정의에 다시 대입하면 다음과 같습니다.

 "모든 양의 실수 ε 에 대해 어떤 자연수 N이 존재하여, n > N이면 |aₙ - L| < ε이다"

이것은 실제로 의 수학적 정의입니다.

앞에서처럼, 정의를 적용하는 예시로 마무리하겠습니다.

을 증명해 보죠. 양수 ε에 대해, 2^-N' = ε이게 하는 실수 N'의 값은 -log_2(ε)입니다. 이때 2^-n은 감소함수니 n > N'이면 2^-n < 2^-N' = ε가 되겠죠. 또한 2^-n > 0이니, 결국 n > N'이면 |2^(-n) - 0| < ε가 성립합니다. 이제 N = [N'] + 1로 두면 n > N일 때 |2^(-n) - 0| < ε이고, ε는 임의의 양수였으므로 주어진 극한식의 정의인 "모든 양수 ε 에 대해 어떤 자연수 N이 존재하여, n > N이면 |2^(-n)-0| < ε이다"가 성립함을 확인할 수 있습니다.

3. 극한의 정의 - 함수의 수렴

마지막으로, 위의 내용을 바탕으로 함수의 극한식, 즉

과 같은 극한식을 정의해보도록 하겠습니다. 극한의 값은 좌극한과 우극한이 모두 존재하고 값이 같을 때 그 값으로 정의되니, 좌극한과 우극한을 정의하는 것으로 충분합니다. 

의 의미가 'n이 무한히 커질 때' a_n이 L에 무한히 가까워진다는 것이듯이, 의 의미는 'x가 x>a를 유지하며 a에 무한히 가까워질 때' f(x)가 L에 무한히 가까워진다는 것입니다. 결국 'x가 a에 무한히 가까워진다'는 말의 의미만 해석하면 되는데, 우리는 이미 수열의 수렴을 통해 실수, 정확히 말하면 실수의 수열이 다른 실수에 무한히 가까워지는 것의 의미를 정의했습니다. 그렇다면, 이를 적용하면 어떨까요?

'x가 x > a를 유지하며 a에 무한히 가까워진다'를 '수열 x_n이 x_n > a를 만족하며 를 만족시킨다'로 바꾼다면, 에 대한 다음과 같은 정의를 얻습니다.

"xₙ > a와 를 만족하는 모든 수열 xₙ에 대해, 이다"

물론, 첫 번째 부등식은 모든 n에 대해 성립하는 것으로 간주됩니다. 

위 정의는 실제로 의 정의와 동치이지만, 일반적으로 우극한의 정의는 위와 같이 제시되지 않습니다. 아실 분은 아시겠지만, 우극한의 정의는 다음과 같습니다.

"모든 양수 ε에 대해 어떤 양수 δ가 존재하여, 0 < x-a < δ면 |f(x) - L| < ε이다"

δ는 그리스 문자 델타입니다. 물론 수학에서 정의는 필요충분조건이기 때문에, 우극한을 첫 번째와 같이 정의하고 두 번째를 우극한의 '성질'로 생각하는 것도 문제는 없지만, 증명 등에 활용하기에는 수열을 통한 첫 번째 정의보다 두 번째 정의가 더 사용하기 쉽습니다. 그렇다면 실제로 두 정의가 동치인 것, 즉 한쪽이 참이면 다른 쪽도 참인 것을 증명해 보도록 하죠.

첫 번째 정의를 (1), 두 번째 정의를 (2)라고 할 때, 어떤 함수 f(x)와 실수 a에 대해 (2)가 참이면 (1)이 참임은 쉽게 보일 수 있습니다. (1)의 내용은 x_n > a와 를 만족하는 수열 x_n, 그리고 어떤 양수 ε가 주어졌을 때 자연수 N이 존재하여 n > N'이면 |f(x_n)-L| < ε라는 것인데, 이때 (2)에 따르면 (1)에서 주어지는 실수 ε에 대해 어떤 양수 δ가 존재하여 0 < x-a < δ면 |f(x)-L| < ε, 즉 0 < x_n-a < δ면 |f(x_n)-L| < ε입니다. 의 정의에 따라 n > N'이면 |x_n-a| < δ 이게 하는 자연수 N'이 존재하는데, 이때 x_n > a이므로 |x_n-a| < δ이면 0 < x_n-a < δ 이고 초록색 내용에 따라 결국 n > N'이면 |f(x_n)-L| < ε 이게 됩니다.

한편 (1)이 참이면 (2)가 참임을 보이는 것은 조금 더 어렵습니다(원하신다면 넘어가셔도 됩니다). 귀류법으로 (1)이 참이고 (2)가 거짓이라 하면, (2)가 거짓이므로 어떤 실수 ε' > 0가 존재해 '모든 실수 δ에 대해서 0 < x'-a < δ이고 |f(x')-L| >= ε'인 실수 x'이 존재'할 것입니다. 이제 적당한 ε'의 값 하나를 고정하고, 수열 b_n을 다음과 같이 정의합니다.

b_n : 0 < x'-a < 1/n이고 |f(x')-L| > ε'인 실수 x' 중 하나

가정에 따라, b_n의 각 항은 정의됩니다. 이때 b_n의 정의에 따르면, 각 n에 대해 0 < b_n - a < 1/n이므로 b_n은 b_n>a와   를 만족하는 수열입니다. 따라서 (1)의 조건이 만족되고, 이어야 합니다. 그러나 b_n의 정의에 따라 |f(b_n)-L| > ε'이 항상 성립하므로, 실수 ε'에 대해 n > N이면 |f(b_n)-L| > ε'이 성립하게 하는 자연수 N이 존재할 수 없고, 모순이 발생합니다. 

좌극한, 즉 과 같은 식의 정의는 위로부터 쉽게 알 수 있습니다. (1)의 정의에서는 x_n>a라는 조건을 x_n<a라는 조건으로, (2)의 정의에서는 0 < x-a < δ 조건을 -δ < x-a < 0으로 바꾸는 것으로 좌극한의 정의를 얻을 수 있습니다. 과 같은 일반적인 극한의 경우에는, 단순히 좌극한과 우극한 모두가 성립한다는 것으로 정의할 수도 있지만, 두 극한의 정의를 적절히 논리적으로 합해서 다음과 같이 쓸 수 있습니다. 

"xₙ ≠ a와 를 만족하는 모든 수열 xₙ에 대해, 이다"

또는

"모든 양수 ε에 대해 어떤 양수 δ가 존재하여, 0 < |x-a| < δ면 |f(x) - L| < ε이다"

2번째 정의는, 흔히 '엡실론-델타 논법' 자체로 불리는 정의기도 합니다.

이번에도 정의를 적용하는 예시를 보도록 하죠. 함수 f(x) = 1/x가 x>0인 모든 실수 x에서 연속임을 증명하겠습니다. 연속의 정의는 함수값이 극한값과 같은 것이므로, 이는 a > 0인 실수 a에 대해, 이 성립하는 것을 보이는 것과 같습니다.

해당 극한이 성립하는 것은, 정의에 따라 모든 양수 ε에 대해 어떤 실수 δ가 존재하여 0 < |x-a| < δ이면 |1/x-1/a| = |x-a|/|ax| < ε가 성립한다는 것입니다. 이 때, 0 < |x-a| < δ에서 |x-a|/|ax| < δ/|ax|이고, 같은 식에서 x > a-δ, 즉 1/|x| < 1/|a-δ|이므로 결국 |x-a|/|ax| < (δ/|a|)*(1/|x|) < (δ/a)*(1/|a-δ|)입니다(엄밀히 따지자면, x > a-δ라고 |x| > |a-δ|가 반드시 성립하는 것은 아니지만, 어차피 이후 과정에서 δ < a이도록 δ가 정해지게 되고 a-δ > 0이면 해당 부등식은 당연히 성립합니다).

이때 (δ/a)*(1/|a-δ|) = δ/(a*|a-δ|)는 x에 대해 상수입니다. 따라서 δ를 "a/2와  ε*a^2/2 중 작은 값"으로 정한다면, δ <= a/2, δ <= ε*a^2/2이므로 δ/(a*|a-δ|) = δ/(a*(a-δ)) < δ/(a*(a/2)) =  δ/(a^2/2) <= ε 가 x의 값과 상관없이 성립하게 됩니다. 결국 0 < |x-a| < δ이면 |1/x-1/a| <  δ/(a*|a-δ|) <= ε이므로, 증명이 완료됩니다.

마지막으로, 유명한 예시로 마무리하겠습니다. 디리클레 함수, 즉 x가 유리수면 f(x) = 0, 무리수면 f(x) = 1로 정의된 함수가 x=0에서 불연속임을 증명해 보도록 하죠. f(0) = 0이고 연속의 정의는 함수값이 극한값과 같은 것이므로, 이 아님을 보이는 것으로 충분합니다. 

귀류법을 사용하여, 이라고 가정하겠습니다. 앞서 제시한 정의 중 첫 번째를 사용하면, 수열 x_n = sqrt(2)/n은 x_n ≠ 0과  을 만족하므로 이어야 합니다. 그러나 모든 n에 대해 f(x_n)은 무리수이므로 f(x_n)은 수열 1, 1, 1, 1...이고, 이 수열의 극한은 명백히 0이 아닙니다.

4. 마무리

끝까지 읽어주신 분들께 감사드립니다. 3번 부분은 조금 난이도가 있는 내용이지만, 앞 내용을 바탕으로 천천히 읽어 보시면 이해하실 수 있을 것이라 생각합니다.

내용을 어느 정도 검토하기는 했지만, 그래도 오류가 있을 수 있으니 오류 지적이나 칼럼 내용에 대한 질문은 댓글로 남겨주시길 바랍니다. 마지막으로 도움이 되셨다면 좋아요 부탁드립니다!