확률과 통계의 모든 것 '확통개론'

1. 서론

물론 이는 수학이라는 과목 전반에 걸쳐서 적용되는 특징이기는 하지만, 확률과 통계는 그 특성상 특히 ‘개념과 문제풀이 간 괴리’가 두드러지게 나타납니다.

확률과 통계의 개념 양은 타 수학 선택과목과 비교가 민망할 정도로 적습니다: 모든 개념을 A4용지 한 페이지 안에 전부 정리할 수 있다는 것이 정설로 받아들여질 정도이죠.

하지만 그와 동시에, 확률과 통계는 ‘어렵게 출제된다면’ 정말 어마어마한 파괴력을 낼 수 있는 과목이라는 평 역시 듣고 있습니다.

물론 현재는 상당히 쉬운 난이도로 출제되고 있으나, 과거 22/23수능, 그리고 가/나형 시절의 사례를 보면 이 평가는 충분히 일리가 있는 내용이라는 사실을 알 수 있죠.

그리고 이는, 앞에서 이야기한 ‘개념과 문제풀이 간 괴리’ 때문에 나타나는 현상으로 볼 수 있습니다.

확률과 통계를 선택한 학생들은, 아니 선택하지 않았더라도 고1 수학에서 경우의 수를 배운 학생들은, 처음 문제풀이를 함에 있어 다음과 같은 벽을 마주합니다: 

‘개념은 알겠는데, 이걸 어떻게 적용해?’

그리고 앞으로 이 칼럼에서 언급하게 될 모든 내용은, 이 질문에 대한 답이라고 봐도 과언이 아닙니다.

결국 우리는 문제를 풀기 위해서 공부하는 것이고, 문제를 풀기 위해서는 그 방법을 알아야 하기 때문이죠.

2. 적용

확률과 통계 문제를 풀어 나감에 있어, 우리는 항상 다음과 같은 목적 의식을 가지고 있어야 합니다:

‘이 조건에서 말하는 경우의 수는 어떻게 하면 셀 수 있지?’

글로 봤을 때는 너무나 당연한 소리이나, 실제 문제를 봤을 때 접근이 막힌다는 것은 이 ‘어떻게’에 대한 답을 찾지 못했다는 이야기이기에, 그럴수록 더더욱 저 문제 의식을 가지고 가는 것이 중요해지겠죠?

확률과 통계에서는 경우의 수를 세기 위해 존재하는 다양한 ‘공식’들이 존재합니다:

1. 원순열

2. 중복순열

3. 같은 것이 있는 순열

4. 중복조합

그리고 이 ‘공식’들은, ‘어떻게 하면 셀 수 있지?’에서 ‘어떻게’에 해당하는 답이 되어 줄 것입니다.

하지만 물론, 어떤 상황이 주어졌을 때 저 4가지 공식 중 아무거나 사용해도 경우의 수를 구할 수 있는 것은 당연히 아닙니다.

각 상황마다 활용할 수 있는 고유의 공식이 있고, 그렇기에 해당 상황을 마주했을 때에는 해당 공식을 활용할 수 있는 것이죠.

그렇기에 확률과 통계 학습을 함에 있어서는, 다시 말해 문제 풀이 연습을 함에 있어서는, ‘각 상황에서 활용할 수 있는 경우의 수를 세는 공식’을 익혀 두는 것이 매우 중요합니다.

한 가지 사례를 볼까요?

2022학년도 대학수학능력시험 확률과 통계 25번

확률과 통계에 있어 유의미한 수준의 베이스가 있는 학생은, 위 문제에서 (가) 조건을 이용해 경우의 수를 셀 때 자연스레 중복조합을 활용할 것입니다.

하지만 아무런 베이스가 없는 학생이라 하면, 무엇을 활용해야 할지 감도 잡지 못한 채 땅바닥만 쳐다보고 있겠죠.

여기서 우리는 한 가지 의문을 떠올릴 수 있습니다: ‘왜 하필 중복조합을 활용해야 하는가?’

중복조합은, ‘중복을 허락하여 뽑을 수 있는 경우의 수’를 뜻합니다. 

일반적인 조합의 상황에서는 ‘1, 2, 3, 4, 5’ 중 ‘1’을 뽑았으면 이후에는 ‘2, 3, 4, 5’ 중 하나만 뽑을 수 있지만, 중복조합의 상황에서는 여전히 ‘1, 2, 3, 4, 5’ 중 하나를 뽑을 수 있죠.

이 상황을 위 문제에 적용하면 다음과 같습니다: ‘a, b, c, d, e'라는 이름을 가진 5개의 주머니에, 총 12개의 사탕을 넣는다고 생각해 봅시다.

여기서 ’a, b, c, d, e는 모두 자연수‘는, 각 주머니에 최소 1개의 사탕이 들어가 있어야 한다는, 다시 말해 1개의 사탕을 미리 넣어 준다는 것과 같은 의미로 받아들일 수 있겠죠.

이를 모두 수행하고 나면, ’a, b, c, d, e'라는 이름을 가진 5개의 주머니에 7개의 사탕을 넣는 상황이 남아 있겠죠.

그리고 우리는, 7개의 사탕을 하나하나 넣을 때 주머니를 ‘선택하게’ 됩니다: 어느 때는 a라는 주머니에, 어느 때는 d라는 주머니에 사탕을 넣을 수 있겠죠.

당연히 한 번 선택한 주머니를 다시 선택하지 말란 법은 없습니다: 그러면 초에 5개의 주머니에 7개의 사탕을 넣을 수 없으니까요.

이렇게 해서 모든 상황이 완성이 되었습니다: 자연수 a, b, c, d, e에 대하여 a+b+c+d+e=12를 만족시키는 순서쌍 (a, b, c, d, e)를 구하는 경우의 수는, 5개의 서로 다른 주머니 a, b, c, d, e에 7개의 사탕을 넣는 경우의 수와 같다는 결론이 나오죠.

그리고 주머니에 사탕을 넣을 때에는 ‘중복을 허락하여’, 다시 말해 ‘한 번 고른 주머니를 또 고를 수 있는 상황에서’, ‘7개의 주머니를 선택’하게 됩니다. 

이것이 위 문제에서 (가) 조건을 활용하여 경우의 수를 셀 때 중복조합을 활용하는 이유가 되죠.

이렇게 해서 중복조합을 활용하는 한 가지 상황의 예시를 살펴봤습니다: 이제는 다른 공식을 활용하는 한 가지 상황의 예시를 보도록 하죠.

2023학년도 대학수학능력시험 확률과 통계 24번

확률과 통계에 있어 유의미한 수준의 베이스가 있는 학생은, 위 문제에서 ‘중복을 허락하여 일렬로 나열하여 만들 수 있는 네 자리의 자연수’의 상황에서 중복순열을 활용할 것입니다.

여기서 우리는 마찬가지로 한 가지 의문을 떠올릴 수 있습니다: ‘왜 하필 중복순열을 활용해야 하는가?’

중복순열은, ‘중복을 허락하여 택해 나열할 수 있는 경우의 수’를 뜻합니다.

일반적인 순열의 상황에서는 ‘1, 2, 3, 4, 5’ 중 ‘1’을 뽑아 나열했으면 이후에는 ‘2, 3, 4, 5’ 중 하나만 뽑아 나열할 수 있지만, 중복순열의 상황에서는 여전히 ‘1, 2, 3, 4, 5’ 중 하나를 뽑아 나열할 수 있죠.

이 상황을 위 문제에 적용하면 다음과 같습니다: 아니, 이 문제에 있어서는 다른 예시를 들어 적용할 필요도 없네요.

문제 자체에서 ‘중복을 허락하여 4개를 택해 일렬로 나열’이라고 언급하고 있습니다: 이는 다르게 말하면 ㅡㅡㅡㅡ의 네 자리에 1, 2, 3, 4, 5를 중복을 허락해 나열한다는 것이 되죠.

첫 자리에 나열하는 경우의 수는 5가지, 두 번째 자리에 나열하는 경우의 수도 5가지, 세 번째 자리에 나열하는 경우의 수도 5가지, 네 번째 자리에 나열하는 경우의 수도 5가지로 전체 경우의 수는 5^4=625가지가 됩니다.

정확하게 중복순열에서 사용하는 H의 공식과 같은 형태가 나오는 것을 알 수 있습니다.

여기서 중요한 것은 ‘왜 중복순열을 활용해야 하는가?’이고, 이는 문제에서 언급했듯 ‘중복을 허락하여 4개를 택해 나열’의 상황이기 때문이다!가 그에 대한 답이 될 수 있겠죠.

한 가지 문제를 더 살펴볼까요?

2023학년도 6월 모의평가 확률과 통계 27번

확률과 통계에 있어 유의미한 수준의 베이스가 있는 학생은, 위 문제에서 ‘중복을 허락하여 6개를 택해 일렬로 나열하는 상황’에서 중복순열을 활용할 것입니다.

그리고 그 이유는, 앞에서 살펴보았던 23수능 문제와 같은 것이 되겠죠.

이렇듯 여러분은 확률과 통계를 공부하고, 또 그에 대한 문제를 풀어 보면서, 다양한 상황에서 다양한 공식을 활용해 각 경우의 수를 세게 될 것입니다.

그리고 그 과정에서, 풀이의 ‘기계화’는 필연적으로 수반되죠.

문제 풀이를 하다 보면 결국 여러분들은 (가) 조건을 활용해 경우의 수를 따질 때 ‘주머니’의 예시 따위는 신경쓰지 않게 됩니다.

그저 기계적으로, ‘당연히 해야 하는 것이기에’ ‘항상 이 식을 보면 이 작업을 수행해 왔기에’ 중복조합을 활용하게 되죠.

물론 이것이 나쁘다는 것은 아닙니다: 풀이가 숙련되었다는 증거이니까요.

하지만 적어도, 처음 개념을 학습한 뒤 문제를 풀어 나감에 있어서는 ‘왜 이 상황에서는 이 공식을 활용해야 하지?’라는 물음에 대한 답을 찾아 보세요.

이 물음에 대한 답을 찾느냐 찾지 못하느냐는, 같은 ‘풀이의 기계화’라 하더라도 이후 문제가 변형된 상태로 등장했을 때 그 풀이를 ‘응용’할 수 있느냐의 여부에 매우 큰 영향을 주기 때문입니다.

이것이 제가 앞에서 이야기한 ‘이 경우의 수는 어떻게 하면 셀 수 있지?’에 대한 답을 찾아 나가는 과정이라고 할 수 있죠.

그 공식이 활용되는 ‘원리를 이해하는 것’, 확률과 통계를 학습하는 데 있어 매우 중요한 덕목입니다.

3. 심화

1번과 2번에서 살펴본 내용은, 사실 확률과 통계를 학습하는 데 있어 매우 기초가 되는 영역입니다.

제가 예시로 3점 문항밖에 가지고 오지 않은 것은, 바로 이러한 이유에서이죠.

고난도 확률과 통계 문항을 해결함에 있어서는, 앞에서 언급한 ‘공식의 활용’ 외에도 +@가 필요합니다: 그리고 그것은 ‘여사건’과 ‘케이스 분류’이죠.

이 ‘여사건’과 ‘케이스 분류’야말로 확률과 통계 고난도 문항의 대미를 장식하는, 꽃이자 좆이라고 할 수 있죠.

하지만 그렇다고 해서, 경우의 수를 세는 공식들과 본질적으로 무언가가 차이나는 것은 아닙니다: ‘어느 상황에 이것을 활용해야 하는가?’에 대해 고민해야 한다는 점이 바로 본질적으로 같은 부분이라고 할 수 있죠.

‘여사건’과 ‘케이스 분류’를 어느 상황에 활용해야 하는가?

이 질문에 대한 일관된 그리고 명확한 답은, 슬프게도 존재하지 않습니다.

확률과 통계를 학습함에 있어 앞으로 여러분은 정말 많은 상황에서 경우의 수를 세게 될 것이고, 그 각각의 상황에서 케이스 분류와 여사건을 어떤 양상으로 활용해야 하는지는 저마다 다를 것이기 때문이죠.

하지만 질문에 대한 답을 ‘찾기 위한 방법’은 명확하게 존재합니다: 바로 ‘항상 여사건과 케이스 분류를 활용할 준비를 하는 것’입니다.

여러분이 실전에서 마주할 8문제 분량의 확률과 통계 세트 중, 여사건과 케이스 분류를 활용하지 않아도 전부 풀 수 있는 것은 그 어디에도 존재하지 않을 것입니다.

여러분이 경우의 수를 세는 정말 많은 상황들 중, 여사건과 케이스 분류를 활용하는 것 또한 정말 많이 존재하리라는 것은 어찌 보면 당연한 이야기이죠.

그렇기에, 약간 과장해서 말하자면, 여러분은 ‘조건이 제시된 형태의’ 문항을 봤을 때는 자동적으로

1. 여사건을 활용해 볼까?

2. 케이스를 나눠 볼까?

의 태도를 가지셔야 합니다.

실제로 여사건을 활용하는 것, 또는 케이스를 나누는 것이 유의미한 풀이 방향이 된다면 그대로 쭉 밀고 가면 되는 것이고, 아니라면 빽도를 하면 되는 것이죠.

한 가지 사례를 볼까요?

2023학년도 6월 모의평가 확률과 통계 29번

위 문제는 29번에 출제되어 약 80% 초중반대의 오답률을 기록한, 상당 수준의 난이도를 갖추고 있는 문제입니다.

그리고 이 문제의 해결에 있어 가장 중요한 지점은 다음과 같았죠: ‘과연 (가) 조건을 어떻게 활용할 것인가?’

우선 우리는, 여사건을 활용하는 것을 고려해 볼 수 있습니다:

‘f(f(1)이 4가 아니라면?‘

하지만 4인 경우를 따지는 것과 4가 아닌 경우를 따지는 것, 둘 중 어떤 것이 더 복잡할지는 자명하죠.

그 다음, 우리는 케이스 분류를 활용하는 것을 고려해 볼 수 있습니다:

'f(1)의 값으로 케이스를 나눠 볼까?’

그리고 이는, 실제로 문제를 해결하는 데 있어 핵심이 되는 생각이었죠.

이 생각을 한 학생들은 실수를 하지 않았다면 위 문제를 맞출 수 있었으나, 그렇지 못한 학생들은 그대로 4점을 헌납하고 말았죠.

한 가지 사례를 더 볼까요?

2022학년도 대학수학능력시험 확률과 통계 28번

위 문제는 오지선다임에도 불구하고 80%가 넘는 오답률을 기록한, 상당히 높은 난이도를 가진 문제입니다.

그럼에도 (가) 조건을 해석하는 것은 누구나 할 수 있습니다: 그저 x에 1, 2, 3, 4, 5를 넣어 보기만 하면 되죠.

문제는 (나) 조건입니다: 치역의 원소의 개수가 3, 이걸 어떻게 활용해야 할까요?

우선 우리는, 여사건을 활용하는 것을 고려해 볼 수 있습니다:

‘치역의 원소의 개수가 3이 아니라면?‘

하지만 원소의 개수가 3인 경우를 따지는 것과 3이 아닌 경우를 따지는 것, 둘 중 어떤 것이 더 복잡할지는 자명하죠.

그 다음, 우리는 케이스 분류를 활용하는 것을 고려해 볼 수 있습니다:

'치역에 실제로 무엇이 포함되는지를 기준으로 케이스를 나눠 볼까?’

그리고 이는, 실제로 문제를 해결하는 데 있어 핵심이 되는 생각이었죠.

해당 사항을 기준으로 케이스를 나눈 뒤 (가) 조건을 활용하여 경우의 수를 세는 것이 위 문제의 출제 의도였고, 이를 따라가지 못한 학생들은 그대로 80%의 대열에 합류했습니다.

마지막으로 한 가지 문제를 더 살펴봅시다.

2020학년도 대학수학능력시험 (나)형 29번

위 문제는 약 80% 후반대의 오답률을 기록한, 상당 수준의 난이도를 갖춘 문제입니다.

물론 지금 단계에서는 어렵겠지만, 어느 정도 실력이 쌓인 뒤에는 (가), (나) 조건을 활용하는 것은 매우 쉬운 영역이 됩니다: 문제는 (다) 조건이죠.

‘학생 C가 받는 사탕의 개수와 초콜릿의 개수의 합은 1 이상’, 이걸 어떻게 활용해야 할까요?

우선 우리는, 여사건을 활용하는 것을 고려해 볼 수 있습니다:

‘사탕의 개수와 초콜릿의 개수의 합이 0이라면?‘

엥?

이 경우를 따지는 게, 원래의 경우를 따지는 것보다 딱 봐도 훨씬 간단합니다.

케이스 분류를 활용할 필요도 없죠.

실제로 위 문제는 (다) 조건에서 여사건을 활용하는 것이 문제의 해결에 있어 가장 중요한 키포인트가 되었습니다.

이렇듯 ’여사건‘과 ’케이스 분류‘는, 확률과 통계 고난도 문제를 해결하는 데 있어 반드시 마스터하고 가야 하는 필수 출제 요소라고 할 수 있죠.

그러면, 이 요소들을 활용하는 데 있어 연마는 어떤 방식으로 할 수 있을까요?

여기에는 흔히 말하는 ’치트키‘가 없습니다.

문제풀이.

더 많은 문제풀이.

최대한 많은 문제를 풀어서

최대한 많은 상황을 접해보는 것만이

유일한 해결 방법이라고 봐도 과언이 아니죠.

이렇게 해서 우리는, 확률과 통계의 ’모든‘ 것을 알아봤습니다.

이야기가 길었지만, 결국 요약하면 ’공식‘이 되었건, ’여사건‘과 ’케이스 분류‘가 되었건 최대한 많은 문제들을 풀어보며 활용을 익히는 것이 중요하다는 결론이 나올 수 있겠네요.

여기에 ’공식‘의 활용에 있어서는 그 ’원리‘를 이해하는 것이 중요하다는 점까지 덧붙이면, 오늘의 이야기는 완전히 끝입니다.

최근 미적분의 난이도가 매우 높게 형성되면서, 확률과 통계를 선택하는 것을 고려하는 학생들의 수가 급속도로 늘고 있다는 소식을 접했습니다.

여러분이 어떤 선택을 하게 되던 간에, 결국 그 선택을 따라간 길의 끝에는 달콤한 성공의 열매가 위치해 있기를.

저 Headmaster는 강력하게 응원한다는 말을 끝으로, 오늘의 칼럼은 여기서 마무리하도록 하겠습니다!