우선 ‘설'은 15세기에도 ‘설'로 쓰였다. 현대 국어 ‘설’의 옛말인 ‘설’는 15세기 문헌에서부터 나타난다. 여기서 ‘설날'이라는 어휘가 나왔는데 원래는 속격조사 ㅅ이 들어간 ‘섨날'로 쓰였으나 ㄹ이 탈락한 ‘섯날'로도, ㅅ이 탈락한 ‘설날'로도 쓰인 예가 발견된다. ‘‘설'은 어형 변화 없이 쓰였는데 ‘섨날'은 ‘설'과 그 관계성을 유지하기 위해 ‘설날'이 많이 사용된 듯하다.

‘설'은 단음절어여서 그 어원을 찾기가 매우 힘들다. 일단 크게 네 가지 설이 있으나 딱히 정설이랄 것은 없다. 그나마 가능성이 있는 설과 약간 신빙성이 떨어지는 설이 있긴 하나 거기서 거기다.

1. (낯)설다

새로운 한 해를 맞이해 낯선다고 하여 생겼다는 설. ‘낯설다'는 ‘낯'과 ‘설다'가 결합한 말이라 할 수 있으니 굳이 ‘낯설다'라고 하지 않고 ‘설다'에서 왔다고 하기도 한다.

2. 서다(立)/선다(?)

‘입춘(立春)'이나 ‘입동(立冬)’에서 보이듯 우리 조상은 계절이 오는 게 아니라 새로 선다 즉 새로 시작한다고 여겼다는 전제하에 등장한 설. 이 경우 ‘서다'에 관형형 어미 ‘-ㄴ'이 붙고 그 뒤에 ‘날'이 와 형성된 단어로 본다. 또는 개시(開始)를 뜻하는 ‘선다'라는 말에서 왔다고도 하나 ‘선다'를 기본형으로 가진 용언은 보이지 않는다. 이 설이 가장 말이 안 되는데 ‘서다'의 옛말은 ‘셔다'이기 때문이고, ‘선다'라는 용언은 문증되지 않으며, ‘설날'의 옛말을 여전히 받침이 ㄹ이어서 ‘ㄴㄴ’이 연속될 이유가 없기 때문이다. ‘설날’이 형성되기 전부터 ‘설' 자체가 ‘설날'의 의미로 쓰였으니 ‘설'을 기본으로 잡고 어원을 찾아야 한다.

3. 살(세)

나이를 세는 단위인 ‘살'과 동계어라는 시각. 훈민정음 문헌에선 ‘설'이 나이를 세는 단위로도 쓰였다. ‘살’과 ‘설'은 모음 분화를 보이던 단어였다는 것인데 뭐가 먼저인지는 알 수 없다. 월인석보에는 “그 아기 닐굽 설 머거 아비 보라 니거지라 대”라는 문장이, 삼강행실도에는 “섿재 아기 여슷설 머거 잇니"가, 어제내훈에는 “여듧 설에 비로소 글을 치고”라는 문장이 있다. ‘설'을 기저형으로 잡으면 나이를 세는 단위인 ‘살'이 ‘설'에서 온 것이니 설을 한 번 쇠면 한 살씩 느는 것이므로 이러한 논리를 기반으로 ‘설'에서 ‘살'이 파생되었다는 것이다.

4. 섦다/섧다

‘삼가다' 또는 ‘자중하여 가만히 있다'라는 의미인 ‘섦다' 혹은 ‘원통하고 슬프다'를 뜻하는 ‘섧다'에서 유래됐다는 설. 그러나 ‘섦다'라는 어휘가 존재했는지부터가 의문이고 ‘섧다'는 ‘셟다'로 소급된다. 이 어휘에서 ‘설'이 파생되려면 자음군이 단순화하여 ‘설'이라는 명사가 되었다는 것인데 타당한 설이라고 보이진 않는다.

그렇다면 ‘까치 까치 설날'이라는 노래에서 보이는 ‘까치'는 뭘까? 정말 새 ‘까치'가 설날을 쇠는 것일까?

‘까치설'의 유래에 관한 설 중 가장 정설이라 할 만한 것은 ‘작은설'을 뜻하는 ‘아ㅊㆍㄴ설'에서 유래했단 설이다. 일단 설날의 전날(섣달그믐)을 ‘까치설'이라고 하면 ‘작은설'을 뜻한다고 볼 수 있다. 그러나 ‘까치'와 ‘작다'는 어휘적으로 유의미한 연관성을 찾기 어렵다. 그러니 ‘까치설'의 ‘까치'는 다른 형태가 변형한 것이라 할 수 있다.

‘까치설'이 ‘작은설'을 뜻한다는 전제하에 ‘작은설'의 옛말이 ‘아ㅊㆍㄴ설'이었다는 사실을 보면 ‘까치'는 ‘아ㅊㆍㄴ’에서 변화한 형태라 할 수 있다. 이륜행실도 등의 문헌에서 ‘아ㅊㆍㄴ섯나래'나 ‘아ㅊㆍㄴ설 밤'이라는 기록이 존재한다. ‘아ㅊㆍㄴ’의 어원을 찾아야 하는데 ‘작다' 혹은 ‘적다'를 뜻하는 고어 ‘앛다'를 생각할 수 있다. ‘앛다'는 ‘적다'를 뜻하는 형용사이므로 ‘아ㅊㆍㄴ’은 ‘앛다'의 관형형으로 볼 수 있다. 일단 여기까지는 대부분이 동의하는 설이다.

문제는 ‘아ㅊㆍㄴ’이 어떻게 ‘까치'로 변했냐이다. ‘까치설'이 나오려면 ‘아치설'이 등장한 문헌이 있어야 하는데 그 변화 과정을 문헌에서 찾을 수는 없다. 그러나 구어로 썼던 말이 전해 내려왔다고 보면 ‘아치'가 되고 ‘까치'가 됐으리라 할 수 있을 것이다.

1. ‘아ㅊㆍㄴ’에서 아래아의 제1차 음가소실로 인해 2음절 이하의 ‘ㆍ’이 ‘ㅡ'로 바뀌었는데 ‘아ㅊㆍㄴ’도 이 변화를 겪어 ‘아츤'이 받침의 ㄴ이 탈락하여 ‘아츠'가 된다. 그리고 ‘ㅡ'가 모음 변화를 겪어 ‘ㅣ'로 변했다는 설. 근대국어에서 ㅡ가 ㅣ로 바뀐 경우가 없는 것은 아니니 어느 정도 가능성은 있다.

2. ‘아ㅊㆍㄴ설'이 아니라 ‘앛설'에서 ‘앛'과 ‘설' 사이에 발음을 매끄럽게 하기 위해 ‘ㅡ'가 개입되고 ‘아츠설'이 ‘아치설'이 되었다는 설.

‘아치설'의 ‘아치'는 왜 ‘까치'로 변했을까? 이는 언중의 어원 의식이 멀어지며 ‘까치'와 발음상의 유사성을 발견해 ‘까치'로 ‘아치'를 대체했기 때문이었을 거다. 언중들이 ‘앛다'라는 어휘를 쓰지 않고 점점 ‘아ㅊㆍㄴ’에서 ‘작은'이란 뜻을 찾을 수 없게 되자 명칭의 유사성으로 ‘까치'로 연결시켜 ‘까치설'이 형성되었고 ‘작은설', ‘섣달그믐'과 유의 관계를 형성했다 할 수 있다.