작성: 25/1/31
오늘은 박사 입학시험이 끝난 날입니다. 제 커리어상 첫 논문이자 석사논문이 arXiv에 올라간 이후로 생각보다 좋은 평가를 받게 된 것 같아 이 싱숭생숭한 기분을 정리해보고자 글을 쓰게 되었습니다. Haagerup이라고 하는 작용소대수에서 중요한 업적들을 다수 낸 수학자의 1975년 석사논문에서 그가 풀지 못하고 남겨놓은 문제를 50년 만에 해결했다는 내용입니다. 논문은 이곳에서 확인할 수 있습니다.
대충 내용의 구조를 간단히 설명해 보자면, 대칭적으로 생긴 네 개의 문제 (1)~(4)가 있고, Haagerup이 그의 논문에서 (1)~(3)을 증명했으나 (4)는 미해결문제로 남겨져 있었습니다. 이 중 (1)이 von Neumann 대수 이론에서 중요한 뼈대 역할을 하고 있어서 유명한 결과이지만, (2)~(4)는 거의 알려져 있지 않았습니다. 문제의 난이도는 대략 (3)<(2)=(1)<(4) 정도입니다. 발상은 다소 어려운 편이라고 생각하지만 문제와 증명을 이해하는 데 필요한 배경지식이 거의 없고 주장도 증명도 스트레이트한 편이라 많은 사람들에게 쉽게 읽힐 수 있는 내용입니다.
문제를 잡게 된 경위의 발단은 석사 2년차 9월 말, 학술진흥회 장학금에 떨어진 날이었습니다. 시모키타자와 스타벅스에서 von Neumann 대수 이론을 복습하던 중에 장학금 결과를 확인하고 분함에 가득 차 뭔가 끄적이다가 우연히 (2)를 증명했습니다. 장학금에 붙었다면 지금 같은 미래로 이어지지 않았을 수도 있다고 생각합니다 ㅎㅎ. 선생님께 이런 것을 증명해 보았는데 혹시 보신 적 있으신지 여쭤보았으나 없다고 하셔서 일단 킵해두기로 했습니다. 아직 Haagerup이 (2)를 이미 50년 전 논문에서 증명했다는 사실을 모르고 있는 채였기도 했지만 제가 보기에도 그렇게 중요해 보이는 문제가 아니라는 생각이 들어 내버려두었습니다. 석사논문 주제를 슬슬 잡아야 하던 시기라 10월 한 달 정도는 그해 1학기에 공부했던 KK이론을 살려 비가환기하의 구체적인 계산 예시를 잡아보려고 하고 있었습니다.
그러다 11월 초 선생님과의 상담에서, 커리어 초기에는 연구의 방향성보다 박사를 졸업할 때 논문을 두 세 편 이상 만들어 본인이 연구가 가능한 사람임을 보이는 쪽이 더 중요하기 때문에 이미 얻은 결과가 있다면 그것을 주제로 삼는 것이 안전해 보인다는 조언에 따라 (2)를 확장하는 방향으로 석사논문주제를 잡게 되었습니다. 그렇게 생각해 보게 된 게 (3)과 (4)였고 (3)은 금방 증명이 되었습니다. 자연스럽게 (4)를 본격적으로 고민하게 되었고, 곧 지옥의 시작이었습니다.
12월은 내내 풀었다고 생각했다가 틀린 것을 발견하는 것의 반복이었습니다. 공부는 하지 않고 문제에만 매달려 있는 기간이 길어질 수록 점점 바보가 되어 간다는 생각이 들었습니다. 클라이맥스는 아마 12월 27일 저녁이었다고 생각합니다. 마지막 스텝만 남았다고 생각해서 산책하며 아이디어를 짜내야겠다 하고 니시신쥬쿠의 빌딩 사이를 돌아다니다가 지금 생각하고 있는 증명전략이 먹힌다면 터무니 없이 약한 조건에서도 증명되어야 한다는 것을 알아챘습니다. 집에 돌아가서 증명을 천천히 살펴 보니 당연히 성립할 거라고 믿었던 부분에서 증명의 틀린 부분을 발견했습니다. 지금까지 써 놓은 증명을 전부 포기해야 했던 상황이라 그냥 공부했던 거 정리해서 석사논문 내야겠다 하던 차에 강한 조건에서만 성립하게 하려면 이렇게 할 수밖에 없겠는데 싶어서 완전히 새로운 방향으로 식을 써봤더니 당황스럽게도 증명이 어찌저찌 돌아가는 것이었습니다. 그 계산에 수정을 거듭하여 12월 30일에 증명을 선생님께 보냈고, 그동안 하도 선생님께 틀린 증명과 수정한 내용을 많이 보낸지라 확신도 갖지 못해서 이번에는 진짜 맞는 것 같은데 하고 다행 반 불안 반인 상태로 석사논문과 박사원서를 준비했습니다. 맞을 것 같다 생각하면 다 틀리는 순수함수해석 정말 힘들구나 싶었습니다.
1월 9일까지 제출해야 하는 박사입학원서에는 (2)~(4)가 오리지널 결과라고 제출해 놓은 상태였습니다. 그리고 같은 달 14일, 석사논문 제출이 이틀 남은 상황에서 인용을 위해 원 논문을 열고 적당히 스크롤하던 중 (2)와 (3)이 이미 Haagerup에 의해 증명되어 있었다는 것을 발견해버리고 맙니다. 덜덜 떨면서 읽어내려가다가 다행히도 (4)는 문제로 남아있었고 바로 선생님께 보고드렸습니다. 보통 이 정도로 유명하고 오래된 논문에 이렇게 단순하게 생긴 문제가 있다면 이미 해결되었거나 엄청나게 어렵거나 둘 중 하나일 가능성이 높아서 정말 큰일 났다 싶었습니다. 바로 당일, 선생님께 이 문제에 잘 알 것 같은 사람 6명에게 물어봤더니 그 중 Thomsen에게 아직 미해결일 것이라는 답장이 왔다는 메일을 받았습니다. 조금 안심하고 있던 차에 다음 날이자 제출 전날인 15일 저녁, 교토대 Ozawa 교수한테 봐달라고 했는데 이상하다고 한다, 는 내용의 메일을 받았습니다. 증명에서 이러이러하다고 말하고 있는 부분이 아마 틀린 명제를 가정하고 있는 것 같다는 코멘트와 함께였습니다. 하하.. 이때 심정은 아 몰라 좀 틀릴 수도 있지 그냥 될 대로 돼라 였습니다. 실제로 증명에 이상한 부분이 있었고 다행히도 증명의 핵심파트는 아니어서 고쳐서 다시 보냈습니다. 이 이후로 17일 Ozawa 선생님이랑 메일을 몇 번 주고 받고 18일 오전 제가 Haagerup의 문제를 풀었다는 것을 믿는다는 내용과 함께 증명을 간단하게 만들 수 있을 것 같다는 코멘트가 담긴 메일을 받았습니다. 그날은 기분 좋아서 다이칸야마에 분위기 좋은 카페 가서 놀았습니다. 그리고 감기에 걸렸습니다.
선생님께도 굉장히 훌륭하고 잘됐다는 메일을 받고 엄청 얼떨떨했습니다. 한 번 맘 크게 먹고 노려보면 어떻겠냐고 제안해주신 저널 리스트도 Duke, GAFA, FMP 정도의 탑저널 바로 아래 단계의 기대조차도 못했던 저널들이어서 제가 꿈을 꾸고 있는 건가 싶었습니다. 순수함수해석 논문이 원래 분량이 적다고는 해도 꼴랑 8페이지, 메인 증명은 한 페이지 반 정도의 논문인데 이런 데에 내도 되는 건가 싶었습니다. 그 이후로는 선생님이 작용소대수의 여러 수학자들에게 제 결과를 알리고 있다 하시며, 뢰벤의 Vaes로부터는 “I am glad to hear that your student solved this problem! I am looking forward to the paper.”, 옥스퍼드의 White로부터는 “I wasn’t aware of this problem, but it sounds very interesting. I’ve put the paper on our groups list to look at in a working seminar.”라는 답장이 왔다는 메일을 보내주셨습니다. 최종적으로 게재 승인이 날지에 대해서는 모르지만, 제 선생님과 Ozawa선생님을 포함하여 현재 작용소대수를 이끌어 가는 축과 같은 분들이 이런 평가를 해주신 것만으로도 기분이 좋고 이상합니다. 여기저기에 저 대신 결과를 자랑해주신 제 선생님께도 어찌할 바를 모를 만큼 너무 감사하고 ‘아, 이렇게 학생들을 서포트하는 거구나’라는 것을 배울 수 있어 너무 좋습니다.
제 성격상으로는 미해결 문제에 도전하며 삶을 망치느니 안전한 길을 확보해서 확실하게 수학에 기여하고 싶다고 생각해왔었기 때문에 이런 종류의 문제일 줄 알았다면 애초에 도전조차 안 했을 것이라 생각합니다. 게다가 대학원에 있는 동안 연구하고자 했던 비가환기하와도 동떨어진 주제였기 때문에 석사논문이 아니었다면 진지하게 파고들지 않았을 것 같습니다. 사실 지금도 과분한 결과라고 생각하고 결과에 대한 기쁨보다는 석사논문을 무사히 끝냈다는 안도감이 더 큽니다. 이번에 해결한 문제도 확장가능성이 희박한 문제이기에 박사과정까지 이어나갈 수는 없는 종류라 스타트를 잘 끊었다는 것에 의의를 두고 앞으로 정말 잘해야겠다는 기분 좋은 프레셔도 느낍니다. 여러 소중한 감정들을 느낄 수 있게 해 준 이곳에 유학을 올 수 있어서 너무 다행이라는 생각을 하는 요즘입니다. 감사함, 감사함, 또 감사함입니다.