세계적 천재 수학자 이임학을 기억하는 국가의 방식

ㆍ타국서 ‘리군이론’으로 수학 역사 쓴 나…날 버린 조국, 이제 와서 ‘국민’이라 하네

1947년 서울 남대문시장을 지나던 25세 청년이 미군이 버린 것으로 보이는 미국 수학학회지 한 권을 발견한다. 경성제대 물리학과 수석 졸업생인 이 눈 밝은 청년은 당시 미국의 저명한 수학자 막스 초른이 “모르겠다”고 한 문제를 풀어 잡지사에 투고한다. 정부도 수립되지 않은 국가의 무명 청년이 보낸 편지는 2년 뒤 논문 형태로 출간돼 세계 수학계를 놀라게 했다. 청년의 이름은 이임학이었다.
　

잊혀진 천재수학자 이임학 (1922~2005)

 

　
이임학은 훗날 자신의 이름을 딴 ‘리군이론’으로 세계 수학사에 큰 족적을 남긴다. 미래창조과학부는 “광복 70주년 국민의 자긍심을 고취시키기 위한 노력”으로 과학기술 성과 70개를 선정하고 이임학 박사를 소개했다. 이임학은 이승만 정부와 대립해 유학 시절 국적을 박탈당하고 40년 동안 고국에 돌아오지 못했다. 이 내용은 소개되지 않았다. 불편한 것은 지우고 긍정적인 것만 기억하는 역사 서술 방식의 전형이다.

국정교과서 논란이 뜨겁다. 박근혜 대통령은 지난 27일 시정연설에서 “올바른 역사교과서를 통해 국론분열을 막아야 한다”고 말했다. ‘국민의 자긍심 고취’와 ‘통합’을 내세웠다. 미래부의 선정 취지와 동일하다. 이렇게 반쪽만 기억하는 것이 올바른가? 미래부가 이임학을 기억하는 방식은 ‘국민통합을 위한’ 역사 서술의 허상을 고스란히 드러낸다.

헝가리 출신 수학자 폴 에르되시(1913~1996)는 평생 떠돌이로 살았다. 조합론, 그래프 이론, 정수론 등에서 큰 업적을 세운 ‘천재’ 수학자였지만 일정한 집도 직장도 없었다. 한 곳에 머무르지 않고 전 세계에 흩어진 수학자들의 집을 찾아다니며 숙식을 해결하고, 집 주인과 함께 연구하다 연구가 마무리되면 훌쩍 떠났다. 수학사에 길이 남은 1500편가량의 공동연구논문이 이런 식으로 나왔다. 그는 냉전시대 동구권에 속한 헝가리 출신이란 이유 등으로 1950년대 미국 연방수사국(FBI)에서 스파이 혐의로 조사를 받기도 했다. 하지만 그의 방랑벽과 전 세계 수학자들의 환대를 막을 순 없었다. 1980년대 그는 전 세계 어디든지 다닐 수 있는 몇 안 되는 인물이었다. 에르되시는 캐나다 밴쿠버를 방문해 한국계 수학자 이임학을 찾았다. 약속을 지키기 위해서였다. 브리티시컬럼비아대 교수이자 자신의 이름을 딴 이론(리군·Ree群 이론)이 있던 세계 수학계의 거물 이임학은 에르되시가 건넨 봉투를 보고 기쁨의 눈물을 흘렸다.

이임학은 1922년 함흥에서 태어났다. 당시 함흥은 식민지 조선에서 공업이 가장 발달한 도시였다. 그는 어릴 적부터 무언가를 만드는 것을 좋아했다. 철판을 가위로 자르고 코일을 감아서 전기모터나 망원경을 만들었다. 수학 시간에 특히 두각을 나타냈다. 1939년 경성제대 예과에 입학했다. 그때만 해도 이임학은 수학자가 될 생각이 없었다. 수학자가 무엇인지 몰랐고, 경성제대 본과에는 수학과가 없었다. 식민지 교육의 일환으로 설립된 경성제대는 기초학문을 육성하던 일본의 제국대학과 달리 학생들이 가급적 실용학문을 익히도록 유도했다. 이임학은 물리학과에 진학했다. 조선인 학생으로는 보기 드문 선택이었다.

1996년 10월 미국 프린스턴 고등연구소 울펜손홀 앞에서 한국인 교수들과 기념촬영을 한 이임학 교수(가운데). 김동균 고려대 교수 제공

대학시절 이임학은 ‘수학천재’로 조선인 학생들 사이에서 전설 같은 존재였다. 그러나 정작 본인은 그때 공부를 열심히 하지 않았다고 말했다. 물리학보다 예과 시절 마음에 맞던 일본인 교수들을 통해 알게 된 수학에 더 관심이 있었기 때문이다. 식민지 교육에도 불만이 많았다. 수학 강좌가 있었지만 학교가 마음에 들지 않아 독자적으로 공부했다. 대학생에게도 ‘국민교육헌장’의 원조 격인 ‘교육칙어’를 붓으로 써 내라는 과제가 주어지자 강사와 언쟁도 불사했다. 졸업식에도 나가지 않았다. 그는 훗날 한국인 수학자들과 나눈 대담에서 “일본인들은 (친일부호) 박흥식씨의 돈에 관심을 갖고 그 사람 돈으로 조선비행기회사를 만드는 데 관심이 있었다”고 말했다. 그는 졸업 후 조선비행기회사의 제품검사관으로 취업해 2차대전 징집을 피했다.

1946년 경성제대를 이은 국립 서울대학교가 만들어졌다. 이임학은 김지정, 유충호와 함께 수학회의 투표를 통해 수학과 교수로 임용됐지만 ‘국대안 파동’에 휘말렸다. 미 군정은 일제시대 9개 관립 단과대학을 통합해 국립종합대학을 만들고 이사회에 막강한 권한을 줘 운영하게 하는 ‘국립서울대학교설립안’을 발표했다. 학생·교직원들은 이사회에 막대한 권한을 주는 것은 학문의 자유를 침해하고 좌파 계열 학자들을 정리하는 수단으로 사용된다며 격렬하게 반발했다. 미 군정의 대학 정책에 반대하던 이임학은 몇 달 만에 학교를 그만뒀다.

그는 당시 분위기에 대해 “새 학술잡지와 도서가 들어오지 않았다. 대학에서는 사람들이 정치싸움에만 바쁘고 학문과 대학을 돌보지 않았다”라고 말했다. 이 시기에 이임학은 천재성을 발휘한다. 1947년 남대문시장을 지나다 쓰레기더미에서 우연히 미국 수학회지 ‘Bulletin of American Mathematical Society’를 발견했다. 잡지에는 당시 세계적 수학자였던 막스 초른의 논문이 실려 있었다. 이임학은 초른의 논문에서 “모르겠다”고 밝힌 부분을 풀어내 잡지의 편집인에게 편지를 보냈다. 이임학이 보낸 편지는 1949년 미국 수학학회지에 공식 논문으로 실렸다. 이임학의 생애 첫 논문이었다. 또한 한국인 최초로 해외 저명학술지에 실린 논문이었다.

1950년 6월 이임학은 서울에서 전쟁을 맞았다. 한강철교가 폭파되는 바람에 피란갈 시기를 놓친 탓이었다. 이임학은 앞서 서울대를 사임한 뒤 김일성종합대학의 초청을 받아 북한을 방문했다. 그는 방북 기간에 공산주의 북한사회에 반감을 느꼈다. 이때 이임학의 어머니와 누이동생도 서울로 이주했다. 서울에 남은 그의 가족은 전쟁 중에 북한의 요시찰 대상이었다. 어머니가 “임학이는 의용군에 입대했다”고 둘러댔고, 그는 숨어 지냈다. 9월 서울 수복 후 서울은 살벌했다. 인민군 통치 기간에 부역한 사람들을 찾아낸다며 피란가지 못하고 남아있던 시민들을 닦달하고 재판·처형하는 일이 연일 벌어졌다. 이임학은 1·4후퇴 때 인천에서 배를 타고 제주도를 거쳐 부산으로 피신했다.

일러스트 김상민 기자

전쟁 중에도 미국공보원(USIS)에 가서 수학잡지를 살펴봤다. 해외에 나가 제대로 공부해야겠다는 생각뿐이었다. 1953년 캐나다 브리티시컬럼비아대학에 편지로 입학 허가를 받아낸 그는 마침내 증기선을 타고 태평양을 건넜다.

2년 후 이임학은 한국 국적을 박탈당하고 만다. 비자를 연장받으려고 한국 영사관을 방문했다가 여권을 빼앗겼다. 이임학은 당시 “영사관 직원이 ‘당신은 한국에 돌아갈 거라고 생각되어 여권을 없애버렸다’고 말했다”고 기억했다. 공부를 중단하고 한국으로 돌아오라는 압박이었다. 이임학은 밴쿠버에 남아 공부를 계속했고 캐나다 정부로부터 영주권과 시민권을 부여받았다. 북미에서 활동하며 군론(group theory)의 발전에 공헌했다. 1967년 그가 발견한 새로운 집합 2건은 ‘유한단순군의 분류’에 큰 기여를 한 것으로 평가받는다. 그의 이름을 딴 ‘리군이론’이 만들어졌다. 미국 수학 백과사전, 영국 수학사전, 일본 이와나미 수학사전에도 이름이 실렸다. 가장 권위 있는 수학자들의 역사서라고 할 수 있는 디외도네의 저서인 <순수 수학의 파노라마(A Panorama of Pure Mathematics)>에도 역사적인 연구 업적가 21인으로 기록되었다.

이임학 박사의 대표 논문A family of simple groups

이임학은 ‘세계적 수학자’가 됐지만 한동안 조국에 돌아올 수 없었다. 국가의 소환 명령에 불응하고 북한 방문 경험까지 있었기 때문이었다. 캐나다 여권으로 학술교류 차원에서 북한을 방문했지만 남한정부 눈에 곱게 보일 리가 없었다. 이임학은 한국계 기자와의 첫 인터뷰에서 “조선말로 해 주세요. 그러면 생각이 더 잘 난다”고 말한 적 있다. 그에게 조국은 ‘조선’ 하나였다.

1980년대 에르되시가 건넨 봉투에는 그가 그토록 알고 싶어 했던 것들이 들어있었다. 북한에 남은 친척들의 편지와 주소, 사진들이었다. 함흥에 남은 친척들은 이임학의 영원한 마음의 짐이었다. 일제시대 세워진 함흥 일대 군수공장은 전쟁 중 미국의 주 폭격 대상이었다. 흥남철수 당시 빠져나오지 못했던 많은 시민들이 폭격에 의해 희생됐다. 이임학은 틈만 나면 북한 친척들의 생사를 확인하려 했고, 학술교류 등으로 방북할 때마다 알아보려 했지만 당국의 감시로 알아낼 수 없었다. 그래서 자유·공산진영을 모두 다닐 수 있는 에르되시에게 북한 친척들의 소재를 알아봐달라고 부탁했다. 그 부탁을 에르되시가 헝가리 외무성과 평양주재 대사관을 통해 들어준 것이다. 이임학은 너무나 기쁜 나머지 에르되시가 전해준 봉투를 한국의 어머니와 누이동생에게 보냈다. 어머니와 누이동생은 이후 북한과의 서신교환 혐의로 중앙정보부에 불려가 고초를 겪은 것으로 전해진다. 이임학은 훗날 한국을 방문해 적대적 대북정책에 비판을 쏟아냈다.

국가가 버린 수학자였지만 국내 수학계는 이임학을 기억하고 복권하려는 노력을 꾸준히 진행했다. 이임학은 1996년 대한수학회 창립 50주년 기념식에 초청받아 한국에 들어올 수 있었다. 당시 국내 수학자들과 나눈 대담을 바탕으로 그의 수학적 업적과 개인적 이력을 모두 담은 이야기가 대한수학사 1권에 실렸다. 김도한 서울대 명예교수, 이정림 포항공대 명예교수 등 국내 학자들이 해외에서 이임학을 볼 때마다 틈틈이 정리한 것이다. 학계에서는 국적 회복까지 성사시키고 싶었지만 뜻을 이루진 못했다.

이임학은 2005년 타계했다. 정부는 2006년이 되어서야 그를 ‘과학기술인 명예의 전당’에 헌정한다.

2015년 6월 미래창조과학부는 광복 70주년을 맞아 ‘과학기술 대표성과 70선’을 선정해 발표했다. “대한민국 경제 성장의 원동력이 된 우수 과학기술 성과를 널리 알리고 국민의 자긍심을 고취시키기 위한 노력의 일환”이었다. 미래부가 제작한 안내 책자에는 ‘핵심 기술의 내용’, ‘성과와 의의’, ‘국가·사회발전 기여도’, ‘성공 히스토리’로 나눠, 선정된 70인의 기술성과와 개인사가 실렸다. 이임학의 리군이론도 1950년대 대표적인 성과 중 하나로 선정됐다. 리군이론은 산업기술이 아닌 순수수학이론이었지만 ‘핵심 기술’이라고 소개됐다. 1946년 서울대 강의 경력과 교과서 번역 등은 ‘국가·사회발전 기여도’ 항목에 서술했다. 남대문시장에서 우연히 버려진 학술지를 발견해 미 학회지에 논문이 실리기까지의 ‘성공 히스토리’도 소개됐다. 그것이 전부였다. 국적이 박탈되고, 조국에 돌아오지 못하고, 고향 방문과 친척들과의 서신 교환도 제한받은 이임학의 이야기는 없었다. 우리가 역사의 소용돌이에 휘말린 ‘천재’를 기억하는 방식이다.

이임학의 이야기는 ‘과학기술 대표성과 70선’의 하나로 지난 8월부터 국립중앙과학관에서 이달 말까지 전시될 예정이었으나 전시회는 예정 기간보다 일찍 종료됐다.



<참고>

-대한수학회사 1권, <李林學 박사와의 대담>

-대한수학회소식지 100호

<박은하 기자 eunha999@kyunghyang.com>