10·끝. 5차 방정식 연구하다 ‘群論’ 정립 / 갈루아

5차 방정식 연구하다 ‘群論’ 정립… 현대 양자역학 기초가 되다

지난해 갈루아 탄생 200주년 기념 행사에서 사용된 갈루아의 초상화.

권총 결투로 쓰러지는 장면이 얼굴 좌우에 자그맣게 그려져 있다

 

‘시대를 앞서가다 유성(流星)처럼 20대에 요절한 비운의 천재 수학자.’
프랑스 수학자 에바리스트 갈루아(1811∼1832)를 수학계는 이렇게 부른다. 전해지는 그의 초상화는 대부분 남동생 알프레드가 그린 것으로 얼굴에 우수가 가득 묻어난다. 무의미한 권총 결투로 사망하기까지 21년이라는 짧지만 파란만장한 그의 생애는 여러 편의 소설과 영화로도 만들어졌다.

파리에서 남쪽으로 자동차를 타고 20여 분 거리에 있는 소도시 부르라렌. 갈루아의 고향이다. 시의 한쪽 ‘페이자제’ 공동묘지에 있는 아버지 니콜라가브리엘 갈루아의 무덤을 찾아가 보니 니콜라가브리엘의 묘비는 물론이고 ‘수학자 에바리스트 갈루아’라고 적힌 아들의 묘비까지 얹혀 세워져 있었다. 죽은 후 무덤도 찾을 수 없었던 갈루아와 왕정 시대에 공화주의자로 살면서 반대파의 모함과 모욕을 견디지 못해 자살한 아버지, 두 부자(父子)의 굴곡 많은 삶이 상징적으로 비쳤다.

부르라렌 시 정부는 지난해 10월 갈루아의 모교 에콜 노르말 측과 갈루아 탄생 200주년 행사를 개최하는 등 갈루아 기념사업에 적극 나서고 있다. 생가 ‘제네랄 르클레르 54’의 5층집 2층 벽에는 ‘갈루아가 살았다’고 적힌 작은 동판이 부착되어 있다. 시 정부 산하 관광안내소 직원 로제 니콜라 도리에 씨(45)는 “갈루아의 생가는 시가 매입해 기념관 등으로 바꿀 예정”이라고 말했다.

 

아버지 묘 위에 아들 묘비만… 프랑스 파리 남쪽 근교 부르라렌의 ‘페이자제’ 공동묘지에 서있는 갈루아의 ‘묘비’.

이곳은 자살한 그의 아버지 니콜라가브리엘의 무덤이 있는 곳이다. 권총 결투로 사망한 갈루아의 무덤을 찾을 수

없어 아버지의 묘비 위에 그의 묘비를 세워 놓아 ‘부자의 비극’을 보여준다. 부르라렌=구자룡 기자

 

최근 이만근 교수(동양대)와 함께 찾은 부르라렌의 지하철 역 플랫폼에서는 시 정부의 갈루아 기념 자료 전시회가 열리고 있었다. 갈루아가 살면서 거쳤던 주요 장소를 시간순으로 번호를 붙여 표시한 지도에는 그의 삶이 압축돼 있다.

그의 생가, 루이 14세 중고교, 그가 제출한 논문을 두 차례나 분실해 논문 심사를 받을 수도 없게 만들어 좌절을 안긴 프랑스 학사원, 그가 한 손에 칼을 들고 술을 마시다 왕을 모독했다고 모함받아 체포됐던 식당(방당주 드 부르고뉴), 포병대 복장을 입었다가 체포됐던 퐁뇌프, 그가 수감됐던 생트 펠라지와 라 포르스 감옥, 그리고 1832년 5월 30일 결투 다음 날 숨진 코섕 병원 등.

갈루아의 아버지는 부르라렌 시에서 17년간 시장을 지냈다. 그 덕분에 갈루아는 당시 귀족 자제들이 많았던 루이 14세 중고교에 다녔다. 라틴어와 그리스어를 싫어했고 생활기록부에는 ‘품행 불량’이라고 적혀 있다. 모범학생은 아니었던 모양이다. 하지만 ‘1차 대수 방정식에 관한 연구’라는 논문을 낼 정도로 수학에 몰두했다. 한 교사는 “그를 지배하고 있는 것은 수학에 대한 광기”라고 평가했다(‘앵무새의 정리’·드니 게즈). 그는 아드리앵 마리 르장드르(1752∼1833)가 유클리드의 13권짜리 ‘기하학 원론’을 현대화한 수학 이론서를 마치 소설책을 읽듯이 이틀 만에 독파했을 뿐만 아니라 내용 대부분을 이해했다고 전해진다.

갈루아가 17세 때 아버지가 시장직을 내놓고 자살로 생을 마감하면서 그의 인생이 뒤틀리기 시작한다. 집안의 경제적 형편도 급격히 기울었다. 부친 사망 1주일 후 그는 당시 수학 최고 명문 에콜 폴리테크니크에 응시했으나 면접에서 낙방한다. 결국 한 단계 수준이 낮았던 에콜 노르말에 입학한다. 에콜 노르말은 현재는 명문 그랑제콜(고등교육기관) 중 하나다.

그가 왜 낙방했는지에 대해 여러 설이 있다. 천재성을 과신해 시험 준비를 너무 소홀히 했다거나 아버지 사망으로 인한 정서적 불안이 큰 영향을 미쳤을 것이라는 설명도 있다. 하지만 이브 앙드레 에콜 노르말 및 프랑스 국립과학원(CNRS) 교수는 파리 연구실에서 기자를 만나 다른 해석을 내놓았다.

앙드레 교수는 “당시 면접관이 ‘산술 대수에 대해 설명하라’고 질문하자 갈루아는 ‘산술 대수 같은 수학은 없기 때문에 설명할 것도 없다’고 대답해 시험관을 격분시켰다는 설이 있다”고 말했다. 그의 수학적 능력은 이미 면접관들의 수준을 넘어섰다는 것이다.

공화주의자였던 그는 정치적 파동 속에 에콜 노르말에서 제적당한 후 국가방위군 포병대에 가담한다. 하지만 포병대는 공화주의를 지원한다는 이유로 곧 해산됐다. 갈루아는 부대 해산 후에도 여전히 포병대 복장을 입고 다니다 체포돼 옥살이를 했다.

갈루아가 수학자의 길을 걷지 못한 요인에는 몇 가지 황당한 불운이 잇따랐기 때문이라는 얘기들이 거론된다. 그는 에콜 노르말 재학 시절 ‘방정식론’에 대한 논문을 파리 한림원에 보냈는데 심사를 맡은 오귀스탱 루이 코시가 논문 원고를 분실했다. 여기에는 그의 가장 큰 업적 중의 하나로 ‘5차 이상의 방정식의 해(근)는 구할 수 없다’는 내용이 들어 있었다고 한다.

갈루아는 이후 한 단계 발전시킨 이론으로 ‘5차 이상의 방정식 중 대수적으로 풀 수 있는 조건과 아닌 것을 구분하는 필요충분조건을 증명’하는 논문을 프랑스 한림원에 다시 보냈다. 그런데 이번에는 심사관인 조제프 푸리에가 심사 도중 사망하는 바람에 원고가 없어지고 말았다. 푸리에는 보나파르트 나폴레옹의 이집트 원정을 수행한 유명 수학자다.

갈루아는 사망하기 전해인 1831년 프랑스 한림원에 또다시 방정식 등에 대한 논문을 제출했다. 그런데 이번에는 심사를 맡은 수학자 시메옹드니 푸아송이 “전혀 이해할 수 없다”며 받아들이지 않았다. 시대를 앞서간 그의 이론을 당시 수준에선 도저히 이해할 수 없었던 것이다.

갈루아가 수학에서 남긴 가장 큰 업적은 군론(群論·group theory)이다. 군론이란 연산이 정의된 어떤 집합의 수학적 구조를 연구하는 것으로 ‘군’이란 용어도 갈루아가 처음으로 사용했다. 4차 방정식까지는 대수적인 풀이는 알려져 있었지만 5차 이상 방정식의 근의 공식이 있는지는 밝혀지지 않고 있었다. 갈루아는 이 물음에 대한 답을 찾는 과정에서 군론을 도입했다. 군론 등 갈루아의 이론은 현대 수학의 기초가 됐으며 양자역학 등 물리학에도 응용되고 있다.

앙드레 교수는 “갈루아 이론은 문구 이상의 깊이가 있어 글을 읽으면 영감을 얻는다”며 “하지만 아직 완전히 이해되지 않는 구절이 많다”고 말했다.

갈루아의 허무한 죽음을 후대 수학계는 안타까워한다. 그는 사귀던 여성 문제로 동료 공화주의자로부터 결투 신청을 받는다. 상대의 뛰어난 사격 실력을 알았던 갈루아는 결투 전날 자신의 운명을 직감하고 친구 오귀스트 슈발리에 등 지인들에게 작별의 편지를 남기고 자신이 알고 있던 주요 수학 이론 등을 밤새 정리했다. 갈루아는 결투에서 총상을 입고 이튿날 동생이 지켜보는 가운데 쓸쓸하게 세상을 떠났다. 그가 스스로 “무의미한 결투”라고 밝힌 것처럼 목숨을 잃을 것이 뻔한 결투에 왜 꼭 나가야 했는지 등은 여전히 의문으로 남아 있다. 부르라렌=구자룡 기자

 

노르웨이 수학자 아벨 5차 방정식은 해를 구할 수 없다’ 갈루아보다 먼저 증명

 

 

19세기 초 노르웨이 수학자 닐스 헨리크 아벨.

 

에바리스트 갈루아와 노르웨이의 닐스 헨리크 아벨(1802∼1829)은 동시대를 살면서 서로 만난 적은 없지만 충분히 능력을 발휘하지 못한 채 20대에 요절하는 등 비슷한 점이 많았다.

16세기 말 4차 방정식의 해법을 발견한 이래 300년가량 풀지 못했던 ‘5차 방정식’ 문제에 대해 두 사람은 ‘해를 구할 수 없음’을 증명했다. 아벨이 연구 결과를 발표한 이후 갈루아도 독자적으로 증명했다. 갈루아는 5차 이상의 방정식을 대수적으로 풀 수 있는 경우와 없는 경우에 대한 필요충분조건을 찾아내 아벨보다 한발 더 나아갔다고 이만근 교수는 말했다.

아벨과 갈루아가 증명한 것은 스위스의 천재 수학자 에른하르트 오일러도 해결하지 못했던 난제였다. 당대 최고의 수학자였던 카를 가우스는 아벨의 풀이를 거들떠보지도 않았고, 그의 사후 유품 자료에서 처박혀 있던 아벨의 논문이 발견됐다. 가우스는 ‘페르마의 마지막 정리’를 풀 수 없는 문제로 치부했지만 20세기 후반에 풀이가 나온 데 이어, 아벨의 천재성을 알아보지 못했다는 옥에 티를 남겼다.

아벨은 타원 함수에 대한 연구 결과를 프랑스 한림원의 오귀스탱 루이 코시에게 제출했으나 코시는 이를 펼쳐 보지도 않았다. 코시는 갈루아의 중요 논문을 심사도 하지 않고 있다가 분실했던 인물이다.

자신의 능력을 제때에 인정받지 못해 안정적인 일자리를 구하지 못했던 아벨은 프랑스 독일 등지를 떠돌며 가난과 과로에 시달리다 결핵으로 세상을 떠났다. 그가 죽고 이틀 후 그를 베를린대 교수로 채용한다는 초청장이 배달됐다.(책 ‘수학은 아름다워’)

노르웨이 정부는 아벨 탄생 200주년을 기념해 ‘아벨상’을 제정하고 2003년부터 매년 시상해왔다. 일부에서는 이를 수학의 노벨상이라 부르기도 한다. 상금은 약 80만 달러(약 9억3000만 원).

아벨상은 ‘필즈 메달’과 함께 가장 권위 있는 수학상이다. 필즈 메달은 4년마다 열리는 국제수학자대회(ICM)에서 주최 측이 수학 분야별로 주는 상으로 ‘40세 미만’이라는 수상자 연령 제한이 있다. 다음 ICM은 내년 8월 한국에서 처음으로 열린다. 이에 앞서 올 7월 8일에서 15일까지 한국에서 처음으로 국제수학교육대회(ICME)가 열린다. 두 대회가 잇따라 한 나라에서 열리는 것은 한국이 처음이다. <부르라렌=구자룡 기자>