시리즈|Introduction to Quantum Physics-3. 양자 얽힘과 EPR 역설

지난 글에서 슈뢰딩거의 고양이 이야기를 마치며 예고했던 대로, 이번엔 아인슈타인이 그토록 불쾌해했다던 그 현상, '양자 얽힘'을 다뤄보려 한다. 아인슈타인은 양자 얽힘을 두고 "유령 같은 원격 작용(spooky action at a distance)"이라 불렀다. 노벨상을 받은, 그것도 빛의 입자성을 증명해 양자역학의 문을 직접 열어젖힌 그 아인슈타인이 정작 양자역학의 어떤 결론에 대해서는 평생 동안 불편해했다는 사실이 흥미롭지 않은가. 대체 얽힘이 무엇이길래 이 위대한 물리학자마저 받아들이길 거부했던 걸까.

양자 얽힘을 이해하기 위해서는 먼저 앞선 글들에서 다룬 중첩 개념을 다시 떠올려야 한다. 회전하는 동전, 기억나는가? 관측하기 전까지 앞면도 뒷면도 아닌, 그 둘이 겹쳐 있는 상태 말이다. 이제 이 회전하는 동전을 두 개 준비해보자. 그리고 이 둘을 아주 특별한 방식으로 엮어놓는다. 어떻게? 바로 "두 동전 중 하나가 앞면으로 멈추면, 나머지 하나는 반드시 뒷면으로 멈춘다"는 규칙을 걸어놓는 것이다.

이제 이 두 동전을 각각 다른 사람에게 하나씩 쥐어준다. 한 명은 서울에, 다른 한 명은 뉴욕에 가서 동전을 펼쳐본다고 하자. 서울에 있는 사람이 동전을 확인해 앞면이 나왔다면, 그 순간 뉴욕에 있는 동전은 —아직 아무도 확인하지 않았음에도— 뒷면으로 확정된다. 심지어 이 정보는 빛보다 빠르게, 사실상 즉각적으로 전달되는 것처럼 보인다. 이것이 바로 양자 얽힘이다. 두 입자가 아무리 멀리 떨어져 있어도, 하나의 상태가 결정되는 순간 나머지 하나의 상태도 동시에 결정되어버리는 기묘한 연결.

물론 이 비유에도 허점은 있다. (앞선 글에서도 밝혔듯, 직관적 이해를 위해 어느 정도의 부정확함은 감수하겠다) 실제로 얽힌 입자는 전자의 스핀이나 광자의 편광 같은 양자적 성질을 공유하며, 두 입자가 생성될 때부터 하나의 파동함수로 묶여 있다. 마치 하나의 동전을 반으로 쪼갠 게 아니라, 애초에 두 동전이 하나의 운명을 공유하도록 태어난 것과 비슷하다.

여기까지만 들으면 그렇게까지 이상할 건 없어 보인다. 마치 장갑 한 켤레를 생각해보자. 왼손 장갑과 오른손 장갑을 각각 다른 상자에 넣고 서울과 뉴욕으로 보낸다면, 서울에서 상자를 열어 왼손 장갑을 확인하는 순간 뉴욕의 상자 안에 오른손 장갑이 들어있다는 사실도 자동으로 알게 된다. 이건 전혀 신기할 게 없다. 애초에 그렇게 정해져 있었을 뿐이니까.

바로 이 지점이 아인슈타인이 물고 늘어진 부분이었다.

1935년, 아인슈타인은 포돌스키, 로젠과 함께 한 편의 논문을 발표한다. 세 사람의 이니셜을 딴 'EPR 논문'이다. 이들의 논리는 크게 두 가지 전제 위에 서 있었다.

첫째는 '국소성(locality)'이다. 특수상대성이론에 따르면 그 무엇도 빛보다 빠르게 정보를 전달할 수 없다. 서울에서 동전을 확인하는 그 순간 뉴욕의 동전이 즉각 영향을 받는다는 것은, 다름 아닌 아인슈타인 자신이 세운 이론에 정면으로 위배되는 이야기였다.

둘째는 '실재성(realism)'이다. 우리가 보든 안 보든, 사물은 이미 확정된 물리적 속성을 가진 채로 존재해야 한다는 지극히 상식적인 믿음이다. 알선 글에서 제시한 달과 관련된 예시가 실재성에 관한 것이다.

이 두 전제를 함께 참이라고 놓으면 결론은 하나로 좁혀진다. 관측 순간 정보가 즉시 뉴욕까지 날아가 영향을 준 게 아니라면(국소성), 그렇다고 애초에 아무것도 정해지지 않았다는 것도 말이 안 된다면(실재성), 남는 설명은 하나뿐이다. 두 동전은 애초에 갈라지던 그 순간부터 이미 각자의 값을 '정해진 채로' 갖고 태어났고, 우리는 그저 나중에야 그 값을 확인했을 뿐이라는 것. 장갑의 비유처럼 말이다. 이를 '숨은 변수 이론(hidden variable theory)'이라 부른다. 즉, 입자는 관측되기 전부터 이미 앞면이든 뒷면이든 결정되어 있었고, 우리는 그저 그 정보를 나중에 확인했을 뿐이라는 주장이다.

즉 아인슈타인은 이렇게 결론 내렸다. 양자역학의 코펜하겐 해석은 무언가 불완전하다고. 실제로는 숨겨진 변수가 존재하며, 우리가 아직 그것을 발견하지 못했을 뿐이라고.

실제로 논문에도 이러한 표현이 나온다. 다음은 EPR 역설 원논문의 초록이다.

In a complete theory there is an element corresponding to each element of reality. A sufficient condition for the reality of a physical quantity is the possibility of predicting it with certainty, without disturbing the system. In quantum mechanics in the case of two physical quantities described by non-commuting operators, the knowledge of one precludes the knowledge of the other. Then either (1)the description of reality given by the wave function in quantum mechanics is not complete or (2) these two quantities cannot have simultaneous reality. Consideration of the problem of making predictions concerning a system on the basis of measurements made on another system that had previously interacted with it leads to the result that if (1) is false then (2) is also false. One is thus led to conclude that the description of realityas given by a wave function is not complete.

이를 한국어로 번역해보자

완전한 이론에는 실재(reality)의 각 요소에 대응하는 요소가 존재해야 한다. 물리량의 실재성을 판단하는 충분조건은 시스템을 교란하지 않고 그 물리량을 확실하게 예측할 수 있는 가능성이다. 양자역학에서 교환되지 않는 연산자(non-commuting operators)로 기술되는 두 물리량의 경우, 하나를 알면 다른 하나를 알 수 없게 된다. 그렇다면 (1) 양자역학에서 파동함수가 제공하는 실재에 대한 기술이 완전하지 않거나, (2) 이 두 물리량이 동시에 실재성을 가질 수 없다. 이전에 서로 상호작용했던 한 시스템에 수행된 측정들을 바탕으로 다른 시스템에 대한 예측을 내리는 문제를 고려해 보면, 만약 (1)이 거짓일 때 (2) 역시 거짓이라는 결과에 도달하게 된다. 따라서 파동함수가 제공하는 실재에 대한 기술은 완전하지 않다는 결론을 얻게 된다.

양자역학은 실재성을 만족시키지 않기 때문에 불완전한 이론이라는 것이다. 완전한 물리 이론이라면 그 시스템에 영향을 끼치지 않으면서 물리량을 측정하고, 예측할 수 있어야 한다. 그러나, 양자역학은 그러한 체계가 구축되어 있지 않기 때문에 양자역학이 불완전하거나 두 물리량이 동시에 실재성을 만족시킬 수는 없다는 것이다. 다만, 2번의 경우 모순임이 분명하기 때문에 양자역학은 불완전하다는 논리이다.

정리하자면 이런 구도다. 코펜하겐 해석 쪽에서는 "관측 전에는 정말 아무것도 결정되어 있지 않다"고 말하고, 아인슈타인 쪽에서는 "아니다, 이미 다 정해져 있었는데 우리가 몰랐을 뿐이다"라고 맞선 것이다. 겉보기엔 두 입장 모두 실험 결과를 똑같이 설명할 수 있어 보인다. 장갑이 든 상자를 열든, 얽힌 전자의 스핀을 측정하든, 결과만 놓고 보면 구별이 안 되니까 말이다. 그렇다면 이건 그냥 철학적인 말장난에 불과한 걸까? 확인할 방법이 없다면 결국 취향의 문제 아닌가?

이 지점에서 등장하는 인물이 바로 존 스튜어트 벨이다.

1964년, 북아일랜드 출신의 물리학자 존 벨은 놀라운 사실을 하나 증명해낸다. 이 두 입장—"숨은 변수가 있다"는 아인슈타인 진영과 "정말로 아무것도 정해져 있지 않다"는 코펜하겐 진영—이 사실은 철학적으로만 다른 게 아니라, 실험으로 구별 가능한 서로 다른 예측을 내놓는다는 것이었다. 이것이 그 유명한 '벨 부등식(Bell's inequality)'이다.

벨 부등식의 수학적 유도 자체는 상당히 복잡하지만, 핵심 아이디어는 이렇다. 만약 아인슈타인의 말대로 입자들이 관측 이전부터 이미 정해진 값(숨은 변수)을 갖고 있었다면, 그 값들 사이의 상관관계에는 일정한 한계, 즉 부등식으로 표현되는 상한선이 존재해야 한다. 반면 양자역학이 예측하는 실제 상관관계는 이 한계를 넘어설 수 있다. 다시 말해, 숨은 변수 이론이 옳다면 상관관계는 절대로 특정 수치를 넘을 수 없는데, 양자역학은 그 수치를 넘는 결과를 예측한다는 뜻이다.

이제 이건 더 이상 말싸움이 아니었다. 실험으로 검증 가능한 문제가 된 것이다. 얽힌 입자쌍을 아주 많이 만들어서, 다양한 각도로 여러 번 측정하고 그 상관관계를 통계적으로 분석하면 된다. 만약 그 값이 벨 부등식이 허용하는 한계 안에 머문다면 아인슈타인이 옳은 것이고, 그 한계를 넘어선다면 코펜하겐 해석이 옳은 것이다.

1970년대와 80년대에 걸쳐, 특히 프랑스의 물리학자 알랭 아스페(Alain Aspect)가 이끈 정교한 실험들이 진행되었다. 결과는 명확했다. 벨 부등식은 깨졌다. 실험으로 측정된 상관관계는 숨은 변수 이론이 허용하는 한계를 명백히 넘어섰고, 오히려 양자역학이 예측한 수치와 정확히 일치했다. 이 공로로 아스페를 비롯한 세 명의 과학자는 2022년 노벨물리학상을 수상하기도 했다.

이것이 의미하는 바는 꽤나 충격적이다. 입자들은 관측되기 전에 미리 정해진 값을 갖고 있지 않다는 것이다. 최소한, 우리가 상식적으로 생각하는 방식의 '숨은 변수'는 존재하지 않는다. 관측이라는 행위가 일어나는 그 순간까지, 정말로 아무것도 결정되어 있지 않았다는 뜻이다. 아인슈타인이 그렇게나 거부하고 싶어 했던 결론이, 그가 세상을 떠난 지 수십 년이 지난 뒤 실험으로 증명되어 버린 셈이다.

물론 여기서 오해하지 말아야 할 것이 하나 있다. 벨 부등식의 위반이 곧 "정보가 빛보다 빠르게 전달된다"는 뜻은 아니다. 얽힌 입자 사이의 상관관계를 이용해 실제로 유의미한 정보(메시지)를 전송할 방법은 없다. 서울에서 아무리 동전을 확인해도, 뉴욕에 있는 사람은 자기 동전을 확인하기 전까지는 서울에서 무슨 일이 일어났는지 전혀 알 수 없다. 두 사람이 나중에 만나 결과를 비교해봐야만 비로소 그 신기한 상관관계를 확인할 수 있는 것이다. 그래서 특수상대성이론과 충돌하지는 않는다. 다만, 우리가 상상했던 것보다 훨씬 더 이상한 방식으로 우주가 작동하고 있다는 사실만은 분명해졌다.

정리해보자. 아인슈타인은 양자역학이 뭔가 빠뜨린 게 있다고, 우리가 아직 발견하지 못한 숨은 변수가 있을 거라고 믿었다. 그는 그것이 상식적이고 합리적인 우주라고 생각했다. 그러나 벨의 부등식과 그 뒤를 이은 실험들은, 우주가 그런 상식적인 방식으로 작동하지 않는다는 것을 보여주었다. 입자들은 정말로 관측되기 전까지는 확정되지 않은 채로 존재하며, 얽힌 두 입자는 아무리 멀리 떨어져 있어도 하나의 운명을 공유한다. 이것이 바로 '비국소성(non-locality)'이라 불리는 양자역학의 또 다른 핵심 특성이다.

돌이켜보면 참 아이러니한 이야기다. 아인슈타인은 양자역학의 허점을 지적하려고 EPR 논문을 썼지만, 오히려 그 논문 덕분에 벨이 검증 가능한 질문을 던질 수 있었고, 결국 그 실험은 양자역학의 손을 들어주었다. 슈뢰딩거의 고양이가 그랬듯, 양자역학을 비꼬기 위한 시도들이 오히려 양자역학을 더 단단하게 만들어준 셈이다.

이 양자 얽힘이라는 현상은 단순히 물리학자들의 흥미로운 논쟁거리로만 남지 않았다. 오늘날 양자컴퓨터, 양자암호통신 같은 기술들이 바로 이 얽힘 현상을 실질적으로 활용하고 있다. 유령 같다고 불렸던 그 원격 작용이, 이제는 차세대 기술의 핵심 자원이 되어가고 있는 것이다.

지금까지의 글들에서 코펜하겐 파와 아인슈타인의 갈등이 계속해서 드러났다. 다음 글에서는 양자역학이 어떤 과정을 통해 성립되었으며 어떤 개념이 언제 어떻게 등장했는지 그 전반적인 흐름을 다뤄보겠다.