「패러다임의 탄생」 9화, 변칙현상의 등장: 균열은 어디서 시작되는가

1781년, 영국의 천문학자 윌리엄 허셜이 천왕성을 발견했을 때 천문학계는 흥분했습니다. 뉴턴 역학의 승리였습니다. 태양계에 새로운 행성이 있다는 예측이 관측으로 확인된 것이었으니까요. 그런데 시간이 흐르면서 이상한 일이 생겼습니다. 천왕성의 실제 궤도가 뉴턴 역학으로 계산한 예측값과 조금씩 어긋나기 시작한 것입니다. 처음에는 미미한 차이였습니다. 측정 오류일 수도 있었고, 계산 실수일 수도 있었습니다.
천문학자들은 이 불편한 데이터를 어떻게 처리했을까요. 뉴턴 역학을 의심했을까요.
그러지 않았습니다. 대신 그들은 다른 가능성을 탐색했습니다. 천왕성 너머에 아직 발견되지 않은 또 다른 행성이 있어서 중력으로 천왕성의 궤도를 교란시키고 있는 것이 아닐까. 패러다임을 버리는 대신, 패러다임 안에서 해결책을 찾으려 한 것입니다. 그리고 1846년, 그 계산을 통해 해왕성이 예측되고 실제로 발견되었습니다. 뉴턴 역학의 또 다른 개가였습니다.
이것이 정상과학이 변칙현상을 다루는 전형적인 방식입니다. 그런데 항상 이렇게 행복하게 끝나지는 않습니다.

---

변칙현상이란 무엇인가
쿤이 말하는 변칙현상(anomaly)은 단순한 실험 오류나 측정 실수가 아닙니다. 패러다임의 예측과 반복적으로, 지속적으로 어긋나는 현상입니다. 한 번 어긋나는 것은 오류일 수 있습니다. 두 번 어긋나는 것은 우연일 수 있습니다. 그러나 수십 년에 걸쳐 여러 연구자가 독립적으로 같은 불일치를 확인한다면, 이것은 더 이상 오류나 우연으로 처리하기 어렵습니다.
변칙현상의 핵심적인 특징은 처음에는 거의 눈에 띄지 않는다는 것입니다. 패러다임의 안경을 쓴 과학자들에게 변칙현상은 처리해야 할 기술적 문제처럼 보입니다. 계산을 더 정밀하게 하면 해결될 것, 실험 조건을 개선하면 사라질 것, 누군가가 더 똑똑하게 설명해줄 것이라고 여깁니다. 패러다임 자체를 의심하는 것은 맨 마지막 선택지입니다.

---

수성의 근일점 이동
해왕성 발견과 거의 같은 시기, 다른 천문학자들은 수성의 궤도에서도 이상한 점을 발견했습니다. 수성의 근일점, 즉 태양에 가장 가까이 다가오는 지점이 해마다 조금씩 이동하고 있었습니다. 이것도 뉴턴 역학으로 계산한 예측값과 달랐습니다. 차이는 100년에 고작 43초각(秒角)에 불과했습니다. 각도로 치면 0.012도도 안 되는 아주 작은 차이입니다.
천문학자들은 해왕성 때와 같은 방법을 써보려 했습니다. 수성 안쪽에 또 다른 행성이 있는 것이 아닐까. 심지어 "벌컨(Vulcan)"이라는 이름까지 붙여가며 그 가상의 행성을 찾으려 했습니다. 그러나 벌컨은 끝내 발견되지 않았습니다.
이 43초각의 차이는 반세기가 넘도록 미해결 문제로 남아 있었습니다. 뉴턴 역학의 사소한 흠집처럼 보였습니다. 그런데 1915년, 아인슈타인의 일반상대성이론이 이 차이를 정확하게 설명해냈습니다. 100년 넘게 사소한 변칙으로 취급받던 그 작은 숫자가, 사실은 뉴턴 패러다임 전체를 교체해야 한다는 신호였던 것입니다.

---

플로지스톤 이론의 균열
물리학만의 이야기가 아닙니다. 18세기 화학에서도 비슷한 드라마가 펼쳐졌습니다. 당시 화학계를 지배하던 패러다임은 플로지스톤 이론이었습니다. 물질이 탈 때 플로지스톤이라는 물질이 빠져나간다는 이론으로, 당대 최고의 화학자들이 이 틀 안에서 연구했습니다.
그런데 불편한 실험 결과들이 쌓이기 시작했습니다. 가장 당혹스러운 것은 무게의 문제였습니다. 금속을 태우면 재의 무게가 원래 금속보다 무거워지는 현상이 반복적으로 관찰되었습니다. 플로지스톤이 빠져나갔다면 가벼워져야 하는데, 오히려 무거워진 것입니다.
플로지스톤 이론가들은 이 변칙현상을 어떻게 처리했을까요. 플로지스톤의 무게가 음수일 수도 있다는 주장이 나왔습니다. 플로지스톤이 빠져나가면서 오히려 질량이 늘어날 수 있다는 것이었습니다. 지금 보면 황당하지만, 당시 화학자들에게는 패러다임을 포기하는 것보다 이런 임시방편이 더 합리적으로 느껴졌습니다. 패러다임이 제공하는 틀이 그만큼 강력했기 때문입니다.

---

변칙현상은 언제 위기가 되는가
변칙현상이 그냥 변칙현상으로 머무는 경우도 많습니다. 해결되지 않은 채 수십 년간 방치되다가 나중에 후임 과학자들이 풀어내기도 하고, 영원히 미해결 문제로 남기도 합니다. 패러다임은 웬만한 변칙현상에는 흔들리지 않습니다.
그런데 특정 조건이 갖춰질 때 변칙현상은 단순한 미해결 문제에서 "위기"로 격상됩니다. 쿤에 따르면 그 조건은 크게 두 가지입니다. 첫째, 변칙현상이 패러다임의 핵심을 건드릴 때입니다. 사소한 주변부의 문제가 아니라, 패러다임의 가장 중요한 예측과 근본적으로 충돌할 때입니다. 둘째, 변칙현상을 해결하려는 시도가 반복적으로 실패할 때입니다. 가장 뛰어난 과학자들이 도전해도 풀리지 않을 때, 공동체는 서서히 이것이 단순한 퍼즐이 아닐 수도 있다는 불안을 느끼기 시작합니다.
그 불안이 임계점을 넘을 때, 정상과학은 위기의 국면으로 접어듭니다. 다음 화에서는 바로 그 위기의 직전 단계, 즉 정상과학이 한계에 다다르는 순간을 살펴보겠습니다. 아무리 뛰어난 과학자도 풀 수 없는 퍼즐이 쌓여갈 때, 공동체 안에서는 무슨 일이 벌어지는지를 들여다보겠습니다.

---

▶ 10화 예고: 정상과학의 한계 : 풀리지 않는 퍼즐이 쌓일 때, 공동체는 어떻게 흔들리기 시작하는가

---