고2가 되면, 말로만 듣던 그 무시무시한 '미적분'을 배우게된다. 극한, 연속등의 기초개념을 배운 후, 드디어 '미분계수의 정의'라는 이름으로 첫만남을 가지게 되는 것이다:
\[ \frac{df(x)}{dx} = \lim_{h \to 0} \frac{f(x+h)-f(x)}{h} \]
그리고 점점 진도가 나가면서, 한번 미분한것을 \( \frac{d}{dx} f(x) \), 두번 미분한것을 \(\frac{d}{dx} \frac{d}{dx} f(x) = \frac{d^2}{dx^2} f(x)\) 따위로 적으며 슬그머니‘\(\frac{d}{dx}\)’을 하나의 독립된 무언가 취급하기 시작한다[1].
그런데 대학에 가면 이 녀석을 가지고 이상한 짓을 해대기 시작한다. 마치 그것을 행렬처럼 표시하고 다루기 시작하는 것이다. ‘미분방정식’이라는 것을 푸는 과정에서는, 아예 ‘\( \frac{d}{dx} = D \)’ 라두고, 이 숫자도 함수도 아닌 것으로 \(D^2+5D+4=0\)과 같은 이차방정식을 만들고 인수분해까지 한다. 그래도 적어도 여기서는, 그저 생김새가 행렬같이 보이긴하지만 ‘편의상 \(\frac{d}{dx}\)를 \(D\)라 둔다’정도로 생각하면 아무문제가 없다. \(\frac{d}{dx}\)의 역행렬을 구한다거나 전치 (transpose) 하는 일은 없으니, 그저 생각이 ‘\(\frac{d}{dx}\)는 왠지 행렬 같은데?’ 정도 선에서 머무른다.
하지만 문제는 양자역학에서 등장한다. 양자역학에서 ‘운동량연산자 momentum operator \(\hat{p}\)’라는 것은 ‘\(\frac{\hbar}{i}\frac{d}{dx}\)’로 정의되며, 물리학도는 다음과 같은 해괴망측한 식을 보게된다:
\[\hat{p}^\dagger = \left( \frac{\hbar}{i}\frac{d}{dx} \right)^\dagger = \frac{\hbar}{i}\frac{d}{dx}\]
허수, 플랑크상수, dagger (\(\dagger\)) 따위가 나오는데, 이런것들은 필자가 설명하려는 핵심은 아니므로 위 식에서 \(\frac{d}{dx}\)에 관한 수학적 사실만을 나타내면, \(\left( \frac{d}{dx} \right)^T = -\frac{d}{dx}\)라는 것이다.
현대물리는 배우는 과정에서는 납득가지 않는 상황을 수시로 마주하게 된다. ‘미분연산자의 전치행렬이라니!!! 그리고 전치행렬을 취했더니 마이너스가 나온다니!!!’ … 미분방정식에서부너 슬슬 약을 팔다가 어느순간 사기 당한것 같은 기분이다.
하지만 미분연산자는 행렬이다. ‘\(\frac{d}{dx}\)’는정확히 행렬의 역할을 한다. 미분을 처음접했던, 미분계수의 정의로 돌아가서 그것을 찬찬히 살펴보면, 이 사실이 너무나 당연하게 받아들여진다.
아직 영상을 만드는 실력이 부족한 관계로 위 영상에 표현하지 못한부분이 있다. limit를 취한다는 다소 추상적인 개념대신, 그저 ‘충분히 작은 \(h\)에 대해서 수치적으로 미분한다’는 개념으로 다루면 훨씬더 이해가 수월할 것이다. 그리고 그것은 실제로 컴퓨터가 미분하는 방식이기도 하다.
자, 이제 앞서 언급했던 그 '해괴망측한 식'을 다시한번 살펴보자.
\[\hat{p}^\dagger = \left( \frac{\hbar}{i}\frac{d}{dx} \right)^\dagger = \frac{\hbar}{i}\frac{d}{dx}\]
dagger(\(\dagger\)) 라는 것은 행렬의 모든 성분에 포함된 허수 ‘\(i\)’를 ‘\(-i\)’ 로 치환하고 그것의 전치행렬을 구하라는 뜻이다. 행렬앞 분모에 있는 \(i\) 때문에 앞에 마이너스가 하나 나오고, \(\frac{d}{dx}\)의 전치행렬은 그 자신에 마이너스를 붙인것이므로 그 둘이 상쇄되어서 결국 자기자신이 되는것이다. 이렇게, dagger(\(\dagger\))를 취해서 자기자신이되는 연산자를 수학자이름을 따서 ‘Hermitian operator’라 부르는데, 양자역학에서는 관측가능한 물리량이면 모두 이러한 성질을 가진다.
위치와 더불어, 입자의 운동상태를 정의하는 대표물리량인 운동량이 행렬으로 나타내어 진다는 것은 이것이 일반적으로 다른 물리량과 곱해졌을때 그 순서를 바꿀 수 없다는 것을 뜻한다. 일반적으로 두 행렬의 곱은 그 순서를 바꾸었을 때 결과가 같지 않기 때문이다. 위치와 운동량의 곱에도 이러한 성질이 적용되며, 식으로 나타내면,
\[ \hat{x}\hat{p}-\hat{p}\hat{x} \neq 0\]
낯익지 않은가? 불확정성 원리와도 관련이 있는 내용이다. 미분연산자 \(\frac{d}{dx}\)는 그 자체가 행렬의 역할을 하며, 미분방정식을 푼다는것은 주어진 미분연산자에대한 역행렬을 구하는것과 같다.
[1] 필자는 당시, 왜 \(\left ( \frac{d}{dx} \right )^2\)은 \(\frac{d^2}{d^2x^2}\)이 아닌지 궁금했다. 내가 배운 분수개념 하에서는 그랬다. 안타깝게도 여기서는 ‘\(\frac{d}{dx}\)’가 통째로 미분의 역할을 하며, 그속의 알파벳들을 개별숫자처럼 다룰 수는 없다.