비선형 Kohn-Sham 고정점을 안정적으로 찾고 실패의 물리·수치 원인을 구분하기

DFT · PART 3 · 연속적인 양자 방정식을 유한한 계산으로 바꾸는 동안06 / 07

같은 구조와 범함수인데도 어떤 계산은 20회에 끝나고 어떤 계산은 전하가 진동하다 실패합니다. SCF는 단순 반복이 아니라 긴 파장과 자성 불안정을 가진 비선형 고정점 문제입니다.

SCF가 진동하거나 거짓 수렴할 때 무엇을 바꾸고 무엇을 의심해야 할까요?

이번 장의 답출력-입력 밀도 잔차를 전처리하고 이전 반복의 정보를 섞어 안정적인 고정점을 찾습니다. mixing만 조절하기 전에 점유·자성·구조·전하·k-grid가 물리적으로 일관된지 진단해야 합니다.

01SCF를 고정점 문제로 보기

입력 밀도에서 Kohn-Sham 방정식을 풀어 출력 밀도를 만드는 과정을 $F[n]$이라 쓰면 자기일관 해는 $F[n^*]=n^*$를 만족합니다. 잔차 $R[n]=F[n]-n$이 0으로 가야 합니다.

단순히 출력 밀도를 다음 입력으로 사용하면 작은 밀도 오차가 Coulomb 퍼텐셜을 크게 바꾸어 발산할 수 있습니다. linear mixing은 변화량의 일부 $\alpha$만 반영하지만 너무 작으면 느리고 너무 크면 진동합니다.

$$ n_{m+1}=(1-\alpha)n_m+\alpha n_m^{out} $$
가장 단순한 linear density mixing입니다.

02charge sloshing과 preconditioning

금속이나 큰 진공·초격자에서 긴 파장 전하 오차가 셀 한쪽에서 다른 쪽으로 흔들리는 charge sloshing이 생길 수 있습니다. Coulomb kernel이 작은 G에서 크게 작용하기 때문입니다.

Kerker류 preconditioner는 작은 G 성분의 잔차를 감쇠하고 짧은 파장 성분은 더 반영합니다. Pulay/DIIS나 Broyden mixing은 여러 이전 잔차와 밀도 변화를 사용해 역 Jacobian을 근사하여 수렴 방향을 예측합니다.

증상별 첫 진단
  • 에너지가 두 값 사이 진동: mixing 감소·smearing·preconditioner
  • 자기모멘트가 뒤집힘: 초기 스핀·대칭·여러 자기배열 비교
  • 몇 회 만에 수렴하지만 힘 이상: 잔차 기준과 wavefunction 초기화 점검
  • slab 전하가 진공으로 샘: dipole·전하 상태·vacuum potential 점검

03수치 실패 뒤의 물리적 다중해

전이금속·결함·흡착계는 서로 다른 자성·전하·orbital 점유의 국소해가 존재할 수 있습니다. SCF 알고리즘은 주어진 초기조건 근처의 해를 찾으므로 수렴한 해가 가장 낮은 에너지라는 보장은 없습니다.

원자 위치가 비현실적으로 가까운 구조, 잘못된 총전하, 부적절한 pseudopotential, 너무 거친 k-grid를 mixing으로 숨기지 말아야 합니다. 수렴 설정을 조절하기 전 입력 모델과 로그의 band occupation·charge·magnetization을 읽는 습관이 중요합니다.

04이 글의 용어 사전

본문을 읽다가 “그래서 이 말이 정확히 뭐지?”라는 질문이 생기면 여기에서 다시 확인할 수 있습니다.

고정점fixed point
함수에 넣은 입력과 출력이 같은 점으로, SCF에서는 자기일관 밀도입니다.
SCF 잔차SCF residual
출력 밀도와 입력 밀도의 차이 또는 Kohn-Sham 조건의 불일치입니다.
density mixing
이전 밀도와 출력 밀도 또는 잔차를 조합해 다음 SCF 입력을 만드는 방법입니다.
charge sloshing
긴 파장 전하 오차가 반복마다 셀 전체를 가로질러 크게 진동하는 수렴 문제입니다.
preconditioner
잔차의 서로 다른 공간 주파수 성분에 다른 가중치를 주어 수렴을 안정화하는 연산입니다.
국소해metastable SCF solution
SCF 조건은 만족하지만 가능한 전자 상태 중 전역 최저 에너지가 아닐 수 있는 해입니다.

05참고자료와 더 읽을거리

  1. Sholl & Steckel, Density Functional Theory: A Practical Introduction — 평면파 DFT의 이론·수치 설정·재료 응용·AIMD와 정확도를 잇는 이 과목의 중심 교재입니다.
  2. Kohn & Sham, Self-Consistent Equations Including Exchange and Correlation Effects (1965) — 상호작용 전자계를 계산 가능한 유효 독립전자 방정식으로 바꾼 원 논문입니다.
  3. Methfessel & Paxton, High-precision sampling for Brillouin-zone integration (1989) — 금속의 부분 점유와 Brillouin zone 적분을 다루는 대표적인 smearing 방법입니다.
NEXT DFT NOTE수렴검사 설계: cutoff·k-point·초격자·허용오차 →