Lihat sumber Algoritma Lanczos

'''Algoritma Lanczos''' adalah [[algoritme|algoritma]] iteratif adaptasi dari metode daya (''power method'') untuk menemukan <math>m</math> nilai dan vektor eigen yang "paling berguna" (umumnya yang tertinggi/terendah) dari sebuah [[matriks Hermite]] berukuran <math>n \times n</math>, dengan <math>m</math> tidak perlu jauh lebih kecil dari <math>n</math>. Algoritma ini dirancang oleh [[Cornelius Lanczos]] pada tahun 1950.<ref>{{cite journal|last=Lanczos|first=C.|year=1950|title=An iteration method for the solution of the eigenvalue problem of linear differential and integral operators|url=https://www.cs.umd.edu/~oleary/lanczos1950.pdf|journal=J. Res. Nat’l Bur. Std.|volume=45|issue=|pages=255–282}}</ref> Meskipun secara prinsip metode ini efisien dalam aspek [[komputasi]], metode yang dirancang pada awalnya tidak berguna karena sifatnya yang tidak stabil secara numerik.

Pada tahun 1970, Ojalvo dan Newman menunjukkan cara membuat metode ini stabil secara numerik, dan mengaplikasikannya untuk menemukan mode getaran dari sebuah struktur teknik berukuran besar.<ref name=":0">{{cite journal|last1=Ojalvo|first1=I. U.|last2=Newman|first2=M.|year=1970|title=Vibration modes of large structures by an automatic matrix-reduction method|journal=[[AIAA Journal]]|volume=8|issue=7|pages=1234–1239|bibcode=1970AIAAJ...8.1234N|doi=10.2514/3.5878}}</ref> Hal ini dicapai dengan menggunakan sebuah teknik untuk 'memurnikan' vektor-vektor Lanczos (misal dengan mengortogonalkan secara berulang setiap vektor yang baru ditemukan dengan ''semua'' vektor yang sudah ditemukan)<ref name=":0" /> sampai ke suatu akurasi yang diinginkan. Jika teknik tidak diterapkan, metode akan menghasilkan vektor-vektor yang sangat 'terkontaminasi' oleh vektor-vektor yang berasosiasi dengan frekuensi alami yang rendah.

Dalam karyanya, Ojalvo dan Newman juga mengusulkan cara memilih vektor awal (''starting vector;'' misalnya dengan menggunakan [[Pembangkitan bilangan acak|pembangkit bilangan acak]]), dan mengusulkan metode menentukan nilai <math> m </math> secara empiris (sebaiknya dipilih kurang lebih 1.5 kali dari banyak nilai eigen akurat yang diinginkan). Kontribusi lain diberikan oleh Paige, yang juga memberikan analisis galat untuk metode ini.<ref>{{cite thesis|last=Paige|first=C. C.|title=The computation of eigenvalues and eigenvectors of very large sparse matrices|publisher=U. of London|type=Ph.D. thesis|date=1971|oclc=654214109}}</ref><ref>{{cite journal|last=Paige|first=C. C.|year=1972|title=Computational Variants of the Lanczos Method for the Eigenproblem|journal=J. Inst. Maths Applics|volume=10|issue=3|pages=373–381|doi=10.1093/imamat/10.3.373}}</ref> Pada tahun 1988, Ojalvo memberikan sejarah yang lebih akurat dari algoritma ini, dan sebuah uji galat nilai eigen yang efisien.<ref>{{cite book|last=Ojalvo|first=I. U.|year=1988|title=Proc. 6th Modal Analysis Conference (IMAC), Kissimmee, FL|pages=489–494|chapter=Origins and advantages of Lanczos vectors for large dynamic systems}}</ref>

== Algoritma ==
Algoritma ini memerlukan sebuah [[matriks Hermite]] <math> A </math> berukuran <math> n \times n </math>, dan secara opsional sebuah bilangan <math> m </math> yang menyatakan banyak iterasi yang diinginkan. Jika nilai <math> m </math> tidak ditentukan, umumnya diambil <math> m=n </math>. Sebenarnya, algoritma tidak memerlukan akses ke matriks secara eksplisit, melainkan sebuah fungsi <math>v \mapsto A v</math> yang menghasilkan produk [[perkalian matriks]] dengan vektor. Fungsi ini dipanggil paling banyak <math> m </math> kali. Pada proses iterasi, algoritma rentan terhadap ketidakstabilan numerik. Ketika dieksekusi dalam aritmatika non-eksak (''non-exact arithmetic''), pertimbangan-pertimbangan tambahan harus diambil untuk memastikan validitas hasil (dijelaskan di bagian selanjutnya). Di akhir iterasi, algoritma akan menghasilkan sebuah [[matriks ortonormal]] <math> V </math> berukuran <math> n \times m </math> dan sebuah [[Matriks simetrik|matriks simetrik real]] tridiagonal <math>T = V^* A V</math> berukuran <math> m \times m </math>. Dalam kasus <math> m = n </math>, maka <math> V </math> akan berupa [[matriks uniter]], dan matriks <math> A = V T V^* </math>.

Pada prinsipnya ada empat cara untuk menulis prosedur iterasi. Paige dan karya-karya lainnya menunjukkan bahwa [[urutan operasi]] berikut adalah yang paling stabil secara numerik.<ref name="CW1985">{{Cite book|last1=Cullum|last2=Willoughby|title=Lanczos Algorithms for Large Symmetric Eigenvalue Computations|isbn=0-8176-3058-9|volume=1}}</ref><ref name="Saad1992">{{Cite book|author=Yousef Saad|date=1992-06-22|url=http://www-users.cs.umn.edu/~saad/books.html|title=Numerical Methods for Large Eigenvalue Problems|isbn=0-470-21820-7|author-link=Yousef Saad}}</ref>:

# Anggap <math>v_1 \in \mathbb{C}^n</math> sebagai sebarang vektor dengan [[norma Euklidean]] <math> 1 </math>
# Langkah awal iterasi yang disingkat:
## Tetapkan <math> w_1' = A v_1 </math>.
## Tetapkan <math> \alpha_1 =  w_1'^* v_1 </math>.
## Tetapkan <math> w_1 = w_1' - \alpha_1 v_1 </math>
# Untuk nilai <math> j=2,\dots,m </math>, lakukan:
## Tetapkan <math> \beta_j = \| w_{j-1} \| </math> (juga sebuah [[norma Euklidean]]).
## Jika <math> \beta_j \neq 0 </math>, tetapkan nilai  <math> v_j = w_{j-1} / \beta_j </math>. Namun jika <math> \beta_j = 0 </math>, pilih <math> v_j </math> sebagai sebarang vektor bernorma Euclidean <math> 1 </math> yang ortogonal dengan semua vektor <math> v_1,\dots,v_{j-1} </math>.
## Tetapkan <math> w_j' = A v_j </math>.
## Tetapkan <math> \alpha_j = w_j'^* v_j </math>.
## Tetapkan <math> w_j = w_j' - \alpha_j v_j   - \beta_j v_{j-1} </math>.
# Bentuk matriks <math> V </math> dengan menyusun <math> v_1,\dots,v_m </math> sebagai kolom-kolomnya; dan bentuk matriks<math display="block">T = \begin{pmatrix}
\alpha_1 & \beta_2  &          &             &              & 0 \\
\beta_2  & \alpha_2 & \beta_3  &             &              & \\
         & \beta_3  & \alpha_3 & \ddots      &              & \\
         &          & \ddots   & \ddots      & \beta_{m-1}  & \\
         &          &          & \beta_{m-1} & \alpha_{m-1} & \beta_m \\
0        &          &          &             & \beta_m      & \alpha_m \\
\end{pmatrix}</math>

'''Catatan:''' <math> A v_j = w_j' = \beta_{j+1} v_{j+1} + \alpha_j v_j + \beta_j v_{j-1} </math> untuk <math> 1 < j < m </math>.

Dalam praktiknya vektor awal <math> v_1 </math> dapat dianggap sebagai argumen ''input'' tambahan dari prosedur; sedangkan <math>\beta_j=0</math> dan indikator-indikator galat numerik dapat diikutsertakan sebagai tambahan kondisi penghentian iterasi.

Tanpa menghitung perkalian matriks-vektor, setiap iterasi melakukan <math> O(n) </math> operasi aritmetika. Perkalian matriks-vektor sendiri dapat dilakukan dalam <math> O(dn) </math> operasi aritmetika, dengan <math> d </math> menyatakan rata-rata jumlah elemen bukan nol dalam sebuah baris. Dengan demikian, algoritma Lanczos memiliki total kompleksitas sebesar <math> O (dmn) </math>, atau <math> O (dn^2) </math> dalam kasus <math> m=n </math>; hal ini membuatnya bisa sangat cepat untuk [[matriks rongga]]. Skema-skema untuk meningkatkan stabilitas numerik biasanya dibandingkan dengan kinerja tinggi ini.

Vektor <math> v_j </math> disebut dengan'' vektor Lanczos''. Vektor <math> w_j'</math> tidak digunakan setelah nilai <math> w_j </math> dihitung, dan vektor <math> w_j </math> tidak digunakan setelah <math> v_{j+1} </math> dihitung. Hal ini memungkinkan untuk menggunakan penyimpanan yang sama untuk ketiga vektor tersebut. Begitu juga jika kita hanya ingin mencari matriks tridiagonal <math> T </math>, proses iterasi tidak memerlukan <math> v_{j-1} </math> setelah menghitung <math> w_j </math>; meskipun beberapa skema untuk meningkatkan stabilitas numerik akan membutuhkan vektor ini nantinya. Terkadang vektor-vektor Lanczos yang berikutnya dihitung ulang dari <math>v_1</math> jika diperlukan.

== Aplikasi untuk masalah eigen ==
Algoritma Lanczos paling sering digunakan dalam konteks menemukan [[nilai eigen]] dan [[vektor eigen]] dari sebuah matriks. Namun berbeda dengan[[ diagonalisasi matriks]] yang menghasilkan vektor-vektor eigen dan nilai-nilai eigen terlihat jelas dari pemeriksaan, tridiagonalisasi yang dilakukan algoritma Lanczos memerlukan langkah-langkah tambahan yang nontrivial bahkan untuk menghitung satu nilai atau vektor eigen. Meskipun demikian, menerapkan algoritma Lanczos sering kali merupakan langkah signifikan yang dalam menghitung dekomposisi eigen. Jika <math>\lambda</math> adalah nilai eigen dari <math> A </math> dan <math>x</math> adalah vektor eigen dari <math> T </math> (sehingga <math> T x = \lambda x </math>), maka <math> y = V x </math> adalah vektor eigen yang bersesuaian dari <math>A</math>; karena <math display="block"> A y = A V x = V T V^* V x = V T I x = V T x = V (\lambda x) = \lambda V x = \lambda y.</math>Hal ini mengartikan algoritma Lanczos mengubah masalah dekomposisi eigen matriks <math> A </math> menjadi masalah dekomposisi eigen matriks <math> T </math>.

Terdapat sejumlah algoritma khusus untuk memroses matriks tridiagonal, sering kali dengan kompleksitas komputasi yang lebih baik daripada algoritma yang umum. Misalkan <math>T</math> adalah matriks simetris tridiagonal berukuran <math>m \times m</math>. Beberapa algoritma tersebut diantaranya:

* [[Matriks tridiagonal|Rekursi kontinu]] (''continuant recursion'') memungkinkan komputasi [[polinomial karakteristik]] dengan <math>O(m^2)</math> operasi, dan mengevaluasinya pada sebuah titik dalam <math> O(m) </math> operasi.
* [[Algoritme nilai eigen bagi-dan-taklukkan|Algoritma nilai eigen bagi-dan-taklukkan]] (''divide-and-conquer'') dapat digunakan untuk menghitung seluruh dekomposisi eigen dari <math> T </math> dalam <math> O(m^2) </math> operasi.
* Metode Multipole Cepat<ref>{{cite journal|last1=Coakley|first1=Ed S.|last2=Rokhlin|first2=Vladimir|title=A fast divide-and-conquer algorithm for computing the spectra of real symmetric tridiagonal matrices|journal=Applied and Computational Harmonic Analysis|date=2013|volume=34|issue=3|pages=379–414|doi=10.1016/j.acha.2012.06.003|doi-access=free}}</ref> (''Fast Multipole method)'' yang dapat menghitung semua nilai eigen hanya dengan <math>O(m \log m)</math> operasi.

Beberapa algoritma dekomposisi eigen yang umum, terutama [[algoritme QR|algoritma QR]], diketahui konvergen lebih cepat pada kasus matriks tridiagonal daripada pada matriks yang umum. Kompleksitas asimtotik QR untuk matriks tridiagonal adalah <math>O(m^2)</math>, sama seperti untuk algoritma bagi-dan-taklukkan (meskipun faktor konstantanya mungkin berbeda). Mengingat semua vektor eigen memiliki  <math> m^2 </math> total elemen, algoritma{{Clarify me}} ini optimal secara asimtotik. Bahkan untuk algoritma yang tingkat konvergensinya tidak terpengaruh oleh transformasi uniter (seperti [[metode daya]] dan [[iterasi invers]]), dapat menikmati manfaat kinerja ketika diterapkan ke matriks tridiagonal <math> T </math> daripada matriks asli <math>A</math>. Karena struktur <math> T </math> yang sangat rongga dengan semua elemen bukan nol dalam posisi yang dapat diprediksi, hal ini memungkinkan penyimpanan yang ringkas dengan kinerja yang sangat baik jika dibandingkan dengan menggunakan [[Tembolok (komputer)|tembolok (''caching'')]]. Selain itu, <math> T </math> berupa matriks [[bilangan real |real]] dengan semua vektor eigen dan nilai eigen berupa real, sedangkan matriks <math> A </math> secara umum mungkin memiliki elemen kompleks dan vektor eigen; penggunaan aritmetika real cukup untuk mencari vektor eigen dan nilai eigen dari <math>T</math>.

Jika <math>n</math> sangat besar, nilai <math> m </math> dapat dikurangi sehingga matriks  <math> T </math> yang dihasilkan masih memiliki ukuran yang dapat dikelola. Pengurangan ini masih memungkinkan untuk menemukan nilai eigen dan vektor eigen yang ekstrem dari <math>A</math>. Dalam keadaan <math>m \ll n</math>, algoritma Lanczos dapat dianggap sebagai skema [[kompresi lossy|kompresi ''lossy'']] untuk [[matriks Hermite]], yang mengutamakan meyimpanan nilai-nilai eigen ekstrem.

Kombinasi kinerja yang baik untuk [[matriks rongga]] dan kemampuan untuk menghitung beberapa (tanpa menghitung semua) nilai eigen adalah alasan utama untuk memilih menggunakan algoritma Lanczos.

== Aplikasi ==
Algoritma Lanczos sangat menarik karena perkalian dengan <math> A\, </math> adalah satu-satunya operasi linier berskala besar. Karena mesin pengambilan teks jangka berbobot hanya menerapkan operasi ini, algoritma Lanczos dapat diterapkan secara efisien ke dokumen teks (lihat [[Pengindeksan Semantik Laten]]). Vektor eigen juga penting untuk metode peringkat skala besar seperti [[Algoritma HITS]] yang dikembangkan oleh [[Jon Kleinberg]], atau [[PageRank]] yang digunakan oleh Google.

Algoritma Lanczos juga digunakan dalam [[Fisika Materi Terkondensasi]] sebagai metode untuk menyelesaikan [[matriks Hamilton | Hamiltonians]] dari [[Materi berkorelasi kuat | sistem elektron berkorelasi kuat]],<ref>{{cite journal|last=Chen|first=HY|author2=Atkinson, W.A. |author3=Wortis, R. |title=Disorder-induced zero-bias anomaly in the Anderson-Hubbard model: Numerical and analytical calculations|journal=Physical Review B|date=July 2011|volume=84|issue=4|pages=045113|doi=10.1103/PhysRevB.84.045113|arxiv=1012.1031|bibcode=2011PhRvB..84d5113C}}</ref> serta dalam kode [[model cangkang nuklir | model cangkang]] pada [[fisika nuklir]].<ref>{{cite arxiv|last=Shimizu|first=Noritaka|title=Nuclear shell-model code for massive parallel computation, "KSHELL"|eprint=1310.5431|date=21 October 2013|class=nucl-th}}</ref>

== Implementasi ==
[[Perpustakaan Numerik NAG | Perpustakaan NAG]] berisi beberapa rutinitas<ref>{{ cite web | author = The Numerical Algorithms Group  | title = Keyword Index: Lanczos | work = NAG Library Manual, Mark 23 | url = http://www.nag.co.uk/numeric/fl/nagdoc_fl23/html/INDEXES/KWIC/lanczos.html | accessdate = 2012-02-09 }}</ref> untuk solusi sistem linear skala besar dan masalah eigen yang menggunakan algoritma Lanczos.

[[MATLAB]] dan [[GNU Octave]] hadir dengan ARPACK bawaan. Baik matriks yang tersimpan dan implisit dapat dianalisis melalui fungsi '' eigs() '' ([http://www.mathworks.com/help/techdoc/ref/eigs.html Matlab]/[https://www.gnu.org/software/octave/doc/interpreter/Sparse-Linear-Algebra.html#doc_002deigs Octave]).

Implementasi Matlab dari algoritma Lanczos (masalah presisi catatan) tersedia sebagai bagian dari [https://www.cs.cmu.edu/~bickson/gabp/#download Gaussian Belief Propagation Matlab Package]. The [[GraphLab]]<ref>[http://www.graphlab.ml.cmu.edu/pmf.html GraphLab] {{webarchive|url=https://web.archive.org/web/20110314171151/http://www.graphlab.ml.cmu.edu/pmf.html |date=2011-03-14 }}</ref> perpustakaan pemfilteran kolaboratif menggabungkan implementasi paralel skala besar dari algoritma Lanczos (dalam C ++) untuk multicore.

[http://www.cs.wm.edu/~andreas/software/ PRIMME] perpustakaan juga menerapkan algoritma seperti Lanczos.

== Referensi ==
{{Reflist}}

== Bacaan lebih lanjut ==
* {{cite book |first=Gene H. |last=Golub |authorlink=Gene H. Golub |first2=Charles F. |last2=Van Loan |authorlink2=Charles F. Van Loan |title=Matrix Computations |location=Baltimore |publisher=Johns Hopkins University Press |year=1996 |isbn=0-8018-5414-8 |pages=470–507 |chapter=Lanczos Methods |chapterurl=https://books.google.com/books?id=mlOa7wPX6OYC&pg=PA470 }}
* {{cite paper |first=Andrew Y. |last=Ng |authorlink=Andrew Ng |first2=Alice X. |last2=Zheng |first3=Michael I. |last3=Jordan |authorlink3=Michael I. Jordan |title=Link Analysis, Eigenvectors and Stability |work=IJCAI'01 Proceedings of the 17th international joint conference on Artificial intelligence |volume=Volume 2 |pages=903–910 |date=2001 |url=https://ai.stanford.edu/~ang/papers/ijcai01-linkanalysis.pdf }}

[[Kategori:Algoritme]]
[[Kategori:Komputasi]]