Parallel computation atau komputasi parallel adalah penggunaan beberapa sumber daya komputasi secara bersamaan untuk memecahkan masalah komputasi. Masalah komputasi harus mampu dipecah menjadi beberapa bagian pekerjaan yang dapat diselesaikan secara bersamaan, dijalankan beberapa intruksi program kapan saja, dan dipecahkan dalam waktu yang lebih singkat dengan beberapa sumber daya komputasi dibandingkan dengan sumber daya komputasi.
Ada
beberapa alasan mengapa harus menggunakan parallel computing, Di alam banyak
peristiwa kompleks dan saling terkait terjadi pada waktu yang sama, namun dalam
urutan temporal. Dibandingkan dengan komputasi serial, komputasi parallel jauh
lebih cocok untuk permodelan, simulasi, dan pemahaman fenomena dunia nyata yang
kompleks. Dengan parallel computing juga dapat memecah masalah yang lebih besar
atau lebih kompleks. Contohnya “Masalah Tantangan Besar” yang membutuhkan
sumber daya komputasi petaflops dan petabyte atau mesin pencari / database web
yang memproses jutaan transaksi setiap detik.
Parallel
computing dapat digunakan dalam berbagai bidang. Dalam bidang sains dan Teknik,
komputasi parallel telah dianggap sebagai “komputasi kelas atas”, dan telah digunakan
untuk memodelkan masalah yang sulit di banyak bidang sains dan Teknik. Dalam bidang
industry dan komersial, komputasi parallel, aplikasi komersial memberikan
pendorong yang sama atau lebih besar dalam pengembangan komputer yang lebih
cepat. Aplikasi ini membutuhkan pemrosesan data dalam jumlah besar dengan cara
canggih.
Konsep dan Terminologi
Arsitektur Von Neumann
Arsitektur
diberi nama setelah matematikawan Hungaria John Von Neumann yang menulis
persyaratan umum untuk komputer elektronik di tahun 1945. Arsitektur tersebut
dikenal juga sebagai “komputer program tersimpan”.
Taksonomi Klasik Flynn
Taksonomi
Flynn merupakan salah satu klasifikasi yang banyak digunakan sejak tahun 1966. Taksonomi
Flynn membedakan arsitektur komputer multi-prosesor yang dapat diklasifikasikan
sepanjang dua dimensi independent Arus Instruksi dan Aliran Data. Flynn
medefinisikan 4 kemungkinan yaitu SISD (Single Instruction stream Single Data
stream), SIMD (Single Intstruction stream Multiple Data Stream), MISD (Multiple
Instruction stream Single Data stream), MIMD (Multiple Instruction stream
Multiple Data stream).
Arsitektur dalam komputasi parallel ada beberapa jenis yaitu : Shared Memory, Distributed Memory, Hybrid Distributed – Shared Memory. Shared memory memiliki karakteristik seperti beberapa prosesor dapat beroperasi secara independent tetapi berbagi sumber daya memori yang sama. Distributed memory memiliki karakteristik umum prosesor memiliki memory lokalnya sendiri. Alamat memori dalam satu prosesor tidak dipetakan ke prosesor lain, jadi tidak ada konsep ruang alamat global di semua prosesor. Hybrid Distributed – Shared Memory, komponen memori terdistribusi adalah jaringan dari beberapa mesin memori / GPU Bersama, yang hanya mengetahui memori sendiri – bukan memori komputer lain. Oleh karena itu, komunikasi jaringan diperlukan untuk memindahkan data dari satu mesin ke mesin lainnya.
