Jaringan Hopfield: Jaringan Khusus Penyimpanan Memori

Memori adalah salah satu kemampuan terpenting yang dimiliki oleh mahluk hidup. Dengan memori, kita dapat memungkinkan untuk mengingat suatu informasi, baik itu informasi tentang peristiwa, orang, atau objek. Tanpa memori, kita tidak akan dapat belajar, berkomunikasi, atau bahkan bertahan hidup.

Sedangkan jaringan saraf merupakan representasi model matematika dari otak yang memiliki korelasi penting dengan memori. Jaringan saraf sendiri terdiri dari node-node yang saling terhubung, yang mewakili neuron. Dan koneksi antar node memiliki bobot, yang mewakili kekuatan koneksi antar neuron di otak.

Jaringan saraf telah terbukti sangat efektif dalam melakukan berbagai tugas, termasuk pengenalan pola, pemrosesan bahasa alami, dan penerjemahan. Jaringan saraf juga telah digunakan untuk mengembangkan model memori yang realistis.

Memori komputer secara singkat

Memori komputer sangat berbeda dengan memori manusia. Memori komputer disimpan di lokasi fisik, seperti chip RAM di komputer Anda. Setiap lokasi fisik memiliki alamat yang unik. Dan untuk mengakses sepotong data di memori, komputer perlu mengetahui alamat data tersebut.

Memori komputer adalah memori berbasis alamat, artinya setiap memori memiliki alamat unik yang digunakan untuk mengaksesnya. Memori manusia, di sisi lain, adalah memori berbasis konten, artinya setiap memori diwakili oleh pola aktivitas neuron.

Memori dalam Sistem Dinamis

Sistem dinamis adalah sistem yang berubah seiring waktu. Dan jaringan saraf adalah sistem dinamis. Koneksi antar node dalam jaringan saraf menentukan bagaimana aktivitas jaringan berubah seiring waktu.

Memori dalam jaringan saraf dapat dianggap sebagai keadaan stabil dari aktivitas jaringan. Ketika jaringan saraf disajikan dengan stimulus, jaringan tersebut pada akhirnya akan konvergen ke keadaan stabil yang mewakili memori stimulus tersebut.

Misalnya, jika Anda melatih jaringan saraf untuk mengenali wajah kucing, jaringan tersebut akan belajar untuk konvergen ke pola aktivitas tertentu ketika disajikan dengan gambar kucing dan ketika Anda menunjukkan jaringan saraf gambar kucing baru, jaringan tersebut akan konvergen ke pola aktivitas yang sama, jika gambar tersebut cukup mirip dengan gambar kucing yang digunakan untuk melatih jaringan.

Jaringan saraf belajar dengan mengubah bobot koneksinya. Ketika jaringan saraf disajikan dengan stimulus, jaringan tersebut memperbarui bobot koneksinya sehingga aktivitas jaringan konvergen ke keadaan stabil yang benar.

Proses pembelajaran dalam jaringan saraf dapat dianalogikan dengan proses pembelajaran manusia. Ketika kita mempelajari sesuatu yang baru, kita membentuk koneksi baru antara neuron di otak kita. Koneksi ini semakin kuat seiring waktu, dan semakin kuat koneksi tersebut, semakin mudah kita mengingat informasi tersebut.

Kapasitas Memori dalam Jaringan Saraf

Kapasitas memori jaringan saraf ditentukan oleh jumlah koneksi antar node dalam jaringan. Semakin banyak koneksi, semakin banyak memori yang dapat disimpan oleh jaringan. Namun, ada trade-off antara kapasitas memori dan kecepatan pembelajaran. Jaringan saraf dengan lebih banyak koneksi lebih sulit untuk dilatih.

Para ilmuwan masih bekerja untuk mengembangkan jaringan saraf yang memiliki kapasitas memori yang besar dan kecepatan pembelajaran yang cepat. Jaringan saraf tersebut dapat digunakan untuk mengembangkan berbagai aplikasi baru, seperti kecerdasan buatan yang dapat belajar dan mengingat informasi seperti manusia.

Jaringan Hopfield

Jaringan Hopfield merupakan jenis jaringan saraf khusus yang dirancang khusus untuk menyimpan dan mengingat memori yang disimpan. Jaringan Hopfield adalah jaringan saraf berulang, artinya keluaran dari setiap node diumpankan kembali ke masukan node lain.

Jaringan Hopfield dilatih dengan menyimpan memori dalam bobot koneksinya. Setiap memori direpresentasikan sebagai pola aktivitas di seluruh jaringan. Bobot tersebut disesuaikan sehingga jaringan akan konvergen ke salah satu pola ini, dengan memberikan keadaan awal yang cukup dekat dengan pola tersebut. Setelah jaringan dilatih, dapat digunakan untuk mengingat memori dengan menyajikan versi memori yang parsial atau bising. Jaringan kemudian akan konvergen ke pola memori lengkap dan benar.

Cara Kerja Jaringan Hopfield

Jaringan Hopfield adalah jaringan saraf berulang yang dapat digunakan untuk menyimpan dan mengambil memori. Jaringan ini adalah sistem dinamis, artinya aktivitasnya berubah seiring waktu. Jaringan ini terdiri dari neuron, masing-masing dapat berada dalam dua keadaan: aktif atau tidak aktif.

Jaringan belajar dengan menyimpan memori di bobotnya. Setiap memori direpresentasikan sebagai pola aktivitas di seluruh neuron dalam jaringan. Bobot disesuaikan sehingga jaringan akan konvergen ke salah satu pola ini, dengan keadaan awal yang cukup dekat.

Setelah jaringan dilatih, dapat digunakan untuk mengambil memori dengan menyajikan versi parsial atau bising dari memori. Jaringan akan kemudian konvergen ke pola memori lengkap dan benar.

Contoh Jaringan Hopfield

Perhatikan jaringan Hopfield yang telah dilatih untuk menyimpan dua memori berikut:

Memori 1: [1, 1, 1, 1, 1, 1, 1, 1]

Memori 2: [0, 0, 0, 0, 0, 0, 0, 0]

Jika kita memulai jaringan dalam keadaan berikut:

[0, 1, 0, 0, 0, 0, 0, 1]

Jaringan akan konvergen ke Memori 1, karena Memori 1 adalah memori yang paling dekat dengan keadaan awal.

Cara Kerja Jaringan Hopfield Secara Matematika

Jaringan Hopfield adalah sistem dinamis, artinya aktivitasnya berubah seiring waktu. Keadaan jaringan pada waktu t dilambangkan dengan vektor s(t). Persamaan pembaruan untuk jaringan adalah sebagai berikut:

s(t + 1) = f(w * s(t))

dimana:

Kesimpulan

Jaringan Hopfield merupakan alat yang ampuh untuk menyimpan dan mengambil memori. Mereka relatif mudah dilatih dan dapat digunakan untuk menyimpan sejumlah besar memori. Namun, mereka dapat sensitif terhadap noise dan mungkin tidak konvergen ke pola memori yang benar jika keadaan awal terlalu jauh dari pola memori.

Jika Anda tertarik untuk mempelajari lebih jauh mengenai Neural Network, serta ingin menjelajahi lebih dalam tentang data science dan penerapannya dalam industri serta ingin mengubahnya menjadi karir yang cemerlang hingga menjadi #JadiTalentaData, maka Anda dapat mendaftar dalam Bootcamp Algoritma Data Science. Bootcamp ini menyajikan serangkaian program yang akan membimbing Anda untuk memahami seluruh aspek dunia data dalam industri yang Anda minati. Tunggu apa lagi, mari bergabung dengan Algoritma sekarang!