Stochastic Gradient Descent

Keturunan gradien stokastik paling sering digunakan dalam pembelajaran mesin, pembelajaran mendalam, dan ilmu data. Ini adalah algoritma optimasi populer yang digunakan untuk meminimalkan fungsi biaya di bidang ini.

Berikut ini adalah postingan khusus kamus AI Kami yang menjelaskan terkait pembahasan terkait apa itu pengertian, arti, dan akronim, istilah, jargon, atau terminologi Stochastic Gradient Descent berdasarkan dari berbagai jenis macam reference atau referensi relevan terpercaya yang telah Kami rangkum dan kumpulkan, termasuk definisinya menurut ahli.

Gambar Penjelasan Apa Pengertian Arti Stochastic Gradient Descent Dan Definisi Istilah Akronim Atau Jargon Kata Dalam Kamus AI
Ilustrasi Gambar Penjelasan Apa Itu Pengertian Arti Dan Definisi Istilah Akronim Atau Jargon Kata Teknisnya

Pengertian Umum Stochastic Gradient Descent

Stochastic Gradient Descent (SGD) adalah salah satu algoritma optimasi yang digunakan dalam machine learning untuk menemukan nilai parameter yang optimal dari suatu model. Algoritma ini bekerja dengan menghitung gradien dari fungsi objektif terhadap parameter dan memperbarui parameter secara iteratif dengan mengikuti arah gradien yang menurun. Namun, SGD memiliki kelebihan dibandingkan dengan algoritma optimasi lainnya karena mampu mengatasi masalah dengan dataset yang sangat besar dan kompleks.

Definisi Menurut Ahli

Menurut Sebastian Raschka dan Vahid Mirjalili dalam bukunya yang berjudul “Python Machine Learning”, SGD adalah “metode optimasi yang memperbarui parameter model dengan mengikuti arah gradien dari subset acak dari data pelatihan pada setiap iterasi”. Mereka juga menjelaskan bahwa SGD sering digunakan dalam model deep learning karena mampu mengatasi masalah dengan dataset yang sangat besar dan kompleks.

Fungsi Stochastic Gradient Descent

Stochastic Gradient Descent (SGD) adalah algoritma optimasi yang digunakan untuk menemukan nilai minimum dari fungsi biaya dalam machine learning. Tujuannya adalah untuk menemukan parameter model yang optimal dengan meminimalkan fungsi biaya. SGD bekerja dengan menghitung gradien dari fungsi biaya pada setiap iterasi dan mengubah parameter model sedikit demi sedikit untuk mencapai nilai minimum.

Contoh Stochastic Gradient Descent

Contoh penerapan SGD adalah pada model regresi linier. Pada regresi linier, SGD digunakan untuk menemukan nilai parameter yang optimal untuk memprediksi nilai target. SGD akan menghitung gradien dari fungsi biaya pada setiap iterasi dan mengubah nilai parameter sedikit demi sedikit untuk mencapai nilai minimum. Contoh lain dari penerapan SGD adalah pada model neural network, di mana SGD digunakan untuk menemukan nilai bobot dan bias yang optimal untuk memprediksi nilai target.

Rumus atau Formula Stochastic Gradient Descent

Stochastic Gradient Descent (SGD) adalah salah satu algoritma optimasi yang digunakan dalam machine learning untuk menemukan nilai minimum dari fungsi biaya. SGD digunakan untuk memperbarui bobot model secara iteratif dengan menghitung gradien dari fungsi biaya pada setiap sampel data yang dipilih secara acak.

Rumus atau formula SGD adalah:

θ = θ – α * ∇J(θ;x(i);y(i))

di mana:

  • θ adalah vektor bobot model
  • α adalah learning rate, yaitu besarnya langkah yang diambil pada setiap iterasi
  • ∇J(θ;x(i);y(i)) adalah gradien dari fungsi biaya J terhadap vektor bobot θ pada sampel data ke-i dengan fitur x(i) dan label y(i)

Jenis Macam Arti Keturunan Gradien Stokastik dalam Kamus Terjemahan Bahasa Inggris, Indonesia, Jawa, Sunda, dan Malaysia

Selain membahas tentang arti, apa itu, pengertian, definisi, fungsi, dan rumus atau formula terkaitnya, untuk lebih memperluasnya di sini Kami juga akan menerangkan beberapa jenis macam arti kata dalam kamus terjemahan bahasa Inggris, Indonesia, Jawa, Sunda, dan Malaysia.

Agar dapat dengan mudah dipahami, di postingan khusus Kamus AI ini Kami akan menjelaskannya dalam bentuk tabel terjemahan bahasa Inggris, Indonesia, Jawa, Sunda, dan Malaysia sebagai berikut.

Nama Bahasa Terjemahan
Bahasa Inggris Stochastic Gradient Descent
Bahasa Indonesia Keturunan Gradien Stokastik
Bahasa Jawa Keturunan Kecerunan Stomastik
Bahasa Sunda Descent Crush Calak
Bahasa Malaysia Keturunan Kecerunan Stokastik

Beberapa Paper (Artikel Ilmiah atau Makalah) atau Buku yang Terkait dengan Istilah Stochastic Gradient Descent serta Link atau Tautannya

Di bawah ini adalah beberapa jenis macam paper (termasuk artikel ilmiah atau makalah) dan Buku yang berkaitan dengan istilah Stochastic Gradient Descent:

  1. Deep Residual Learning for Image Recognition – https://arxiv.org/abs/1512.03385
  2. Generative Adversarial Networks – https://arxiv.org/abs/1406.2661
  3. Attention Is All You Need – https://arxiv.org/abs/1706.03762
  4. BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding – https://arxiv.org/abs/1810.04805
  5. ImageNet Classification with Deep Convolutional Neural Networks – https://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf

Kesimpulan

Itulah beberapa hal yang dapat Kami jelaskan dalam postingan khusus kamus, glosarium, atau kumpulan istilah kata Stochastic Gradient Descent.

Stochastic Gradient Descent (SGD) adalah salah satu algoritma optimisasi yang paling umum digunakan dalam machine learning dan deep learning. Algoritma ini digunakan untuk menemukan nilai parameter yang optimal dalam model machine learning dengan meminimalkan fungsi biaya. SGD bekerja dengan menghitung gradien dari fungsi biaya pada setiap iterasi dan memperbarui parameter model secara iteratif. Keuntungan dari SGD adalah kemampuannya untuk menangani set data yang besar dan kompleks dengan cepat dan efisien. Selain itu, SGD juga dapat digunakan untuk memperbarui model secara online, yang memungkinkan model untuk belajar dari data yang baru ditambahkan. Oleh karena itu, SGD sangat penting dalam pengembangan model machine learning dan deep learning yang efektif dan efisien.

Penutup

Demikianlah, di atas adalah penjelasan dan penguraian tentang apa itu arti dari akronim, istilah, jargon, atau terminologi Stochastic Gradient Descent.

Semoga kamus, glosarium, atau kumpulan istilah teknis bidang teknologi khususnya Artificial Intelligence, kecerdasan buatan, atau AI yang sudah Kami bagikan di sini dapat bermanfaat serta dapat menambah wawasan para pembaca.

Jangan lupa kunjungi, baca, dan lihat juga pembahasan istilah lainnya di laman Kamus AI Kami.

Sumber (Referensi)

Glosarium Kamus AI ini dibuat berdasar dari simpulan arti definisi dari berbagai referensi terkait (relevan) yang Kami anggap terpercaya termasuk seperti Wikipedia, Deep AI, Open AI, Oxford Technology Dictionary dan beberapa sumber lainnya. Kata Stochastic Gradient Descent ini merupakan salah satu dari kumpulan istilah terkait Deep Learning, Machine Learning, Data Science dalam konteks atau bidang AI yang dimulai dengan awalan atau huruf S. Artikel Kamus AI ini di-update pada bulan Apr tahun 2024.

Tinggalkan Komentar