როგორ ითვლის Lstm პარამეტრების რაოდენობას?
როგორ ითვლის Lstm პარამეტრების რაოდენობას?

ვიდეო: როგორ ითვლის Lstm პარამეტრების რაოდენობას?

ვიდეო: როგორ ითვლის Lstm პარამეტრების რაოდენობას?
ვიდეო: LSTM: Understanding the Number of Parameters 2024, დეკემბერი
Anonim

ასე რომ, თქვენი ღირებულებების მიხედვით. მისი შეყვანა ფორმულაში იძლევა:->(n=256, m=4096), სულ პარამეტრების რაოდენობა არის 4*((256*256) + (256*4096) + (256)) = 4*(1114368) = 4457472. ნომერი წონების არის 28 = 16 (რაოდენობა_ერთეულები * რიცხვი_ერთეულები) განმეორებადი კავშირებისთვის + 12 (შეყვანის_დიმ * რიცხვის_ერთეულები) შეყვანისთვის.

ასევე იკითხა, როგორ იპოვით პარამეტრების რაოდენობას?

რომ გამოთვალეთ შესასწავლი პარამეტრები აქ ყველაფერი რაც ჩვენ უნდა გავაკეთოთ არის უბრალოდ გავამრავლოთ m სიგანეზე, სიმაღლეზე n ფორმაზე და მივიღოთ ყველა ასეთი ფილტრი k. არ დაივიწყოთ მიკერძოების ტერმინი თითოეული ფილტრისთვის. პარამეტრების რაოდენობა CONV ფენაში იქნება: ((m * n)+1)*k), დამატებულია 1 თითოეული ფილტრისთვის მიკერძოებული ტერმინის გამო.

ანალოგიურად, რამდენი ფარული ერთეული აქვს Lstm-ს? ან LSTM ქსელი. ქსელს აქვს ხუთი შეყვანა ერთეულები , ა ფარული ფენა შედგება ორისაგან LSTM მეხსიერების ბლოკები და სამი გამომავალი ერთეულები . მეხსიერების თითოეულ ბლოკს აქვს ოთხი შეყვანა, მაგრამ მხოლოდ ერთი გამომავალი.

შემდგომში, შეიძლება ასევე იკითხოთ, როგორ პოულობთ პარამეტრების რაოდენობას RNN-ში?

1 პასუხი. ერთეულები W, U და V იზიარებენ ყველა საფეხურს RNN და ესენი არიან ერთადერთი პარამეტრები ნახატზე აღწერილ მოდელში. აქედან გამომდინარე პარამეტრების რაოდენობა ისწავლება ვარჯიშის დროს = dim(W)+dim(V)+dim(U). კითხვის მონაცემებზე დაყრდნობით ეს = n2+kn+nm.

რამდენი ფენა აქვს Lstm-ს?

ზოგადად, 2 ფენები აღმოჩნდა, რომ საკმარისია უფრო რთული მახასიათებლების გამოსავლენად. მეტი ფენები შეიძლება უკეთესი იყოს, მაგრამ ასევე რთულია ვარჯიში. როგორც ზოგადი წესი - 1 დამალული ფენა იმუშავეთ მარტივ პრობლემებთან, მაგალითად, და ორი საკმარისია საკმაოდ რთული მახასიათებლების მოსაძებნად.

გირჩევთ: