Mavzu: Qidiruv Beam search algoritmi

8 - amaliy ish.

Mavzu: Qidiruv Beam search algoritmi .

Ishdan maqsad: Bu ish orqali talabalarda qidiruv Beam search algoritmi haqida ma`lumot hosil qilishdir .

Masani qo’yilishi: Beam search algoritmi yordamida qidirishni to’gri topish

Uslubiy ko’rsatmalar: Qidiruv Beamsearch algoritmini chuqurlik bo`ylab tarqalish deb atashimiz mumkin. Bu atama birinchi marta Raj Reddy tomonidan Carnegi Mllon Universitetida ishlatilgan. Bu qidiruvda har bir usuldan bir birigia o`tish imkoniyatlari mavjud bo`ladi. Beam search eng yaxshi birinchi qidiruv algoritmlari bo`lib xotiradan joy olishi qisqartirib optimallashtiradi . Beam search qidiruv daraxtidan qidirishda foydalaniladi. Uni ko`plab mashina ishini boshqarishda foydalanamiz. Bu algoritmdan foydalanishda biz natijalarni tezda olamiz , chunki natijalar ham o`zaro bir biriga bog`langan bo`ladi. Beam searchni nurli qidiruv deb tarjima qilamiz. Nurli qidiruv optimallashtirilgan “birinchisining eng yaxshisi” algoritmidir. Orginaliga o’xshab u har bir tugunni evristik baholash funksiyasidan foydalanadi. Biroq, faqat har bir o’tishdagi birinchi eng ko’p istiqbolli m tugun baholanadi. Bu yerda m – fiksirlangan son.

Beam search qidiruv daraxtini qurishda breadth-first search dan foydalanadi. Daraxtning har bir darajasida u holatlarni evristik bahoning o’sish tartibida saralab joriy darajadagi barcha holat davomchilarini ishlab chiqadi. Shunga qaramay, u β – oldindan belgilangan har bir darajadagi eng yaxshi holat nomerini saqlab qo’yadi(nur kengligi deb nomlanadi). Faqat shu holatlar keyingisini kengaytiradi. Eng kata nur kengligi, eng kam holat kesib tashlanadi. “Beam search” atamasini birinchi bo’lib Carnegi Mellon Universitetidan Raj Reddy ishlatgan.

Beam search to’liq qidiruv daraxtini saqlovchi xotiraning nuqsonli yig’iladigan katta tizimlarda itoatkor saqlashda ko’p foydalaniladi. Masalan, u ko’pgina tarjima mashinalarida foydalaniladi. Eng yaxshi tarjimani tanlash uchun har bir qism qo’zg’atiladi va turli xil tarjima yo’llari bilan so’zlar paydo bo’ladi. Ularning gap tuzilishi o’rniga eng yaxshi tarjima qo’shimchasi saqlanadi. Tarjimon keyin berilgan kriteria o’rniga tarjimalarga baho beradi. Beam search birinchi marta 1976-yil Carnegi Mellon Universitetida Harpy nutqni tanish tizimida qo’llanilgan.

Beam search quyidagilarda ishlatiladi:

Integratsiyalashgan dizayn zanjiri

Factory-floor layout

Ishni rejalashtirish

Tarmoqni optimizatsiyalash

Transport yo’nalishini aniqlash

Sayohat uyushtirish muammolarida

Mashinali tarijama qilishda

BEAM SEARCH yordamida ENKODER :

Kodlovchi tarmog'i seq2seq APIga bog'liq emas. U xuddi shu tf.keras API bilan qurilgan. LSTM qatlami kirish qismlarini oladi va seq2seq apida xotira deb ataladigan kodlashni chiqaradi. Bundan tashqari, yakuniy qadam yashirin faollashtirish va yakuniy qadam xotirasini chiqaradi.

BeamSearchDecoder natijalari (tfa.seq2seq.BeamSearchDecoderOutput) predic_ids o'rniga bitta sample_id o'rniga BasicDecoderga tegishli. Ballar joriy vaqt qadamlariga yig'iladi va natijada ko'proq ball hosil qiladigan ketma-ketliklar nur qidirish natijalarini egallaydi. Nurni qidirish uchun ishlash uchun mavjud xulosalar bloki juda kam o'zgarishlarni talab qiladi. Kodlovchi chiqishi nurning kengligigacha plitka bilan o'ralgan va keyin dekoder tarmog'iga beriladi. Xuddi shunday AttentionWrapper ob'ekti ham kirish to'plamining o'lchamini beam_width bilan ko'paytirish orqali ishga tushiriladi.

BeamSeachDecoder



beam_width = 3 bo’lganda ishlayotgan beam search :



Eng yuqori ball to'plagan beam search natijasi (-0.288, -7.808) mos keladigan inglizcha kirish, ya’ni input uchun to'g'ri fransuzcha tarjimalarni chiqaradi.