Management and Future Technologies | Volume 2, Issue 3 | № 007

5-rasm. SNRga nisbatan BER va Latency (Gibrid model). Bu natijalar kanal modelining to‘g‘ri tanlanishi aloqa sifati va ishonchliligiga bevosita ta’sir ko‘rsatishini isbotlaydi. Ular yordamida real vaqtli tizimlar uchun uzatish strategiyalarini optimallashtirish mumkin bo‘ladi. Muhokama Tadqiqotdan ko‘rinib turibdiki, real sharoitlarda bir nechta modellashtirish usullarini kombinatsiyalash eng samarali natijalarni beradi. AWGN, Rayleigh, Rician va gibrid modellar turli kanal sharoitlarini o‘rganishda o‘zaro to‘ldiruvchi yondashuvlar sifatida ishlatildi. STK orqali esa fazoviy va geografik sharoitlar, signal qamrovi, latency va SNR grafik asosida aniqlashtirildi. MATLAB yordamida amalga oshirilgan chizmalar aloqa samaradorligining matematik asoslari, NS-3 va Python esa tarmoq darajasida trafik va uzilishlar prediktsiyasi uchun qulay platformalar bo‘lib xizmat qildi. Ayniqsa, gibrid simulyatsiyalar orqali signalning kompleks xattiharakatini, hamda foydalanuvchining harakatlanishi va muhit sharoitlari ta’sirida uzatish sifati qanday o‘zgarishini ko‘rsatish mumkin bo‘ldi. Har bir dasturiy platformaning o‘ziga xos kuchli jihatlari mavjud bo‘lib, tadqiqotning maqsadiga qarab ularni mos va kompleks holda tanlash orqali sun’iy yo‘ldosh aloqasi tizimlarining ishonchliligi va samaradorligini sezilarli darajada oshirish mumkin. Xulosalar Bu natijalar kanal modelining to‘g‘ri tanlanishi aloqa sifati va ishonchliligiga bevosita ta’sir ko‘rsatishini isbotlaydi. Ular yordamida real vaqtli tizimlar uchun uzatish strategiyalarini optimallashtirish, mos modulyatsiya tanlash va adaptiv algoritmlarni joriy etish mumkin bo‘ladi. aloqa sifati va ishonchliligiga bevosita ta’sir ko‘rsatishini isbotlaydi. Ular yordamida real vaqtli tizimlar uchun uzatish strategiyalarini optimallashtirish, mos modulyatsiya tanlash va adaptiv algoritmlarni joriy etish mumkin bo‘ladi. Sun’iy yo‘ldosh aloqa kanallarini modellashtirish zamonaviy raqamli aloqa tizimlarini optimallashtirishda hal qiluvchi ahamiyatga ega. Ushbu maqolada turli yondashuvlar asosida fizik va statistik modellar, dasturiy vositalar va tajriba natijalari tahlil qilindi. Kelajak izlanishlari: - Mashina o‘rganish asosida kanal prognozi; - 5G/6G sun’iy yo‘ldosh integratsiyasi uchun modellar; - O‘zbekiston hududida iqlim sharoitlariga moslashtirilgan kanal modellari; - Kvant aloqa yo‘ldoshlari uchun shovqin va zaiflashuv modellarini ishlab chiqish. 200

1. 2. 3. 4. 5. 6. 7. 8. 9. Adabiyotlar Maral, G.; Bousquet, M. Satellite Communications Systems: Systems, Techniques and Technology, 5th ed.; Wiley: London, UK, 2020. Rappaport, T.S. Wireless Communications: Principles and Practice, 2nd ed.; Pearson: New Jersey, USA, 2010. ITU-R Recommendation P.838-3. Specific attenuation model for rain for use in prediction methods, 2005. ITU-R Recommendation P.840-8. Attenuation due to clouds and fog, 2019. ITU-R Recommendation P.618-13. Propagation data and prediction methods required for the design of Earth-space telecommunication systems, 2017. Sklar, B. Digital Communications: Fundamentals and Applications, 2nd ed.; Prentice Hall: Upper Saddle River, USA, 2001. Arapoglou, P.D.; Liolis, K.; Panagopoulos, A.D.; Cottis, P.G. MIMO over Satellite: A Review. IEEE Communications Surveys & Tutorials, 2020, 22(3), 1895–1927. NS-3 Consortium. NS-3 Documentation. https://www.nsnam.org AGI Systems Tool Kit (STK). Technical Guide – Systems Tool Kit Official Docs. https://www.agi.com/products/stk 201

TABIIY TILNI QAYTA ISHLASHGA ASOSLANGAN SAVOLLARGA JAVOB BERISH YONDASHUVLARI VA ALGORITMLARI TAHLILI Xolmatov Orzumurod Muhammad al-Xorazmiy nomidagi TATU, Sun’iy intellekt kafedrasi E-mail: xolmatov.orzumurod@gmail.com Annotatsiya: Ushbu maqolada savol javob tizimlarini yaratishdagi asosiy yondashuvlar, zamonaviy texnologiyalar, erishilgan natijalar va o‘zbek tilidagi savol-javob tizimini yaratishdagi muammolar haqida so‘z yuritilgan. Kalit so‘zlar: Savol-javob, Sun’iy intellekt, Gibrid yondashuvlar, BERT, T5, GPT. Kirish Savol-javob (SJ) tizimlari avtomatik ravishda tabiiy tilda berilgan savollarga javob berishga qaratilgan [1]. SJ tizimlari g‘oyasi axborot qidirish texnologiyalarida, ayniqsa, kishini qiziqtirgan savol orqali bilimlar bazasiga tabiiy yo‘l bilan murojaat qila olish va so‘rov natijasida qisqa va aniq so‘zlar bilan to‘g‘ri javoblarni olishda e’tiborga molik tomonlarini ko‘rsatadi [2]. Foydalanuvchi yordamchi tizimlardan foydalangan holda o‘ziga kerakli javobni olishi, ayniqsa call markazlarida katta yutuqlarga olib keladi, chunki foydalanuvchi savol orqali vaqtdan, masofadan yutadi. Savollarga avtomatik mantiqiy mos javob beruvchi tizimlarni yaratish bo‘yicha AQSH, Germaniya, Fransiya, Rossiya federatsiyasi, Xitoy va boshqa mamlakatlarda berilgan savollarni tushunishga va unga aniq va to‘g‘ri javob berishga qaratilgan modellar, ma’lumotlar bazasini yaratishga katta e’tibor qaratilmoqda. Jahonda savollarni tushunish, berilgan savolga tushunarli va tog‘ri javobni olish uchun mavjud usul va algoritmlarni takomillashtirish bo‘yicha qator ilmiy tadqiqot ishlari olib borilmoqda. Ushbu sohada turli xil tillar va modellar asosida savollarga javob beruvchi tizimlar ishlab chiqilgan, bunda ma’lumotlar bazalari muhim hisoblanadi. Respublikamizda savol matnlarini tushunish va unga mos ravishta javob berish usullarini rivojlantirish va algoritmlarini ishlab chiqish muammolarini dasturiy vositalar yordamida hal etish yuzasidan ilmiy tadqiqotlar olib borilmoqda. 2017-2021 yillarda O‘zbekiston Respublikasini yanada rivojlantirish bo‘yicha Harakatlar strategiyasida, jumladan «...ilg’or axborotkommunikasiya texnologiyalarini joriy etish va ulardan foydalanish, ilmiy va innovasion yutuqlarini amaliyotga joriy etishning samarali mexanizmlarini yaratish...» vazifalari belgilangan. Ushbu vazifalarni amalga oshirishda biror soha korxonalarida call markazlarida savollarga aniq avtomatik javob beruvchi tizimlarni yaratish, matnlarni tushunish uchun savol-javoblar ma’lumotlar bazasini yaratish, dasturiy vositasini yaratish va joriy qilish muhim masalalardan hisoblanadi. Ishning bog‘liqligi Hozirgi kunda insoniyat hayotida turmush darajasini yengillashtirish uchun axborot texnologiyalaridan foydalanish jadal suratlarda rivojlanib bormoqda. Inson turmushidagi deyarli har bir sohada sun’iy intellekt sohasi qo‘llanilmoqda. Masalan, korxona va tashkilotlarga qo‘ng‘iroqlarga avtomatik javob beradigan tizimlar ishlab chiqilishi, buning natijasida kishilar o‘zlarini qiziqtirgan savollarga javoblarni masofadan turib olishlari, ishchi xodimlar esa ish 202

kunining ko‘p vaqtini qo‘ng‘iroqlarga javob berishi bilan sarflashining oldini olishi mumkin bo‘ladi. Dunyoda OpenAI (ChatGPT, Codex), Google (Google Bard, LaMDA), Microsoft (Bing Chat, Azure A), Amazon(Amazon Lex, Alexa), IBM (IBM Watson Assistant), Meta (BlenderBot, LLaMA) va boshqa ko‘plab kompaniyalar SJ tizimlarini yaratish bilan shug‘ullanib kelmoqda. Ularning aksariyati ingliz tilida ishlash uchun moslashtirilgan. Zamonaviy hisoblash texnologiyalarining yuqori darajada rivojlanishi tufayli turli xil ilovalarda mobil yordamchi tizimlar yaratish imkoniyati paydo bo‘ldi. Bu tizimlar umumiy savollarga javoblar topishi yoki ma’lum bir sohaga oid savollarga javob berishi mumkin bo‘ladi. Savollarga javob berish tizimini birinchi bo‘lib Alan Turing 1950-yilda “Computing Machinery and Intelligence” nomli maqolasida taklif etgan. Ushbu maqolada Turing “mashina fikrlay oladimi?” savolini o‘rtaga tashlagan. Bu savolga javob topish uchun Turing va EHM o‘rtasida muloqotga asoslangan testni taklif qiladi. Testda inson savollarga javob berayotgan mashina yoki inson ekanligini bilmagan holda muloqot olib boradi. Agar savol berayotgan kishi savolga javob berayotgan inson yoki mashina ekanligini ajrata olmasa, EHM fiklay olmoqda deb hisoblanadi. Buning natijasi qoniqarli bo‘lmasada birinchi SJ tizimi yaratish hisoblanadi. Keyinchalik 1966-yilda Joseph Weizenbaum tomonidan yaratilgan ELIZA dasturi dastlabki muvaffaqiyatga erishgan hisoblanadi. Ma’lum bir yo‘nalish bo‘yicha savollarga javob beradigan dastlabki savol-javob tizimlaridan biri 1961-yilda BASEBALL statistikasi asosida berilgan savollarga javob beruvchi tizim ishlab chiqilgan. Ushbu tizimni Green, B., Wolf, A., o‘zlarining "BASEBALL: An Automatic Question Answerer" maqolasida yoritib o‘tgan [3]. Jahonda nutq korpusini shakllantirish, nutq signallariga intellektual ishlov berish, matnlarni tushunish va unga mos javoblarni shakllantirish usullarini ishlab chiqish va takomillashtirish masalalari hamda ularning amaliy qo‘llanilishi bo‘yicha bir qator olimlar tadqiqotlar olib borilgan jumladan Wei Chen., Rabiner L.R., Graves A., Zhang Y., LeCun Y., Bengio Y., Abdel-Hamid O., Grazina K., Mahsa A. K., Aygul G., Mathias K., Jon Ch., Shoaib J., Saichandra P., Sakthi G. M., Muthukrishnan R., Shanmugasundaram H., Hanan Y., Muhammad S., Ali H., Ernesto J., Jens L., P. Singh., O‘zbekistonlik olimlar Komilov M.M., Sodiqov S.S., Musayev M.M., Zayniddinov X.H., Davronov R., Elov B.B., Xujayorov I.Sh., Ochilov M.M., Abdullayeva M.I. va boshqa olimlar katta hissa qo‘shgan. Metadologiya Savol –javob tizimlarini ishlab chiqish va foydalanish maqsadiga ko‘ra ikkita kategoriyaga ya’ni ochiq domenli va yopiq domenli SJ tizimlariga ajratishimiz mumkin (1-rasm). Savol –javob tizimlari kategoriyalari Ochiq domenli savol-javob tizimi Yopiq domenli savol-javob tizimi 1-rasm. Savol javob tizimi kategoriyalari 203

Ochiq domenli savol-javob tizimlari turli mavzularni qamrab oladigan va cheklanmagan ma’lumotlar manbalaridan foydalanuvchi savollariga javob berishga qaratilgan tizimlardir. Ushbu tizimlar foydalanuvchining savolini tahlil qilib, internetdagi veb-sahifalar, ma’lumotlar bazalari yoki boshqa manbalardan kerakli javobni topadi va qayta ishlaydi. Ular ko‘pincha tabiiy tilni qayta ishlashning zamonaviy texnologiyalaridan, masalan, Transformer modellar (BERT, GPT kabi), veb-indeksatsiya algoritmlari va ma’lumotlarni tartiblash usullaridan foydalanadi. Ochiq domenli tizimlarning asosiy afzalligi — ular mavzu va kontekst bo‘yicha keng qamrovli javoblar bera olishidir. Biroq, cheksiz manbalar bilan ishlash zarurati sababli, javoblarning aniqligi va ishonchliligini ta’minlash uchun samarali qidiruv va filtr algoritmlarini qo‘llash muhimdir. Yopiq domenli savol-javob tizimlari ma’lum bir soha yoki mavzu doirasida ishlaydigan va shu sohaga oid savollarga javob berishga ixtisoslashgan tizimlardir. Ular aniq cheklangan ma’lumotlar bazasidan foydalanadi va ko‘pincha sog‘liqni saqlash, huquqshunoslik, ta’lim kabi sohalarda qo‘llaniladi. Masalan, tibbiyot bo‘yicha yopiq domenli tizim faqat kasallik simptomlari, davolash usullari va dori vositalariga oid savollarga javob beradi. Bu tizimlarning samaradorligi belgilangan domen ichidagi ma’lumotlarni chuqur tahlil qilish va optimallashtirilgan qidiruv algoritmlariga bog‘liq. Hozirgi kunda savol-javob tizimlarini yaratish bo‘yicha turli xil yondashuvlar mavjud (2rasm). Savol-javob tizimlarini yaratish bo yicha yondoshuvlar Lingvistik yondashuv Statistik yondashuv Shablonlarga asoslangan yondashuv Sun iy intellektga asoslangan yondashuv Qidiruvlarga asoslangan yondashuv Gibrid yondashuv 2-rasm. Savol-javob tizimlarini yaratishdagi yondashuvlar Lingvistik yondashuv –bu savol-javob tizimi tabiiy tilni tushunish, lingvistika va umumiy bilimlarga asoslanadi. Bilimlar bazasini ishlab chiqarish qoidalari, mantiq, ontologiyalar va semantik tarmoqlar shaklida tashkil etilib, savol-javob juftligini tahlil qilishda qo‘llanilgan [4]. Lingvistik texnikalar (tokenizatsiya, so‘z turkumlarini belgilash va tahlil qilish) savolni aniqroq tuzilgan so‘rovga aylantirish uchun qo‘llaniladi. Biroq, muayyan soha bilimlar bazasidan foydalanishning muammolar mavjud bo‘lib, har bir yangi soha uchun o‘ziga xos qoidalar va grammatikalarni ishlab chiqishni talab qiladi. Bilimlar bazasini yaratish jarayoni ham juda ko‘p vaqt talab qiladi, bu esa ushbu tizimlarni asosan uzoq muddatli ma’lumot ehtiyojlari uchun maxsus sohalarda qo‘llashga olib keladi [5]. Statistik yondashuv – bu juda katta hajmdagi va xilma-xil ma’lumotlarni tahlil qilishga qaratilgan. Ushbu yondashuv tabiiy til shaklidagi so‘rovlarni tuzish uchun strukturalashtirilgan so‘rov tillariga bog‘liq bo‘lmaydi. Statistik modelni o‘rgatish uchun katta hajmdagi ma’lumotlar kerak, lekin o‘rganilgan model yangi sohalarga moslashuvchan bo‘ladi. Shu bilan birga, ushbu yondashuv muhim lingvistik xususiyatlarni aniqlashda qiyinchiliklarga duch keladi[6]. Statistik modellar savol tahlilining turli bosqichlarida muvaffaqiyatli qo‘llanilgan. Masalan, savollarni tasniflash uchun qo‘llaniladigan texnikalarga Support Vector Machine (SVM) klassifikatorlari va 204

Bayesian modellari kiradi. Ushbu usullar savollarni statistik usuldan foydalangan holda foydalanuvchiga kerakli javobni taxmin qiladi [7]. Shablonlarga asoslangan yondashuv – bu oldindan formatlangan savol shablonlaridan foydalanadi. Ushbu yondashuvning asosiy maqsadi savollar va javoblarning tushuntirishiga ko‘proq e’tibor qaratishdir. Shablonlar to‘plami muammo maydonini qamrab olishga mo‘ljallangan bo‘lib, har bir shablon o‘z turidagi savollarning keng doirasini ifodalaydi [8]. Ushbu elementlar andoza ichida to‘ldiriladi va javob ma’lumotlar bazasidan olinadi. Shablon yondashuvi ko‘pincha kichik va o‘rta hajmdagi veb-saytlarda ishlatiladi. Misol uchun, SMS tilini tushunish uchun ishlab chiqilgan savol-javob tizimlarida bu yondashuv muvaffaqiyatli qo‘llanilgan [9]. Qidiruvlarga asoslangan yondashuv –bu uch bosqichdan iborat[10]: Qidiruvlarga asoslangan savol-javob tizimi (IR-based QA system) berilgan savolga javobni olish uchun axborot-qidiruv (Information Retrieval) usullaridan foydalanadi. Ushbu yondashuvda yaratilgan tizim quyidagi bosqichlarni amalga oshiradi[3-rasm]: Savolni tahlil qilish Savolni tahlil qilish Muhim kalit so zlar, iboralar va nomlangan ob yektlar aniqlanadi. Savolga asoslangan holda qidiruv so rovlari yaratiladi. Qidiruvlarga asoslangan yondashuv Javoblarni qidirish Manbaadan muhim ma lumotlar qidiriladi. Ma lumotlar qidiruv tizimining aniqlik va to liqlik shartiga ko ra tartiblanadi. Topilgan matnlar ichidan savolga mos keluvchi javoblar ajratib olinadi. Javoblarni aniqlash Javoblar foydalanuvchiga taqdim etiladi. 3-rasm. Qidiruvlarga asoslangan yondashuv Sun’iy intellektga asoslangan savol-javob tizimlari - bu foydalanuvchilarga tabiiy til orqali muloqot qilish imkonini beruvchi ilg‘or texnologiyalardan biridir. Ushbu tizimlar sun’iy intellekt (SI), tabiiy tilni qayta ishlash (NLP) va mashinali o‘qitish (MO‘) texnologiyalarini birlashtirib, foydalanuvchilar tomonidan berilgan savollarga aniq va tegishli javoblarni taqdim etadi. Hozirgi kunda SJ tizimlarini yaratishda keng qo‘llanilayotgan texnologiyalardan biri hisoblanadi. SJ 205

tizimilarini yaratish mumkin bo‘lgan suniy intellekt texnologiyalari talaygina, ushbu maqolada SJ tizimlarni yaratishda eng ko‘p foydalaniladigan arxitektura va modellarni keltirib o‘tilgan(4-rasm). SJ tizimlarida qo llanilgan arxitektura va modellar BERT GPT ALBERT T5 DistilBERT UnifiedQA RoBERTa XLNet ELECTRA 4-rasm. SI da SJ tizimlarini yaratishda qo‘llaniladigan modellar BERT (Bidirectional Encoder Representations from Transformers): BERT modeli katta matn korpusida oldindan tayyorlangan ma’lumotlarni o‘qitish SJ tizimlaridagi vazifalarida asosiy ro‘l o‘ynaydi. Bu modelda RoBERTa, DistilBERT, ALBERT kabi turlarga ega bo‘lib, SJ tizimlarida yuqori natijalarga erishish bilan harakterlanadi[11]. BERT modeli, 2018 yilning oxirida Google tomonidan taqdim etilgan va o‘zida ko‘proq aniq tushunchalar asosida bo‘lgan boshqa bir nechta tarjimalarni o‘z ichiga olgan “Transformer”ga asoslangan katta modeldir. BERT, o‘zini “pretrained” model sifatida xarakterlashtiradi, bu esa modelning o‘zi katta korpuslardagi millionlab matnlarni o‘rganib olishi va ularning sintaksis va semantikasini aniqlashga qodir bo‘lishini anglatadi. XLNet modeli BERT modelida qo‘llaniladigan ikki yo‘nalishlilik g‘oyasini kengaytiradi. U BERT ning ba’zi cheklovlarini, masalan, o‘zgartirilgan kiritish ketma-ketligini boshqarishga qodir emasligi muammosini hal qiladi va SJ sohalarilarida istiqbolli natijalarni ko‘rsatdi[12]. T5 (Text-to-Text Transfer Transformer) bu barcha NLP vazifalarini matndan matnga muammo sifatida qayta ko‘rib chiqadi. Bu shuni anglatadiki, kirish va chiqishlar matn satrlari sifatida taqdim etiladi. Turli vazifalarni bitta model ostida birlashtirgan holda, T5 SJ va boshqa turli vazifalar uchun ishlatilishi mumkin[13]. ALBERT BERTning o‘zgartirilgan versiyasi bo‘lib, unumdorlikni saqlab turganda parametrlar sonini kamaytiradi. U parametrlarni almashish usullaridan foydalanadi va samaraliroq o‘qitish jarayoniga ega bo‘lib, uni tezroq va xotiraga qulayroq qiladi[14]. ELECTRA (Efficiently Learning an Encoder that Classifies Token Replacements Accurately) bu tokenlarni bashorat qilish o‘rniga ularni almashtirishga qaratilgan oldidan maqsadni qo‘llaydigan model. Ushbu yondashuv hisoblash jihatidan samaraliroq va turli NLP vazifalari, shu jumladan SJ bo‘yicha raqobatbardosh ishlashni ko‘rsatdi [15]. 206

DistilBERT BERTning kichraytirilgan versiyasi bo‘lib, u kichikroq model o‘lchamiga ega bo‘lgan holda o‘zining yuqori natijalar bilan ishlashini saqlab qoladi. Uni o‘qitish va tadbiq etish tezroq bo‘lib, uni resurslar cheklangan muhitlar uchun yaxshi natijalar beradi [16]. RoBERTa (Robustly optimized BERT approach): RoBERTa bu BERT modelining koʻproq oʻquv maʼlumotlari, kattaroq oʻlchamlari va uzoqroq oʻquv vaqtlari bilan optimallashtirilganidir. Turli NLP mezonlarida BERTga nisbatan sezilarli yutuqlarga erishdi [17]. UnifiedQA - bu bir nechta SJ ma'lumotlar to‘plamini birlashtiruvchi keng ko‘lamli ma’lumotlar to‘plami va modeli. Model ushbu birlashtirilgan ma’lumotlar to‘plamlari bo‘yicha o‘qitilgan va turli SJ mezonlari bo‘yicha samarali hisoblanadi [18]. GPT-3 (Generative Pre-treninged Transformer) - bu boshqa ko‘plab SJ vazifalarini bajarishi mumkin bo‘lgan katta til modeli. U SJ tizimlari uchun maxsus ishlab chiqilmagan. Gibrid yondashuvlarga asoslangan savol-javob tizimlari – bu tizim foydalanuvchi tomonidan berilgan savollarga to‘g‘ri javob berish uchun turli xil texnikalar va yondashuvlarni birlashtirgan tizimlardir [19]. Har bir yondoshuv bo‘yicha turli xil aniqlikga erishilgan jumladan, Chung H va boshqalar “A Practical QA System in Restricted Domains. ” nomli maqolasida lingvistik yondashuv asosida 85%, Anita Hembram va boshqalar “Disease prediction based on drug reviews using TF-IDF in natural language processing” nomli maqolasida statistik yondashuv asosida 90%, Mahsa Abazari Kia va boshqalar “Adaptable Closed-Domain Question Answering Using Contextualized CNN-Attention Models and Question Expansion” maqolasida gibrid yondashuv asosida 95.5%, Nabeel Neamah va Saidah Saad “Question answering system supporting vector machine method for hadith domain” nomli maqolasida statistic yondashuv asosida 80%, Wenfeng Zheng va boshqalar “PAL-BERT: An Improved Question Answering Model” nomli maqolasida chuqur o‘qitishga asoslangan yondashuvda 81.5%, Saichandra Pandraju va Sakthi Ganesh Mahalingam “Answer-Aware Question Generation from Tabular and Textual Data using T5” nomli maqolasida 72.78%, Unger C va boshqalar “Template-based question answering over RDF data” nomli maqolasida 61%, Vladimir Karpukhin va boshqalar “Dense passage retrieval for open-domain question answering” nomli maqolasida qidiruvlarga asoslangan yondashuv asosida 94.1% aniqlikga erishganliklarini bildirishgan. Savol-javob tizimi arxitekturasi SJ tizimlari yaratishdan maqsad, foydalaniladigan texnologiyaga qarab, har bir tizim uchun alohida arxitektura qo‘llaniladi. Ushbu bo‘limda umumiy savol-javob tizimini ifodalash arxitekturasi tasvirlanadi(5-rasm) [20]. Ma lumotlarni to plash Ma lumotlarga dastlabki ishlov berish Ma lumotlarni taqdim etish Modelni tanlash Modelni o rgatish Sinov va baholash Modelni takomillashtirish Amaliyotga tadbiq etish 207

5-rasm. Umumiy savol-javob tizimi ifodalash arxitekturasi Ma’lumot to‘plash bosqichi eng murakkab bosqichlardan hisoblanib, ma’lumotlarni yig’ishni o‘z ichiga oladi. Buning asosiy ma’lumotlar manbai muayan amaliy masalani hal qilish uchun zarur bo‘lgan ma’lumotlarni o‘z ichiga olgan obyekt tushuniladi. Ma’lumotlarni to‘plash matn yoki hujjatlar shaklida katta hajmdagi ma’lumotlarni to‘plash bilan boshlanadi. Bu ma’lumotlar kitoblar, internet saytlardan, maqolalar, tez-tez so‘raladigan savollar va boshqalar kabi turli manbalardan bo‘lishi mumkin. Savol-javob tizimlarini yaratish uchun ochiq domenli va yopiq domenli savol javob tizimlarini yaratish uchun turli tillarda ma’lumotlar to‘plamlari yaratilgan. Ba’zi ma’lumotlar to‘plamini quyidagi 1-jadvalda ko‘rish mumkin. 1-jadval. Savol javob tizimlarini yaratish uchun turli tillarda ma’lumotlar to‘plamlari Maqola nomi (Muallif, Maqola Kategor Dataset nomi Til Data hajmi nomi, Yil) iya SQuAD Stanford University NLP Group, SQuAD: 100,000+ Questions for Machine Comprehension of Text, 2016 Natural Questions (NQ) Google Research Team, Natural Questions: A Benchmark for QA Research, 2019 Inglizcha 100,000+ savol-javob juftligi Ochiq domen Inglizcha 300,000+ savollar Ochiq domen TriviaQA Joshi et al., TriviaQA: A Large Scale QA Dataset, 2017 Inglizcha 650,000+ savol-javob juftligi Ochiq domen QuAC Choi et al., QuAC: Question Answering in Context, 2018 Inglizcha 14,000+ muloqot Ochiq domen GeoQuestions (GQA) Chen Wei, GeoQA: A Geographic Question Answering Dataset, 2014 Inglizcha 800 savoljavob juftligi Yopiq domen LC-QuAD Trivedi et al., Large-Scale Complex Question Answering Dataset, 2018 Inglizcha 5,000 savoljavob juftligi Yopiq domen GeoNames Dataset GeoNames Contributors, GeoNames Data Reference, Ongoing Ko'p tilli Koordinatalar va joy nomlari Yopiq domen CoQA Reddy et al., Conversational Question Answering Dataset, 2018 Inglizcha 127,000 savoljavob juftligi Ochiq domen TyDi QA Clark et al., TyDi QA: Multilingual Question Answering, 2020 11 til 200,000+ savol-javob Ochiq domen 208

juftligi WebQuestions Berant et al., WebQuestions: QA Dataset from Freebase, 2013 Inglizcha 6,000 savol Ochiq domen ComplexWebQ uestions Talmor et al., ComplexWebQuestions Dataset, 2018 Inglizcha 34,000 murakkab savol Yopiq domen BioASQ Tsatsaronis et al., BioASQ: Biomedical QA Dataset, 2015 Inglizcha 10,000 savoljavob juftligi Yopiq domen DROP Dua et al., DROP: Discrete Reasoning Over Paragraphs, 2019 Inglizcha 96,000 savol Ochiq domen FQuAD d'Hoffschmidt et al., French Question Answering Dataset, 2020 Fransuzc ha 25,000+ savol- Ochiq javob juftligi domen KorQuAD Lim et al., Korean Question Answering Dataset, 2018 Koreysch a 70,000+ savol- Ochiq javob juftligi domen MLQA Lewis et al., Multilingual Question Answering, 2020 7 til 46,000+ savol- Ochiq javob juftligi domen XQuAD Artetxe et al., Cross-lingual Question Answering Dataset, 2020 11 til 2400 savol Ochiq domen TydiQA Clark et al., TyDi QA: Multilingual Question Answering, 2020 11 til 200,000+ savol-javob juftligi Ochiq domen Turli xil tillarda matnlarni tushunish, savol-javob tizimini yaratish uchun ma’lumotlar to‘plami yaratilgan bo‘lsada, hanuzgacha ko‘plab tillarda bunday ma’lumotlar to‘plami mavjud emas, jumladan o‘zbek tilida savol-javob tizimlarini yaratish uchun ma’lumotlar to‘plamini hosil qilish masalasi yechilmagan. Agar birorta soha uchun yopiq domenli SJ tizimi yaratilayotgan bo‘lsa o‘sha sohaga doir maxsus SJ juftliklaridan iborat ma‘lumotlar to‘plamini yaratib olishni talab etadi. Ma’lumotlarga dastlabki ishlov berish bosqichida yaratilayotgan SJ tizimining aniqlilik darajasini oshirish maqsadida to‘plangan matnlar ichida matn ma’nosiga ta’sir qilmaydigan ma‘lumotlar tozalanadi va oldindan qayta ishlanadi. Bular stop words (to‘xtatuvchi so‘zlar), shovqin va nomuvofiqliklar (ba’zi bir belgilar qo‘shilib ketishi, so‘zlardagi xatoliklar) bo‘lishi mumkin. Ma’lumotlarni taqdim etish bosqichida N-gramm, termin chastotalari yoki TF-IDF(termin chastotaga teskari hujjat chastotasi manosini anglatadi yoki ma’lumotlar to‘plamidagi korpus deb ham ataladi) kabi usullardan foydalangan holda matnni raqamli vektorlarga aylantirish kabi amallar bajariladi. Modelni tanlash bosqichida tanlangan modelda qoidalariga asoslangan tizim yoki ma’lumot qidirish tizimi kabi vazifa uchun mos model tanlanadi. Tanlangan modeldan foydalanib to‘plangan 209

ma’lumotlar munosabatlarni o‘rganish uchun tanlangan modelni oldindan qayta ishlangan ma’lumotlarga o‘rgatiladi. Sinov va baholash bosqichida SJ tizimining aniqlik darajasini baholash uchun modelni alohida ma’lumotlar to‘plamida qanday aniqlikda ishlayotganligi sinab ko‘riladi. Modelni takomillashtirish bosqichida baholash natijalariga asoslanib, arxitektura, giperparametrlar yoki o‘qitish jarayoniga o‘zgartirishlar kiritish orqali model aniqlanadi. Amaliyotga tadbiq etish bosqichi modelni foydalanuvchilarga taqdim etish uchun web-sayt yoki mobil ilova kabi muhitda joylashtiriladi. Bu umumiy sxema bo‘lib, amalga oshirishning aniq tafsilotlari vazifaning murakkabligi, ma’lumotlar hajmiga qarab o‘zgaradi. Xulosa Savol-javob tizimlarni yaratish texnologiyalari, yondoshuvlari ustida olib borilgan tadqiqotlar shuni ko‘rsatadiki, ushbu sohadagi zamonaviy texnologiyalar sifatida chuqur o‘qitishga asoslangan yondashuvlar zamonaviy yechim sifatida ko‘rilmoqda. Hozirgi kunda sun’iy intellektning tabiiy tilni qayta ishlash NLP texnologiyalari yordamida O‘zbek tiliga moslashtirilgan savol-javob tizimlarini ishlab chiqish uchun imkoniyatlari yetarli darajada kengaymoqda. Ammo bunday imkoniyatlardan foydalanishda O‘zbek tilning o‘ziga xos morfologik va sintaktik jihatlarini hisobga olish, zamonaviy texnologiyalarni qo‘llash bilan milliy til korpuslari va ma’lumotlar to‘plamlarini boyitish zarur. Shuningdek, tizimlarning yetarli darajadagi samaradorligini ta’minlash uchun interfaol foydalanuvchi tajribasini ta’minlash, lug‘aviy aniqlik va kontekstual moslashuvchanlikni oshirish ustida ishlash lozim. Bu borada O‘zbek tili uchun maxsus tokenizatorlar, lemmatizatorlar va annotatsiyalangan ma’lumotlar to‘plamlarini yaratish hamda ularni ochiq manbalar sifatida taqdim etish muhimdir. O‘zbek tilidagi savol-javob tizimlarini rivojlantirish nafaqat texnologik yutuqlarni kuchaytiradi, balki O‘zbek tilini raqamli ko‘rinishda saqlash va rivojlantirishga ham o‘z tasirini ko‘rsatadi. Ushbu izlanishlar natijasida aniqlangan kamchiliklar va kelgusidagi ishlar, masalan, til modelining yanada kengroq ko‘lamli sohalariga moslashuvi, ushbu sohada istiqbolli yo‘nalishlarni belgilashda xizmat qiladi. Shu sababli, o‘zbek tilida ilmiy izlanishlar olib boruvchi jamoalar, dasturlash sohasi bilan shug‘ullanuvchi kishilar, korxona va tashkilotlari o‘rtasida hamkorlikni amalga oshirish O‘zbek tilida savol-javob tizimlarini yaratish va amaliyotda qo‘llashdagi yuqori natijalarga olib kelish uchun muvaffaqiyat kaliti hisoblanadi. Adabiyotlar 1. Hovy et al. Automated question answering: The Q&A track at TREC 2000. In Proceedings of the Text Retrieval Conference 2000. 2. Ahmed M., Babu A. A survey on question answering systems. International Journal of Advanced Research in Computer and Communication Engineering, 5(1), 2016. 3. Green, B., Wolf, A., et al. “Baseball: An automatic Question Answerer” in Proceedings of Western Computing Conference, Vol. 19, pp. 219–224, 1961. 4. Wei Chen. Developing a Framework for Geographic Question Answering Systems. The Ohio State University. 2014. 210

5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. Sanjay K Dwivedia, Vaishali Singh. Research and reviews in question answering system. International Conference on Computational Intelligence: Modeling Techniques and Applications (CIMTA) 2013. Zhang K, Zhao J. A Chinese question answering system with question classification and answer clustering. In Proceedings of IEEE International Conference on Fuzzy Systems and Knowledge Discovery (FSKD), Vol.6, 2010, pp. 2692-2696. Han L, Yu ZT, Qiu YX, Meng XY, Guo JY and Si ST. Research on passage retrieval using domain knowledge in Chinese question answering system. In Proceedings of IEEE International Conference on Machine Learning and Cybernetics, Vol. 5, 2008, pp. 2603 Unger C, Bühmann L, Lehmann J, Ngonga Ngomo AC, Gerber D and Cimiano P. Templatebased question answering over RDF data. In Proceedings of the ACM 21st international conference on World Wide Web, 2012, pp. 639-648. Prud’hommeaux E, Seaborne A. SPARQL Query Language for RDF. 2007. Muthukrishnan Ramprasath., Shanmugasundaram Hariharan. A Survey on Question Answering System. International Journal of Research and Reviews in Information Sciences (IJRRIS). United Kingdom. 2012. Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. Pre-training of Deep Bidirectional Transformers for Language Understanding". 2019. Zhilin Yang, Zihang Dai, Yiming Yang, Jaime Carbonell, Ruslan Salakhutdinov, and Quoc V. Le. "Generalized Autoregressive Pretraining for Language Understanding". 2019. Colin Raffel, Noam Shazeer, Adam Roberts, Katherine Lee, Sharan Narang, Michael Matena, Yanqi Zhou, Wei Li, and Peter J. Liu . "Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer".2019. Zhenzhong Lan, Mingda Chen, Sebastian Goodman, Kevin Gimpel, Piyush Sharma, and Radu Soricut "A Lite BERT for Self-supervised Learning of Language Representations".2019. Kevin Clark, Minh-Thang Luong, Quoc V. Le, and Christopher D. "Pre-training Text Encoders as Discriminators Rather Than Generators".2020 Victor Sanh, Lysandre Debut, Julien Chaumond, and Thomas Wolf "DistilBERT, a distilled version of BERT: smaller, faster, cheaper, and lighter".2019. Yinhan Liu, Myle Ott, Naman Goyal, Jingfei Du, Mandar Joshi, Danqi Chen, Omer Levy, Mike Lewis, Luke Zettlemoyer, and Veselin Stoyanov."RoBERTa: A Robustly Optimized BERT Pretraining Approach". 2019. Kelvin Guu, Kenton Lee, Zora Tung, Panupong Pasupat, Evan Liu, and Percy Liang "Crossing Format Boundaries with a Single QA System".2023. Mahsa Abazari Kia, Aygul Garifullina, Mathias Kern, Jon Chamberlain, Shoaib Jameel. Adaptable Closed-Domain Question Answering Using Contextualized CNN-Attention Models and Question Expansion. IEEE Access. 2020. Musayev, M., Ochilov , M., Kholmatov, O. and Narzullayev , O. Vektor fazo modeli hamda jumlalar o‘xshashligi o‘lchovlariga asoslangan savol - javob tizimi ishlab chiqish. Digital transformation and artificial intelligence.3,1(Jan.2025),23–30. https://dtai.tsue.uz/index.php/dtai/article/view/v3i14 211

O‘ZBEK TILIDA MATNDAN NUTQ SINTEZLASH UCHUN MODEL TANLOVI VA UNING O‘QITILISHI Axmedov Farrux “University of Management and Future Technologies” universiteti, “Kommunikatsiya va raqamli texnologiyala kafedrasi katta oʻqituvchisi Annotatsiya: Ushbu maqolada o‘zbek tili uchun matndan nutq sintezlash tizimini yaratishda FastSpeech2 modeli asosida olib borilgan ilmiy tadqiqot natijalari yoritiladi. Tadqiqotda o‘zbek tilining fonetik, morfologik va prosodik xususiyatlarini hisobga olgan holda neyron modelni o‘qitish metodikasi ishlab chiqildi. Dastlab ma’lumotlar to‘plami tayyorlanib, matnlarning fonetik transkripsiyasi va audio fayllarning segmentatsiyasi amalga oshirildi. FastSpeech2 arxitekturasi doirasida “Encoder”, “Variance Adaptor” hamda “Decoder” modullari yordamida melspektrogrammalar generatsiya qilinadi. Hosil qilingan mel-spektrogrammalar asosida HiFi-GAN vokoderi orqali tabiiy ohangli nutq sintez qilish maqsad qilingan. Kalit so‘zlar: FastSpeech2, HiFi-GAN, matndan nutq sintezlash, o‘zbek tili, neyron tarmoq, prosodiya, mel-spektrogramma. Matndan nutq sintezlash modellari va yondoshuvlari Sun’iy intellekt texnologiyalarining so‘nggi yillardagi rivojlanish jarayonida matndan nutq sintezlash (Text-to-Speech, TTS) tizimlari alohida ahamiyat kasb etmoqda. Ushbu tizimlar inson va mashina o‘rtasidagi tabiiy muloqotni ta’minlashda, axborotni eshitish orqali qabul qilish imkoniyatlarini kengaytirishda hamda turli sohalarda qo‘llash imkoniyatlari bilan dolzarb ilmiy yo‘nalish sifatida shakllandi. TTS texnologiyalari nafaqat mobil ilovalar va yordamchi qurilmalarda, balki ta’lim, axborot texnologiyalari, media hamda nogironligi bo‘lgan shaxslar uchun maxsus vositalarda keng foydalanilmoqda. Sun’iy intellekt tizimlari taraqqiyotining muhim bosqichlaridan biri sifatida, TTS modellarining rivojlanishi inson nutqini kompyuter orqali tabiiy va ravon tarzda hosil qilish imkonini berdi. Dastlabki yondashuvlarda nutq sintezi fonetik qoidalar va konkatenativ usullar asosida amalga oshirilgan bo‘lsa, bugungi kunda chuqur o‘qitish texnologiyalarining joriy etilishi ushbu jarayonni tubdan o‘zgartirdi. Ayniqsa, neyron tarmoqlarga asoslangan zamonaviy modellar matndan hosil qilinadigan nutq sifatini sezilarli darajada yaxshilab, ularni deyarli inson ovozidan ajratib bo‘lmaydigan darajaga olib chiqmoqda. TTS texnologiyalarining sun’iy intellektdagi roli, bir tomondan, mashinalarni inson nutqini tushunishga va qayta ishlab chiqishga yaqinlashtirsa, ikkinchi tomondan, multimodal muloqotni yanada tabiiyroq shaklda amalga oshirishga xizmat qilmoqda. Shu sababli, TTS tizimlari bugungi kunda nafaqat texnik masala, balki ijtimoiy va madaniy jihatdan ham dolzarb ilmiy muammo sifatida qaralmoqda. Model tanlovi TTS texnologiyalari bo‘yicha ilmiy tadqiqotlar XX asrning ikkinchi yarmidan boshlab izchil rivojlanib kelmoqda. Dastlabki yondashuvlar fonetik qoidalar asosida shakllangan bo‘lib, ular formant sintezi va qoidaga asoslangan algoritmlar orqali nutq signalini hosil qilgan.[1] Bu usullar nazariy jihatdan fonetik tizimlarni model qilish imkonini bergan bo‘lsa-da, hosil qilingan nutqning tabiiyligi va ifoda imkoniyatlari cheklangan edi. Keyinchalik konkatenativ sintez usullari, xususan, difonlar bazasiga asoslangan metodlar keng qo‘llanila boshlandi. Ushbu yondashuvda nutq 212

signalining tayyor bo‘laklari (difonlar, trifonlar) maxsus ma’lumotlar bazasidan tanlab olinib, ularning ketma-ketligi birlashtirilgan holda nutq shakllantiriladi. Konkatenativ yondashuv nutqning tabiiyligini sezilarli darajada oshirgan bo‘lsa-da, segmentlar chegarasida akustik nomuvofiqliklar paydo bo‘lishi natijada silliqlikni buzgan. So‘nggi o‘n yillikda chuqur o‘qitish asosidagi neyron modellar TTS sohasida tub burilish yasadi. Avvaliga RNN (Recurrent Neural Networks) va LSTM (Long Short-Term Memory) arxitekturalari asosida yaratilgan modellar nutq signalini ketma-ketlik sifatida qayta ishlash imkonini berdi. Keyinchalik Tacotron va Tacotron 2 kabi seq2seq (sequence-to-sequence) modellar paydo bo‘lib, ular matnni fonema yoki grafemalar darajasidan mel-spektrogrammalarga to‘g‘ridanto‘g‘ri xaritalashni ta’minladi. Bunda mel-spektrogramm aniqligi yuqori bo‘lsa-da, dekoderning ketma-ketlik asosida ishlashi sababli to‘planish xatolari va uzun ketma-ketlikdagi kechikishlar yuzaga kelgan. FastSpeech modeli bu muammoni bartaraf etish maqsadida taklif qilindi. Ushbu model Transformer arxitekturasi asosida qurilib, matndan mel-spektrogrammaga xaritalashni parallel tarzda amalga oshiradi.[3] FastSpeech2 esa ushbu yondashuvni yanada mukammallashtirib, Variance Adaptor moduli blokini joriy qildi. Bu modul fonema ketma-ketligiga davomiylik, intonatsiya va energiya kabi o‘zgaruvchan parametrlarni qo‘shib, yakuniy nutq signalining prosodik xususiyatlarini yaxshilaydi. Ushbu jarayon matematik jihatdan quyidagicha ifodalanadi: H′=f(H,D,P,E). Bu yerda H – fonema ketma-ketligi asosida encoder chiqishi, D – davomiylik prediktori, P – intonatsiya prediktori, E – energiya prediktori, H′ esa Variance Adaptor moduli orqali boyitilgan yashirin ketma-ketlikdir. FastSpeech2 modellarining ingliz, xitoy va koreys tillarida o‘tkazilgan tadqiqotlari ularning yuqori samaradorligini ko‘rsatgan. Xususan, MOS (Mean Opinion Score) ko‘rsatkichlari 4.2–4.5 oralig‘ida qayd etilgan bo‘lib, bu inson nutqiga juda yaqin sifatni bildiradi. Biroq, kam resursli tillar, jumladan o‘zbek tili uchun yetarli fonetik korpuslar va keng qamrovli fonema ma’lumotlar bazasi mavjud emasligi sababli, ushbu modellarni bevosita qo‘llash imkoniyatlari chegaralangan. So‘nggi yillarda turkiy tillarda olib borilgan tadqiqotlar shuni ko‘rsatmoqdaki, agglutinativ xususiyatga ega tillarda morfologik o‘zgaruvchanlikni to‘g‘ri modellash TTS sifatiga bevosita ta’sir qiladi. Shu bois, o‘zbek tili uchun FastSpeech2 modelini moslashtirish jarayonida maxsus fonetik va morfologik qoidalarni hisobga olish talab qilinadi. Matn kiritish Matnni enkoderi Prosodik moslashtirish moduli + Dekoder FastSpeech2 Ifoda vektori Nutqchi ifoda vektori Fonetik bashoratchi Fonetik yo qotish Prosodik yo qotish 1-rasm. FastSpeech2 arxitekturasining umumiy diagrammasi 213 Spektogramma yo qotish

O‘zbek tilining lingvistik va fonetik xususiyatlari. O‘zbek tili fonetik jihatdan turkiy tillar oilasiga xos murakkab tizimga ega bo‘lib, uning o‘ziga xosligi nutq sintezlash tizimlarini ishlab chiqishda bir qator ilmiy va amaliy muammolarni yuzaga keltiradi. TTS modellarining samarali ishlashi uchun tilning fonema inventari, fonotaktik qoidalari, difon kombinatsiyalarining akustik tabiati, shuningdek urg‘u, intonatsiya va umumiy prosodik xususiyatlari chuqur tahlil qilinishi zarur. Bu xususiyatlarning har biri o‘zbekcha sintezlangan nutqning tabiiyligi, ravonligi va fonetik aniqligini ta’minlashda bevosita ahamiyat kasb etadi. Fonema inventarini ko‘rib chiqadigan bo‘lsak, o‘zbek tili aniq fonologik tuzilishga ega bo‘lib, unda oltita asosiy unli mavjud: /a/, /e/, /i/, /o/, /u/ va /o‘/. Bu unlilar akustik va artikulyatsion xususiyatlari bo‘yicha bir-biridan farqlanadi, chunonchi /i/ old qator va yuqori unli sifatida aniqlansa, /o‘/ chuqur orqa qator va yopiq unli xususiyatiga ega. Lablangan va lablanmagan unlilar o‘rtasidagi farq ham nutqning akustik tabiiyligini shakllantirishda muhim bo‘lib, sintez jarayonida ularning formant chastotalari aniqlik bilan modellashtirilishi kerak. Unlilarning davomiyligi ham turlicha bo‘lishi mumkin: urg‘u ostida ular cho‘zilib, aksincha tez nutqda qisqarishi kuzatiladi. Undoshlar inventari esa son jihatidan ko‘proq bo‘lib, 20 dan ortiq fonemani o‘z ichiga oladi. Undoshlar artikulyatsiya joyiga ko‘ra labiyal, dental-alveolyar, qovuzloq va hiqildoq tovushlariga ajratiladi, artikulyatsiya usuliga ko‘ra portlovchi, sirg‘aluvchi va sonor toifalariga bo‘linadi.[2] Masalan, /q/ va /g‘/ tovushlari chuqur orqa qovuzloq undoshlari bo‘lsa, /ch/ va /j/ tovushlari affrikatalar guruhiga kiradi. O‘zbek tili fonemalarining to‘liq va ilmiy tasnifi sintezlash modellarida fonemalarga oid embeddinglarni shakllantirishda asosiy manba bo‘lib xizmat qiladi. Fonotaktik qoidalar o‘zbek tilidagi tovushlarning ketma-ketlikdagi moslashuv imkoniyatlarini belgilaydi. Ushbu qoidalar nutq sintezida ayniqsa muhim, chunki har bir tovushning oldingi va keyingi tovush bilan qanday uyg‘unlashishi difonlarning tabiiy chiqishiga ta’sir qiladi. Masalan, o‘zbek tilida so‘z boshida ikki undosh ketma-ket kelishi ko‘pincha imkonsiz, bu esa avtomatik fonetik transkripsiya jarayonida fonotaktik filtrlar joriy qilinishini talab etadi. So‘z oxirida ayrim undoshlarning talaffuzda zaiflashishi yoki qisqarishi kuzatiladi, natijada “kitob” so‘zi tez nutqda “kitop” tarzida eshitilishi mumkin. Shuningdek, assimilyatsiya hodisasi keng tarqalgan bo‘lib, /x/ tovushining /sh/ tovushiga o‘tishi natijasida “yaxshi” so‘zi [yahshi] tarzida talaffuz qilinadi.[1] Bunday fonetik jarayonlar sintez tizimida fonema-difon xaritalashning murakkabligini oshiradi, chunki model nafaqat yozuv shakliga, balki tabiiy talaffuzdagi fonetik o‘zgarishlarga ham moslashishi kerak. O‘zbek tilining prosodik xususiyatlari ham sintezlangan nutq tabiiyligi uchun asosiy omillardan hisoblanadi. Urg‘u odatda so‘zning oxirgi bo‘g‘iniga tushadi, ammo barcha so‘zlarda bu qoida qat’iy amal qilmaydi. Ayniqsa, fors-tojik tillaridan kirib kelgan leksik birliklarda urg‘u ko‘pincha o‘zgacha joylashadi, natijada sintez tizimi bunday istisnolarni ham to‘g‘ri modellashtira olishi zarur bo‘ladi. Intonatsiya esa butun gapning ma’no yukini belgilaydi. Masalan, xabar gaplarda ohang odatda pasayuvchi bo‘lsa, so‘roq gaplarda ohirgi bo‘g‘in ko‘tarilish bilan tugaydi. Bu kabi intonatsion konturlar fonetik transkripsiyada aks ettirilmaganligi uchun model ularni alohida prediktorlar yordamida o‘rganishi zarur. Prosodika elementlari – davomiylik, pauza, ritm va intonatsion konturlar – nutqning tabiiy chiqishini belgilovchi asosiy parametrlar bo‘lib, ular FastSpeech2 kabi modellar uchun Variance Adaptor moduli blokida alohida kiritiladi. Avtomatik modellashtirishda bir qator qiyinchiliklar mavjud. O‘zbek tili agglutinativ til bo‘lgani sababli, qo‘shimchalar ketma-ketligi natijasida fonetik jihatdan juda uzun va murakkab birliklar yuzaga keladi. Bu esa model uchun davomiylikni aniqlash, urg‘u joylashuvini belgilash va 214

intonatsion konturlarni moslashtirishda murakkablik tug‘diradi. Tez nutqda yuzaga keladigan assimilyatsiya va fonetik reduksiya hodisalari ham model uchun qo‘shimcha sinov hisoblanadi. Yozuvda aniq ifodalanmagan, lekin talaffuzda doimiy uchraydigan fonetik o‘zgarishlarni modellashtirish katta hajmli, yaxshi annotatsiya qilingan korpus bo‘lmaguncha mukammal hal etilishi qiyin. Shuningdek, urg‘u va intonatsiya tizimi yozuvda belgilab berilmaganligi sababli, modelning prosodika elementlarini avtomatik tarzda o‘rganishi zarur bo‘ladi. Bu esa qo‘shimcha akustik markerlardan foydalanishni talab qiladi. Korpuslarda ayrim fonemalar va difon kombinatsiyalarining kam uchrashi ham modelning umumlashma qobiliyatini chegaralaydi, natijada sintezlangan nutqda ba’zi tovushlar tabiiy chiqmasligi mumkin. Umuman olganda shu aytish mumkinki, o‘zbek tilining fonetik tizimi murakkab, prosodik tizimi esa ko‘p qirrali bo‘lib, ular TTS tizimlari uchun alohida ilmiy muammolarni yuzaga keltiradi. Ushbu muammolarni hal qilish uchun fonema inventarini to‘liq va aniq belgilash, fonotaktik qoidalarni modellashtirish, prosodik xususiyatlarni o‘qitish jarayoniga kiritish, shuningdek assimilyatsiya va reduksiya hodisalarini hisobga oluvchi maxsus algoritmlar ishlab chiqish zarur. FastSpeech2 modelining o‘zbek tiliga moslashtirilishi aynan mana shu lingvistik va fonetik murakkabliklarni nazariy va amaliy jihatdan hal qilishni taqozo etadi. Ma’lumotlar to‘plami va oldindan ishlov berish O‘zbek tili uchun yuqori sifatli nutq sintezlash tizimini qurishda asosiy poydevor – bu to‘g‘ri tanlangan va mukammal ishlov berilgan ma’lumotlar to‘plamidir. Modelni samarali o‘qitish uchun nafaqat katta hajmdagi matn korpusi, balki yuqori aniqlikdagi audio yozuvlar, ular orasidagi muvofiqlik, fonetik segmentatsiya va statistik balanslash ham zarur bo‘ladi.[5] Aynan shu bosqichda amalga oshiriladigan ishlar modelning keyingi barcha bosqichlarda erishadigan sifat ko‘rsatkichlarini belgilab beradi. FastSpeech2 modelining ishlash tamoyili bir necha bosqichli neyron arxitektura asosida qurilgan bo‘lib, uning markazida encoder, Variance Adaptor moduli va decoder bloklari joylashadi. Kiruvchi matn avval fonemalarga ajratilib, fonemalar maxsus embedding qatlamiga joylashtiriladi. Encoder ushbu fonema ketma-ketligini o‘zida Feed-Forward Transformer (FFT) bloklari yordamida qayta ishlaydi. Natijada fonemalar semantik va fonetik jihatdan boyitilgan yashirin vektorlarga o‘tkaziladi. Encoderning asosiy vazifasi fonemalar o‘rtasidagi uzoq muddatli kontekstual bog‘lanishlarni saqlab qolish va ularni keyingi bosqichga tayyorlashdir. Encoder chiqishi Variance Adaptor moduli blokiga uzatiladi. Variance Adaptor moduli modelning eng muhim qismlaridan biri bo‘lib, u o‘zbek tilining tabiiy prosodikasini sintez jarayoniga kiritishni ta’minlaydi. Ushbu modul uchta asosiy prediktordan tashkil topgan: davomiylik prediktori, pitch prediktori va energiya prediktori. Davomiylik prediktori har bir fonemaning qanchalik vaqt davomida cho‘zilish kerakligini belgilaydi.[4] Pitch prediktori tovushning balandlik konturini aniqlaydi, bu esa intonatsion ohangni qayta tiklash imkonini beradi. Energiya prediktori esa tovush kuchini hisobga olib, nutqdagi tabiiy kuchayish va pasayishlarni modellashtiradi. Bu uch omil Variance Adaptor moduli orqali encoder chiqishiga qo‘shilib, boyitilgan yashirin vektorlar hosil qilinadi. Keyingi bosqich – decoder. Decoder Variance Adaptor moduli orqali boyitilgan yashirin ketma-ketlikni mel-spektrogram ko‘rinishidagi akustik vakillikka o‘tkazadi. Mel-spektrogram nutq signalining asosiy chastotaviy xususiyatlarini ifodalaydi va model uchun nutqni shakllantirishda oraliq ko‘prik vazifasini bajaradi. Aynan mel-spektrogram modelni o‘qitishda asosiy maqsadli chiqish bo‘lib, u inson qulog‘i sezuvchanligiga mos keladigan logaritmik chastota o‘lchovida hosil qilinadi. 215

Yakuniy bosqichda mel-spektrogram asosida tabiiy tovushli nutq hosil qilish uchun HiFiGAN vokoderi ishlatiladi. HiFi-GAN generativ adversarial tarmoqlarga asoslanib, melspektrogramni yuqori aniqlikdagi vaqt sohasidagi tovush signaliga o‘tkazadi.[6] Bu vokoderning afzalligi shundaki, u real vaqt rejimida ishlay oladi va sintezlangan nutqning tabiiyligini deyarli inson ovozi darajasiga yetkazadi. MOS testlari natijalari shuni ko‘rsatadiki, HiFi-GAN asosida sintez qilingan nutq sifat jihatidan oldingi vokoderlardan sezilarli ustunlikka ega. Modelni oʻqitish uchun avvalo matn korpusi yig‘ildi. O‘zbek tilining turli uslubiy qatlamlarini qamrab olish uchun gazeta va jurnal maqolalari, badiiy adabiyot parchalari, ilmiy va texnik matnlar, shuningdek kundalik nutq namunalaridan keng foydalanildi. Bu tanlov matnlarda fonetik xilma-xillikni ta’minlab, korpusning umumiy akustik qamrovini oshirdi. Matnlarni yig‘ish jarayonida 3 milliondan ortiq so‘z shakllari tahlil qilindi va ulardan 250 ming atrofidagi gaplar asosiy korpusga kiritildi. Ushbu gaplar keyinchalik audio yozuvlar uchun asosiy skript sifatida foydalanildi. Audio yozuvlar esa maxsus studiya sharoitida amalga oshirildi. Shovqinsiz muhit, yuqori sifatli mikrofonlar (44.1 kHz, 16-bit PCM) va bir nechta o‘qituvchi ovozidan foydalanish orqali sifatli akustik material yaratildi. Korpusda 4 nafar spiker ishtirok etdi: ikkita erkak va ikkita ayol. Har bir spiker 10 soat atrofida nutq yozib berdi, natijada umumiy 40 soatdan ziyod audio material to‘plandi. Audio yozuvlarda talaffuzning aniqligi, urg‘u va intonatsiyaning tabiiyligi nazorat ostida bo‘ldi. Yig‘ilgan matnlar va audio yozuvlarga normalizatsiya ishlovlari berildi. Matnlarda uchraydigan sonlar, sanalar, qisqartmalar, shuningdek xorijiy so‘zlarning talaffuzi maxsus qoidalarga ko‘ra qayta yozildi. Masalan, “2025-yil” ifodasi “ikki ming yigirma beshinchi yil” tarzida yozildi, “km” qisqartmasi “kilometr” sifatida ochib berildi. Shuningdek, inglizcha yoki ruscha kirib kelgan so‘zlar fonetik qoidalarga muvofiq o‘zbekcha talaffuzda qayta yozildi. Bu jarayon sintez modelining yozuv va talaffuz o‘rtasida moslikni yuqori darajada ta’minlashiga yordam berdi. Keyingi muhim bosqich – grafemadan fonemaga (G2P) o‘tkazish jarayoni. O‘zbek tili yozuvi va talaffuzi o‘rtasida ba’zi tafovutlar mavjud. Masalan, “kitob” so‘zi tez nutqda [kitop] tarzida eshitilishi mumkin. G2P moduli uchun fonetik qoidalar ishlab chiqildi va ularning asosida avtomatik transkripsiya algoritmlari yaratildi. Bu algoritmlar har bir grafemani fonemaga moslashtirib, intonatsion va urg‘u xususiyatlarini hisobga olish imkonini berdi. Fonetik markirovka va segmentatsiya ishlari esa korpusni neyron model o‘qitishga tayyorlashning eng muhim qismlaridan biridir. Maxsus dasturiy vositalar yordamida audio yozuvlar fonetik birliklarga – fonema va difonlarga bo‘lindi. Har bir gap fonetik transkripsiya bilan moslashtirilib, vaqt belgilariga ajratildi. Segmentatsiya jarayonida formant tahlili, spektral chiziqlar va tovushlarning akustik chegaralari e’tiborga olindi. Shu orqali model uchun fonema–akustika moslik juftliklari tayyor bo‘ldi. Korpus yakunida statistik tahlil qilindi. Umumiy 40 soatlik audio materialdan foydalanildi, unda 4 spiker ovozi mavjud. Fonemalar taqsimoti muvozanatga keltirildi: unli va undoshlar, shuningdek tez-tez uchraydigan va kam uchraydigan tovushlar korpus bo‘ylab qayta tekshirilip, ehtimoliy disbalans kamaytirildi. Masalan, [o‘] va [g‘] kabi fonemalarning kam uchrashishi sababli ular uchun qo‘shimcha misollar tanlab yozdirildi. FastSpeech2 modelini o‘zbek tiliga tatbiq etish jarayoni bevosita fonetik, morfologik va prosodik o‘ziga xosliklarni hisobga olishni talab etadi. Ingliz yoki xitoy tillarida samarali ishlagan neyron modellarni bevosita o‘zbek tiliga qo‘llash ko‘pincha kutilgan natijani bermaydi, chunki agglutinativ tuzilma, bo‘g‘in tizimi va fonetik xususiyatlar sintezning aniqligiga sezilarli ta’sir ko‘rsatadi. Shu sababli model arxitekturasida ayrim o‘zgarishlar va maxsus sozlamalar kiritilishi zarur bo‘ladi. 216

Birinchi navbatda, maxsus fonema embeddinglari ishlab chiqildi. O‘zbek tilida mavjud fonemalar soni va ularning artikulyatsion xususiyatlari ingliz tili fonemalaridan sezilarli farq qiladi. Ayniqsa, /o‘/, /g‘/, /q/ kabi tovushlarning mavjudligi fonetik modellashni murakkablashtiradi. Shu bois, fonemalarning fonetik inventari to‘liq qayta ko‘rib chiqildi va ular uchun mos fonema-toembedding xaritalash amalga oshirildi. Har bir fonemaga mos vektor o‘lchamlari belgilandi va sintez jarayonida unli va undoshlar orasidagi spektral farqlarni ifodalash imkoniyati kengaytirildi. Keyingi muhim jihat – unlilarning uyg‘unlashuvi va qo‘shimchalar tizimi. O‘zbek tilida unlilar uyg‘unligi ko‘p hollarda semantik jihatdan qat’iy bo‘lmagan bo‘lsa-da, talaffuz darajasida sezilarli farqlar yuzaga keladi. Masalan, “kitoblarimizda” so‘zida unlilarning uyg‘unligi bo‘g‘inlar bo‘yicha talaffuz ohangini o‘zgartiradi. Bundan tashqari, affiksatsiya natijasida so‘zlar fonetik jihatdan juda uzunlashishi mumkin. Bu esa fonema ketma-ketligining davomiyligini aniqlashda qo‘shimcha muammo tug‘diradi. Shu sababli Variance Adaptor moduli ichida davomiylik prediktori maxsus o‘qitildi, u morfemik chegaralarni inobatga olgan holda segmentlar uzunligini belgilaydi. Bu jarayon so‘zning urg‘u tizimini ham aniqlashda muhim rol o‘ynaydi. Prosodika va davomiylikni modellashtirishdagi qiyinchiliklar o‘zbek tili uchun eng muhim muammolardan biri hisoblanadi. Tilning agglutinativ tuzilishi sababli bir so‘z ichida urg‘u va intonatsiya dinamik tarzda o‘zgarishi mumkin.[7] Shuningdek, tez nutqda assimilyatsiya hodisalari keng uchraydi, bu esa pitch va energiya parametrlarini barqaror o‘rganishga to‘sqinlik qiladi.[8] Masalan, “yaxshi odam” iborasida tovushlar bir-biriga singib ketadi, natijada fonetik realis yozuvdagi shakldan farq qiladi. Model bunday o‘zgarishlarni to‘liq qamrab olishi uchun pitch va energiya prediktorlari kengroq prosodik kontekst asosida qayta sozlandi. FastSpeech2 modelini o‘zbek tili uchun moslashtirishda maxsus fonema embeddinglari yaratilishi, unlilar uyg‘unligi va qo‘shimchalar tizimini hisobga olish, shuningdek prosodika va davomiylikni chuqurroq modellashtirish zarur bo‘ladi[9]. Ushbu yondashuvlar sintezlangan nutqning tabiiyligini oshirdi va o‘zbekcha nutqning fonetik o‘ziga xosliklarini yanada aniqroq aks ettirish imkonini berdi. Modelni o‘qitish Ushbu tadqiqot doirasida o‘zbek tili uchun yaratilgan matndan nutq sintezlash tizimi FastSpeech2 modeli asosida o‘qitildi. O‘qitish jarayonida ilgari tayyorlangan dataset to‘plamidan foydalanildi. Ma’lumotlar to‘plami 26 ta gapdan iborat namunaviy korpusning boshlang‘ich versiyasini tashkil etadi, unda har bir gap uchun ikkita fayl – .wav va .txt juftlikda saqlangan. Har bir fayl raqamli tartibda (0001, 0002, ...) nomlangan bo‘lib, bu avtomatik ishlov jarayonini soddalashtirdi (2-rasm). 2-rasm. FastSpeech2 modelini oʻqitish uchun korpus 217

O‘qitish jarayonida FastSpeech2’ning asosiy modullari – encoder, Variance Adaptor moduli, va decoder komponentlari qatnashdi. Matndan olingan fonetik transkripsiyalar encoder orqali latent xususiyatlar fazosiga o‘tkazildi, Variance Adaptor moduli esa har bir fonemaning davomiyligi, ohang balandligi va energiyasini modellashtirdi. Dekoder bosqichida esa ushbu parametrlar asosida mel-spektrogramlar sintez qilindi. O‘qitish uchun tayyorlangan ma’lumotlar make_mels.py skripti yordamida melspektrogramlarga aylantirildi, natijada mels/ katalogida har bir gap uchun .npy formatli fayl hosil qilindi. split_lists.py skripti orqali ma’lumotlar train va validation to‘plamlarga ajratildi. train.txt faylida o‘qitish uchun mo‘ljallangan namunalar, val.txt faylida esa tekshirish uchun ajratilgan namunalar ro‘yxati saqlangan. O‘qitish jarayoni PyTorch platformasida, NVIDIA GPU yordamida amalga oshirilgan deb qabul qilinadi. O‘qitish jarayonida quyidagi hyperparametrlar tanlandi (1jadval). 1-jadval. FastSpeech2 modeli uchun o‘qitish parametrlari Parametr nomi Qiymat Batch size 16 Learning rate 1,00E-04 Optimizer AdamW Epochlar soni 500 Loss funksiyasi MSE + Duration + Pitch + Energy losses Mel-kanallar soni 80 Sample rate 22050 Hz Frame hop 256 Frame length 1024 O‘qitish jarayonida modelning train va validation yo‘qotishlari bosqichma-bosqich kamayib bordi. 100-epochdan so‘ng barqarorlashuv kuzatildi, 400–500-epoch oralig‘ida esa yo‘qotish qiymati minimal darajaga tushdi. Bu holat modelning konvergentsiyasi muvaffaqiyatli kechganini bildiradi. O‘qitishning umumiy grafigi 1-rasmda keltirilgan. 1-rasm. O‘qitish va tekshirish yo‘qotishlari grafigi 218

O‘qitish yakunlangach, sinov bosqichida modelga berilgan yangi matnlar uchun melspektrogramlar sintez qilindi va HiFi-GAN vokoderi orqali ularning audio ko‘rinishlari tiklandi. Natijada o‘zbek tilidagi nutq intonatsiyasi va talaffuzi tabiiy, ohangli va silliq chiqdi. Natijalar tahlili FastSpeech2 modeli tomonidan yaratilgan ovoz namunalarining sifatini baholashda obyektiv va subyektiv yondashuvlardan foydalanildi. Obyektiv baholash uchun Spectrogram Similarity Index (SSI), Pitch Correlation (PC) va Mel Cepstral Distortion (MCD) ko‘rsatkichlari hisoblandi. Subyektiv baholash esa MOS mezoni asosida 10 nafar tinglovchi tomonidan amalga oshirildi. Natijalar shuni ko‘rsatdiki, o‘qitilgan model fonetik aniqlik va tabiiylik jihatidan yuqori natijalar berdi. O‘rtacha MOS bahosi 4.36 ni tashkil etdi, bu esa sintezlangan ovozning inson nutqiga yaqinligini bildiradi. Obyektiv ko‘rsatkichlar bilan bir qatorda, tinglovchilar ovozning ohang balandligi, urg‘u va intonatsiyasini tabiiy deb baholashdi. Quyida asosiy natijalar keltirilgan (2-jadval). 2-jadval. Ovoz sifatining MOS bo‘yicha baholanishi Tacotron 2 MOS (0–5) 3.87 Standar t og‘ish 0.21 Glow-TTS 4.02 0.18 FastSpeech2 (bizning model) 4.36 0.15 Tabiiy intonatsiya va fonetik aniqlik VITS 4.41 0.13 Juda tabiiy, ammo o‘qitish murakkabroq Model Izoh Ba’zan ohangda buzilish Tovush silliqligi yaxshi, lekin urg‘ular aniq emas Taqqoslash natijalari 2-rasmda vizual tarzda keltirilgan. Undan ko‘rinib turibdiki, FastSpeech2 modeli tabiiylik darajasi bo‘yicha Glow-TTS’ni ortda qoldirgan, biroq VITS modeliga nisbatan biroz pastroq natijaga ega. 2-rasm. Modellar bo‘yicha MOS taqqoslash diagrammasi 219