Sun’iy Intellekt va Raqamli Iqtisodiyot

Iqtisodiyotda "pasayib borayotgan daromad qonuni" (diminishing returns) degan tushuncha mavjud. AI sohasi uchun bu quyidagi grafik ko‘rinishida namoyon bo‘ladi: Grafik ko‘rsatadiki, dastlabki investitsiyalar katta sifat oshishini ta'minlaydi. Ammo ma'lum nuqtadan keyin xarajatlar ikki baravar ko‘paytirilsa ham, sifat deyarli o‘zgarmaydi. Bu "platoga yetib borish" (plateau) effekti deb ataladi. Ulkan modellar aynan shu platoda joylashgan --- ular juda qimmat, lekin yanada qimmatlashtirish foydasiz. 3. Chinchilla tadqiqoti: dunyoni lol qoldirgan kashfiyot 2022-yilda DeepMind kompaniyasining Chinchilla tadqiqoti butun sohaning ko‘zini ochdi. Tadqiqot isbotladiki, yirik kompaniyalar yaratgan ulkan modellar aslida "och qolgan" --- ya'ni ular o‘z hajmiga nisbatan juda kam ma'lumot bilan chala o‘qitilgan ekan. Yangi qoidaga ko‘ra, model parametrlari necha marta oshirilsa, o‘quv ma'lumotlari hajmi ham aynan shuncha marta ko‘paytirilishi shart [6]. Buni hayotiy misol bilan tushuntirish oson. O‘sha davrda Gopher nomli ulkan model mavjud edi --- uning hajmi 280 milliard parametr. Bunga javoban olimlar undan to‘rt baravar kichik, atigi 70 milliard parametrli Chinchilla modelini yaratdi. Asosiy farq shunda ediki, Chinchillaga Gopherga qaraganda to‘rt marta ko‘proq ma'lumot o‘qitildi. Natija hamma uchun kutilmagan bo‘ldi: kichik model o‘zidan ancha yirik va qimmat bo‘lgan barcha gigant modellarni ortda qoldirib, eng aniq natija beradigan tizimga aylandi [6]. Bu kashfiyot bitta sodda xulosaga olib keladi: pulni va energiyani modelni kattalashtirishga emas, o‘quv ma'lumotlarining sifati va miqdorini oshirishga sarflash ancha samarali [7]. 4. Kichik modellarning amaliy afzalliklari Kichik, lekin sifatli o‘qitilgan modellar bir qator muhim afzalliklarga ega. Birinchidan, ular ishga tushgandan keyin juda tez ishlaydi va kam energiya sarflaydi. Ikkinchidan, ularni oddiy mahalliy serverlarda, ba'zan hatto kuchli shaxsiy kompyuterlarda ham ishlatish mumkin. Uchinchidan, ularni muayyan soha uchun ixtisoslashtirish --- masalan, faqat o‘zbek tilidagi yuridik hujjatlar bilan ishlash yoki qishloq xo‘jaligida suv sarfini hisoblash uchun --- ancha oson va arzon [8]. Quyidagi jadval ulkan va kichik modellarni asosiy ko‘rsatkichlar bo‘yicha taqqoslaydi: 2-jadval Ulkan va kichik modellarning qiyosiy tahlili Mezon Ulkan model (1T+ params) Kichik model (7-10B params) O‘qitish xarajati $50–100 million $500K – $2M Ish xarajati (yillik) >$10M <$200K Elektr iste'moli Megavattlar (MWh/kun) Killovattlar (kWh/kun) Mahalliy serverlarda ishlaydi Yo‘q (superkompyuter kerak) Ha (oddiy server) 699

Aniq soha uchun moslashuv Qiyin va qimmat Oson va arzon O‘zbek tili qo‘llabquvvatlashi Zaif (ingliz tiliga ixtisoslashgan) Kuchli (maxsus o‘qitish mumkin) O‘zbekiston uchun eng to‘g‘ri yo‘l --- aynan shu oltin muvozanatni topishdir. Xorij bilan "qancha katta, shuncha yaxshi" poygasini o‘ynamasdan, o‘zbek tilidagi toza va sifatli ma'lumotlar bazasini yaratib, iqtisodiyotimizning aniq tarmoqlari uchun 7-10 milliard parametrli ixcham tizimlar qurish --- bu ham xarajatlarni keskin kamaytiradi, ham amaliy natija beradi [3]. Xulosa va amaliy tavsiyalar Ushbu maqolada tahlil qilingan masshtablanish qonuniyatlari, matematik formulalar va Chinchilla tadqiqoti natijalari asosida quyidagi xulosalar chiqariladi. Birinchidan, O‘zbekiston milliardlab dollar sarflab dunyodagi eng katta modellarni takrorlashga urinmasligi kerak. Quvvat qonuni (L ~ N^{-0.076}) isbotlaganidek, modelning haddan ortiq kattalashishi uning samaradorligini logaritmik tarzda pasaytirib, xarajatlarni qoplamaydi. Bu --- resurslarni samarasiz yo‘qotishdir. Ikkinchidan, e'tiborni model hajmidan ma'lumotlar sifatiga qaratish lozim. Chinchilla formulas (D = 20N) ko‘rsatganidek, kichik modelni juda toza va boy ma'lumotlar bilan o‘qitsak, u ulkan modellardan ko‘ra aniqroq va tezroq natija beradi. Uchinchidan, energiya va xarajat hisob-kitobi ham bu xulosani tasdiqlaydi. Ulkan modellar Toshkentning butun elektr tarmog‘ini haddan ziyod yuklaydigan miqdorda energiya sarflaydi (E = P×T×n formulasiga ko‘ra). Kichik modellar esa oddiy mahalliy serverlarda ishlaydi. To‘rtinchidan, O‘zbekiston uchun eng maqbul yo‘nalish --iqtisodiyotimizning o‘ziga xos ehtiyojlarini hal qiladigan ixtisoslashgan kichik modellar yaratish. Masalan, o‘zbek tilidagi qonunchilik, tibbiyot, qishloq xo‘jaligi sohalari uchun maxsus tizimlar --- bular real foyda keltiradi va bizga qo‘ldan keladi. Xulosa qilib aytganda, raqamlar ketidan quvmasdan, samaradorlik yo‘lidan borish O‘zbekiston AI strategiyasining asosi bo‘lishi kerak. Shunda ham resurslarimizni asraymiz, ham haqiqatan ishlaydigan texnologiyalarni yaratgan bo‘lamiz. Foydalanilgan adabiyotlar ro‘yxati: 1. O‘zbekiston Respublikasi Prezidentining 2024-yil 14-oktabrdagi "Sun'iy intellekt texnologiyalarini 2030-yilga qadar rivojlantirish strategiyasini tasdiqlash to‘g‘risida"gi PQ358-sonli qarori. 2. Patterson, D., et al. (2021). Carbon Considerations in Machine Learning. Communications of the ACM, 65(6), 54–63. 3. Kaplan, J., McCandlish, S., & Henighan, T. (2020). Scaling Laws for Neural Language Models. OpenAI Research. 4. Zhai, X., et al. (2022). Scaling Vision Transformers. Proceedings of CVPR 2022. 700

5. Sutton, R. S., & Barto, A. G. (2018). Reinforcement Learning: An Introduction. MIT Press. 6. Hoffmann, J., Borgeaud, S., & Mensch, A. (2022). Training Compute-Optimal Large Language Models (Chinchilla Paper). DeepMind. 7. Wolf, T., et al. (2020). Transformers: State-of-the-Art Natural Language Processing. O‘Reilly Media. 8. Bommasani, R., et al. (2021). On the Opportunities and Risks of Foundation Models. Stanford CRFM. YUQORI TARTIBLI AVTOREGRESSIV MODELLARDA YAGONA ILDIZ UCHUN TEST Nishonov Javohir, SAMISI, talabasi E-mail: nishonovjavohir44@gmail.com Xakimova Ma’mura Muxammadiyevna, SAMISI, "Oliy Matematika" kafedrasi assistenti, E-mail: mamurah1983@gmail.com Annotatsiya. Ushbu tezis yuqori tartibli avtoregressiv modellarda yagona ildiz mavjudligini aniqlashga moʻljallangan testlarning statistik samaradorligini tahlil qilishga qaratilgan. Kengaytirilgan Dikkey-Fuller va Filips-Perron testlarining asimptotik xossalari, kechikish tartibini tanlash mezonlari hamda cheklangan tanlanmalar sharoitidagi quvvat muammolari sistemali oʻrganiladi. Natijalar maxsus tuzatilgan testlarning klassik yondashuvga nisbatan ustunligini isbotlaydi, bu esa iqtisodiy vaqt qatorlari tahlilida soxta regressiyaning oldini olishga muhim hissa qoʻshadi. Kalit soʻzlar: yagona ildiz, avtoregressiv jarayon, statsionar vaqt qatori, kengaytirilgan Dikkey-Fuller testi, Filips-Perron testi, asimptotik taqsimot, soxta regressiya, kechikish tartibini tanlash, integratsiyalangan qator. Abstract. This thesis aims to analyze the statistical performance of tests designed to detect the presence of a single root in higher-order autoregressive models. The asymptotic properties of the extended Dickey-Fuller and Phillips-Perron tests, criteria for choosing the lag order, and power issues in limited sample conditions are systematically studied. The results prove the superiority of specially adjusted tests over the classical approach, which makes an important contribution to preventing spurious regression in economic time series analysis. Keywords: single root, autoregressive process, stationary time series, extended DickeyFuller test, Phillips-Perron test, asymptotic distribution, false regression, delay order selection, integrated series. Аннотация. Цель данной диссертации — анализ статистической эффективности тестов, предназначенных для выявления наличия единственного корня в авторегрессионных моделях более высокого порядка. Систематически изучаются асимптотические свойства расширенных тестов Дики-Фуллера и Филлипса-Перрона, критерии выбора порядка лага и вопросы мощности в условиях ограниченной выборки. Результаты доказывают превосходство специально адаптированных тестов над классическим подходом, что вносит важный вклад в предотвращение ложной регрессии в анализе экономических временных рядов. Ключевые слова: единственный корень, авторегрессивный процесс, стационарный временной ряд, расширенный тест Диккея-Фуллера, тест Филлипса-Перрона, асимптотическое распределение, ложная регрессия, выбор порядка задержки, интегрированный ряд. Kirish. Bugungi kunda makroiqtisodiy koʻrsatkichlarning dinamik xususiyatlarini toʻgʻri identifikatsiyalash zamonaviy ekonometrik tahlilning hal 701

qiluvchi bosqichlaridan biri hisoblanadi. Empirik tadqiqotlar shuni koʻrsatadiki, iqtisodiy koʻrsatkichlarning seksondanidan ortigʻi statsionar boʻlmagan xususiyatga ega boʻlib, bu holat klassik regressiya modellarida soxta xulosalar va notoʻgʻri statistik talqinlarga olib keladi. Ilmiy asos Dikkey va Fuller (1979) tomonidan taklif etilgan testdan kelib chiqadi, keyinchalik Said va Dikkey (1984) tomonidan yuqori tartibli avtoregressiv modellarga kengaytirildi. Oʻzbekiston iqtisodiyotida inflyatsiya, valyuta kursi va yalpi ichki mahsulot qatorlarini tahlil qilishda mazkur testlarning ahamiyati ayniqsa yuqoridir. Asosiy qism. Yuqori tartibli avtoregressiv modellarda yagona ildiz muammosi vaqt qatorining uzoq muddatli xotiraga egaligini, ya’ni tashqi ta’sirlarning vaqt oʻtishi bilan soʻnib ketmasligi holini aniqlash zaruriyatidan kelib chiqadi. Statsionar boʻlmagan qator asosida qurilgan regressiya modeli, hatto ikkita oʻzaro bogʻliq boʻlmagan oʻzgaruvchi oʻrtasida ham, statistik jihatdan muhim koeffitsientlar berishi mumkin – bu hodisa soxta regressiya deb ataladi va Nelson hamda Plosser (1982) tomonidan empirik jihatdan batafsil koʻrsatilgan. Kengaytirilgan Dikkey-Fuller testi p-tartibli avtoregressiv jarayon uchun quyidagi parametrik shaklda quriladi: delta y_{t} = alfa + betta y_{t-1} + yigʻindisi (gamma_i delta y_{t-i}) + epsilon_t, bu yerda i 1 dan p gacha oʻzgaradi. Asosiy gipoteza betta = 0 boʻlib, uni rad etib boʻlmasa, qator yagona ildizga ega deb hisoblanadi. Test statistikasi betta koeffitsientining t-nisbati sifatida hisoblanadi va Fuller (1976) tomonidan tabliyalangan kritikal qiymatlari bilan solishtiriladi; bu qiymatlar Wiener jarayoniga asoslangan asimptotik taqsimotdan olinadi va standart Student taqsimotidan sezilarli farq qiladi. Kechikish tartibini tanlash testning statistik quvvati va oʻlchamiga bevosita ta’sir qiladi. Akaike axborot mezoni qoldiq dispersiyani kamaytirish bilan parametrlar sonini muvozanatlashtiradi, Beyesian axborot mezoni esa katta tanlanmalarda qisqaroq lag strukturasini tanlashga moyil. Ng va Perron (2001) taklif qilgan modifikatsiyalangan algoritm kichik tanlanmalarda yanada barqaror natija beradi. Filips-Perron testi parametrik boʻlmagan yondashuv asosida DikkeyFuller testini takomillashtiradi. Unda lag oʻzgaruvchilarini qoʻshish oʻrniga qoldiq dispersiyasiga yarim parametrik tuzatish kiritiladi. Bartlett yadro funksiyasi orqali hisoblangan uzoq muddatli dispersiya test statistikasiga tuzatish sifatida qoʻshiladi. Bu usul lag tanlashga bogʻliqlikni kamaytiradi, ammo kichik tanlanmalarda notoʻgʻri rad etish ehtimoli ortishi mumkin.Phillips-Perron (PP) testi: ADF kabi kengaytirilgan qismlarni qo‘shish o‘rniga, statistikani no-parametrik usulda korrelyatsiya va geteroskedastiklikka moslaydi.Oddiy Dickey-Fuller testi faqat modellari uchun mo‘ljallangan. Agar jarayon yuqori tartibli bo‘lsa (ya'ni, bo‘lsa), qoldiqlar o‘zaro bog‘liq (autocorrelation) bo‘lib qoladi. ADF testi bu muammoni bartaraf etish uchun modelga o‘zgaruvchining kechikkan farqlarini (lagged differences) qo‘shadi.Boshqa testlardan farqli o‘laroq, KPSS testida nol gipoteza qatorning statsionar ekanligini anglatadi. Odatda tahlilchilar natijaning ishonchliligini tasdiqlash uchun ADF va KPSS testlarini birgalikda o‘tkazadilar. Testlar oʻrtasida izchil amaliy metodologiya quyidagicha tartiblanadi: avval Dikkey-Fuller testi yordamida dastlabki tekshiruv amalga oshiriladi, soʻngra 702

Filips-Perron testi bilan natija tasdiqlanadi. Agar ikkala test qarama-qarshi xulosa bersa, Elliott, Rothenberg va Stok (1996) tomonidan taklif etilgan nuqtaga yoʻnaltirilgan detrending usulidan foydalanish tavsiya etiladi – bu usul statsionar boʻlmagan muqobil gipoteza atrofida testning statistik quvvatini sezilarli darajada oshiradi. Diagnostik bosqichda test qoldiqlarining geteroskedastikligi, avtokorrelatsiyasi va normallikdan ogʻishini tekshirish natijalar ishonchliligini ta’minlashning zaruriy sharti sifatida qaralmogʻi lozim.Agar avtoregressiv koeffitsient 1 ga juda yaqin (lekin 1 emas) bo‘lsa, DF-GLS testi oddiy ADFga qaraganda "yagona ildiz yo‘q" degan to‘g‘ri xulosani chiqarishda ancha kuchliroqdir. Yuqori tartibli AR modellarda yagona ildizni (birlik ildiz) aniqlash uchun asosan kengaytirilgan Dikki-Fuller (ADF) testi qo‘llaniladi. U modelga laglangan farqlarni qo‘shish orqali avtokorrelyatsiyani bartaraf etadi va (nostasionar) nol gipotezasini tekshiradi, bu esa iqtisodiy vaqtli qatorlar stasionarligini baholash uchun muhimdir.Shuningdek, Phillips-Perron (PP) testi ham yuqori tartibli jarayonlarda yagona ildizni tekshirish uchun ishlatilishi mumkin, bu esa avtokorrelyatsiyani boshqacha usulda (parametrik bo‘lmagan tuzatish) hal qiladi. Xulosa va amaliy tavsiyalar. Oʻzbekiston iqtisodiyotida inflyatsiya va valyuta kursi kabi qatorlarni tahlil qilishda kengaytirilgan testlarning qoʻllanilishi differensiallash zaruriyatini toʻgʻri aniqlash imkonini beradi. Masalan, p = 4 tartibli avtoregressiv modelda kengaytirilgan Dikkey-Fuller testi yagona ildizni rad etganda, bu birinchi tartibda farqlangan qatorning statsionarligini bildiradi va keyingi ekonometrik modellash uchun puxta zamin hozirlaydi. Shu boisdan, testlar natijalarini birgalikda koʻrib chiqish, turli mezonlar asosida kechikish tartibini solishtirib baholash va qayta namunalash metodlari orqali tasdiqlash yuqori darajadagi statistik ishonchlilikni ta’minlaydi. Foydalanilgan adabiyotlar: 1. Dickey D.A., Fuller W.A. Distribution of the Estimators for Autoregressive Time Series With a Unit Root // Journal of the American Statistical Association. - 1979. - Vol. 74, № 366. - P. 427-431. 2. Said S.E., Dickey D.A. Testing for Unit Roots in Autoregressive-Moving Average Models of Unknown Order // Biometrika. - 1984. - Vol. 71, № 3. - P. 599-607. 3. Phillips P.C.B., Perron P. Testing for a Unit Root in Time Series Regression // Biometrika. - 1988. - Vol. 75, № 2. - P. 335-346. 4. Nelson C.R., Plosser C.I. Trends and Random Walks in Macroeconomic Time Series: Some Evidence and Implications // Journal of Monetary Economics. - 1982. - Vol. 10, № 2. - P. 139-162. IMKONIYATI CHEKLANGAN SHAXSLAR UCHUN OVOZLI INTERFEYSGA EGA KO‘MAKLASHUVCHI SUN’IY INTELLEKT MODELINI TADQIQ QILISH Obidov Fayzulloh Rasuljon o‘g‘li, UMFT, magistranti, Qosimov Iqboljon Ilg‘orjon o‘g‘li, UMFT, magistranti Annotatsiya. Ushbu tadqiqotda imkoniyati cheklangan shaxslar uchun ovozli interfeys asosida ishlovchi ko‘maklashuvchi sun’iy intellekt modeli taklif etiladi va uning funksional 703

imkoniyatlari tahlil qilinadi. Tadqiqotning asosiy maqsadi — foydalanuvchi nutqini aniqlash, qayta ishlash va semantik tahlil qilish orqali kundalik hayotda axborotga kirishni soddalashtirish hamda raqamli xizmatlardan foydalanishni yengillashtirishdan iborat. Model nutqni matnga aylantirish (Speech-to-Text), tabiiy tilni qayta ishlash (NLP), buyruqlarni tasniflash va javob generatsiyasi bosqichlarini o‘z ichiga oladi. Tizim arxitekturasi mikroservis yondashuvi asosida qurilib, foydalanuvchi qurilmalari bilan integratsiyalashuv imkoniyati ko‘zda tutilgan. Tajriba natijalari modelning real vaqt rejimida ishlash qobiliyatiga ega ekanligini va foydalanuvchi buyruqlarini yuqori aniqlik bilan qayta ishlashini ko‘rsatdi. Taklif etilgan yondashuv inklyuziv raqamli muhitni shakllantirishda samarali vosita bo‘lishi mumkin. Kalit so‘zlar: Sun’iy intellekt, ovozli interfeys, nutqni aniqlash, tabiiy tilni qayta ishlash, inklyuziv texnologiyalar, assistiv tizimlar, mashinaviy o‘rganish. Аннотация. В данном исследовании предлагается и анализируется функциональность модели вспомогательного искусственного интеллекта на основе голосового интерфейса для лиц с ограниченными возможностями. Основная цель исследования — упрощение доступа к информации в повседневной жизни и облегчение использования цифровых услуг посредством распознавания, обработки и семантического анализа речи пользователя. Модель включает этапы преобразования речи в текст (Speech-to-Text), обработки естественного языка (NLP), классификации команд и генерации ответов. Архитектура системы построена на основе микросервисного подхода с возможностью интеграции с пользовательскими устройствами. Результаты экспериментов показали, что модель способна работать в режиме реального времени и обрабатывать команды пользователя с высокой точностью. Предложенный подход может стать эффективным инструментом в формировании инклюзивной цифровой среды. Ключевые слова: искусственный интеллект, голосовой интерфейс, распознавание речи, обработка естественного языка, инклюзивные технологии, ассистивные системы, машинное обучение. Abstract. This research proposes and analyzes the functional capabilities of an assistive artificial intelligence model based on a voice interface for individuals with disabilities. The primary objective of the study is to simplify access to information in daily life and facilitate the use of digital services through speech recognition, processing, and semantic analysis of user speech. The model includes stages of speech-to-text conversion (STT), natural language processing (NLP), command classification, and response generation. The system architecture is built on a microservice approach, allowing for integration with user devices. Experimental results demonstrated that the model is capable of operating in real-time and processing user commands with high accuracy. The proposed approach can serve as an effective tool in creating an inclusive digital environment. Keywords: artificial intelligence, voice interface, speech recognition, natural language processing, inclusive technologies, assistive systems, machine learning. Kirish. Raqamli texnologiyalar jadal rivojlanayotgan bugungi davrda axborotga erkin kirish va raqamli xizmatlardan foydalanish jamiyatning barcha qatlamlari uchun birdek muhim ahamiyat kasb etmoqda. Shu bilan birga, imkoniyati cheklangan shaxslar, xususan ko‘rish, eshitish yoki harakatlanish bilan bog‘liq muammolarga ega foydalanuvchilar uchun an’anaviy interfeyslar (klaviatura, sichqoncha, sensorli ekran) har doim ham qulay va samarali emas. Bu holat inklyuziv texnologiyalarni ishlab chiqish va ulardan amaliy foydalanishni kengaytirish zaruratini yuzaga keltiradi. So‘nggi yillarda sun’iy intellekt va tabiiy tilni qayta ishlash sohasidagi yutuqlar inson va kompyuter o‘rtasidagi muloqotni yanada soddalashtirish 704

imkonini bermoqda. Ovozli interfeyslar ayniqsa nogironligi bo‘lgan shaxslar uchun qulay vosita sifatida namoyon bo‘lmoqda, chunki ular qurilmalarni bevosita nutq orqali boshqarish imkonini beradi. Nutqni matnga aylantirish, semantik tahlil qilish va mos javobni shakllantirish jarayonlarining avtomatlashtirilishi foydalanuvchining raqamli muhit bilan o‘zaro aloqasini sezilarli darajada yengillashtiradi. Shunga qaramay, mavjud ovozli yordamchi tizimlar ko‘pincha umumiy maqsadli bo‘lib, imkoniyati cheklangan shaxslarning individual ehtiyojlarini to‘liq hisobga olmaydi. Til muhiti, nutqdagi fonetik xususiyatlar, mahalliy aksentlar yoki maxsus buyruq tuzilmalari ko‘plab tizimlarda yetarlicha qo‘llab-quvvatlanmagan. Bundan tashqari, ayrim platformalar yuqori hisoblash resurslarini talab qilishi sababli real vaqt rejimida barqaror ishlash masalasi ham dolzarb bo‘lib qolmoqda. Mazkur tadqiqotning asosiy maqsadi imkoniyati cheklangan shaxslar uchun moslashtirilgan, ovozli interfeysga ega ko‘maklashuvchi sun’iy intellekt modelini ishlab chiqish va uning funksional samaradorligini baholashdan iborat. Taklif etilayotgan model foydalanuvchi nutqini aniqlash, uni qayta ishlash va semantik jihatdan tahlil qilish orqali buyruqlarni to‘g‘ri interpretatsiya qilish hamda mos javobni shakllantirishga qaratilgan. Tadqiqot jarayonida model arxitekturasi, asosiy algoritmik bosqichlar va tizimning amaliy qo‘llanish imkoniyatlari ko‘rib chiqiladi. Metodologiya. Mazkur tadqiqot doirasida imkoniyati cheklangan shaxslar uchun mo‘ljallangan ovozli interfeysga ega ko‘maklashuvchi sun’iy intellekt tizimini ishlab chiqish va tahlil qilish metodologiyasi ishlab chiqildi. Taklif etilayotgan model foydalanuvchi nutqini qabul qilishdan boshlab, uni qayta ishlash, semantik tahlil qilish va mos javob shakllantirishgacha bo‘lgan bosqichlarni qamrab oladi. Tizim arxitekturasi modulli tamoyil asosida qurilgan bo‘lib, har bir funksional blok alohida vazifani bajaradi va o‘zaro integratsiyalashgan holda ishlaydi. Metodologik yondashuvda nutq signallarini raqamli qayta ishlash usullari, tabiiy tilni qayta ishlash algoritmlari hamda mashinaviy o‘rganish asosidagi tasniflash modellaridan foydalanildi. Quyida taklif etilgan modelning asosiy tarkibiy qismlari va ularning ishlash prinsiplari bosqichma-bosqich bayon etiladi. Tizim arxitekturasi va umumiy modeli. Taklif etilayotgan ko‘maklashuvchi sun’iy intellekt tizimi modulli arxitektura asosida ishlab chiqildi. Tizimning asosiy vazifasi foydalanuvchi tomonidan uzatilgan nutq signalini qabul qilish, uni qayta ishlash, semantik jihatdan tahlil qilish va mos javobni shakllantirishdan iborat. Jarayon ketma-ket bog‘langan funksional bloklar orqali amalga oshiriladi. Modelning umumiy ishlash jarayoni quyidagi funksional bog‘lanish orqali ifodalanadi: 𝑌 = 𝑓𝑟𝑒𝑠𝑝 (𝑓𝑐𝑙𝑠 (𝑓𝑛𝑙𝑝 (𝑓𝑠𝑡𝑡 (𝑋)))) bu yerda: 𝑋— kirish audio signali, 𝑓𝑠𝑡𝑡 — nutqni matnga aylantirish moduli (Speech-to-Text), 𝑓𝑛𝑙𝑝 — tabiiy tilni qayta ishlash bosqichi, 𝑓𝑐𝑙𝑠 — buyruqlarni tasniflash moduli, 𝑓𝑟𝑒𝑠𝑝 — javob generatsiyasi moduli, 𝑌— tizimning yakuniy chiqish natijasi (matn yoki ovozli javob). 705

Audio signal vaqt funksiyasi sifatida qaraladi: 𝑋 = 𝑠(𝑡), 𝑡 ∈ [0, 𝑇] Signal diskretlashtirilgandan so‘ng: 𝑥[𝑛] = 𝑠(𝑛𝑇𝑠 ) bu yerda 𝑇𝑠 — diskretlashtirish davri. Tizim arxitekturasi real vaqt rejimida ishlashni ta’minlash maqsadida ketmaket va parallel hisoblash mexanizmlarini birlashtiradi. Har bir modul mustaqil ishlashi mumkin bo‘lgan tarzda loyihalashtirilgan bo‘lib, bu tizimni kengaytirish va optimallashtirish imkonini beradi. Nutqni aniqlash va matnga aylantirish (Speech-to-Text) Nutqni aniqlash jarayoni audio signalni oldindan qayta ishlash, xususiyatlarni ajratib olish va neyron model orqali dekodlash bosqichlaridan iborat. Birinchi bosqichda signalga shovqinni kamaytirish va normallashtirish amallari qo‘llaniladi: 𝑥̂[𝑛] = 𝑥[𝑛] − 𝜇 𝜎 bu yerda: 𝜇— signalning o‘rtacha qiymati, 𝜎— standart og‘ish. Keyingi bosqichda akustik xususiyatlar ajratib olinadi. Amaliyotda MelFrequency Cepstral Coefficients (MFCC) keng qo‘llaniladi. MFCC hisoblash umumiy ko‘rinishda quyidagicha ifodalanadi: 𝑀 𝑐𝑘 = ∑ log ( 𝑆𝑚 )cos [ 𝑚=1 𝜋𝑘(𝑚 − 0.5) ] 𝑀 bu yerda: 𝑆𝑚 — mel-filtr banki orqali olingan spektral energiya, 𝑀— filtrlar soni, 𝑘— koeffitsient indeksi. Ajratilgan xususiyatlar vektor ko‘rinishida ifodalanadi: F = (𝑐1 , 𝑐2 , … , 𝑐𝐾 ) Mazkur xususiyatlar neyron tarmoqqa uzatiladi. Nutqni dekodlash jarayoni ehtimollik modeli asosida amalga oshiriladi: ̂ = arg max 𝑃(𝑊 ∣ 𝑋) 𝑊 Bayes qoidasiga ko‘ra: 𝑃(𝑊 ∣ 𝑋) = 𝑊 𝑃(𝑋 ∣ 𝑊)𝑃(𝑊) 𝑃(𝑋) bu yerda: 𝑊— ehtimoliy matn ketma-ketligi, 𝑃(𝑋 ∣ 𝑊)— akustik model ehtimolligi, 𝑃(𝑊)— til modeli ehtimolligi. Natijada foydalanuvchi nutqi matnli ko‘rinishga o‘tkaziladi va keyingi bosqich — semantik tahlilga uzatiladi. Tabiiy tilni qayta ishlash va semantik tahlil. Nutqni matnga aylantirish bosqichidan so‘ng olingan matnli ma’lumot semantik jihatdan tahlil qilinadi. Ushbu bosqichning asosiy maqsadi foydalanuvchi niyatini (intent) aniqlash va buyruq mazmunini strukturaviy ko‘rinishga keltirishdan iborat. Kirish matni quyidagicha belgilanadi: 𝑇 = {𝑤1 , 𝑤2 , … , 𝑤𝑛 } bu yerda 𝑤𝑖 — tokenlar (so‘zlar), 𝑛— tokenlar soni. 706

Birinchi bosqichda tokenizatsiya va normalizatsiya amalga oshiriladi. So‘zlar lemmatizatsiya orqali asosiy shaklga keltiriladi: 𝑤𝑖 → lemma(𝑤𝑖 ) Keyingi bosqichda matn vektorlashtiriladi. Agar TF-IDF usuli qo‘llanilsa, har bir so‘zning vazni quyidagicha aniqlanadi: 𝑁 ) 𝑇𝐹-𝐼𝐷𝐹(𝑡, 𝑑) = 𝑇𝐹(𝑡, 𝑑) × log ( 𝐷𝐹(𝑡) bu yerda: 𝑇𝐹(𝑡, 𝑑)— so‘zning hujjatdagi chastotasi, 𝐷𝐹(𝑡)— so‘z qatnashgan hujjatlar soni, 𝑁— umumiy hujjatlar soni. Natijada matn quyidagi vektor ko‘rinishga o‘tadi: v = (𝑣1 , 𝑣2 , … , 𝑣𝑚 ) bu yerda 𝑚— lug‘at hajmi. Agar embedding usuli qo‘llanilsa, har bir so‘z 𝑑-o‘lchamli vektorga xaritalanadi: 𝑤𝑖 → e𝑖 ∈ ℝ𝑑 Matnning umumiy reprezentatsiyasi esa o‘rtacha yoki ketma-ket model orqali olinadi: 𝑛 1 E = ∑ e𝑖 𝑛 𝑖=1 Semantik tahlil natijasida foydalanuvchi niyati aniqlanadi va keyingi bosqichga uzatiladi. Buyruqlarni tasniflash va javob generatsiyasi Ushbu bosqichda matn vektori klassifikatsiya modeliga uzatiladi. Modelning vazifasi kirish vektorini oldindan belgilangan sinflardan biriga ajratishdan iborat. Agar neyron tarmoq modeli qo‘llanilsa, chiqish qatlamidagi ehtimollik quyidagicha aniqlanadi: 𝑧 = 𝑊𝐯 + 𝑏 bu yerda: 𝑊— vaznlar matrisi, 𝑏— siljish vektori, 𝐯— kirish vektori. Softmax funksiyasi orqali har bir sinf ehtimolligi hisoblanadi: 𝑒 𝑧𝑖 𝑃(𝑦𝑖 ∣ 𝐯) = 𝑘 ∑𝑗=1 𝑒 𝑧𝑗 bu yerda 𝑘— sinflar soni. Model quyidagi optimallashtirish mezoni asosida o‘qitiladi: 𝑘 𝐿 = − ∑ 𝑦𝑖 log 𝑃(𝑦𝑖 ∣ 𝐯) 𝑖=1 bu yerda 𝐿— kross-entropiya yo‘qotish funksiyasi. Tasniflash natijasida aniqlangan sinfga mos ravishda javob generatsiyasi amalga oshiriladi. Javob shakllantirish funksiyasi quyidagicha ifodalanadi: 𝑌 = 𝑔(𝑐, v) bu yerda: 𝑐— aniqlangan sinf, v— kontekst vektori, 𝑌— yakuniy javob. Agar tizim ovozli chiqish bilan ishlasa, matn quyidagicha audio signalga aylantiriladi: 𝑆𝑜𝑢𝑡 (𝑡) = 𝑇𝑇𝑆(𝑌) 707

Natijada foydalanuvchi buyruqni nutq orqali kiritadi va tizim mos javobni matn yoki ovoz shaklida qaytaradi. Baholash mezonlari va tajriba jarayoni. Taklif etilayotgan ovozli ko‘makchi sun’iy intellekt tizimining samaradorligini baholashda u uchta asosiy bosqich bo‘yicha tekshirildi: (1) nutqni matnga aylantirish sifati, (2) buyruq/niyatni to‘g‘ri aniqlash, (3) javobni real vaqtga yaqin tezlikda qaytarish. Baholash jarayoni real foydalanuvchi buyruqlariga o‘xshash test namunalarida o‘tkazilib, natijalar klassifikatsiya mezonlari orqali hisoblandi. Tizimning aniqligi va barqarorligini ko‘rsatish uchun Accuracy, Precision, Recall, F1-score kabi metrikalar tanlandi; ular yordamida modelning xatolarga sezgirligi va foydalanuvchi buyruqlarini to‘g‘ri interpretatsiya qilish darajasi baholandi. 1-rasm. Tizimni baholash jarayoni Audio (kirish): foydalanuvchi buyruqlari nutq ko‘rinishida kiradi. STT: audio signal matnga o‘tkaziladi. NLP: matn tozalanadi, tokenizatsiya va semantik tahlil bajariladi. Classifier (Intent): foydalanuvchi niyati/buyrug‘i sinflarga ajratiladi. Response/TTS: mos javob ishlab chiqilib, kerak bo‘lsa ovozga aylantiriladi. Baholash metrikalari: yakuniy sifat Accuracy, Precision, Recall, F1 bilan o‘lchanadi. Natijalar. Taklif etilgan ovozli interfeysga ega ko‘maklashuvchi sun’iy intellekt modeli sinov ma’lumotlari asosida tajribaviy tekshiruvdan o‘tkazildi. Tajriba jarayonida turli xil kundalik buyruqlar (axborot so‘rash, qurilma boshqarish, vaqt va ob-havo ma’lumotlari, eslatma yaratish va boshqalar) kiritilib, tizimning javob berish aniqligi va tezligi baholandi. Sinovlar 500 ta turli buyruq namunasi asosida o‘tkazildi. Ma’lumotlar 80% o‘qitish va 20 % test to‘plamiga ajratildi. Modelning ishlash samaradorligi quyidagi ko‘rsatkichlar orqali baholandi: • Accuracy (Aniqlik) • Precision (Aniq tanlash ko‘rsatkichi) • Recall (To‘liq qamrov ko‘rsatkichi) • F1-score (Muvozanatlashgan ko‘rsatkich) Aniqlik quyidagi formula asosida hisoblandi: 𝐴𝑐𝑐𝑢𝑟𝑎𝑐𝑦 = 𝑇𝑃 + 𝑇𝑁 𝑇𝑃 + 𝑇𝑁 + 𝐹𝑃 + 𝐹𝑁 bu yerda: TP — to‘g‘ri ijobiy, TN — to‘g‘ri salbiy, FP — noto‘g‘ri ijobiy, FN — noto‘g‘ri salbiy. Tajriba natijalari 1-jadvalda keltirilgan. 708

1-jadval № 1 2 3 4 5 Ko‘rsatkich Accuracy Precision Recall F1-score O‘rtacha javob vaqti (ms) Qiymat (%) 94.6 93.8 92.9 93.3 480 ms Natijalar shuni ko‘rsatdiki, model foydalanuvchi buyruqlarini yuqori aniqlik bilan tasniflay oldi. Ayniqsa, qisqa va aniq buyruqlarda aniqlik darajasi yuqori bo‘ldi. Murakkab sintaktik tuzilishga ega gaplarda esa ayrim semantik noaniqliklar kuzatildi, biroq umumiy samaradorlik yuqori darajada saqlandi. O‘rtacha javob vaqti 480 millisekundni tashkil etib, tizim real vaqt rejimida ishlash talablariga javob berishini ko‘rsatdi. Bu ko‘rsatkich imkoniyati cheklangan shaxslar uchun tezkor va qulay foydalanish imkonini yaratadi. Umuman olganda, taklif etilgan model inklyuziv texnologiyalar sohasida amaliy qo‘llash uchun yetarli darajada barqaror va samarali ekanligi aniqlandi. Xulosa. Mazkur tadqiqot doirasida imkoniyati cheklangan shaxslar uchun mo‘ljallangan, ovozli interfeys asosida ishlovchi ko‘maklashuvchi sun’iy intellekt modeli ishlab chiqildi va uning funksional samaradorligi tajriba asosida baholandi. Taklif etilgan model nutqni aniqlash, matnga aylantirish, semantik tahlil qilish va buyruqlarni tasniflash bosqichlarini o‘z ichiga olgan modulli arxitektura asosida qurildi. Tajriba natijalari modelning foydalanuvchi buyruqlarini yuqori aniqlik bilan qayta ishlashini hamda real vaqtga yaqin tezlikda javob qaytarishini ko‘rsatdi. Aniqlik, aniqlik darajasi va F1 ko‘rsatkichlarining yuqori qiymatlari tizimning barqaror ishlashini tasdiqladi. O‘rtacha javob vaqti esa amaliy qo‘llash uchun yetarli darajada tezkor ekanligini namoyish etdi. Taklif etilgan yondashuv inklyuziv raqamli muhitni rivojlantirishga xizmat qilishi, imkoniyati cheklangan shaxslarning axborot-kommunikatsiya texnologiyalaridan mustaqil va qulay foydalanish imkoniyatlarini kengaytirishi mumkin. Kelgusida tizimni mahalliy til muhiti va turli nutq xususiyatlariga moslashtirish orqali uning aniqligini yanada oshirish istiqbollari mavjud. Foydalanilgan adabiyotlar ro‘yxati: 1. Jurafsky, D., & Martin, J.H. (2023). Speech and Language Processing (3rd ed. draft). Pearson. 2. Rabiner, L., & Juang, B.H. (1993). Fundamentals of Speech Recognition. Prentice Hall. 3. Graves, A., Mohamed, A., & Hinton, G. (2013). Speech recognition with deep recurrent neural networks. IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), 6645–6649. 4. Hinton, G., Deng, L., Yu, D., et al. (2012). Deep neural networks for acoustic modeling in speech recognition. IEEE Signal Processing Magazine, 29(6), 82–97. 5. Vaswani, A., Shazeer, N., Parmar, N., et al. (2017). Attention is All You Need. Advances in Neural Information Processing Systems (NeurIPS), 5998–6008. 6. Devlin, J., Chang, M. W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. NAACL-HLT, 4171–4186. 709

7. Young, S., Evermann, G., Gales, M., et al. (2006). The HTK Book (for HTK Version 3.4). Cambridge University Engineering Department. 8. Deng, L., & Li, X. (2013). Machine learning paradigms for speech recognition: An overview. IEEE Transactions on Audio, Speech, and Language Processing, 21(5), 1060–1089. 9. W3C. (2021). Web Content Accessibility Guidelines (WCAG) 2.1. World Wide Web Consortium. 10. World Health Organization (WHO). (2011). World Report on Disability. WHO Press. 11. Allen, J.F. (1995). Natural Language Understanding (2nd ed.). Benjamin/Cummings Publishing. CHUQUR O‘QITISHGA ASOSLANGAN ZAMONAVIY TIL MODELLARINI TAHLILI Tojiyev Sardor Azimqulovich, TATU, mustaqil izlanuvchi, s.tojiyev@ilmiy.uz Qayumov Javohir G‘ayrat o‘g‘li, UMFT, magistrant, qayumovjavohir@gmail.com. Annotatsiya. Ushbu maqolada chuqur o‘qitishga asoslangan zamonaviy til modellarining ishlash tamoyillari, afzalliklari va kamchiliklari tahlil qilinadi. BERT, GPT, RoBERTa, XLNet, T5 va ELECTRA modellarining xususiyatlari o‘rganilib, ularning tabiiy tilni qayta ishlashdagi qo‘llanish imkoniyatlari yoritilgan. Kalit so‘zlar: til modellari, chuqur o‘qitish, Transformer arxitekturasi, tabiiy tilni qayta ishlash, sun’iy intellekt Аннотация. В данной статье проводится анализ современных языковых моделей, основанных на глубоком обучении. Рассматриваются особенности моделей BERT, GPT, RoBERTa, XLNet, T5 и ELECTRA, а также их преимущества и недостатки при применении в задачах обработки естественного языка. Ключевые слова: языковые модели, глубокое обучение, архитектура Transformer, обработка естественного языка, искусственный интеллект Abstract. This article analyzes modern language models based on deep learning. The features, advantages, and limitations of models such as BERT, GPT, RoBERTa, XLNet, T5, and ELECTRA are examined, along with their applications in natural language processing tasks. Key words: language models, deep learning, Transformer architecture, natural language processing, artificial intelligence Kirish. So‘nggi yillarda sun’iy intellekt texnologiyalarining jadal rivojlanishi natijasida tabiiy tilni qayta ishlash (Natural Language Processing) sohasi ham sezilarli darajada taraqqiy etmoqda. Ayniqsa, chuqur o‘qitishga asoslangan til modellarining paydo bo‘lishi matnlarni avtomatik tahlil qilish, tushunish va generatsiya qilish jarayonlarini yangi bosqichga olib chiqdi. Ushbu modellar katta hajmdagi matn ma’lumotlari asosida o‘qitilib, tilning semantik va sintaktik qonuniyatlarini chuqur o‘rganish imkoniyatini beradi. Natijada sun’iy intellekt tizimlari inson tiliga yaqin darajada ishlash imkoniyatiga ega bo‘lmoqda. Zamonaviy til modellarining aksariyati Transformer arxitekturasiga asoslangan bo‘lib, ular kontekstni chuqur tahlil qilish imkonini beruvchi selfattention mexanizmidan foydalanadi. BERT, GPT, RoBERTa, XLNet, T5 hamda ELECTRA kabi modellar tabiiy tilni qayta ishlashning turli vazifalarida keng qo‘llanilmoqda. Ushbu modellar yordamida matn klassifikatsiyasi, savol-javob tizimlari, avtomatik tarjima, sentiment tahlili, matn generatsiyasi hamda 710

intellektual qidiruv tizimlari kabi ko‘plab amaliy vazifalar samarali hal etilmoqda. Shu bilan birga, ushbu modellar katta hajmdagi hisoblash resurslarini talab qilishi va murakkab arxitekturaga ega bo‘lishi sababli ularni tahlil qilish va solishtirish muhim ilmiy masalalardan biri hisoblanadi. Asosiy qism. Til modellari ‒ bu sun’iy intellekt va tabiiy tilni qayta ishlash sohasida qo‘llaniladigan algoritmlar bo‘lib, ular matndagi so‘zlar ketma-ketligi va ularning o‘zaro bog‘lanishlarini o‘rganishga mo‘ljallangan. Til modellarining asosiy vazifasi matndagi keyingi so‘zni bashorat qilish, matn mazmunini tushunish yoki yangi matn yaratishdan iborat. Ushbu modellar katta hajmdagi matn ma’lumotlari asosida o‘qitiladi va tilning semantik hamda sintaktik qonuniyatlarini o‘rganadi. Zamonaviy til modellarining aksariyati chuqur o‘qitish texnologiyalariga asoslangan bo‘lib, ular neyron tarmoqlar yordamida ishlaydi. Ayniqsa, Transformer arxitekturasi asosida yaratilgan modellar tabiiy tilni qayta ishlash sohasida katta yutuqlarga olib keldi. BERT, GPT, RoBERTa, XLNet, T5 va ELECTRA kabi modellar matnni tahlil qilish, savol-javob tizimlari yaratish, avtomatik tarjima, matn klassifikatsiyasi hamda matn generatsiyasi kabi ko‘plab vazifalarda keng qo‘llanilmoqda. Til modellarining ishlash jarayoni odatda matnni tokenlarga ajratish, ularni vektor ko‘rinishiga o‘tkazish, kontekstual bog‘lanishlarni aniqlash va natijaviy chiqish hosil qilish bosqichlaridan iborat. Ushbu modellar self-attention mexanizmi orqali matndagi so‘zlar o‘rtasidagi bog‘lanishlarni aniqlaydi va kontekstni chuqur tahlil qiladi. 1-rasm. Til modellarining umumiy strukturasi Hozirgi kunda til modellarining rivojlanishi sun’iy intellekt texnologiyalarining muhim yo‘nalishlaridan biri hisoblanadi. Ular aqlli qidiruv tizimlari, virtual yordamchilar, chatbotlar hamda avtomatik tarjima tizimlarida keng qo‘llanilmoqda. Shu sababli til modellarini o‘rganish va tahlil qilish ilmiy tadqiqotlarda muhim ahamiyat kasb etadi. BERT (Bidirectional Encoder Representations from Transformers) chuqur o‘qitishga asoslangan eng mashhur til modellaridan biri bo‘lib, u 2018711

yilda Google kompaniyasi tomonidan ishlab chiqilgan. Ushbu model tabiiy tilni qayta ishlash (Natural Language Processing) sohasida katta inqilob qilgan texnologiyalardan biri hisoblanadi. BERT modeli Transformer arxitekturasiga asoslangan bo‘lib, matnni ikki yo‘nalishda — ya’ni chapdan o‘ngga va o‘ngdan chapga — bir vaqtning o‘zida tahlil qilish imkoniyatiga ega. Bu xususiyat modelga so‘zlarning kontekstual ma’nosini ancha chuqurroq tushunish imkonini beradi. An’anaviy til modellarida so‘zlar ketma-ketligi odatda bir yo‘nalishda o‘rganilgan bo‘lsa, BERT modeli har bir so‘zning oldingi va keyingi kontekstini birgalikda hisobga oladi. Natijada model matn mazmunini ancha aniqroq tahlil qila oladi. BERT modelining yana bir muhim jihati shundaki, u transfer learning tamoyiliga asoslanadi. Bu degani model avval katta ma’lumotlar to‘plamida umumiy til bilimlarini o‘rganadi, keyin esa aniq vazifa uchun qayta moslashtiriladi. Shu sababli BERT modeli ko‘plab ilmiy va amaliy loyihalarda asosiy til modeli sifatida qo‘llanmoqda. Bugungi kunda BERT modelining RoBERTa, ALBERT, DistilBERT kabi turli modifikatsiyalari ham ishlab chiqilgan bo‘lib, ular model samaradorligini oshirish va hisoblash resurslarini kamaytirishga qaratilgan. GPT (Generative Pre-trained Transformer)- modeli OpenAI tomonidan ishlab chiqilgan generativ til modellaridan biri bo‘lib, u chuqur o‘qitish texnologiyalariga asoslanadi. Ushbu model ham Transformer arxitekturasiga asoslangan bo‘lib, asosan matn generatsiyasi vazifalarini bajarishga mo‘ljallangan. GPT modeli autoregressiv til modeli hisoblanadi, ya’ni u matndagi keyingi so‘zni oldingi so‘zlar ketma-ketligi asosida bashorat qiladi. Ushbu model katta hajmdagi matnlar ustida o‘qitiladi va ularning statistik hamda semantik tuzilishini o‘rganadi. GPT modelining asosiy ishlash mexanizmi self-attention mexanizmiga asoslanadi. Bu mexanizm matndagi har bir so‘zning boshqa so‘zlar bilan qanday bog‘langanligini aniqlash imkonini beradi. Natijada model matn kontekstini chuqur tahlil qila oladi va grammatik jihatdan to‘g‘ri hamda mantiqan mos gaplar yaratadi. GPT modelining birinchi versiyasi 2018-yilda taqdim etilgan bo‘lsa, keyinchalik GPT-2, GPT-3 va GPT-4 kabi yanada rivojlangan versiyalari ishlab chiqildi. Har bir yangi versiyada model parametrlarining soni sezilarli darajada oshirildi. GPT modeli ko‘plab sohalarda qo‘llaniladi. Masalan, avtomatik matn yozish, chatbot tizimlari, savol-javob tizimlari, kod generatsiyasi, tarjima tizimlari va kontent yaratish kabi vazifalarda keng foydalaniladi. Ayniqsa, sun’iy intellektga asoslangan virtual yordamchilar yaratishda GPT modeli juda muhim rol o‘ynaydi. Ushbu model foydalanuvchi so‘rovlarini tushunib, ularga mantiqiy va kontekstga mos javoblar qaytarish imkoniyatiga ega. RoBERTa (Robustly Optimized BERT Approach)-chuqur o‘qitishga asoslangan zamonaviy til modellaridan biri bo‘lib, u 2019-yilda Facebook AI Research (Meta AI) tadqiqotchilari tomonidan ishlab chiqilgan. Ushbu model mashhur BERT modelining takomillashtirilgan va optimallashtirilgan versiyasi hisoblanadi. RoBERTa modelining asosiy maqsadi BERT modelini o‘qitish jarayonidagi ayrim cheklovlarni bartaraf etish va uning samaradorligini oshirishdan iborat bo‘lgan. BERT modeli tabiiy tilni qayta ishlash sohasida katta 712

muvaffaqiyatga erishgan bo‘lsa-da, uning o‘qitish strategiyasi va ma’lumotlardan foydalanish jarayonida ayrim kamchiliklar mavjud edi. RoBERTa modeli aynan shu jihatlarni qayta ko‘rib chiqish orqali yanada kuchli natijalarga erishishga qaratilgan. RoBERTa modelini o‘qitishda yana bir muhim o‘zgarish — o‘qitish uchun ishlatilgan ma’lumotlar hajmining sezilarli darajada oshirilganidir. BERT modeli taxminan 16 gigabayt hajmdagi matn korpusi asosida o‘qitilgan bo‘lsa, RoBERTa modeli 160 gigabaytdan ortiq matn ma’lumotlari asosida o‘qitilgan. Bu ma’lumotlar turli manbalardan, jumladan internet sahifalari, kitoblar, yangiliklar maqolalari va boshqa matn korpuslaridan yig‘ilgan. Katta hajmdagi ma’lumotlar modelga tilning turli uslublari va strukturalarini o‘rganish imkonini beradi. Bundan tashqari, RoBERTa modelida dinamik maskalash texnikasi ham qo‘llaniladi. Bu texnikada har bir o‘qitish iteratsiyasida turli so‘zlar yashiriladi va model doim yangi kombinatsiyalar asosida o‘rganadi. Natijada modelning umumlashuv qobiliyati oshadi. RoBERTa modeli tabiiy tilni qayta ishlashning ko‘plab vazifalarida yuqori samaradorlik ko‘rsatadi. Jumladan, matn klassifikatsiyasi, sentiment tahlili, savoljavob tizimlari, nomlangan obyektlarni aniqlash (Named Entity Recognition), semantik o‘xshashlikni aniqlash va matnni tushunish kabi vazifalarda keng qo‘llaniladi. Ushbu model ko‘plab xalqaro benchmark testlarida yuqori natijalarni ko‘rsatgan. Masalan, GLUE (General Language Understanding Evaluation) kabi mashhur baholash platformalarida RoBERTa modeli BERT modeliga qaraganda yuqori aniqlik ko‘rsatkichlarini namoyish etgan. Bu esa modelning amaliy qo‘llanilish imkoniyatlarini yanada kengaytirgan. RoBERTa modeli chuqur o‘qitishga asoslangan til modellarining rivojlanishida muhim bosqichlardan biri hisoblanadi. Ushbu model BERT arxitekturasining imkoniyatlarini yanada kengaytirib, til modellarini o‘qitish strategiyasini optimallashtirish orqali yuqori samaradorlikka erishish mumkinligini ko‘rsatdi. Hozirgi kunda RoBERTa modeli ko‘plab ilmiy tadqiqotlarda, qidiruv tizimlarida, chatbot platformalarida va boshqa sun’iy intellekt tizimlarida keng qo‘llanilmoqda. Shu sababli RoBERTa modeli zamonaviy tabiiy tilni qayta ishlash texnologiyalarining muhim komponentlaridan biri hisoblanadi. XLNet modeli chuqur o‘qitishga asoslangan zamonaviy til modellaridan biri bo‘lib, u 2019-yilda Google Brain hamda Carnegie Mellon universiteti tadqiqotchilari tomonidan ishlab chiqilgan. Ushbu model tabiiy tilni qayta ishlash sohasida muhim yutuqlardan biri hisoblanadi. XLNet modeli Transformer-XL arxitekturasiga asoslangan bo‘lib, u an’anaviy autoregressiv til modellarining va autoencoding modellarining afzalliklarini birlashtirgan holda ishlab chiqilgan. BERT kabi modellar matndagi ayrim so‘zlarni yashirish orqali kontekstni o‘rganishga harakat qiladi, biroq bu yondashuv ayrim hollarda ma’lumot yo‘qotilishiga olib kelishi mumkin. XLNet esa ushbu muammoni hal qilish maqsadida yangi o‘qitish strategiyasini taklif etgan. XLNet modeli katta hajmdagi matn korpuslari asosida o‘qitiladi. Bu jarayonda model millionlab va hatto milliardlab parametrlarni o‘z ichiga oladi. 713

Modelni o‘qitishda turli internet matnlari, kitoblar, ilmiy maqolalar va boshqa katta ma’lumotlar to‘plamlaridan foydalaniladi. Katta hajmdagi ma’lumotlar modelga til strukturasini chuqur o‘rganish imkonini beradi. O‘qitish jarayonida model so‘zlar o‘rtasidagi semantik va sintaktik bog‘lanishlarni aniqlashni o‘rganadi. XLNet modeli tabiiy tilni qayta ishlashning ko‘plab vazifalarida muvaffaqiyatli qo‘llaniladi. Jumladan, savol-javob tizimlari, matn klassifikatsiyasi, sentiment tahlili, matnni tushunish, nomlangan obyektlarni aniqlash va boshqa ko‘plab vazifalarda samarali ishlaydi. Ayniqsa, savol-javob tizimlarida XLNet modeli yuqori aniqlik ko‘rsatkichlariga ega. Ko‘plab tadqiqotlarda XLNet modeli BERT modeliga nisbatan ayrim vazifalarda yaxshiroq natijalar ko‘rsatgani aniqlangan. T5 (Text-to-Text Transfer Transformer) modeli Google Research tomonidan ishlab chiqilgan chuqur o‘qitishga asoslangan til modeli hisoblanadi. Ushbu model tabiiy tilni qayta ishlash vazifalarini yagona formatga keltirish g‘oyasiga asoslanadi. An’anaviy til modellarida har bir vazifa alohida model yoki alohida arxitektura yordamida bajarilishi mumkin. Masalan, tarjima qilish uchun alohida model, savol-javob tizimi uchun boshqa model ishlatiladi. T5 modelida esa barcha vazifalar bitta umumiy yondashuv asosida bajariladi. Bu yondashuv “textto-text” deb ataladi, ya’ni barcha vazifalar matn kirish va matn chiqish ko‘rinishida ifodalanadi. T5 modelining yana bir muhim xususiyati — transfer learning tamoyiliga asoslanishi hisoblanadi. Model avval katta umumiy matn korpusida o‘qitiladi, keyinchalik esa aniq vazifalar uchun qayta moslashtiriladi. Bu yondashuv modelni turli sohalarda samarali qo‘llash imkonini beradi. Masalan, tibbiyot matnlarini tahlil qilish, hujjatlarni avtomatik tahlil qilish, savol-javob tizimlari va matn generatsiyasi kabi vazifalarda T5 modeli muvaffaqiyatli qo‘llaniladi. T5 modeli tabiiy tilni qayta ishlash sohasida juda muhim modellar qatoriga kiradi. Uning yagona “text-to-text” yondashuvi ko‘plab tadqiqotlarda yangi imkoniyatlar yaratdi. Modelning moslashuvchanligi va yuqori samaradorligi uni zamonaviy sun’iy intellekt tizimlarida keng qo‘llash imkonini beradi. ELECTRA modeli (Efficiently Learning an Encoder that Classifies Token Replacements Accurately) modeli 2020-yilda Google Research tadqiqotchilari tomonidan ishlab chiqilgan zamonaviy chuqur o‘qitishga asoslangan til modeli hisoblanadi. Ushbu model BERT arxitekturasiga o‘xshash bo‘lsa-da, o‘qitish jarayonidagi yangi yondashuvi bilan ajralib turadi. ELECTRA modelining asosiy maqsadi til modellarini o‘qitish jarayonini yanada samarali qilish va hisoblash resurslaridan yanada optimal foydalanishni ta’minlashdan iborat. An’anaviy modellar, jumladan BERT, Masked Language Modeling usulidan foydalanadi. Bu usulda matndagi ayrim so‘zlar yashiriladi va model ushbu so‘zlarni kontekst asosida taxmin qilishni o‘rganadi. Biroq bu jarayonda matnning faqat kichik qismi o‘rganiladi. ELECTRA modeli esa boshqa yondashuvni taklif qiladi. Unda generator va discriminator deb ataladigan ikkita model ishlatiladi. Generator matndagi ayrim so‘zlarni almashtiradi, discriminator esa qaysi so‘zlar 714

haqiqiy, qaysilari generator tomonidan almashtirilganligini aniqlashga harakat qiladi. 1-jadval Til modellarining tahliliy tavsifi № Til modeli 1. BERT 2. GPT 3. RoBERTa 4. XLNet 5. T5 6. ELECTRA Afzalliklari Ikki yo‘nalishli kontekstni tushunadi, matn tahlilida yuqori aniqlik beradi Matn generatsiyasida juda samarali, chatbot va kontent yaratishda keng qo‘llaniladi BERT ga qaraganda optimallashtirilgan, yuqori aniqlik ko‘rsatadi Kontekstni chuqur o‘rganadi, ayrim vazifalarda BERT dan samaraliroq Turli NLP vazifalarini yagona textto-text formatida bajaradi Kamroq resurs bilan samarali o‘qitiladi, tez ishlaydi Kamchiliklari Katta resurs talab qiladi, generativ vazifalarda samarasi past Juda katta hisoblash quvvati talab qiladi, ba’zan noto‘g‘ri ma’lumot yaratishi mumkin O‘qitish uchun katta ma’lumot va resurs kerak Arxitekturasi murakkab va hisoblash resurslari ko‘p talab etadi Model hajmi katta va ishlatish xarajati yuqori Generativ vazifalarda imkoniyati cheklangan Shu bilan birga, barcha modellar uchun umumiy muammolardan biri katta hajmdagi hisoblash resurslari va katta ma’lumotlar to‘plamini talab qilishi hisoblanadi. Ayrim modellar, masalan XLNet va RoBERTa, murakkab arxitekturaga ega bo‘lgani sababli ularni o‘qitish jarayoni ko‘p vaqt va resurs talab qiladi. ELECTRA modeli esa o‘qitish samaradorligini oshirish orqali kamroq resurs bilan yuqori natijalarga erishishga qaratilgan. Umuman olganda, jadval tahlili shuni ko‘rsatadiki, har bir til modeli o‘ziga xos arxitektura va o‘qitish strategiyasiga ega bo‘lib, ularning samaradorligi qo‘llaniladigan vazifa turiga bog‘liq ravishda farq qiladi. Xulosa. Chuqur o‘qitishga asoslangan til modellarining rivojlanishi tabiiy tilni qayta ishlash sohasida muhim ilmiy va texnologik yutuqlarga olib keldi. Ushbu tadqiqot doirasida BERT, GPT, RoBERTa, XLNet, T5 hamda ELECTRA kabi zamonaviy til modellarining ishlash tamoyillari, afzalliklari va kamchiliklari tahlil qilindi. Tahlil natijalari shuni ko‘rsatadiki, ushbu modellar Transformer arxitekturasiga asoslangan bo‘lib, ular katta hajmdagi matn ma’lumotlari asosida o‘qitiladi va tilning semantik hamda sintaktik tuzilishini chuqur o‘rganish imkoniyatiga ega. BERT va RoBERTa modellarining asosiy ustunligi ikki yo‘nalishli kontekstni tahlil qilish orqali matn mazmunini aniqroq tushunishidir. Ushbu modellar ayniqsa matn klassifikatsiyasi, savol-javob tizimlari va nomlangan obyektlarni aniqlash kabi vazifalarda yuqori samaradorlik ko‘rsatadi. GPT modeli esa generativ xususiyati bilan ajralib turadi va matn yaratish, chatbot tizimlari hamda avtomatik kontent generatsiyasi kabi vazifalarda keng qo‘llaniladi. XLNet modeli permutation language modeling yondashuvi orqali kontekstni yanada chuqurroq o‘rganish imkonini beradi. T5 modeli esa barcha tabiiy til vazifalarini yagona text-to-text formatida bajarish imkoniyati bilan ajralib turadi. ELECTRA 715

modeli esa samarali o‘qitish strategiyasi orqali kamroq hisoblash resurslari bilan ham yuqori natijalarga erishishni ta’minlaydi. Shu bilan birga, ushbu modellarni qo‘llash jarayonida ayrim muammolar ham mavjud. Jumladan, katta hajmdagi hisoblash resurslariga ehtiyoj, katta ma’lumotlar to‘plamining zarurligi hamda model arxitekturasining murakkabligi ushbu texnologiyalarni joriy etishda muhim omil hisoblanadi. Biroq chuqur o‘qitishga asoslangan til modellarining doimiy ravishda takomillashib borishi tabiiy tilni qayta ishlash sohasida yanada samarali va moslashuvchan tizimlarni yaratish imkonini bermoqda. Umuman olganda, zamonaviy til modellarining rivojlanishi sun’iy intellekt texnologiyalarining keng qo‘llanilishiga xizmat qilmoqda hamda kelajakda aqlli axborot tizimlari, avtomatik tarjima, intellektual qidiruv tizimlari va virtual yordamchilarni yaratishda muhim ahamiyat kasb etadi. Foydalanilgan adabiyotlar ro‘yxati: 1. Devlin J., Chang M.W., Lee K., Toutanova K. BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. // Proceedings of NAACL-HLT. – Minneapolis, USA, 2019. – pp. 4171–4186. 2. Radford A., Narasimhan K., Salimans T., Sutskever I. Improving Language Understanding by Generative Pre-Training. – OpenAI Technical Report, 2018. 3. Radford A., Wu J., Child R., Luan D., Amodei D., Sutskever I. Language Models are Unsupervised Multitask Learners. – OpenAI Technical Report, 2019. 4. Liu Y., Ott M., Goyal N., Du J., Joshi M., Chen D., Levy O., Lewis M., Zettlemoyer L., Stoyanov V. RoBERTa: A Robustly Optimized BERT Pretraining Approach. – arXiv preprint arXiv:1907.11692, 2019. 5. Yang Z., Dai Z., Yang Y., Carbonell J., Salakhutdinov R., Le Q. XLNet: Generalized Autoregressive Pretraining for Language Understanding. // Advances in Neural Information Processing Systems. – 2019. 6. Raffel C., Shazeer N., Roberts A., Lee K., Narang S., Matena M., Zhou Y., Li W., Liu P. Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. // Journal of Machine Learning Research. – 2020. BULUTLI TEXNOLOGIYALAR ASOSIDA TALABALAR MONITORING TIZIMINI LOYIHALASH Qosimov Iqboljon Ilg‘orjon o‘g‘li, UMFT, magistranti Obidov Fayzulloh Rasuljon o‘g‘li, UMFT, magistranti Annotatsiya. Axborot texnologiyalarining jadal rivojlanishi ta’lim tizimida zamonaviy boshqaruv va nazorat mexanizmlarini joriy etishni talab qilmoqda. Ayniqsa, talabalar faoliyatini doimiy monitoring qilish, ularning o‘quv jarayonidagi ishtiroki va natijalarini tahlil qilish muhim ahamiyat kasb etadi. Ushbu maqolada bulutli texnologiyalar asosida talabalar monitoring tizimini loyihalash masalasi ko‘rib chiqiladi. Tadqiqot jarayonida bulutli platformalarning imkoniyatlari, ularning ma’lumotlarni saqlash, qayta ishlash va masofadan foydalanishdagi afzalliklari tahlil qilindi. Shuningdek, talabalarning davomati, o‘zlashtirish darajasi va akademik faolligini kuzatish imkonini beruvchi monitoring tizimining arxitekturasi taklif etildi. Taklif etilayotgan tizim ta’lim muassasalarida ma’lumotlarni markazlashgan holda boshqarish, tezkor tahlil qilish 716

hamda o‘qituvchi va ma’muriyat uchun qulay boshqaruv muhitini yaratishga xizmat qiladi. Tadqiqot natijalari bulutli texnologiyalar asosida yaratilgan monitoring tizimlari ta’lim jarayonining samaradorligini oshirish, ma’lumotlardan samarali foydalanish hamda boshqaruv qarorlarini qabul qilishni takomillashtirishda muhim ahamiyatga ega ekanligini ko‘rsatadi. Kalit so‘zlar: bulutli texnologiyalar, talabalar monitoringi, ta’lim tizimi, axborot tizimlari, ma’lumotlarni boshqarish, masofaviy xizmatlar, ta’lim jarayonini raqamlashtirish, bulutli platforma. Аннотация. Стремительное развитие информационных технологий требует внедрения современных механизмов управления и контроля в систему образования. Особое значение имеет постоянный мониторинг деятельности студентов, анализ их участия и результатов в учебном процессе. В данной статье рассматривается вопрос проектирования системы мониторинга студентов на базе облачных технологий. В ходе исследования проанализированы возможности облачных платформ, их преимущества в хранении, обработке и удаленном доступе к данным. Также предложена архитектура системы мониторинга, позволяющая отслеживать посещаемость, уровень успеваемости и академическую активность студентов. Предлагаемая система служит для централизованного управления данными, оперативного анализа и создания удобной среды управления для преподавателей и администрации. Результаты исследования показывают, что системы мониторинга, созданные на основе облачных технологий, имеют важное значение для повышения эффективности образовательного процесса, эффективного использования данных и совершенствования принятия управленческих решений. Ключевые слова: облачные технологии, мониторинг студентов, система образования, информационные системы, управление данными, дистанционные сервисы, цифровизация образовательного процесса, облачная платформа. Abstract. The rapid development of information technologies requires the introduction of modern management and control mechanisms in the education system. In particular, continuous monitoring of students' activities, analysis of their participation and results in the educational process is of great importance. This article discusses the design of a student monitoring system based on cloud technologies. During the research, the capabilities of cloud platforms, their advantages in data storage, processing, and remote access were analyzed. Furthermore, an architecture of a monitoring system that allows tracking students' attendance, academic performance, and academic activity was proposed. The proposed system serves for centralized data management, rapid analysis, and creating a convenient management environment for teachers and administration. The research results show that monitoring systems created on the basis of cloud technologies are important in increasing the efficiency of the educational process, effective use of data, and improving management decision-making. 717

Keywords: cloud technologies, student monitoring, education system, information systems, data management, remote services, digitalization of the educational process, cloud platform. Kirish. Axborot-kommunikatsiya texnologiyalarining jadal rivojlanishi ta’lim tizimida boshqaruv va nazorat jarayonlarini raqamlashtirish zaruratini yuzaga keltirmoqda. Zamonaviy ta’lim muhitida talabalarning o‘quv jarayonidagi faolligini, davomati va akademik natijalarini muntazam kuzatib borish muhim ahamiyat kasb etadi. An’anaviy monitoring usullari ko‘pincha qog‘oz hujjatlar yoki lokal axborot tizimlariga asoslangan bo‘lib, ular ma’lumotlarni tezkor yig‘ish, saqlash va tahlil qilishda yetarli darajada samarali emas. So‘nggi yillarda bulutli texnologiyalarning keng rivojlanishi ta’lim jarayonini boshqarishda yangi imkoniyatlarni yaratmoqda. Bulutli hisoblash texnologiyalari ma’lumotlarni markazlashgan holda saqlash, ulardan istalgan joy va qurilmadan foydalanish hamda katta hajmdagi axborotni tezkor qayta ishlash imkonini beradi. Shu sababli, bulutli platformalar asosida yaratilgan axborot tizimlari ta’lim muassasalarida boshqaruv samaradorligini oshirishda muhim vosita sifatida qaralmoqda. Talabalar monitoring tizimi ta’lim jarayonining muhim tarkibiy qismi bo‘lib, u talabalarning o‘zlashtirish darajasi, davomati, topshiriqlarni bajarish holati va umumiy akademik faolligini nazorat qilish imkonini beradi. Bunday tizimlar o‘qituvchilar va ta’lim muassasasi ma’muriyati uchun muhim analitik ma’lumotlarni taqdim etadi hamda o‘quv jarayonida yuzaga keladigan muammolarni erta aniqlash imkonini yaratadi. Shu bilan birga, talabalarning individual o‘quv natijalarini tahlil qilish orqali ta’lim jarayonini yanada samarali tashkil etish mumkin. Ammo mavjud monitoring tizimlarining aksariyati lokal serverlarga bog‘langan bo‘lib, ular miqyoslashuv, uzluksiz ishlash va masofaviy foydalanish imkoniyatlari jihatidan cheklangan hisoblanadi. Mazkur maqolaning asosiy maqsadi bulutli texnologiyalar asosida talabalar monitoring tizimini loyihalash va uning funksional imkoniyatlarini tahlil qilishdan iborat. Tadqiqot doirasida tizimning arxitekturasi, asosiy modullari hamda ma’lumotlarni yig‘ish va tahlil qilish mexanizmlari ko‘rib chiqiladi. Taklif etilayotgan tizim talabalarning o‘quv faoliyatini real vaqt rejimida kuzatish, ma’lumotlarni markazlashgan holda boshqarish va ta’lim jarayonining samaradorligini oshirishga xizmat qiladi. Metodologiya. Mazkur tadqiqotda bulutli texnologiyalar asosida talabalar monitoring tizimini ishlab chiqish va uning samaradorligini baholash metodologiyasi taklif etildi. Tadqiqot jarayonida tizimning arxitekturasi, ma’lumotlarni yig‘ish va qayta ishlash jarayoni, shuningdek monitoring ko‘rsatkichlarini hisoblash usullari ishlab chiqildi. Taklif etilayotgan tizim talabalarning davomati, o‘zlashtirish darajasi va akademik faolligi to‘g‘risidagi ma’lumotlarni bulutli serverda saqlash va tahlil qilishga mo‘ljallangan. 718