Boshlash·02-bob
Til modeli qanday ishlaydi
Token, kontekst oynasi, temperatura — mahsulot qurish uchun yetarli darajadagi tushuncha.
Til modelining ichini to'liq tushunish uchun chuqur matematika kerak. Lekin mahsulot qurish uchun to'rtta tushuncha yetarli. Ularni bilmasangiz, keyinchalik sabablari noma'lum xatolarga duch kelasiz.
1. Token#
Model so'zlar bilan emas, tokenlar bilan ishlaydi. Token — so'zning bo'lagi.
"Salom, dunyo!" → ["Sal", "om", ",", " dun", "yo", "!"]Nega muhim? Chunki narx va cheklovlar tokenlarda o'lchanadi. Ingliz tilida o'rtacha 1 token ≈ 0.75 so'z. O'zbek va rus tilida esa ancha yomonroq — bir so'z 3-5 tokenga bo'linishi mumkin, ya'ni o'zbekcha matn ingliz tiliga qaraganda qimmatroqqa tushadi.
2. Kontekst oynasi#
Model bir vaqtda ko'ra oladigan maksimal token miqdori. Bu ish stoliga o'xshaydi: qancha katta bo'lsa, shuncha ko'p hujjat sig'adi, lekin cheki bor.
Muhim nuance: kontekst to'lganda model eng eski qismini "unutmaydi" — so'rov umuman rad etiladi. Shuning uchun uzun suhbatlarni qisqartirish strategiyasi kerak.
3. Ehtimollik va temperatura#
Model keyingi tokenni tanlamaydi — u har bir mumkin bo'lgan token uchun ehtimollik hisoblaydi, keyin shulardan biri tanlanadi.
temperature shu tanlovning tavakkalchiligini boshqaradi:
0— har doim eng ehtimolli token. Bir xil so'rovga bir xil javob. Klassifikatsiya, ma'lumot ajratish uchun.0.7— muvozanat. Suhbat, yozish uchun.1.5— juda tasodifiy. Ijodiy g'oyalar uchun, lekin mantiqsizlik xavfi yuqori.
4. Model faqat matnni davom ettiradi#
Model "biladi" yoki "o'ylaydi" emas — u eng ehtimolli davomni yozadi. Shuning uchun u ishonch bilan noto'g'ri javob bera oladi. Bu xato emas, ishlash prinsipi. Mahsulot quruvchi sifatida sizning vazifangiz — modelga to'g'ri kontekst berish va javobni tekshirish.