aidoc.uz

3-qism · Murakkab tizimlar·11-bob

Oldindagi yo'l

Agentlar qayerda ishlatilyapti, qanday savollar hali javobsiz qolgan va bu texnologiya bilan qanday munosabatda bo'lish kerak — amaliy xulosa bilan.

Biz uzoq yo'l bosdik.

Birinchi bobda so'zni raqamga aylantirdik. Oxirgi bobda esa mustaqil qaror qabul qiladigan, asboblardan foydalanadigan va bir-biri bilan gaplashadigan tizimlar qurdik.

Bu oxirgi bob javoblar haqida emas. U savollar haqida — hali yechilmaganlari haqida. Chunki bu sohada ishlaydigan odam uchun eng xavflisi — hamma narsa hal bo'lgan deb o'ylash.

Agentlar bugun qayerda#

Veb agentlar
buyurtma, forma to'ldirish, ma'lumot yig'ish
eng tez o'sayotgan
AI olim
gipoteza, tajriba, kashfiyot — odam nazorati bilan
ilm-fan
Jismoniy agentlar
robot ichidagi LLM — muhit bilan ta'sir
embodiment
Tibbiyot
diagnostika yordami, adabiyot tahlili, dori izlash
yuqori xavf
Agentlarning amaliy qo'llanish sohalari

AI olim — eng hayajonli istiqbol. G'oya: bugungi agentlarga eksperimental platforma qo'shiladi — robot laboratoriya. Endi agent nafaqat gipoteza tuza oladi, balki uni sinab ham ko'ra oladi.

1. Muammoni tahlil qiladi
2. Adabiyotni o'qiydi
3. Gipoteza tuzadi
4. Tajriba rejasini yozadi
5. Robot laboratoriya bajaradi
6. Natijani tahlil qiladi  →  1-qadamga qaytadi

Hali yechilmagan muammolar#

Odam va agent muloqoti#

Agent real dunyoda haqiqiy zarar yetkaza oladi:

  • Xarid agenti kutilmaganda pul sarflaydi
  • Kod agenti muhim fayllarni o'chiradi yoki xatoli kodni ishlab chiqarishga chiqaradi
  • Ma'lumot agenti maxfiy ma'lumotni oshkor qiladi

Ikki tamoyil hal qiluvchi: shaffoflik va nazorat.

1
Maqsadni aniq yetkazish
Tabiiy til noaniq. «Arzon aviachipta top» — arzon qancha? Qachon? Agent taxmin qiladi va ko'pincha noto'g'ri taxmin qiladi.
2
Harakatlarni oldindan aytish
Agent qimmat yoki qaytarib bo'lmaydigan ishni bajarishdan OLDIN aytishi kerak. Ba'zi harakatlar aniq ruxsat talab qilishi kerak.
3
Jarayonni ko'rsatish
Foydalanuvchi nima bo'layotganini ko'rib turishi va kerak bo'lsa TO'XTATA olishi kerak.

Beqarorlik#

LLM stoxastik. Va bu shunchaki temperature masalasi emas:

  • Dekodlash tasodifiy — bir xil so'rovga har xil javob
  • temperature = 0 bo'lsa ham muhit o'zgaradi — sayt yangilandi, narx o'zgardi
  • Modelning dunyo haqidagi tasavvuri eskirgan bo'lishi mumkin

Natijada agent xatti-harakati oldindan aytib bo'lmaydigan bo'lib qoladi. Bu ishlab chiqarish tizimlari uchun jiddiy muammo — testlash qiyinlashadi.

Ko'p agent har doim ham yaxshiroq emas#

9-bobda ko'rgan edik, lekin takrorlashga arziydi: tadqiqotlar ko'rsatdiki, ko'p agentli tizimlar ko'pincha bitta agentga nisbatan atigi kichik yaxshilanish beradi. Qo'shimcha narx va murakkablik ko'pincha oqlanmaydi.

Katta savollar#

Fikrlash chegaralari#

LLM'lar mantiqiy testlarda odamdan o'zib ketdi. Demak ular fikrlaydimi?

Fikrlaydi degan dalillar
  • Benchmark natijalari yuqori
  • Miqyos bilan yangi qobiliyatlar paydo bo'ladi
  • Chain-of-thought sifatni oshiradi
  • Ko'p bosqichli masalalarni yechadi
Fikrlamaydi degan dalillar
  • Benchmark ma'lumoti o'quv to'plamiga tushib qolgan bo'lishi mumkin
  • Kichik o'zgarish natijani buzadi — haqiqiy mantiq bunday sinmaydi
  • Naqsh moslashtirishmi yoki mantiqmi — ajratish qiyin
  • O'xshash masalani eslaydimi yoki yechadimi?

Bugungi konsensus: LLM'lar JUDA MUKAMMAL NAQSH MASHINALARI. Ularning butun insoniyat bilimida naqsh topa olishi ularni g'oyat samarali qiladi — lekin bu odam ma'nosidagi fikrlash emas.

Antropomorflashtirish#

Kitob eng kam baholanadigan xavf deb aynan shuni ataydi.

LLM'da ong yo'q. Hissiyot yo'q. U o'zi o'qitilgan taqsimotni takrorlaydi — va shu taqsimotda odamlar his-tuyg'u bilan yozgan matnlar bo'lgani uchun hissiyotli ko'rinadi.

Avtonomiya darajalari#

2025-yilda chiqqan maqola keskin fikr bildirdi: to'liq avtonom AI agentlari ishlab chiqilmasligi kerak.

Dalil: tarix ko'rsatadiki, yaxshi loyihalangan avtonom tizimlar ham arzimas sabablardan halokatli xato qilishi mumkin.

1-daraja
agent taklif qiladi, odam bajaradi
eng xavfsiz
2-daraja
agent bajaradi, odam har qadamni tasdiqlaydi
3-daraja
agent bajaradi, odam kuzatadi
4-daraja
agent bajaradi, odam natijani ko'radi
5-daraja
agent to'liq mustaqil
eng xavfli
Avtonomiya darajalari — nazorat asta agentga o'tadi

Xulosa: yuqori xavfli qarorlarda odam mulohazasi zarur bo'lib qoladi.

Endi nima qilish kerak#

Kitob tugadi. Uch amaliy maslahat.

  1. Kichik narsa quring

    O'qish bilim beradi, qurish tushuncha beradi.

    Bitta hujjatni oladigan, savolga javob beradigan oddiy RAG quring. Ishlatib ko'ring. Buzing. Tuzating. Aynan shu jarayonda haqiqiy tushuncha shakllanadi.

    Bu kitobdagi har bir bobda amaliy topshiriq bor edi — ularni bajaring. O'qib o'tish emas, qilib ko'rish.

  2. O'lchang

    Bu sohadagi eng ko'p uchraydigan xato — "ishlayotgandek ko'rinadi" deb davom etish.

    • Faithfulness ni o'lchang — javob kontekstga sodiqmi?
    • Token sarfini loglang — oy oxirida hayron bo'lmang
    • Kechikishni kuzating — foydalanuvchi qancha kutyapti?

    Raqamsiz yaxshilanish — bu taxmin, bilim emas.

  3. Shubha bilan qarang

    Yangi maqola chiqadi, benchmark natijalari ajoyib. Savol bering:

    • Benchmark ifloslanganmi? (test savollari o'quv ma'lumotiga tushganmi?)
    • Natija takrorlanganmi? (mustaqil tomonlar tekshirganmi?)
    • Mening ma'lumotimda ham shundaymi? (umumiy benchmark ≠ sizning holatingiz)

    Bu sohada shov-shuv ko'p. Tanqidiy fikr — sizning eng muhim quroli.

Butun yo'l — bir qarashda#

1-3 bob
Matn → raqam → transformer → LLM
poydevor
4-8 bob
LLM → agent → RAG → graf → RL
kengaytirish
9-11 bob
ko'p agent → mahsulot → kelajak
amaliyot
Kitobning to'liq xaritasi
Yodda saqlang
  • 01LLM'lar juda mukammal naqsh mashinalari, lekin odam ma'nosidagi fikrlash emas. Modelning ishonchi bilan to'g'riligini aralashtirmang.
  • 02Yuqori xavfli qarorlarda har doim odam tasdig'i bo'lishi kerak. To'liq avtonomiya — vasvasa, lekin ko'p holatda xato.
  • 03Ko'p agent, murakkab arxitektura — bularning har biri narx va murakkablik qo'shadi. Oddiydan boshlang, o'lchagandan keyin murakkablang.
  • 04Quring, o'lchang, shubha bilan qarang. O'qib o'tish emas, qilib ko'rish. Raqamsiz yaxshilanish — taxmin.
  • 05Asoslar o'zgarmaydi: embedding, o'xshashlik, attention, izlash-foydalanish muvozanati. Kutubxonalar kelib-ketaveradi.

Kitob tugadi. Lekin sizning ishingiz endi boshlanadi.

Nimadir quring. Ishlamasa — qayerda buzilganini toping. Aynan shu jarayonda haqiqiy tushuncha shakllanadi.

Omad tilaymiz.