RAG, թե՞ Fine-tuning՝ ո՞րն ընտրել

  • Տևողություն: 0:57
  • Սկսնակ
  • Հրապարակվել է

RAG-ը և Fine-tuning-ը AI-ին քո տվյալների հետ աշխատեցնելու երկու տարբեր մոտեցումներ են։ RAG-ի դեպքում AI-ը նախ գտնում է անհրաժեշտ տեղեկությունը քո փաստաթղթերում, հետո պատասխանում։ Fine-tuning-ի դեպքում մոդելը լրացուցիչ ուսուցանվում է օրինակներով՝ որոշակի ոճ, ձևաչափ կամ մոտեցում սովորելու համար։ Դրանք կարող են նաև միասին աշխատել։

Հիմնական մտքեր

  • RAG-ը AI-ին թույլ է տալիս պատասխանել քո փաստաթղթերի հիման վրա
  • RAG-ի դեպքում AI-ը նախ գտնում է տեղեկությունը, հետո պատասխանում
  • Fine-tuning-ը մոդելին սովորեցնում է ոճ, ձևաչափ կամ մոտեցում օրինակներով
  • RAG-ը նման է գիրք տալուն, Fine-tuning-ը՝ լրացուցիչ մարզմանը
  • Այս երկուսը մրցակիցներ չեն և կարող են միասին աշխատել

Բովանդակություն

  1. 0:00RAG, թե՞ Fine-tuning
  2. 0:07AI օգնական ընկերության համար
  3. 0:12RAG՝ փաստաթղթերի հիման վրա
  4. 0:19Ինչպես է աշխատում RAG-ը
  5. 0:25Fine-tuning՝ լրացուցիչ ուսուցում
  6. 0:38Գիրք ընդդեմ մարզման
  7. 0:48Միասին աշխատելը

Դասի մասին

Խնդիրը

Ուզում ես AI օգնական քո ընկերության համար, որը պատասխանի քո տվյալներով։ Երկու հիմնական ճանապարհ կա՝ RAG և Fine-tuning։

RAG

0:12RAG-ը (Retrieval-Augmented Generation) հարմար է, երբ AI-ը պետք է պատասխանի ընկերության փաստաթղթերի հիման վրա։ Նախ համակարգը գտնում է համապատասխան փաստաթուղթը, հետո AI-ը պատասխանում է դրա հիման վրա և կարող է նշել աղբյուրը։ Տեսանյութում առաքման օրինակը պատկերավոր է։

Fine-tuning

0:25Fine-tuning-ի դեպքում մոդելը լրացուցիչ ուսուցանվում է օրինակներով (հարց → պատասխան), որպեսզի սովորի որոշակի ոճով, ձևաչափով կամ մոտեցմամբ պատասխանել։

Պարզ համեմատություն

0:38RAG-ը նման է նրան, որ AI-ին գիրք ես տալիս, որ կարդա։ Fine-tuning-ը՝ որ նրան լրացուցիչ մարզում ես անցկացնում։

Միասին

0:48Սրանք մրցակիցներ չեն։ Կարելի է Fine-tuning-ով սովորեցնել ճիշտ ոճը, իսկ RAG-ով տալ ճիշտ ու թարմ տվյալները։

Տեքստային տարբերակ

0:00Ուզում ես, որ AI-ը աշխատի քո տվյալներով։ Բայց ո՞րն ընտրել՝ RAG, թե՞ Fine-tuning։

0:06Եկ պարզենք։

Ցույց տալ ամբողջ տեքստը

0:07Պատկերացրու՝ ունես ընկերություն ու ուզում ես AI օգնական ստեղծել։

0:12Եթե ուզում ես, որ այն պատասխանի քո ընկերության փաստաթղթերի հիման վրա, կարող ես օգտագործել RAG։

0:19RAG-ի դեպքում AI-ը նախ գտնում է անհրաժեշտ տեղեկությունը, հետո դրա հիման վրա պատասխանում է։

0:25Իսկ Fine-tuning-ը լրիվ այլ մոտեցում է։

0:29Այստեղ մոդելին լրացուցիչ ուսուցանում ես օրինակներով, որպեսզի այն սովորի որոշակի ոճով, ձևաչափով կամ մոտեցմամբ պատասխանել։

0:38Պարզ ասած՝ RAG-ը նման է նրան, որ AI-ին գիրք ես տալիս, որ կարդա։ Fine-tuning-ը՝ որ նրան լրացուցիչ մարզում ես անցկացնում։

0:48Ու հիշիր՝ այս երկուսը մրցակիցներ չեն։ Դրանք կարող են նաև միասին աշխատել։

Աղբյուրներ

  1. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (Lewis et al., 2020)
  2. Ի՞նչ է RAG-ը (imaci Learn)