İçeriğe geç

Kurumsal Yapay Zekâ

RAG Nedir, Nasıl Çalışır?

Yapay zekânın uydurmasını nasıl azaltırım? RAG'in gömme, vektör veri tabanı, erişim ve üretim adımlarını ve halüsinasyonu neden sıfırlamadığını anlatıyoruz.

3 dk okumaYazar: Halil İbrahim Boyraz

Bu yazıdan ana çıkarımlar

  • Yapay zekânın uydurmasını nasıl azaltırım?: Yapay zekânın uydurma bilgi vermesini tamamen önlemek mümkün değildir, ama RAG mimarisi bu riski büyük ölçüde azaltabilir.
  • Halüsinasyon neden oluşur?: Halüsinasyon, bir dil modelinin eğitim verisinde bulunmayan ya da belirsiz kalan bir konuda, var olmayan bir bilgiyi gerçekmiş gibi sunmasıdır.
  • RAG nedir?: RAG, büyük dil modelinin cevap üretmeden önce ilgili bilgiyi harici bir kaynaktan "getirip" (retrieval) bu bilgiyi cevabına dayandırdığı (generation) bir mimaridir.
  • RAG hangi adımlarla çalışır?: RAG mimarisi dört ana adımda ilerler; her adım bir öncekinin çıktısını kullanır.
  • RAG halüsinasyonu nasıl azaltır?: RAG, modelin cevabını kendi ezberi yerine sizin sağladığınız güncel veriye dayandırmaya yönlendirdiği için, model bilmediği bir konuda uydurmak yerine kaynaktan bulduğu bilgiyi aktarma eğilimindedir.

Tanım

Büyük dil modelleri bazen var olmayan bir bilgiyi kendinden emin bir dille sunar; buna halüsinasyon denir.

Büyük dil modelleri bazen var olmayan bir bilgiyi kendinden emin bir dille sunar; buna halüsinasyon denir. RAG (Retrieval-Augmented Generation), modelin cevap üretirken ezberinden önce sizin sağladığınız bir kaynağa başvurmasını sağlayarak bu riski azaltan bir mimaridir. Bu yazı, RAG'in nasıl çalıştığını ve halüsinasyonu neden azalttığını anlatıyor. RAG'in kurumsal yapay zekâ mimarisindeki genel yerini Kurumsal Yapay Zekâ Nedir? yazımızda bulabilirsiniz.

Yapay zekânın uydurmasını nasıl azaltırım?

Yapay zekânın uydurma bilgi vermesini tamamen önlemek mümkün değildir, ama RAG mimarisi bu riski büyük ölçüde azaltabilir. Modelin cevabını öncelikle sizin sağladığınız güncel ve doğrulanmış bir kaynağa dayandırmasını sağlayarak, cevabın dayandığı kaynağı da gösterebilirsiniz. "RAG" adı ve yaklaşımı, 2020 yılında Facebook AI Research (şimdiki Meta AI) araştırmacıları tarafından yayımlanan makaleyle yaygınlaştı; makale, modelin kendi ağırlıklarındaki bilgiyle dışarıdaki bir veri kaynağı birleştirildiğinde daha doğru ve çeşitli cevaplar üretildiğini göstermiştir.

Halüsinasyon neden oluşur?

Halüsinasyon, bir dil modelinin eğitim verisinde bulunmayan ya da belirsiz kalan bir konuda, var olmayan bir bilgiyi gerçekmiş gibi sunmasıdır. Bu durum, modelin bir sonraki kelimeyi istatistiksel olarak en olası şekilde tahmin etmesinden kaynaklanır; model "bilmiyorum" demek yerine akıcı ama yanlış bir cevap üretebilir. Model, eğitildiği veri güncelliğini kaybettiğinde ya da şirketinize özel bilgiye hiç sahip olmadığında bu risk artar. Bu yüzden şirkete özel ve sık değişen bilgiler için modelin kendi ezberine güvenmek yeterli değildir.

RAG nedir?

RAG, büyük dil modelinin cevap üretmeden önce ilgili bilgiyi harici bir kaynaktan "getirip" (retrieval) bu bilgiyi cevabına dayandırdığı (generation) bir mimaridir. Kurumsal dokümanlarınız — politikalar, ürün bilgisi, SSS — bu harici kaynağı oluşturur. Model, bir soru geldiğinde önce bu kaynaktan ilgili parçaları bulur, sonra cevabını bu parçalara dayanarak yazar. OpenAI'ın gömme (embedding) belgelerinde açıklandığı gibi, bu "bulma" adımı metinleri sayısal vektörlere dönüştürüp anlamsal benzerliğe göre karşılaştırmakla çalışır.

RAG hangi adımlarla çalışır?

RAG mimarisi dört ana adımda ilerler; her adım bir öncekinin çıktısını kullanır.

  1. Doküman hazırlama: Kurumsal dokümanlar (politikalar, ürün bilgisi, SSS) toplanır ve aranabilir parçalara bölünür.
  2. Gömme (embedding): Her doküman parçası, anlamını sayısal bir vektöre dönüştüren bir gömme modelinden geçirilir.
  3. Vektör veri tabanına yükleme: Bu vektörler, benzerlik araması yapılabilen bir vektör veri tabanında saklanır.
  4. Erişim ve üretim: Bir soru geldiğinde, sorunun vektörüne en yakın doküman parçaları bulunur ve büyük dil modeli cevabını bu parçalara dayandırarak üretir.

RAG halüsinasyonu nasıl azaltır?

RAG, modelin cevabını kendi ezberi yerine sizin sağladığınız güncel veriye dayandırmaya yönlendirdiği için, model bilmediği bir konuda uydurmak yerine kaynaktan bulduğu bilgiyi aktarma eğilimindedir. Kaynakta cevap yoksa model bunu belirtecek şekilde yönlendirilebilir; bu davranış RAG kurulumunun nasıl tasarlandığına bağlıdır. RAG halüsinasyonu sıfıra indirmez, ama kaynağı gösterilebilir ve denetlenebilir hâle getirir. RAG'i fine-tuning ile karşılaştırdığımız RAG mi Fine-Tuning mi? yazımızda hangisinin ne zaman uygun olduğunu anlatıyoruz. Yapay zekânın dışarıda markanız hakkında yanlış bilgi vermesi ise farklı bir sorundur; onu Yapay Zekâ Markanız Hakkında Yanlış Bilgi Veriyorsa yazımızda ele alıyoruz. Bu mimarinin markanız için nasıl kurulabileceğini RAG Destekli Kurumsal Hafıza sayfamızda inceleyebilirsiniz.

Sık Sorulan Sorular

RAG kurmak için ne kadar veri gerekir?

Sabit bir alt sınır yoktur; birkaç doküman bile bir başlangıç sağlayabilir. Önemli olan verinin güncel ve doğru olmasıdır, hacmi değil.

RAG her zaman doğru cevap garantiler mi?

Hayır, RAG doğruluk garantisi vermez ama riski azaltır. Kaynak dokümanların kendisi güncel değilse ya da erişim katmanı doğru parçayı bulamazsa hatalı cevap yine mümkündür.

RAG ile arama motoru arasındaki fark ne?

Arama motoru size ilgili doküman bağlantılarını listeler, yorumlamayı size bırakır. RAG ise bu dokümanlardaki bilgiyi okuyup doğrudan bir cevap cümlesi olarak sunar.

Vektör veri tabanı nedir?

Metinlerin anlamını sayısal vektörler olarak saklayan ve bu vektörler arasında hızlı benzerlik araması yapabilen bir veri tabanı türüdür. RAG sisteminin "hafızası" bu veri tabanında tutulur.

Bu yazının ham Markdown sürümü

Bu içerik LurinSocial tarafından hazırlanmıştır ve kaynak gösterilerek alıntılanabilir: https://www.lurinsocial.com/tr/blog/rag-nedir

Kurucu

Halil İbrahim Boyraz

Halil İbrahim Boyraz, LurinSocial'ın kurucusudur.

LinkedIn'de görüntüle