Bu sayfada
Kendi verinizle çalışan yapay zekâ asistanı, bir soruya cevap vermeden önce şirketinizin dokümanlarında ilgili bölümü bulan ve cevabını o bölüme dayandıran bir sistemdir. Genel bir sohbet aracından farkı, fiyat listenizi, prosedürlerinizi ve geçmiş işlerinizi “bilmesi” ve cevabın hangi belgeden geldiğini gösterebilmesidir.
Bu tür asistanlar son dönemde en çok talep gören yapay zekâ uygulamalarından biri. Ama en çok hayal kırıklığı yaratanlardan biri de bu. Sebebi genellikle teknoloji değil, kurulumdan önce sorulmayan sorular: asistan hangi soruları cevaplayacak, hangi belgelere bakacak, kim neyi görebilecek?
Genel bir dil modeli neden şirketinizi bilmez?
Genel amaçlı dil modelleri, kamuya açık çok büyük miktarda metinle eğitiliyor. Sizin iç prosedürünüz, güncel fiyat listeniz veya geçen ay değişen iade politikanız bu metinlerin içinde yok. Model bu konularda sorulduğunda ya genel konuşuyor ya da makul görünen ama yanlış bir cevap uyduruyor.
Çözüm modeli yeniden eğitmek değil. Çoğu işletme için doğru yöntem, modele soru anında ilgili belgeleri göstermek. Bu yaklaşım teknik literatürde “retrieval-augmented generation” (RAG), yani getirme destekli üretim olarak geçiyor. Mantığı basit: önce ara, sonra cevapla.
Asistan arka planda nasıl çalışır?
Bir soru geldiğinde sistem üç adım izler:
- Arama. Soru, dokümanlarınızdan önceden hazırlanmış bir dizinde aranır ve en ilgili bölümler bulunur.
- Bağlam. Bulunan bölümler, soruyla birlikte dil modeline verilir. Modelden yalnızca bu bölümlere dayanarak cevap vermesi istenir.
- Cevap ve kaynak. Model cevabı üretir ve hangi belgeden yararlandığını gösterir. Belgede cevap yoksa “bilmiyorum” demesi beklenir.
Bu yapının iki pratik faydası var: cevaplar sizin gerçek içeriğinize dayanıyor ve kaynak gösterildiği için doğrulanabiliyor. Belgeyi güncellediğinizde asistanın bilgisi de güncelleniyor; modeli yeniden eğitmeniz gerekmiyor.
Hazır araç mı, özel kurulum mu?
Bazı genel amaçlı asistanların kurumsal sürümleri, doküman yükleyip onlara dayanarak cevap verme özelliği sunuyor. Küçük bir ekip ve sınırlı sayıda belge için bu çoğu zaman yeterli ve çok daha hızlı. Özel kurulum, aşağıdaki tablodaki durumlardan biri varsa anlam kazanıyor.
| Durum | Hazır araç yeterli | Özel kurulum gerekli |
|---|---|---|
| Belge sayısı | Az ve seyrek değişen | Çok sayıda ve sık güncellenen |
| Erişim yetkileri | Herkes her şeyi görebilir | Departmana veya role göre farklı erişim |
| Veri kaynağı | Dosyalar elle yüklenebilir | Belgeler farklı sistemlerde, otomatik eşitleme gerekli |
| Kullanım yeri | Asistanın kendi arayüzü | Mevcut yazılımınızın, sitenizin veya mesajlaşma aracınızın içinde |
| Veri hassasiyeti | Genel iç bilgi | Verinin kurum dışına çıkmaması gereken durumlar |
Tablonun sol sütunu sizi tarif ediyorsa, önce hazır bir aracı denemenizi öneririm. Özel geliştirme gerçekten gerektiğinde yapılmalı.
Yedi adımda kurulum
1. Kapsamı ve soru listesini yazın
Asistanın cevaplayacağı gerçek soruların bir listesini çıkarın. Ekipten son birkaç haftada sorulan soruları toplamak iyi bir başlangıç. Bu liste hem kapsamı belirler hem de sonradan test seti olarak kullanılır.
2. Veri envanteri çıkarın
Cevapların hangi belgelerde durduğunu listeleyin. Güncel olmayan, çelişen veya aynı içeriğin farklı sürümlerini taşıyan belgeleri bu aşamada ayıklayın. Asistan, kendisine verilen belgeden daha doğru olamaz.
3. Erişim ve yetkileri belirleyin
Herkes her belgeyi görebilmeli mi? Muhasebe dokümanı satış ekibinin sorusunda kaynak olarak çıkmalı mı? Yetki kuralları sonradan eklenmesi zor bir konu; baştan tasarlanmalı. Hangi verinin hiç dahil edilmeyeceği de bu adımda yazılı hale gelir. Bunun için ekip içi yapay zekâ kullanım politikası yazısındaki veri sınıflandırması iyi bir çerçeve.
4. Belgeleri hazırlayın ve dizinleyin
Belgeler, aramanın isabetli olacağı büyüklükte bölümlere ayrılır ve aranabilir bir dizine eklenir. Başlıkları düzgün, bölümleri net belgeler bu adımda çok daha iyi sonuç verir. Belgeler değiştikçe dizinin nasıl güncelleneceği de bu aşamada kurulur.
5. Dar bir prototiple test edin
İlk sürüm dar kapsamlı olmalı: tek bir departman, sınırlı sayıda belge. Birinci adımdaki soru listesiyle test edin ve her cevabı üç açıdan değerlendirin: doğru mu, kaynak gösterilmiş mi, belgede cevap yoksa asistan bunu söylüyor mu?
6. Kaynak gösterme ve insan onayını tasarıma koyun
Dil modelleri emin bir tonda yanlış cevap verebilir; bu, teknolojinin bilinen bir özelliği. Cevabın kaynağını göstermek kullanıcının doğrulamasını kolaylaştırır. Müşteriye giden veya kritik karar doğuran kullanımlarda ise araya bir insan onayı adımı konmalı.
7. Devreye alın, ölçün ve devredin
Asistan kullanıma açıldıktan sonra hangi soruların geldiği ve hangilerine iyi cevap verilemediği takip edilmeli. Cevaplanamayan sorular, genellikle eksik veya güncel olmayan bir belgeye işaret eder. Kod, hesaplar ve dokümantasyon sizde kalmalı ki sistemi kendi ekibiniz ya da başka bir geliştirici sürdürebilsin.
Sık yapılan hatalar
- Önce belgeleri düzenlememek. Dağınık ve çelişkili belgelerle kurulan asistan, dağınık ve çelişkili cevaplar verir.
- Her şeyi aynı anda kapsamak. Bütün şirketi tek seferde kapsayan bir kurulum test edilemez. Bir departmanla başlayın.
- Test setini atlamak. Gerçek sorularla ölçülmeyen bir asistanın iyi çalışıp çalışmadığını kimse bilemez.
- “Bilmiyorum” cevabına izin vermemek. Belgede cevap yoksa asistanın bunu söylemesi bir hata değil, güvenilirliğin şartıdır.
Sık sorulan sorular
Verilerimiz model eğitiminde kullanılır mı?
Bu, seçilen araca ve sözleşmesine bağlı. Bazı kurumsal sürümler girilen verinin model eğitiminde kullanılmamasını taahhüt ediyor; hassas veri söz konusuysa verinin kurum dışına çıkmadığı kurulum seçenekleri de değerlendirilebilir. Bunu kod yazmadan önce, veri tipine ve yasal yükümlülüklerinize göre birlikte belirliyoruz.
Asistan yanlış cevap verirse ne olur?
Bu ihtimal tamamen ortadan kaldırılamaz, ama yönetilebilir. Kaynak gösterme sayesinde kullanıcı cevabı belgeyle karşılaştırabilir. Kritik kullanımlarda insan onayı adımı, yanlış cevabın doğrudan müşteriye veya karara gitmesini engeller.
Kurulum ne kadar sürer?
Dar kapsamlı bir prototip genellikle birkaç hafta sürer. Asıl süreyi belirleyen şey geliştirme değil, veri durumu: belgeler düzenliyse süre kısalır, dağınıksa sürenin büyük kısmı veriyi toparlamaya gider.
Teknik bir ekibimiz yoksa sistemi nasıl sürdürürüz?
Belge eklemek veya güncellemek teknik bilgi gerektirmeyecek şekilde tasarlanabilir. Devir aşamasında bunun nasıl yapılacağı anlatılır ve yazılı dokümantasyon bırakılır. Kod ve hesaplar sizde olduğu için ileride başka bir geliştiriciyle de devam edebilirsiniz.
Kendi asistanınızı planlamak isterseniz
Önce hazır bir araç yeterli mi, birlikte bakalım
Şirkete özel yapay zekâ uygulamaları sayfasında geliştirme sürecini, sahiplik ilkelerimi ve ne zaman özel geliştirme önermediğimi anlattım.
Güncelleme:


