Bir ajan demosu hazırlamak görece hızlıdır; aynı sistemi gerçek kullanıcılarla, gerçek veriyle ve her gün güvenilir şekilde çalıştırmak çok daha uzun sürer. Bunun nedenlerinden biri, modelin “yeterince zeki olmaması”ndan çok, çok adımlı sistemlerin matematiğidir.
Burada bunun neden olduğunu basit bir hesapla gösteriyor, ardından uygulamada kullanılan savunma biçimlerini anlatıyoruz.
Bir akışın her adımının bir öncekinin çıktısına bağlı olduğunu ve herhangi bir adımdaki hatanın sonucu bozduğunu varsayalım. Bu durumda tüm akışın başarılı olma olasılığı, adım başı başarı oranının adım sayısı kadar kendisiyle çarpılmasıdır.
Uydurma ama yöntemi gösteren bir hesap: adım başı başarı %95 ise,
| Adım sayısı | Adım başı %95 | Adım başı %99 |
|---|---|---|
| 1 | %95,0 | %99,0 |
| 3 | %85,7 | %97,0 |
| 5 | %77,4 | %95,1 |
| 10 | %59,9 | %90,4 |
| 20 | %35,8 | %81,8 |
Yani aynı model, tek adımda “çok iyi” görünürken 10–20 adımlı bir zincirde ciddi biçimde güvenilmez hâle gelebilir.
Rakamlar kavramı göstermek için uydurulmuştur; gerçek bir piyasa verisi değildir.
Bir adımda bir API cevabının yanlış okunduğunu düşün. Sonraki adım bu yanlış veriyle analiz yapar, sonraki adım analize dayanarak bir karar üretir. Hata her adımda kendinden emin bir şekilde ilerler. Zincirin sonunda geri alınması zor bir işlem (kayıt silme, ödeme, dışarıya mesaj) varsa yanlış, gerçek bir sonuca dönüşür.
Güvenilir sistemlerde yapay zekâya genellikle tam serbestlik verilmez. Bunun yerine, hangi adımın kodla, hangisinin yapay zekâyla, hangisinin insanla yürüyeceği önceden belirlenir; akış belirli durumlar arasında geçen bir durum makinesi gibi çalışır.
Özetle: otonomi bir hedef değil, yönetilmesi gereken bir riskdir. Önemli finansal, operasyonel ve hukuki süreçlerde kodun, yapay zekânın ve insanın rollerini ayıran hibrit akışlar daha öngörülebilir olma eğilimindedir. Bu yazı teknik veya mali tavsiye değildir.
Kredi taksiti, vergi ve rapor rakamları yapay zekâya hesaplatılmaz; kodla hesaplanır, yapay zekâ yalnızca verilen rakamlarla yorum yazar.
Bu yazı genel bilgi amaçlıdır; teknik, hukuki veya mali tavsiye değildir. Şemalar ve hesaplar kavramı anlatmak için sadeleştirilmiştir; gerçek bir sistemin ölçümü değildir. Yapay zekâ alanı hızlı değiştiği için ayrıntılar zamanla eskiyebilir.
Merak edilenler
Ardışık adımlardan oluşan bir akışta her adımın başarısı bir öncekine bağlıysa, toplam başarı olasılığı adım olasılıklarının çarpımıdır ve adım sayısı arttıkça hızla düşer.
0,95’in 10. kuvveti yaklaşık 0,60’tır. Bu varsayımsal bir hesaptır: adımların bağımsız olduğunu ve her hatanın sonucu bozduğunu kabul eder.
Zorunlu değil. Doğrulama, yeniden deneme ve insan onayı düşüşü azaltır. Hatalar birbirine bağlıysa da durum kötüleşebilir; büyüklük sisteme göre değişir.
Akışın hangi adımının kodla, hangisinin yapay zekâyla, hangisinin insanla yürüyeceğini önceden belirleyen, geçişleri kurallı bir tasarımdır.
Dil modelleri olasılıksal çalışır ve hesapta hata yapabilir. Para, oran ve tarih gibi değerlerin kodla hesaplanması güvenilirliği artırır. Bu yazı teknik tavsiye değildir.