Havacılık, tıp ve karar destek sistemleri üzerine yapılan araştırmalarda uzun süredir bilinen bir örüntü var: İnsanlar otomatik bir sistem “yeşil ışık” verdiğinde, kendi gözlemleri başka bir şey söylese bile sistemin sonucuna uyma eğilimi gösterebiliyor. Buna psikolojide otomasyon yanılgısı deniyor.
Bugün benzer bir durum, yapay zekâ çıktılarıyla rapor, analiz ve kod hazırlayan herkes için geçerli olabilir. Burada ne yapman gerektiğini dikte etmiyoruz; riski görmene ve kendi alışkanlıklarını gözden geçirmene yardımcı oluyoruz.
Daniel Kahneman’ın popülerleştirdiği çerçeveye göre zihnin iki çalışma biçimi vardır. Bu, beynin iki ayrı bölgesi değil, davranışı anlatmak için kullanılan bir modeldir:
| Sistem 1 | Sistem 2 | |
|---|---|---|
| Hız | Hızlı, otomatik | Yavaş, bilinçli |
| Enerji | Az | Çok |
| İşi | Sezgi, alışkanlık | Sorgulama, hesaplama |
Yapay zekâ bir raporu dakikalar içinde, akıcı ve hatasız bir dille sunduğunda zihin “bu iyi görünüyor” diyerek Sistem 1’de kalmaya eğilimli olabilir. Akıcılık doğruluk demek değildir; ama doğru gibi hissettirir.
Aşağıdakiler bir güvence değil, riski azaltmak için kullanılabilecek pratik fikirlerdir. Tek başına bir uyarı bile önyargıyı tamamen ortadan kaldırmaz; iş akışına yerleşmiş kontroller daha sağlamdır.
Karşı argüman iste. Yalnızca “Bu analiz doğru mu?” diye sorma; “Bu sonucun yanlış çıkmasına yol açabilecek en önemli üç neden nedir?” diye de sor.
Kaynağa kendin bak. Modelin dayandığını söylediği veriyi, modelden bağımsız bir yerden (tablo, belge, resmî kayıt) kontrol et. Sayılar için hesaplamayı kodla ya da hesap tablosuyla yaptır.
Çıktıyı taslak say. Model bir karar vermez; olasılıksal bir öneri sunar. Sonucun sorumluluğu sende kalır.
Önemine göre kontrol seviyesi belirle. Günlük bir metin için hızlı bakış yeterli olabilir; para, sağlık veya hukuk gibi sonuçları ağır kararlarda uzman görüşü ve bağımsız doğrulama gerekir.
Özetle: yapay zekâ güçlü bir yardımcı olabilir, ama akıcı konuşması doğru söylediğinin kanıtı değildir. Karar sende kaldığı sürece sorgulama alışkanlığını da sende tutmak mantıklıdır. Bu yazı psikolojik, hukuki veya mali tavsiye değildir. Benzer yanılgıları ev kararları açısından görmek için Rasyonel Yatırımcı Efsanesi yazısına bakabilirsin.
Davranışsal finans kavramlarından yararlanarak kendi kararını sorgulaman için sorular sunar. Tavsiye vermez; rakamlar yazılımla hesaplanır.
Bu yazı genel bilgi amaçlıdır; psikolojik, hukuki veya mali tavsiye değildir. Önerilen alışkanlıklar bir güvence değil, riski azaltmaya yönelik pratik fikirlerdir. Önemli kararlarında uzman görüşüne başvur.
Merak edilenler
İnsanın, otomatik bir sistemin ürettiği sonuca kendi gözlem ve muhakemesinden daha çok güvenme eğilimidir. Havacılık ve tıp gibi alanlarda uzun süredir incelenir.
Cevaplar akıcı, düzgün ve kendinden emin göründüğü için zihin onları sorgulamadan kabul etmeye eğilimli olabilir. Akıcılık doğruluğun kanıtı değildir.
Kahneman’ın popülerleştirdiği çerçevede Sistem 1 hızlı ve sezgisel, Sistem 2 yavaş ve sorgulayıcı düşünmedir. Bu, beynin iki ayrı bölgesi değil, davranışı anlatan bir modeldir.
Karşı argüman iste, kaynağa bağımsız olarak bak, sayısal işleri kodla ya da hesap tablosuyla yap ve çıktıyı taslak say. Önemli kararlarda uzman görüşü al. Bunlar güvence değil, pratik fikirlerdir.
Araştırmalar, yalnızca uyarının önyargıyı tamamen ortadan kaldırmadığını gösteriyor; iş akışına yerleşmiş kontroller daha sağlamdır. Bu yazı psikolojik veya mali tavsiye değildir.