E-ticaret otomasyonunda insan onayı; sipariş, ödeme, stok veya kampanya akışındaki her adımda değil, yanlış kararın müşteri ve işletme üzerindeki maliyeti yüksek olduğunda gerekir. Düşük riskli işlemler doğrudan otomatikleştirilebilirken para iadesi, hesap kısıtlaması, yüksek indirim ve müşteri iletişimi gibi sonuçları ağır kararlar kontrollü bir akışa bağlanmalıdır.
Her otomatik işlem aynı riski taşımaz
Bir iş akışını yalnızca “otomatik” veya “manuel” diye ayırmak operasyon tasarımı için yetersizdir. Sipariş onay e-postasının gönderilmesi ile müşterinin hesabının kısıtlanması aynı hata maliyetine sahip değildir. İlki yanlış çalıştığında çoğunlukla yeni bir bildirimle düzeltilebilir; ikincisi ise satış kaybı, müşteri şikâyeti ve güven problemi yaratabilir.
Risk değerlendirmesinde dört soru kullanılabilir: Karar yanlış verilirse doğrudan finansal kayıp oluşur mu? Müşterinin hakkı, hesabı veya kişisel deneyimi etkilenir mi? Hata sonradan kolayca geri alınabilir mi? Kararın gerekçesi denetlenebilir ve açıklanabilir mi? Bu soruların çoğuna “evet” yanıtı veriliyorsa iş akışına insan onayı eklemek gerekir.
İnsan onayı gerektiren kararlar nasıl sınıflandırılmalı?
Pratik bir model, işlemleri hata maliyeti ve müşteri etkisine göre dört sınıfa ayırır. Buradaki amaç her istisnayı bir çalışanın önüne yığmak değil, ekip zamanını gerçekten kritik kararlara ayırmaktır.
| Risk seviyesi | Örnek kararlar | Önerilen kontrol |
|---|---|---|
| Düşük | Stok bildirimi, standart sipariş etiketi, rutin rapor oluşturma | Tam otomasyon ve dönemsel örneklem kontrolü |
| Orta | Kampanya bütçesi önerisi, ürün açıklaması taslağı, müşteri segmenti güncellemesi | Kural sınırı, uyarı ve gerektiğinde insan onayı |
| Yüksek | Yüksek tutarlı indirim, olağan dışı iade, ödeme riski nedeniyle sipariş durdurma | İşlem öncesi insan onayı ve kayıt altına alınmış gerekçe |
| Kritik | Hesap kapatma, toplu fiyat değişikliği, büyük müşteri grubuna yanlış ileti gönderme | İki aşamalı onay, yetki ayrımı ve geri alma planı |
Tablodaki sınıflar sabit değildir. Bir işletmede 500 TL’lik indirim orta riskliyken, yüksek marjlı veya sınırlı stoklu bir üründe aynı indirim kritik hale gelebilir. Eşikler ciroya, brüt kâra, müşteri değerine ve operasyonun geri dönüş süresine göre tanımlanmalıdır.
Otomasyon akışında kontrol noktası nasıl tasarlanır?
İyi tasarlanmış insan onayı, çalışanın her işlemi baştan incelemesini istemez. Otomasyon önce veriyi toplar, kararı önerir ve yalnızca belirlenmiş eşik aşıldığında işlemi beklemeye alır. Onay ekranında müşterinin adı gibi temel bilgilerden çok, karar için gerekli sinyaller görünmelidir: sipariş tutarı, indirim oranı, önceki iade davranışı, stok durumu, kuralın tetiklenme nedeni ve önerilen işlem.
Onay mekanizması üç teknik özelliğe sahip olmalıdır:
- Açık tetikleyici: Hangi koşulun işlemi incelemeye gönderdiği anlaşılmalıdır.
- Süre sınırı: Bekleyen kararlar sipariş veya müşteri hizmetleri akışını sonsuza kadar kilitlememelidir.
- Geri alınabilirlik: Yanlış onay sonrasında fiyatı, sipariş durumunu veya iletişim aksiyonunu düzeltme yolu bulunmalıdır.
Örneğin otomatik iade sistemi, tutar belirli bir eşiğin altındaysa doğrudan çalışabilir. Ürün kullanılmış görünüyor, müşterinin iade geçmişi sıra dışı veya sipariş tutarı yüksekse işlem inceleme kuyruğuna aktarılabilir. Böylece ekip tüm iadeleri tekrar değerlendirmek yerine belirsiz vakalara odaklanır.
Yapay zekâ kullanan akışlarda hangi ek önlemler gerekir?
Yapay zekâ destekli sınıflandırma veya öneri sistemleri olasılıksal sonuç üretir. Modelin yüksek güven skoru vermesi, kararın kesinlikle doğru olduğu anlamına gelmez. Eğitim verisindeki eksik temsil, hatalı etiketler veya değişen müşteri davranışları belirli gruplarda sistematik hataya yol açabilir.
Bu nedenle insan onayı, modelin her çıktısını kabul eden sembolik bir adım olmamalıdır. Onaylayan kişi öneriyi değiştirebilmeli, “yetersiz veri”, “yanlış sınıflandırma” veya “politika dışı durum” gibi nedenlerle işlemi geri çevirebilmelidir. NIST AI Risk Management Framework, yapay zekâ risklerinin yönetilmesini ölçme, izleme ve sorumluluk mekanizmalarıyla birlikte ele alır. Bu yaklaşım, e-ticaret ekipleri için de model çıktısını tek başına karar kabul etmeme yönünde uygulanabilir bir çerçeve sunar.
Kişisel verilerle çalışan otomasyonlarda kararın hangi veriye dayandığı, verinin ne kadar süre tutulduğu ve erişim yetkisinin kimde olduğu ayrıca belgelenmelidir. Birleşik Krallık Bilgi Komiserliği’nin yapay zekâ ve veri koruma rehberi, bu konuları veri koruma sorumluluklarıyla birlikte değerlendirir. Avrupa Birliği müşterilerine hizmet veren işletmeler ise AB Yapay Zekâ Tüzüğü’nün resmi metnini kendi hukuki ve operasyonel durumları açısından incelemelidir.
Onay performansı hangi KPI’larla izlenmeli?
Bir onay kuyruğunun çalışıyor olması, sürecin iyi tasarlandığını göstermez. Aşağıdaki metrikler hem otomasyonun faydasını hem de kontrol mekanizmasının maliyetini birlikte gösterir:
- İnsan incelemesine giden işlem oranı: Eşikler fazla düşükse ekip gereksiz işlemlerle meşgul olur.
- Onay sonrası geri alma oranı: Yanlış kabul edilen kararların ne sıklıkta düzeltildiğini gösterir.
- Ortalama bekleme süresi: Müşteri deneyimi ve sipariş çevrim süresi üzerindeki etkiyi ölçer.
- İnsan ve otomasyon karar uyumu: Modelin veya kural motorunun ne kadar isabetli öneri sunduğunu izlemeye yarar.
- Kaçırılan kritik hata sayısı: En önemli güvenlik ve gelir risklerini ortaya çıkarır.
Bu metrikler yalnızca toplam hacimle değil, işlem türü ve risk seviyesi bazında incelenmelidir. Düşük riskli işlemlerde yüksek otomasyon oranı beklenirken kritik işlemlerde amaç hız değil, hatalı kararın önlenmesidir.
Güvenli iş akışı için uygulanabilir karar çerçevesi
Yeni bir otomasyon kurulmadan önce karar envanteri çıkarılmalı ve her işlem için risk seviyesi, veri kaynağı, yetkili rol, maksimum bekleme süresi ve geri alma yöntemi yazılı hale getirilmelidir. OECD’nin yapay zekâ ilkeleri de insan merkezli değerler, şeffaflık, açıklanabilirlik ve hesap verebilirlik başlıklarını öne çıkarır.
İlk sürümde yalnızca düşük ve orta riskli işlemler otomatikleştirilebilir. Sistem yeterli kayıt üretmeye başladıktan sonra hata oranları, müşteri etkisi ve ekip yükü ölçülerek eşikler güncellenir. Yüksek ve kritik riskli kararlar için insan onayı korunur; ancak onayın gerçekten anlamlı olabilmesi için çalışana yeterli bağlam, itiraz seçeneği ve sorumluluk sınırı sağlanır.
En güvenli otomasyon, insanı tamamen devreden çıkaran değil, insan kararını yalnızca gerekli olduğu noktaya taşıyan otomasyondur. Risk sınıflandırması doğru kurulursa işletme hem operasyon hızını korur hem de yanlış fiyat, haksız işlem veya geri döndürülmesi zor müşteri etkileri karşısında kontrolünü kaybetmez.
