Bir tramvay, beş kişi ve bir makas
1967'de filozof Philippa Foot ahlak felsefesine uzun ömürlü bir soru bıraktı: Kontrolden çıkmış bir tramvay beş kişiye doğru gidiyor; bir makası çevirirsen tramvay başka bir rayda tek bir kişiye çarpacak. Ne yaparsın? Judith Jarvis Thomson 1985'te bu soruyu 'tramvay problemi' adıyla geliştirdi ve onlarca yeni sürümünü tartıştı. Çoğu insan makası çevirmeyi kabul edilebilir bulur; ama aynı sonuca bir kişiyi kendi elleriyle iterek ulaşmak söz konusu olunca çoğu insan reddeder.
Uzun süre yalnızca felsefe derslerinde tartışılan bu düşünce deneyi, sürücüsüz araçlarla birlikte yeniden gündeme geldi. Bir aracı programlayan mühendis, böyle bir durumda aracın ne yapacağını önceden yazmak zorunda kalırsa hangi ilkeyi seçmeli?
Moral Machine: 40 milyon karar
MIT Media Lab'den Edmond Awad, Iyad Rahwan ve arkadaşları Moral Machine adlı çevrimiçi bir platform kurdu. Ziyaretçilere freni boşalan sürücüsüz bir arabanın iki olası sonucu gösteriliyor ve hangisini tercih ettikleri soruluyordu. Senaryolar dokuz boyutta değişiyordu: insan ya da evcil hayvan, daha çok ya da daha az kişi, genç ya da yaşlı, kurala uyan ya da kırmızıda geçen, yüksek ya da düşük statülü, zinde ya da değil, kadın ya da erkek, yolcu ya da yaya ve aracın düz gitmesi ya da direksiyon kırması.
Platform on dilde 233 ülke ve bölgeden 39,61 milyon karar topladı; sonuçlar 2018'de Nature'da yayımlandı. En güçlü üç tercih insanı hayvana, daha çok kişiyi daha aza ve genci yaşlıya tercih etmekti. Yazarlar, en çok kurtarılan dört karakterin bebek, küçük kız, küçük oğlan ve hamile kadın olduğunu bildirdi. İsteğe bağlı demografik anketi dolduran 492.921 kullanıcıda yaş, cinsiyet, eğitim, gelir, siyasi ve dinî görüş gibi bireysel özellikler tercihleri kayda değer biçimde değiştirmedi.
Üç ahlaki küme
Asıl farklar ülkeler arasındaydı. En az 100 katılımcısı olan ülkeler tercih profillerine göre üç kümeye ayrıldı: Kuzey Amerika ve pek çok Avrupa ülkesini içeren Batı kümesi; Japonya ve Tayvan gibi uzak doğu ülkelerinin yanı sıra pek çok İslam ülkesini de içeren Doğu kümesi; Orta ve Güney Amerika ülkeleriyle Fransa ve Fransız etkisi taşıyan bazı ülkelerden oluşan Güney kümesi. Gençleri kurtarma tercihi Doğu kümesinde çok daha zayıf, Güney kümesinde çok daha güçlüydü; Güney kümesi insanı evcil hayvana tercih etmekte de öbür iki kümeden daha zayıftı.
Kümeler arasında ortak görünen iki tercih vardı: yayaları yolculara tercih etme (zayıf) ve kurala uyanı kurala uymayana tercih etme (orta). Bu deneyde senin profilin, bu laboratuvarın kalabalığı ve makaledeki genel sıralama yan yana görünüyor.
Herkes için faydacı, kendim için değil
Bonnefon, Shariff ve Rahwan 2016'da Science'ta yayımlanan altı çevrimiçi çalışmada ilginç bir çelişki buldu. Katılımcılar, daha çok kişiyi kurtarmak için yolcusunu feda eden araçları ahlaken onaylıyor ve başkalarının böyle araçlar almasını istiyordu; ama kendileri, yolcusunu her koşulda koruyan bir araca binmeyi tercih ediyordu. Böyle bir kuralı zorunlu kılan düzenlemelere de karşıydılar.
Yazarlar bunun bir sosyal ikilem olduğunu vurguladı: herkes faydacı araçların yaygınlaşmasını isteyebilir ama kimse ilk alan olmak istemez. Faydacı kuralları zorunlu kılmak, insanları daha güvenli bir teknolojiyi benimsemekten caydırıp kazaları dolaylı yoldan artırabilir.
Kural koymak neden zor?
Almanya 2017'de sürücüsüz araçların etiği üzerine resmî ilkeler hazırlayan ilk ülke oldu. Federal Ulaştırma Bakanlığı'nın etik komisyonu, kaçınılmaz kazalarda insanları yaş, cinsiyet ya da fiziksel ve zihinsel durum gibi kişisel özelliklere göre sınıflandırmayı yasakladı; insan hayatının korunmasını ise maddi hasardan ve hayvan hayatından önde tuttu. Awad ve arkadaşlarının belirttiği gibi, insanı hayvana tercih etme ilkesi kalabalıkla uyumlu; ama yaş ayrımı yasağı, kalabalığın çocukları kurtarma yönündeki güçlü tercihiyle çatışıyor.
Bu yüzden bu deneyin sonunda sana bir kural sorusu da soruyoruz. İkilemlerde gençleri kurtarıp yine de yasa koyucu olarak yaş ayrımını reddetmek çelişki değildir: tek bir olayda verdiğimiz karar ile herkese uygulanacak bir kural farklı soruları cevaplar. Sonuç ekranında bu ikisini yan yana görüyorsun.
Zorunlu seçim, zorla seçim mi?
Moral Machine'e en çok tartışılan itirazlardan biri soruların biçimiyle ilgiliydi. Yochanan Bigman ve Kurt Gray 2020'de Nature'da yayımlanan yorumlarında, benzer ikilemlere 'iki tarafa eşit davran' seçeneği eklendiğinde birçok katılımcının bu seçeneği tercih ettiğini gösterdi. Onlara göre yalnızca iki seçenek sunmak, insanların aslında istemediği ayrımları istiyormuş gibi görünmesine yol açabilir. Awad ve arkadaşları aynı sayıda bir cevap yayımladı; tartışma, zorunlu seçimin ve eşit davranma seçeneğinin neyi ölçtüğü üzerine sürüyor.
Bir başka eleştiri, bu tür düşünce deneylerinin gerçek trafikte neredeyse hiç yaşanmayan, sonuçları kesin bilinen durumları anlatmasıdır; gerçek bir araç belirsizlik altında risk dağıtır. Bu deneyi bir ahlak sınavı olarak değil, tercihlerini görünür kılan bir ayna olarak düşün.