Stockholm Uluslararası Barış Araştırmaları Enstitüsü (SIPRI) tarafından yayımlanan yeni bir rapor, askeri hedefleme süreçlerinde kullanılan Otonom Silah Sistemleri (AWS) ile Yapay Zekâ Destekli Karar Destek Sistemleri (AI-DSS) arasındaki farkları, riskleri ve hukuki boyutları kapsamlı biçimde analiz ediyor.
Rapor, her iki teknolojinin de insan karar süreçlerini dönüştürdüğünü ve ciddi insani ve hukuki sonuçlar doğurabileceğini ortaya koyuyor.
AWS sistemleri, bir kez etkinleştirildiğinde hedef tanımlayıp ateş açabilen tam otonom platformlardır. Genellikle sadece görev icrası aşamasında (3. faz) kullanılırlar. AI-DSS ise karar alıcıyı destekleyen, verileri analiz ederek öneriler sunan sistemlerdir ve hedefleme döngüsünün tüm aşamalarında aktif rol alabilirler.
Örneğin, AI-DSS sistemleri hedef listeleri oluşturabilir, önceliklendirme yapabilir ve hatta sivil zayiat riskini azaltmak için analiz sunabilir. Ancak bu sistemler yanlış veriyle çalıştığında ciddi hatalı kararların alınmasına neden olabilir.
Her iki sistem de teknik sınırlamalara bağlı güvenilirlik sorunları taşır. AWS sistemleri doğrudan ölümcül sonuçlara yol açabilirken, AI-DSS sistemleri kullanıcıların yanlış önerileri kabul etmesiyle dolaylı riskler taşır. Özellikle otomasyon yanlılığı ve hız baskısı, insan yargısının etkisizleşmesine neden olabilir.
Her iki sistemin de uluslararası insancıl hukuk (IHL) kurallarına uygun olması zorunludur. Ancak AWS sistemlerinde karar alma süreci insan dışı bir yapay zekâya devredildiğinden, olası sivil kayıplarda sorumluluk ve hesap verebilirlik ciddi tartışmalara yol açmaktadır. AI-DSS sistemlerinde ise karar insana ait görünse de, sistemin etkisi altında alınan kararların şeffaflığı ve izlenebilirliği sınırlı olabilir.
Politika Seçenekleri ve Öneriler
Raporda üç ana politika yaklaşımı sunuluyor:
- AI-DSS sistemlerinin AWS tartışmalarına dâhil edilmesi
- AI-DSS için bağımsız bir uluslararası süreç başlatılması
- AI-DSS’ye özel bir politika geliştirilmemesi
SIPRI, özellikle insan-makine etkileşimi, denetim ve hesap verebilirlik alanlarında AWS deneyimlerinden elde edilen derslerin, AI-DSS için de uygulanabileceğini vurguluyor. Ayrıca, AI-DSS ile ilgili daha fazla akademik ve politik araştırma yapılması gerektiği belirtiliyor.
