Uzun süredir bilimkurgu olarak görülen ve “katil robotlar” olarak adlandırılan otonom silah sistemleri, yapay zekanın hızla gelişmesiyle gerçeğe dönüşmeye hazırlanıyor.
Buna yanıt olarak, uluslararası kuruluşlar bunların kullanımına sınırlama ve hatta doğrudan yasaklama çağrılarını yoğunlaştırıyor. Kasım ayında BM Genel Kurulu, insan müdahalesi olmadan hedefleri seçip saldırabilen bu silah sistemlerine ilişkin ilk kararı kabul etti.
Gazete, dile getirdikleri hukuki ve etik kaygılara ışık tutmak amacıyla, Gündem Hukuk Fakültesi Uluslararası İnsan Hakları Kliniği'nde (IHRC) hukuk öğretim görevlisi olan ve bazı BM toplantılarına katılan Bonnie Docherty ile röportaj yaptı. Docherty aynı zamanda İnsan Hakları İzleme Örgütü'nün Silah Bölümü'nde kıdemli araştırmacıdır. Bu röportaj kısaltılmış ve uzunluk ve netlik açısından düzenlenmiştir.
GAZETE: Katil robotlar tam olarak nedir? Bunlar ne ölçüde gerçektir?
-Docherty: Öldürücü robotlar veya daha teknik bir tabirle otonom silah sistemleri, insan girdileri yerine sensör girdilerine dayanarak bir hedef seçen ve ona ateş eden sistemlerdir. Bir süredir geliştirme aşamasındalar ancak hızla gerçeğe dönüşüyorlar. Bunlarla ilgili giderek daha fazla endişe duyuyoruz çünkü güç kullanımı konusunda ciddi özerkliğe sahip silah sistemleri halihazırda savaş alanında kullanılıyor.
“Yaşam ve ölümle ilgili kararları makinelere devretmek birçok insan için kırmızı çizgiyi aşıyor. Bu, şiddeti insanlıktan çıkaracak ve insanları sayısal değerlere indirgeyecektir.”
GAZETE: Onlar ne? Nerede kullanıldılar?
-Docherty: Neyin katil robot olarak sayıldığı ve neyin sayılmadığı konusunda ince bir çizgi var. Libya'da kullanılan bazı sistemler ve daha önce de kullanılan sistemler [the ethnic and territorial conflict between Armenia and Azerbaijan over] Dağlık Karabağ, bir hedefi tespit etmek ve saldırmak için kendi başlarına hareket edebilmeleri anlamında önemli bir özerklik göstermektedir.
Bunlara başıboş mühimmat deniyor ve savaş alanının üzerinde havada asılı kalmalarına ve bir hedefi algılayana kadar saldırmak için beklemelerine olanak tanıyan özerkliği giderek daha fazla kullanıyorlar. Sistemlerin katil robot olarak kabul edilip edilmeyeceği, insan kontrolünün derecesi gibi belirli faktörlere bağlıdır, ancak bu silahlar askeri teknolojide özerkliğin tehlikelerini göstermektedir.
GAZETE: Katil robotların ortaya çıkardığı etik kaygılar nelerdir?
-Docherty: Etik kaygılar çok ciddidir. Ölüm kalım kararlarını makinelere devretmek birçok insan için kırmızı çizgiyi aşıyor. Şiddeti insanlıktan çıkaracak ve insanları sayısal değerlere indirgeyecektir.
Ayrıca, makineler kasıtlı olarak belirli kriterleri aramak üzere programlanmış olabileceği veya kasıtsız olarak önyargılı hale gelebileceği için insanlara karşı ırk, cinsiyet, engellilik vb. temel alınarak ayrımcılık yapılmasının mümkün olduğu ciddi bir algoritmik önyargı riski de vardır. Yapay zekanın önyargılı olabileceğine dair çok sayıda kanıt var. İnsan hakları camiası olarak bizler, bunun öldürmek üzere tasarlanmış makinelerde kullanılmasından oldukça endişeliyiz.
GAZETE: Yasal kaygılar nelerdir?
-Docherty: Makinelerin askerleri sivillerden ayıramaması gibi çok ciddi hukuki kaygılar da mevcut. Savaşçıların sivillerle iç içe olduğu bir ortamda bunu yapmakta özellikle zorluk çekecekler.
Teknoloji bu sorunun üstesinden gelse bile insan muhakeme yeteneğinden yoksundurlar. Bu, sivillerin zararının askeri avantajdan daha fazla olup olmadığını tarttığınız orantılılık testi için önemlidir.
Bu test, bir insanın etik ve yasal bir karar vermesini gerektirir. Bu bir makineye programlanamayacak bir yargıdır çünkü savaş alanında meydana gelen sonsuz sayıda durum vardır. Ve bir makineyi sonsuz sayıda durumla başa çıkacak şekilde programlayamazsınız.
GAZETE: Sorumluluk eksikliği konusunda da endişeler var.
-Docherty: Otonom silah sistemlerinin kullanımının sorumluluk boşluğuna düşmesinden çok endişe duyuyoruz çünkü açıkçası silah sisteminin kendisini sorumlu tutamazsınız.
Ayrıca, otonom olarak çalışan bir sistemin eylemlerinden bir operatörü sorumlu tutmak yasal olarak zorlayıcı ve tartışmasız adil olmayacaktır.
Silah imalatçılarının haksız fiil hukuku kapsamında sorumlu tutulmasında da zorluklar bulunmaktadır. Eyaletler, ordular ve diğer insanlar arasında bu otonom silahların sorumluluk boşluğundan düşebileceğine dair geniş bir endişe var.
Ayrıca bu silah sistemlerinin kullanımının çerçevede bir boşluk yaratarak mevcut uluslararası ceza hukukunu zayıflatacağına inanıyoruz; mevcut ceza kanununun kapsamına girmeyen bir şey yaratacaktır.
“Bağlayıcı olmayan kurallar arayan ya da hiçbir eylemde bulunmayan ülkelerin çoğu, teknolojiyi geliştirme sürecinde olan ve açıkça onu ileride kullanma seçeneğinden vazgeçmek istemeyen ülkelerdir.”
GAZETE: Öldürücü robotları yasaklama çabaları oldu ancak şu ana kadar başarısız oldu. Nedenmiş?
-Docherty: Bu silahların yarattığı endişeleri gidermeye yönelik herhangi bir eyleme karşı çıkan bazı ülkeler var; özellikle Rusya. ABD, İngiltere ve benzeri bazı ülkeler bağlayıcı olmayan kuralları desteklemiştir. Bu tür ciddi kaygılarla başa çıkmanın tek yolunun bağlayıcı bir anlaşma olduğuna inanıyoruz.
Bağlayıcı olmayan kurallar arayan ya da herhangi bir eylemde bulunmayan ülkelerin çoğu, teknolojiyi geliştirme sürecinde olan ve onu ileride kullanma seçeneğinden açıkça vazgeçmek istemeyen ülkelerdir.
Bu silah sistemlerini yasaklamanın zor olmasının birkaç nedeni olabilir. Bunlar, yasaklandıklarında bir süredir mevcut olan kara mayınları ve misket bombalarının aksine, şu anda geliştirilmekte olan silah sistemleridir. Kara mayınları ve misket bombalarının belgelenmiş zararını gösterebiliriz ve bu, halihazırda zarar varken insanları harekete geçiren bir faktördür.
Kör edici lazerler durumunda, bu önleyici bir yasaktı [to ensure they will be used only on optical equipment, not on military personnel] Her ne kadar bu silah sistemleri çok daha geniş bir kategori olsa da bu, otonom silah sistemleri için iyi bir paralelliktir. Şu anda farklı bir siyasi iklim de var. Dünya çapında çok daha muhafazakar bir siyasi iklim var ve bu da silahsızlanmayı daha da zorlaştırıyor.
GAZETE: ABD hükümetinin tutumu hakkında düşünceleriniz neler?
-Docherty: Çözümün ne olması gerektiği konusunda yetersiz kaldıklarına inanıyoruz. ABD hükümetinin önerdiğinden çok daha güçlü, yasal olarak bağlayıcı kurallara ihtiyacımız olduğunu ve bunların belirli türden otonom silah sistemlerine yönelik yasakları içermesi gerektiğini ve bunların yalnızca tavsiye değil yükümlülük olması gerektiğini düşünüyoruz.
GAZETE: BM'de son dönemde bu silah sistemlerinin yasaklanması yönünde on yıldır süren çalışmalarda bir gelişme yaşandı.
-Docherty: BM Genel Kurulunun Birinci Silahsızlanma ve Uluslararası Güvenlik Komitesi olan silahsızlanma komitesi, Kasım ayında geniş bir farkla (164 lehte ve beş devlet karşı) BM genel sekreterini devletlerin ve sivillerin görüşlerini toplamaya çağıran bir kararı kabul etti. otonom silah sistemleri konusunda toplum.
Küçük bir adım gibi görünse de ileriye doğru atılmış önemli bir adımdır. Tartışmanın odağını, ilerlemenin çok yavaş olduğu ve Rusya ve diğer devletler tarafından engellendiği Konvansiyonel Silahlar Sözleşmesi'nden (CCW) Genel Kurul'a çeviriyor. BM Genel Kurulu (UNGA) daha fazla eyaleti içeriyor ve fikir birliği yerine oylamayla çalışıyor.
100'den fazla eyalet, otonom silah sistemlerine ilişkin yasaklar ve düzenlemeler içeren yeni bir anlaşmayı desteklediğini söyledi. Bu durum, bu sistemlerin gerçek dünyada artan kullanımıyla birleştiğinde, diplomatik cephede harekete geçmeyi sağladı.
Genel Sekreter 2026 yılına kadar yeni bir anlaşma görmek istediğini söyledi. UNGA'dan çıkacak bir anlaşma, yalnızca insani hukukla sınırlı kalmayıp, insan hakları, hukuk, etik gibi daha geniş bir yelpazedeki konuları ele alabilir. Bunun önümüzdeki yıllarda oyunun kurallarını değiştireceğinden çok umutluyuz.
GAZETE: Otonom silah sistemlerine yönelik uluslararası bir yasak neleri gerektirir ve bunun yakın zamanda gerçekleşmesi ne kadar olasıdır?
-Docherty: Üç bölümden oluşan bir anlaşma çağrısında bulunuyoruz. Bunlardan biri, anlamlı insan kontrolüne sahip olmayan otonom silah sistemlerinin yasaklanmasıdır. Ayrımcılık ve etik zorluklarla ilgili endişeleri dile getirdiği için insanları hedef alan otonom silah sistemlerinin de yasaklanması çağrısında bulunuyoruz. Üçüncüsü, diğer tüm otonom silah sistemlerine ilişkin düzenlemelerin, bunların yalnızca belirli bir coğrafi veya zamansal kapsam dahilinde kullanılabileceğinden emin olmak için çağrıda bulunmamızdır. Devletlerin önümüzdeki birkaç yıl içinde böyle bir anlaşmayı kabul edeceği konusunda iyimseriz.
Buna yanıt olarak, uluslararası kuruluşlar bunların kullanımına sınırlama ve hatta doğrudan yasaklama çağrılarını yoğunlaştırıyor. Kasım ayında BM Genel Kurulu, insan müdahalesi olmadan hedefleri seçip saldırabilen bu silah sistemlerine ilişkin ilk kararı kabul etti.
Gazete, dile getirdikleri hukuki ve etik kaygılara ışık tutmak amacıyla, Gündem Hukuk Fakültesi Uluslararası İnsan Hakları Kliniği'nde (IHRC) hukuk öğretim görevlisi olan ve bazı BM toplantılarına katılan Bonnie Docherty ile röportaj yaptı. Docherty aynı zamanda İnsan Hakları İzleme Örgütü'nün Silah Bölümü'nde kıdemli araştırmacıdır. Bu röportaj kısaltılmış ve uzunluk ve netlik açısından düzenlenmiştir.
GAZETE: Katil robotlar tam olarak nedir? Bunlar ne ölçüde gerçektir?
-Docherty: Öldürücü robotlar veya daha teknik bir tabirle otonom silah sistemleri, insan girdileri yerine sensör girdilerine dayanarak bir hedef seçen ve ona ateş eden sistemlerdir. Bir süredir geliştirme aşamasındalar ancak hızla gerçeğe dönüşüyorlar. Bunlarla ilgili giderek daha fazla endişe duyuyoruz çünkü güç kullanımı konusunda ciddi özerkliğe sahip silah sistemleri halihazırda savaş alanında kullanılıyor.
“Yaşam ve ölümle ilgili kararları makinelere devretmek birçok insan için kırmızı çizgiyi aşıyor. Bu, şiddeti insanlıktan çıkaracak ve insanları sayısal değerlere indirgeyecektir.”
GAZETE: Onlar ne? Nerede kullanıldılar?
-Docherty: Neyin katil robot olarak sayıldığı ve neyin sayılmadığı konusunda ince bir çizgi var. Libya'da kullanılan bazı sistemler ve daha önce de kullanılan sistemler [the ethnic and territorial conflict between Armenia and Azerbaijan over] Dağlık Karabağ, bir hedefi tespit etmek ve saldırmak için kendi başlarına hareket edebilmeleri anlamında önemli bir özerklik göstermektedir.
Bunlara başıboş mühimmat deniyor ve savaş alanının üzerinde havada asılı kalmalarına ve bir hedefi algılayana kadar saldırmak için beklemelerine olanak tanıyan özerkliği giderek daha fazla kullanıyorlar. Sistemlerin katil robot olarak kabul edilip edilmeyeceği, insan kontrolünün derecesi gibi belirli faktörlere bağlıdır, ancak bu silahlar askeri teknolojide özerkliğin tehlikelerini göstermektedir.
GAZETE: Katil robotların ortaya çıkardığı etik kaygılar nelerdir?
-Docherty: Etik kaygılar çok ciddidir. Ölüm kalım kararlarını makinelere devretmek birçok insan için kırmızı çizgiyi aşıyor. Şiddeti insanlıktan çıkaracak ve insanları sayısal değerlere indirgeyecektir.
Ayrıca, makineler kasıtlı olarak belirli kriterleri aramak üzere programlanmış olabileceği veya kasıtsız olarak önyargılı hale gelebileceği için insanlara karşı ırk, cinsiyet, engellilik vb. temel alınarak ayrımcılık yapılmasının mümkün olduğu ciddi bir algoritmik önyargı riski de vardır. Yapay zekanın önyargılı olabileceğine dair çok sayıda kanıt var. İnsan hakları camiası olarak bizler, bunun öldürmek üzere tasarlanmış makinelerde kullanılmasından oldukça endişeliyiz.
GAZETE: Yasal kaygılar nelerdir?
-Docherty: Makinelerin askerleri sivillerden ayıramaması gibi çok ciddi hukuki kaygılar da mevcut. Savaşçıların sivillerle iç içe olduğu bir ortamda bunu yapmakta özellikle zorluk çekecekler.
Teknoloji bu sorunun üstesinden gelse bile insan muhakeme yeteneğinden yoksundurlar. Bu, sivillerin zararının askeri avantajdan daha fazla olup olmadığını tarttığınız orantılılık testi için önemlidir.
Bu test, bir insanın etik ve yasal bir karar vermesini gerektirir. Bu bir makineye programlanamayacak bir yargıdır çünkü savaş alanında meydana gelen sonsuz sayıda durum vardır. Ve bir makineyi sonsuz sayıda durumla başa çıkacak şekilde programlayamazsınız.
GAZETE: Sorumluluk eksikliği konusunda da endişeler var.
-Docherty: Otonom silah sistemlerinin kullanımının sorumluluk boşluğuna düşmesinden çok endişe duyuyoruz çünkü açıkçası silah sisteminin kendisini sorumlu tutamazsınız.
Ayrıca, otonom olarak çalışan bir sistemin eylemlerinden bir operatörü sorumlu tutmak yasal olarak zorlayıcı ve tartışmasız adil olmayacaktır.
Silah imalatçılarının haksız fiil hukuku kapsamında sorumlu tutulmasında da zorluklar bulunmaktadır. Eyaletler, ordular ve diğer insanlar arasında bu otonom silahların sorumluluk boşluğundan düşebileceğine dair geniş bir endişe var.
Ayrıca bu silah sistemlerinin kullanımının çerçevede bir boşluk yaratarak mevcut uluslararası ceza hukukunu zayıflatacağına inanıyoruz; mevcut ceza kanununun kapsamına girmeyen bir şey yaratacaktır.
“Bağlayıcı olmayan kurallar arayan ya da hiçbir eylemde bulunmayan ülkelerin çoğu, teknolojiyi geliştirme sürecinde olan ve açıkça onu ileride kullanma seçeneğinden vazgeçmek istemeyen ülkelerdir.”
GAZETE: Öldürücü robotları yasaklama çabaları oldu ancak şu ana kadar başarısız oldu. Nedenmiş?
-Docherty: Bu silahların yarattığı endişeleri gidermeye yönelik herhangi bir eyleme karşı çıkan bazı ülkeler var; özellikle Rusya. ABD, İngiltere ve benzeri bazı ülkeler bağlayıcı olmayan kuralları desteklemiştir. Bu tür ciddi kaygılarla başa çıkmanın tek yolunun bağlayıcı bir anlaşma olduğuna inanıyoruz.
Bağlayıcı olmayan kurallar arayan ya da herhangi bir eylemde bulunmayan ülkelerin çoğu, teknolojiyi geliştirme sürecinde olan ve onu ileride kullanma seçeneğinden açıkça vazgeçmek istemeyen ülkelerdir.
Bu silah sistemlerini yasaklamanın zor olmasının birkaç nedeni olabilir. Bunlar, yasaklandıklarında bir süredir mevcut olan kara mayınları ve misket bombalarının aksine, şu anda geliştirilmekte olan silah sistemleridir. Kara mayınları ve misket bombalarının belgelenmiş zararını gösterebiliriz ve bu, halihazırda zarar varken insanları harekete geçiren bir faktördür.
Kör edici lazerler durumunda, bu önleyici bir yasaktı [to ensure they will be used only on optical equipment, not on military personnel] Her ne kadar bu silah sistemleri çok daha geniş bir kategori olsa da bu, otonom silah sistemleri için iyi bir paralelliktir. Şu anda farklı bir siyasi iklim de var. Dünya çapında çok daha muhafazakar bir siyasi iklim var ve bu da silahsızlanmayı daha da zorlaştırıyor.
GAZETE: ABD hükümetinin tutumu hakkında düşünceleriniz neler?
-Docherty: Çözümün ne olması gerektiği konusunda yetersiz kaldıklarına inanıyoruz. ABD hükümetinin önerdiğinden çok daha güçlü, yasal olarak bağlayıcı kurallara ihtiyacımız olduğunu ve bunların belirli türden otonom silah sistemlerine yönelik yasakları içermesi gerektiğini ve bunların yalnızca tavsiye değil yükümlülük olması gerektiğini düşünüyoruz.
GAZETE: BM'de son dönemde bu silah sistemlerinin yasaklanması yönünde on yıldır süren çalışmalarda bir gelişme yaşandı.
-Docherty: BM Genel Kurulunun Birinci Silahsızlanma ve Uluslararası Güvenlik Komitesi olan silahsızlanma komitesi, Kasım ayında geniş bir farkla (164 lehte ve beş devlet karşı) BM genel sekreterini devletlerin ve sivillerin görüşlerini toplamaya çağıran bir kararı kabul etti. otonom silah sistemleri konusunda toplum.
Küçük bir adım gibi görünse de ileriye doğru atılmış önemli bir adımdır. Tartışmanın odağını, ilerlemenin çok yavaş olduğu ve Rusya ve diğer devletler tarafından engellendiği Konvansiyonel Silahlar Sözleşmesi'nden (CCW) Genel Kurul'a çeviriyor. BM Genel Kurulu (UNGA) daha fazla eyaleti içeriyor ve fikir birliği yerine oylamayla çalışıyor.
100'den fazla eyalet, otonom silah sistemlerine ilişkin yasaklar ve düzenlemeler içeren yeni bir anlaşmayı desteklediğini söyledi. Bu durum, bu sistemlerin gerçek dünyada artan kullanımıyla birleştiğinde, diplomatik cephede harekete geçmeyi sağladı.
Genel Sekreter 2026 yılına kadar yeni bir anlaşma görmek istediğini söyledi. UNGA'dan çıkacak bir anlaşma, yalnızca insani hukukla sınırlı kalmayıp, insan hakları, hukuk, etik gibi daha geniş bir yelpazedeki konuları ele alabilir. Bunun önümüzdeki yıllarda oyunun kurallarını değiştireceğinden çok umutluyuz.
GAZETE: Otonom silah sistemlerine yönelik uluslararası bir yasak neleri gerektirir ve bunun yakın zamanda gerçekleşmesi ne kadar olasıdır?
-Docherty: Üç bölümden oluşan bir anlaşma çağrısında bulunuyoruz. Bunlardan biri, anlamlı insan kontrolüne sahip olmayan otonom silah sistemlerinin yasaklanmasıdır. Ayrımcılık ve etik zorluklarla ilgili endişeleri dile getirdiği için insanları hedef alan otonom silah sistemlerinin de yasaklanması çağrısında bulunuyoruz. Üçüncüsü, diğer tüm otonom silah sistemlerine ilişkin düzenlemelerin, bunların yalnızca belirli bir coğrafi veya zamansal kapsam dahilinde kullanılabileceğinden emin olmak için çağrıda bulunmamızdır. Devletlerin önümüzdeki birkaç yıl içinde böyle bir anlaşmayı kabul edeceği konusunda iyimseriz.