Teknoloji muhabiri Kashmir Hill, on yılı aşkın bir süredir mahremiyet ve teknolojinin kesişimi hakkında yazılar yazıyordu, ancak 2019’da herhangi bir kişiyi bir resme göre tanımlayabilen bir yüz tanıma uygulamasını anlatan yasal bir notla karşılaştığında o bile şaşkına dönmüştü. Bu teknolojinin distopik bir kabusa dönüşme potansiyelini, mahremiyet ve sivil özgürlüklere yönelik büyük riskler oluşturan “nihai gözetim aracı” haline gelme potansiyelini hemen gördü.
Hill, bu olayı, George Bemis Uluslararası Hukuk Profesörü ve Berkman Klein İnternet ve Toplum Merkezi direktörü Jonathan Zittrain’e, Çarşamba günü Gündem Hukuk Fakültesi’nde yeni kitabı “Yüzünüz Bize Ait: Gizli Bir Startup’ın Yeni Şirketi” hakkında yaptığı konuşmanın bir parçası olarak hatırlattı. Bildiğimiz Gizliliğe Son Verme Arayışı.”
Çalışma, kullanıcıların izni olmadan sosyal medya platformlarından alınan 30 milyar fotoğraflık bir veritabanını kullanarak 2017 yılında bir uygulamayı başlatan küçük ve gizli bir girişim olan Clearview AI’nın hikayesini anlatıyor. Avustralyalı bilgisayar mühendisi Hoan Ton-That liderliğindeki şirket, gizlilik ihlalleri nedeniyle Avrupa ve Avustralya’da para cezasına çarptırıldı.
2020’de teknolojiyle ilgili ilk büyük hikayeyi yazan ve teknoloji şirketlerinin ve gizlilik savunucularının tepkisine yol açan Hill, “Clearview’in teknolojik değil, etik bir atılım yaptığını söyleyebilirim” dedi. “Google ve Facebook gibi diğer şirketlerin yapmaya istekli olmadığı şeyleri yapmaya istekliydiler… Teknoloji şirketlerinin hepsi, hiç kimsenin yapmaması gereken tek şeyin, bir yabancının fotoğrafını çekebileceğiniz bir uygulama geliştirmek olduğu konusunda hemfikirdi. sonra kim olduklarını öğren.”
Hill, kullanıcıların gizliliğini korumak ve kullanıcıların kişisel bilgilerinden rızaları olmadan kazanç sağlayan sosyal medya platformlarını dizginlemek için düzenlemeler yapılması gerektiğinden bahsetti. Bazı eyaletlerde insanların sosyal medya sitelerinde paylaşılan kişisel bilgilere erişim ve bu bilgileri silme hakkını korumaya yönelik yasalar çıkarıldığını ancak bunun yeterli olmadığını söyledi.
Hill, “Bu biraz Vahşi Batı’ya benziyor ve bu konuda yeterince çaba göstermediğimizden endişeleniyorum” dedi. “Gizlilik yasalarımız var, ancak federal düzeyde Clearview’in yaptıklarını ele alan hiçbir şeyimiz yok.”
“Teknoloji şirketleri, hiç kimsenin yapmaması gereken tek şeyin, bir yabancının fotoğrafını çekip sonra onun kim olduğunu öğrenebileceğiniz bir uygulama geliştirmek olduğu konusunda hemfikirdi.”
— Kashmir Hill, “Yüzün Bize Ait” kitabının yazarı
Hill, Clearview’in yazılımının suç soruşturmalarında kullanıldığını ve kolluk kuvvetleri tarafından 6 Ocak isyancılarını tespit etmek için kullanıldığını söyledi. Yüz tanıma teknolojisinin araştırmacı gazetecileri, hükümet yetkililerini veya siyasi muhalifleri korkutmak veya taciz etmek için de kullanılabileceğini söyledi. Aynı zamanda haksız tutuklamalara da yol açabilir ve kullanımını düzenlemek için önlemlerin alınması gerektiğini söyledi.
“Polislikte yüz tanımayı kullanacaksak, New Orleans’taki bir hırsızla eşleşme bulmak için Clearview gibi, muhtemelen bu odadaki hepimiz dahil olmak üzere 30 milyar yüzü inceleyen bir veritabanı kullanmak ister miyiz?” dedi Hill.
Clearview’in uygulamalarını 2020 Washington Post köşesinde eleştiren Zittrain, kullanıcı gizliliğini korumaya yönelik önlemlerin gecikmiş olduğunu söyledi, ancak bunun kolluk kuvvetlerinin lehine ve gizlilik savunucularının aleyhine olan kolay bir tartışma olmadığını kabul etti.
Kitap konuşması sırasında Zittrain izleyicilere, 6 Ocak’ta Kongre Binası’na düzenlenen saldırıya katılan isyancıları tespit etmek için Clearview’i kullanmayı mı tercih edeceklerini, yoksa Ukrayna’da öldürülen Rus askerlerinin ailelerine iade edilmesini mi tercih edeceklerini sordu. “Kaç kişi bunun Clearview’in selamlayıcı ve iyi bir kullanımı olduğunu düşünüyor?” Zittrain’e sordu. “Bu hikayeyi karmaşıklaştıran türden bir şey.”
Hill ve Zittrain, anında yüz tanımanın nasıl çalıştığını göstermek için izleyicilere çeşitli fiyatlandırma planları sunan ve Clearview ile aynı teknolojiyi kullanan PimEyes adlı bir uygulamayı gösterdi. Hill, uygulamaya kendi fotoğrafını yükledikten sonra, uygulama onun bir düzineden fazla fotoğrafını, yayınlandıkları yerlere bağlantılarla birlikte sundu.
Hill, “Gördüğünüz gibi burada sadece benim fotoğraflarım bulundu” dedi. İkizi bile yoktu. Bunların hepsi benim… Fotoğrafımı yüklediğimde yüzümü analiz edip biyometrik bir tanımlayıcı buldu ve ardından veritabanına baktı. Oldukça iyi çalıştığını görebilirsiniz.”
Hill, veri tabanında 2,8 milyar yüz bulunan PimEyes’in Clearview kadar ilgi görmediğini söyledi.
Genel merkezi BAE’de bulunan ve “Karayipler’de bir yerde” hukuk büroları bulunan şirket, Gürcistan ülkesinde yaşayan bir adam tarafından yönetiliyor. Hill’in çocuklara yönelik yapay zeka tehditleri hakkında bir makale yazdıktan sonra PimEyes’in küçüklerin yüzlerinin aranmasını engellediğini söyledi. Piyasada Clearview’in kopyası olan birkaç yüz tanıma uygulaması var.
Hill, “PimEyes ortalıkta olmasına ve herkesin kullanabilmesine rağmen o kadar fazla ilgi görmedi” dedi. “Ayda 30 dolar ödeyebilirsin ve bunu şu anda bu odadaki insanlar üzerinde kullanabilirsin.”
Hill, yüz tanıma teknolojisinin cezai soruşturmalar gibi iyi amaçlar için kullanılabilse de gizlilik haklarına yönelik tehlikelerinin faydalarından daha ağır basabileceğini söyledi. Hem mahremiyet hakkının hem de kullanıcıların sosyal medya platformlarında paylaşılan kişisel bilgilerini kontrol etme haklarının korunması gerektiğini sözlerine ekledi. Bu hakları korumaya yönelik yeni yasalar, telefon dinlemeyi veya taraflar arasındaki iletişimin rızası olmadan kaydedilmesini yasadışı hale getiren düzenlemeler örnek alınarak oluşturulmalıdır.
Avrupa’daki son gizlilik yasaları, kişisel verilerin sosyal medya platformları tarafından nasıl toplandığını ve işlendiğini kısıtlamaktadır. Ve 2008’de Illinois, ACLU of Illinois liderliğindeki bir girişim olan Biyometrik Bilgi Gizliliği Yasasını (BIPA) kabul etti; bu yasa, bireylerin kendi biyometrik verilerinin (örn. parmak izleri, iris taramaları, DNA) kontrolüne sahip olduklarını garanti ediyor ve özel şirketlerin yasaklanmasını sağlıyor. Kullanıcıları bilgilendirmedikçe ve yazılı onaylarını almadıkça bunları toplamak yasaktır. Hill, teknolojinin yavaşlamayacağını, dolayısıyla yasanın buna yetişmesi ve kullanımlarını düzenlemesi gerektiğini söyledi.
Hill, “Sırf bir teknoloji var ve bunu yapabiliyor diye onu kabul etmemiz gerektiğine inanmıyorum” dedi. “Bu kitabı yazmamın nedenlerinden biri, bunun daha yeni ortaya çıkmasından ve yaşamak istediğimiz dünyayı seçmek için yeterince çaba göstermediğimizden endişelenmemdi. Bunu teknolojinin dikte etmesine izin veriyoruz.”
Hill, bu olayı, George Bemis Uluslararası Hukuk Profesörü ve Berkman Klein İnternet ve Toplum Merkezi direktörü Jonathan Zittrain’e, Çarşamba günü Gündem Hukuk Fakültesi’nde yeni kitabı “Yüzünüz Bize Ait: Gizli Bir Startup’ın Yeni Şirketi” hakkında yaptığı konuşmanın bir parçası olarak hatırlattı. Bildiğimiz Gizliliğe Son Verme Arayışı.”
Çalışma, kullanıcıların izni olmadan sosyal medya platformlarından alınan 30 milyar fotoğraflık bir veritabanını kullanarak 2017 yılında bir uygulamayı başlatan küçük ve gizli bir girişim olan Clearview AI’nın hikayesini anlatıyor. Avustralyalı bilgisayar mühendisi Hoan Ton-That liderliğindeki şirket, gizlilik ihlalleri nedeniyle Avrupa ve Avustralya’da para cezasına çarptırıldı.
2020’de teknolojiyle ilgili ilk büyük hikayeyi yazan ve teknoloji şirketlerinin ve gizlilik savunucularının tepkisine yol açan Hill, “Clearview’in teknolojik değil, etik bir atılım yaptığını söyleyebilirim” dedi. “Google ve Facebook gibi diğer şirketlerin yapmaya istekli olmadığı şeyleri yapmaya istekliydiler… Teknoloji şirketlerinin hepsi, hiç kimsenin yapmaması gereken tek şeyin, bir yabancının fotoğrafını çekebileceğiniz bir uygulama geliştirmek olduğu konusunda hemfikirdi. sonra kim olduklarını öğren.”
Hill, kullanıcıların gizliliğini korumak ve kullanıcıların kişisel bilgilerinden rızaları olmadan kazanç sağlayan sosyal medya platformlarını dizginlemek için düzenlemeler yapılması gerektiğinden bahsetti. Bazı eyaletlerde insanların sosyal medya sitelerinde paylaşılan kişisel bilgilere erişim ve bu bilgileri silme hakkını korumaya yönelik yasalar çıkarıldığını ancak bunun yeterli olmadığını söyledi.
Hill, “Bu biraz Vahşi Batı’ya benziyor ve bu konuda yeterince çaba göstermediğimizden endişeleniyorum” dedi. “Gizlilik yasalarımız var, ancak federal düzeyde Clearview’in yaptıklarını ele alan hiçbir şeyimiz yok.”
“Teknoloji şirketleri, hiç kimsenin yapmaması gereken tek şeyin, bir yabancının fotoğrafını çekip sonra onun kim olduğunu öğrenebileceğiniz bir uygulama geliştirmek olduğu konusunda hemfikirdi.”
— Kashmir Hill, “Yüzün Bize Ait” kitabının yazarı
Hill, Clearview’in yazılımının suç soruşturmalarında kullanıldığını ve kolluk kuvvetleri tarafından 6 Ocak isyancılarını tespit etmek için kullanıldığını söyledi. Yüz tanıma teknolojisinin araştırmacı gazetecileri, hükümet yetkililerini veya siyasi muhalifleri korkutmak veya taciz etmek için de kullanılabileceğini söyledi. Aynı zamanda haksız tutuklamalara da yol açabilir ve kullanımını düzenlemek için önlemlerin alınması gerektiğini söyledi.
“Polislikte yüz tanımayı kullanacaksak, New Orleans’taki bir hırsızla eşleşme bulmak için Clearview gibi, muhtemelen bu odadaki hepimiz dahil olmak üzere 30 milyar yüzü inceleyen bir veritabanı kullanmak ister miyiz?” dedi Hill.
Clearview’in uygulamalarını 2020 Washington Post köşesinde eleştiren Zittrain, kullanıcı gizliliğini korumaya yönelik önlemlerin gecikmiş olduğunu söyledi, ancak bunun kolluk kuvvetlerinin lehine ve gizlilik savunucularının aleyhine olan kolay bir tartışma olmadığını kabul etti.
Kitap konuşması sırasında Zittrain izleyicilere, 6 Ocak’ta Kongre Binası’na düzenlenen saldırıya katılan isyancıları tespit etmek için Clearview’i kullanmayı mı tercih edeceklerini, yoksa Ukrayna’da öldürülen Rus askerlerinin ailelerine iade edilmesini mi tercih edeceklerini sordu. “Kaç kişi bunun Clearview’in selamlayıcı ve iyi bir kullanımı olduğunu düşünüyor?” Zittrain’e sordu. “Bu hikayeyi karmaşıklaştıran türden bir şey.”
Hill ve Zittrain, anında yüz tanımanın nasıl çalıştığını göstermek için izleyicilere çeşitli fiyatlandırma planları sunan ve Clearview ile aynı teknolojiyi kullanan PimEyes adlı bir uygulamayı gösterdi. Hill, uygulamaya kendi fotoğrafını yükledikten sonra, uygulama onun bir düzineden fazla fotoğrafını, yayınlandıkları yerlere bağlantılarla birlikte sundu.
Hill, “Gördüğünüz gibi burada sadece benim fotoğraflarım bulundu” dedi. İkizi bile yoktu. Bunların hepsi benim… Fotoğrafımı yüklediğimde yüzümü analiz edip biyometrik bir tanımlayıcı buldu ve ardından veritabanına baktı. Oldukça iyi çalıştığını görebilirsiniz.”
Hill, veri tabanında 2,8 milyar yüz bulunan PimEyes’in Clearview kadar ilgi görmediğini söyledi.
Genel merkezi BAE’de bulunan ve “Karayipler’de bir yerde” hukuk büroları bulunan şirket, Gürcistan ülkesinde yaşayan bir adam tarafından yönetiliyor. Hill’in çocuklara yönelik yapay zeka tehditleri hakkında bir makale yazdıktan sonra PimEyes’in küçüklerin yüzlerinin aranmasını engellediğini söyledi. Piyasada Clearview’in kopyası olan birkaç yüz tanıma uygulaması var.
Hill, “PimEyes ortalıkta olmasına ve herkesin kullanabilmesine rağmen o kadar fazla ilgi görmedi” dedi. “Ayda 30 dolar ödeyebilirsin ve bunu şu anda bu odadaki insanlar üzerinde kullanabilirsin.”
Hill, yüz tanıma teknolojisinin cezai soruşturmalar gibi iyi amaçlar için kullanılabilse de gizlilik haklarına yönelik tehlikelerinin faydalarından daha ağır basabileceğini söyledi. Hem mahremiyet hakkının hem de kullanıcıların sosyal medya platformlarında paylaşılan kişisel bilgilerini kontrol etme haklarının korunması gerektiğini sözlerine ekledi. Bu hakları korumaya yönelik yeni yasalar, telefon dinlemeyi veya taraflar arasındaki iletişimin rızası olmadan kaydedilmesini yasadışı hale getiren düzenlemeler örnek alınarak oluşturulmalıdır.
Avrupa’daki son gizlilik yasaları, kişisel verilerin sosyal medya platformları tarafından nasıl toplandığını ve işlendiğini kısıtlamaktadır. Ve 2008’de Illinois, ACLU of Illinois liderliğindeki bir girişim olan Biyometrik Bilgi Gizliliği Yasasını (BIPA) kabul etti; bu yasa, bireylerin kendi biyometrik verilerinin (örn. parmak izleri, iris taramaları, DNA) kontrolüne sahip olduklarını garanti ediyor ve özel şirketlerin yasaklanmasını sağlıyor. Kullanıcıları bilgilendirmedikçe ve yazılı onaylarını almadıkça bunları toplamak yasaktır. Hill, teknolojinin yavaşlamayacağını, dolayısıyla yasanın buna yetişmesi ve kullanımlarını düzenlemesi gerektiğini söyledi.
Hill, “Sırf bir teknoloji var ve bunu yapabiliyor diye onu kabul etmemiz gerektiğine inanmıyorum” dedi. “Bu kitabı yazmamın nedenlerinden biri, bunun daha yeni ortaya çıkmasından ve yaşamak istediğimiz dünyayı seçmek için yeterince çaba göstermediğimizden endişelenmemdi. Bunu teknolojinin dikte etmesine izin veriyoruz.”