Bir evi temizlemeye, araba kullanmaya, okul makalesi yazmaya, CT taramasını okumaya yardımcı olabilir. Aynı zamanda iyi bir arkadaş olacağına da söz verebilir.
Ancak MIT Profesörü Sherry Turkle, sonuncusunda yapay zeka uygulamalarına sert bir çizgi çekilmesini tavsiye ediyor.
Teknolojinin psikoloji ve toplum üzerindeki etkisine ilişkin araştırmada öncü olan Turkle, yalnızların sanal refakatçileri olarak tanıtılan giderek büyüyen yapay zeka kişisel sohbet robotları kümesinin, hayatımızın her alanında bağlantı kurma ve işbirliği yapma yeteneğimize tehdit oluşturduğunu söylüyor. Turkle, geçen perşembe günü hükümet, akademi ve özel sektörden uzmanların bir araya geldiği üç günlük bir toplantı olan Yapay Zeka ve Demokrasi Konferansında, “Yapay zeka bizi kontrol etmeden önce onu kontrol etme çabasında bir hareket” çağrısında bulundu.
Bilim ve Teknoloji Sosyal Araştırmaları Profesörü Abby Rockefeller Mauzé Turkle, “Teknolojiden daha fazlasını, birbirimizden daha azını beklemeye başladık ve şimdi daha azla yetinme yolunda çok daha ileri gidiyoruz” dedi. MIT’de Bilim, Teknoloji ve Toplum Programı.
Turkle açılış konuşmasında, teknoloji insanların hayatlarını değiştirebilir ve onları daha verimli ve kullanışlı hale getirebilir, ancak odak noktamızı yapay zekanın insanlar için yapabileceklerinden değiştirmenin ve bunun yerine yapay zekanın insanlara ne yaptığına odaklanmanın zamanının geldiğini söyledi. Sosyal medyanın hem izolasyon hem de yankı odaları üreterek insan etkileşimlerini zaten değiştirdiğini ancak yapay zeka tarafından desteklenen kişisel sohbet robotu arkadaşlarının etkilerinin, insanların duygusal kapasitelerinin ve demokratik değerlerinin aşınmasına yol açabileceği konusunda uyardı.
“Hayatımızın çoğunu çevrimiçi ortamda geçirdikçe, çoğumuz ekranlar aracılığıyla iletişim kurmayı başka türlü iletişim kurmaya tercih etmeye başladık” dedi. “Arkadaşlık talepleri olmadan arkadaşlığın zevklerini, karşılıklılık talepleri olmadan yakınlık duygusunu bulduk ve en önemlisi, programlara insan gibi davranmaya alıştık.”
Turkle, çalışmalarında mobil teknolojinin, sosyal ağların, robotik köpek Aibo ve robotik yavru arp foku Paro gibi dijital yoldaşların ve kendisini “Yapay Zeka” olarak tanıtan Replika gibi en yeni çevrimiçi sohbet robotlarının etkilerini araştırdı. umursayan bir arkadaş.”
Turkle, “yapay yakınlık” ve “yalnızlığa çare” sunan uygulamaların etkileri konusunda giderek daha fazla endişe duymaya başladı. Chatbotlar empati vaat ediyor ama “empati taklidi” yapıyorlar çünkü yanıtları yaşanmış bir deneyimden değil internetten geliyor. Bunun yerine empati kapasitemizi, yani kendimizi başkasının yerine koyma yeteneğimizi zayıflatıyorlar.
Turkle, “Burada söz konusu olan, empati kapasitemizdir çünkü onu, insan yaşamının bağlarını ve kayıplarını deneyimleyen diğer insanlarla bağlantı kurarak besliyoruz” dedi. “Chatbot’lar bunu yapamaz çünkü insan gibi bir hayat yaşamadılar. Bedenleri yok ve hastalık ve ölümden korkmuyorlar… AI, insanların bakım kelimesini nasıl kullandığını umursamıyor ve AI, konuşmanın sonucunu umursamıyor… Açıkça söylemek gerekirse, eğer Akşam yemeği hazırlamak ya da intihara teşebbüs etmek onlar için fark etmez.”
Yapay yakınlık programları, çekiciliğinin bir kısmını, insan ilişkilerinin zorlukları ve talepleri olmadan gelmelerinden alıyor. Yargılamadan, dramadan veya sosyal kaygıdan uzak bir arkadaşlık sunduklarını, ancak gerçek insan duygularından yoksun olduklarını ve yalnızca “simüle edilmiş empati” sunduklarını söyledi. dedi. Ayrıca bu programların insanları savunmasız hissetmeye veya başkalarının savunmasızlığına saygı duymaya daha az istekli olmalarını şart koşması da rahatsız edici.
Turkle, “İnsan ilişkileri zengin, talepkar ve karmaşıktır” dedi. “İnsanlar bana chatbot arkadaşlıklarını sevdiklerini çünkü ilişkilerin stresini attığını söylüyor. Bir chatbot arkadaşınızla hiçbir sürtüşme, ikinci bir tahmin, hiçbir kararsızlık olmaz. Geride kalma korkusu yok… Bütün bu sürtüşmeleri, ikinci tahminleri ve kararsızlıkları küçümseme. Benim gördüğüm insanlık durumunun özellikleri, ancak yapay yakınlığı teşvik edenler böcek olarak görüyor.”
Turkle, sosyal medya ve yapay zekanın etkilerinin toplumsal kutuplaşmada ve sivil ve demokratik değerlerin aşınmasında da hissedilebileceğini söyledi. Uzmanların yapay zekanın demokrasi açısından temsil ettiği tehlikelere karşı alarm vermeleri gerekiyor. Turkle, sanal gerçekliğin sürtünmesiz olduğunu ve demokrasinin sürtünmeyi benimsemeye bağlı olduğunu söyledi.
“Erken, [Silicon Valley companies] İnsanları ekranlarının başında tutacak iyi bir formül keşfettik” dedi Turkle. “Kullanıcıları kızdırmak ve sonra onları kendi türleriyle tutmaktı. İnsanları bu şekilde ekranlarının başında tutarsınız çünkü insanlar izole edildiğinde, aynı fikirde olmadıkları kişilere karşı daha da öfkeli hale gelebilirler. Tahmin edilebileceği gibi, bu formül demokrasiyi besleyen sohbet tutumlarını, her şeyden önce hoşgörülü dinlemeyi baltalıyor.
“Dinleme becerilerini kaybetmek kolaydır, özellikle de sizinle aynı fikirde olmayan insanları dinlerken. Başka birinin bakış açısını dinlemek için yavaşlayarak farklılıklar hakkında konuşabildiğinizde demokrasi en iyi sonucu verir. Topluluklarımıza, demokrasilerimize ve ortak ortak amacımıza sahip çıkmak için bu becerilere ihtiyacımız var.”
Ancak MIT Profesörü Sherry Turkle, sonuncusunda yapay zeka uygulamalarına sert bir çizgi çekilmesini tavsiye ediyor.
Teknolojinin psikoloji ve toplum üzerindeki etkisine ilişkin araştırmada öncü olan Turkle, yalnızların sanal refakatçileri olarak tanıtılan giderek büyüyen yapay zeka kişisel sohbet robotları kümesinin, hayatımızın her alanında bağlantı kurma ve işbirliği yapma yeteneğimize tehdit oluşturduğunu söylüyor. Turkle, geçen perşembe günü hükümet, akademi ve özel sektörden uzmanların bir araya geldiği üç günlük bir toplantı olan Yapay Zeka ve Demokrasi Konferansında, “Yapay zeka bizi kontrol etmeden önce onu kontrol etme çabasında bir hareket” çağrısında bulundu.
Bilim ve Teknoloji Sosyal Araştırmaları Profesörü Abby Rockefeller Mauzé Turkle, “Teknolojiden daha fazlasını, birbirimizden daha azını beklemeye başladık ve şimdi daha azla yetinme yolunda çok daha ileri gidiyoruz” dedi. MIT’de Bilim, Teknoloji ve Toplum Programı.
Turkle açılış konuşmasında, teknoloji insanların hayatlarını değiştirebilir ve onları daha verimli ve kullanışlı hale getirebilir, ancak odak noktamızı yapay zekanın insanlar için yapabileceklerinden değiştirmenin ve bunun yerine yapay zekanın insanlara ne yaptığına odaklanmanın zamanının geldiğini söyledi. Sosyal medyanın hem izolasyon hem de yankı odaları üreterek insan etkileşimlerini zaten değiştirdiğini ancak yapay zeka tarafından desteklenen kişisel sohbet robotu arkadaşlarının etkilerinin, insanların duygusal kapasitelerinin ve demokratik değerlerinin aşınmasına yol açabileceği konusunda uyardı.
“Hayatımızın çoğunu çevrimiçi ortamda geçirdikçe, çoğumuz ekranlar aracılığıyla iletişim kurmayı başka türlü iletişim kurmaya tercih etmeye başladık” dedi. “Arkadaşlık talepleri olmadan arkadaşlığın zevklerini, karşılıklılık talepleri olmadan yakınlık duygusunu bulduk ve en önemlisi, programlara insan gibi davranmaya alıştık.”
Turkle, çalışmalarında mobil teknolojinin, sosyal ağların, robotik köpek Aibo ve robotik yavru arp foku Paro gibi dijital yoldaşların ve kendisini “Yapay Zeka” olarak tanıtan Replika gibi en yeni çevrimiçi sohbet robotlarının etkilerini araştırdı. umursayan bir arkadaş.”
Turkle, “yapay yakınlık” ve “yalnızlığa çare” sunan uygulamaların etkileri konusunda giderek daha fazla endişe duymaya başladı. Chatbotlar empati vaat ediyor ama “empati taklidi” yapıyorlar çünkü yanıtları yaşanmış bir deneyimden değil internetten geliyor. Bunun yerine empati kapasitemizi, yani kendimizi başkasının yerine koyma yeteneğimizi zayıflatıyorlar.
Turkle, “Burada söz konusu olan, empati kapasitemizdir çünkü onu, insan yaşamının bağlarını ve kayıplarını deneyimleyen diğer insanlarla bağlantı kurarak besliyoruz” dedi. “Chatbot’lar bunu yapamaz çünkü insan gibi bir hayat yaşamadılar. Bedenleri yok ve hastalık ve ölümden korkmuyorlar… AI, insanların bakım kelimesini nasıl kullandığını umursamıyor ve AI, konuşmanın sonucunu umursamıyor… Açıkça söylemek gerekirse, eğer Akşam yemeği hazırlamak ya da intihara teşebbüs etmek onlar için fark etmez.”
Yapay yakınlık programları, çekiciliğinin bir kısmını, insan ilişkilerinin zorlukları ve talepleri olmadan gelmelerinden alıyor. Yargılamadan, dramadan veya sosyal kaygıdan uzak bir arkadaşlık sunduklarını, ancak gerçek insan duygularından yoksun olduklarını ve yalnızca “simüle edilmiş empati” sunduklarını söyledi. dedi. Ayrıca bu programların insanları savunmasız hissetmeye veya başkalarının savunmasızlığına saygı duymaya daha az istekli olmalarını şart koşması da rahatsız edici.
Turkle, “İnsan ilişkileri zengin, talepkar ve karmaşıktır” dedi. “İnsanlar bana chatbot arkadaşlıklarını sevdiklerini çünkü ilişkilerin stresini attığını söylüyor. Bir chatbot arkadaşınızla hiçbir sürtüşme, ikinci bir tahmin, hiçbir kararsızlık olmaz. Geride kalma korkusu yok… Bütün bu sürtüşmeleri, ikinci tahminleri ve kararsızlıkları küçümseme. Benim gördüğüm insanlık durumunun özellikleri, ancak yapay yakınlığı teşvik edenler böcek olarak görüyor.”
Turkle, sosyal medya ve yapay zekanın etkilerinin toplumsal kutuplaşmada ve sivil ve demokratik değerlerin aşınmasında da hissedilebileceğini söyledi. Uzmanların yapay zekanın demokrasi açısından temsil ettiği tehlikelere karşı alarm vermeleri gerekiyor. Turkle, sanal gerçekliğin sürtünmesiz olduğunu ve demokrasinin sürtünmeyi benimsemeye bağlı olduğunu söyledi.
“Erken, [Silicon Valley companies] İnsanları ekranlarının başında tutacak iyi bir formül keşfettik” dedi Turkle. “Kullanıcıları kızdırmak ve sonra onları kendi türleriyle tutmaktı. İnsanları bu şekilde ekranlarının başında tutarsınız çünkü insanlar izole edildiğinde, aynı fikirde olmadıkları kişilere karşı daha da öfkeli hale gelebilirler. Tahmin edilebileceği gibi, bu formül demokrasiyi besleyen sohbet tutumlarını, her şeyden önce hoşgörülü dinlemeyi baltalıyor.
“Dinleme becerilerini kaybetmek kolaydır, özellikle de sizinle aynı fikirde olmayan insanları dinlerken. Başka birinin bakış açısını dinlemek için yavaşlayarak farklılıklar hakkında konuşabildiğinizde demokrasi en iyi sonucu verir. Topluluklarımıza, demokrasilerimize ve ortak ortak amacımıza sahip çıkmak için bu becerilere ihtiyacımız var.”