Makineler duygularımızı taklit ederek bizi manipüle etmeyi öğrendiğinde ne olur? Araştırmacıların insani yapay zeka ajanları geliştirdikleri oranı göz önüne alındığında, öğrenmek üzereyiz.
Dünyadaki araştırmacılar daha çok insan benzeri yapay zeka yaratmaya çalışıyor. Tanım olarak, yapay psikopatlar geliştiriyorlar. Bu mutlaka kötü bir şey değildir – bir psikopat olmanın doğasında yanlış olan hiçbir şey yoktur ve tüm AI ajanları yapay psikopatlardır, çünkü tüm nörotipik insan duyguları yelpazesinden yoksundurlar.
Fakat psikopatik davranış ile AI ajan davranışı arasındaki örtüşme yadsınamaz. Çok geç olmadan araştırmalıyız.
Mahkumun İkilemi
Waterloo Üniversitesi’nden bir araştırma üçlüsü yakın zamanda , duygu göstergelerinin AI’nın insanları işbirliğine yönlendirmesine nasıl yardımcı olabileceğini belirlemek için bir deney yaptı . Çalışmada “Mahkumun İkilemi” adında klasik bir oyun teorisi deneyi kullanılmıştır, bu da işbirliğinden fayda sağlayacak insanların neden sık sık olmadığını göstermektedir.
Oyunda pek çok çeşitlilik var, ama temelde bu: Birbirlerinden izole edilen ve birlikte işledikleri bir suç için polis tarafından sorgulanan iki mahkum var. Biri birbirine karışırsa diğeri yapmazsa, ihanet etmeyen üç yıl alır ve snitch yürür. Bu iki şekilde çalışır. Her ikisi de snitch olursa, ikisi de iki yıl alır. İkisi de sızmazsa, her ikisi de bir yıl daha az masrafa maruz kalır.
Waterloo’nun çalışması, insan ‘mahkumlardan’ birini AI avatarıyla değiştirdi ve birbirlerinin duygularını yorumlamalarına izin verdi. Ve hapis cezaları yerine altın kullandılar, yani amaç en düşük puanın aksine mümkün olan en yüksek puanı almaktı. Söylediğimiz gibi, oyunda farklılıklar var. Ancak, daha önemlisi, AI’nın insan benzeri davranış seviyesini artırarak, insanları işbirlikçi sonuçlara daha kolay manipüle ettiklerini buldular. Waterloo ekibinin araştırma makalesine göre :
Araştırmacılar, ajanları daha akıllı hale getirerek İnsan Tekliği özelliklerinin algılanmasını başarılı bir şekilde geliştirebilirken, duygular İnsan Doğası özelliklerinin algılanması için kritik öneme sahiptir.
Bu gelişme aynı zamanda kullanıcıların aracıyla işbirliğini ve onların zevklerini olumlu yönde etkiledi.
Bu arada, başka bir araştırmacı ekibi kısa süre önce Mahkumun İkilemi sorununu içeren farklı bir deneme yayınladı . Wellington’daki Victoria Üniversitesi ve Southampton Üniversitesi’nden bilim adamları, 190 öğrenci gönüllüsünü, farklı nevrotik öğrenci oranları ve psikopati özellikleri sergileyen dört gruba ayırdı. Araştırmacılar, psikopatların bir grup dinamiği içinde olmasının daha az işbirliği ile tutarlı olduğunu buldu.
Açıkçası, Victory / Southhampton çalışması, psikopat olarak kabul edilen insanları kullanmadı, ancak diğerlerinden daha fazla sayıda psikopatik özellik gösteren öğrenciler kullandı. Bu çalışmanın amacı, bazı psikopatileri bile gösteren kişilerin tanıtılmasının grup dinamiklerini değiştirip değiştirmeyeceğini belirlemekti. Bunu buldular:
Elde ettiğimiz sonuçlar, psikopatik özelliklerin daha yüksek olduğu kişilerin grup dinamiklerini etkilediğini göstermektedir.
Psikopatik katılımcıların yoğunluğu yüksek olan gruplarda, sıfır yoğunluklu gruplara göre anlamlı bir farklılık saptadık.
Dost Avcısı
Yarı pişmiş duygusal ajanların topluma tanıtılması kabus olma potansiyeline sahiptir. Mahkumun İkilem deneyine dair bir başka yakın zamanda yapılan araştırmada, bu Max Planck Topluluğu’ndan bir tanesi, oyun için en iyi stratejinin “Dostça Avukat” olmak olduğuna işaret ediyor. Özünde, ikramiye ve teşvikler hatta olduğunda, En iyi oyun, kaç kez oynarsanız yapın, diğer oyuncuyu kooperasyona dönüştürürken işbirliği yanılsaması yaratmaktır. Topluma göre :
Bu, aynı oyuncuyla karşılaşmaya devam ederseniz ve böylece önceki egoizmi “cezalandırır” ve kooperatif davranışını ödüllendirirseniz, işbirliğinin sadece faydası olduğu anlamına gelir.
Ancak gerçekte, birçok kişi mahpusların ikilemi için teorik olarak tahmin edilenden daha az sıklıkta işbirliği yapma eğilimindedir.
– birçok makine öğrenme sistemlerinin ödülleri maksimize etmek üzere tasarlanmış olduğunu fark kadar birlikte tüm bu koyarak, endişe verici görünmüyor kazanmak için. Dünyaca ünlü AI filozofu Profesör Nick Bostrom, bu varsayımsal durumu “ tüm dünyayı bir ataç fabrikasına dönüştüren ataçları yaratmak olan bir AI’yı hayal etmeyi hayal eden“ Ataç Maximizer ”olarak tanımlamaktadır.
Ne bilmiyoruz?
Şu anda, nüfusun yüzde birinden daha azının psikopat olduğu tahmin ediliyor. Ve yine, psikopatların suçlular, kötüler veya duygulara aciz olmadıklarını – tıpkı nörotipikler gibi, bazılarının suç işlediğini, ancak psikopat olmanın doğal olarak sizi kötüleştirmeyeceğini – yine de felaket yapabileceğimizi belirtmek İnsan benzeri olması için tasarlanan yapay zeka ajanları ile aralarındaki benzerlikleri araştırır.
Orantısız sayıda şiddetli suçlunun psikopati belirtileri göstermesi nedeniyle, psikopatların mağdur olma riski daha yüksek olduğuna inanmak için sebep var.. Uzmanlar, bir kişinin pişmanlık duymadığını ve empati hissetme konusundaki yetersizliğinin ya da azaltılabildiğinin, bazı kişilerin eylemlerinin diğer insanlara verebileceği sonuçları işlemesini zorlaştırdığını ya da özellikle faydalanmaya hazır olduklarında yaptıkları şeyler hakkında kendilerini kötü hissetmelerini zorlaştırdığına inanıyorlar. başkalarının pahasına bir sonuç.
Bu, simüle edilmiş insan duygularını kullanarak insanların manipülasyonuyla kendi ödüllerini en üst düzeye çıkarmak için eğitilmiş sanal ajanların, tüm toplumu boşa harcayacak potansiyele sahip oldukları anlamına gelir. Hemen hemen her yerde bulunan bir psikopatik varlığın (şu anda telefonunuzda sanal bir psikopatınız var), yalnızca yüzde birden daha az bir birleşme ile başa çıkmak için geliştirilen bir topluma tanıtılmasının etkileri, bildiğimiz kadarıyla, yaygın olarak çalışılmadı.
