Nicholas Christakis: [00:00:05] Tamam, bu nedenle insanlar sosyal ağların içine gömülmüştür ve bu ağlar çok özel matematiksel, biyolojik ve sosyal prensiplere uyar. Ve giderek, çevrimiçi ajanlar ve fiziksel robotlar biçiminde yapay zeka ekliyoruz, bizimle etkileşimde bulunan, sanki sosyal varlıklar gibi. Ek sistemlerimize ekleyeceğimiz bu tür ajanlar, yollardaki otonom araçlardan, mağazalardaki ödeme makinelerine, evlerde veya fabrikalarda veya savaş alanlarında ya da yangınla mücadele durumlarında humanoid robotlara kadar çeşitlilik gösterir; çevrimiçi botlar ve telefonlarımızda veya gözlüklerimizde veya iş yerlerimizdeki dijital yapay zeka asistanları gibi bedensiz otonom ajanlar. Ve bu teknolojiler bizimle, sanki insanlar gibi, eşit bir alanda etkileşimde bulunur. Ve insanlar ve makinelerin hibrid sistemlerinin ortaya çıkmasına neden olacaktır. Ve bu sistemler, yeni bir tür sosyal yapay zeka için fırsatlar sunar.
Şimdi, size bununla ilgili bir örnek vereyim. Bir dijital asistan, mesela bir Alexa aldığınızda, o cihazın üreticisi insan-makine etkileşimi konusunda çok endişelidir. Ve o insan-makine etkileşimi optimize edilmiştir. Örneğin, her seferinde bir şey istediğinizde, 'özür dilerim, Alexa, sizi rahatsız ettiğim için çok üzgünüm. Eğer sakıncası yoksa, bana lütfen yarın hava durumunu söyleyebilir misin? [00:01:35]' demek zorunda olsanız, asla Alexa'yı satın almazdınız. Bu, absürt bir naz seviyesidir. 'Alexa, hava durumu' diyebilmelisiniz ve makine itaatkar bir şekilde yanıt vermelidir. Bu, makineyi evinize getirdiğinizde ve çocuklarınız o makinayla konuşup kabalaşmayı öğrendiğinde ve sonra oyun alanında diğer çocuklara kaba davrandığında sorun olmaktan çıkıyor. Bu nedenle, aramıza katılan o makine, sadece insan-makine etkileşimi ile ilgili değil; makinelerin bulunduğu bir ortamda insan-insan etkileşimi ile de ilgilidir. Ve ilgi alanım, makinelerin varlığında insan-insan etkileşimleri nedir. Sosyal ağ yapısı ve işlevini anlamayı, sosyal yapay zekanın insan grupları içindeki ve üzerindeki kullanımını ve etkisini değerlendirmek üzere, insanlar arasında birlikte işbirliği yapmaları için gerekli olan güven ve işbirliği gibi faktörler açısından kullanabiliriz; bu, bu toplulukların davranışını etkiler.
Öyleyse, birkaç yaklaşım kullanarak ağ deneyimleri gerçekleştirdiğimiz bazı çalışmaları vurgulayayım, uh, yapay zeka ile ilgili. Bu deneyler, yapay zekanın insan sosyal etkileşimlerinin yapısını ve işlevini nasıl etkileyebileceğini değerlendiriyor. [00:02:45] Şimdi, sosyal etkileşimlerin kolektif eylem problemleri olarak bilinen bir sınıfı var. Yani, bunlar, işe yarar bir şey yaratmak için birlikte çalışmamız gereken problemlerdir. Ve bazen bu problemleri polis, mahkemeler veya hükümetler gibi merkezi kurumlar oluşturarak çözüyoruz. Ancak genellikle, büyük sayıda insanla koordinasyon veya işbirliği gerektiren kolektif eylem problemlerini merkezi olmayan bir şekilde çözebiliyoruz. Bu kapasiteyi geliştirdik. Ve bugün başlamak istediğim spesifik bir kolektif eylem problemi türü, aslında koordinasyondur.
Örneğin, bu trafik sıkışıklığından kaçınmak için, insanların komşularından farklı bir şey yapmak üzere koordinasyon sağlaması gerekiyor. Herkes aynı anda evinden çıkarsa, herkes trafik sıkışıklığında kalır. Ama eğer kalkış zamanlarını ayarlayıp, aralıklara yayılırlarsa, o zaman kimse trafik sıkışıklığında kalmaz. Elbette, bunu koordine eden bir tür merkezi otorite de olabilir. Önce siz, sonra siz ve sonra siz. [00:03:45] Ancak ideal olarak, insanları bu problemi çözmek için koordine etmenin bir merkezi olmayan ve baskıcı olmayan yolunu istersiniz.
Bu nedenle 2017'de yayımlanan ilk deneyimizde, yapay zekanın bu tür bir zorluğa nasıl yardımcı olabileceğini keşfeden hibrit sistemler üzerinde çalıştık. Koordinasyon görevinde yer alan insan gruplarının performansını inceledik. Paradigmamız, bilgisayar biliminde grafik renklendirme problemi olarak bilinen bir kavramı ödünç almak oldu. Bu klasik bir sorun. Ancak biz bunu aldık ve insanları bu duruma yerleştirdik. Yani 4.000 kişiyi aldık ve onları 230 çevrimiçi gruba yerleştirdik. Bu insanlar bu gruplara bırakıldı. Ve onlara oluşturduğumuz yapay bir ağ içinde rastgele bir yere atanacakları söylendi; yapısı, gerçek insan ağlarına kaba bir şekilde benziyordu. Bu noktalara bırakıldılar ve onlara üç renkten birini seçmeleri gerektiği söylendi: [00:04:46] mor, turuncu ve pembe. Ve komşularıyla farklı bir rengi seçmeleri gerektiği söylendi.
E vo foram dados cinco minutos para fazer isso. Então, essas pessoas olhavam ao redor de seus vizinhos. Cada pessoa olhava e dizia, tipo, esse cara aqui é rosa. Ele vê que tem um vizinho rosa e um vizinho laranja. O que ele deve fazer é mudar para a cor roxa. E as linhas vermelhas aqui indicam conflitos de cor. Em outras palavras, se as duas cores dos nós adjacentes forem iguais, eles recebem uma linha vermelha. E as linhas roxas de fundo indicam a estrutura das interações sociais. Então, você coloca as pessoas aqui. Elas olham ao redor de seus vizinhos a cada segundo ou segundo e meio. Elas fazem uma mudança consistente com o objetivo de que todos devem escolher uma cor diferente de seus vizinhos nos próximos cinco minutos. E se o fizerem, então e somente então serão pagos. Eu vou pagar vocês para trabalharem juntos. E se todos trabalharem juntos de uma maneira descentralizada para resolver o problema, todos serão pagos. Caso contrário, não receberão nada, ok? Então, aqui está o que acontece neste experimento. Aqui no eixo x está o tempo em segundos até a marca de cinco minutos. [00:05:47] O jogo dura cinco minutos, aqui em algum lugar abaixo. E aqui no eixo y está a função objetiva ou o número de conflitos de cor. Então, aqui no começo, há 12 conflitos de cor. Eles são aleatoriamente atribuídos às suas cores iniciais. E isso é mostrado aqui neste pequeno histograma ali. E então as pessoas começam a olhar ao redor e trocar suas cores. Você sabe, elas trocam e trocam. E chegam a este ponto aqui onde agora alcançaram a situação em que há um conflito de cor entre essas duas pessoas. E esse conflito, no entanto, é o que chamamos de conflito irresolúvel. Então, as linhas laranja claras são conflitos resolvíveis. Esse cara aqui pode se mover para roxo, o que resolve o conflito. Mas esses caras aqui que são laranja, não há movimento que possam fazer que reduza o número de conflitos de cor em seu bairro, certo? Este cara não pode mudar para roxo porque, na verdade, se ele mudar para roxo, terá mais conflitos. Ele tem, tipo, quatro vizinhos roxos. E ele não pode mudar para rosa porque tem dois vizinhos rosas. Então ele olha e diz, bem, o menor conflito que tenho é apenas ficar laranja. Então agora esse grupo está preso, certo? [00:06:49] Eles têm um conflito irresolúvel e nada pode acontecer. Nenhum progresso pode ser feito na solução do problema da ação coletiva até que uma dessas duas pessoas faça um movimento contra-intuitivo, mude para roxo ou rosa, e aumente temporariamente os conflitos. E é, de fato, o que acontece. E então o tempo passa, e os humanos em 245 segundos resolvem o problema. A máquina detecta a solução, para o jogo e os paga, ok?
Şimdi, çünkü gizli davrandık, yaptığımız şey bazı insanları botlarla gizlice değiştiren birkaç deney yapmaktı. Ve, AI donanımlı botların hibrit bir sistem oluşturmak için eklenmesinin grup performansını nasıl etkilediğini değerlendirdik. Böyle bir zorlukla karşılaştıklarında insan gruplarına bazı botlar eklemek ve onların koordinasyon becerilerini iyileştirmek mümkün mü? Ve biz üç bot ekledik, ve deneysel olarak iki ekseni değiştirdik. Botların yerleştirildiği yer, ağda rastgele düştükleri yer, [00:07:51] ağın merkezine koyuldukları yer ya da ağın çevresine koyuldukları yer. Ve biz burada botların AI kapasitesini çok basit ve sıradan bir şekilde değiştirdik. Yani, botların mükemmellik ile az bir gürültü içinde hareket edip etmediğini değiştirdik.
Mükemmeliyet durumunda, her bir buçuk saniyede bir, botlar komşularına bakıyor ve sonra komşularıyla en az çatışma olan rengi seçiyorlardı. Akıl dışı davranış olarak düşünebilirsiniz. gürültü durumunda, bunu yaptılar, ama zamanın 'unda rastgele bir renk seçtiler. gürültü durumunda da bunu yaptılar, ama zamanın 'unda rastgele bir renk seçtiler. Yani botları, diyelim ki, giderek daha fazla hata yapabilen, daha gürültücü hale getirdik.
Ve sonra baktık, sanırım kontrol grubuyla başladık. X ekseninde zamanı, ve bu hayatta kalma eğrilerini çizdik. Y ekseninde ise grubun genel olarak koordinasyon oyununu çözme olasılığı var. Burada, örneğin, başlangıçta, zaman sıfırda, [00:08:51] sadece insan gruplarının 0'ü, sadece insanlarla olan oturumlar turuncu. Başlangıçta, 0 insan-grupları oyunu çözmemiştir. Ve zaman geçtikçe, insan gruplarının daha fazla çözüm bulduğu için, beş dakikanın sonunda, belki de insan-grupları oyunu çözmüştür.
İyi, olan şu ki, eğer ağın merkezi konumuna gürültülü bot eklerseniz, belirgin şekilde daha iyi bir performans elde edersiniz. Burada, orta noktaya biraz gürültü eklenmiş botlar geldiğinde, insanların daha fazla grubu problemi çözebildi. Aslında, çözümün ortalama süresini 232 saniyeden 103 saniyeye düşürdüler. Ayrıca, bu verilerde başka bulgular da var. Mükemmel botlar ve aşırı gürültülü botlar her ikisi de faydasızdı. Bir kalibrasyona ihtiyacınız vardı. En yararlı olan gürültülü botlardı. Ayrıca botların konumunun da bir etkisi oldu. Ama bu deneylerde kritik olan, botlarla bağlantısı olmayan insanları da bulmamızdı, [00:09:52] ağda daha uzakta bulunan. Grafiklerde, botlarla bağlantılı bazı insanlar ve bağlantılı olmayan diğerleri vardı. Biz, o insanların bile oyun oynama şekillerini değiştirmeye başladıklarını gördük. Yani bir dalga etkisi, bir zincirleme etkisi oldu. Botun insanlarla etkileşiminin faydaları, ağ içinde yayıldı ve insan-insan etkileşimlerini daha da uzakta etkilemeye başladı. Diğer bir deyişle, botlar insanlara kendi kendilerine yardımcı olmak için yardımcı oldular ve gürültünün faydaları bu sosyal sistem içinde dağıldı.
Şimdi bu kolektif zorlukla ilgili fikirleri daha da netleştireyim ve bu basit AI ajanlarının başka bir benzetme ile nasıl yardımcı olabileceğini açıklayayım. Hayal edin ki bir düzlem var. Bu, makine öğrenimindeki gradyan inişi gibidir, örneğin. Önünüzde bir düzlem var, ve tepeler ve bir dağ var. Farklı yüksekliklerdeki tepeler var, tamam mı? Ve burada en yüksek dağ olan çok yüksek bir dağ var. Şimdi, dört kişiyi alacağım ve sizi buraya bir yere bırakacağım, ve birbirinize kelepçe ile bağlayacağım, her biriniz farklı bir kardinal yöne bakarak, [00:10:54] ve gözlerinizi bağlayacağım. Ve size diyeceğim ki, en yüksek dağı bulun. Siz birbirinize konuşuyorsunuz ve diyor ki, madem öyle her birimiz yönümüze bir adım atalım ve ekibe geri rapor verelim? Siz kuzeye bir adım atıyorsunuz ve buradan yukarı doğru olduğunu söylüyorsunuz. Güneydekiler buradan aşağı olduğunu söylüyor. Doğuda ve batıda buradan yatay olduğunu söylüyor. Hepiniz anlaşıyorsunuz, hadi kuzeye bir adım atalım. Ve bu süreçte iteratif bir şekilde devam ediyorsunuz ta ki tümünüz buradan aşağı olduğunu söyleyene kadar.
En yüksek dağı buldunuz mu? Hayır. (...) Ne yaptınız? En yakın tepeyi buldunuz.
Şimdi en yüksek dağı bulacak mısın? Hayır. En yüksek dağı asla bulamayacaksın. Sıkıştın. Yerel olarak optimize edilmişsin, ama küresel olarak alt-optimize edilmişsin. Küresel olarak optimize olabilmek için biraz gürültüye ihtiyacın var. Bazen bu grup insanın dağa veya tepeye karşıt bir adım atmasına izin vermen gerekiyor. Böylece, şansa bağlı olarak, adımların bir sırasını alarak tekrar düzleme dönene kadar bir dizi adım alıyorlar. Ve sonra bu fitness manzarasında tüm bu zirveleri keşfediyorlar ve sonunda bu zirveye ulaşıyorlar. [00:11:56] Ve bu yüksek zirve, küresel optimum, genellikle bir alıcı durumuna dönüşür çünkü o zirveden çıkmak, diğer zirvelerden çıkmaktan çok daha fazla gürültü gerektirir. Ve şimdi küresel optimum etrafında osilasyon yapıyorsun. Bu nedenle, işimizde, insanları çeşitli kolektif eylem problemlerini ele alma performansını artırıp artıramayacağımızı görmek için sosyal sistemlere entegre edilmiş bu tür basit programlamayı araştırıyoruz.
Ahora, otro problema de acción colectiva implica un desafío diferente, que es la cooperación, no la coordinación. Los humanos a menudo tienen que cooperar para producir lo que se conoce como un bien público. Y un faro es uno de los ejemplos canónicos de un bien público. El bien público tiene dos características canónicas. En primer lugar, se le llama no excluible. Y eso significa que otras personas no pueden ser impedidas de usarlo. Si construyes un faro para tu propio beneficio personal, porque estás navegando por los mares y no quieres chocar contra la costa, eso es genial para ti, pero no puedes detener a nadie más de usarlo, ¿de acuerdo? No excluible. [00:12:58] Y también es no rival. Eso significa que el consumo por parte de una persona no reduce el consumo por parte de los demás. Si yo uso la luz de mi faro, no hay menos luz para que tú uses. Y esto es diferente, por ejemplo, a un pedazo de pastel. Si tengo un pedazo de pastel, es mío, ¿verdad? Puedo impedirte comerlo. Y si lo como, no queda ninguno disponible para ti, ¿de acuerdo? Así que el bien público tiene estas características, y son estas características las que a su vez hacen que sea muy difícil producir bienes públicos. Porque cuando se trata de construir un faro, es muy tentador enfrentar tus intereses individuales contra los del grupo. Si no contribuyes a construir el faro, aún puedes beneficiarte de él. Y así, todos están tentados a no hacer nada, y entonces el faro no se construye en detrimento de todos. Y también vale la pena enfatizar que los bienes públicos son útiles, porque realmente puedes producir cosas con ellos, como un viaje seguro por el mar. Y, como tal, la insuficiencia de inversión en bienes públicos es un problema serio en nuestra sociedad, y también ha llegado a conocerse como la tragedia de los bienes comunes. Estos bienes públicos, por ejemplo, normas de confianza que mantenemos entre nosotros son eficientes. [00:14:01] Piensa en cuando estabas en la escuela secundaria. Algunos de ustedes fueron a una escuela secundaria donde los estudiantes confiaban entre sí, y eso significaba que podías dejar tus mochilas solas en el pasillo y no preocuparte de que alguien las robara. Otros de ustedes fueron a escuelas secundarias donde no había las mismas normas de confianza, y ahora tenías que asegurar tu mochila o mantenerla contigo en todo momento. ¿En cuál de esos dos entornos crees que habrías aprendido mejor? ¿Verdad? En el primer entorno. Así que esa norma que se mantiene colectivamente es productiva. En ese caso, productiva de aprendizaje. Aquí, productiva de un viaje seguro por el mar y así sucesivamente.
Ama işbirliği insan gruplarında ortak mallar üretmek zor bir süreçtir ve bunu sürdürmek için çeşitli mekanizmalar gereklidir. Yıllar boyunca insanları ağ gruplarına yerleştirip komşularıyla çeşitli türlerde ortak mallar oyunları oynamalarını istediğimiz birçok deney yaptık, birçok yapısal ve diğer özellikleri manipüle ettik. Örneğin, yıllar önce insanların bu şekilde bir ağa yerleştirildiği bir deneyle başladık. Onlar komşularıyla tanıştırıldı ve bu, davranışsal ekonomi alanından bir ortak mallar oyunu oynadılar, [00:15:03] burada ben komşularımdan her birine biraz para verebiliyordum. Bir dolar alıyorum ve bunu komşularıma paylaştırıyorum. Sonra bilim insanları doları iki katına çıkarıyor. Diyelim ki dört komşum var. Üç komşum var ve gruba bir dolar veriyorum. O zaman iki dolara çıkıyor. O iki dolar, dörtümüz arasında paylaşılıyor. Yani tüm grup iki dolarlık bir servet kazanıyor ama ben sadece 50 sent geri alıyorum. İki bölü dört, 50 sent alıyorum. Bu yüzden başkalarının yararı için fedakarlık yapmam gerekiyor. Doğal olarak herkes, 'Fedakarlık yapmak istemiyorum. Diğer aptallar parayı versin. Ben hiçbir şey vermeyeceğim ve umarım diğerleri katkıda bulunur.' diyor. Ancak elbette herkes bunu yaparsa, tekrar bir çöküş yaşarsınız. En iyi davranış, herkesin en yüksek düzeyde katkıda bulunmasıdır. Bu durumda oyunu başlatıyoruz. Mavi noktalar, mavi insanlar başkalarına maksimum katkıda bulunan iyi işbirlikçi insanlardır ve onların amacı ortak malları yaratmaktır, örneğin deniz feneri inşa etmektedirler. Kırmızı noktalar ise katkıda bulunmayan, diğer adıyla ihanet edenlerdir. Bu deneyde bulduğumuz şey, 30 yıldır bilinen bir sonucu tekrarlamaktır, [00:16:03] bu da işbirliğinin gruplarda çökmekte olduğudur. Oyun sonunda, birkaç tur sonra, hemen hemen herkes bir ihanetçi haline gelir, sadece burada yan tarafta, medeniyeti, kendileri arasındaki bu küçük mavi insanlar ayakta tutar. Yine, üniversite öğrencileri için lise zamanlarını anımsamak için düşünmek gerekirse, bilim öğretmeninizin dört kişiye grup projesi yapmasını verdiği durumu düşünün ve aynı notu alacaksınız. Ve dört, üç tembelin yanına atanıyorsunuz. Artık iki seçeneğiniz var. Ya tüm işi siz yapacaksınız ve diğerleri de A alacak çünkü siz A istiyorsunuz. Ya da 'bu saçmalık' diyorsunuz. 'Ben bu tembel adamların benim sıkı çalışmamın faydasını görmesini istemiyorum.' ve hiçbir şey yapmamaya karar veriyorsunuz, hepiniz F alıyorsunuz, değil mi? Bu korkunç bir ikilem. Burada olan şey, insanlarının sonunda ikinci seçeneği seçmesidir. Hepiniz F almayı seçiyorsunuz çünkü aptal olmak ve katkıda bulunmak istemiyorsunuz. Bu nedenle, genel bir sonuç olarak sosyal sistemlerde işbirliği çöker. Ama bir kez daha, sisteme her ne kadar farklı türde botlar da ekledik. Çok basit A'ya sahip botlar ekledik. Bu botlar, sosyal etkileşimleri aracılık eden küçük evlilik brokerları gibiydi. Etraflarına yerel olarak kimlerin etkileşimde bulunduğuna baktılar ve sistemdeki insanlara önerilerde bulundular. Biliyorsunuz, o sizin yararlanmanızı sağlayan ihanetçiyi bırakmalısınız ve bunun yerine buradaki iyi adamla bir bağ kurmalısınız. Ve bu nazik yeniden bağlama tavsiyesi sadece yerel bilgi kullanılarak yapıldı. Orada insanları nazik olmaya zorlayan bir öğretmen yoktu. Hiçbir polis. Hiçbir mahkeme. Bu durumu uygulayan merkezi bir otorite yoktu. Yerel bilgi üzerine hareket ederek, 64 grupta 1,000'den fazla insanla yaptığımız deneylerde, işbirliğinin yalnızca stabilize edilemeyeceğini, aynı zamanda bu tür botlar eklendiğinde önceki seviyeden artabileceğini gösteren bir sonuç elde ettik. Ve DeepMind daha sonra sonuçlarımızı tekrar etti ve bu makaleden bir yıl veya iki yıl sonra ortaya çıkan başka bir makalede bunları genişletti.
Ora, in un altro esperimento, abbiamo esplorato come i bot potrebbero influenzare la creatività di gruppo. [00:18:07] perché trovare nuove idee è difficile. E la teoria e gli esperimenti suggeriscono che i gruppi potrebbero essere in grado di identificare e preservare le innovazioni meglio degli individui condividendo le loro scoperte.
Ma l'innovazione all'interno dei gruppi affronta le sue sfide, incluso il pensiero di gruppo. Giusto? Se metti insieme un gruppo di persone, potrebbero convergere prematuramente su un'idea subottimale.
Oppure potresti immaginare, dovresti immaginare, che un gruppo di persone potrebbe collettivamente avere una maggiore saggezza, potrebbe essere in grado di generare più idee. Ad esempio, se dai a un gruppo di persone il compito di perfezionare una canna da pesca, sai, la prima persona potrebbe dire, beh, perché non mettiamo un gancio alla fine di un po' di filo? E poi la persona tiene il filo con un gancio. E qualcuno dice, perché non mettiamo un bastone attaccato al filo? Oh, è un'ottima idea. Così combinano le loro conoscenze e lo fanno. E qualcuno dice, beh, l'esca con il gancio galleggia sulla superficie. Aggiungiamo un'onda così scende. Bene, ora scende troppo in profondità. Che ne dici di aggiungere un galleggiante così sappiamo dove si trova e così via. E così le persone innovano, condividono conoscenze tra di loro, preservano la conoscenza nel tempo, [00:19:08] e ottieni questi artefatti culturali che sono il prodotto composto di molte persone che condividono idee e sono creative.
Quindi volevamo creare un gioco in cui gruppi di persone cercassero un'idea ottimale in un paesaggio. E abbiamo deciso di usare i sostantivi come proxy per le idee. Abbiamo prelevato 20.000 sostantivi dal classico corpus word-to-vec della scienza informatica. Quindi abbiamo preso 20.000 sostantivi. E la distanza tra questi sostantivi potrebbe essere definita dalla metrica della similarità coseno. Puoi immaginare uno spazio vettoriale iperdimensionale in cui il gatto è più simile al cane che alla scrivania. E il modo in cui hanno fatto questo è stato osservare con quale frequenza le parole gatto e cane co-sono apparse sui siti web. Quindi avevano un universo di siti web e un universo di 20.000 sostantivi. E hanno detto che questi due sostantivi co-appaiono frequentemente e questi altri due sostantivi non co-appaiono frequentemente. Hanno creato uno spazio vettoriale di 300 dimensioni. [00:20:08] E ora puoi descrivere quanto siano simili due sostantivi qualsiasi. E abbiamo deciso di usare i sostantivi come un proxy per le idee. Abbiamo preso questi 20.000 sostantivi. E poi abbiamo scelto un insieme di sostantivi. Immagina di averne scelto uno, ma abbiamo scelto un insieme. Un sostantivo a caso tra tutti questi, come braggadocio, per esempio, era un sostantivo. Quindi abbiamo scelto braggadocio. E diciamo che è l'idea perfetta che vogliamo che questo gruppo di persone trovi. E poi tutti i sostantivi che sono vicini a braggadocio vengono esclusi in questo spazio vettoriale. Quindi hai il sostantivo di punta che ottiene il punteggio più alto, 20.000 punti, e tutti gli altri sostantivi a favore dei sostantivi più lontani. E abbiamo messo gli esseri umani in questo sistema e diciamo, trova questa parola. Non diciamo loro la parola. E poi diciamo loro il valore in punti delle parole. Quindi iniziano a indovinare. E mentre indovinano, ricevono feedback. E dicono, ah, questa parola ha più punti di un'altra parola. E si avvicinano sempre di più e iniziano a condividere la conoscenza tra loro. Stanno cercando di essere creativi per risolvere il problema.
Así que cada sustantivo está relacionado con otros en un espacio semántico o un paisaje sin ajuste. [00:21:10] Y teníamos 18 sustantivos objetivos diferentes, como si hubiéramos levantado un pico del paisaje de estos 20,000 sustantivos en 18 ubicaciones diferentes en 18 paisajes distintos. Y estos sustantivos eran intencionalmente inusuales, como fratricidio, palanca, sarcoma, cartografía, y así sucesivamente. Luego realizamos experimentos que involucraron varias condiciones donde las personas estaban solas tratando de navegar por el paisaje, donde las personas estaban en grupos trabajando juntas para navegar por el paisaje, o donde las personas estaban en grupos pero también había algunos bots allí tratando de ayudarlos a ser creativos. Y los bots funcionaron porque podían pasar información de una región de la red a otra comunicándose entre ellos. Así que, por ejemplo, el bot número dos podía pasar la palabra cielo o coche al bot número uno. Así que aquí hay un ejemplo de red.
Noi portiamo le persone dentro. I punti quadrati sono bot. E questo bot ha quattro interazioni e questo bot ha, non lo so, sei o sette interazioni. Gli esseri umani all'inizio iniziano a indovinare. [00:22:12] Non hanno nessuna base per un indovinello all'inizio del gioco. Indovinano cielo, auto, coniglio, ratto, cane, gatto, scrivania. Se vi chiedessi di scegliere un sostantivo da indovinare, indovinereste casa o sole o luna o gatto o cane o qualche sostantivo tipico. E ora viene comunicato loro il valore del punto, come è simile la parola ratto, cane, gatto, scrivania e così via, alla sarcoma. E viene comunicato loro il valore del punto di quei sostantivi in relazione al sostantivo target, che è sarcoma. E poi quei valori dei punti vengono annunciati a loro. E poi questo bot può guardare i valori dei punti degli esseri umani intorno a lui e può trasmettere o una scelta casuale a questo bot o il valore del punto più alto o il valore del punto più basso, in una sorta di canale di comunicazione secondario che diffonde informazioni da una regione di un gruppo di persone che cerca di risolvere il problema a un'altra regione. Quindi diamo un'occhiata ad alcuni esempi per cercare di chiarire questo, perché può essere difficile da comprendere. Le persone hanno giocato a questo gioco per circa 25 turni. Ecco la similarità coseno con un sostantivo target, che è la parola fratricidio. Va bene, ci sono 20.000 sostantivi. [00:23:13] Il fratricidio vale 20.000 punti. E le altre parole hanno altri punteggi. Ecco una persona sola, una persona da sola che sta indovinando. Quindi il loro primo indovinello è bit. E gli viene comunicato quanto è simile la parola bit al fratricidio. E il loro prossimo indovinello è birth. E ricevono un grande incremento nella similarità coseno, perché puoi immaginare che la parola birth è più vicina alla parola fratricidio della parola bit. Va bene? E poi indovinano. Provano money dopo. È peggio. Poi provano monkey. È ancora peggio. Verificano. Fanno un controllo di coerenza. Provano birth. Risale di nuovo. Poi provano baby. Non è un cattivo indovinello. Da birth a baby. Ma baby li allontana ulteriormente da fratricidio. E poi lady e così via. E navigano. E indovinano. E indovinano. E indovinano. E non si avvicinano affatto a fratricidio alla fine. Ora in questa altra situazione, abbiamo un gruppo di persone, ma nessun bot. E ora le persone possono, oltre a fare le proprie ipotesi, vedere le ipotesi delle persone intorno a loro. E costruire sulle idee degli altri. Va bene? Creato. Come se stessero creando insieme il palo da pesca. [00:24:13] Quindi questa persona, il suo primo indovinello è cane. Ma il suo prossimo indovinello è shield. Puoi vedere che shield è più vicino a fratricidio di quanto non lo sia cane. E questa persona sta indovinando e indovinando e ricevendo input dai suoi vicini. E alla fine, si avvicina sempre di più. Finisce con la parola foe. Va bene? Infatti, soldier era il suo miglior indovinello. Aveva il valore del punto più alto durante la sua traiettoria.
Então, como a adição dos robôs importa? Isso, novamente, mostra o resumo dos resultados. No eixo x está a rodada. No eixo y está a média da similaridade do cosseno neste espaço vetorial hiperdimensional, que é uma medida do desempenho do grupo. E aqui está um grupo de humanos agindo, adivinhando sozinhos. Portanto, os humanos que estão adivinhando sozinhos não se saem muito bem, certo? Eles, eles, você sabe, é apenas uma questão de sorte se eles conseguem, ou, você sabe, alguma habilidade inata em cada ser humano individual. Eles ficam um pouco melhores com o tempo, se aproximando. Todos os grupos superam o desempenho do indivíduo. E esse é um resultado antigo que é conhecido. Um grupo de pessoas é mais criativo do que um conjunto de praticantes solos de tamanho semelhante. Mas o que encontramos é que, se adicionarmos o robô mais similar, o robô que olhou para seus vizinhos, [00:25:17] e encontrou qual é o seu consenso local sobre aqui? Meus humanos parecem estar pensando que esta é uma boa palavra. E então, passa para o robô em uma parte distante da rede. Esse robô melhorou substancialmente o desempenho deste grupo de pessoas para fazer uma descoberta. Você deve ser capaz de imaginar como isso poderia funcionar em um grupo de engenheiros ou em qualquer outro tipo de trabalhador do conhecimento. Como, por exemplo, você pode distribuir conhecimento de maneira eficiente, evitando o pensamento de grupo e promovendo a criatividade, projetando robôs que ajudem os humanos a se ajudarem. O robô aqui não tem, não tem um cérebro. Não é ele que sugere ideias. Ele apenas ajuda os humanos a espalharem as ideias entre si.
Assim, agentes de IA simples com comportamento interpretável podem aumentar a capacidade de descoberta criativa em grupos humanos ao compartilhar ideias em torno das quais existe um consenso local em uma parte do grupo com pessoas em uma parte distante do grupo. E, como resultado, o grupo pode ter um desempenho melhor.
Ahora, también hemos comenzado a experimentar con sistemas físicos. Y hemos añadido robots humanoides y no humanoides [00:26:19] dotados de una IA simple a grupos de humanos cara a cara y mostramos cómo pueden facilitar la colaboración entre grupos de humanos al ayudarles a superar la fricción o la incapacidad de cooperar en sus interacciones. Uno de mis ejemplos favoritos de esto es un experimento que hice con mi antigua estudiante de posgrado, Maggie Traeger, que está al fondo y ahora es profesora asistente en Notre Dame, es este experimento. En este experimento, tomamos a tres humanos reales que llegaron al laboratorio y un robot humanoide. Y diseñamos un pequeño juego, un juego de pista de tren, que se juega en una computadora tablet, y este grupo de humanos y un robot tenían la tarea de colocar la vía del tren desde el punto A hasta el punto B, como una pequeña vía de tren de Thomas el Tren. Y luego les dimos algunas piezas que podían elegir en la tablet, como piezas rectas y piezas curvas. Pero de vez en cuando ideamos, aunque parecía que había una mezcla de piezas y que en principio deberían poder ir del punto A al punto B, lo diseñamos astutamente de tal manera que no había el número correcto de curvas para permitirles ir del punto A al punto B. [00:27:21] Así que no podían hacerlo. No podían resolver el problema sin que ellos lo supieran. ¿De acuerdo? Así que primero cada persona tomaba un turno para colocar una pieza de la vía, luego la siguiente persona y la siguiente. Están trabajando juntos para conectar el punto A con el punto B en sus tablets.
E ciò che abbiamo fatto in questo esperimento è stato manipolare, e hanno giocato 30 round di questo gioco in questo mondo virtuale, e avevamo 51 gruppi, abbiamo manipolato lo stile di conversazione dei robot, specificamente se il robot esprimeva vulnerabilità ammettendo un errore. Così il robot ha detto, sapete, ho commesso un errore. O se il robot raccontava barzellette da papà. Presumo che tutti sappiano cosa siano le barzellette da papà. Va bene. Quindi abbiamo anche fatto raccontare al robot, tra l'altro, che è un universale culturale, come gli antropologi nella giungla amazzonica hanno osservato i popoli indigeni e lì anche i papà raccontano barzellette da papà. E i bambini dicono, non posso credere agli stupidi scherzi di papà. Comunque, e in effetti c'è una teoria su cosa dovrebbero fare le barzellette da papà per indurire i bambini in un certo senso. Questa è una teoria. Ma comunque, questa è un'altra questione. In ogni caso, abbiamo fatto raccontare ai nostri robot barzellette da papà o esprimere vulnerabilità. [00:28:21] E ciò che ci interessava scoprire è se i cambiamenti nel modo di parlare dei robot avessero il potere di non solo influenzare come le persone interagiscono con i robot, ma anche come le persone interagiscono tra loro. E ancora una volta, questo offre la prospettiva di modificare le interazioni sociali mediante l'introduzione di agenti artificiali in sistemi ibridi di umani e macchine.
Öyleyse, işte küçük bir örnek; oh, sonuçları söylemeyi unuttum. Yani buradaki, bu çizgilerin kalınlıkları, kimin kiminle konuştuğunu ve ne kadar konuştuklarını izlemek için video kameralarına ayarladığımız zaman böyledir. Ve bu çizgilerin kalınlığı, kişinin iki numaranın bir numarayla ne kadar konuştuğunu gösterir. Bu şekilde. Yani, bir numara robota çok konuşmuyor. Bu ince bir çizgi. Ve nötr robotlar olduğunda, bu deseni elde edersiniz. Ama savunmasız robot olduğunda, bu çizgilerin hepsi kalınlaşır ve eşitlenir. Böylece, savunmasız bir robotun, insanların konuşma eşitliğini artırdığını, insanların iletişim hacmini artırdığını ve aslında ayrı sonuçlarda, [00:29:22] o tür bir ortamda insanların memnuniyetini artırdığını bulduk.
Ve işte robotun önce nötr bir şekilde, pasif sesle konuştuğu iki farklı turdan sadece bir klip. Bu, insan iletişimini fazla etkilemez. Robot şöyle der: oldukça Reagan tarzında, bir hata yapıldı.
Ama bir sonraki turda, robot şöyle der: bir hata yaptım. Ve burada ne olduğunu sadece izleyebilirsiniz. Bunu çalıştırıp çalıştıramayacağımıza bakalım. (25 saniye ara) Dolayısıyla, birçok kez uygulamada, bu tür bir deseni buluyoruz. Yani, robotun konuşma kalıbı üzerinde basit bir manipülasyon, insanların birbirleriyle nasıl etkileşimde bulunduğunu değiştiriyor. [00:30:25] Ve bunun, sanırım, başlangıçta verdiğim Alexa örneği gibi, birbirimize nasıl davrandığımızı nasıl etkileyebileceğini hayal etmek de pek zor değil.
Şimdi burası hâlâ, ve sanırım bu size göstereceğim son deney olacak ve ardından başka bir deneyle kapatacağım, basit AI türlerinin toplumsal ve aslında etik etkilerini test etmek için yeni bir siber-fiziksel platform geliştirdik. Kolektif eylem problemlerinin doğası göz önüne alındığında, AI'nın insan gruplarındaki varlığı, istisnai olarak ve istemeden, işbirliği ve özgecilik gibi, tür olarak sahip olduğumuz mevcut faydalı sosyal normları bastırabilir. Bu yüzden, bizi kolektif eylem problemlerini çözme kapasitesine sahip kılmak için yüz binlerce yıl doğal seçilim süreci altında bulunduk. Sorun şu ki, bir kısmını makinelere devrettiğimizde, bu problemleri birlikte çözme yeteneğimizi kaybedecek miyiz? [00:31:32] Bu makinelere güvenmeye mi başlayacağız ve böylece doğuştan gelen işbirliği ve koordinasyon yeteneğimizi mi azaltacağız? Bu deneyde, CMU'dan Hiro Shirato ile işbirliği yaparak, iki küçük Raspberry Pi destekli mekanik araç içeren bir platform inşa ettik ve bunu, geniş ölçekli çevrimiçi deneyler düzenlememizi sağlayan bazı yazılımlarımıza bağladık. İnsanlar kendi evlerinde bulunuyorlardı ve bu arabalardan birine atanmışlardı, ve bu arabaları birbirlerine doğru sürüyorlardı.
ve onlara tavuk oyunu oynamalarını sağladık. Yani tavuk oyununda, diğer tarafa en hızlı geçen kazanıyor. Bu yüzden rakip tarafa yenilmeme konusunda teşvik ediliyorsun. Ama eğer her ikiniz de yenilmeme yolunu seçerseniz, çarpışır ve ikiniz de en kötü kazancı alırsınız. İnsanların bu durumda, eğer bir tekrarlanan tavuk oyunu oynuyorsanız, hızlıca sırayla gitmeyi öğrenmeleri gerekir. Bu sefer sen doğrudan git, ben kenara çekilip geçmene izin vereceğim, ama bir sonraki sefer sen kenara çekilip benim geçmeme izin vereceksin. [00:32:35] Eğer bencilsek, tekrar tekrar birbirimize çarpmaya devam ederiz, birbirimizi yok ederek, ya da aptalca, ikimiz de savrulup doğrudan gitme avantajını kaybederiz. Bu durumda, sarı araba kenara çekilmeyi seçer, mavi araba ise hiçbir engelle karşılaşmadan doğrudan ilerler.
E abbiamo usato 300 partecipanti e 150 diadi, e sono stati pagati in base a quanto velocemente arrivavano dall'altra parte. Poi abbiamo aggiunto un po' di intelligenza artificiale. Abbiamo inserito l'assistenza alla frenata automatica, dove, quando si riceve un avviso di prossimità, avvicinandosi all'altra auto, essa frenava e ti dava la possibilità di decidere, beh, dovrei accostare e far passare quest'altro, o viceversa. Oppure abbiamo aggiunto l'assistenza alla sterzata automatica, che è, nel momento in cui si avvicinava all'altra auto, semplicemente sterzava, ok? E abbiamo aggiunto una funzione di comunicazione minima, dove le persone potevano dire grazie, o qualcosa del genere. Solo una comunicazione molto minima. E per prima cosa, abbiamo dimostrato che l'assistenza alla frenata automatica, dove le auto si fermano a una distanza fissa prima di collidere, ha aumentato l'altruismo umano. [00:33:38] Cioè, dare la precedenza agli altri, come fa qui l'auto gialla. Quindi aggiungere un po' di intelligenza artificiale per l'assistenza alla frenata automatica ha reso più facile per gli esseri umani lavorare insieme e cooperare nella situazione. Inoltre, consentire agli esseri umani di comunicare aiuta ulteriormente a fare concessioni reciproche nella condizione di frenata automatica. D'altra parte, l'assistenza alla sterzata automatica, dove l'auto semplicemente sterzava, ha completamente inibito l'emergere della reciprocità tra le persone a favore della massimizzazione dell'interesse personale. Le persone semplicemente rinunciano alla loro agenzia morale. Non si preoccupano più. Lasciamo che la macchina sterzi ripetutamente, e si arrendono, ok? Quindi tutte le capacità etiche innate che le persone avevano sono state ora rimosse dall'aggiunta di intelligenza artificiale nella condizione di sterzata automatica, ma amplificate nella condizione di frenata automatica. E questo dovrebbe anche farti riflettere. Dovresti pensare, oh mio Dio, ogni piccolo dettaglio che facciamo quando programmiamo questi agenti di intelligenza artificiale potrebbe avere effetti buoni o cattivi sulle tendenze naturali delle persone.
La capacità delle persone di cooperare, di concedere il turno e di agire in modo altruistico può atrofizzarsi, portando a risultati collettivi e individuali peggiori alla fine. [00:34:46] E infatti, in breve, l'IA può portare a una sorta di pigrizia morale. (..) Ecco un ultimo esempio di cambiamento duraturo dopo l'esposizione all'IA nei sistemi ibridi. Ed è anche un esempio di come la presenza dell'IA può cambiare le interazioni tra umani, anche dopo che l'IA non è più parte delle interazioni. Nel 2016, DeepMind ha sviluppato AlphaGo, e nello stesso anno, questo agente IA ha giocato contro Lee Sedol, il notevole campione del mondo proveniente dalla Corea.
Ho guardato la partita. Non so giocare a Go, ma riconosco che è un gioco magnifico. Mio figlio gioca a Go. (.) E stavo davvero tifando per Lee Sedol. Lee Sedol è come un eroe in Corea, come i grandi atleti che avremmo sulle scatole di Wheaties e cose del genere. La sua immagine è su piccoli pacchetti di noodles e scatole di cereali. Penso sia magnifico che in Corea un nerd intelligente come me venga visto come una persona importante, ok? È molto popolare in Corea. E si presenta alla prima partita, ed è troppo sicuro di sé. [00:35:47] Posso dire che è troppo sicuro di sé. E perde contro la macchina, e poi si scusa con i suoi fan. Dice, mi dispiace tanto. Sono cinque partite. Si tratta del meglio di tre sulle cinque partite. Poi gioca una seconda partita, e perde di nuovo. E ora sta diventando serio. Poi gioca una terza partita e perde. Ha perso la competizione.
E si poteva vedere il pubblico, e i commentatori si meravigliavano della capacità della macchina di giocare a Go, effettuando queste mosse strane e belle, alcune delle quali sono state scoperte in seguito perché abbiamo registri che risalgono a migliaia di anni di partite di Go giocate nella Corte Imperiale Cinese. E riuscivano a scoprire, oh, mio Dio, questa è una mossa medievale che la macchina ha fatto. Non l'avevamo vista da così tanto tempo.
Ve sonra Lisa Dahl dördüncü oyunda geri döndüğünde, kazanıyor. (..) Ve ben ağladım. O kadar mutluydum ki. (..) Çünkü makineye sahipti, biliyorsun, benim türüm için geri dönmüştü ve lanet olası makineyi yenmişti. Yani, bir kahraman gibi, anlayamadım, Lisa Dahl'ın bunu yapmak için gereken beyin gücünü. [00:36:49] O anı çok sevindim ve kaybetmesine rağmen hala mücadele eden ona o kadar gurur duydum ki.
Şimdi, ilginç olan şey, Lisa Dahl mülakata alındığında, Lisa Dahl'ın maçtan sonra kendi oyununu nasıl oynadığını değiştirdiğini söylemesidir. Yani bir kez daha, yapay zeka insanlara kendilerini geliştirmelerine yardım ediyor, tamam mı? Temas nedeniyle nasıl oynadığını değiştiriyor. Ve diğer bilim insanlarının yaptığı sonraki araştırmalar, profesyonel Go oyuncularını inceledi ve karar kalitesinin medyanına baktı. Go'da bir hamlenin ne kadar iyi olduğunu görmek için bazı standartlar vardır ve medyan yenilik, bir hamlenin ne kadar alışılmadık olduğunu ifade eder. 2016 yılında AlphaGo insan dünya şampiyonunu yendiğinde, dünyadaki Go oyuncuları daha yenilikçi ve daha iyi hamleler yapmaya başlıyor, tamam mı? Yani, birbirleriyle Go oynayan tüm insanlar, AlphaGo'nun eklenmesi nedeniyle değişti. Yapay zeka, insanlara kendilerini geliştirmeleri için yardımcı oluyor. Bu nedenle, sosyal ikilemler ve toplu eylem sorunlarıyla ilgili bu ve diğer durumlara basit botlar tasarlamaya ve eklemeye yönelik çalışmalarımızı sürdürüyoruz. [00:37:55] Botların koordinasyonu, iş birliğini, iletişimi, yaratıcılığı, güveni, navigasyonu, paylaşımı ve tahliyeyi nasıl etkileyebileceğini inceliyoruz. Laboratuvarımızda, insan bilişimini değiştirmek için süper akıllı yapay zekaya, yani LLM'lere veya AlphaGo'ya odaklanmıyoruz, daha çok insanların etkileşimini tamamlamak için aptal yapay zekalar üzerinde çalışıyoruz. Süper akıllı yapay zeka icat etmeye çalışmıyoruz, insan etkileşimini tamamlamak için aptal yapay zeka icat ediyoruz. Ve yapay zekamız aptal kalmaya izin verebilir çünkü insanlar akıllıdır. Yapay zekamız, organik kimya reaksiyonuna eklenen platin gibidir. Sadece bir katalizördür. Bir grup insanı daha iyi hale getirebilmek için ihtiyaç duyduğumuz tek şey katalizördür.
Ve elbette, tersinin de mümkün olduğunu kabul etmek önemlidir. Sosyal AI, insan gruplarına zarar vermek için kullanılabilir. Ancak yaklaşımımız birçok teknik ve kavramsal avantaj sunmaktadır. Öncelikle, bu basit botlar anlaşılabilir ve bu nedenle daha geniş güçleri ve fırsatları açıkça göstermektedir. LLM’ler gibi bir kara kutu değildir ve ne yaptığını bilemezsiniz, size botumuzun ne yaptığını tam olarak söyleyebilirim. [00:38:58] Gürültülü. Tanışıklıklar sağlıyor. Mesajları bu çok özel şekilde iletiyor. İkincisi, kontrol edilen bot deneylerimiz, insan davranışının da nasıl yararlı bir şekilde değişebileceğine dair içgörüler sağlayabilir. Diğer bir deyişle, bunu laboratuvardan alabilir ve bir grup insanın botlarımızın yaptığı şeyi yapmasını öğretebilirim. Bir şekilde, bir grup insana sadece ChachiPT’nin burada yaptığı şeyi kolayca öğretmek mümkün değildir. ChachiPT'nin ne yaptığını bilmiyoruz, ama bizim durumumuzda ne yaptıklarını biliyorsunuz.
Entonces, me gustaría cerrar, esta es mi última diapositiva, con una metáfora. Consideremos estos dos objetos. Ambos están hechos de carbono. Si tomas los átomos de carbono y los conectas de una manera, obtienes grafito, que es suave y oscuro. Toma los mismos átomos de carbono y conéctalos de otra manera, obtienes diamante, que es duro y claro. Y hay dos ideas intelectuales clave aquí. Primero, estas propiedades de suavidad y oscuridad, y dureza y claridad, no son propiedades de los átomos de carbono. Son propiedades de la colección de átomos de carbono. Y segundo, qué propiedades obtienes depende de cómo conectas los átomos de carbono entre sí. Toma los mismos átomos de carbono y conéctalos de una manera, obtienes un conjunto de propiedades. [00:40:01] Conéctalos de otra manera, obtienes un conjunto completamente diferente de propiedades. De manera similar, la naturaleza de nuestras conexiones afecta las propiedades de nuestros grupos sociales. Son los lazos entre las personas los que pueden hacer que el todo sea mayor que la suma de sus partes. Nuevas propiedades, como cooperación y violencia, innovación y productividad, confianza y desconfianza, verdad y falsedad, riqueza y pobreza, salud y felicidad, pueden emerger y propagarse debido a las conexiones, debido a los lazos entre las personas, y no necesariamente solo por las personas mismas. De hecho, nuestra experiencia del mundo depende de la estructura y función de las redes que nos rodean, cercanas y lejanas. Y nuestra especie evolucionó para que esto fuera así. Y no debería sorprendernos que respondamos a la IA en nuestro medio. Muchas gracias.
