Nicholas Christakis: [00:00:05] U redu, dakle, ljudska bića su ugrađena u socijalne mreže, a te mreže podliježu vrlo posebnim matematičkim, biološkim i društvenim načelima. I sve više dodajemo umjetnu inteligenciju u obliku online agenata i fizičkih robota među nama koji komuniciraju s nama kao da su društvene entitete. Ovi tipovi agenata koje ćemo dodavati našim sustavima kreću se od autonomnih automobila na cestama, do blagajničkih strojeva u trgovinama, do humanoidnih robota u domovima ili tvornicama ili na bojištima ili u situacijama gašenja požara, do nevidljivih autonomnih agenata poput online botova i digitalnih AI asistenta u našim telefonima ili naočalama ili na našim radnim mjestima. I ove tehnologije komuniciraju s nama na ravnopravnoj osnovi kao da su ljudi. I one će dovesti do hibridnih sustava ljudi i strojeva. Ovi sustavi nude prilike za novu vrstu socijalne umjetne inteligencije.
Sada, dopustite mi da vam dam samo jedan primjer toga. Kada dobijete, recimo, digitalnog asistenta, poput Alexe, proizvođač tog uređaja jako se brine o interakciji između čovjeka i stroja. Ta interakcija između čovjeka i stroja je optimizirana. Na primjer, nikada ne biste kupili Alexu ako biste svaki put kada trebate nešto od nje morali reći, izvinite, Alexa, žao mi je što vam prekidam. Ako vam ne smeta, biste li mi molim vas rekli riječ? [00:01:35] vrijeme sutra, zar ne? Ovo bi se smatralo apsurdnim nivoom uljudnosti. Očekujete da možete reći, Alexa, vrijeme, i onda stroj poslušno odgovara. I to je u redu dok ne dovedete taj stroj u svoju kuću i vaša djeca razgovaraju s tim strojem i uče biti nepristojna. A onda idu na igralište i nepristojni su prema drugoj djeci. Dakle, taj stroj koji je dodan među nas, nije samo o interakciji između čovjeka i stroja, već i o interakciji između ljudi u prisutnosti strojeva. I ono što me zanima nije to, već interakcije između ljudi u prisutnosti strojeva. I možemo koristiti razumijevanje strukture i funkcije društvenih mreža za procjenu korištenja i utjecaja socijalne umjetne inteligencije unutar i na ljudske grupe, s obzirom na faktore kao što su povjerenje i suradnja koji su potrebni grupama ljudi da rade zajedno, i koji utječu na ponašanje ovih kolektiviteta.
Dopustite mi da istaknem neki od radova koje radimo, koristeći nekoliko pristupa mrežnim eksperimentima koji uključuju, uh, umjetnu inteligenciju. Ovi eksperimenti ocjenjuju kako AI može utjecati na strukturu i funkciju ljudskih socijalnih interakcija. [00:02:45] Postoji klasa problema kolektivnog djelovanja socijalnih interakcija koja je poznata kao problemi koordinacije. Ovi problemi su takvi da moramo raditi zajedno ako želimo stvoriti nešto korisno. Ponekad te probleme rješavamo stvaranjem centraliziranih institucija poput policije, sudova ili vlada. No, često smo sposobni riješiti probleme kolektivnog djelovanja koji zahtijevaju da koordiniramo ili surađujemo s velikim brojem ljudi na decentralizirani način. Ustvari, evoluirali smo da bismo imali tu sposobnost. Jedan specifičan tip problema kolektivnog djelovanja s kojim bih danas želio početi je, zapravo, koordinacija.
Dakle, na primjer, kako bismo izbjegli ovu prometnu gužvu, ljudi moraju koordinirati da učine nešto drugačije od svojih susjeda. Dakle, ako svi napuste svoje kuće u isto vrijeme, svi će biti zaglavljeni u prometnoj gužvi. No, ako pomaknu svoje vrijeme odlaska i odlaze u intervalima, tada nitko ne ostaje u prometnoj gužvi. Naravno, mogli bismo imati neku vrstu središnje vlasti koja bi to koordinirala. Vi izlazite prvi, zatim vi, a potom vi. [00:03:45] No, idealno bi bilo da želite neku vrstu decentraliziranog, netop-down načina na koji ljudi koordiniraju za rješavanje ovog problema.
Ovo je bio naš prvi eksperiment koji je objavljen 2017. godine o takvim hibridnim sustavima koji su istraživali kako bi umjetna inteligencija mogla pomoći s takvim izazovima. Istraživali smo performanse ljudskih grupa koje su bile angažirane u zadatku koordinacije. Naš pristup bio je posuditi iz računalnih znanosti nešto što je poznato kao problem obojenja grafova. To je klasičan problem u računalnim znanostima. No, ono što smo učinili jest da smo uzeli taj problem i stavili ljudska bića u tu situaciju. Uzmali smo 4.000 ljudi i stavili ih u 230 online grupa. Ova ljudska bića su bila raspoređena u te grupe. Nasumično su dodijeljena jednom mjestu unutar umjetne mreže koju smo stvorili, čija je struktura otprilike nalikovala stvarnim ljudskim mrežama. I bili su stavljeni na ta mjesta i rekli su im da su dodijeljeni jednoj od tri boje, [00:04:46] purpurnoj, narančastoj, purpurnoj, narančastoj i ružičastoj. I rekli su im da moraju odabrati boju koja se razlikuje od svojih susjeda.
I imali su pet minuta da to učine. Dakle, ti ljudi bi se osvrnuli oko sebe. Svaka osoba bi se osvrnula i rekla, poput, ovaj tip ovdje je ružičast. Gleda da ima ružičastog susjeda i narančastog susjeda. Ono što bi trebao učiniti je prebaciti se na ljubičastu boju. A crvene linije ovdje ukazuju na sukobe boja. Drugim riječima, ako su dvije boje susjednih čvorova iste, dobijaju crvenu liniju. A ljubičaste linije u pozadini ukazuju na strukturu društvenih interakcija. Tako da stavite ljude ovdje. Gledaju oko sebe svakih sekundu ili sekundu i pol. Prave izbor u skladu s ciljem da svi moraju izabrati boju koja se razlikuje od njihovih susjeda u sljedećih pet minuta. I ako to učine, tada i samo tada će biti plaćeni. Platiti ću vas da radite zajedno. I ako svi radite zajedno na decentralizirani način da riješite problem, svi ćete biti plaćeni. Inače, nećete dobiti ništa, u redu? Tako da evo što se događa u ovom eksperimentu. Ovdje na x-osu je vrijeme u sekundama do oznake od pet minuta. [00:05:47] Igra traje pet minuta, dolje ovdje negdje. A ovdje na y-osu je funkcija cilja ili broj sukoba boja. Tako da ovdje na početku postoji 12 sukoba boja. Nasumično su dodijeljene njihove početne boje. I to je prikazano ovdje na ovoj maloj histogramu. I tako, ljudi počinju gledati oko sebe i mijenjati svoje boje. Znaš, mijenjaju se i mijenjaju se. I dolaze do ove točke gdje su sada došli u situaciju u kojoj postoji sukob boja između ove dvije osobe. I ovaj sukob, međutim, je ono što nazivamo nerazrješivim sukobom. Dakle, svijetlo narančaste linije su razrješivi sukobi. Ovo je ovaj tip ovdje. Može napraviti potez u ljubičasto koji razrješava sukob. Ali ovi tipovi ovdje koji su narančasti, nemaju potez koji mogu napraviti koji smanjuje broj sukoba boja u svom susjedstvu, zar ne? Ovaj tip ne može preći u ljubičasto jer, zapravo, ako pređe u ljubičasto, imat će više sukoba. Ima, otprilike, četiri ljubičasta susjeda. I ne može preći u ružičasto jer ima dva ružičasta susjeda. Dakle, gleda i kaže, pa, najmanje sukoba imam ako jednostavno ostanem narančasti. Tako da je sada ova grupa zaglavila, zar ne? [00:06:49] Imaju nerazrješiv sukob i ništa se ne može dogoditi. Nema napretka u rješavanju problema kolektivne akcije dok jedan od ovih dvojice ljudi ne napravi kontraintuitivan potez, prebacujući boje u ljubičasto ili ružičasto i privremeno povećavajući sukobe. I to je, zapravo, ono što se događa. A zatim prolazi vrijeme, i ljudi u 245 sekundi rješavaju problem. Stroj detektira rješenje, zaustavlja igru i isplaćuje ih, u redu?
Sada, jer smo bili lukavi, ono što smo učinili je da smo proveli neka istraživanja gdje smo potajno zamijenili neke od ljudskih bića s botovima. I procijenili smo kako dodavanje botova opremljenih umjetnom inteligencijom za stvaranje hibridnog sustava utječe na grupnu izvedbu. Je li moguće dodati neke botove ljudskim grupama i poboljšati njihovu sposobnost koordinacije suočavajući se s takvim izazovom? I ono što smo učinili je da smo dodali tri bota, a eksperimentalno smo varirali dvije osovine. Gdje su botovi bili smješteni, gdje su nasumično upali u mrežu, gdje su stavljeni u [00:07:51] središte mreže ili gdje su stavljeni na periferiju mreže. I nasumično smo manipulisali njihovim AI kapacitetom ovdje na vrlo trivijalan i jednostavan način. Naime, manipulirali smo time ponašaju li se botovi savršeno ili se ponašaju s malo šuma.
U situaciji savršenstva, svakih sekundu i pol, botovi su gledali oko sebe na svoje susjede, a zatim su birali boju koja je imala najmanje sukoba sa svojim susjedima. Ono što biste mogli smatrati iracionalnim ponašanjem. U situaciji s 10% šuma, to su radili, ali 10% vremena odabrali su nasumičnu boju. A u situaciji s 30% šuma, to su radili, ali 30% vremena odabrali su nasumičnu boju. Dakle, učinili smo da botovi budu, da tako kažemo, sve skloniji greškama, sve bučniji.
I onda smo gledali, imali smo, mislim, nešto poput, hajde da počnemo s kontrolnom grupom. Ovdje je prikazana na x-osi vrijeme, a ovo su krive preživljavanja. Na y-osi je vjerojatnost da grupa u cjelini nije riješila igru koordinacije. Dakle, ovdje, ako pogledate ovdje, na primjer, na samom početku, u vremenu nula, [00:08:51] 100% samo ljudskih grupa, sesije sa samo ljudima, su u narančastoj boji. Na početku, 100% grupa samo s ljudima nije riješilo igru. A onda, kako vrijeme prolazi, sve više i više ljudskih grupa rješava igru, tako da na kraju pet minuta, možda 60% grupa samo s ljudima je riješilo igru.
Pa, što se događa je da, ako stavite 10% bučnih botova u središnju poziciju mreže, dobijate značajno poboljšanje performansi. Ovdje, znatno više grupa ljudi, kada je dodano malo buke tim botovima u sredinu, uspjelo je riješiti problem. U stvarnosti, smanjili su medijalno vrijeme rješavanja s 232 sekunde na 103 sekunde. I postoje i drugi nalazi u ovim podacima. Savršeni botovi i previše bučni botovi nisu bili od pomoći. Trebala vam je neka kalibracija. Bilo je to 10% bučnih botova koji su bili najpomoćniji. Također, pozicija botova imala je svoj utjecaj. No, ključno u ovim eksperimentima, također smo otkrili da su ljudi koji nisu bili povezani s botovima, [00:09:52] koji su bili dalje u mreži. Dakle, u grafikonima, neki su bili povezani s botovima, dok su drugi bili neodređeni. Otkrili smo da su čak i ti ljudi počeli mijenjati način na koji igraju. Tako je nastao efekt ripplovanja, efekt kaskade. Dobici od interakcije bota s ljudima proširili su se kroz mrežu, a zatim su počeli utjecati na interakcije među ljudima sve dalje i dalje u mreži. Drugim riječima, botovi su pomogli ljudima da pomognu sami sebi, a koristi od buke rasporedile su se unutar ovog društvenog sustava.
Sada mi dopustite da dodatno doradim ideje o ovom kolektivnom izazovu i kako bi ovi jednostavni AI agenti mogli pomoći s još jednom analogijom. Zamislite da imate ravninu. Ovo je poput gradijentnog silaznog algoritma u strojnome učenju, na primjer. Dakle, imate ravninu, i imate brda i planinu. I imate različita brda, u redu, različitih visina. I imate planinu koja se jako izdiže ovdje, to je najviša planina. Tako da vas četvoricu spuštam ovdje negdje, i bit ćete vezani zajedno, svaki od vas gledajući u drugom kardinalnom smjeru, [00:10:54] i bit ćete s povezom na očima. I kažem vam, pronađite najvišu planinu. Tako da razgovarate među sobom i kažete, pa, zašto ne bismo svaki zakoračili u svom smjeru i izvijestili tim? Dakle, zakoračite na sjever i kažete da je odavde prema gore. A jug kaže da je odavde prema dolje. A istok i zapad kažu da je s ove točke horizontalno. Pa se svi slažete, hajde da zakoračimo na sjever. I tako nastavite to raditi iterativno dok ne dođete do točke kada svi kažete da je odavde prema dolje.
Jeste li pronašli najvišu planinu? Ne. (...) Što ste učinili? Pronašli ste najbliže brdo.
Sada ćeš li ikada pronaći najviši planinski vrh? Ne. Nikada nećeš pronaći najviši planinski vrh. Zapeo si. Lokalne optimizacije, ali globalne sub-optimizacije. A da bi se globalno optimiziralo, potrebno je malo buke. Povremeno treba dopustiti ovoj grupi ljudi da napravi kontraintuitivan korak niz planinu ili niz brdo. Dakle, ponekad zarađuju niz koraka slučajno dok se ne vrate na ravnu površinu. A onda se kreću oko ovog fitness krajolika, istražujući sve ove vrhove dok ne završe na ovom vrhu. [00:11:56] A ovaj visoki vrh, globalni optimum, obično je stanje koje prima jer je potrebno puno više buke da se skloniš s tog vrha nego s drugih vrhova. I sada osciliraš oko globalnog optima. U našem radu istražujemo ovu vrstu jednostavnog programiranja umetnutog u društvene sustave kako bismo vidjeli možemo li poboljšati performanse ljudskih bića u rješavanju raznih vrsta problema kolektivnog djelovanja.
Sada drugi kolektivni problem uključuje drugačiji izazov, a to je suradnja, a ne koordinacija. Ljudi se često moraju surađivati kako bi proizveli ono što se naziva javnim dobrom. A svjetionik je jedan od klasičnih primjera javnog dobra. Javno dobro ima dvije karakteristične značajke. Prvo, to se naziva neisključivošću. To znači da se drugim osobama ne može zabraniti korištenje. Ako izgradite svjetionik za vlastitu potrebu, jer plovite morem i ne želite udariti u obalu, to je sjajno za vas, ali ne možete spriječiti nikoga drugoga da ga koristi, u redu? Neisključivo. [00:12:58] Također, to je neprozirno. To znači da konzumacija jedne osobe ne smanjuje konzumaciju drugih. Ako koristim svjetlo svog svjetionika, ne ostaje manje svjetla za vas. I to je za razliku od, na primjer, komada torte. Ako imam komad torte, on je moj, zar ne? Mogu vas spriječiti da ga pojedete. I ako ga pojedem, nema ga više za vas, u redu? Tako javno dobro ima ove značajke, a te značajke zauzvrat otežavaju proizvodnju javnih dobara. Jer kada je u pitanju izgradnja svjetionika, vrlo je primamljivo suprotstaviti svoje individualne interese interesima grupe. Ako ne doprinosite izgradnji svjetionika, još uvijek možete imati koristi od njega. I tako je svatko primamljivo ništa ne učiniti, a onda svjetionik ne bude izgrađen na štetu svih. Također valja naglasiti da su javna dobra korisna, jer zapravo možete proizvoditi stvari s njima, kao što je sigurno plovidba morem. I kao takva, nedovoljno ulaganje u javna dobra ozbiljan je problem u našem društvu, a također je postalo poznato kao tragedija općeg dobra. Ova javna dobra, na primjer, norme povjerenja koje održavamo među nama su učinkovite. [00:14:01] Zapamtite kada ste bili u srednjoj školi. Neki od vas su išli u srednju školu gdje su učenici vjerovali jedni drugima, i to je značilo da ste mogli ostaviti svoje ruksake nasamo u hodniku i ne brinuti se da će ih netko ukrasti. Drugi od vas su išli u srednje škole gdje nisu postojale iste norme povjerenja, i sada ste morali zaključavati svoj ruksak ili ga stalno nositi sa sobom. U kojem od ta dva okruženja mislite da biste bolje učili? U redu? U prvom okruženju. Tako da je ta norma koja se kolektivno održava produktivna. U tom slučaju, produktivna učenja. Ovdje, produktivna sigurne plovidbe morem i tako dalje.
Dakle, suradnja u ljudskim grupama za proizvodnju javnih dobara je izazovna i potrebni su različiti mehanizmi da bi se ona održala. Proveli smo mnoge eksperimente u kojima smo ljude smještali u mrežne grupe i tražili od njih da igraju razne vrste igara javnih dobara s svojim susjedima, manipulirajući mnogim strukturnim i drugim značajkama tijekom godina. Tako smo, na primjer, prije više godina započeli eksperiment u kojem su ljudi stavljeni u mrežu poput ove. Upoznali su se sa svojim susjedima i igrali igru javnih dobara iz, kao što je, ponašajne ekonomije, [00:15:03] gdje bih, kao, mogao dati malo novca svakom od svojih susjeda. Kao, uzmem dolar i podijelim ga među svojim susjedima. Potom znanstvenici udvostruče dolar. Recimo da imam četiri susjeda. Recimo da imam tri susjeda, a da grupi dam dolar. To postaje dva dolara. Ta dva dolara se dijele među nas četvero. Tako da cijela grupa stječe bogatstvo od dva dolara, ali ja dobijem nazad samo 50 centi. Dva podijeljena s četiri, dobijem nazad 50 centi. Tako da moram napraviti žrtvu za dobrobit drugih. Tako prirodno, svi kažu, ne želim žrtvovati. Neka svaki drugi budala daje novac. Neću dati ništa, i nadam se da će drugi doprinijeti. No, naravno, ako to svi učine, opet dolazi do kolapsa. A najbolje ponašanje je ako svi maksimalno doprinose. Dakle, ovdje u ovoj situaciji, započinjemo igru. Plave točke su, plavi ljudi su simpatični suradnici. Maksimalno daju svojim susjedima i stvaraju javna dobra, kao što je izgradnja svjetionika. A crvene točke su eksploatatori koji ne daju nikakve doprinose, što se također naziva defektorima. I ono što otkrivamo u ovom eksperimentu je da reproduciramo rezultat koji je poznat već 30 godina, [00:16:03] a to je da suradnja propada u grupama, zar ne? Do kraja igre, više rundi kasnije, praktički svi postaju defektori, osim ovih malih plavih ljudi ovdje sa strane, koji drže civilizaciju na životu, znate, među sobom. Također možete razmišljati o tome, opet da se pozovem na srednju školu za studente. Sjetite se situacije u kojoj vam je vaš profesor znanosti dodijelio četiri vas da radite grupni projekt, a vi ste trebali dobiti istu ocjenu. A dodijeljeni ste trojici drugih gubitnika. Tako da sada imate dvije opcije. Ili ćete vi obaviti sav posao, a oni također dobiju A-ice jer želite A. Ili ćete reći, to je besmisleno. Ne želim da ovi lijeni tipovi profitiraju od mog truda. I kažete, neću učiniti ništa, i svi ćete dobiti F-ice, zar ne? To je strašna dilema. Pa, ono što se ovdje događa je da ljudi na kraju biraju drugu opciju. Svi biraju da dobiju F-ice jer ne žele biti budale i nastaviti doprinositi. Dakle, suradnja propada u društvenim sustavima kao općenit rezultat. No, ono što smo učinili je, još jednom, dodali neke, iako drugačije vrste botova u sustav. Dodali smo neke botove koji su imali vrlo jednostavne A. [00:17:05] I ti botovi su bili poput malih posrednika u braku. Posredovali su u društvenim interakcijama. Gledali su oko sebe lokalno tko s kim komunicira i davali su prijedloge ljudima u sustavu. Znate što? Trebali biste prekinuti vezu s tim defektorom koji vas iskoriđava i uspostaviti vezu s ovim simpatičnim tipom ovdje umjesto toga. I ovaj nježni savjet za preusmjeravanje koristio je samo lokalno znanje. Nema učitelja koji naređuje ljudima da budu ljubazni. Nema policije. Nema suda. Nema centralizirane vlasti koja izvršava ovo. Samo djelujući na lokalno znanje, otkrili smo da su ti botovi, u našim eksperimentima s više od 1.000 ljudi u 64 grupe, uspjeli stabilizirati suradnju, ali po prvi put smo pokazali rezultat da je suradnja zapravo mogla povećati s osnovne razine kada su ove vrste botova dodane. A DeepMind je naknadno replicirao naše rezultate i proširio ih u drugom radu koji je objavljen otprilike godinu dana ili dvije nakon ovog.
U još jednom eksperimentu, istraživali smo kako botovi mogu utjecati na grupnu kreativnost. [00:18:07] Jer pronalaženje novih ideja je teško. Teorija i eksperimenti sugeriraju da grupe možda bolje prepoznaju i čuvaju inovacije od pojedinaca dijeleći svoja otkrića.
Ali inovacija unutar grupa suočava se s vlastitim izazovima, uključujući grupno razmišljanje. Zar ne? Ako skupite grupu ljudi, mogli bi prerano doći do suboptimalne ideje.
Ili možete zamisliti, trebali biste zamisliti, da bi grupa ljudi mogla imati veću mudrost, mogla bi smisliti više ideja. Na primjer, ako grupi ljudi date zadatak da usavrše ribolovni štap, znate, prva osoba bi mogla reći, zašto ne stavimo udicu na kraj nekog konopa? A onda će osoba koja drži konop s udicom reći, zašto ne stavimo štap na konop? Oh, to je sjajna ideja. Tako kombiniraju svoje znanje i to rade. A netko kaže, pa, mamac s udicom pluta na površini. Dodajmo val da ide dublje. Pa, sada ide previše dolje. Kako bi bilo da dodamo bobber tako da znam gdje se nalazi i tako dalje. I tako ljudi inoviraju, dijele znanje među sobom, čuvaju znanje kroz vrijeme, [00:19:08] i dobijete te kulturne artefakte koji su složeni produkt višestrukih ljudi koji dijele ideje i budu kreativni.
Dakle, željeli smo stvoriti igru u kojoj grupe ljudi istražuju pejzaž u potrazi za optimalnom idejom. Odlučili smo koristiti imenice kao zamjenu za ideje. Uzimamo 20.000 imenica iz klasičnog korpusa riječi za računalne znanosti. Tako smo uzeli 20.000 imenica. A udaljenost između tih imenica može se definirati mjerom kosinusne sličnosti. Možete zamisliti hiper-dimenzionalni vektorski prostor u kojem je mačka sličnija psu nego stolu. Način na koji su to učinili je taj da su gledali koliko često su se riječi mačka i pas pojavile zajedno na web stranicama. Dakle, imali su univerzum web stranica i univerzum od 20.000 imenica. Rekli su da te dvije imenice često su se pojavljuju zajedno, a te druge dvije imenice se ne pojavljuju često zajedno. Stvorili su 300-dimenzionalni vektorski prostor. [00:20:08] I sada možete opisati koliko su slične bilo dvije imenice. Odlučili smo koristiti imenice kao zamjenu za ideje. Uzeli smo tih 20.000 imenica. A onda smo odabrali skup imenica. Zamislite da smo odabrali jednu imenicu, ali smo odabrali skup. Jednu imenicu nasumično iz svih ovih, poput braggadocio, na primjer, bila je imenica. Tako smo odabrali braggadocio. I kažemo da je to savršena ideja koju želimo da ova grupa ljudi pronađe. A zatim sve imenice koje su blizu braggadocio padaju u ovom vektorskom prostoru. Dakle, imate vrhunski imenicu koja dobiva najviše poena, 20.000 poena, i sve ostale imenice do imenica koje su najdalje. I stavimo ljude u ovaj sustav i kažemo im, pronađite ovu riječ. Ne govorimo im riječ. I onda im kažemo vrijednost poena tih riječi. Tako da počinju pogađati. I dok pogađaju, dobivaju povratne informacije. I kažu, ah, ova riječ ima više poena nego druga riječ. I dolaze sve bliže i bliže i počinju dijeliti znanje jedni s drugima. Pokušavaju biti kreativni kako bi riješili problem.
Dakle, svakou imenicu povezuje se s drugim u semantičkom prostoru ili bezgraničnom krajoliku. [00:21:10] Imali smo 18 različitih ciljnih imenica, kao da smo iznijeli vrh iz krajolika ovih 20.000 imenica na 18 različitih mjesta u 18 različitih krajolika. Ove imenice su bile namjerno neobične, poput fratricide, shoehorn, sarcoma, cartography i slično. Zatim smo proveli eksperimente koji su uključivali nekoliko uvjeta gdje su ljudi bili sami pokušavajući navigirati krajolikom, gdje su ljudi bili u grupama radeći zajedno na navigaciji krajolikom, ili gdje su ljudi bili u grupama, ali su također imali neke botove koji su im pokušavali pomoći da budu kreativni. Botovi su radili jer su mogli prenositi informacije iz jednog područja mreže u drugo komunikacijom jedni s drugima. Tako je, na primjer, bot broj dva mogao prenijeti riječ nebo ili auto botu broj jedan. Dakle, evo primjera mreže.
Uključujemo ljude. Kvadratne točke su botovi. Ovaj bot ima četiri interakcije, a ovaj bot ima, ne znam, šest ili sedam interakcija. Ljudi na početku počinju pogađati. [00:22:12] Nemaju nikakvu osnovu za pogađanje u prvom krugu igre. Pogađaju nebo, automobil, zeca, štakora, psa, mačku, stol. Kao kad bih vas pitao, odaberite imenicu za pogađanje, pogodili biste kuću ili sunce ili mjesec ili mačku ili psa ili neku malu tipičnu imenicu. A sada im se govori vrijednost bodova, poput toga koliko je slična riječ štakor, pas, mačka, stol itd. s sarcomom. I kažemo im vrijednosti bodova tih imenica u odnosu na ciljnu imenicu, koja je sarcoma. A zatim im se objavljuju te vrijednosti bodova. Onda ovaj bot može pogledati vrijednosti bodova ljudi oko sebe i može prenijeti ili nasumičan izbor ovom botu ili najveću ili najnižu vrijednost bodova, neka vrsta tajnog kanala komunikacije koja širi informacije s jednog područja grupe ljudi koji pokušavaju riješiti problem na drugo područje. Pogledajmo nekoliko primjera kako bismo to razjasnili, jer ovo može biti teško za razumjeti. Ljudi su igrali ovu igru oko 25 krugova. A evo kosinusne sličnosti s ciljnom imenicom, koja je riječ fratricide. Dakle, oni imaju 20,000 imenica. [00:23:13] Fratricide ima 20,000 bodova. Ostale riječi imaju druge bodove. A evo i jednog pojedinca, osobe koja pogađa sama. Njihovo prvo pogađanje je bit. I govore im koliko je slična riječ bit fratricide. Zatim njihovo sljedeće pogađanje je rođenje. I dobiju veliki skok u kosinusnoj sličnosti, jer možete zamisliti da je riječ rođenje bliža riječi fratricide nego riječ bit. U redu? Zatim pogađaju. Pokušavaju novac sljedeće. To je lošije. Zatim pokušavaju majmuna. To je još lošije. Provjeravaju. Obavljaju provjeru razuma. Pokušavaju rođenje. Ponovo se penje. Zatim pokušavaju bebu. To nije loše pogađanje. Rođenje prema bebi. Ali beba ih udaljava od fratricide. A onda dama i tako dalje. Navigiraju. Pogađaju. Pogađaju. Pogađaju. Na kraju ne dobiju ništa blizu fratricide. Sada u ovoj drugoj situaciji imamo grupu ljudi, ali bez botova. I sada ljudi, osim što rade vlastita pogađanja, mogu vidjeti pogađanja ljudi oko njih. I grade na idejama drugih. U redu? Stvoreno. Kao da zajedno prave ribolovni štap. [00:24:13] Ova osoba, njihovo prvo pogađanje je pas. Ali njihovo sljedeće pogađanje je štit. Možete vidjeti da je štit bliži fratricide nego pas. Ova osoba pogađa i pogađa i dobiva input od svojih susjeda. I na kraju se sve više približava. Na kraju završi s riječi neprijatelj. U redu? Zapravo, vojnik je bio njihovo najbolje pogađanje. Imao je najvišu vrijednost bodova tijekom svoje putanje.
Pa kako je dodavanje botova utjecalo? Ovo opet pokazuje sažetak rezultata. Na x-osi je runda. Na y-osi je srednja kosinusna sličnost u ovom hiper-dimenzionalnom vektorskom prostoru, što je mjera grupne učinkovitosti. I ovdje je skupina ljudi koji djeluju, pogađaju solo. Dakle, ljudi koji pogađaju sami ne postižu dobre rezultate, zar ne? Oni, znate, samo je šansa da mogu na neki način ili, znate, neka urođena sposobnost kod svakog pojedinog čovjeka. S vremenom postaju malo bolji i bliži. Sve grupe nadmašuju solo. I ovo je stari rezultat koji je poznat. Skupina ljudi je kreativnija od sličnog skupa solo praktičara iste veličine. No ono što otkrivamo jest da ako dodamo naj sličnijeg bota, bota koji je pogledao svoje susjede, [00:25:17] i saznao kakav je njihov lokalni konsenzus ovdje? Moji ljudi čini se da misle da je ovo dobra riječ. A zatim to šalje botu na udaljenom dijelu mreže. Taj bot znatno poboljšava performanse ove grupe ljudi kako bi došli do otkrića. Trebali biste moći zamisliti kako bi ovo moglo raditi u grupi inženjera ili bilo kojih drugih radnika znanja. Kako, na primjer, možete učinkovito distribuirati znanje, izbjegavajući grupno razmišljanje i potičući kreativnost, dizajnirajući botove koji pomažu ljudima da pomognu sami sebi. Ovaj bot ovdje nema mozak. On ne predlaže ideje sam od sebe. Samo pomaže ljudima da šire ideje među sobom.
Dakle, jednostavni AI agenti s razumljivim ponašanjem mogu povećati kapacitet za kreativna otkrića u ljudskim grupama dijeleći ideje oko kojih postoji lokalni konsenzus u jednom dijelu grupe s ljudima u udaljenom dijelu grupe. I kao rezultat, grupa može obavljati bolje.
Sada smo također počeli eksperimentirati s fizičkim sustavima. Dodali smo humanoidne i nehumanoidne robote [00:26:19] opremljene jednostavnom umjetnom inteligencijom u grupama ljudi štajući kako im može olakšati suradnju prevladavanjem trenja ili nemogućnosti suradnje tijekom međusobnih interakcija. Jedan od mojih omiljenih primjera ovog je eksperiment koji sam provodio sa svojom bivšom studenticom, Maggie Traeger, koja je sada pomoćnica profesora na Notre Dameu, a radi se o ovom eksperimentu. U ovom eksperimentu uzeli smo tri stvarne osobe koje su došle u laboratorij i humanoidnog robota. Osmislili smo malu igru, igru sa željezničkim prugama koja se igra na tablet računalima, a ovoj grupi ljudi i robotu bila je zadaća položiti željezničku prugu od točke A do točke B, poput malih željezničkih pruga iz priče o Tomasu. Zatim smo im dali nekoliko komada koje su mogli odabrati na tabletu, poput ravnih i zakrivljenih komada. No, povremeno smo smišljeno osmislili, iako je izgledalo da postoji mješavina komada i da bi u načelu mogli proći od točke A do točke B, nemilosrdno smo to dizajnirali tako da nije bilo pravog broja zavoja da bi mogli doći do točke B. [00:27:21] Dakle, nisu mogli to učiniti. Nisu mogli riješiti problem, nesvjesni toga. U redu? Dakle, prvo bi svaka osoba uzela svoj red za položiti komad pruge, zatim sljedeća osoba i sljedeća osoba. Radili su zajedno na povezivanju točke A s točkom B na svojim tabletima.
Ono što smo radili u ovom eksperimentu je to da smo manipulirali, i oni su igrali 30 rundi ove igre u ovom virtualnom svijetu, a imali smo 51 grupu. Manipulirali smo stilom razgovora robota, konkretno je li robot iskazivao ranjivost priznavanjem greške. Tako je robot rekao, znate, napravio sam grešku. Ili je robot pričao 'tatine šale'. Pretpostavljam da svi znate što su tatine šale. U redu. Dakle, imali smo i robota koji je pričao, usput, to je kulturni univerzal, kao što su antropolozi u amazonskoj džungli proučavali autohtone narode, a očevi tamo također pričaju tatine šale. A djeca su kao, ne mogu vjerovati da tate pričaju te glupe šale. No, u svakom slučaju, zapravo postoji teorija o tome što tatine šale trebaju postići kako bi ojačale djecu na neki način. Ovo je teorija. No, u svakom slučaju, to je cijela druga tema. U svakom slučaju, naši roboti su pričali tatine šale ili iskazivali ranjivost. [00:28:21] A ono što nas je zanimalo je hoće li promjene u govoru robota imati moć ne samo da utječu na to kako ljudi međusobno komuniciraju s robotima, već i kako ljudi komuniciraju jedni s drugima. I još jednom, ovo pruža perspektivu modificiranja društvenih interakcija uvođenjem umjetnih agenata u hibridne sustave ljudi i strojeva.
Evo malo primjera, oh, i nisam vam rekao rezultate. Dakle, evo, kada imamo, debljina ovih linija, postavili smo video kamere da pratimo tko govori s kime i koliko razgovaraju. Debljina ovih linija ukazuje na to koliko osoba dva razgovara s osobom jedan i obrnuto. Osoba jedan ne razgovara puno s robotom. To je tanka linija. A kada imamo neutralne robote, dobivamo ovaj obrazac. No, kada imamo ranjivog robota, sve te linije postaju deblje i izjednačavaju se. Dakle, otkrili smo da ranjivi robot povećava ravnotežu u govoru među ljudima, povećava volumen govora među ljudima i zapravo, u odvojenim rezultatima, [00:29:22] povećava zadovoljstvo ljudi u toj vrsti okruženja.
I evo samo jednog isječka iz dvije različite runde koje ilustriraju da robot prvo govori na neutralan način, pasivnim glasom, što ne utječe previše na ljudsku komunikaciju. Robot kaže, na vrlo Reaganovski način, napravljena je greška.
No, u sljedećoj rundi, robot kaže, napravio sam grešku. I samo možete gledati što se ovdje događa. Pogledajmo možemo li to pokrenuti. (25 sekundi pauze) Dakle, kroz mnogo, mnogo desetaka rundi, ovo je vrsta obrasca koju nalazimo. Dakle, jednostavna manipulacija, jednostavna manipulacija u obrascu govora robota mijenja način na koji ljudi komuniciraju jedni s drugima. [00:30:25] I ne, pretpostavljam, ne treba puno zamišljati kako cijeli način na koji dizajniramo naše chatbotove i sve ostalo može utjecati ne samo na primjer Alexa koji sam vam dao na početku, već i na to kako se ponašamo jedni prema drugima. Ljudi se čini da više vjeruju jedni drugima i imaju više zabave u ovoj situaciji.
Sada ovdje još uvijek, i mislim da je ovo posljednji eksperiment koji ću vam pokazati, a onda ću završiti s još jednim eksperimentom, razvili smo novi cyber-fizički uređaj za testiranje društvenih i doista etičkih učinaka jednostavnih vrsta AI. Zato što, s obzirom na prirodu problema kolektivne akcije, uključivanje AI u ljudske skupine može paradoksalno i nenamjerno potisnuti postojeće korisne društvene norme kod ljudi, poput onih koje uključuju suradnju i altruizam, što smo kao vrsta razvili. Imamo stotine tisuća godina prirodne selekcije koja djeluje na nas kako bismo postali sposobni rješavati probleme kolektivne akcije. Pitanje je, ako prenesemo dio te agencije na strojeve, hoćemo li izgubiti sposobnost suradnje u rješavanju tih problema? [00:31:32] Hoćemo li postati ovisni o tim strojevima i tako degradirati našu prirodnu sposobnost suradnje, koordinacije i stvaranja? U ovom eksperimentu, u suradnji s Hiro Shirato na CMU, još jednim bivšim studentom, izgradili smo platformu koja je uključivala dva mala Raspberry Pi opremljena malim mehaničkim vozilima, i povezali smo je s nekim softverom koji imamo i koji nam omogućava organizaciju online eksperimenata na velikoj skali. Ljudi su bili u svojim kućama, a dodijeljeno im je jedno od tih automobila, i vozili su ta vozila jedni prema drugima,
i natjerali smo ih da igraju igru s piletinom. Dakle, u piletini, znate, kao, tko god stigne s druge strane najbrže pobjeđuje. Tako ste potaknuti da ne popustite drugome. Ali, ako se oboje odlučite ne popustiti, tada se sudarite i oboje dobijete najgori ishod. Dakle, što bi ljudi radili u ovoj situaciji, ako igrate iteriranu igru s piletinom, brzo biste naučili da seizmene. Ovaj put je tvoj red da prođeš ravno, ja ću se povući i pustiti te, ali sljedeći put se ti povučeš i pustiš me da prođem ravno. [00:32:35] Ako smo sebični, jednostavno se sudaramo jedni s drugima, uništavajući jedni druge iznova i iznova, ili glupo, oboje skrenemo s ceste i niti jedan ne dobije korist od prolaska ravno. Dakle, u ovoj situaciji ovdje, žuti automobil odlučuje povući se, plavi automobil jednostavno nastavlja bez prepreka sve do druge strane.
Koristili smo 300 sudionika i 150 parova, a plaćeni su ovisno o tome koliko brzo su došli na drugu stranu. Potom smo dodali nešto AI. Dodali smo pomoć pri automatskom kočenju, gdje je, kada ste imali upozorenje na blizinu, kada ste se približili drugom automobilu, automobil kočio i davao vam priliku da odlučite, huh, trebao bih skrenuti i pustiti ovog drugog da prođe, ili obrnuto. Ili smo dodali pomoć pri automatskom upravljanju, što znači da, čim se automobile približi drugom automobilu, jednostavno skrene, u redu? Također smo dodali minimalnu komunikacijsku funkciju, gdje su ljudi mogli reći hvala, ili nešto slično. Samo vrlo minimalna komunikacija. I prvo smo pokazali da pomoć pri automatskom kočenju, gdje automobili staju na fiksnoj udaljenosti prije sudara, povećava ljudsku altruizam. [00:33:38] To jest, ustupanje drugima, kao što to čini žuti automobil ovdje. Dakle, dodavanje malo AI pomoći pri automatskom kočenju olakšalo je ljudima rad zajedno i suradnju u toj situaciji. Štoviše, omogućavanje ljudima da komuniciraju dodatno im pomaže da naprave uzajamne ustupke u uvjetima automatskog kočenja. S druge strane, pomoć pri automatskom upravljanju, gdje je automobil jednostavno skrenuo, potpuno je inhibirala pojavu reciprociteta među ljudima u korist maksimizacije vlastitog interesa. Ljudi samo odustaju od svoje moralne autonomije. Više se ne trude. Samo dopuste da stroj ponovo skrene, i odustaju, u redu? Dakle, sve moguće etičke sposobnosti koje su ljudi imali sada su uklonjene dodavanjem AI u uvjetu automatskog upravljanja, ali su poboljšane u uvjetu automatskog kočenja. I ovo bi vam također trebalo dati povod za razmišljanje. Trebali biste razmišljati, oh moj Bože, svakog malog detalja kojeg radimo kada programiramo ove AI agente može imati dobre ili loše posljedice na ljudske prirodne tendencije.
Sposobnost ljudi da surađuju, izmjenjuju se i djeluju altruistički može atrofirati, što dovodi do lošijih kolektivnih i individualnih ishoda na kraju. [00:34:46] I zapravo, u kratkim crtama, AI može dovesti do svojevrsne moralne lenjosti. (..) Ovo je još jedan završni primjer trajne promjene nakon izloženosti AI u hibridnim sustavima. Također je primjer kako prisutnost AI može promijeniti ljudske interakcije, čak i nakon što AI više nije dio tih interakcija. Dakle, 2016. godine, DeepMind je razvio AlphaGo, i iste te godine, ovaj AI agent igrao je protiv Lee Sedola, izvanrednog svjetskog prvaka iz Koreje.
Gledao sam utakmicu. Ne znam igrati Go, ali prepoznajem ga kao veličanstvenu igru. Moj sin igra Go. (.) I stvarno sam navijao za Lee Sedola. Lee Sedol je kao heroj u Koreji, poput onoga kako imamo, znate, velike sportaše na našim Wheaties kutijama i slično. Kao, njegovo lice je na malim pakiranjima rezanaca i na pakiranjima žitarica. Mislim da je veličanstveno da u Koreji neki pametan nerd poput mene postane, znate, priznat kao važna osoba, u redu? Dakle, on je jako popularan u Koreji. I izlazi na prvu utakmicu i previše je samouvjeren. [00:35:47] Mogu reći da je previše samouvjeren. I gubi od mašine, a zatim se izvinjava svojim obožavateljima. Kaže, jako mi je žao. To su pet igara. Najbolja tri od pet pobjeđuju. Zatim igra drugu igru i ponovo gubi. A sada postaje ozbiljan. Igra treću igru i gubi. Izgubio je natjecanje.
I mogli ste vidjeti publiku, a komentatori su se divili sposobnosti mašine da igra Go, izvodeći te čudne i lijepe poteze, od kojih su neki kasnije otkriveni kao potezi koji su se već izvodili jer imamo zapise koji sežu unatrag tisućama godina o Go utakmicama igranim na kineskom imperijalnom dvoru. I mogli su pronaći, oh, moj Bože, ovo je srednjovjekovni potez koji je mašina izvela. Nismo ga vidjeli tako dugo.
I onda se Lisa Dahl vraća u četvrtoj igri i pobjeđuje. (..) I plakala sam. Bila sam tako sretna. (..) Zato što je imao stroj, znate, vratio se zbog moje vrste, i pobijedio je prokleti stroj. Kao, na herojsku, kao, nisam mogla razumjeti, kao, moć uma koja je morala biti potrebna za Lisu Dahl da to učini. [00:36:49] Bila sam euforična u tom trenutku i tako ponosna na njega što se još uvijek trudi, čak i nakon što je izgubio meč.
Sada, što je zanimljivo, kada je Lisa Dahl nakon toga bila intervjuirana, rekla je da se njegov način igranja promijenio nakon meča. Dakle, još jednom, AI pomaže ljudima da pomognu sebi, u redu? Mijenja način na koji igra zbog kontakta. I kasnije ispitivanja drugih znanstvenika proučila su profesionalne Go igrače i analizirala prosječnu kvalitetu odluka. Postoji neki standard u Goi za procjenu koliko je dobar potez, i prosječna novost, poput toga koliko je neobičan potez. I otkrivaju da kada AlphaGo pobijedi ljudskog svjetskog prvaka 2016. godine, diljem svijeta, Go igrači počinju donositi bolje, inovativnije poteze, u redu? Dakle, svi ljudi koji igraju Go među sobom su se promijenili jer je AlphaGo uveden. AI pomaže ljudima da pomognu sebi. Dakle, nastavljamo raditi na dizajniranju i dodavanju jednostavnih botova u ove i druge situacije koje uključuju socijalne dileme i probleme kolektivnog djelovanja. [00:37:55] Proučavamo kako botovi mogu utjecati na koordinaciju, suradnju, komunikaciju, kreativnost, povjerenje, navigaciju, dijeljenje i evakuaciju. A u našem laboratoriju, ne fokusiramo se na super pametan AI, poput LLM-ova ili AlphaGo, kako bismo zamijenili ljudsku kogniciju, već na glupi AI da dopunimo ljudsku interakciju. Ne pokušavamo izumiti super pametan AI kako bismo zamijenili ljudsku kogniciju. Izmišljamo glupi AI da dopunimo ljudsku interakciju. A naš AI može biti glup jer su ljudi pametni. Naš AI je poput platine dodane u reakciju organskih tvari. To je samo katalizator. Sve što trebamo je katalizator da pomognemo grupi ljudi da budu bolji.
I naravno, važno je priznati da je suprotno također moguće. Društvena AI se može koristiti za nanošenje štete grupama ljudi. No, naš pristup nudi brojne tehničke i konceptualne prednosti. Prije svega, ovi jednostavni botovi su razumljivi i stoga jasno ilustriraju šire moći i mogućnosti. Za razliku od LLM-ova, koji su crna kutija i ne znate što rade, mogu vam točno reći što naš bot radi. [00:38:58] To je bučno. Povezuje kontakte. Prenosi poruke na ovaj vrlo specifičan način. I drugo, naši kontrolirani eksperimentirani botovi također mogu pružiti uvid u to kako bi ljudsko ponašanje moglo korisno promijeniti. Drugim riječima, mogu to iz laboratorija prenijeti i naučiti grupu ljudi da rade ono što su naši botovi radili. Na neki način, ne možete lako naučiti grupu ljudi da jednostavno rade ono što je ChachiPT ovdje napravio. Ne znamo što ChachiPT radi, ali znate što oni rade u našoj situaciji.
Želio bih završiti, ovo je moj posljednji slajd, metaforom. Razmislite o ova dva objekta. Oba su napravljena od ugljika. Ako povežete atome ugljika na jedan način, dobijate grafit, koji je mekan i taman. Povezivanjem istih atoma ugljika na drugi način, dobijate dijamant, koji je tvrd i jasan. Ovdje su dvije ključne intelektualne ideje. Prvo, ove osobine mekoće i tame, tvrdoće i jasnoće nisu osobine atoma ugljika. To su osobine skupa atoma ugljika. I drugo, koje osobine dobijate zavisi od načina na koji povežete atome ugljika jedne s drugima. Povezivanjem istih atoma ugljika na jedan način dobijate jedan skup osobina. [00:40:01] Ako ih povežete na drugi način, dobijate potpuno drugačiji skup osobina. Slično tome, priroda naših povezanosti utiče na osobine naših društvenih grupa. To su veze između ljudi koje mogu učiniti cjelinu većom od zbira njenih dijelova. Nove osobine, poput suradnje i nasilja, inovacija i produktivnosti, povjerenja i nepoverenja, istine i laži, bogatstva i siromaštva, zdravlja i sreće, mogu se pojaviti i širiti zbog tih povezanosti, zbog veza između ljudi, a ne nužno samo zbog samih ljudi. U stvari, naše iskustvo svijeta zavisi od strukture i funkcije mreža oko nas, blizu i daleko. A naša vrsta se razvila da ovako bude. Ne bi nas trebalo iznenaditi da ćemo reagirati na AI među nama. Hvala vam puno.
