Nikola Kristakis: [00:00:05] U redu, ljudska bića su deo socijalnih mreža, i te mreže se pridržavaju vrlo specifičnih matematičkih, bioloških i socijalnih principa. I sve više dodajemo veštačku inteligenciju u obliku online agenata i fizičkih robota među nama koji interaguju s nama kao da su socijalna bića. Ovi agenti koje ćemo dodavati našim sistemima kreću se od autonomnih automobila na putevima do mašina na blagajnama u prodavnicama, humanoidnih robota u domovima ili fabrikama, ili na bojištima ili u situacijama gašenja požara, do nesparenih autonomnih agenata kao što su online botovi i digitalni AI asistenti u našim telefonima ili naočarima ili na radnim mestima. Ove tehnologije komuniciraju s nama na ravnopravnoj osnovi kao da su ljudi. I one će dovesti do hibridnih sistema ljudi i mašina. Ovi sistemi nude prilike za novu vrstu socijalne veštačke inteligencije.
Sada, dozvolite mi da vam dam samo jedan ilustrativni primer. Kada dobijete, na primer, digitalnog asistenta, poput Alexe, proizvođač tog uređaja je veoma zabrinut zbog interakcije čovek-mašina. I ta interakcija čovek-mašina je optimizovana. Na primer, nikada ne biste kupili Alexu ako biste svakog puta kada vam nešto treba, morali da kažete: izvinite, Alexo, veoma mi je žao što vam upadam u reč. Ako vam nije teško, možete li mi reći reč? [00:01:35] vremenska prognoza za sutra, zar ne? Ovo bi se smatralo apsurdnim nivoom ljubaznosti. Očekujete da možete reći: Alexo, vremenska prognoza, i tada mašina poslušno odgovara. I to je u redu dok ne povedete tu mašinu u svoj dom i vaša deca razgovaraju sa tom mašinom i uče da budu nepristojna. A onda idu na igralište i budu nepristojna prema drugoj deci. Dakle, ta mašina koja je dodata među nas, nije samo stvar interakcije čovek-mašina, već je i stvar interakcije čovek-čovek u prisustvu mašina. I ono što me zanima nije samo da li, već su interakcije čovek-čovek u prisustvu mašina. I možemo iskoristiti razumevanje strukture i funkcije socijalne mreže da procenimo upotrebu i uticaj socijalne veštačke inteligencije unutar i na ljudske grupe, s obzirom na faktore kao što su poverenje i saradnja koji su potrebni grupama ljudi da rade zajedno, i koji utiču na ponašanje ovih kolektiviteta.
Dopustite mi da istaknem deo posla koji radimo, koristeći nekoliko pristupa mrežnim eksperimentima koji uključuju veštačku inteligenciju. Ovi eksperimenti procenjuju kako AI može uticati na strukturu i funkciju ljudskih socijalnih interakcija. [00:02:45] Sada postoji klasa problema kolektivnog delovanja socijalnih interakcija koja su poznata kao problemi koordinacije. To su problemi u kojima moramo raditi zajedno da bismo stvorili nešto korisno. A ponekad ove probleme rešavamo stvaranjem centralizovanih institucija poput policije, sudova ili vlada. Ali često smo u stanju da rešimo probleme kolektivnog delovanja koji zahtevaju koordinaciju ili saradnju sa velikim brojem ljudi na decentralizovan način. U stvari, mi smo evoluirali da imamo ovu sposobnost. A jedan specifičan tip problema kolektivnog delovanja s kojim bih želeo da započnem danas je zapravo koordinacija.
Dakle, na primer, da bi izbegli ovu saobraćajnu gužvu, ljudi moraju da se koordiniraju da urade nešto drugačije od svojih komšija. Dakle, ako svi napuste svoje kuće u isto vreme, svi će biti zaglavljeni u saobraćajnoj gužvi. Ali ako malo pomeraju vreme odlaska i odlaze u razmacima, onda niko ne bude u saobraćajnoj gužvi. Sada, naravno, možete imati neku vrstu centralne vlasti koja bi koordinirala ovo. Vi napuštate prvi, pa vi, a zatim vi. [00:03:45] Ali idealno, ono što biste želeli je neka vrsta decentralizovanog, netop-down načina na koji se ljudi koordinišu da reše ovaj problem.
Dakle, ovo je bio naš prvi eksperiment objavljen 2017. godine o takvim hibridnim sistemima koji su istraživali kako bi veštačka inteligencija mogla pomoći u takvom izazovu. Istražili smo performanse ljudskih grupa koje su bile angažovane u zadatku koordinacije. Naša paradigma bila je da pozajmimo iz računarstva nešto što je poznato kao problem obojenja grafova. To je klasičan problem u računarstvu. Ali ono što smo uradili je da smo to uzeli i stavili ljude u tu situaciju. Uzimamo 4.000 ljudi i stavljamo ih u 230 online grupa. Ti ljudi su smešteni u te grupe. Randomno su dodeljeni na mesto unutar veštačke mreže koju smo kreirali, čija je struktura približno podsećala na prave ljudske mreže. Smestili su ih u ta mesta i rekli su im da su dodeljeni jedna od tri boje, [00:04:46] ljubičasta, narandžasta, ljubičasta, narandžasta i roza. I rekli su im da moraju da izaberu boju koja nije slična onima od svojih komšija.
I dobili su pet minuta da to urade. Tako da bi ovi ljudi gledali oko sebe na svoje komšije. Svaka osoba bi gledala oko sebe i govorila, poput, ovaj momak ovde je roze. Vidi da ima roze komšiju i narandžastog komšiju. Ono što bi trebalo da uradi je da pređe na ljubičastu boju. A crvene linije ovde označavaju konflikte boja. Drugim rečima, ako su dve boje susednih čvora iste, dobijaju crvenu liniju. A ljubičaste linije pozadine označavaju strukturu socijalnih interakcija. Tako da stavite ljude ovde. Gledaju oko sebe na svoje komšije svake sekunde ili sekunde i po. Prave prelaz u skladu sa ciljem da svi oni odaberu boju koja se razlikuje od njihovih komšija u narednih pet minuta. I ako to urade, tada i samo tada će biti plaćeni. Platiću vas da radite zajedno. I ako svi radite zajedno na decentralizovan način da rešite problem, svi ćete biti plaćeni. U suprotnom, ne dobijate ništa, u redu? Tako da, evo šta se dešava u ovom eksperimentu. Ovde na x-osi je vreme u sekundama do oznake od pet minuta. [00:05:47] Igra traje pet minuta, dolje ovde negde. A ovde na y-osi je ciljana funkcija ili broj konflikata boja. I tako ovde na početku, ima 12 konflikata boja. Slučajno su dodeljene svoje početne boje. I to je prikazano ovde na ovoj maloj histogramu. I tako ljudi počinju da gledaju oko sebe i menjaju svoje boje. Znate, menjaju i menjaju. I dolaze do ovog trenutka gde su sada došli do situacije u kojoj postoji konflikt boja između ove dve osobe. A ovaj konflikt, međutim, je ono što nazivamo nerazrešivim konfliktom. Tako da su svetlo narandžaste linije razrešivi konflikti. To je ovaj tip ovde. Može da se premesti na ljubičasto koje rešava konflikt. Ali ovi momci ovde koji su narandžasti, nema poteza koji mogu da naprave da smanje broj konflikata boja u njihovoj okolini, zar ne? Ovaj momak ne može da pređe na ljubičasto jer, zapravo, ako pređe na ljubičasto, imaće više konflikata. Ima, kao, četiri ljubičasta komšije. I ne može da pređe na roze jer ima dva roze komšije. Tako da gleda i kaže, pa, najmanje konflikata imam ako ostanem narandžast. Tako da je sada ova grupa zapela, zar ne? [00:06:49] Imaju nerazrešiv konflikt i ništa se ne može desiti. Nema napretka u rešavanju problema kolektivnog delovanja dok jedan od ovih dvoje ljudi ne napravi nesvakidašnji potez, pređe boje na ljubičasto ili roze, i privremeno poveća konflikte. I to je zapravo ono što se dešava. I vreme prolazi, a ljudi na 245 sekundi rešavaju problem. Mašina detektuje rešenje, zaustavlja igru i plaća ih, u redu?
Sada, zbog toga što smo bili lukavi, ono što smo uradili je da smo sproveli neka eksperimentisanja gde smo potajno zamenili neke od ljudskih bića sa botovima. I procenili smo kako dodavanje AI-osposobljenih botova u hibridni sistem utiče na grupnu izvedbu. Da li je moguće dodati neke botove ljudskim grupama i poboljšati njihovu sposobnost koordinacije kada se suočavaju sa takvim izazovom? Ono što smo uradili je da smo dodali tri bota, i eksperimentalno varirali dva osovine. Gde su botovi bili smešteni, gde su nasumično pali u mrežu, gde su postavljeni u [00:07:51] centar mreže, ili gde su postavljeni na periferiju mreže. I nasumično smo manipulisali njihovim AI kapacitetom na vrlo trivijalan i jednostavan način. Naime, manipulirali smo time da li su botovi delovali sa savršenstvom ili su delovali sa malo šuma.
U situaciji savršenstva, svakih jedan i po sekundi, botovi su gledali oko sebe kod svojih suseda, a zatim su birali boju koja je imala najmanje sukoba sa svojim susedima. Ono što možete smatrati iracionalnim ponašanjem. U situaciji sa 10% šuma, radili su to, ali 10% vremena, birali su nasumičnu boju. A u situaciji sa 30% šuma, radili su to, ali 30% vremena, birali su nasumičnu boju. Tako smo učinili botove, da kažemo, sve više sklone greškama, sve više bučne.
I onda smo se osvrnuli na to, imali smo, mislim, nešto poput, hajde da krenemo sa kontrolnom grupom. Ovdje smo prikazali na x-osu vreme, a ovo su krive preživljavanja. Na y-osu je verovatnoća da grupa u celini nije rešila koordinacijski zadatak. Tako da ovde, ako pogledate ovde, na primer, na početku, na vreme nula, [00:08:51] 100% samo ljudskih grupa, sesija sa samo ljudima, je u narandžastoj boji. Na početku, 100% grupa isključivo sastavljenih od ljudi nije rešilo igru. A onda kako vreme prolazi, sve više i više ljudskih grupa rešava igru, tako da do kraja pet minuta, možda 60% grupa isključivo sastavljenih od ljudi je rešilo igru.
Pa, ono što se dešava je da, ako stavite 10% bučnih botova u središnju poziciju mreže, dobijate uočljivo poboljšanje performansi. Ovde, znatno više grupa ljudi je, kada su botovi sa malo buke dodati u sredinu, moglo da reši problem. U stvari, smanjili su medijano vreme rešenja sa 232 sekunde na 103 sekunde. I postoje i druga otkrića u ovim podacima. Savršeni botovi i previše bučni botovi su bili neod pomoći. Potrebna vam je mala kalibracija. Bilo je 10% bučnih botova koji su bili najkorisniji, a takođe je pozicija botova imala neki uticaj. Ali, ključno u ovom eksperimentu, takođe smo otkrili da su ljudi koji nisu bili povezani sa botovima, [00:09:52] koji su bili dalje u mreži, počeli da menjaju način na koji su igrali. Tako da je postojala domino reakcija, kaskadni efekat. Koristi od načina na koji je bot komunicirao sa ljudima proširili su se kroz mrežu i počeli da utiču na interakcije između ljudi dalje i dalje u mreži. Drugim rečima, botovi su pomogli ljudima da pomognu sebi, a koristi buke su se rasporedile unutar ovog društvenog sistema.
Sada, dozvolite mi da dodatno razjasnim ideje o ovom kolektivnom izazovu i kako bi vam ovi jednostavni AI agenti mogli pomoći kroz drugu analogu. Zamislite da imate ravnu površinu. Ovo je slično prilikom opadanja gradijenta u mašinskom učenju, na primer. Dakle, imate ravnu površinu, i imate brda i brdo. I imate različita brda, u redu, različitih visina. I imate brdo visoko ovde koje je najviše. Dakle, spuštam, uzet ću vas četvoricu, i spušteni ste negde ovde, i zavezaću vas zajedno, svaki od vas gledajući u različitom pravcu, [00:10:54] i staviti vam povez preko očiju. I kažem vam, pronađite najviše brdo. Dakle, razgovarate među sobom i kažete, pa zašto ne bismo svi napravili korak u našem pravcu i izvestili tim? Dakle, vi napravite korak na sever i kažete da je ovde uzbrdo. Jug kaže da je ovde nizbrdo. I istok i zapad kažu da je ovde bočno. Dakle, svi se slažete, hajde da napravimo korak na sever. I nastavite to da radite iterativno dok ne dođete do trenutka kada svi kažete da je ovde nizbrdo.
Da li ste pronašli najviše brdo? Ne. (...) Šta ste uradili? Pronašli ste najbliže brdo.
Da li ćeš ikada naći najvišu planinu? Ne. Nikada nećeš naći najvišu planinu. Zapečatio si se. Lokalne optimizacije su tu, ali globalna nije. Da bi globalno optimizovao, treba ti malo buke. Povremeno treba da dozvoliš ovoj grupi ljudi da naprave kontraintuivan korak niz planinu ili niz brdo. Oni povremeno uzimaju niz stepenica, ponekad slučajno, sve dok se ne vrate na ravnu površinu. Tada se kreću po ovom pejzažu kondicije, istražujući sve te vrhove dok ne završe na ovom vrhu. [00:11:56] A ovaj visoki vrh, globalni optimum, obično je prijemno stanje jer treba mnogo više buke da bi se sišlo s tog vrha nego sa drugih vrhova. I sada osciliraš oko globalnog optimuma. U našem radu istražujemo ovu vrstu jednostavnog programiranja koja je integrisana u društvene sisteme da vidimo da li možemo poboljšati performanse ljudi u rešavanju raznih vrsta kolektivnih akcijskih problema.
Sada se suočavamo sa još jednim kolektivnim problemom, koji predstavlja drugačiji izazov, a to je saradnja, a ne koordinacija. Ljudi često moraju da sarađuju kako bi proizveli ono što je poznato kao javno dobro. A svetionik je jedan od klasičnih primera javnog dobra. Javno dobro ima dve klasične osobine. Prvo, naziva se neisključenim. To znači da druge osobe ne mogu biti sprečene u korišćenju. Ako izgradite svetionik za svoje lične potrebe, jer plovite morem i ne želite da se sudarite sa obalom, to je odlično za vas, ali ne možete sprečiti nikoga drugog da ga koristi, u redu? Neisključno. [00:12:58] Takođe, ne predstavlja rivalstvo. To znači da potrošnja jedne osobe ne smanjuje potrošnju drugih. Ako koristim svetlost mog svetionika, za vas nema manje svetlosti da koristite. A ovo je suprotno, na primer, komadu torte. Ako imam komad torte, on je moj, zar ne? Mogu da vas sprečim da ga pojedete. A ako ga pojedem, za vas više nema, u redu? Dakle, javno dobro ima ove osobine, a te osobine čine veoma teškim proizvodnju javnih dobara. Jer kada se radi o izgradnji svetionika, veoma je primamljivo postaviti svoje lične interese naspram grupnih. Ako ne doprinosite izgradnji svetionika, i dalje možete imati koristi od njega. I svi su skloni da ne urade ništa, i onda svetionik ne bude izgrađen na štetu svih. Takođe je važno naglasiti da su javna dobra korisna, jer zapravo možete proizvoditi stvari s njima, kao što je sigurno plovidba morem. Kao takvo, nedovoljno investiranje u javna dobra predstavlja ozbiljan problem u našem društvu, i takođe je postalo poznato kao tragedija zajedničkog. Ova javna dobra, na primer, norme poverenja koje održavamo među nama su efikasna. [00:14:01] Setite se kada ste bili u srednjoj školi. Neki od vas su išli u srednju školu u kojoj su studenti verovali jedni drugima, i to je značilo da ste mogli ostaviti svoje rančeve nasamo u hodniku bez brige da će ih neko ukrasti. Drugi od vas su išli u srednje škole u kojima nije postojala ista norma poverenja, i sada ste morali da zaključavate svoj ranac ili da ga držite sa sobom uvek. U kojem od ta dva okruženja mislite da biste imali bolje učenje? U redu? U prvom okruženju. Dakle, ta norma koja se održava kolektivno je produktivna. U tom slučaju, produktivna je za učenje. Ovde, produktivna za sigurnu plovidbu morem i tako dalje.
Dakle, saradnja u ljudskim grupama za proizvodnju javnih dobara je izazovna, i potrebni su različiti mehanizmi da se to održi. I uradili smo mnogo eksperimenata koji uključuju stavljanje ljudi u mrežne grupe i traženje od njih da igraju različite vrste igara javnih dobara sa svojim komšijama, manipulišući mnogim strukturnim i drugim karakteristikama tokom godina. Na primer, započeli smo pre godina sa experimentom u kojem su ljudi stavljeni u mrežu poput ove. Upoznati su sa svojim komšijama, i igrali su igru javnih dobara iz, recimo, ponašajne ekonomije, [00:15:03] gde sam mogao da dam malo novca svakom od svojih komšija. Recimo, uzmem dolar, i podelim ga među svojim komšijama. A zatim naučnici udvostručuju dolar. Pretpostavimo da imam četiri komšije. Recimo, da imam tri komšije, i dam dolar grupi. Taj dolar se pretvara u dva dolara. Ta dva dolara se dele među nas četvoro. Tako da cela grupa dobija bogatstvo od dva dolara, ali ja dobijam samo 50 centi. Ta dva podeljena sa četiri, dobijam 50 centi. Dakle, moram da napravim žrtvu za dobrobit drugih. Naravno, svi kažu, ne želim da žrtvujem. Neka svako drugi da novac. Neću dati ništa, i nadam se da će drugi doprineti. Ali, naravno, ako to svi urade, ponovo dolazi do kolapsa. A najbolje ponašanje je ako svi maksimalno doprinosi. Dakle, ovde u ovoj situaciji, započinjemo igru. Plave tačkice su, plavi ljudi su simpatični kooperativni ljudi. Oni maksimalno doprinose svojim komšijama, i stvaraju javna dobra, poput izgradnje svetionika. A crvene tačkice su eksploatatori koji ne daju nikakve doprinose, što je takođe poznato kao defektori. I ono što otkrivamo u ovom eksperimentu je da reprodukujemo rezultat koji je poznat već 30 godina, [00:16:03] a to je da saradnja kolapsira u grupama, zar ne? Na kraju igre, više rundi kasnije, skoro svako postane defektor, osim ovih malih plavih ljudi ovde sa strane, koji održavaju civilizaciju na životu, znate, među sobom. Takođe možete povremeno pomisliti, opet da pozovete srednju školu za studente. Setite se te situacije u kojoj je vaš nastavnik nauke dodelio četvoro vas da radite grupni projekat, i dobićete istu ocenu. I dodeljeni ste četvorici drugih gubitnika. Dakle, sada imate dva izbora. Ili sve uradite sami, i oni takođe dobijaju A, jer želite A. Ili kažete, to je besmislica. Ne želim da ovi lenjivci dobiju korist od mog truda. I kažete, neću ništa uraditi, i svi ćete dobiti F, zar ne? To je strašna dilema. Pa, šta se ovde dešava je da na kraju ljudi biraju tu drugu opciju. Svi biraju da dobiju F, jer ne žele da budu budale i neprekidno doprinose. Dakle, saradnja kolapsira u socijalnim sistemima kao opšti rezultat. Ali ono što smo uradili je, još jednom, da smo dodali neke, iako različite, botove u sistem. Dodali smo neke botove koji su bili opremljeni vrlo jednostavnim A. [00:17:05] I ti botovi su bili poput malih posrednika u braku. Posredovali su u socijalnim interakcijama. Gledali su oko sebe lokalno ko se s kim druži, i davali su sugestije ljudima u sistemu. Znate šta? Trebalo bi da prekinete vezu sa tim defektorom koji vas koristi i da se povežete sa ovim simpatičnim čovekom ovde umesto toga. I ovaj blagi savet o preusmeravanju koji koristi samo lokalno znanje. Nema učitelja koji naređuje ljudima da budu ljubazni. Nema policije. Nema suda. Nema centralizovane vlasti koja to sprovodi. Samo radeći na lokalnom znanju, otkrili smo da bi ti botovi mogli, u našim eksperimentima sa preko 1.000 ljudi u 64 grupe, ne samo da stabilizuju saradnju, već smo po prvi put došli do rezultata da bi saradnja mogla zapravo da poraste od osnovne linije kada su ovi tipovi botova dodati. A DeepMind je kasnije replicirao naše rezultate i proširio ih u drugom radu koji se pojavio otprilike godinu dana ili dve nakon ovog.
U još jednom eksperimentu, istraživali smo kako botovi mogu uticati na grupnu kreativnost. [00:18:07] jer pronalaženje novih ideja je teško. Teorija i eksperimenti sugeriraju da grupe možda mogu bolje da identifikuju i očuvaju inovacije od pojedinaca deljenjem svojih otkrića.
Međutim, inovacija unutar grupa se suočava sa svojim izazovima, uključujući grupnu pomisao. Tako je? Ako okupljate grupu ljudi, oni se mogu prerano usmeriti na suboptimalnu ideju.
Ili možete zamisliti, trebali biste zamisliti, da grupa ljudi možda kolektivno ima veću mudrost, možda mogu smisliti više ideja. Na primer, ako damo grupi ljudi zadatak da usavrši ribarsku štapu, znate, prva osoba može reći, zašto ne stavimo udicu na kraj nekog konca? A zatim osoba drži konac s udicom. I neko kaže, zašto ne stavimo štap uz konac? Oh, to je sjajna ideja. Tako oni kombinuju svoje znanje i rade to. A neko kaže, pa, mamac s udicom pluta na površini. Hajde da dodamo talas da ide dole. Pa, sada ide previše duboko. Šta kada dodamo boju kako bismo znali gde je i tako dalje. I tako ljudi inoviraju, dele znanje među sobom, čuvaju znanje kroz vreme, [00:19:08] i dobijate te kulturne artefakte koji su spojeni proizvod višestrukih ljudi koji dele ideje i budu kreativni.
Želeli smo da kreiramo igru u kojoj grupe ljudi pretražuju pejzaž za optimalnom idejom. Odlučili smo da koristimo imenice kao posrednika za ideje. Uzimamo 20.000 imenica iz klasičnog korpusa reči za kompjutersku nauku. Dakle, uzeli smo 20.000 imenica. Udaljenost između ovih imenica mogla je da se definiše metrikom kosinusne sličnosti. Možete zamisliti hiperdimenzionalni vektorski prostor u kojem je mačka sličnija psu nego stolu. Način na koji su to uradili je da su posmatrali koliko često su reči mačka i pas zajedno pojavljuju na veb sajtovima. Tako su imali univerzum veb sajtova i univerzum od 20.000 imenica. Rekli su da se ove dve imenice često zajedno pojavljuju, dok se ove druge dve ne pojavljuju često zajedno. Kreirali su vektorski prostor od 300 dimenzija. [00:20:08] Sada možete opisati koliko su slične bilo dve imenice. Odlučili smo da koristimo imenice kao posrednika za ideje. Uzimamo ovih 20.000 imenica. Zatim biramo set imenica. Zamislite da smo izabrali jednu imenicu, ali smo izabrali set. Jednu imenicu nasumično iz svih ovih, kao što je braggadocio, na primer, bila je imenica. Tako da smo izabrali braggadocio. I kažemo da je to savršena ideja koju želimo da ova grupa ljudi pronađe. A zatim sve imenice koje su blizu braggadocio ispadnu u ovom vektorskom prostoru. Dakle, imate vrhunski imenicu koja dobija najviše poena, 20.000 poena, i sve ostale imenice su daleko. I stavili smo ljude u ovaj sistem i rekli im, pronađite ovu reč. Ne govorimo im reč. A zatim im kažemo vrednost poena reči. Tako da počinju da pogađaju. I dok pogađaju, dobijaju povratne informacije. I kažu, ah, ova reč ima više poena od druge reči. I približavaju se i počinju da dele znanje jedni s drugima. Pokušavaju da budu kreativni kako bi rešili problem.
Svaki imenica je povezana s drugima u semantičkom prostoru ili neuređenom pejzažu. [00:21:10] Imali smo 18 različitih ciljanih imenica, kao da smo izvukli vrh iz pejzaža ovih 20.000 imenica na 18 različitih lokacija u 18 različitih pejzaža. Ove imenice su bile namerno neobične, poput bratoubistva, ušice, sarkoma, kartografija i tako dalje. Zatim smo sproveli eksperimente koji su uključivali nekoliko uslova gde su ljudi bili sami pokušavajući da navigiraju pejzažom, gde su ljudi bili u grupama radeći zajedno na navigaciji pejzažom, ili gde su ljudi bili u grupama, ali su takođe imali neke botove koji su pokušavali da im pomognu da budu kreativni. Botovi su funkcionisali jer su mogli da prenose informacije iz jedne regije mreže u drugu komunicirajući jedni s drugima. Na primer, bot broj dva mogao je da prenese reč nebo ili auto botu broj jedan. Tako da je ovo primer mreže.
Mi ubacujemo ljude. Kvadratne tačke su botovi. Ovaj bot ima četiri interakcije, a ovaj bot ima, ne znam, šest ili sedam interakcija. Ljudi na početku počinju da pogađaju. [00:22:12] Oni nemaju nikakvu osnovu za pogađanje u prvom krugu igre. Pogađaju nebo, auto, zeca, pacova, psa, mačku, sto. Kao da vas pitam, izaberite imenicu da pogodite, vi biste odabrali kuću ili sunce ili mesec ili mačku ili psa ili neku malu tipičnu imenicu. I sada im se govori vrednost poena, koliko je reč pacov, pas, mačka, sto i tako dalje slična reči sarcoma. I oni dobijaju vrednost poena tih imenica u odnosu na ciljnu imenicu, koja je sarcoma. A zatim se te vrednosti poena objavljuju. I onda ovaj bot može da pogleda vrednosti poena ljudi oko njega i može da prenese ili slučajan izbor ovom botu ili najvišu ili najnižu vrednost poena, neka vrsta tajne komunikacije koja širi informacije iz jednog dela grupe ljudi koja pokušava da reši problem u drugi deo. Dakle, hajde da pogledamo nekoliko primera da bismo to pojasnili, jer ovo može biti teško razumeti. Ljudi su igrali ovu igru oko 25 krugova. I evo kosinusne sličnosti s ciljnim imenom, što je reč fratricide. U redu, dakle, tu je 20.000 imenica. [00:23:13] Fratricide ima 20.000 poena. A druge reči imaju druge poene. A evo i jednog pojedinca, osobe koja pogađa sama. Dakle, njihovo prvo pogađanje je bit. I govore im koliko je slična reč bit reči fratricide. A zatim njihovo sledeće pogađanje je rođenje. I dobijaju veliki porast u kosinusnoj sličnosti, jer možete zamisliti da je reč rođenje bliža reči fratricide nego reč bit. U redu? A zatim pogađaju. Sledeće pokušavaju sa novcem. To je još gore. Tada pokušaju s majmunom. To je još gore. Provere. Obavljaju provere zdravlja. Pokušaju sa rođenjem. Ponovo raste. Tada pokušaju sa bebom. To nije loše pogađanje. Rođenje do bebe. Ali beba ih udaljava od fratricide. A zatim dama i tako dalje. I navigiraju. I pogađaju. I pogađaju. I pogađaju. I na kraju ne dobijaju ništa blizu fratricide. Sada u ovoj drugoj situaciji imamo grupu ljudi, ali bez botova. I sada ljudi mogu, pored svojih pogađanja, videti pogađanja ljudi oko sebe. I nadograditi ideje drugih. U redu? Stvoreno. Kao da zajedno prave štap za pecanje. [00:24:13] Tako ova osoba, njihovo prvo pogađanje je pas. Ali njihovo sledeće pogađanje je štit. Možete videti da je štit bliže fratricide nego pas. I ova osoba pogađa i pogađa i dobija povratne informacije od svojih komšija. I na kraju dolazi sve bliže. Završava sa rečju protivnik. U redu? zapravo, vojnik je bio njegov najbolji odgovor. Imao je najvišu vrednost poena tokom svog putovanja.
Dakle, kako je dodavanje botova imalo značaj? Ovo ponovo pokazuje sažetak rezultata. Na x-osi je runda. Na y-osi je srednja kosinusna sličnost u ovom hiper-dimenzionalnom vektorskom prostoru, što je mera grupne performanse. A ovde je grupa ljudi koja deluje, pogađa samostalno. Dakle, ljudi koji pogađaju sami ne rade baš najbolje, zar ne? Oni, znate, to je samo sreća da li mogu nekako, ili, znate, neka urođena sposobnost svakog pojedinca. Postaju malo bolji s vremenom, bliže se. Sve grupe su bolje od solo pokušaja. I ovo je stara poznata stvar. Grupa ljudi je kreativnija od sličnog broja samostalnih praktičara. Ali ono što otkrivamo je da, ako dodamo najličnijeg bota, bota koji gleda svoje komšije, [00:25:17] i saznaje, šta je njihov lokalni konsenzus ovde? Moji ljudi čini se da misle da je ovo dobra reč. A zatim to prosledi bota na udaljenom delu mreže. Taj bot je značajno poboljšao performanse ove grupe ljudi da naprave otkriće. Trebalo bi da možete da zamislite kako bi ovo moglo funkcionisati u grupi inženjera ili bilo kojih drugih radnika u oblasti znanja. Kako, na primer, možete efikasno distribuirati znanje, izbegavajući grupno razmišljanje i podstičući kreativnost, dizajniranjem botova koji pomažu ljudima da pomognu sebi. Ovaj bot ovde nema mozak. Ne, ne sugeriše sam ideje. Samo pomaže ljudima da šire ideje među sobom.
Dakle, jednostavni AI agenti sa razumljivim ponašanjem mogu poboljšati kapacitet za kreativna otkrića u ljudskim grupama deljenjem ideja oko kojih postoji lokalni konsenzus u jednom delu grupe s ljudima u udaljenom delu grupe. I kao rezultat toga, grupa može bolje performirati.
Sada smo takođe počeli da eksperimentišemo sa fizičkim sistemima. Dodali smo humanoidne i nehumanoidne robote [00:26:19] opremljene jednostavnom veštačkom inteligencijom u interakcije uživo između ljudi i pokazali kako im to može olakšati saradnju tako što će im pomoći da prevaziđu trenja ili nemogućnost saradnje u svojim interakcijama. Jedan od mojih omiljenih primera je eksperiment koji sam uradio sa svojom bivšom studentkinjom, Maggie Traeger, koja je sada asistenta profesorica na Notre Dameu, i to je ovaj eksperiment. U ovom eksperimentu, uzeli smo troje pravih ljudi koji su došli u laboratoriju i humanoidnog robota. Dizajnirali smo malu igru, igru sa železničkom prugom, koja se igra na tablet računaru, a ova grupa ljudi i robot imali su zadatak da postave železničku prugu od tačke A do tačke B, kao male železnice iz filma Tomas the Tank Engine. Zatim smo im dali nekoliko delova koje su mogli da biraju na tabletu, kao što su ravni i zakrivljeni delovi. Međutim, povremeno smo ih doveli u zabludu, iako je izgledalo da ima mešavine delova i da bi teoretski mogli da pređu od tačke A do tačke B, zloćudno smo to osmislili tako da nije bilo pravog broja zakrivljenih delova da im omogući da pređu od tačke A do tačke B. [00:27:21] Nisu mogli to da urade. Nisu mogli da reše problem, a da to ne znaju. U redu? Dakle, prvo bi svaka osoba imala svoj red da postavi deo pruge, zatim sledeća osoba, i sledeća osoba. Radili su zajedno da povežu tačku A sa tačkom B na svojim tabletima.
I ono što smo uradili u ovom eksperimentu je da smo manipulisali, i oni su igrali 30 rundi ove igre u ovom virtuelnom svetu, i imali smo 51 grupu, manipulisali smo stilom razgovora robota, specifično da li je robot izražavao ranjivost priznajući grešku. Tako je robot rekao, znate, napravio sam grešku. Ili je robot pričao tate viceve. Pretpostavljam da svi znaju šta su tate vicevi. U redu. Takođe smo imali robota koji je pričao, inače, to je kulturni univerzal, kao što su antropolozi u Amazoniji proučavali indijanske narode, i očevi tamo takođe pričaju tate viceve. A deca se pitaju, ne mogu da verujem kako su očevi glupi vicevi. U svakom slučaju, postoji teorija o tome šta tate vicevi znače, da na neki način ojačaju decu. Ovo je teorija. U redu. Ali to je već druga tema. U svakom slučaju, imali smo naše robote da pričaju tate viceve ili izraze ranjivost. [00:28:21] A ono što nas je zanimalo je da otkrijemo da li promene u govoru robota imaju moć da ne samo da utiču na to kako ljudi komuniciraju s robotima, već i kako ljudi komuniciraju jedni s drugima. I još jednom, ovo nudi perspektivu modifikacije socijalnih interakcija uvođenjem veštačkih agensa u hibridne sisteme ljudi i mašina.
Evo mali primer o tome, oh, i nisam vam rekao rezultate. Evo, kada imamo, ovi, debljina ovih linija, postavili smo video kamere da pratimo ko razgovara sa kim i koliko razgovaraju. A debljina ovih linija pokazuje koliko osoba dva razgovara sa osobom jedan i tako dalje. Osoba jedna ne priča mnogo sa robotom. To je tanka linija. Kada imate neutralne robote, dobijate ovaj obrazac. Ali kada imate ranjivog robota, sve te linije postaju deblje i izjednačavaju se. Dakle, otkrili smo da je ranjivi robot povećao jednakost govora među ljudima, povećao obim govora među ljudima i zapravo, u odvojenim rezultatima, [00:29:22] povećao zadovoljstvo ljudi u toj vrsti okruženja.
A evo samo jednog isječka iz dva različita kruga koji ilustruju da robot prvo govori na neutralan način, u pasivnom glasu, što mnogo ne utiče na ljudsku komunikaciju. Robot kaže, na vrlo Reagan-ovski način, napravljena je greška.
Ali u sledećem krugu, robot kaže, napravio sam grešku. I samo možete posmatrati šta se ovde dešava. Hajde da vidimo možemo li ovo da pokrenemo. (25 sekundi pauze) Dakle, tokom mnogih, mnogih desetina proba, ovo je vrsta obrasca koju nalazimo. Dakle, jednostavna manipulacija, jednostavna manipulacija u govoru robota menja kako ljudi međusobno komuniciraju. [00:30:25] I ne, pretpostavljam, ne treba mnogo mašte da se zamisli kako ceo način na koji dizajniramo naše chat bote i sve ostalo može uticati ne samo na primer sa Aleksom koji sam vam doneo na početku, kako se tretiramo. Čini se da se ljudi više međusobno poveravaju i imaju više zabave u ovoj situaciji.
Sada ovde još uvek, i mislim da je ovo poslednji eksperiment koji ću vam pokazati a zatim ću završiti, u još jednom eksperimentu, razvili smo nov pametni fizički sistem za testiranje takvih društvenih i zaista etičkih efekata jednostavnih tipova veštačke inteligencije. Pošto, s obzirom na prirodu problema kolektivnog delovanja, uključivanje veštačke inteligencije u ljudske grupe moglo bi paradoksalno i nenamerno potisnuti postojeće korisne društvene norme kod ljudi, kao što su one vezane za saradnju i altruizam koje smo kao vrsta razvili. Tako da imamo stotine hiljada godina prirodne selekcije koje deluju na nas kako bismo postali sposobni da rešavamo probleme kolektivnog delovanja. Tako je pitanje, pa, ako deo te agencije delegiramo mašinama, da li ćemo izgubiti sposobnost da radimo zajedno na rešavanju tih problema? [00:31:32] Hoćemo li početi da se oslanjamo na ove mašine, i tako sada degradiramo našu urođenu sposobnost da sarađujemo i koordiniramo i stvaramo itd.? Tako da smo u ovom eksperimentu, u saradnji sa Hirom Shiratom na CMU, još jednim bivšim studentom mog diplomskog, izgradili platformu koja je uključivala dva mala Raspberry Pi opremljena mala mehanička vozila, i povezali smo je sa nekim softverom koji imamo, a koji nam omogućava da organizujemo online eksperimente na ogromnoj skali. Tako da su ljudi bili u svojim domovima, i dodeljeni su im jedan od ovih automobila, i vozili su te automobile jedni prema drugima,
i nateravno da su igrali igru piletine. Dakle, u piletini, znate, kao, ko brže stigne s jedne strane na drugu, pobedi. Tako da ste motivisani da ne popuštate drugome. Ali ako oboje odlučite da ne popuštate, onda se sudarite, i oboje dobijate najgori ishod. Tako da bi ljudi u ovoj situaciji, ako igrate ponavljanu igru piletine, brzo naučili da se smenjuju. Ovaj put je tvoj red da prođeš pravo, ja ću se povući i pustiti te, ali sledeći put ti se povlačiš i puštaš mene da prođem pravo. [00:32:35] Ako smo sebični, samo se nastavljamo sudarati jedni s drugima, uništavajući se iznova i iznova, ili glupo, oboje skrenemo, i nijedan ne dobija korist od prolaska pravo. Dakle, u ovoj situaciji, žuti auto odlučuje da se povuče, plavi auto jednostavno nastavlja bez prepreka sve do druge strane.
Koristili smo 300 učesnika i 150 parova, a plaćeni su u zavisnosti od toga koliko brzo su prešli na drugu stranu. Zatim smo dodali malo veštačke inteligencije. Dodali smo pomoć pri automatskom kočenju, gde se, kada je došlo do upozorenja o blizini, automobil kočio i pružio vam šansu da odlučite, e, trebam da se sklonim i pustim ovog drugog da prođe, ili obrnuto. Ili smo dodali pomoć pri automatskom upravljanju, što znači da je u trenutku kada je prišao drugom automobilu, jednostavno skrenuo, u redu? Takođe smo dodali minimalnu funkciju komunikacije, gde su ljudi mogli reći hvala, ili nešto slično. Samo minimalna komunikacija. Najpre smo pokazali da je pomoć pri automatskom kočenju, gde se automobili zaustavljaju na fiksnoj udaljenosti pre sudara, povećala ljudsku altruizam. [00:33:38] To jest, ustupanje put ljudima, kao što ovde radi žuti automobil. Dakle, dodavanje malo veštačke inteligencije za pomoć pri automatskom kočenju olakšalo je ljudima da zajednički rade i sarađuju u ovoj situaciji. Štaviše, omogućavanje ljudima da komuniciraju dodatno im pomaže da postignu uzajamne ustupke u uslovima automatskog kočenja. S druge strane, pomoć pri automatskom upravljanju, gde se automobil jednostavno skrenuo, potpuno je inhibirala pojavu reciprociteta među ljudima u korist maksimizacije ličnog interesa. Ljudi jednostavno prepuštaju svoju moralnu agenciju. Više se ne uzrujavaju. Prosto daju mašini da se ponovo skrene i odustaju, u redu? Tako su sve urođene etičke sposobnosti koje su ljudi imali sada uklonjene dodavanjem veštačke inteligencije u uslovima automatskog upravljanja, ali su poboljšane u uslovima automatskog kočenja. Ovo bi takođe trebalo da vas natera na razmišljanje. Trebalo bi da pomislite, oh Bože, svaka mala greška koju napravimo kada programiramo ove veštačke agenti može imati dobre ili loše efekte na prirodne sklonosti ljudi.
Sposobnost ljudi da sarađuju, menjaju se i deluju altruistički može se oslabiti, što na kraju može dovesti do loših kolektivnih i individualnih ishoda. [00:34:46] I zapravo, u kratkim crtama, AI može dovesti do vrste moralne lenjosti. (..) Evo jednog poslednjeg primera trajne promene nakon izlaganja AI u hibridnim sistemima. I to je takođe primer kako prisustvo AI može promeniti međuljudske interakcije, čak i nakon što AI više nije učesnik u tim interakcijama. Dakle, 2016. godine, DeepMind je razvio AlphaGo, i te iste godine, ovaj AI agent se takmičio protiv Lee Sedola, izvanrednog svetskog šampiona iz Koreje.
Gledao sam meč. Ne mogu da igram Go, ali ga smatram veličanstvenom igrom. Moj sin igra Go. (.) A stvarno sam navijao za Lee Sedola. Lee Sedol je kao heroj u Koreji, kao što bi imali, znate, velike sportiste na našim Wheaties kutijama i sličnim stvarima. Kao, njegova slika se nalazi na pakovanjima nudli i na pakovanjima žitarica. Mislim da je veličanstveno što u Koreji neki pametan momak poput mene postaje, znate, viđen kao važna osoba, u redu? Tako da je on veoma popularan u Koreji. I izlazi za prvi meč, a previše je samouveren. [00:35:47] Mogu da primetim da je previše samouveren. I gubi od mašine, a zatim se izvinjava svojim navijačima. Kaže: izvinjavam se. Igra se pet mečeva. Bolji je najbolji od tri od pet. Zatim igra drugi meč i ponovo gubi. A sada postaje ozbiljan. Tada igra treći meč i gubi. Izgubio je takmičenje.
I mogli ste na neki način da vidite publiku, a komentatori su se divili sposobnosti mašine da igra Go, izvodeći te čudne i lepe poteze, od kojih su neki kasnije otkriveni da su odigrani jer imamo zapise još iz davnina o Go mečevima koji su igrani na kineskom carskom dvoru. I mogli su da pronađu, oh, moj Bože, ovo je srednjovekovni potez koji je mašina izvela. Nismo ga videli tako dugo.
I onda se Lisa Dahl vraća na četvrtoj igri, i pobedi. (..) I plakao sam. Bio sam tako srećan. (..) Zato što je imao mašinu, znaš, vratio se za moju vrstu, i pobedio je prokletu mašinu. Kao, na herojskom, kao, nisam mogao da shvatim, kao, moć mozga koja je morala biti potrebna da bi Lisa Dahl to uradio. [00:36:49] Bio sam ekstatičan u tom trenutku, i tako ponosan na njega što se i dalje trudio, čak i nakon što je izgubio meč.
Sada, ono što je zanimljivo je kada je Lisa Dahl intervjuirana kasnije, Lisa Dahl je rekla da se njen način igre promenio nakon meča. Dakle, još jednom, AI pomaže ljudima da pomognu sebi, u redu? Menja način na koji igra zbog kontakta. A kasnije su druga istraživanja drugih naučnika proučila profesionalne Go igrače i analizirala srednju kvalitetu odluka. Postoji neki standard u Go-u za procenu kvaliteta poteza, i srednja novost, kao što je koliko je potez neobičan. I otkrili su da kada AlphaGo pobedi ljudskog svetskog šampiona 2016. godine, širom sveta, Go igrači počinju da prave bolje i inovativnije poteze, u redu? Dakle, svi ljudi koji igraju Go među sobom su se promenili zbog toga što je AlphaGo dodat. AI pomaže ljudima da pomognu sebi. Tako da nastavljamo da radimo na dizajnu i dodavanju jednostavnih botova za ovakve i druge situacije koje uključuju društvene dileme i probleme kolektivne akcije. [00:37:55] Gledamo kako botovi mogu uticati na koordinaciju, saradnju, komunikaciju, kreativnost, poverenje, navigaciju, deljenje i evakuaciju. U našem laboratoriji, ne fokusiramo se na super pametan AI, poput LLM-ova ili AlphaGo-a, kako bismo zamenili ljudsku kogniciju, već radije na glupom AI kako bismo dopunili ljudsku interakciju. Ne pokušavamo da izumimo super pametan AI da bismo zamenili ljudsku kogniciju. Izumljavamo glupi AI da bismo dopunili ljudsku interakciju. A naš AI može da bude glup jer su ljudi pametni. Naš AI je poput platine dodate u reakciju organske hemije. On je samo katalizator. Sve što nam treba je katalizator da pomogne grupi ljudi da postanu bolji.
I naravno, važno je priznati da je suprotno takođe moguće. Socijalna veštačka inteligencija može se koristiti za nanošenje štete grupama ljudi. Ali naš pristup nudi niz drugih tehničkih i konceptualnih prednosti. Prvo, ovi jednostavni botovi su razumljivi i jasno ilustruju šire moći i mogućnosti. Za razliku od LLM-a, koji su crna kutija i ne znaš šta rade, mogu ti tačno reći šta naš bot radi. [00:38:58] On pravi buku. Sklapa uvode. Prenosi poruke na ovu vrlo specifičnu način. I drugo, naši kontrolisani eksperimenti sa botovima mogu takođe pružiti uvid u to kako bi ljudsko ponašanje moglo korisno da se menja. Drugim rečima, mogu ovo iz laboratorije da prenesem i mogu naučiti grupu ljudi da rade ono što su naši botovi radili. Na neki način, ne možeš lako naučiti grupu ljudi da rade ono što je ChachiPT ovde uradio. Ne znamo šta ChachiPT radi, ali znaš šta oni rade u našoj situaciji.
Želeo bih da završim, ovo je moja poslednja slajd, metaforom. Razmislite o ova dva objekta. Obojica su napravljena od ugljenika. Ako povežete atome ugljenika na jedan način, dobijate grafit, koji je mekan i taman. Ako iste atome ugljenika povežete na drugi način, dobijate dijamant, koji je tvrd i jasan. Postoje dve ključne intelektualne ideje ovde. Prvo, ove osobine mekoće, tame, tvrdoće i jasnoće nisu osobine atoma ugljenika. To su osobine skupa atoma ugljenika. I drugo, koje osobine dobijate zavisi od toga kako povežete atome ugljenika jedni s drugima. Ako iste atome ugljenika povežete na jedan način, dobijate jedan skup osobina. [00:40:01] Povežite ih na drugi način, dobijate potpuno drugačiji skup osobina. Slično tome, priroda naših veza utiče na osobine naših društvenih grupa. To su veze između ljudi koje mogu učiniti celinu većom od zbira njenih delova. Nove osobine, kao što su saradnja i nasilje, inovacija i produktivnost, poverenje i nepovjerenje, istina i laž, bogatstvo i siromaštvo, zdravlje i sreća, mogu nastati i širiti se zbog veza, zbog obaveza između ljudi, a ne nužno samo zbog samih ljudi. U stvari, naše iskustvo sveta zavisi od strukture i funkcije mreža oko nas, blizu i daleko. A naša vrsta je evoluirala da bude takva. Ne bi nas trebalo iznenaditi da ćemo odgovoriti na AI u našoj sredini. Hvala vam puno.
