Nikola Christakis: [00:00:05] U redu, ljudska bića su ugrađena u socijalne mreže, a te mreže se podvrgavaju vrlo posebnim matematičkim, biološkim i socijalnim principima. I sve više dodajemo vještačku inteligenciju u obliku online agenata i fizičkih robota među nama koji komuniciraju s nama kao da su socijalne entitete. Ovi agenti koje ćemo dodavati našim sistemima kreću se od autonomnih automobila na cesti do blagajničkih mašina u prodavnicama, humanoidnih robota u domovima ili fabrikama ili na bojnim poljima ili u situacijama gašenja požara, do disembodied autonomnih agenata poput online botova i digitalnih AI asistenata u našim telefonima ili naočalama ili radnim mjestima. Ove tehnologije komuniciraju s nama na ravnopravnom terenu kao da su ljudi. I one će dovesti do hibridnih sistema ljudi i mašina. Ovi sistemi nude prilike za novi oblik socijalne vještačke inteligencije.
Sada, dozvolite mi da vam dam samo jedan primjer toga. Kada dobijete, recimo, digitalnog asistenta, poput Alexe, proizvođač te sprave veoma je zabrinut zbog interakcije čovjek-mašina. I ta interakcija čovjek-mašina je optimizovana. Na primjer, nikada ne biste kupili Alexu ako biste svaki put kada vam nešto zatreba morali reći, izvinite, Alexo, žao mi je što vas prekidam. Ako nemate ništa protiv, možete li mi, molim vas, reći riječ? [00:01:35] vrijeme sutra, zar ne? To bi se smatralo apsurdnim nivoom uljudnosti. Očekujete da možete reći, Alexo, vrijeme, i onda mašina poslušno odgovara. I to je u redu dok ne dovedete tu mašinu u svoj dom i vaša djeca razgovaraju s tom mašinom i nauče da budu nepristojna. A onda odu na igralište i budu nepristojna prema drugoj djeci. Tako da ta mašina koja je dodana među nas, nije samo o interakciji čovjek-mašina, već o interakciji čovjek-s čovjek u prisustvu mašina. I ono što me zanima nije, da li su to, interakcije čovjek-s čovjek u prisustvu mašina. I možemo koristiti razumijevanje strukture i funkcije društvenih mreža da procijenimo upotrebu i utjecaj socijalne AI unutar i na ljudske grupe, s obzirom na faktore kao što su povjerenje i saradnja koja je neophodna da bi grupe ljudi radile zajedno, uh, i koja utiče na ponašanje tih kolektivitetâ.
Dopustite mi da istaknem dio posla koji radimo, koristeći nekoliko pristupa mrežnim eksperimentima koji uključuju umjetnu inteligenciju. Ovi eksperimenti ocjenjuju kako bi AI mogla utjecati na strukturu i funkciju ljudskih socijalnih interakcija. [00:02:45] Sada postoji klasa problema kolektivnog djelovanja društvenih interakcija koja se nazivaju problemi koordinacije. To su problemi u kojima moramo raditi zajedno ako želimo stvoriti nešto korisno. Ponekad rješavamo ove probleme stvaranjem centraliziranih institucija poput policije, sudova ili vlada. No, često smo u stanju riješiti probleme kolektivnog djelovanja koji zahtijevaju da koordiniramo ili surađujemo s velikim brojem ljudi na decentraliziran način. Zapravo, evoluirali smo da imamo ovu sposobnost. A jedan specifičan tip problema kolektivnog djelovanja s kojim bih volio započeti danas je, zapravo, koordinacija.
Dakle, na primjer, da izbjegnu ovu saobraćajnu gužvu, ljudi moraju koordinirati kako bi učinili nešto različito od svojih susjeda. Dakle, ako svi krenu iz svojih kuća u isto vrijeme, svi su zaglavljeni u saobraćajnoj gužvi. No, ako, ako izmijene svoja vremena polaska i krenu u intervalima, tada niko nije u saobraćajnoj gužvi. Naravno, mogli biste imati neku vrstu centralne vlasti koja bi to koordinirala. Vi krenite prvi, pa vi, a zatim vi. [00:03:45] Ali idealno bi bilo imati neku vrstu decentraliziranog, ne-hijerarhijskog načina ljudskog koordiniranja za rješavanje ovog problema.
Dakle, ovo je bio naš prvi eksperiment koji je objavljen 2017. godine o takvim hibridnim sistemima koji su istraživali kako bi AI mogao pomoći s tako izazovnim zadatkom. Istraživali smo performanse ljudskih grupa koje su bile uključene u zadatak koordinacije. Naša paradigma je bila da posudimo iz računarstva nešto poznato kao problem obojenja grafova. To je klasičan problem u računarstvu. Ali ono što smo uradili je da smo ga uzeli i smjestili ljude u tu situaciju. Dakle, uzeli smo 4.000 ljudi i stavili ih u 230 online grupa. Ti ljudi su bili raspoređeni u tim grupama. I bili su slučajno dodeljeni na mesto unutar veštačke mreže koju smo stvorili, čija struktura je otprilike ličila na prave ljudske mreže. Poslali smo ih u ta mesta i rekli im da su dodeljeni jednoj od tri boje, [00:04:46] ljubičasta, narandžasta, ljubičasta, narandžasta i ružičasta. I rekli smo im da moraju izabrati boju koja se razlikuje od boja svojih suseda.
I dobili su pet minuta da to urade. Tako da bi ti ljudi posmatrali svoje komšije. Svaka osoba bi se pogledala i rekla, na primer, ovaj momak ovde je roze. On vidi da ima roze komšiju i narandžastog komšiju. Ono što bi trebao da uradi je da pređe na ljubičastu boju. A crvene linije ovde označavaju konflikte boje. Drugim rečima, ako su boje susednih čvorova iste, dobijaju crvenu liniju. A ljubičaste pozadinske linije označavaju strukturu socijalnih interakcija. Dakle, stavite ljude ovde. Oni gledaju oko sebe svakih sekundu ili sekundu i po. Prave promenu u skladu sa ciljem da svako od njih izabere boju koja se razlikuje od njihovih komšija u narednih pet minuta. I ako to urade, onda i samo tada će biti plaćeni. Platiću vas da radite zajedno. I ako svi radite zajedno na decentralizovan način da rešite problem, svi ćete biti plaćeni. U suprotnom, ne dobijate ništa, u redu? Dakle, evo šta se dešava u ovom eksperimentu. Ovde na x-osu je vreme u sekundama do pet minuta. [00:05:47] Igra traje pet minuta, dole ovde negde. A ovde na y-osu je funkcija cilja ili broj konflikata boje. I tako, na početku, postoji 12 konflikata boje. Nasumično su dodeljene svoje početne boje. I to je prikazano ovde na ovom malom histogramu. I tako ljudi počinju da se gledaju i menjaju svoje boje. Znate, menjaju i menjaju. I dolaze do ove tačke gde su sada dostigli situaciju u kojoj postoji konflikt boje između ove dve osobe. I ovaj konflikt, međutim, nazivamo nerazrešivim konfliktom. Dakle, svetložute linije su razrešivi konflikti. To je ovaj momak ovde. On može da pređe na ljubičasto i reši konflikt. Ali ovi momci ovde koji su narandžasti, ne postoji potez koji mogu da naprave da smanje broj konflikata boje u svojoj okolini, zar ne? Ovaj momak ne može da pređe na ljubičasto jer, zapravo, ako pređe na ljubičasto, imaće više konflikata. Ima kao četiri ljubičasta komšije. I ne može da pređe na roze jer ima dve roze komšije. Tako da gleda i kaže, pa, najmanje konflikata koje imam je da jednostavno ostanem narandžasti. Dakle, sada je ova grupa zaglavljena, zar ne? [00:06:49] Imaju nerazrešiv konflikt i ništa se ne može dogoditi. Nema napretka u rešenju problema kolektivnog delovanja dok jedan od ove dvojice ne napravi kontraintuitivni potez, pređe boje na ljubičasto ili roze, i privremeno poveća konflikte. I to se, zapravo, dešava. I onda vreme prolazi, i ljudi na 245 sekundi rešavaju problem. Mašina detektuje rešenje, zaustavlja igru i isplaćuje ih, u redu?
Sada, budući da smo bili pametni, ono što smo uradili je da smo sproveli neka istraživanja gde smo tiho zamenili neke od ljudskih bića sa botovima. I procenili smo kako dodatak AI-osposobljenih botova za stvaranje hibridnog sistema utiče na performanse grupe. Da li je moguće dodati neke botove ljudskim grupama i poboljšati njihovu sposobnost koordinacije kada se suočavaju sa takvim izazovima? Ono što smo uradili je dodali smo tri bota i eksperimentalno varirali dva osnova. Gde su botovi bili postavljeni, gde su nasumično upali u mrežu, gde su stavljeni u [00:07:51] centar mreže, ili gde su stavljeni na periferiju mreže. I nasumično smo manipulisali njihovim AI kapacitetom ovde na vrlo trivijalan i jednostavan način. Naime, manipulisali smo da li su botovi delovali savršeno ili su delovali uz malo grešaka.
U situaciji savršenstva, svake sekunde i po, botovi su gledali oko sebe i birali boju koja je imala najmanje sukoba sa svojim komšijama. Ono što biste mogli smatrati iracionalnim ponašanjem. U situaciji sa 10% greški, radili su to, ali 10% vremena birali su nasumičnu boju. A u situaciji sa 30% grešaka, radili su to, ali 30% vremena birali su nasumičnu boju. Dakle, učinili smo da botovi, da kažemo, postanu sve više skloni greškama, sve više bučni.
A onda smo gledali, imali smo, mislim, nešto poput, hajde da počnemo sa kontrolnom grupom. Ovde smo nacrtali na x-osi vreme, a ovo su krive opstanka. Na y-osi je verovatnoća da grupa u celini nije rešila koordinacionu igru. Dakle, ovde, ako pogledate ovde, na primer, na početku, u trenutku nula, [00:08:51] 100% samo ljudskih grupa, sesija sa samo ljudima, je u narandžastoj boji. Na početku, 100% grupa samo ljudi nije rešilo igru. A onda kako vreme prolazi, sve više i više ljudskih grupa rešava igru, tako da na kraju pet minuta, možda 60% grupa samo ljudi je rešilo igru.
Pa, ono što se dešava jeste da, ako stavite 10% bučnih botova na centralnu poziciju mreže, dobijate primetno poboljšanje performansi. Ovde, znatno više grupa ljudi, kada su botovi sa malo buke dodati u sredinu, moglo je da reši problem. U stvari, smanjili su prosečno vreme rešenja sa 232 sekunde na 103 sekunde. I postoje i druga otkrića u ovim podacima. Savršeni botovi i prebučni botovi nisu bili od pomoći. Trebalo je malo kalibracije. Bilo je to 10% bučnih botova koji su bili najkorisniji. Takođe, pozicija botova imala je neki uticaj. Ali, ključno u ovim eksperimentima, otkrili smo da ljudi koji nisu bili povezani sa botovima, [00:09:52] koji su bili dalje u mreži. Dakle, na grafikonima, postojali su neki ljudi koji su bili povezani sa botovima, a neki drugi koji nisu. Otkrili smo da su čak i ti ljudi počeli da menjaju način na koji su igrali. Tako je postojala spiralna efekte, kaskadni efekat. Dobici načina na koji je bot komunicirao sa svojim ljudima proširili su se kroz mrežu i počeli su da utiču na međuljudske interakcije sve dalje u mreži. Drugim rečima, botovi su pomogli ljudima da pomognu sebi, a koristi buke su se raspršile unutar ovog društvenog sistema.
Sada mi dopustite da dalje razradim ideje u vezi s ovim zajedničkim izazovom i kako bi vam ovi jednostavni AI agenti mogli pomoći uz još jednu analogu. Zamislite da imate ravninu. Ovo je poput silazne gradijente u mašinskom učenju, na primjer. Dakle, imate ravninu, i imate brda i planinu. I imate različita brda, u redu, različitih visina. I imate planinu ovdje gore koja je najviša. Dakle, spustit ću vas četvoricu, i spustit ću vas negdje ovdje, i zakovat ću vas zajedno, svaki od vas gleda u drugom kardinalnom smjeru, [00:10:54] i stavit ću vam povez preko očiju. I reći ću vam, pronađite najvišu planinu. Tako da vi razgovarate između sebe i kažete, pa zašto ne bismo svaki napravili korak u našem smjeru i javili timu? Tako da napravite korak na sjever, i kažete da je uzbrdo odavde. A jug kaže da je nizbrdo odavde. A istok i zapad kažu da je lateralno odavde. Dakle, svi se slažete, hajde da napravimo korak na sjever. I nastavite to ponavljati dok ne dođete do tačke kada svi kažete da je nizbrdo odavde.
Da li ste pronašli najvišu planinu? Ne. (...) Šta ste uradili? Pronašli ste najbliže brdo.
Sada, hoćeš li ikada pronaći najvišu planinu? Ne. Nikada nećeš pronaći najvišu planinu. Onda si zaglavljen. Lokalno si optimiziran, ali globalno si suboptimiziran. A da bi globalno optimizirao, potrebno ti je malo buke. Ponekad trebaš dopustiti ovoj grupi ljudi da napravi kontraintuitivni korak niz planinu ili niz brdo. Tako ponekad slučajno preuzmu niz koraka sve dok se ne vrate na ravninu. A onda istražuju cijeli ovaj pejzaž fitnesa, istražujući sve te vrhove, sve dok ne završe na ovom vrhu. [00:11:56] I ovaj visoki vrh teži, globalni optimum, ima tendenciju da bude prijemno stanje jer je potrebno mnogo više buke da bi se sišlo s tog vrha nego s drugih vrhova. I tako sada osciliraš oko globalnog optimuma. U našem radu istraživali smo ovu vrstu jednostavnog programiranja umetnutog u društvene sisteme kako bismo vidjeli možemo li poboljšati performanse ljudskih bića u rješavanju raznolikih vrsta kolektivnih akcijskih problema.
Sada, još jedan kolektivni problem djelovanja uključuje različiti izazov, a to je saradnja, a ne koordinacija. Ljudi često moraju sarađivati da proizvedu ono što se naziva javnim dobrima. A svjetionik je jedan od klasičnih primjera javnog dobra. Javna dobra imaju dvije klasične karakteristike. Prvo, nazivaju se neisključivim. To znači da se druge osobe ne mogu spriječiti da ih koriste. Ako izgradite svjetionik za vlastitu korist, jer plovite morem i ne želite udariti u obalu, to je odlično za vas, ali ne možete spriječiti nikoga drugog da ga koristi, okej? Neisključivo. [00:12:58] I također, nije rivalitetno. To znači da potrošnja jedne osobe ne smanjuje potrošnju drugih. Ako koristim svjetlo iz svog svjetionika, nema manje svjetlosti koju vi možete koristiti. A ovo je drugačije, na primjer, od komada torte. Ako imam komad torte, to je moje, zar ne? Mogu vas spriječiti da ga jedete. I ako ga pojedem, ne može biti dostupno za vas, okej? Dakle, javna dobra imaju ove karakteristike, i te karakteristike čine izuzetno teškim proizvodnju javnih dobara. Jer kada je u pitanju izgradnja svjetionika, vrlo je primamljivo suprotstaviti svoje individualne interese grupama. Ako ne doprinosite izgradnji svjetionika, još uvijek možete imati koristi od njega. I svi su primamljeni da ništa ne urade, i tada se svjetionik ne izgradi na štetu svih. Također, vrijedi naglasiti da su javna dobra korisna, jer s njima zapravo možete proizvoditi stvari, kao što je sigurno ploveće. Kao takva, nedovoljna investicija u javna dobra je ozbiljan problem u našem društvu i također je postala poznata kao tragedija zajedničkih dobara. Ova javna dobra, na primjer, norme povjerenja koje održavamo među nama su učinkovita. [00:14:01] Razmislite kada ste bili u srednjoj školi. Neki od vas su išli u srednju školu gdje su se učenici međusobno povjeravali, a to je značilo da ste mogli ostaviti svoje ruksake same u hodniku i ne brinuti se da će ih neko ukrasti. Drugi ste išli u srednje škole u kojima nije bilo istih normi povjerenja, i sada ste morali zaključati svoj ruksak ili ga stalno imati uz sebe. U kojem od ta dva okruženja mislite da biste imali bolje učenje? Tako je, u prvom okruženju. Dakle, ta norma koja se kolektivno održava je produktivna. U tom slučaju, produktivna za učenje. Ovdje, produktivna za sigurno plovljenje i tako dalje.
Saradnja u ljudskim grupama kako bi se proizveli javni dobri je izazovna, a različiti mehanizmi su potrebni za njen nastavak. Odradili smo mnoge eksperimente u kojima smo ljudska bića stavljali u mrežne grupe i tražili od njih da igraju različite vrste igara javnog dobra sa svojim susjedima, manipulirajući mnogim strukturalnim i drugim karakteristikama tokom godina. Na primjer, prije nekoliko godina smo počeli sa eksperimentom u kojem su ljudi stavljeni u mrežu poput ove. Upoznati su sa svojim susjedima, i igrali su igru javnog dobra iz, recimo, bihevioralne ekonomije, [00:15:03] gdje, na primjer, mogu dati malo novca svakom od svojih susjeda. Recimo, uzmem dolar i podijelim ga među svojim susjedima. A zatim naučnici udvostručuju dolar. Dakle, recimo da imam četiri susjeda. Recimo da imam tri susjeda, i dam dolar grupi. To postane dva dolara. Ta dva dolara se dijele među nas četiri. Tako da cijela grupa stiče bogatstvo od dva dolara, ali ja se vraćam samo 50 centi. Dva podijeljeno sa četiri, vraćam 50 centi. Dakle, moram napraviti žrtvu za dobrobit drugih. Tako, naravno, svako kaže, ne želim se žrtvovati. Neka svi ostali glupani daju novac. Neću dati ništa, i nadam se da će drugi doprinositi. Ali, naravno, ako svi to urade, opet dobijate kolaps. A najbolje ponašanje je kada svi doprinosi maksimalno. Tako da ovdje u ovoj situaciji, započinjemo igru. Plave tačke su, plavi ljudi su lijepu kooperativni ljudi. Daju maksimalno svojim susjedima, a oni stvaraju javna dobra, kao što je gradnja svjetionika. A crvene tačke su eksploatatori koji ne daju nikakve doprinose, ono što se takođe naziva defektorima. I ono što otkrivamo u ovom eksperimentu je da reprodukujemo rezultat koji je poznat već 30 godina, [00:16:03] a to je da saradnja kolabira u grupama, zar ne? Na kraju igre, u višim rundama, praktično svako postaje defektor, osim ovih malih plavih ljudi ovdje sa strane, koji drže civilizaciju na životu, znate, među sobom. Možete takođe razmišljati o tome, ponovo, pozivajući na srednju školu za studente. Sjećate se situacije u kojoj je vaš nastavnik nauke dodijelio vas četvoro da radite grupni projekt, i dobijate istu ocjenu. I dodijeljeni ste četvorici, tri druga gubitnika. Pa sada imate dva izbora. Ili uradite sav posao, i oni takođe dobiju A kao rezultat, jer želite A. Ili kažete, to je besmislica. Ne želim da ti lenji momci profitiraju od mog teškog rada. I kažete, neću učiniti ništa, i svi dobijate F-ove, zar ne? To je strašna dilema. Pa, šta se ovdje dešava je to da ljudska bića na kraju biraju drugu opciju. Svi odlučuju da dobiju F-ove jer ne žele biti glupani i nastaviti doprinositi. Dakle, saradnja kolabira u socijalnim sistemima kao opšti rezultat. Ali ono što smo učinili je, još jednom, dodali smo neke, iako različite vrste robota u sistem. Dodali smo neke robote koji su bili obdareni vrlo jednostavnom A. [00:17:05] Ovi roboti su bili poput malih posrednika u braku. Posredovali su društvene interakcije. Gledali su oko sebe lokalno ko se s kime druži, i davali su savjete ljudima u sistemu. Znate šta? Trebali biste prekinuti veze sa tim defektorom koji se koristi vama i uspostaviti vezu s ovim finim momkom ovdje umjesto toga. A ova blaga preporuka preusmjeravanja koja koristi samo lokalno znanje. Nema učitelja koji naređuje ljudima da budu fini. Nema policije. Nema suda. Nema centralizovane vlasti koja to sprovodi. Samo delujući na osnovu lokalnog znanja, otkrili smo da bi ovi roboti mogli, u našim eksperimentima sa više od 1.000 ljudi u 64 grupe, pokazati ne samo da se saradnja može stabilizovati, već po prvi put ikada, smo pokazali rezultat da se saradnja zapravo može povećati u odnosu na osnovnu liniju kada su ove vrste robota dodate. A kasnije je DeepMind ponovio naše rezultate i proširio ih u drugom radu koji se pojavio otprilike godinu dana ili dvije nakon ovog.
U još jednom eksperimentu, istražili smo kako botovi mogu uticati na grupnu kreativnost. [00:18:07] jer je pronalaženje novih ideja teško. Teorija i eksperimenti sugerišu da grupe mogu bolje prepoznati i očuvati inovacije od pojedinaca dijeleći svoja otkrića.
Ali inovacija unutar grupa suočava se sa vlastitim izazovima, uključujući grupno razmišljanje. Tako je? Ako okupljate grupu ljudi, mogu preuranjeno doći do suboptimalne ideje.
Ili možete zamisliti, trebali biste zamisliti, da grupa ljudi može kolektivno imati veću mudrost, može doći do više ideja. Na primer, ako grupi ljudi date zadatak da usavrše ribarsku štapu, znate, prva osoba može reći, pa, zašto ne stavimo udicu na kraj neke špage? I tada osoba drži špagu s udicom. A neko kaže, zašto ne dodamo štap na špagu? Oh, to je sjajna ideja. Tako kombinuju svoje znanje i to urade. A neko kaže, pa, mamac s udicom pluta na površini. Dodajmo talas da ide dole. Pa, sada ide previše dole. Kako bismo dodali plovak da znamo gde se nalazi, i tako dalje. I ljudi inoviraju, dijele znanje jedni s drugima, očuvaju znanje kroz vreme, [00:19:08] i dobijate te kulturne artefakte koji su složeni produkt više ljudi koji dijele ideje i stvaraju.
Željeli smo stvoriti igru u kojoj grupe ljudi traže optimalnu ideju u krajoliku. Odlučili smo koristiti imenice kao zamjenu za ideje. Uzeli smo 20.000 imenica iz klasičnog korpusa rečnik-u-vektor u računarstvu. Dakle, uzeli smo 20.000 imenica. Udaljenost između tih imenica mogla se definirati metrom kosinusne sličnosti. Možete zamisliti hiper-dimensionalni vektorski prostor u kojem je mačka sličnija psu nego stolu. Način na koji su to uradili je da su pregledali koliko često su se reči mačka i pas pojavljivale zajedno na web stranicama. Tako su imali univerzum web stranica i univerzum od 20.000 imenica. Rekli su da se te dve imenice često pojavljuju zajedno, dok se druge dve imenice ne pojavljuju često. Stvorili su trodimenzionalni vektorski prostor. [00:20:08] Sada možete opisati koliko su slične bilo koje dve imenice. Odlučili smo koristiti imenice kao zamjenu za ideje. Uzeli smo ovih 20.000 imenica. Zatim smo izabrali set imenica. Zamislite da smo izabrali jednu imenicu, ali smo izabrali set. Jednu imenicu nasumično iz svih ovih, kao što je braggadocio, na primer, bila je imenica. Tako smo izabrali braggadocio. I kažemo da je to savršena ideja koju želimo da ova grupa ljudi pronađe. Onda sve imenice koje su blizu braggadocia nestaju u ovom vektorskom prostoru. Tako imate vrhunsku imenicu koja dobija najviše poena, 20.000 poena, i sve druge imenice do onih najudaljenijih. Uključili smo ljude u ovaj sistem i rekli im, pronađite ovu reč. Ne kažemo im reč. A onda im kažemo tačnu vrednost reči. Tako počinju da pogađaju. I kako pogađaju, dobijaju povratne informacije. I kažu, ah, ova reč ima više poena od druge reči. I sve su bliže i bliže i počinju deliti znanje jedni s drugima. Pokušavaju biti kreativni da reše problem.
Svaka imenica je povezana s drugim u semantičkom prostoru ili neodređenom pejzažu. [00:21:10] Imali smo 18 različitih ciljnih imenica, kao da smo podigli vrh iz pejzaža ovih 20.000 imenica na 18 različitih lokacija u 18 različitih pejzaža. Ove imenice su bile namerno neobične, poput fratricida, šuplje cipele, sakroma, kartografije, i tako dalje. Zatim smo sproveli eksperimente sa nekoliko uslova gde su ljudi bili sami pokušavajući da se snalaze u pejzažu, gde su ljudi bili u grupama radeći zajedno kako bi se snašli u pejzažu, ili gde su ljudi bili u grupama ali su imali i neke botove koji su pokušavali da im pomognu u kreativnosti. I botovi su radili jer su mogli preneti informacije iz jedne regiona mreže u drugi komunicirajući jedni s drugima. Na primer, bot broj dva mogao je preneti reč nebo ili auto botu broj jedan. Dakle, ovde je primer mreže.
Dovodimo ljude unutra. Kvadratne tačke su botovi. Ovaj bot ima četiri interakcije, a ovaj bot ima, ne znam, šest ili sedam interakcija. Ljudi na početku počinju da pogađaju. [00:22:12] U prvom krugu igre nemaju nikakvu osnovu za pogađanje. Pogađaju nebo, auto, zeca, štakora, psa, mačku, sto. Kao da sam vas pitao, izaberite imenicu za pogađanje, vi biste pogodili kuću ili sunce ili mesec ili mačku ili psa ili neku malu tipičnu imenicu. A sada im se govori vrednost poena, koliko je slična reč štakor, pas, mačka, sto, itd., reči sarcomi. I govore im se vrednosti poena tih imenica u vezi sa ciljanom imenicom, koja je sarcoma. Tada se te vrednosti poena najavljuju. Ovaj bot može da pogleda vrednosti poena ljudi oko sebe i može da prenese ili nasumični izbor ovom botu ili najvišu vrednost poena ili najnižu vrednost poena, neka vrsta bočnog kanala komunikacije koja širi informacije iz jedne regije grupe ljudi koji pokušavaju da reše problem u drugu regiju. Hajde da pogledamo neke primere da bismo to malo razjasnili, jer ovo može biti teško za razumeti. Ljudi su igrali ovu igru oko 25 rundi. A evo kosinusne sličnosti sa ciljanom imenicom, koja je reč fratricid. U redu, dakle, ima 20.000 imenica. [00:23:13] Fratricid je 20.000 poena. A druge reči imaju druge poene. A evo jednog pojedinca, osobe koja pogađa sama. Njihovo prvo pogađanje je komad. I govore im koliko je reč komad slična reči fratricid. A sledeće pogađanje im je rođenje. I dobijaju veliki skok u kosinusnoj sličnosti, jer možete zamisliti da je reč rođenje bliže reči fratricid nego reč komad. U redu? A onda pogađaju. Sledeće pokušavaju novac. To je gore. Onda pokušavaju majmuna. To je još gore. Proveravaju. Prave proverenje. Pokušavaju ponovno rođenje. Ponovo raste. Onda pokušavaju bebu. To nije loše pogađanje. Rođenje do bebe. Ali beba ih udaljava od fratricida. I onda dama i tako dalje. Navigiraju. Pogađaju. Pogađaju. Pogađaju. I na kraju nisu ni blizu fratricidu. U drugoj situaciji imamo grupu ljudi, ali bez botova. Sada ljudi, osim što prave svoja pogađanja, mogu da vide pogađanja ljudi oko sebe. I grade na idejama drugih. U redu? Stvoreno. Kao da zajedno prave ribolovačku šipku. [00:24:13] Tako da ova osoba, njihovo prvo pogađanje je pas. Ali sledeće pogađanje im je štit. Vidite da je štit bliži fratricidu nego pas. Ova osoba pogađa i pogađa i dobija input od svojih komšija. I na kraju dolazi sve bliže i bliže. Na kraju dobije reč neprijatelj. U redu? Zapravo, vojnik je bila njegova najbolja pretpostavka. Imao je najvišu vrednost poena tokom svoje trajektorije.
Kako je dodavanje botova uticalo? Ovo opet pokazuje sažetak rezultata. Na x-osi je rund. Na y-osi je srednja kosinusna sličnost u ovom hiper-dimenzionalnom vektorskom prostoru, što je mera grupnog učinka. I ovde je grupa ljudi koja deluje, pogađa solo. Ljudi koji pogađaju sami ne rade baš najbolje, zar ne? Ima tu, znate, samo je sreća da li će nekako, ili, znate, neka urođena sposobnost svakog pojedinačnog čoveka. Postaju malo bolji s vremenom i približavaju se. Sve grupe imaju bolji učinak od solo učesnika. Ovo je stari rezultat koji je poznat. Grupa ljudi je kreativnija od slične grupe solo praktičara. No, ono što otkrivamo je da, ako dodamo najsimilarijeg bota, bota koji je posmatrao svoje komšije, [00:25:17] i našao, kakav je njihov lokalni konsenzus ovde? Moji ljudi misle da je ovo dobra reč. Zatim to prenosi botu na udaljenom delu mreže. Taj bot je znatno poboljšao učinak ove grupe ljudi da naprave otkriće. Trebalo bi da možete zamisliti kako ovo može funkcionisati u grupi inženjera ili bilo kojih drugih znanja radnika. Kako, na primer, možete distribuirati znanje na efikasan način, izbegavajući grupno razmišljanje i podstičući kreativnost, dizajniranjem botova koji pomažu ljudima da pomognu sebi. Ovaj bot ovde nema mozak. Nema, on samo predlaže ideje. Samo pomaže ljudima da šire ideje među sobom.
Tako jednostavni AI agenti s razumljivim ponašanjem mogu poboljšati kapacitet za kreativna otkrića u ljudskim grupama deljenjem ideja oko kojih postoji lokalni konsenzus u jednom delu grupe s ljudima u udaljenom delu grupe. I kao rezultat toga, grupa može postići bolje rezultate.
Sada smo također počeli eksperimentirati s fizičkim sistemima. Dodali smo humanoidne i nehumanoidne robote [00:26:19] obdarene jednostavnom vještačkom inteligencijom u grupama ljudi i pokazali kako im mogu olakšati saradnju prebrodavanjem trenja ili nemogućnosti suradnje u njihovim interakcijama. Jedan od mojih omiljenih primjera ovoga je eksperiment koji sam izveo sa svojom bivšom studenticom, Maggie Traeger, koja je pozadi i sada je asistent profesor na Notre Dameu, a to je ovaj eksperiment. U ovom eksperimentu, uzeli smo tri stvarna čovjeka koji su došli u laboratoriju i humanoidnog robota. Osmislili smo mali igru, malu igru željezničke pruge, koja se igra na tabletu, i ovoj grupi ljudi i robota bio je zadatak postaviti željezničku prugu od tačke A do tačke B, poput malih željezničkih pruga iz Thomasa vlakova. Onda smo im dali neke dijelove koje su mogli birati na tabletu, poput pravih dijelova i zakrivljenih dijelova. No povremeno smo ih namjerno doveli u zabludu, iako je izgledalo da postoji mješavina dijelova i da bi načelno trebali moći ići od tačke A do tačke B, zloćudno smo ih dizajnirali tako da nije bilo pravog broja zakrivljenih dijelova da im omoguće da od tačke A do tačke B dođu. [00:27:21] Tako da nisu mogli to učiniti. Nisu mogli riješiti problem, a da nisu ni znali. U redu? Dakle, prvo bi svaka osoba imala svoj red za postavljanje komada pruge, zatim sljedeća osoba, a zatim sljedeća osoba. Radili su zajedno kako bi povezali tačku A i tačku B na svojim tabletima.
U onome što smo radili u ovom eksperimentu je da smo manipulirali, a oni su igrali 30 rundi ove igre u ovom virtuelnom svetu, i imali smo 51 grupu, manipulisali smo stilom konverzacije robota, konkretno da li je robot pokazivao ranjivost priznajući grešku. Dakle, robot je rekao, znate, napravio sam grešku. Ili je robot pričao viceve koje otac priča. Pretpostavljam da svi znate šta su vicevi očeva. Dobro. Također smo imali robota koji priča, inače, to je kulturni univerzal, antropolozi u amazonskoj džungli su proučavali domorodačke narode i očevi tamo takođe pričaju viceve očeva. A deca su poput, ne mogu da verujem koliko su tati glupi vicevi. Ali, u svakom slučaju, zapravo postoji teorija o tome šta vicevi očeva trebaju da učine da bi ojačali decu na neki način. Ovo je zapravo teorija. Ali, u svakom slučaju, to je čitava druga tema. U svakom slučaju, naši roboti su pričali viceve očeva ili izražavali ranjivost. [00:28:21] I ono u čemu smo bili zainteresovani da saznamo je da li promene u govoru robota imaju moć da ne samo utiču na to kako ljudi komuniciraju sa robotima, već i kako se ljudi međusobno komuniciraju. I još jednom, to nudi perspektivu modifikacije društvenih interakcija uvođenjem veštačkih agenata u hibridne sisteme ljudi i mašina.
Evo jedan mali primjer, i nisam vam rekao rezultate. Evo kada imamo, debljina ovih linija, postavili smo video kamere da prate ko pričaju sa kim i koliko pričaju. Debljina ovih linija pokazuje koliko osoba dva priča s osobom jedan i obratno. Osoba jedan ne razgovara mnogo s robotom. To je tanka linija. Kada imate neutralne robote, dobijate ovaj obrazac. Ali kada imate ranjivog robota, sve ove linije postaju deblje i izjednačavaju se. Tako smo otkrili da ranjivi robot povećava jednakost govora među ljudima, povećava obim govora među ljudima, i zapravo, u odvojenim rezultatima, [00:29:22] povećava zadovoljstvo ljudi u toj vrsti okruženja.
A evo samo jednog isječka iz dva različita kruga koja ilustriraju da robot prvo govori na neutralan način, pasivnim glasom, što ne utiče mnogo na ljudsku komunikaciju. Robot kaže, na veoma Reaganovski način, napravljena je greška.
Ali u sljedećem krugu, robot kaže, napravio sam grešku. I možete samo gledati šta se ovdje dešava. Hajde da vidimo možemo li ovo da pokrenemo. (25 sekundi pauze) Dakle, kroz mnoge, mnoge desetine pokušaja, ovo je vrsta obrasca koju nalazimo. Dakle, jednostavna manipulacija, jednostavna manipulacija u obrascu govora robota menja način na koji ljudi međusobno komuniciraju. [00:30:25] I ne, pretpostavljam, ne treba mnogo zamišljati kako cijeli način na koji dizajniram naše chatbotove i sve ostalo možda utiče ne samo na primjer Alexa koji sam vam dao na početku, kako se tretiramo. Ljudi se čini da više vjeruju jedni drugima i da se bolje zabavljaju u ovoj situaciji.
Sada je sve ovdje, i mislim da je ovo poslednji eksperiment koji ću vam pokazati, a zatim ću završiti, u još jednom eksperimentu, razvili smo novoučenik cyber-fizičku platformu za testiranje takvih društvenih i, zaista, etičkih efekata jednostavnih tipova AI. Zato što, s obzirom na prirodu problema kolektivnog delovanja, uključivanje AI u ljudske grupe bi moglo paradoksalno i nenamjerno potisnuti postojeće korisne društvene norme među ljudima, poput onih koje se odnose na saradnju i altruizam, koje smo kao vrsta razvili. Tako da imamo stotine hiljada godina prirodne selekcije koja je delovala na nas da nas učini sposobnim da rešavamo probleme kolektivnog delovanja. Pitanje je, dakle, ako deo te sposobnosti delegiramo mašinama, hoćemo li izgubiti sposobnost da radimo zajedno na rešavanju tih problema? [00:31:32] Hoćemo li doći do toga da se oslanjamo na te mašine, i tako degradiramo našu urođenu sposobnost da sarađujemo, koordiniramo i kreiramo i tako dalje? U ovom eksperimentu, u saradnji sa Hirom Shirato na CMU, još jednim mojim bivšim studentom, izgradili smo platformu koja se sastojala od dva mala Raspberry Pi opremljena mala mehanička vozila, i povezali smo je sa nekim softverom koji imamo koji nam omogućava da organizujemo online eksperimente na ogromnom nivou. Ljudi su bili u svojim domovima i dodelili smo im jedno od ovih automobila, i upravljali su tim automobilima prema jedan prema drugom,
i imali smo ih igrati igru piletine. Dakle, u piletini, znate, poput, tko najbrže stigne s jedne strane na drugu, pobjeđuje. Dakle, motivirani ste da ne popustite drugome. Ali ako obojica odlučite ne popustiti, tada se sudarite i obojica imate najgori ishod. Tako bi se ljudi ponašali u ovoj situaciji, ako igrate ponavljanu igru piletine, brzo biste naučili da se smjenjujete. Ovaj put je vaš red da idete ravno, ja ću skrenuti i pustiti vas, ali sljedeći put vi skrećete i puštate mene da idem ravno. [00:32:35] Ako smo sebični, stalno se sudaramo, kao da uništavamo jedni druge iznova i iznova, ili glupo, obojica skrenemo s puta, i nijedna strana ne dobije korist od prolaska ravno. Tako da u ovoj situaciji ovdje, žuti auto odlučuje skrenuti, plavi auto jednostavno nastavlja nesmetano sve do druge strane.
I koristili smo 300 učesnika i 150 parova, i plaćeni su u zavisnosti od toga koliko brzo su stigli na drugu stranu. Zatim smo dodali malo veštačke inteligencije. Dodali smo pomoć pri automatskom kočenju, gde je, kada je trebalo da se javi upozorenje o blizini, auto kočio i pružao vam priliku da odlučite, hej, trebao bih se povući i pustiti ovog drugog da prođe, ili obrnuto. Ili smo dodali pomoć pri automatskom upravljanju, što je značilo da je u trenutku kada je prišao drugom automobilu, jednostavno skrenuo, u redu? Takođe smo dodali minimalnu funkciju komunikacije, gde su ljudi mogli reći hvala, ili nešto slično. Samo vrlo minimalna komunikacija. I prvo smo pokazali da pomoć pri automatskom kočenju, gde automobili staju na fiksnoj udaljenosti pre sudara, povećava ljudsku altruizam. [00:33:38] To jest, ustupanje puta drugima, kao što ovde čini žuti auto. Dakle, dodavanje malo pomoći pri automatskom kočenju omogućilo je ljudima da lakše rade zajedno i kooperiraju u toj situaciji. Štaviše, omogućavanje ljudima da komuniciraju dalje pomaže im da postignu međusobne ustupke u uslovima automatskog kočenja. S druge strane, pomoć pri automatskom upravljanju, gde se auto jednostavno skrenuo, potpuno je inhibirala pojavu reciprociteta među ljudima u korist maksimizacije sopstvenih interesa. Ljudi jednostavno predaju svoju moralnu agenciju. Više se ne trude. Samo pustite mašinu da ponovo skrene, i odustanu, u redu? Tako su sve urođene etičke sposobnosti koje su ljudi imali sada uklonjene dodatkom veštačke inteligencije u uslovima automatskog upravljanja, ali su poboljšane u uslovima automatskog kočenja. I ovo bi takođe trebalo da vas navede na razmišljanje. Trebalo bi da razmišljate, o moj Bože, svaki mali detalj koji pravimo kada programiramo ove AI agente može imati dobre ili loše efekte na prirodne sklonosti ljudi.
Sposobnost ljudi da surađuju, uzimaju red i djeluju altruistički može atrofirati, što dovodi do lošijih kolektivnih i individualnih ishoda. [00:34:46] I zapravo, u kratkim crtama, AI može dovesti do svojevrsne moralne lijenosti. (..) Evo jednog konačnog primjera trajne promjene nakon izlaganja AI u hibridnim sistemima. I to je također primjer kako prisustvo AI može promijeniti ljudsko-ljudske interakcije, čak i nakon što AI više nije sudionik tih interakcija. Tako je 2016. godine, DeepMind razvio AlphaGo, a u istoj godini, ovaj AI agent se natjecao protiv Lee Sedola, izvanrednog svjetskog prvaka iz Koreje.
Gledao sam meč. Ne znam kako se igra Go, ali priznam da je to veličanstvena igra. Moj sin igra Go. (.) I stvarno sam navijao za Lee Sedola. Lee Sedol je poput junaka u Koreji, kao što mi imamo velike sportiste na našim kutijama sa žitaricama i slično. Njegovo lice je na malim pakovanjima rezanaca i pakovanjima žitarica. Mislim da je veličanstveno da u Koreji neki pametnjaković poput mene bude viđen kao važna osoba, u redu? Tako da je on vrlo popularan u Koreji. I izlazi na prvi meč, a previše je samouvjeren. [00:35:47] Mogu reći da je previše samouvjeren. Gubi od mašine, a zatim se izvinjava svojim obožavateljima. Kaže, tako mi je žao. Igra se pet mečeva. Najbolje tri od pet pobjeđuje. Zatim igra drugi meč i ponovo gubi. A sada se ozbiljno zalaže. Zatim igra treći meč i gubi. Izgubio je takmičenje.
I mogli ste vidjeti publiku, a komentatori su se divili sposobnosti mašine da igra Go, izvodeći te čudne i prekrasne poteze, od kojih su neki kasnije otkriveni da su odigrani jer imamo zapise koji sežu unazad hiljadama godina o mečevima Go igranim na Kineskom carskom dvoru. I mogli su pronaći, oh, Bože, ovo je srednjovjekovni potez koji je mašina odigrala. Nismo ga vidjeli toliko dugo.
A onda se Lisa Dahl vraća u četvrtoj igri, i pobjeđuje. (..) I plakala sam. Bilo mi je toliko drago. (..) Zato što je imao mašinu, znate, vratio se za moju vrstu, i pobijedio je onu prokletu mašinu. Kao, na herojsku, kao, nisam mogla razumjeti, kao, koja je mentalna moć morala biti potrebna da Lisa Dahl to uradi. [00:36:49] Bila sam euforična u tom trenutku, i tako ponosna na njega što se još uvijek bori, čak i nakon što je izgubio meč.
Sada, što je zanimljivo je kada je Lisa Dahl intervjuisana nakon, Lisa Dahl je rekla da se njegov način igre promenio posle meča. Dakle, još jednom, AI pomaže ljudima da pomognu sebi, u redu? Menja kako igra zbog kontakta. I kasnija istraživanja drugih naučnika proučila su profesionalne Go igrače i gledala median kvalitet odluka. Postoji određeni standard u Go-u za ocenjivanje koliko je dobar potez, i median novitet, kao koliko je neobičan potez. I otkrivaju da kada AlphaGo pobedi ljudskog svetskog šampiona 2016. godine, širom sveta, Go igrači počinju da prave bolje poteze koji su inovativniji, u redu? Dakle, svi ljudi koji igraju Go među sobom su se promenili zbog AlphaGo koji je dodat. AI pomaže ljudima da pomognu sebi. Tako da nastavljamo da radimo na dizajniranju i dodavanju jednostavnih botova u ove i druge situacije koje uključuju društvene dileme i probleme kolektivnog delovanja. [00:37:55] Proučavamo kako botovi mogu uticati na koordinaciju, saradnju, komunikaciju, kreativnost, poverenje, navigaciju, deljenje i evakuaciju. I u našoj laboratoriji, nismo fokusirani na super pametan AI, kao što su LLM-ovi ili AlphaGo, da zamenimo ljudsku kogniciju, već na glup AI da dopunimo ljudsku interakciju. Ne pokušavamo da izumimo super pametan AI da zamenimo ljudsku kogniciju. Izmišljamo glup AI da dopunimo ljudsku interakciju. I naš AI može biti glup zato što su ljudi pametni. Naš AI je kao platina dodata u reakciju organske hemije. To je samo katalizator. Sve što treba je katalizator da pomogne grupi ljudi da budu bolji.
I naravno, važno je priznati da je obrnuto takođe moguće. Društvena AI se može koristiti za štetu grupama ljudi. Međutim, naš pristup nudi niz drugih tehničkih i konceptualnih prednosti. Prvo, ovi jednostavni botovi su razumljivi i jasno ilustriraju šire moći i mogućnosti. Za razliku od LLM-a, koji su crna kutija i ne znaš šta radi, mogu ti reći tačno šta naš bot radi. [00:38:58] On je bučan. Posreduje u upoznavanjima. Prosljeđuje poruke na ovaj vrlo specifičan način. I drugo, naši kontrolisani eksperimenti s botovima takođe mogu pružiti uvid u to kako se ljudsko ponašanje može korisno promeniti. Drugim rečima, mogu uzeti ovo iz laboratorije i naučiti grupu ljudi da rade ono što su naši botovi radili. Na jedan način, ne možeš lako naučiti grupu ljudi da samo uradi ono što je ChachiPT radio ovde. Ne znamo šta ChachiPT radi, ali znaš šta oni rade u našoj situaciji.
Želio bih završiti, ovo je moja posljednja slajd, s metaforom. Razmotrite ova dva objekta. Oboje su napravljeni od ugljika. Ako povežete atome ugljika na jedan način, dobit ćete grafit, koji je mekan i tamn. Povežite iste atome ugljika na drugi način, dobit ćete dijamant, koji je tvrd i jasan. A postoje dvije ključne intelektualne ideje ovdje. Prvo, ova svojstva mekanoće i tamnosti, tvrdoće i jasnoće nisu svojstva atoma ugljika. To su svojstva skupa atoma ugljika. I drugo, koja svojstva ćete dobiti zavisi od načina na koji povežete atome ugljika jedni s drugima. Povežite iste atome ugljika na jedan način, dobit ćete jedan set svojstava. [00:40:01] Povežite ih na drugi način, dobit ćete potpuno drugačiji set svojstava. Isto tako, priroda naših veza utiče na svojstva naših društvenih grupa. To su veze između ljudi koje mogu učiniti cjelinu većom od zbira njenih dijelova. Nova svojstva, poput saradnje i nasilja, inovacija i produktivnosti, povjerenja i nepovjerenja, istine i laži, bogatstva i siromaštva, zdravlja i sreće, mogu se razviti i širiti zbog veza, zbog veza između ljudi, i ne nužno samo zbog samih ljudi. U stvari, naše iskustvo svijeta zavisi od strukture i funkcije mreža oko nas, blizu i daleko. I naša vrsta se razvila da tako bude. I ne bi nas trebala iznenaditi naša reakcija na AI u našem okruženju. Hvala vam puno.
