Nicholas Christakis: [00:00:05] V redu, torej so človeška bitja uvrščena v socialne mreže, te mreže pa upoštevajo zelo posebna matematična, biološka in socialna načela. In vse bolj dodajamo umetno inteligenco v obliki spletnih agentov in fizičnih robotov med nami, ki z nami komunicirajo, kot da bi bili socialne entitete. In ti agenti, ki jih bomo dodali našim sistemom, segajo od brezpilotnih avtomobilov na cestah do blagajniških aparatov v trgovinah, do humanoidnih robotov v domovih ali tovarnah ali na bojiščih ali v požarnih situacijah, do nesnovnih avtonomnih agentov, kot so spletni boti in digitalni AI asistenti v naših telefonih ali očalih ali na delovnih mestih. Tehnologije z nami komunicirajo na enakovredni ravni, kot da bi bile človeške. In to bo privedlo do hibridnih sistemov ljudi in strojev. Ti sistemi ponujajo priložnosti za nov način socialne umetne inteligence.
Sedaj, dovolite, da vam dam samo primer. Ko dobite, recimo, digitalnega asistenta, kot je Alexa, je proizvajalec naprave zelo zaskrbljen zaradi interakcije človek-stroj. Ta interakcija človek-stroj je optimizirana. Na primer, nikoli ne bi kupili Alexe, če bi morali vsakokrat, ko bi potrebovali nekaj od nje, reči: oprostite, Alexa, zelo mi je žal, da vas prekinjam. Če ni nič proti, bi mi lahko, prosim, povedali besedo? [00:01:35] vreme jutri, prav? To bi se štelo za absurdno raven vljudnosti. Pričakujete, da boste lahko rekli: Alexa, vreme, in potem stroj ubogljivo odgovori. In to je v redu, dokler tega stroja ne prinesete v svoj dom in vaši otroci govorijo s tem strojem in se naučijo biti nesramni. In potem gredo na igrišče in so nesramni do drugih otrok. Ta stroj, ki je bil dodan v našo družbo, ni le vprašanje interakcije človek-stroj, ampak tudi interakcije človek–človek v prisotnosti strojev. In zato me zanima, ne, temveč interakcije človek–človek v prisotnosti strojev. In lahko uporabimo razumevanje strukture in funkcije socialnih omrežij, da ocenimo rabo in vpliv socialne umetne inteligence znotraj in na človeške skupine, glede na dejavnike, kot so zaupanje in sodelovanje, ki so potrebni, da skupine ljudi delujejo skupaj, ter vplivajo na vedenje teh kolektivov.
Naj vam predstavim nekaj dela, ki ga opravljamo, s številnimi metodami omrežnih eksperimentov, ki vključujejo umetno inteligenco. Ti eksperimenti ocenjujejo, kako bi AI lahko vplival na strukturo in funkcijo človeških socialnih interakcij. [00:02:45] Obstaja razred problemov kolektivnega delovanja v socialnih interakcijah, ki jih imamo in so znani kot problemi usklajevanja. To so problemi, pri katerih moramo sodelovati, da bi ustvarili nekaj koristnega. Te probleme včasih rešujemo s ustanavljanjem centraliziranih institucij, kot so policija, sodišča ali vlade. Vendar pa pogosto uspemo rešiti probleme kolektivnega delovanja, ki zahtevajo, da se usklajujemo ali sodelujemo z velikimi številkami ljudi na decentraliziran način. Dejansko smo se razvili, da imamo to sposobnost. In en specifičen tip problema kolektivnega delovanja, s katerim bi rad danes začel, je pravzaprav usklajevanje.
Na primer, da bi se izognili zastoju v prometu, se morajo ljudje uskladiti, da storijo nekaj drugačnega od svojih sosedov. Če vsi zapustijo svoje hiše ob istem času, bodo vsi stuck v prometnem zastoju. Ampak, če premešajo svoje odhodne čase in odidejo v intervalih, potem nihče ni v prometnem zastoju. Seveda pa bi lahko imeli nekakšno centralno avtoriteto, ki bi to usklajevala. Vi odidete prvi, potem vi, in potem vi. [00:03:45] Toda idealno bi želeli nekakšen decentraliziran, netop-down način usklajevanja ljudi za reševanje tega problema.
Tako da je tu naš prvi eksperiment, ki je bil objavljen leta 2017 o takšnih hibridnih sistemih, ki so raziskovali, kako bi AI lahko pomagal pri tej izzivu. In raziskovali smo uspešnost človeških skupin, ki so se ukvarjale z nalogo usklajevanja. Naš paradigem je bil, da si iz računalniške znanosti sposodimo nekaj, kar je znano kot problem barvanja grafov. To je klasičen problem v računalniški znanosti. Ampak kar smo naredili, je, da smo to vzeli in postavili človeška bitja v to situacijo. Torej, kar smo naredili, je, da smo vzeli 4.000 ljudi in jih razporedili v 230 spletnih skupin. Ta človeška bitja so bila postavljena v te skupine. In naključno so bila dodeljena mestu znotraj umetniškega omrežja, ki smo ga ustvarili, katere struktura je približno spominjala na prava človeška omrežja. In dali smo jih v ta mesta in povedali so jim, da so bili dodeljeni eni od treh barv, [00:04:46] vijolični, oranžni, vijolični, oranžni in roza. In povedali so jim, da morajo izbrati barvo, ki ni podobna barvam njihovih sosedov.
In so imeli pet minut, da to naredijo. Ti ljudje bi gledali okoli svojih sosedov. Vsaka oseba bi pogledala in rekla, ta tip tukaj je roza. Vidi, da ima rožnega soseda in oranžnega soseda. Kar bi moral narediti, je, da preklopi na vijolično barvo. Rdeče črte tukaj označujejo barvne konflikte. Z drugimi besedami, če sta dve barvi sosednjih vozlišč enaki, dobita rdečo črto. In vijolične črte v ozadju označujejo strukturo socialnih interakcij. Torej, postaviš ljudi sem. Gledajo okoli svojih sosedov vsako sekundo ali sekundo in pol. Naredijo preklop, ki je skladen z objektivom, da morajo vsi izbrati barvo, ki se razlikuje od njihovih sosedov v naslednjih petih minutah. In če to storijo, potem in samo takrat bodo plačani. Plačal bom vas, da delate skupaj. In če boste vsi delali skupaj na decentraliziran način, da rešite problem, boste vsi plačani. Drugače ne dobite ničesar, razumete? Torej, tukaj se zgodi v tem poskusu. Tukaj na osi x je čas v sekundah do oznake petih minut. [00:05:47] Igra traja pet minut, tukaj dol nekje. In tukaj na osi y je ciljna funkcija ali število barvnih konfliktov. In tako je na začetku tukaj 12 barvnih konfliktov. Naključno so dodeljene svoje začetne barve. In to je prikazano tukaj na tej majhni histogramu tam. In tako ljudje začnejo gledati okoli in preklapljati svoje barve. Veste, preklapljajo in preklapljajo. In pridobijo se do te točke, kjer so zdaj dosegli situacijo, v kateri je barvni konflikt med tema dvema osebama. Ta konflikt pa je to, kar imenujemo neuresničljiv konflikt. Tako so svetlo oranžne črte uresničljivi konflikti. To je ta tip tukaj. Lahko naredi premik v vijolično, ki razreši konflikt. Ampak ti ljudje tukaj, ki so oranžni, nimajo nobenega premika, ki bi zmanjšal število barvnih konfliktov v njihovem sosedstvu, prav? Ta tip ne more preklopiti na vijolično, ker, pravzaprav, če preklopi na vijolično, bo imel več konfliktov. Ima štiri vijolične sosede. In ne more preklopiti na roza, ker ima dva roza soseda. Torej, pogleda in reče, da je najmanjši konflikt, ki ga imam, da ostanem oranžen. Tako je zdaj ta skupina zataknjena, prav? [00:06:49] Imajo neuresničljiv konflikt in nič se ne more zgoditi. Noben napredek ne more biti dosežen pri reševanju problema kolektivnega delovanja, dokler ena od teh dveh oseb ne izvede kontraintuitivnega premika, preklopi barve na vijolično ali roza in začasno poveča konflikte. In prav to se zgodi. In potem čas mine, in ljudje pri 245 sekundah rešijo problem. Stroj zazna rešitev, ustavi igro in jih plača, prav?
Zdaj, ker smo bili zviti, smo izvedli nekaj poskusov, kjer smo prikrito zamenjali nekatere ljudi z bot-i. Ocenili smo, kako dodatek AI-obdarjenih botov k hibridnemu sistemu vpliva na skupinsko učinkovitost. Ali je mogoče dodati nekaj botov človeškim skupinam in izboljšati njihovo sposobnost usklajevanja pri soočanju s tako nalogo? In kar smo naredili, je, da smo dodali tri bote in eksperimentalno spremenili dve osi. Kje so bili boti postavljeni, kjer so nenamerno vstopili v omrežje, ali so bili postavljeni [00:07:51] v center omrežja, ali pa so bili postavljeni na periferijo omrežja. In naključno smo manipulirali z njihovo AI zmogljivostjo na zelo trivialen in preprost način. Namreč, manipulirali smo, ali so boti delovali popolno ali pa z malo hrupa.
V situaciji popolnosti so boti vsakih poltretjine sekunde pogledali okoli sebe in nato izbrali barvo, ki je imela najmanj konfliktov s sosedi. Kar bi lahko šteli kot iracionalno vedenje. V situaciji z 10 % hrupa so to storili, vendar so 10 % časa izbrali naključno barvo. In v situaciji z 30 % hrupa so to storili, vendar so 30 % časa izbrali naključno barvo. Torej, boti so postali, recimo, vedno bolj nagnjeni k napakam, vedno bolj hrupni.
In potem smo pogledali, imeli smo, mislim, nekaj takega, začnimo s kontrolno skupino. Tu smo na x-osi prikazali čas, na y-osi pa verjetnost, da skupina kot celota še ni rešila koordinacijske igre. Tako tukaj, če si ogledaš tu, na začetku, ob času nič, [00:08:51] 100 % samo človeških skupin, seje s samo ljudmi, so v oranžni barvi. Na začetku 100 % skupin, ki so samo človeške, še ni rešilo igre. In ko čas mineva, vedno več človeških skupin reši igro, tako da do konca petih minut morda 60 % človeških skupin reši igro.
No, kar se zgodi, je, če v središnji poziciji omrežja postavite 10% glasnih botov, dobite opazno izboljšano zmogljivost. Tukaj je bistveno več skupin ljudi, ko so botom, ki so imeli malo hrupa, dodali v sredino, uspelo rešiti problem. V resnici so skrajšali mediano čas rešitve z 232 sekund na 103 sekund. In v teh podatkih so tudi druge ugotovitve. Popolni boti in preglasni boti nista bila koristna. Potrebovali ste nekaj kalibracije. Tistih 10% glasnih botov je bilo najbolj koristnih. Položaj botov je prav tako imel nek vpliv. A ključno je, da smo pri teh poskusih tudi ugotovili, da so ljudje, ki niso bili povezani z botom, [00:09:52], ki so bili dlje stran v omrežju. Na grafih je bilo nekaj ljudi, ki so bili povezani z boti in nekaj drugih, ki niso bili. Ugotovili smo, da so celo ti ljudje začeli spreminjati način svojega igranja. Tako je prišlo do učinka valovanja, kaskadnega učinka. Koristi interakcije bota s svojimi ljudmi so se razširile skozi omrežje in začele vplivati na medčloveške interakcije še dlje v omrežju. Z drugimi besedami, boti so ljudem pomagali, da so si pomagali, in koristi hrupa so se razpršile znotraj tega družbenega sistema.
Zdaj mi dovolite, da še dodatno pojasnim ideje glede te kolektivne izzive in kako bi ti preprosti AI agenti lahko pomagali z drugo analogijo. Predstavljajte si, da imate letalo. To je podobno kot pri gradientnem spuščanju v strojni učenju, na primer. Tako imate letalo, imeli boste hribe in goro. Imate različne hribe, v redu, različnih višin. In tukaj zgoraj je gora, ki je najvišja. Torej, spustim, vzamem štiri od vas in vas pustim nekje tukaj, ter vas z rokami povežem skupaj, vsak od vas gleda v drugačno kardinalno smer, [00:10:54] in vas zavežem s povezom za oči. In rečem vam, najdete najvišjo goro. Torej se pogovarjate med seboj in rečete, zakaj ne bi vsak naredil korak v svojo smer in poročali nazaj skupini? Torej stopite korak proti severu in rečete, da je od tu navzgor. In jug pravi, da je od tu navzdol. In vzhod in zahod pravita, da je od tu lateralno. Torej se vsi strinjate, da stopite korak proti severu. In to ponavljate, dokler ne pridete do točke, ko vsi rečete, da je od tu navzdol.
Ali ste našli najvišjo goro? Ne. (...) Kaj ste dosegli? Našli ste najbližji hrib.
Ali boste kdaj našli najvišjo goro? Ne. Nikoli ne boste našli najvišje gore. Zmedeni ste. Ste lokalno optimizirani, a globalno sub-optimizirani. In da bi globalno optimizirali, potrebujete malo hrupa. Občasno morate dopustiti, da ta skupina ljudi naredi kontraintuitiven korak navzdol po gori ali navzdol po hribu. Torej, včasih z naključjem opravijo zaporedje korakov, dokler se ne vrnejo na ravnino. Potem se gibljejo okoli tega fitnes krajine, raziskujejo vse te vrhove, dokler ne pristanejo na tem vrhu. [00:11:56] Ta visok vrh ponavadi, globalni optimum, ponavadi deluje kot sprejemni stanje, ker je potrebnega veliko več hrupa, da se snamemo s tega vrha kot z drugih vrhov. In tako zdaj oscilirate okoli globalnega optimuma. V našem delu smo raziskovali tovrstno preprosto programiranje, vgrajeno v socialne sisteme, da vidimo, ali lahko izboljšamo zmogljivost ljudi pri reševanju raznolikih kolektivnih akcijskih težav.
Sedaj je še en skupinski problem dejanj, ki vključuje drugačen izziv, in sicer sodelovanje, ne pa usklajevanje. Ljudje se pogosto morajo sodelovati, da proizvedejo tisto, kar imenujemo javno dobro. In svetilnik je eden od kanoničnih primerov javnega dobra. Javna dobra imajo dve kanonični značilnosti. Prvič, to je tisto, kar imenujemo neizključljivo. To pomeni, da drugih oseb ni mogoče preprečiti pri njegovi uporabi. Če zgradite svetilnik za svoj lastni namen, ker plujete po morju in se nočete zaleteti v obalo, je to super za vas, vendar ne morete preprečiti, da bi ga uporabljali tudi drugi, tako da, neizključljivo. [00:12:58] Poleg tega je ne-konkurenčno. To pomeni, da potrošnja ene osebe ne zmanjša potrošnje drugih. Če uporabljam svetlobo iz svojega svetilnika, za vas ni manj svetlobe. In to je v nasprotju, na primer, z kosom torte. Če imam kos torte, je moj, a ne? Lahko vas preprečim, da bi ga jedli. In če ga pojem, nič več ni na voljo za vas, razumete? Torej, javno dobro ima te značilnosti, in prav te značilnosti otežujejo proizvodnjo javnih dobrin. Ker ko gre za gradnjo svetilnika, je zelo mamljivo postaviti svoje osebne interese proti skupinam. Če ne prispevate k gradnji svetilnika, se vseeno lahko koristiš od njega. Tako je vsakdo mamljiv, da ne stori nič, in svetilnik se nato ne zgradi, kar škodi vsem. In pomembno je poudariti, da so javna dobra uporabna, ker lahko dejansko proizvedete stvari z njimi, kot je varno plovbo po morju. In kot takšno je podinvestiranje v javna dobra resen problem v našem družbi in postalo je znano tudi kot tragedija skupnih dobrin. Ta javna dobra, na primer, norme zaupanja, ki jih ohranjamo med seboj, so učinkovite. [00:14:01] Pomislite, ko ste bili na srednji šoli. Nekateri izmed vas ste hodili na srednjo šolo, kjer so si dijaki zaupali, in to je pomenilo, da ste lahko pustili svoje nahrbtnike same v hodniku, ne da bi vas skrbelo, da bi jih kdo ukradel. Drugi pa ste hodili na srednje šole, kjer ni bilo istih norm zaupanja, in zdaj ste morali zakleniti svoj nahrbtnik ali ga imeti vedno pri sebi. V katerem izmed teh dveh okolij menite, da bi imeli boljše učenje? Pravilno? V prvem okolju. Torej ta norma, ki jo skupnost vzdržuje, je produktivna. V tem primeru je produktivna za učenje. Tukaj, produktivna za varno plovbo po morju in tako naprej.
Tako je sodelovanje v človeških skupinah za proizvodnjo javnih dobrin izziv, in potrebni so različni mehanizmi, da ga ohranimo. Opravili smo mnoge eksperimente, ki vključujejo spuščanje ljudi v omrežne skupine in jih prosimo, da igrajo različne vrste iger z javnimi dobrinami s svojimi sosedi, pri čemer smo skozi leta manipulirali z mnogimi strukturnimi in drugimi značilnostmi. Na primer, začeli smo pred leti z eksperimentom, v katerem so bili ljudje postavljeni v omrežje, kot je to. Predstavljeni so bili svojim sosedom in igrali so igro z javnimi dobrinami iz vedenjske ekonomije, [00:15:03] kjer sem na primer lahko dal malo denarja vsakemu od svojih sosedov. Tako, vzamem dolar in ga razdelim med svoje sosede. Potem znanstveniki podvojijo dolar. Recimo, da imam štiri sosede. Recimo, da imam tri sosede in dam dolar skupini. Postane dva dolarja. Ta dva dolarja se razdelita med nas štiri. Tako celotna skupina pridobi premoženje v višini dveh dolarjev, jaz pa dobim nazaj samo 50 centov. Dva razdeljena med štiri, dobim nazaj 50 centov. Tako moram žrtvovati za dobro drugih. Naravno, vsak pravi, ne želim žrtvovati. Naj vsak drug bedak da denar. Ne bom dal nič, in upam, da bodo drugi prispevali. Seveda pa, če to stori vsak, pride do kolapsa. Najboljša izbira je, če vsak prispeva maksimalno. Tukaj v tej situaciji začnemo igro. Modre pike so, modri ljudje so prijazni sodelovalci. Maksimalno dajo svojim sosedom in ustvarjajo javne dobrine, kot je izgradnja svetilnika. Rdeče pike so izkoriščevalci, ki ne prispevajo, znani tudi kot defektorji. In kar ugotovimo v tem eksperimentu je, da reproduciramo rezultat, ki je znan že 30 let, [00:16:03] in sicer, da sodelovanje propade v skupinah. Na koncu igre, več krogov kasneje, skoraj vsak postane defektor, razen teh majhnih modrih ljudi tukaj na strani, ki ohranjajo civilizacijo pri življenju, veste, med seboj. Mislite lahko tudi, da, če pokličete srednjo šolo za študente. Spomnite se tiste situacije, ko je vaš učitelj znanosti dodelil štirim od vas skupinski projekt, in dobili ste isto oceno. In dodeljeni ste bili še trem drugim zgubam. Zdaj imate dve izbiri. Ali opravite vse delo in tudi oni dobijo A, ker želite A. Ali pa rečete, to je absurdno. Ne želim, da ti leni tipi izkoriščajo moje trdo delo. In rečete, ne bom naredil nič, in vsi dobite F, prav? To je grozljiv dilem. No, kar se zgodi tukaj, je, da ljudje na koncu izberejo drugo možnost. Vsi se odločijo, da dobijo F, ker ne želijo biti bedaki in še naprej prispevajo. Tako sodelovanje propade v socialnih sistemih kot splošni rezultat. A kar smo naredili je, da smo spet dodali nekatere, čeprav nekoliko drugačne robote v sistem. Dodali smo nekatere robote, ki so bili opremljeni s preprosto A. [00:17:05] Ti roboti so bili kot mali posredniki v zakonu. Posredovali so socialne interakcije. Gledali so okoli sebe lokalno, kdo komunicira s kom, in dajali predloge ljudem v sistemu. Veste kaj? Morate prekiniti vez s tem defektorjem, ki izkorišča vas, in oblikovati vez s tem prijaznim fantom tukaj namesto tega. In ta nežni nasvet za preureditev, ki uporablja samo lokalno znanje. Tam ni učitelja, ki bi naročal ljudi, naj bodo prijazni. Ni policije. Ni sodišča. Ni centralizirane oblasti, ki bi to izvrševala. Samo na podlagi lokalnega znanja smo ugotovili, da bi ti roboti lahko, v naših eksperimentih z več kot 1000 ljudmi v 64 skupinah, ugotovili, da ne samo, da bi se lahko sodelovanje stabiliziralo, temveč smo prvič pokazali rezultat, da bi se lahko sodelovanje dejansko povečalo od osnovne vrednosti, ko so bili ti tipi robotov dodani. In DeepMind je nato ponovil naše rezultate in jih razširil v drugem dokumentu, ki se je pojavil približno leto ali dve po tem.
Zdaj smo v še enem poskusu raziskovali, kako lahko roboti vplivajo na skupinsko ustvarjalnost. [00:18:07] saj je iskanje novih idej težko. Teorija in poskusi nakazujejo, da so lahko skupine boljše pri prepoznavanju in ohranjanju inovacij kot posamezniki s skupno izmenjavo odkritij.
Toda inovacije znotraj skupin se srečujejo z lastnimi izzivi, vključno s skupinskim razmišljanjem. Pravilno? Če združiš skupino ljudi, se lahko prezgodaj strinjajo o suboptimalni ideji.
Ali si lahko predstavljaš, da bi skupina ljudi kolektivno imela večjo modrost, da bi lahko prišla do več idej. Na primer, če skupini ljudi daš nalogo, da izboljšajo ribolovno palico, veš, prvi človek lahko reče, zakaj ne bi na konec vrvice dali trnka? In potem ima oseba v rokah vrvico s trnkom. In nekdo reče, zakaj ne bi dodali palice k vrvici? Oh, to je odlična ideja. Torej združijo svoje znanje in to naredijo. In nekdo reče, well, vab s trnkom plava na površju. Dodajmo val, da gre navzdol. No, zdaj gre predaleč navzdol. Kaj pa, če dodamo plovček, da bomo vedeli, kje je, in tako naprej. In ljudje inovirajo, izmenjujejo znanje med seboj, ohranjajo znanje skozi čas, [00:19:08] in dobimo te kulturne artefakte, ki so združeni produkt več ljudi, ki si izmenjujejo ideje in so ustvarjalni.
Tako smo želeli ustvariti igro, v kateri bi skupine ljudi iskale ideje v krajini. In odločili smo se, da bomo uporabili samostalnike kot nadomestek za ideje. Vzeli smo 20.000 samostalnikov iz klasičnega korpusa besed v računalniški znanosti. Torej smo vzeli 20.000 samostalnikov. Razdalja med temi samostalniki bi se lahko opredelila z metrikami kosinusne podobnosti. Lahko si predstavljate hiperdimenzionalni vektorski prostor, v katerem je mačka bolj podobna psu kot pisalni mizi. In to so izvedli tako, da so pogledali, kako pogosto se besedi mačka in pes skupno pojavljata na spletnih straneh. Imeli so univerzum spletnih strani in univerzum 20.000 samostalnikov. In rekli so, da se te dve samostalniki pogosto skupaj pojavljata, medtem ko se te dve drugi samostalniki redko skupaj pojavljata. Ustvarili so 300-dimenzionalni vektorski prostor. [00:20:08] In zdaj lahko opišete, kako podobni so kateri koli dve samostalniki. In odločili smo se, da bomo uporabili samostalnike kot nadomestek za ideje. Vzeli smo teh 20.000 samostalnikov. In nato smo izbrali nabor samostalnikov. Predstavljajte si, da smo izbrali en samostalnik, vendar smo izbrali nabor. En samostalnik na naključni osnovi iz vseh teh, kot na primer braggadocio, je bil samostalnik. Torej smo izbrali braggadocio. In rečemo, da je to popolna ideja, ki jo želimo, da ta skupina ljudi najde. In nato vsi samostalniki, ki so blizu braggadocio, padejo v tem vektorskem prostoru. Tako imate vrhunski samostalnik, ki dobi največ točk, 20.000 točk, in vse druge samostalnike do samostalnikov, ki so najdlje stran. In vključili smo ljudi v ta sistem in smo rekli, da naj najdejo to besedo. Nismo jim povedali besede. In potem smo jim povedali točkovno vrednost besed. Začeli so ugibati. In ko ugibajo, dobijo povratne informacije. In rečejo, ah, ta beseda ima več točk kot druga beseda. In se približujejo in začnejo deliti znanje med seboj. Poskušajo biti ustvarjalni, da bi rešili problem.
Vsak samostalnik je povezan z drugimi v semantičnem prostoru ali neskončnem pokrajini. [00:21:10] Imeli smo 18 različnih ciljnih samostalnikov, kot da smo izpullili vrh iz pokrajine teh 20.000 samostalnikov na 18 različnih mestih v 18 različnih pokrajinah. Ti samostalniki so bili namerno nenavadni, kot so bratska umor, čevlji, sarkom, kartografija in tako naprej. Nato smo izvedli poskuse, ki so vključevali več pogojev, kjer so ljudje bili sami, ko so poskušali navigirati pokrajino, kjer so ljudje bili v skupinah in delali skupaj, da bi navigirali po pokrajini, ali kjer so ljudje bili v skupinah, vendar so imeli tudi nekaj botov, ki so poskušali pomagati kreativnosti. Roboti so delovali, ker so lahko prenašali informacije iz enega območja omrežja v drugega tako, da so med seboj komunicirali. Na primer, bot številka dve je lahko prenesel besedo nebo ali avto na bot številka ena. Tukaj je primer omrežja.
Spustimo ljudi noter. Kvadratne pike so boti. Ta bot ima štiri interakcije, ta bot pa ima, ne vem, šest ali sedem interakcij. Ljudje na začetku začnejo ugibati. [00:22:12] Nimajo nobene osnove za ugibanje v prvem krogu igre. Ugibajo nebo, avto, zajca, podgano, psa, mačko, mizo. Kot če bi vas vprašal, izberite samostalnik za ugibanje, bi ugibali hišo ali sonce ali luna ali mačka ali psa ali kakšen majhen tipičen samostalnik. In zdaj jim povedo točkovno vrednost, kako podobna je beseda podgana, pes, mačka, miza itd., ciljni besedi, ki je sarkom. In povedo jim točkovno vrednost teh samostalnikov v zvezi s ciljnim samostalnikom, ki je sarkom. In potem te točkovne vrednosti objavijo. Potem ta bot lahko pogleda točkovne vrednosti ljudi okoli njega in lahko posreduje bodisi naključni izbor temu botu ali najvišjo točkovno vrednost ali najnižjo točkovno vrednost, nekakšen povratni kanal komunikacije, ki širi informacije iz enega območja skupine ljudi, ki poskušajo rešiti problem, na drugo območje. Poglejmo nekaj primerov, da to razjasnimo, ker je to lahko težko razumeti. Ljudje so igrali to igro približno 25 krogov. In tukaj je kosinusna podobnost s ciljno besedo, ki je beseda fratricid. No, imamo 20.000 samostalnikov. [00:23:13] Fratricid ima 20.000 točk. Ostale besede imajo druge točke. In tukaj je solo oseba, oseba sama, ki ugiba. Njihovo prvo ugibanje je bit. In povedo jim, kako podobna je beseda bit fratricidu. Potem njihovo naslednje ugibanje je rojstvo. In dobijo velik porast v kosinusni podobnosti, ker si lahko predstavljate, da je beseda rojstvo bližje besedi fratricid kot beseda bit. No? In potem ugibajo. Naslednje poskušajo denar. To je slabše. Potem poskušajo opico. To je še slabše. Preverijo. Naredijo sanity check. Poskušajo rojstvo. Spet poskoči. Potem poskušajo dojenček. To ni slabo ugibanje. Rojstvo do dojenčka. Ampak dojenček jih odpelje dlje od fratricida. In potem damo in tako naprej. Navigirajo. In ugibajo. In ugibajo. In ugibajo. In ob koncu ne pridobijo nič bližje fratricidu. Zdaj pa v tej drugi situaciji imamo skupino ljudi, vendar brez botov. Ljudje lahko, poleg svojih lastnih ugibanj, vidijo ugibanja ljudi okoli njih. In gradijo na idejah drugih. No? Ustvarjeno. Kot skupaj delati ribiško palico. [00:24:13] Torej ta oseba, njihovo prvo ugibanje je pes. Njihovo naslednje ugibanje pa je ščit. Vidite, ščit je bližje fratricidu kot pes. In ta oseba ugiba in ugiba ter dobiva vnose od svojih sosedov. In ob koncu se približa in približa. Na koncu ima besedo sovražnik. No? Pravzaprav je bil vojak njegovo najboljše ugibanje. Imel je najvišjo točkovno vrednost med njegovim potekom.
Kako je torej dodajanje botov pomembno? To ponovno prikazuje povzetek rezultatov. Na x-osi je krog. Na y-osi je povprečna kosinusna podobnost v tem hiper-dimenzionalnem vektorskem prostoru, kar je merilo za uspešnost skupine. In tukaj je skupina ljudi, ki delujejo, ugibajo sami. Ljudje, ki ugibajo na svojo roko, ne delajo prav dobro, kajne? Je le vprašanje sreče, ali lahko somehow, ali, veš, neka prirojena sposobnost vsakega posameznika. S časom postanejo malce boljši in se približajo. Vse skupine so bolj uspešne od posameznikov. To je star rezultat, ki je znan. Skupina ljudi je bolj ustvarjalna od podobno velike skupine posameznikov. Ampak kar ugotovimo, je, da če dodamo najbolj podobnega bota, bota, ki je gledal na svoje sosede, [00:25:17] in ugotovil, kakšen je njihov lokalni konsenz tukaj? Moji ljudje se zdi, da mislijo, da je to dobra beseda. In potem prenese to botu na oddaljenem delu omrežja. Ta bot je znatno izboljšal uspešnost te skupine ljudi pri odkritju. Moral bi si predstavljati, kako bi to lahko delovalo v skupini inženirjev ali drugih delavcev znanja. Kako, kot lahko znanje razporejaš na učinkovit način, izogibajoč se skupinskemu razmišljanju in spodbujajoč ustvarjalnost, z oblikovanjem botov, ki ljudem pomagajo, da si pomagajo. Bot tukaj nima, nima možganov. Ni, to je samo predlaganje idej. Samo pomaga ljudem, da širijo ideje med seboj.
Enostavni AI agenti z razložljivim vedenjem lahko povečajo zmogljivost za ustvarjalno odkrivanje v človeških skupinah, tako da delijo ideje, okoli katerih je lokalni konsenz v enem delu skupine, z ljudmi v oddaljenem delu skupine. In kot rezultat lahko skupina deluje bolje.
Zdaj smo tudi začeli eksperimentirati s fizičnimi sistemi. Dodali smo humanoidne in nehumanoidne robote [00:26:19], opremljene s preprosto umetno inteligenco, ki delujejo v skupinah ljudi in pokazali, kako lahko olajšajo sodelovanje med ljudmi tako, da jim pomagajo premagati trenja ali nezmožnost sodelovanja v njihovih interakcijah. Eden izmed mojih najljubših primerov tega je poskus, ki sem ga naredil s svojo nekdanjo študentko, Maggie Traeger, ki je tukaj in zdaj asistentka profesorja na Notre Dame. Ta poskus. V tem poskusu smo vzeli tri prave ljudi, ki so prišli v laboratorij, in humanoidnega robota. Oblikovali smo malo igro, malo železniško igro, ki se igra na tabličnem računalniku, in ta skupina ljudi ter robot je imela nalogo položitve železniške proge od točke A do točke B, kot mali železniški trakovi iz Thomas the Tank Engine. Nato smo jim dali nekaj delov, ki so jih lahko izbrali na tabličnem, kot so ravne in ukrivljene proge. Vendar smo načrtovali tako, da se je zdelo, da je mešanica delov in da bi v načelu morali biti sposobni iti od točke A do točke B, vendar smo zahrbtno zasnovali tako, da ni bilo pravšnjega števila ukrivljenih delov, da bi omogočili prehod od točke A do točke B. [00:27:21] Torej tega niso mogli storiti. Niso mogli rešiti problema, ne da bi to vedeli. V redu? Najprej je vsak človek naredil svoj korak in položil del proge, nato naslednja oseba in naslednja oseba. Skupaj so delali, da bi povezali točko A in točko B na svojih tabličnih računalnikih.
In kar smo naredili v tem eksperimentu, smo manipulirali in odigrali 30 krogov te igre v tem virtualnem svetu, imeli smo 51 skupin, manipulirali smo s stilom pogovora robotov, natančneje, ali je robot izražal ranljivost s priznanjem napake. Tako je robot rekel, veste, naredil sem napako. Ali pa je robot govoril slabe vice. Predvidevam, da vsi vedo, kaj so slabi vici. Dobro. Imeli smo tudi robota, ki je povedal, mimogrede, to je kulturni univerzal, kot so antropologi v amazonskem gozdu pogledali pri avtohtonih ljudstvih in tudi očetje tam povedo slabe vice. Otroci so kot: ne morem verjeti, da oče govori tako neumne vice. Vseeno, dejansko obstaja teorija, zakaj so slabi vici namenjeni strjevanju otrok na nek način. To je teorija. Vseeno, to je povsem druga tema. Kakorkoli, naši roboti so govorili slabe vice ali izražali ranljivost. [00:28:21] In zanimala nas je ugotovitev, ali so spremembe v govoru robotov imele moč, da ne le vplivajo na to, kako ljudje komunicirajo z roboti, temveč tudi na to, kako ljudje komunicirajo drug z drugim. In ponovno, to ponuja možnost spreminjanja socialnih interakcij z uvedbo umetnih agentov v hibridne sisteme ljudi in strojev.
Tukaj je majhen primer, oh, in nisem vam povedal rezultatov. Tukaj so, tukaj ko imamo, torej debeline teh linij, postavili smo video kamere, da spremljamo, kdo govori s kom in koliko govorijo. Debelina teh linij nakazuje, koliko oseba dva govori z osebo ena in obratno. Torej oseba ena zelo malo govori z robotom. To je tanka linija. In ko imate nevtralne robote, dobite točno to obliko. Ampak ko imate ranljivega robota, vse te linije postanejo debelejše in se izenačijo. Ugotovili smo, da je ranljiv robot povečal enakost govora med ljudmi, povečal glasnost govora med ljudmi in dejansko, v ločenih rezultatih, [00:29:22] povečal zadovoljstvo ljudi v takšnem okolju.
In tukaj je samo en posnetek dveh različnih krogov, ki ilustrira, kako robot najprej govori na nevtralen način, v pasivnem glasu, kar ne vpliva veliko na človeško komunikacijo. Robot pravi, na zelo Reaganovski način, napaka je bila narejena.
Ampak v naslednjem krogu robot pravi, naredil sem napako. In lahko preprosto opazujete, kaj se tukaj zgodi. Poglejmo, če lahko to uresničimo. (25 sekundna pavza) Torej v mnogih, mnogih desetih poskusih, to je vzorec, ki ga najdemo. Enostavna manipulacija, enostavna manipulacija v govoru robota spremeni, kako ljudje komunicirajo med seboj. [00:30:25] In ne, domnevam, da ne traja veliko domišljije, kako bi lahko celoten način oblikovanja naših klepetalnih robotov in vsega drugega vplival na to, kako se obravnavamo. Ljudje se zdi, da si bolj zaupajo in se bolj zabavajo v tej situaciji.
Zdaj je tukaj tiho, in mislim, da je to zadnji poskus, ki vam ga bom pokazal, nato pa bom končal s še enim poskusom. Razvili smo nov ciber-fizični platformo za testiranje družbenih in v resnici etičnih učinkov preprostih vrst umetne inteligence. Ker glede na naravo težav kolektivnega delovanja lahko vključitev umetne inteligence v človeške skupine paradoksalno in nenamerno potisne obstoječe koristne družbene norme pri ljudeh, kot so tiste, ki vključujejo sodelovanje in altruizem, ki smo jih razvili kot vrsta. Imamo torej na voljo stotine tisoč let naravne selekcije, ki je delovala na nas in nas naredila sposobne reševati težave kolektivnega delovanja. Vprašanje je, ali bomo, če del te agencije prenesemo na stroje, izgubili sposobnost delovanja skupaj pri reševanju teh problemov? [00:31:32] Ali se bomo zanašali na te stroje, in tako degradirali našo prirojeno sposobnost sodelovanja, koordiniranja in ustvarjanja in tako naprej? V tem poskusu, v sodelovanju s Hiro Shirato na CMU, drugim nekdanjim diplomantom, smo zgradili platformo, ki je vključevala dva majhna Raspberry Pi opremljena mehanična vozila, in povezali smo ga s programsko opremo, ki jo imamo in ki nam omogoča organizacijo spletnih poskusov na širšem merilu. Ljudje so bili v svojih domovih in dodelili smo jim eno od teh avtomobilov, in ti so vozili te avtomobile proti sebi.
in smo igramo igro piščancev. Torej v piščančji igri, veš, kdo hitro pride na drugo stran, zmaga. Zato si spodbujen, da se ne umakneš drugemu. Ampak, če se niti eden izmed vas ne umakne, se zabijeta in oba dobita najslabši izid. Torej, kar bi ljudje storili v tej situaciji, če igrate ponovljeno igro piščancev, je, da se hitro naučite, da izmenjujete. Tokrat je tvoja vrsta, da greš naravnost, bom umaknil in pustil tebe, naslednjič pa se ti umakneš in pustiš, da grem naravnost. [00:32:35] Če smo sebični, kar naprej zadeva drug drugega, uničujemo drug drugega znova in znova in znova, ali pa neumne, oba skrenemo in nobeden ne dobi koristi od tega, da gre naravnost. Torej v tej situaciji tam odloči rumeni avto, da se umakne, modri avto pa se neovirano premakne skozi na drugo stran.
In smo smo uporabili 300 udeležencev in 150 parov, plačani pa so bili glede na to, kako hitro so prišli na drugo stran. Nato smo dodali malo umetne inteligence. Dodali smo pomoč pri samodejnem zaviranju, kjer je ob opozorilu o bližini, ko ste se približali drugemu avtu, zavrnil in vam dal priložnost, da se odločite, da se umaknete in omogočite prehod temu drugemu, ali obratno. Ali pa smo dodali pomoč pri samodejnem krmiljenju, kar pomeni, da se je v trenutku, ko se je približal drugemu avtomobilu, enostavno odklonil, v redu? In dodali smo minimalno komunikacijsko funkcijo, kjer so ljudje lahko rekli hvala ali kaj podobnega. Le zelo minimalna komunikacija. In najprej smo pokazali, da pomoč pri samodejnem zaviranju, kjer avtomobili ustavijo na fiksni razdalji pred trčenjem, povečuje človeško altruizem. [00:33:38] To pomeni, da dajo pot drugim, kot to počne rumeni avto tukaj. Tako je dodajanje majhne pomoči pri samodejnem zaviranju AI olajšalo sodelovanje in kooperacijo med ljudmi v tej situaciji. Poleg tega omogočanje ljudem, da komunicirajo, še dodatno pomaga pri doseganju medsebojnih ustupkov v pogojih samodejnega zaviranja. Po drugi strani pa pomoč pri samodejnem krmiljenju, kjer se je avto enostavno odklonil, popolnoma zadržala pojav recipročnosti med ljudmi v korist maksimizacije lastnega interesa. Ljudje preprosto predajajo svojo moralno agencijo. Več ne skrbijo. Preprosto pustijo, da se stroj nenehno odklanja, in se predajo, v redu? Tako so vse prirojene etične sposobnosti, ki so jih ljudje imeli, zdaj odstranili z dodajanjem AI v pogojih samodejnega krmiljenja, vendar so jih okrepili v pogojih samodejnega zaviranja. In to bi vam moralo dati misliti. Misliti bi morali, oh moj bog, vsak mali detajl, ki ga naredimo, ko programiramo te AI agente, lahko ima dobre ali slabe učinke na naravne nagnjenja ljudi.
Sposobnost ljudi za sodelovanje in preživljanje časa ter ravnanje altruistično se lahko zmanjšata, kar na koncu vodi do slabših kolektivnih in individualnih izidov. [00:34:46] In v resnici, na kratko, lahko AI privede do neke vrste moralne lenobe. (.) Tu je še en zadnji primer trajne spremembe po izpostavljenosti AI v hibridnih sistemih. In to je tudi primer, kako prisotnost AI lahko spremeni medčloveške interakcije, tudi ko AI več ni udeleženec interakcij. Leta 2016 je DeepMind razvil AlphaGo in v istem letu je ta AI agent igral proti Lee Sedolu, izjemnemu svetovnemu prvaku iz Koreje.
Gledal sem tekmo. Ne znam igrati Go, vendar ga priznavam kot veličastno igro. Moj sin igra Go. (.) In res sem navijal za Lee Sedola. Lee Sedol je v Koreji kot junak, kot so naši veliki športniki na naših embalažah Wheaties in podobno. Njegova podoba je na majhnih paketih narezanih rezancev in paketih žitaric. Mislim, da je veličastno, da v Koreji nek pameten nerd, kot sem jaz, postane pomembna oseba, razumete? Torej, zelo je priljubljen v Koreji. Potem pride na prvo tekmo in je preveč samozavesten. [00:35:47] Vidim, da je preveč samozavesten. In izgubi proti stroju, potem se opraviči svojim oboževalcem. Pravi, zelo mi je žal. To je pet iger. Najboljše tri od petih zmag. Potem igra drugo igro in ponovno izgubi. In zdaj postaja resen. Potem igra tretjo igro in znova izgubi. Izgubil je tekmovanje.
In lahko ste nekako opazili publiko, komentatorji so bili fascinirani nad sposobnostjo stroja, da igra Go, ter izvaja te čudne in lepe poteze, od katerih so nekatere pozneje odkrili, da so bile odigrane, ker imamo zapise, ki segajo tisoče let nazaj, o Go tekmah, igranih na kitajskem cesarskem dvoru. In našli so, oh, moj bog, to je srednjeveška poteza, ki jo je stroj naredil. Nismo je videli že tako dolgo.
In potem se Lisa Dahl vrne na četrto igro, in zmaga. (..) In jokal sem. Bil sem tako srečen. (..) Ker je imel stroj, veš, vrnil se je za mojo vrsto in premagal prekleti stroj. Kot, na heroičen način, nisem mogel razumeti, koliko možganske moči je moralo biti potrebne za Liso Dahl, da to stori. [00:36:49] Tistega trenutka sem bil evforičen in tako ponosen nanj, da se še vedno trudi, tudi po tem, ko je izgubil tekmo.
Zdaj, kar je zanimivo, je, da je po intervjuju Lisa Dahl dejala, da se je njegova igra po tekmi spremenila. Torej, še enkrat, umetna inteligenca pomaga ljudem, da si pomagajo sami, prav? Spremeni način, kako igra, zaradi stika. In nadaljnje raziskave drugih znanstvenikov so raziskale profesionalne igralce Go in kakovost njihovih odločitev. Obstaja neka norma v Go, ki proučuje, kako dobra je poteza, in median novost, kot je, kako nenavadna je poteza. Ugotovili so, da ko je AlphaGo premagal svetovnega prvaka v Go leta 2016, igralci Go po vsem svetu začnejo delati boljše poteze, ki so bolj inovativne, prav? Torej so se vsi ljudje, ki igrajo Go med seboj, spremenili, ker je bila dodana AlphaGo. Umetna inteligenca pomaga ljudem, da si pomagajo sami. Tako nadaljujemo z delom na načrtovanju in dodajanju preprostih robotov v te in druge situacije, ki vključujejo socialne dileme in probleme kolektivnega delovanja. [00:37:55] Proučujemo, kako roboti lahko vplivajo na usklajevanje, sodelovanje, komunikacijo, kreativnost, zaupanje, navigacijo, deljenje in evakuacijo. In v našem laboratoriju se ne osredotočamo na izjemno pametno umetno inteligenco, kot so LLM-ji ali AlphaGo, da bi nadomestili človeško kognicijo, temveč na preprosto umetno inteligenco, da dopolni človeško interakcijo. Ne poskušamo izumiti izjemno pametne umetne inteligence, da bi nadomestili človeško kognicijo. Izumljamo preprosto umetno inteligenco, da dopolni človeško interakcijo. Naša umetna inteligenca lahko privošči, da je preprosta, ker so ljudje pametni. Naša umetna inteligenca je kot platina, dodana reakciji v organski kemiji. Je samo katalizator. Vse kar potrebujemo, je katalizator, da pomagamo skupini ljudi biti boljši.
In seveda, pomembno je priznati, da je obratno prav tako možno. Družbena umetna inteligenca se lahko uporablja za škodovanje skupinam ljudi. Naš pristop pa ponuja številne druge tehnične in konceptualne prednosti. Najprej so ti preprosti boti razumljivi in zato jasno prikazujejo širše moči in priložnosti. V nasprotju z LLM-ji, ki so črna škatla in ne veste, kaj počnejo, vam lahko povem, kaj naš bot počne. [00:38:58] Je glasen. Vzpostavlja povezave. Prenese sporočila na ta zelo specifičen način. In drugič, naši nadzorovani eksperimenti z botom lahko prav tako nudijo vpogled v to, kako bi se človeško vedenje lahko koristno spremenilo. Z drugimi besedami, to lahko prenesem iz laboratorija in naučim skupino ljudi, da počnejo to, kar so naši boti počeli. Na nek način ni lahko naučiti skupino ljudi, naj delajo to, kar je tukaj storil ChachiPT. Ne vemo, kaj počne ChachiPT, toda vi veste, kaj oni počnejo v naši situaciji.
Torej, rad bi zaključil, to je moja zadnja diapozitiv, s metaforo. Upoštevajte ti dve objekti. Obe sta narejeni iz ogljika. Če ogljikove atome povežete na en način, dobite grafit, ki je mehak in temen. Če vzamete iste ogljikove atome in jih povežete na drug način, dobite diamant, ki je trd in jasen. In obstajajo dve ključni intelektualni ideji. Prvič, te lastnosti mehkobe in temnosti ter trdote in jasnosti niso lastnosti ogljikovih atomov. So lastnosti zbora ogljikovih atomov. In drugič, katere lastnosti dobite, je odvisno od tega, kako povežete ogljikove atome med seboj. Vzemite iste ogljikove atome in jih povežite na en način, dobite en sklop lastnosti. [00:40:01] Povežite jih na drug način, dobite popolnoma drugačen sklop lastnosti. Podobno narava naših povezav vpliva na lastnosti naših socialnih skupin. To so vezi med ljudmi, ki lahko celoto naredijo večjo od vsote njenih delov. Nove lastnosti, kot so sodelovanje in nasilje, inovacije in produktivnost, zaupanje in nezaupanje, resnica in laž, bogastvo in revščina, zdravje in sreča, lahko nastanejo in se širijo zaradi povezav, zaradi vezi med ljudmi, in ne nujno samo zaradi samih ljudi. Dejstvo je, da je naše doživetje sveta odvisno od strukture in funkcije omrežij okoli nas, blizu in daleč. In naš tip se je razvil, da bi bilo to tako. In ne bi nas smelo presenetiti, da se bomo odgovorili na AI v našem središču. Hvala lepa.
