Nicholas Christakis: [00:00:05] Dobre, takže ľudské bytosti sú zakotvené v sociálnych sieťach a tieto siete sa riadia veľmi špecifickými matematickými, biologickými a sociálnymi princípmi. A čoraz viac pridávame umelú inteligenciu vo forme online agentov a fyzických robotov medzi nami, ktorí s nami interagujú, akoby boli sociálnymi entitami. A tieto typy agentov, ktoré pridáme do našich systémov, sa pohybujú od bezriadiacich áut na cestách po pokladničné automaty v obchodoch, humanoidné roboty v domovoch alebo v továrňach, v bojných zónach alebo v situáciách hasenia požiara, až po nemateriálne autonómne agenti ako online boty a digitálni asistenti AI v našich telefónoch, okuliaroch alebo na pracoviskách. A tieto technológie s nami interagujú na rovnakej úrovni, akoby boli ľudské. A povedú k hybridným systémom ľudí a strojov. A tieto systémy ponúkajú príležitosti pre nový druh sociálnej umelej inteligencie.
Teraz, dovoľte mi poskytnúť vám len jednoduchý príklad. Keď dostanete digitálneho asistenta, ako je Alexa, výrobca tohto zariadenia je veľmi znepokojený interakciou medzi človekom a strojom. A táto interakcia medzi človekom a strojom je optimalizovaná. Napríklad, nikdy by ste si nekúpili Alexu, ak by ste každý raz, keď potrebujete niečo, museli povedať: prepáčte, Alexa, veľmi sa ospravedlňujem za prerušenie. Ak vám neprekáža, mohli by ste mi prosím povedať slovo? [00:01:35] počasie na zajtra, správne? Toto by sa považovalo za absurdnú úroveň zdvorilosti. Očakávate, že môžete povedať: Alexa, počasie, a stroj poslušne odpovedá. A to je v poriadku, až kým túto mašinu neprivediete do svojho domu a vaše deti s ňou začnú komunikovať a naučia sa byť neslušné. A potom idú na ihrisko a sú neslušné k iným deťom. Takže táto mašina, ktorá bola pridaná do nášho stredu, nie je len o interakcii medzi človekom a strojom, ide o interakciu medzi ľuďmi v prítomnosti strojov. A preto ma zaujímajú nie interakcie medzi človekom a strojom, ale interakcie medzi ľuďmi v prítomnosti strojov. Môžeme použiť porozumenie štruktúry a funkcie sociálnej siete na hodnotenie využívania a dopadu sociálnej AI v rámci a na ľudské skupiny, s ohľadom na faktory ako dôvera a spolupráca, ktoré sú nevyhnutné na to, aby skupiny ľudí mohli spolupracovať a ktoré ovplyvňujú správanie týchto kolektívov.
Dovoľte mi zdôrazniť niektoré z prác, ktoré robíme, uh, s využitím viacerých prístupov k sieťovým experimentom, ktoré sa týkajú, uh, umelej inteligencie. Tieto experimenty hodnotia, ako by mohla AI ovplyvniť štruktúru a funkciu ľudských sociálnych interakcií. [00:02:45] Existuje trieda problémov kolektívnej akcie sociálnych interakcií, ktoré máme, a ktoré sú známe ako koordinačné problémy. To znamená, že tieto problémy musíme riešiť spoločne, ak chceme vytvoriť niečo užitočné. Niekedy tieto problémy riešime vytvorením centralizovaných inštitúcií, ako sú polícia, súdy alebo vlády. Ale často sme schopní vyriešiť problémy kolektívnej akcie, ktoré si vyžadujú, aby sme koordinovali alebo spolupracovali s veľkým počtom ľudí decentralizovaným spôsobom. Skutočne sme sa vyvinuli na to, aby sme mali túto schopnosť. A jedným konkrétnym typom problému kolektívnej akcie, ktorým by som dnes rád začal, je v skutočnosti koordinácia.
Takže, napríklad, aby sa predišlo tejto dopravnej zápche, musia sa ľudia koordinovať a robiť niečo odlišné od svojich susedov. Ak všetci odchádzajú zo svojich domovov v rovnakom čase, každý uviazne v dopravnej zápche. Ale ak sme prehodili svoje časy odchodu a odchádzajú v intervaloch, potom nikto nie je v dopravnej zápche. Samozrejme, mohlo by existovať nejaké centrálne zriadenie, ktoré by to koordinovalo. Vy odchádzate prvý, potom vy, a potom vy. [00:03:45] Ale ideálne by bolo mať nejaký decentralizovaný, netop-down spôsob, ako sa ľudia koordinujú na vyriešenie tohto problému.
Tu bolo naše prvé experimentovanie, ktoré bolo publikované v roku 2017 o takých hybridných systémoch, ktoré skúmali, ako by AI mohla pomôcť pri takýchto výzvach. A skúmali sme výkon ľudských skupín, ktoré sa zapojili do úlohy koordinácie. Naším paradigmatickým prístupom bolo požičať si z informatiky niečo známe ako problém s farebným grafom. Toto je klasický problém v informatike. Ale to, čo sme urobili, je, že sme to vzali a umiestnili sme ľudí do tejto situácie. Takže sme vzali 4 000 ľudí a rozdelili sme ich do 230 online skupín. Títo ľudia boli zaraďovaní do týchto skupín. A boli náhodne priradení na miesto v umelej sieti, ktorú sme vytvorili, ktorej štruktúra približne pripomínala skutočné ľudské siete. A boli umiestnení na tieto miesta a povedali sme im, že boli priradení k jednej z troch farieb, [00:04:46] fialová, oranžová, fialová, oranžová a ružová. A povedali sme im, že si musia vybrať farbu odlišnú od svojich susedov.
A dostali päť minút na to, aby to urobili. Takže títo ľudia sa pozerali okolo na svojich susedov. Každý sa pozrel a povedal by, ako, tento chlapík tu je ružový. Vidí, že má ružového suseda a oranžového suseda. Čo by mal urobiť, je prepnúť na fialovú farbu. A červené čiary tu naznačujú farebné konflikty. Inými slovami, ak sú dve farby susediacich uzlov rovnaké, dostanú červenú čiaru. A pozadie fialových čiar naznačuje štruktúru sociálnych interakcií. Takže sem dáte ľudí. Pozerajú sa na svojich susedov každú sekundu alebo sekundu a pol. Robia prechod v súlade s cieľom, že všetci musia zvoliť farbu odlišnú od svojich susedov počas nasledujúcich piatich minút. A ak to urobia, potom a len potom dostanú zaplatené. Zaplatím vám, ak spolupracujete. A ak všetci spolupracujete decentralizovaným spôsobom na riešení problému, všetci dostanete zaplatené. Inak nedostanete nič, chápeš? Takto to prebieha v tomto experimente. Tu na x-ovej osi je čas v sekundách až po známku piatich minút. [00:05:47] Hra trvá päť minút, tu niekde dole. A tu na y-ovej osi je cieľová funkcia alebo počet farebných konfliktov. A na začiatku tu je 12 farebných konfliktov. Náhodne im boli priradené ich počiatočné farby. A to je znázornené tu na tomto malom histogramu tam. A tak sa ľudia začnú pozerať okolo a meniť svoje farby. Viete, prepinajú a prepinajú. A dostanú sa k tomuto bodu, kde už dosiahli situáciu, v ktorej je farebný konflikt medzi týmito dvoma osobami. Tento konflikt je však to, čo nazývame nevyriešiteľným konfliktom. Takže svetlé oranžové čiary sú vyriešiteľné konflikty. Toto je tento chlapík tu. Môže prejsť na fialovú, čo vyrieši konflikt. Ale títo chlapíci tu, ktorí sú oranžoví, nemôžu urobiť žiadny krok, ktorý zníži počet farebných konfliktov vo svojom okolí, správne? Tento chlapík nemôže prepnúť na fialovú, pretože ak prejde na fialovú, bude mať viac konfliktov. Má, ako štyroch fialových susedov. A nemôže prepnúť na ružovú, pretože má dvoch ružových susedov. Takže sa pozri a povie, no, najmenej konfliktov mám, ak jednoducho zostanem oranžový. Takže táto skupina je zaseknutá, správne? [00:06:49] Majú nevyriešiteľný konflikt a nič sa nemôže stať. Žiadny pokrok nemôže byť dosiahnutý pri riešení problému kolektívnej akcie, kým jeden z týchto dvoch ľudí neurobí kontraproduktívny krok, prepnúť farby na fialovú alebo ružovú a dočasne zvýši konflikty. A to sa naozaj deje. A potom čas plynie a ľudia za 245 sekúnd vyriešia problém. Stroj zistí riešenie, zastaví hru a zaplatí im, dobre?
Teraz, pretože sme boli mazaní, to, čo sme urobili, je, že sme vykonali niekoľko experimentov, kde sme tajne nahradili niektorých ľudí botmi. A hodnotili sme, ako prídavok botov obdarovaných AI na vytvorenie hybridného systému ovplyvnil výkon skupiny. Je možné pridať niektoré boty do ľudských skupín a zlepšiť ich schopnosť koordinovať sa pri takýchto výzvach? To, čo sme urobili, je, že sme pridali troch botov a experimentálne sme variovali dve osi. Kde boli boty umiestnené, kde náhodne vstúpili do siete, kde ich dali do [00:07:51] centra siete, alebo kde ich dali do periférie siete. A náhodne sme manipulovali ich druhom AI kapacity tu veľmi triviálnym a jednoduchým spôsobom. To znamená, že sme manipulovali tým, či boty konali s dokonalosťou alebo konali s troškou šumu.
V situácii s dokonalosťou každých jeden a pol sekundy boty sa pozreli na svojich susedov a potom si vybrali farbu, ktorá mala najmenej konfliktov so svojimi susedmi. Čo by ste mohli považovať za iracionálne správanie. V situácii so 10% šumom to robili, ale 10% času si vybrali náhodnú farbu. A v situácii so 30% šumom to robili, ale 30% času si vybrali náhodnú farbu. Takže sme boty urobili, povedzme, viac a viac náchylné na chyby, viac a viac hlučné.
A potom sme sa pozreli na, mali sme, myslím, niečo ako, začneme s kontrolnou skupinou. Tu sme vykreslili na osi x čas a toto sú prežívacie krivky. Na osi y je pravdepodobnosť, že skupina ako celok nevyriešila koordinačnú hru. Takže tu, ak sa pozriete, napríklad na začiatku, v čase nula, [00:08:51] 100% iba ľudských skupín, sedenia iba s ľuďmi, sú v oranžovej farbe. Na začiatku 100% skupín iba ľudí nevyriešilo hru. A potom, ako čas plynie, čoraz viac ľudských skupín vyrieši hru, takže na konci piatich minút možno 60% skupín iba ľudí vyriešilo hru.
No, čo sa stane, je, že ak vložíte 10% hlučných botov do centrálnej pozície siete, získate rozpoznateľne zlepšený výkon. Tu, podstatne viac skupín ľudí, keď sa do stredu pridali roboty, ktoré mali trochu šumu, dokázali vyriešiť problém. V skutočnosti znížili mediánový čas riešenia z 232 sekúnd na 103 sekúnd. A v týchto dátach sú aj ďalšie zistenia. Dokonalé roboty a nadmerne hlučné roboty boli obe neprospešné. Potrebovali ste nejakú kalibráciu. Bolo to 10% hlučných robotov, ktoré boli najprospešnejšie. A tiež pozícia robotov mala nejaký dopad. Ale kľúčovo v týchto experimentoch sme tiež zistili, že ľudské bytosti, ktoré neboli pripojené k robotom, [00:09:52] ktoré boli ďalej od siete. Takže v grafoch boli niektorí ľudia pripojení k robotom a potom aj niektorí, ktorí neboli. Zistili sme, že aj títo ľudia začali meniť spôsob, akým hrali. Takže nastal účinok vlny, kaskádový efekt. Výhody toho, ako sa roboty interactovali s ľuďmi, sa šírili cez sieť a potom začali ovplyvňovať interakcie medzi ľuďmi stále ďalej a ďalej v sieti. Inými slovami, roboty pomohli ľuďom, aby si pomohli sami, a výhody šumu sa rozptýlili v rámci tohto sociálneho systému.
Teraz mi dovolte ďalej upraviť myšlienky týkajúce sa tejto kolektívnej výzvy a ako by vám tieto jednoduché AI agenti mohli pomôcť prostredníctvom inej analógie. Predstavte si, že máte rovinu. Takto to je podobne ako v gradientnom zostupe v strojovom učení, napríklad. Takže máte rovinu, a máte kopce a horu. A máte rôzne kopce, dobre, rôznych výšok. A máte horu, ktorá je tu hore, a to je najvyššia hora. Takže vás štyroch zoženiem a nechám vás niekde tu, a spolu vás spútam, každý z vás sa pozerá v inom základnom smere, [00:10:54] a zaväzujem vám oči. A poviem vám, nájdite najvyššiu horu. Takže vy sa medzi sebou porozprávate a poviete si, prečo si každý neurobi krok vo svojom smere a neinformuje tím? Takže urobíte krok na sever a poviete, že je to do kopca odtiaľto. A juh hovorí, že je to z kopca odtiaľto. A východ a západ hovoria, že je to na úrovni odtiaľto. Takže sa všetci dohodnete, že urobíte krok na sever. A pokračujete v tom iteratívne, až kým nedosiahnete bod, kedy všetci poviete, že je to z kopca odtiaľto.
Našli ste najvyššiu horu? Nie. (...) Čo ste urobili? Našli ste najbližší kopec.
Teraz niektorí nájdete najvyššiu horu? Nie. Nikdy nenájdete najvyššiu horu. Ste zaseknutí. Ste lokálne optimalizovaní, ale globálne sub-optimalizovaní. Aby ste globálne optimalizovali, potrebujete trochu hluku. Niekedy musíte dovoliť tejto skupine ľudí urobiť protiintuitívny krok dolu horou alebo dolu kopcom. Takže vykonajú sériu krokov, niekedy náhodou, až sa opäť dostanú na rovinu. A potom sa pohybujú okolo tejto fitness krajiny a skúmajú všetky tieto vrcholy, kým sa nakoniec nedostanú na tento vrchol. [00:11:56] A tento vysoký vrchol, tendenciu, globálny optimum, má sklon byť prijímajúcim stavom, pretože je potrebné omnoho viac hluku, aby ste sa dostali z tohto vrcholu ako z ostatných vrcholov. A tak teraz oscilujete okolo globálneho optima. Takže v našej práci sme skúmali tento druh jednoduchého programovania vloženého do sociálnych systémov, aby sme zistili, či môžeme zlepšiť výkon ľudí pri riešení rôznych typov problémov kolektívneho konania.
Teraz ďalší problém kolektívneho konania zahŕňa iných výziev, ktorou je spolupráca, nie koordinácia. Ľudia sa často musia spolupracovať na vytvorení toho, čo je známe ako verejné dobro. A maják je jedným z kanonických príkladov verejného dobra. Verejné dobro má dva kanonické rysy. Predovšetkým, je to, čo sa nazýva neexkludovateľné. A to znamená, že iným osobám nemôže byť zabránené v jeho používaní. Ak postavíte maják pre svoje osobné potreby, pretože navigujete po mori a nechcete naraziť na breh, je to skvelé pre vás, ale nemôžete nikomu inému zabrániť v jeho používaní, dobre? Neexkludovateľné. [00:12:58] A tiež je to ne-rivalizujúce. To znamená, že spotreba jednou osobou neznižuje spotrebu inými. Ak používam svetlo zo svojho majáka, pre vás nie je menej svetla na používanie. A to je na rozdiel od, napríklad, kusu koláča. Ak mám kus koláča, je môj, nie? Môžem vám zabrániť v jeho jedení. A ak ho zjem, žiadny nie je k dispozícii pre vás, dobre? Takže verejné dobro má tieto vlastnosti, a tieto vlastnosti v konečnom dôsledku sťažujú výrobu verejných dobrých. Pretože pokiaľ ide o stavbu majáka, je veľmi lákavé postaviť svoje individuálne záujmy proti záujmom skupiny. Ak neprispievate na stavbu majáka, môžete z neho stále profitovať. A tak sú všetci lákaní nič nerobiť, a potom sa maják nestavia na úkor všetkých. A tiež stojí za zdôraznenie, že verejné statky sú užitočné, pretože s nimi môžete skutočne produkovať veci, ako je bezpečná námorná preprava. A preto je podinvestovanie do verejných dobrých vážnym problémom v našej spoločnosti a stalo sa známe aj ako tragédia spoločného majetku. Tieto verejné statky, napríklad, normy dôvery, ktoré medzi sebou udržiavame, sú efektívne. [00:14:01] Premýšľajte o čase, keď ste boli na strednej škole. Niektorí z vás chodili na strednú školu, kde si študenti dôverovali navzájom, a to znamenalo, že ste mohli nechať svoje batohy osamote na chodbe a nebojte sa, že ich niekto ukradne. Iní z vás chodili do stredných škôl, kde neexistovali rovnaké normy dôvery, a teraz ste museli zamykať svoj batoh alebo ho mať pri sebe neustále. V ktorom z týchto dvoch prostredí si myslíte, že by ste mali lepšie učenie? Správne? V tom prvom prostredí. Takže tá norma, ktorá je kolektívne udržiavaná, je produktívna. V tomto prípade produktívna pre učenie. Tu, produktívna pre bezpečnú námornú prepravu a tak ďalej.
Takže spolupráca v ľudských skupinách na produkciu verejných statkov je náročná a vyžaduje si rôzne mechanizmy, aby sa udržala. A vykonali sme mnoho experimentov, ktoré zahŕňali umiestnenie ľudí do sieťových skupín a požiadanie ich, aby hrali rôzne druhy hier o verejné statky so svojimi susedmi, manipulujúc s mnohými štrukturálnymi a inými aspektmi v priebehu rokov. Takže, napríklad, začali sme pred rokmi experimentom, v ktorom boli ľudia umiestnení do takejto siete. Boli predstavení svojim susedom a hrali hru o verejné statky z oblasti behaviorálnej ekonómie, [00:15:03] kde som mohol dať trochu peňazí každému z mojich susedov. Ako, vezmem dolár a rozdelím ho medzi svojich susedov. A potom vedci zdvojnásobia dolár. Povedzme, že mám štyroch susedov. Povedzme, že mám troch susedov a dám dolár do skupiny. Stane sa z toho dva doláre. Týchto dva doláre sa rozdelí medzi nás štyroch. Takže celá skupina získa bohatstvo na dvoch dolároch, ale ja dostanem späť len 50 centov. Tých dvoch rozdelených štyrmi dostanem späť 50 centov. Takže musím urobiť obetu pre prospech ostatných. Takže prirodzene, každý hovorí, nechcem obetovať. Nech každý iný hlupák dá peniaze. Ja nič nedám, a dúfam, že ostatní prispiejú. Ale, samozrejme, ak to každý urobí, opäť dôjde k kolapsu. A najlepším správaním je, ak všetci maximálne prispievajú. Takže tu v tejto situácii začíname hru. Modré bodky sú, modrí ľudia sú milí a spolupracujúci. Dávajú maximálne svojim susedom a vytvárajú verejné statky, ako je budovanie majáku. A červené bodky sú vykorisťovatelia, ktorí nerobia žiadne príspevky, známi aj ako defektori. A čo zistíme v tomto experimente je, že reprodukujeme výsledok, ktorý je známy už 30 rokov, [00:16:03] a to je, že spolupráca sa v skupinách rozpadá, že? Na konci hry, po mnohých kolách, v podstate každý sa stane defektorom, okrem týchto malých modrých ľudí tu na boku, ktorí udržujú civilizáciu nažive, viete, medzi sebou. Môžete si tiež myslieť, že znova, aby som si pripomenul strednú školu pre vysokoškolákov. Pamätáte si situáciu, v ktorej vám váš učiteľ viedol štyroch z vás na skupinový projekt, a mali ste získať rovnakú známku. A dostali ste sa k štyrom, trom ďalším lenivcom. Takže máte teraz dve možnosti. Buď urobíte všetku prácu a oni dostanú tiež A, pretože chcete A. Alebo poviete, to je smiešne. Neprajem si, aby títo leniví chlapi profitovali z mojej tvrdej práce. A poviete, tiež nič neurobím, a všetci dostanete F, že? To je hrozná dilema. Nuž, čo sa tu stane je, že ľudia sa nakoniec rozhodnú pre tú druhú možnosť. Všetci si vyberú, aby dostali F, pretože nechcú byť hlupáci a stále prispievať. Takže spolupráca sa v sociálnych systémoch ako všeobecný výsledok rozpadá. Ale čo sme urobili je, že sme, opäť, pridali niektoré, aj keď iný druh robotov do systému. Pridali sme niektoré roboty, ktoré boli obdarované veľmi jednoduchým A. [00:17:05] A títo roboty boli ako malé sprostredkovateľky manželstiev. Sprostredkovali sociálne interakcie. Pozerali sa okolo seba lokálne, kto s kým interaguje, a dávali návrhy ľuďom v systéme. Viete čo? Mali by ste odstrihnúť väzbu na toho defektora, ktorý z vás ťaží, a naviazať väzbu na toho milého chlapa tu na boku. A táto jemná rada o prepojení, ktorá používa iba miestne znalosti. Nie je tam učiteľ, ktorý by prikazoval ľuďom, aby boli milí. Žiadna polícia. Žiadny súd. Žiadna centralizovaná autorita, ktorá by vykonávala toto. Iba na základe miestnych znalostí sme zistili, že títo roboty mohli, v našich experimentoch s viac ako 1 000 ľuďmi v 64 skupinách, sme zistili, že nielenže sa spolupráca mohla stabilizovať, ale vôbec po prvýkrát sme ukázali výsledok, že spolupráca sa mohla vlastne zvýšiť oproti základnej úrovni, keď sa pridali tieto typy robotov. A DeepMind následne replikoval naše výsledky a rozšíril ich v ďalšom článku, ktorý sa objavil asi rok alebo dva po tomto.
V ďalšom experimente sme skúmali, ako môžu roboty ovplyvniť skupinovú kreativitu. [00:18:07] pretože nájsť nové nápady je ťažké. Teória a experimenty naznačujú, že skupiny môžu byť lepšie schopné identifikovať a zachovať inovácie ako jednotlivci zdieľaním svojich objavov.
Ale inovácie v rámci skupín čelí vlastným výzvam, vrátane skupinového myslenia. Správne? Ak dáte dohromady skupinu ľudí, môžu sa predčasne zhodnúť na suboptimálnom nápade.
Alebo si môžete predstaviť, mali by ste si predstaviť, že skupina ľudí môže kolektívne mať väčšiu múdrosť, môže prísť s viac nápadmi. Napríklad, ak dáte skupine ľudí úlohu vylepšiť rybársky prút, viete, že prvá osoba môže povedať, no, prečo by sme na koniec nepriviazali háčik? A potom osoba drží šnúrku s háčikom. A niekto hovorí, prečo by sme na šnúrku nepridali palicu? Oh, to je skvelý nápad. Takže spoja svoje poznatky a urobia to. A niekto hovorí, nuž, návnada s háčikom pláva na povrchu. Poďme pridať vlnu, aby to kleslo. No, teraz to ide príliš hlboko. Čo keby sme pridali plavák, aby sme vedeli, kde to je a tak ďalej. A tak ľudia inovujú, zdieľajú vedomosti medzi sebou, zachovávajú vedomosti v priebehu času, [00:19:08] a získate tieto kultúrne artefakty, ktoré sú zloženým produktom viacerých ľudí zdieľajúcich nápady a preukazujúcich kreativitu.
Takže sme chceli vytvoriť hru, v ktorej skupiny ľudí hľadali v krajine optimálnu myšlienku. A rozhodli sme sa použiť podstatné mená ako zástupcov myšlienok. A vzali sme 20 000 podstatných mien z klasického korpusu počítačovej vedeckej terminológie word-to-vec. Takže sme vzali 20 000 podstatných mien. A vzdialenosť medzi týmito podstatnými menami mohla byť definovaná metrikou kosínusovej podobnosti. Môžete si predstaviť hyperdimenzionálny vektorový priestor, v ktorom je mačka podobnejšia psovi ako stolu. A spôsob, akým to urobili, je, že sa pozerali na to, ako často sa slová mačka a pes vyskytovali na webových stránkach. Takže mali vesmír webových stránok a vesmír 20 000 podstatných mien. A povedali, že tieto dve podstatné mená sa často vyskytujú spolu a tieto dve iné podstatné mená sa často nevyskytujú spolu. Vytvorili 300-dimenzionálny vektorový priestor. [00:20:08] A teraz môžete popísať, ako sú podobné akékoľvek dve podstatné mená. A rozhodli sme sa použiť podstatné mená ako zástupcov myšlienok. Vzali sme týchto 20 000 podstatných mien. A potom sme si vybrali sadu podstatných mien. Predstavte si, že sme si vybrali jedno podstatné meno, ale vybrali sme si sadu. Jedno podstatné meno náhodne zo všetkých týchto, ako napríklad braggadocio, bol príklad podstatného mena. Tak sme si vybrali braggadocio. A hovoríme, že to je perfektná myšlienka, ktorú chceme, aby táto skupina ľudí našla. A potom všetky podstatné mená, ktoré sú blízko braggadocia, v tomto vektorovom priestore odpadnú. Takže máte vrcholové podstatné meno, ktoré získa najviac bodov, 20 000 bodov, a všetky ostatné podstatné mená sú najďalej. A vložili sme ľudí do tohto systému a hovoríme, nájdite toto slovo. Nepovieme im to slovo. A potom im hovoríme bodovú hodnotu slov. Takže začnú hádať. A ako hádajú, dostávajú spätnú väzbu. A hovoria, aha, toto slovo má viac bodov ako iné slovo. A približujú sa a začínajú si navzájom zdieľať poznatky. Snažia sa byť kreatívni, aby vyriešili problém.
Takže každý podstatné meno je spojené s ostatnými v semantickej oblasti alebo bezútešnej krajine. [00:21:10] A mali sme 18 rôznych cieľových podstatných mien, akoby sme vytiahli vrchol z krajiny týchto 20 000 podstatných mien v 18 rôznych lokalitách v 18 rôznych krajinách. A tieto podstatné mená boli zámerne nezvyčajné, ako fratricide, shoehorn, sarcoma, cartografia a tak ďalej. A potom sme vykonali experimenty zahŕňajúce niekoľko podmienok, kde boli ľudia sami a snažili sa navigovať v krajine, kde boli ľudia v skupinách a spolupracovali na navigácii v krajine, alebo kde boli ľudia v skupinách, ale tiež mali nejaké boty, ktoré sa snažili pomôcť im byť kreatívni. A boty fungovali, pretože dokázali prenášať informácie z jednej oblasti siete do druhej komunikovaním medzi sebou. Takže napríklad bot číslo dva mohol preniesť slovo obloha alebo auto botu číslo jeden. Takže tu je príklad siete.
My vkladáme ľudí do hry. Námestné body sú boty. A tento bot má štyri interakcie a tento bot má, neviem, šesť alebo sedem interakcií. Ľudia na začiatku začínajú hádať. [00:22:12] Na začiatku hry neexistuje žiadny základ pre hádanie. Hádajú nebo, auto, králika, potkana, psa, mačku, stôl. Ako keby som sa vás spýtal, vyberte si podstatné meno na hádanie, hádali by ste dom alebo slnko alebo mesiac alebo mačku alebo psa alebo nejaké malé typické podstatné meno. A teraz im oznámia hodnotu bodov, ako veľmi sa slovo potkan, pes, mačka, stôl a tak ďalej podobá na nádor. A potom im oznámia hodnotu bodov týchto podstatných mien v súvislosti s cieľovým podstatným menom, ktorým je nádor. A potom sa tieto hodnoty bodov oznámia. A tento bot si môže pozrieť hodnoty bodov ľudí okolo seba a môže poslať buď náhodný výber tomuto botu, alebo najvyššiu hodnotu bodov, alebo najnižšiu hodnotu bodov, akoby skrytý kanál komunikácie, ktorý šíri informácie z jednej oblasti skupiny ľudí snažiacich sa vyriešiť problém do inej oblasti. Pozrime sa na niektoré príklady, aby sme to lepšie pochopili, pretože toto môže byť ťažké na pochopenie. Ľudia hrali túto hru asi 25 kôl. A tu je kosinusová podobnosť s cieľovým podstatným menom, ktorým je slovo bratovražda. Dobre, takže majú 20 000 podstatných mien. [00:23:13] Bratovražda má 20 000 bodov. A ostatné slová majú iné body. A tu je osamotená osoba, človek, ktorý háda sám. Takže ich prvé hádanie je bit. A oznámia im, ako veľmi sa slovo bit podobá bratovražde. A potom je ich ďalšie hádanie pôrod. A dostanú veľký nárast v kosinusovej podobnosti, pretože si môžete predstaviť, že slovo pôrod je bližšie k slovu bratovražda než slovo bit. Dobre? A potom hádajú. Skúsia peniaze nabudúce. To je horšie. Potom skúšajú opicu. To je ešte horšie. Skontrolujú. Urobia sanity check. Skúšajú pôrod. Znova sa zvýši. Potom skúšajú dieťa. To nie je zlé hádanie. Pôrod k dieťaťu. Ale dieťa ich posunie ďalej od bratovraždy. A potom dáma a tak ďalej. A navigujú. A hádajú. A hádajú. A hádajú. A na konci nie sú vôbec blízko bratovražde. Teraz v tejto inej situácii máme skupinu ľudí, ale žiadne boty. A teraz môžu ľudia, okrem toho, že robia svoje vlastné hádania, vidieť aj hádania ľudí okolo nich. A budovať na myšlienkach iných. Dobre? Vytvorené. Ako by sme spolu robili rybársky prút. [00:24:13] Takže tento človek, jeho prvé hádanie je pes. Ale jeho ďalšie hádanie je štít. Môžete vidieť, že štít je bližšie k bratovražde ako pes. A tento človek háda a háda a dostáva podnety od svojich susedov. A na konci sa dostane bližšie a bližšie. Skončí s wordom nepriateľ. Dobre? V skutočnosti najlepšie hádanie bol vojak. Mal najvyššiu hodnotu bodov počas jeho trasy.
Aký význam malo pridanie botov? Toto opäť ukazuje zhrnutie výsledkov. Na osi x je kolo. Na osi y je priemerná kosínová podobnosť v tejto hyper-dimenzionálnej vektorovej oblasti, čo je miera výkonu skupiny. A tu je skupina ľudí, ktorí konajú a hádajú samostatne. Takže ľudia, ktorí hádajú sami, to nemajú veľmi dobre, že? Je to len náhoda, či sa im podarí, alebo, viete, nejaká vrodená schopnosť každého jednotlivého človeka. S časom sa trochu zlepšujú a približujú. Všetky skupiny prevyšujú samostatné výkony. A toto je starý známy výsledok. Skupina ľudí je kreatívnejšia než rovnako veľká skupina jednotlivých praktikantov. Ale čo zistíme je, že ak pridáme najpodobnejšieho bota, bota, ktorý sa pozeral na svojich susedov, [00:25:17] a zistil, aký je ich lokálny konsenzus, o čom si moji ľudia myslia, že toto je dobré slovo. A potom to odovzdá botovi na vzdialenejšej časti siete. Ten bot podstatne zlepšil výkon tejto skupiny ľudí, aby dosiahli objav. Môžete si predstaviť, ako by to mohlo fungovať v skupine inžinierov alebo u akýchkoľvek iných znalostných pracovníkov. Ako môžete efektívne distribuovať vedomosti, vyhnúť sa skupinovému mysleniu a podporovať kreativitu navrhovaním botov, ktoré pomáhajú ľuďom pomôcť si. Bot tu nemá, nemá mozog. Nie je to, samo navrhuje nápady. Iba pomáha ľuďom rozširovať nápady medzi sebou.
Jednoduché AI agenti s interpretable správaním môžu zvýšiť kapacitu na kreatívne objavy v ľudských skupinách zdieľaním nápadov, okolo ktorých existuje lokálny konsenzus v jednej časti skupiny s ľuďmi vo vzdialenejšej časti skupiny. A v dôsledku toho môže skupina dosiahnuť lepšie výsledky.
Teraz sme tiež začali experimentovať s fyzickými systémami. A pridali sme humanoidné a nehumanoidné roboty [00:26:19] vybavené jednoduchou AI do skupín ľudí a ukázali sme, ako im môžu pomôcť uľahčiť spoluprácu tým, že im pomôžu prekonať trenie alebo neschopnosť kooperovať v ich interakciách. Jedným z mojich obľúbených príkladov tohto je experiment, ktorý som uskutočnil s mojou bývalou študentkou, Maggie Traeger, ktorá je vzadu a teraz je asistentkou profesorkou na Notre Dame, je tento experiment. V tomto experimente sme vzali troch skutočných ľudí, ktorí prišli do laboratória, a humanoidného robota. Navrhli sme malú hru, malú železničnú traťovú hru, ktorá sa hrá na tablete, a táto skupina ľudí a robota mala úlohu položiť železničnú trať z bodu A do bodu B, ako malé železnice z Thomas the Tank Engine. Potom sme im dali niekoľko dielov, ktoré si mohli vybrať na tablete, ako rovné a zakrivené kusy. Ale občas sme zavarili, aj keď to vyzeralo, že je tam mix kusov a že by v zásade mali byť schopní prejsť z bodu A do bodu B, zlovestne sme to navrhli tak, že nebolo správne množstvo zakrivení na to, aby sa dostali z bodu A do bodu B. [00:27:21] Takže to nemohli spraviť. Nemohli vyriešiť problém, o ktorom netušili. Dobre? Takže najprv by si každý človek vzal svoj ťah a položil kus trate, potom ďalší človek a ďalší človek. Pracujú spolu na spojení bodu A do bodu B na svojich tabletoch.
A čo sme robili v tomto experimente, je to, že sme manipulovali a hrali 30 kôl tejto hry v tomto virtuálnom svete, mali sme 51 skupín, manipulovali sme s konverzačným štýlom robotov, konkrétne či robot vyjadroval zraniteľnosť priznávajúc chybu. Takže robot povedal, vieš, urobil som chybu. Alebo či robot rozprával otcofské vtipy. Predpokladám, že všetci vedeli, čo sú otcofské vtipy. Dobre. Takže sme tiež mali, aby robot povedal, mimochodom, to je kultúrny univerzál, ako antropológovia v amazonkej džungli skúmali domorodé národy a aj tamci otcovia rozprávajú otcofské vtipy. A deti si hovorili, nemôžem uveriť, aké sú otcove hlúpe vtipy. Ale v každom prípade, a naozaj existuje teória o tom, čo znamenajú otcofské vtipy, aby v istom zmysle zocelili deti. Toto je teória. Ale v každom prípade, to je celkom iná odbočka. Tak, mali sme našich robotov, ktorí rozprávali otcofské vtipy alebo vyjadrovali zraniteľnosť. [00:28:21] A to, čo nás zaujímalo, bolo zistiť, či posuny v reči robotov mali moc nie len ovplyvniť, ako ľudia interagujú s robotmi, ale aj to, ako ľudia interagujú navzájom. A opäť, to ponúka perspektívu modifikovania sociálnych interakcií zavedením umelých agentov do hybridných systémov ľudí a strojov.
Tu je malý príklad. Nepovedal som ti výsledky. Tak tu sú, keď máme, takže tieto, hrúbka týchto čiar, sme nastavili videokamery na monitorovanie, kto s kým hovorí a ako dlho. A hrúbka týchto čiar naznačuje, ako veľmi osoba dva hovorí s osobou jedna a tak ďalej. Osoba jedna veľa nehovorí s robotom, to je tenká čiara. A keď ste mali neutrálnych robotov, dostanete tento vzorec. Ale keď ste mali zraniteľného robota, všetky tieto čiary sa zhusťujú a vyrovnávajú. Zistili sme, že zraniteľný robot zvýšil rovnosť reči medzi ľuďmi, zvýšil hlasitosť reči medzi ľuďmi a v skutočnosti, v samostatných výsledkoch, [00:29:22] zvýšil spokojnosť ľudí v takomto prostredí.
A tu je len jeden klip z dvoch rôznych kôl, ktoré ilustrujú, že robot hovorí najprv neutrálnym spôsobom, v pasívnom hlase, ktorý moc neovplyvňuje ľudskú komunikáciu. Robot hovorí, veľmi podobne ako Reagan, urobila sa chyba.
Ale v nasledujúcom kole robot hovorí, urobil som chybu. A môžete jednoducho sledovať, čo sa tu stane. Pozrime sa, či to dokážeme spustiť. (25 sekúnd pauza) Takže naprieč mnohými, mnohými desiatkami pokusov nachádzame tento typ vzorca. Takže jednoduchá manipulácia, jednoduchá manipulácia v rečovom vzore robota mení to, ako ľudia medzi sebou interagujú. [00:30:25] A nepredpokladám, že je ťažké si predstaviť, ako celý spôsob, akým navrhujeme naše chatboty a všetko ostatné, by mohol ovplyvniť nielen príklad Alexa, ktorý som ti dal na začiatku, ale aj to, ako si navzájom zachádzame. Ľudia sa zdajú dôverovať si viac a mať zábavu v tejto situácii.
Teraz tu ešte stojím a myslím si, že toto je posledný experiment, ktorý vám ukážem, a potom to zhrniem v ďalšom experimente. Vyvinuli sme novú kyberneticko-fyzickú platformu na testovanie takýchto sociálnych, ba dokonca etických účinkov jednoduchých typov AI. Pretože vzhľadom na povahu problému kolektívneho konania by zapojenie AI do ľudských skupín paradoxne a neúmyselne mohlo potlačiť existujúce prospešné sociálne normy u ľudí, ako sú tie, ktoré sa týkajú spolupráce a altruizmu, ktoré sme ako druh vyvinuli. Máme teda stovky tisíc rokov prirodzeného výberu, ktorý na nás pracoval, aby nás urobil schopnými riešiť problémy kolektívneho konania. Otázka znie: Ak delegujeme časť tejto agentúry strojom, prídeme o schopnosť spolupracovať na riešení týchto problémov? [00:31:32] Budeme sa spoliehať na tieto stroje a tak degradujeme našu vrodenú schopnosť spolupracovať a koordinovať sa a vytvárať, a tak ďalej? V tomto experimente, v spolupráci s Hiro Shiratom z CMU, ďalším bývalým študentom magisterského štúdia, sme postavili platformu, ktorá pozostávala z dvoch malých mechanických vozidiel Raspberry Pi, a pripojili sme ju k softvéru, ktorý máme a ktorý nám umožňuje organizovať online experimenty vo veľkom meradle. Ľudia boli vo svojich domovoch, a boli priradení k jednému z týchto áut, a jazdili s týmito autami k sebe.
a my sme ich nechali hrať hru na kura. Tak v kurčati, vieš, ako, kto sa dostane na druhú stranu najrýchlejšie, vyhrá. Takže máš motiváciu neustúpiť tomu druhému. Ale ak sa obaja rozhodnete neustúpiť, narazíte a obaja dostanete najhorší zisk. Takže čo by ľudia robili v tejto situácii, ak hráte iterovanú hru na kura, je, že by ste sa rýchlo naučili, ako si striedať. Tentokrát je tvoj rad ísť priamo, ja sa odtiahnem a dám ti cestu, ale nabudúce sa ty odťahuješ a dáš mi cestu ísť priamo. [00:32:35] Ak sme sebeckí, stále sa do seba narážame, ako sa ničíme znova a znova, alebo hlúpo, obaja uhýbame a nikto nezíska výhodu ísť priamo. Takže v tejto situácii tam, žlté auto sa rozhodne odtiahnuť, modré auto pokračuje bez prekážok až na druhú stranu.
A my sme použili 300 účastníkov a 150 dyád, a boli platení v závislosti od toho, ako rýchlo sa dostali na druhú stranu. A potom sme pridali trochu AI. Pridali sme asistenciu automatického brzdenia, kde, keď ste mali upozornenie na blízkosť, a keď ste sa priblížili k druhému autu, zabrzdilo to a dalo vám možnosť rozhodnúť sa, že by ste sa mali odtiahnuť a nechať tohto druhého človeka prejsť, alebo naopak. Alebo sme pridali asistenciu automatického riadenia, ktorá je, že v momente, keď sa priblížilo k druhému autu, sa jednoducho vyhlo, OK? A pridali sme minimálnu komunikačnú funkciu, kde mohli ľudia povedať ďakujem, alebo niečo také. Iba veľmi minimálna komunikácia. A najprv sme ukázali, že asistenciu automatického brzdenia, kde autá zastavujú na fixnej vzdialenosti pred zrážkou, zvýšila ľudskú altruizmus. [00:33:38] To znamená, ustúpiť iným, ako to robí žlté auto tu. Takže pridanie malej asistencie automatického brzdenia AI uľahčilo ľuďom spolupracovať v tejto situácii. Navyše, umožnenie komunikácie medzi ľuďmi ešte viac pomáha dosahovať vzájomné ústupky v podmienkach automatického brzdenia. Na druhej strane, asistenciu automatického riadenia, kde auto jednoducho uhlo, úplne potlačila vznik reciprocity medzi ľuďmi v prospech maximalizácie vlastného záujmu. Ľudia len vzdali svoju morálnu zodpovednosť. Už sa tým nezapodievali. Jednoducho nechali stroj opakovane uhýbať, a vzdali sa, OK? Takže všetky vrodené etické schopnosti, ktoré ľudia mali, boli teraz odstránené pridaním AI v podmienkach automatického riadenia, ale posilnené v podmienkach automatického brzdenia. A to by vás malo prinútiť zamyslieť sa. Mali by ste sa zamyslieť, oh môj bože, každé malé rozhodnutie, ktoré urobíme, keď programujeme tieto AI agentov, môže mať dobré alebo zlé účinky na prirodzené tendencie ľudí.
Schopnosť ľudí spolupracovať, striedať sa a konať altruisicky môže atrofovať, čo vedie k horším kolektívnym a individuálnym výsledkom na konci. [00:34:46] A v skutočnosti, v skratke, umelá inteligencia môže viesť k akejsi morálnej lenivosti. (..) Tu je jeden posledný príklad trvalej zmeny po vystavení AI v hybridných systémoch. A je to tiež príklad toho, ako prítomnosť AI môže zmeniť interakcie medzi ľuďmi, aj keď AI už nie je súčasťou týchto interakcií. Takže v roku 2016, DeepMind vyvinul AlphaGo, a v tom istom roku, tento AI agent hral proti Lee Sedol, výnimočnému svetovému šampionovi z Kórey.
Sledoval som zápas. Neviem hrať Go, ale uznávam, že je to nádherná hra. Môj syn hrá Go. (.) A naozaj som fandil Lee Sedolovi. Lee Sedol je ako hrdina v Kórei, ako by sme mali, viete, skvelých športovcov na našich krabiciach Wheaties a podobne. Ako, jeho obrázok je na malých balíčkoch cestovín a na obaloch cereálií. Myslím, že je nádherné, že v Kórei nejaký inteligentný nerd ako ja je vnímaný ako dôležitá osoba, dobre? Takže je veľmi populárny v Kórei. A prišiel na prvý zápas, a je príliš arogantný. [00:35:47] Môžem povedať, že je príliš arogantný. A prehráva s automatizovaným strojom, a potom sa ospravedlňuje svojim fanúšikom. Hovorí, veľmi sa ospravedlňujem. Je to päť zápasov. Je to najlepšie tri z piatich víťazstiev. Potom hrá druhý zápas, a znovu prehráva. A teraz sa vážne snaží. Potom hrá tretí zápas, a prehráva. Prehral súťaž.
A mohli ste akosi vidieť divákov, a komentátori žasli nad schopnosťou stroja hrať Go, robiac tieto zvláštne a krásne ťahy, z ktorých niektoré neskôr objavili, že boli hrané preto, lebo máme záznamy siahajúce tisíce rokov späť o zápasoch Go hraných na Čínskom cisárskom dvore. A mohli zistiť, oh, môj Bože, toto je stredoveký ťah, ktorý stroj urobil. Už sme ho dlho nevideli.
A potom sa Lisa Dahl vracia na štvrtú hru a vyhráva. (..) A ja som plakala. Bola som taká šťastná. (..) Pretože mal tú mašinu, viete, vrátil sa za mojím druhom a porazil tú prekliatu mašinu. Ako hrdinsky, ako, nemohla som pochopiť, akú mozgovú silu musela Lisa Dahl na to vynaložiť. [00:36:49] V tom momente som bola nadšená a tak hrdá na neho, že sa stále snažil, aj po tom, čo prehral zápas.
Teraz, čo je zaujímavé, je keď bola Lisa Dahl po zápase interviewovaná, povedala, že jej vlastné hranie sa zmenilo po zápase. Takže opäť, AI pomáha ľuďom, aby si pomohli, rozumiete? Zmení spôsob, akým hrá, kvôli kontaktu. A následné vyšetrovania inými vedcami skúmali profesionálnych hráčov Go a posudzovali priemernú kvalitu rozhodnutí. Existuje nejaký štandard v Go na posudzovanie toho, aký dobrý je ťah, a priemerná novosť, ako neobvyklý ťah je. A zistili, že keď AlphaGo porazil ľudského majstra sveta v roku 2016, po celom svete hráči Go začínajú robiť lepšie ťahy, ktoré sú inovatívnejšie, rozumiete? Takže všetci ľudia, ktorí hrajú Go medzi sebou, sa zmenili, pretože AlphaGo bol pridaný. AI pomáha ľuďom, aby si pomohli. Pokračujeme v práci na dizajne a pridávaní jednoduchých botov do týchto a iných situácií týkajúcich sa sociálnych dilem a problémov kolektívnej akcie. [00:37:55] Zameriavame sa na to, ako môžu boti ovplyvniť koordináciu, spoluprácu, komunikáciu, kreativitu, dôveru, navigáciu, zdieľanie a evakuáciu. A v našej laboratóriu sa nezameriavame na super inteligentnú AI, ako sú LLM alebo AlphaGo, ktorá by nahradila ľudskú kogníciu, ale skôr na dlhosť AI na doplnenie ľudskej interakcie. Nesnažíme sa vynájsť super inteligentnú AI na nahradenie ľudskej kognície. Vynaliezame hlúpú AI na doplnenie ľudskej interakcie. A naša AI si môže dovoliť byť hlúpa, pretože ľudia sú inteligentní. Naša AI je ako platina pridaná do reakcie organickej chémie. Je to len katalyzátor. Potrebujeme len katalyzátor, aby sme pomohli skupine ľudí byť lepší.
A samozrejme, je dôležité uznať, že opačné je tiež možné. Sociálna AI môže byť použitá na poškodzenie skupín ľudí. Ale náš prístup ponúka množstvo iných technických a koncepčných výhod. Predovšetkým, tieto jednoduché boty sú zrozumiteľné a jasne ilustrujú širšie sily a príležitosti. Na rozdiel od LLM, ktoré sú čierna skrinka a neviete, čo robí, môžem vám presne povedať, čo robí náš bot. [00:38:58] Je to hlučné. Zaisťuje zoznámenia. Posiela správy týmto veľmi špecifickým spôsobom. A po druhé, naše kontrolované experimenty s botmi môžu takisto poskytnúť pohľad na to, ako by sa ľudské správanie mohlo priaznivo zmeniť. Inými slovami, môžem to vziať z laboratória a môžem naučiť skupinu ľudí robiť to, čo robili naši boti. Do istej miery, nemôžete jednoducho naučiť skupinu ľudí robiť to, čo tu robil ChachiPT. Nevieme, čo robí ChachiPT, ale viete, čo robí v našej situácii.
Rád by som to teda uzavrel, toto je moja posledná snímka, pomocou metafory. Zvážte tieto dva objekty. Obe sú vyrobené z uhlíka. Ak vezmete uhlíkové atómy a spojíte ich jedným spôsobom, dostanete grafit, ktorý je mäkký a tmavý. Ak vezmete tie isté uhlíkové atómy a spojíte ich iným spôsobom, dostanete diamant, ktorý je tvrdý a číry. A existujú tu dve kľúčové intelektuálne myšlienky. Predovšetkým, tieto vlastnosti mäkkosti a temnoty a tvrdosti a priehľadnosti nie sú vlastnosti uhlíkových atómov. Sú to vlastnosti súboru uhlíkových atómov. A po druhé, aké vlastnosti získate závisí od toho, ako spojíte uhlíkové atómy navzájom. Vezmite tie isté uhlíkové atómy a spojte ich jedným spôsobom, dostanete jednu sadu vlastností. [00:40:01] Spojte ich iným spôsobom, dostanete úplne inú sadu vlastností. Podobne, povaha našich spojení ovplyvňuje vlastnosti našich sociálnych skupín. To sú väzby medzi ľuďmi, ktoré môžu spraviť celok väčším než súčet jeho častí. Nové vlastnosti, ako spolupráca a násilie, inovácia a produktivita, dôvera a nedôvera, pravda a lož, bohatstvo a chudoba, zdravie a šťastie, môžu vzniknúť a rozšíriť sa vďaka spojeniam, kvôli väzbám medzi ľuďmi a nie nevyhnutne iba kvôli samotným ľuďom. V skutočnosti naša skúsenosť s svetom závisí od štruktúry a funkcie sietí okolo nás, blízko aj ďaleko. A náš druh sa vyvinul tak, aby to tak bolo. A nemalo by nás prekvapovať, že budeme reagovať na AI, ktorá je medzi nami. Ďakujem pekne.
