Nicholas Christakis: [00:00:05] Dobře, lidé jsou ukotveni v sociálních sítích, které dodržují velmi konkrétní matematické, biologické a sociální principy. A čím dál častěji přidáváme umělou inteligenci v podobě on-line agentů a fyzických robotů, kteří s námi komunikují, jako by byli sociálními entitami. A tyto typy agentů, které budeme přidávat do našich systémů, se pohybují od autonomních vozidel na silnicích po pokladní stroje v obchodech, humanoidní roboty v domácnostech nebo továrnách, na bojištích nebo v situacích hašení požárů, až po bezútěšné autonomní agenty jako jsou on-line boty a digitální AI asistenti v našich telefonech nebo brýlích nebo na pracovištích. A tyto technologie s námi interagují na rovném poli, jako by byly lidské. A povedou k hybridním systémům lidí a strojů. A tyto systémy nabízejí příležitosti pro nový druh sociální umělé inteligence.
Nyní vám dám pouze jednoduchý příklad. Když získáte digitální asistenta, jako je Alexa, výrobce tohoto zařízení se velmi zajímá o interakci mezi člověkem a strojem. A tato interakce je optimalizována. Například byste si nikdy nekoupili Alexu, pokud byste museli pokaždé, když od ní něco potřebujete, říct: "omlouvám se, Alexo, velmi se omlouvám, že vás přerušuji. Pokud vám to nevadí, řekněte mi prosím slovo? [00:01:35] počasí zítra, že? To by se považovalo za absurdní úroveň zdvořilosti. Očekáváte, že řeknete: "Alexo, počasí", a stroj poslušně odpoví. A to je v pořádku, dokud tuto mašinu nepřinesete do svého domu a vaše děti s tímto strojem mluví a učí se být hrubé. A pak jdou na hřiště a jsou hrubé k ostatním dětem. Takže ten stroj, který byl přidán do naší přítomnosti, není jen o interakci mezi člověkem a strojem, ale také o interakci mezi lidmi v přítomnosti strojů. A o co se zajímám, jsou interakce mezi lidmi v přítomnosti strojů. A můžeme použít porozumění struktuře a funkci sociálních sítí k posouzení využití a dopadu sociální AI v rámci a na lidské skupiny, vzhledem k faktorům, jako je důvěra a spolupráce, které jsou nezbytné pro to, aby lidé mohli spolupracovat a které ovlivňují chování těchto kolektivů.
Dovolte mi zvýraznit některé z prací, které děláme, ehm, pomocí různých přístupů k experimentům v oblasti sítí, které se týkají, ehm, umělé inteligence. Tyto experimenty hodnotí, jak by AI mohla ovlivnit strukturu a funkci lidských sociálních interakcí. [00:02:45] Nyní existuje třída problémů kolektivní akce sociálních interakcí, které máme a které jsou známé jako koordinační problémy. Toto jsou problémy, kterým musíme čelit společně, pokud chceme vytvořit něco užitečného. A někdy tyto problémy řešíme vytvářením centralizovaných institucí, jako jsou policie nebo soudy nebo vlády. Ale často jsme schopni vyřešit problémy kolektivní akce, které vyžadují, abychom se koordinovali nebo spolupracovali s velkým počtem lidí decentralizovaným způsobem. Skutečně jsme se vyvinuli tak, abychom měli tuto kapacitu. A jeden konkrétní typ problému kolektivní akce, se kterým bych chtěl dnes začít, je ve skutečnosti koordinace.
Takže například, abychom se vyhnuli této dopravní zácpě, lidé se musí koordinovat, aby udělali něco jiného než jejich sousedé. Takže pokud všichni vyjdou z domu ve stejnou dobu, všichni uvíznou v dopravní zácpě. Ale pokud, pokud si posunou časy odjezdu a vyjdou v intervalech, pak nikdo není v dopravní zácpě. Nyní, samozřejmě, byste mohli mít nějaký druh centrální autority, která by to koordinovala. Vy odejdete první, pak vy, a pak vy. [00:03:45] Ale ideálně byste chtěli mít nějaký druh decentralizovaného, netop-down způsobu, jak se lidé koordinují, aby tento problém vyřešili.
Takže to byl náš první experiment, který byl zveřejněn v roce 2017 o takových hybridních systémech, které zkoumaly, jak by AI mohla pomoci s takovou výzvou. A zkoumali jsme výkon lidských skupin, které se zapojily do úkolu koordinace. Naším paradigmatem bylo půjčit si z informatiky něco, co se nazývá problém barevného grafu. To je klasický problém v informatice. Ale to, co jsme udělali, je, že jsme ho vzali a umístili jsme lidi do této situace. Takže jsme vzali 4 000 lidí a umístili jsme je do 230 online skupin. Tito lidé byli umístěni do těchto skupin. A byli nahodile přiděleni na místo v umělé síti, kterou jsme vytvořili, jejíž struktura přibližně připomínala skutečné lidské sítě. A byli umístěni do těchto míst a byli informováni, že byli přiděleni k jedné ze tří barev, [00:04:46] fialové, oranžové, fialové, oranžové a růžové. A byli informováni, že si musí vybrat barvu, která se liší od jejich sousedů.
A dostali pět minut na to, aby to udělali. Takže se tito lidé podívali kolem na své sousedy. Každý se podíval kolem a řekl by, jako, tenhle kluk tady je růžový. Vidí, že má růžového souseda a oranžového souseda. Co by měl udělat, je přepnout na fialovou barvu. A červené čáry zde naznačují barevné konflikty. Jinými slovy, pokud jsou dvě barvy sousedních uzlů stejné, dostanou červenou čáru. A pozadí fialových čar naznačuje strukturu sociálních interakcí. Takže sem umístíte lidi. Podívali se kolem na své sousedy každou sekundu nebo sekundu a půl. Udělají přepnutí v souladu s cílem, že každý z nich musí vybrat barvu, která je odlišná od jejich sousedů během následujících pěti minut. A pokud to udělají, pak a pouze pak budou zaplaceni. Budu vás platit, abyste spolupracovali. A pokud všichni spolupracujete decentralizovaným způsobem, abyste vyřešili problém, všichni dostanete zaplaceno. Jinak, nedostanete nic, rozumíte? Takže, co se stane v tomto experimentu. Tady na osy x je čas v sekundách až do pětiminutového marku. [00:05:47] Hra trvá pět minut, tady dolů někde. A tady na osy y je cílová funkce nebo počet barevných konfliktů. A tak zde na začátku existuje 12 barevných konfliktů. Jsou náhodně přiřazeny své počáteční barvy. A to je ukázáno zde na tomto malém histogramu. A tak se lidé začnou koukat kolem a měnit své barvy. Víš, přepnou a přepnou. A dospějí na tento bod, kde nyní dosáhli situace, ve které je barevný konflikt mezi těmito dvěma lidmi. A tento konflikt je však to, čemu říkáme neřešitelný konflikt. Takže světle oranžové čáry jsou řešitelné konflikty. To je tenhle chlap tady. Může udělat krok k fialové, který vyřeší konflikt. Ale tito kluci tady, kteří jsou oranžoví, nemohou udělat žádný krok, který by snížil počet barevných konfliktů v jejich okolí, že? Tenhle kluk nemůže přepnout na fialovou, protože, ve skutečnosti, pokud přepne na fialovou, bude mít více konfliktů. Má, jako, čtyři fialové sousedy. A nemůže přepnout na růžovou, protože má dva růžové sousedy. Takže se podívá a říká, no, nejméně konfliktů mám, když zůstanu oranžový. Takže teď je tato skupina zaseknutá, že? [00:06:49] Mají neřešitelný konflikt a nic se nemůže stát. Žádný pokrok nemůže být učiněn v řešení problému kolektivní akce, dokud jeden z těchto dvou lidí neudělá protiintuitivní krok, nepřepne na fialovou nebo růžovou a dočasně zvýší konflikty. A to se vlastně stane. A pak čas plyne, a lidé vyřeší problém na 245 sekundách. Stroj detekuje řešení, zastaví hru a vyplatí je, rozumíte?
Teď, protože jsme byli mazaní, co jsme udělali, je, že jsme provedli nějaké experimenty, kde jsme nenápadně vyměnili některé z lidských bytostí za boty. A zhodnotili jsme, jak přidání AI vybavených botů do hybridního systému ovlivnilo výkon skupiny. Je možné přidat nějaké boty do lidských skupin a zlepšit jejich schopnost koordinace při čelení takové výzvě? A to, co jsme udělali, je, že jsme přidali tři boty a experimentálně jsme měnili dvě osy. Kde byly boty umístěny, kde náhodně spadly do sítě, kde byly umístěny [00:07:51] do středu sítě, nebo kde byly umístěny na periferii sítě. A náhodně jsme manipulovali jejich AI kapacity zde velmi triviálně a jednoduše. To znamená, že jsme manipulovali s tím, zda se boty chovaly s dokonalostí nebo jednaly s trochou šumu.
V situaci dokonalosti se boty každou sekundu a půl podívaly kolem na své sousedy a poté si vybraly barvu, která měla nejméně konfliktů se svými sousedy. Co byste mohli považovat za iracionální chování. V situaci s 10% šumem to dělaly, ale 10% času si vybíraly náhodnou barvu. A v situaci se 30% šumem to dělaly, ale 30% času si vybíraly náhodnou barvu. Takže jsme udělali boty, řekněme, čím dál více náchylné k chybám, čím dál více hlučné.
A pak jsme se podívali na to, měli jsme, myslím, něco jako, začněme s kontrolní skupinou. Vykreslili jsme zde na ose x čas a toto jsou křivky přežití. Na ose y je pravděpodobnost, že skupina jako celek nevyřešila koordinační hru. Takže zde, pokud se podíváte zde, například na začátku, v čase nula, [00:08:51] 100% pouze lidských skupin, sezení pouze s lidmi, jsou v oranžové barvě. Na začátku 100% lidských skupin nevyřešilo hru. A pak, jak čas plyne, stále více a více lidských skupin hru vyřeší, takže na konci pěti minut, možná 60% lidských skupin vyřešilo hru.
No, co se stane, je, že pokud vložíte 10 % hlučných botů do centrální pozice sítě, získáte znatelně lepší výkon. Zde bylo podstatně více skupin lidí, když byly boty s trochou šumu přidány do středu, schopny problém vyřešit. Ve skutečnosti snížily medián času řešení z 232 sekund na 103 sekund. A v těchto datech jsou také další zjištění. Perfektní boti a příliš hluční boti nebyli užiteční. Potřebovali jste nějakou kalibraci. Bylo to těch 10 % hlučných botů, které byly nejvíce nápomocné. A také pozice botů měla nějaký vliv. Ale klíčové v těchto experimentech bylo, že jsme také zjistili, že lidé, kteří nebyli spojeni s boty, [00:09:52] kteří byli dál od sítě. Takže v grafech byli někteří lidé, kteří byli spojeni s boty, a pak někteří jiní, kteří nebyli. Zjistili jsme, že i ti lidé začali měnit způsob, jakým hráli. Takže byl tu efekt vlny, kaskádový efekt. Přínosy toho, jak bot interagoval se svými lidmi, se šířily sítí a začaly také ovlivňovat interakce mezi lidmi, kteří byli dál a dál od sítě. Jinými slovy, boti pomohli lidem, aby si pomohli sami, a přínosy šumu se rozptýlily v tomto sociálním systému.
Teď mi dovolte dále vyjasnit myšlenky ohledně této kolektivní výzvy a jak by mohli tito jednoduchí AI agenti pomoci s jinou analogií. Představte si, že máte rovinu. To je jako v gradientním sestupu v strojovém učení, například. Máte rovinu, a máte kopce a horu. A máte různé kopce, v pořádku, různé výšky. A máte horu až tady, která je nejvyšší. Takže vás čtyři postavím někam sem, a budu vás spoutávat dohromady, každý z vás se dívá v jiném směru, [00:10:54] a zakryji vám oči. A řeknu vám, najděte nejvyšší horu. Tak si mezi sebou povídáte a říkáte si, proč si každý nevzal krok ve svém směru a nezprávěli jsme zpět týmu? Takže uděláte krok na sever a řeknete, že je tady stoupání. A na jih říká, že je tady klesání. A východ a západ říkají, že je to zde horizontálně. Takže se všichni shodnete, jděte na sever. A pokračujete v tomto iterativně, dokud nedosáhnete bodu, kdy všichni říkáte, že tady je klesání.
Našli jste nejvyšší horu? Ne. (...) Co jste udělali? Našli jste nejbližší kopec.
Teď skutečně najdeš nejvyšší horu? Ne. Nikdy nenajdeš nejvyšší horu. Jsi uvězněn. Jsi lokálně optimalizován, ale globálně suboptimalizován. A k tomu, abys globálně optimalizoval, potřebuješ trochu šumu. Občas musíš dovolit této skupině lidí udělat protiintuitivní krok dolů z hory nebo z kopce. Takže dělají sekvenci někdy náhodou sekvenci kroků, dokud se nedostanou zpět na rovinu. A pak procházejí kolem této fitness krajiny, prozkoumávají všechny tyto vrcholy, dokud se nedostanou na tento vrchol. [00:11:56] A tento vysoký vrchol, globální optimum, má tendenci být přijímacím stavem, protože vyžaduje mnohem více šumu, abys opustil ten vrchol než ostatní vrcholy. A nyní kmitáš kolem globálního optima. Takže v naší práci jsme zkoumali tento druh jednoduchého programování vloženého do sociálních systémů, abychom zjistili, zda můžeme zlepšit výkon lidí při řešení různých druhů problémů kolektivního jednání.
Nyní se další kolektivní akční problém týká jiného úkolu, a to je spolupráce, nikoli koordinace. Lidé se často musí spolupracovat na výrobě toho, co je známo jako veřejné dobro. A maják je jedním z klasických příkladů veřejného dobra. Veřejné dobro má dvě klasické vlastnosti. Především je to, co se nazývá neexkluzivní. A to znamená, že ostatní osoby nemohou být z používání vyloučeny. Pokud postavíte maják pro své vlastní osobní potřeby, protože se plavíte po moři a nechcete narazit na pobřeží, to je skvělé pro vás, ale nemůžete nikoho jiného zastavit v jeho používání, ano? Neexkluzivní. [00:12:58] A také je to neomezené. To znamená, že konzumace jednou osobou nesnižuje konzumaci ostatních. Pokud používám světlo z mého majáku, není méně světla, které můžete použít. A to je na rozdíl třeba od kousku dortu. Pokud mám kousek dortu, je to můj, že? Můžu vám zabránit v jeho snědení. A pokud ho sním, není pro vás k disposici, ano? Takže veřejné dobro má tyto vlastnosti, a tyto vlastnosti zase ztěžují výrobu veřejných statků. Protože když přijde na stavbu majáku, je velmi lákavé postavit své jednotlivé zájmy proti zájmům skupiny. Pokud se nepodílíte na stavbě majáku, stále z něj můžete těžit. A tak je každý lákán nic nedělat, a pak se maják nepostaví ku prospěchu všech. A také stojí za to zdůraznit, že veřejné statky jsou užitečné, protože s nimi můžete skutečně produkovat věci, jako je bezpečná plavba po moři. A jako takové je nedostatečné investování do veřejných statků vážným problémem naší společnosti a také se nazývá tragédií sdílených zdrojů. Tyto veřejné statky, například normy důvěry, které udržujeme mezi sebou, jsou efektivní. [00:14:01] Pomyslete na to, když jste byli na střední škole. Někteří z vás chodili na střední školu, kde si studenti důvěřovali, a to znamenalo, že jste mohli nechat své batohy volně v chodbě a nebát se, že vám je někdo ukradne. Jiní z vás chodili na střední školy, kde nebyly stejné normy důvěry, a teď jste museli zamykat své batohy nebo je mít s sebou neustále. V kterém z těchto dvou prostředí si myslíte, že byste měli lepší učení? Ano? V tom prvním prostředí. Takže ta norma, která je kolektivně udržována, je produktivní. V tomto případě produktivní pro učení. Tady, produktivní pro bezpečnou plavbu po moři a tak dále.
Spolupráce v lidských skupinách na produkci veřejných statků je náročná a vyžaduje různé mechanismy k jejímu udržení. A provedli jsme mnoho experimentů, které zahrnovaly vkládání lidí do sítí a žádání je, aby hráli různé druhy her s veřejnými statky se svými sousedy, manipulující mnoha strukturálními a jinými prvky v průběhu let. Takže například jsme před lety začali experimentem, ve kterém byli lidé umístěni do sítě takto. Byli seznámeni se svými sousedy a hráli hru s veřejnými statky z oblasti behaviorální ekonomie, [00:15:03] kde jsem mohl dát trošku peněz každému z mých sousedů. Vezmu dolar a rozdělím ho mezi své sousedy. A pak vědci dolar zdvojnásobí. Představme si, že mám čtyři sousedy. Řekněme, že mám tři sousedy, a já dám dolar skupině. Stane se z toho dva dolary. Tyto dva dolary se rozdělí mezi nás čtyři. Takže celá skupina získává bohatství ve výši dvou dolarů, ale já dostanu zpět jen 50 centů. Dva děleno čtyřmi, dostanu zpět 50 centů. Takže musím udělat oběť pro prospěch ostatních. Přirozeně všichni říkají, že nechtějí obětovat. Ať každý jiný hlupák dá peníze. Já nic nedám a doufám, že ostatní přispějí. Ale, samozřejmě, pokud to tak udělá každý, dostaneme se opět do kolapsu. A nejlepší chování je, pokud každý maximálně přispěje. Takže zde v této situaci začínáme hru. Modré body jsou, modří lidé jsou ti hezcí a kooperativní. Dávají maximálně svým sousedům a vytvářejí veřejné statky, jako je stavba majáku. A červené body jsou vykořisťovatelé, kteří nepřispívají, známí také jako defektoři. A co zjistíme v tomto experimentu, je, že reprodukujeme výsledek, který je známý už 30 let, [00:16:03] což je, že spolupráce kolabuje ve skupinách, že? Na konci hry, po několika kolech, se prakticky každý stane defektorem, kromě těchto malých modrých lidí zde na straně, kteří drží civilizaci naživu, víte, mezi sebou. Můžete také znovu pomyslet, abychom vyvolali střední školu pro studenty. Pamatujete na tu situaci, kdy vám váš učitel vědy přidělil čtyři z vás k projektu skupiny, a dostali jste stejnou známku. A byli jste přiděleni k třem dalším ztraceným. Takže teď máte dvě možnosti. Buď uděláte celou práci a oni také dostanou A, protože chcete A. Nebo řeknete, to je směšné. Nechci, aby tito lenoši měli prospěch z mé tvrdé práce. A řeknete, že také nic neuděláte, a všichni dostanete F, že? To je děsná dilema. Co se zde stane, je, že lidé nakonec zvolí druhou možnost. Všichni si vyberou F, protože nechtějí být hlupáci a dál přispívat. Takže spolupráce kolabuje v sociálních systémech jako obecný výsledek. Ale to, co jsme udělali, je, že jsme opět přidali, i když jiný druh botů do systému. Přidali jsme nějaké roboty, které byly vybaveny velmi jednoduchými A. [00:17:05] A tito roboti byli jako malí zprostředkovatelé manželství. Zprostředkovali sociální interakce. Sledují kolem sebe, kdo interaguje s kým, a poskytovali návrhy lidem v systému. Víš co? Měl bys ukončit vazbu s tím defektorem, který tě využívá, a vytvořit vazbu s tím hezkým chlapíkem tady místo toho. A tento jemný návrh přepojení využívající pouze místní znalosti. Není tam učitel, který by nařizoval lidem být hezkými. Žádná policie. Žádný soud. Žádná centralizovaná autorita, která to vykonává. Jen jednání na základě místních znalostí, zjistili jsme, že tyto roboty, v našich experimentech s více než 1 000 lidmi ve 64 skupinách, jsme zjistili, že nejen že může být spolupráce stabilizována, ale poprvé jsme ukázali výsledek, že spolupráce může skutečně vzrůst od základny, když byly přidány tyto typy robotů. A DeepMind následně replikoval naše výsledky a rozšířil je v dalším článku, který se objevil asi rok nebo dva po tomto.
V dalším experimentu jsme zkoumali, jak mohou roboti ovlivnit skupinovou kreativitu. [00:18:07] protože nalézání nových nápadů je obtížné. Teorie a experimenty naznačují, že skupiny mohou být lépe schopné identifikovat a uchovat inovace než jednotlivci sdílením svých objevů.
Ale inovace ve skupinách čelí vlastním výzvám, včetně skupinového myšlení. Správně? Pokud dáte dohromady skupinu lidí, mohou se předčasně spojit na suboptimálním nápadu.
Nebo si můžete představit, měli byste si představit, že skupina lidí by mohla mít kolektivně větší moudrost a mohla by přijít s více nápady. Například, pokud dáte skupině lidí úkol zdokonalit rybářský prut, víte, první osoba říká, no, proč na konec nějakého provázku nedáme háček? A pak osoba drží provázek s háčkem. A někdo říká, proč na provázek nepřidáme tyč? Oh, to je skvělý nápad. Takže kombinují své znalosti a udělají to. A někdo říká, no, návnada s háčkem plave na hladině. Přidejme vlnu, aby šla dolů. No, teď jde příliš dolů. Co kdybychom přidali bobber, abychom věděli, kde je, a tak dál. A tak lidé inovují, sdílejí znalosti mezi sebou, uchovávají znalosti v průběhu času, [00:19:08] a dostáváte tyto kulturní artefakty, které jsou složeným produktem více lidí sdílejících nápady a být kreativní.
Chtěli jsme vytvořit hru, ve které skupiny lidí hledají v krajině optimální nápad. A rozhodli jsme se použít podstatná jména jako zástupce nápadů. Vzali jsme 20 000 podstatných jmen z klasického korpusu slov k počítačové vědě word-to-vec. Takže jsme vzali 20 000 podstatných jmen. A vzdálenost mezi těmito podstatnými jmény by mohla být definována metrikou kosinové podobnosti. Můžete si představit hyperdimenzionální vektorový prostor, ve kterém je kočka podobnější psu než stolu. A způsob, jakým to udělali, je, že se podívali na to, jak často se slova kočka a pes společně objevují na webových stránkách. Takže měli vesmír webových stránek a vesmír 20 000 podstatných jmen. A řekli, že se tyto dvě podstatná jména často objevují společně a tato dvě jiná podstatná jména se často neobjevují. Vytvořili 300-dimenzionální vektorový prostor. [00:20:08] A teď můžete popsat, jak podobná jsou jakákoliv dvě podstatná jména. A rozhodli jsme se použít podstatná jména jako zástupce nápadů. Vzali jsme těchto 20 000 podstatných jmen. A pak jsme vybrali sadu podstatných jmen. Představte si, že jsme vybrali jedno podstatné jméno, ale vybrali jsme sadu. Jedno podstatné jméno náhodně ze všech těchto, například braggadocio, bylo podstatné jméno. Takže jsme vybrali braggadocio. A říkáme, že to je perfektní nápad, který chceme, aby tato skupina lidí našla. A pak všechna podstatná jména, která jsou blízko braggadocia, v tomto vektorovém prostoru zaniknou. Takže máte vrcholné podstatné jméno, které získává nejvíce bodů, 20 000 bodů, a všechna ostatní podstatná jména směrem k nejvzdálenějším podstatným jménům. A my jsme do tohoto systému vložili lidské bytosti a říkáme, najděte toto slovo. Neřekneme jim to slovo. A pak jim říkáme bodovou hodnotu slov. Takže začnou hádat. A jak hádají, dostávají zpětnou vazbu. A říkají, ah, toto slovo má více bodů než jiné slovo. A dostávají se blíž a blíž a začínají sdílet znalosti navzájem. Snaží se být kreativní, aby vyřešili problém.
Takže každý podstatné jméno je spojeno s jinými v rámci sémantického prostoru nebo bezmístné krajiny. [00:21:10] A měli jsme 18 různých cílových podstatných jmen, jako bychom vytáhli vrchol z krajiny těchto 20 000 podstatných jmen na 18 různých místech v 18 různých krajinách. A tato podstatná jména byla záměrně neobvyklá, jako bratrovražda, klín, sarkom, kartografie a tak dále. A potom jsme provedli experimenty zahrnující několik podmínek, kde byli lidé sami a pokoušeli se orientovat v krajině, kde byli lidé ve skupinách a spolupracovali na orientaci v krajině, nebo kde byli lidé ve skupinách, ale také měli nějaké roboty, kteří se snažili pomoci jim být kreativní. A roboti fungovali, protože mohli předávat informace z jedné oblasti sítě do druhé tím, že si navzájem komunikovali. Takže například robot číslo dva mohl předat slovo nebe nebo automobil robotu číslo jedna. Takže tady je příklad sítě.
Vstupujeme do hry. Čtvercové body jsou roboti. A tento robot má čtyři interakce a tento robot má, nevím, šest nebo sedm interakcí. Lidé na začátku začínají hádat. [00:22:12] Na začátku hry nemají žádný základ pro své hádání. Hádat slunce, auto, králíka, potkana, psa, kočku, stůl. Kdybych se vás zeptal, abyste si vybrali podstatné jméno k hádání, tipovali byste dům nebo slunce, měsíc, kočku nebo psa nebo nějaké malé typické podstatné jméno. A teď jim sdělí bodovou hodnotu, jak podobné je slovo potkan, pes, kočka, stůl atd. cílovému podstatnému jménu, což je sarkom. A potom jim oznámí tyto bodové hodnoty. A tento robot může se podívat na bodové hodnoty lidí kolem něj a může předat buď náhodnou volbu tomuto robotovi, nebo nejvyšší bodovou hodnotu, nebo nejnižší bodovou hodnotu, jakýsi alternativní kanál komunikace šířící informace z jedné oblasti skupiny lidí snažících se vyřešit problém do druhé oblasti. Takže se podívejme na několik příkladů, abychom to ujasnili, protože toto může být těžké pochopit. Lidé hráli tuto hru asi 25 kol. A tady je kosinová podobnost s cílovým podstatným jménem, což je slovo fratricida. Dobře, máme 20 000 podstatných jmen. [00:23:13] Fratricida má 20 000 bodů. A ostatní slova mají jiné body. A tady je sólová osoba, člověk, který hádá sám. Takže jeho první hádání je bit. A sdělí mu, jak podobné je slovo bit fratricidě. A potom jeho další hádání je narození. A dostává velký nárůst v kosinové podobnosti, protože si můžete představit, že slovo narození je blíže slovu fratricida než slovo bit. Dobře? A pak hádá. Poté zkouší peníze. To je horší. Pak zkouší opici. To je ještě horší. Kontrolují. Dělají kontrolu správnosti. Zkouší narození. To znovu stoupne. Pak zkoušejí dítě. To není špatné hádání. Narození k dítěti. Ale dítě je posune dále od fratricidy. A pak dáma a tak dále. A navigují. A hádají. A hádají. A hádají. A na konci nedojdou nikam blízko fratricidy. Nyní v této jiné situaci máme skupinu lidí, ale žádné roboty. A nyní mohou lidé, kromě toho, že činí vlastní hádání, vidět hádání ostatních lidí kolem sebe. A budovat na myšlenkách druhých. Dobře? Vytvářejí. Jako by společně stavěli rybářský prut. [00:24:13] Takže tato osoba, její první hádání je pes. Ale její další hádání je štít. Můžete vidět, že štít je blíže fratricidě než pes. A tato osoba hádá a hádá a dostává podněty od svých sousedů. A na konci se dostává blíže a blíže. Nakonec skončí se slovem nepřítel. Dobře? Ve skutečnosti, voják byla jeho nejlepší hádání. Měl nejvyšší bodovou hodnotu během jeho trajektorie.
Jak tedy přidání botů ovlivnilo situaci? Opět ukazuje shrnutí výsledků. Na ose x je kolo. Na ose y je průměrná kosinová podobnost v tomto hyperdimenzionálním vektoru, což je měřítko výkonnosti skupiny. A zde je skupina lidí, kteří jednají a hádají jednotlivě. Takže lidé, kteří hádají sami, nedopadají příliš dobře, že? Je to jen náhoda, zda se nějakým způsobem, nebo, víte, nějaká vrozená schopnost v každém jednotlivém člověku, zlepšují s časem a dostávají se blíž. Všechny skupiny překonávají jednotlivce. A to je starý výsledek, který je znám. Skupina lidí je kreativnější než jinak podobně velká skupina jednotlivých praktikantů. Ale co jsme zjistili, je, že pokud přidáme nejpodobnějšího bota, bota, který se podíval na své sousedy, [00:25:17] a zjistil, jaký je jejich místní konsensus tady? Moji lidé mají pocit, že toto je dobré slovo. A poté to předá botovi na vzdálenějším místě v síti. Tento bot výrazně zlepšil výkon této skupiny lidí, aby dospěla k objevu. Měli byste si umět představit, jak by to mohlo fungovat ve skupině inženýrů nebo jakýchkoli jiných znalostních pracovníků. Jak můžete efektivně sdílet znalosti, vyhýbat se skupinovému myšlení a podporovat kreativitu navrhováním botů, kteří pomáhají lidem, aby si pomohli sami. Tento bot zde nemá mozek. Ne, sám navrhuje nápady. Jen pomáhá lidem šířit nápady mezi sebou.
Jednoduché AI agenti s interpretovatelným chováním mohou zvýšit schopnost kreativního objevování v lidských skupinách sdílením nápadů, kolem kterých existuje místní konsensus v jedné části skupiny, s lidmi ve vzdálenější části skupiny. A jako výsledek může skupina vykonávat lépe.
Nyní jsme také začali experimentovat s fyzickými systémy. A přidali jsme humanoidní a nehumanoidní roboty [00:26:19] s jednoduchou AI do skupin lidí a ukázali, jak mohou usnadnit práci skupinám lidí tím, že jim pomohou překonat překážky nebo neschopnost spolupracovat při interakcích. Jedním z mých oblíbených příkladů je experiment, který jsem provedl se svou bývalou studentkou, Maggie Traeger, která je vzadu a nyní je asistentkou profesorkou na Notre Dame, tento experiment. V tomto experimentu jsme vzali tři skutečné lidi, kteří přišli do laboratoře, a humanoidního robota. A navrhli jsme malou hru, malou železniční hru, která se hraje na tabletu, a tato skupina lidí a robot měla za úkol položit železniční trať z bodu A do bodu B, jako malou železniční trať Thomas the Tank Engine. A pak jsme jim dali nějaké díly, ze kterých si mohli vybírat na tabletu, jako rovné nebo zakřivené díly. Ale občas jsme to vymysleli tak, že i když to vypadalo, že je tam směs dílů a že principiálně by měli být schopni projít z bodu A do bodu B, zlosynsky jsme to navrhli tak, že tam nebyl správný počet zakřivení, aby se dostali z bodu A do bodu B. [00:27:21] Takže to nedokázali. Nedokázali vyřešit problém, aniž by to věděli. Dobře? Nejprve si každý člověk vzal kolo pokládání kousku tratě, pak další člověk a další osoba. Spolupracovali, aby spojili bod A s bodem B na svých tabletech.
A co jsme udělali v tomto experimentu, je, že jsme manipulovali, a oni hráli 30 kol této hry v tomto virtuálním světě, a měli jsme 51 skupin, manipulovali jsme konverzačním stylem robotů, konkrétně tím, zda robot vyjadřoval zranitelnost tím, že přiznal chybu. Takže robot řekl, víte, udělal jsem chybu. Nebo zda robot říkal vtipy typu 'táta'. Předpokládám, že všichni ví, co jsou vtipy typu 'táta'. Dobře. Také jsme nechali robota říkat, mimochodem, to je kulturní univerzálie, jako antropologové v amazonijské džungli se dívali na domorodé obyvatele a otcové tam také říkají vtipy typu 'táta'. A děti říkají, nemohu uvěřit, že táta má takové blbé vtipy. Ale každopádně, a ve skutečnosti existuje teorie, co mají vtipy typu 'táta' udělat, aby jakoby zpevnily děti. To je teorie. Ale každopádně, to je úplně jiný tangent. Každopádně, naši roboti říkali vtipy typu 'táta' nebo vyjadřovali zranitelnost. [00:28:21] A co nás zajímalo, bylo zjistit, zda změny v řeči robotů měly moc nejen ovlivnit, jak lidé interagují s roboty, ale také jak lidé interagují navzájem. A znovu, to nabízí perspektivu modifikace sociálních interakcí pomocí zavedení umělých agentů do hybridních systémů lidí a strojů.
Tak tady je malý příklad toho, oh, a neřekl jsem vám výsledky. Tak tady jsou, když máme, takže tyto, tloušťka těchto čar, nastavili jsme videokamery, abychom sledovali, kdo s kým mluví a jak moc. A tloušťka těchto čar naznačuje, kolik osoba dva mluví s osobou jedna a tak dále. Tedy osoba jedna nemluví s robotem moc. To je tenká čára. A když jste měli neutrální roboty, dostanete tento vzor. Ale když jste měli zranitelného robota, všechny tyto čáry se ztloustnou a vyrovnají se. Takže jsme zjistili, že zranitelný robot zvýšil rovnost řeči mezi lidmi, zvýšil objem řeči mezi lidmi a vlastně, v oddělených výsledcích, [00:29:22] zvýšil spokojenost lidí v takovém prostředí.
A tady je jen jedna ukázka dvou různých kol, která ilustruje, jak robot nejprve mluví neutrálně, v pasivním hlasu, což příliš neovlivňuje lidskou komunikaci. Robot říká, velmi Reaganským způsobem, došlo k chybě.
Ale v dalším kole robot říká, udělal jsem chybu. A můžete jen sledovat, co se tady stane. Pojďme se podívat, jestli tohle bude fungovat. (25 sekund pauza) Tak napříč mnoha, mnoha desítkami pokusů nacházíme tento typ vzoru. Takže jednoduchá manipulace, jednoduchá manipulace ve vzoru řeči robota mění, jak spolu lidé interagují. [00:30:25] A nemyslím, že by bylo těžké si představit, jak celý způsob, jakým navrhujeme naše chatboty a všechno ostatní, může ovlivňovat nejen příklad Alexa, který jsem vám dal na začátku, ale také to, jak si navzájem tradičně důvěřujeme a jak se v této situaci bavíme.
Teď je to tady klidné a myslím, že tohle je poslední experiment, který vám ukážu, a pak to uzavřu, v dalším experimentu jsme vyvinuli novou kyber-fyzickou platformu pro testování takových sociálních a skutečně etických účinků jednoduchých typů AI. Protože vzhledem k povaze problémů kolektivního jednání by zapojení AI do lidských skupin mohlo paradoxně a neúmyslně potlačit existující prospěšné sociální normy u lidí, jako jsou ty, které zahrnují spolupráci a altruismus, které jsme jako druh vyvinuli. Takže máme stovky tisíc let přirozeného výběru, který na nás pracuje, abychom byli schopni řešit problémy kolektivního jednání. Takže otázka je, pokud nějakou část té agentury delegujeme na stroje, ztrácíme schopnost spolupracovat na řešení těchto problémů? [00:31:32] Budeme se na tyto stroje spoléhat, a tím degradujeme naši vrozenou schopnost spolupracovat a koordinovat a vytvářet a tak dále? V tomto experimentu, ve spolupráci s Hiro Shiratou na CMU, dalším bývalým studentem mého ročníku, jsme vybudovali platformu, která zahrnovala dvě malé mechanické vozidla osazené Raspberry Pi a připojili jsme je k softwaru, který máme, a který nám umožňuje organizovat online experimenty v obrovském měřítku. Lidé byli ve svých domovech a byli přiřazeni k jednomu z těchto aut a řídili tato auta k sobě.
a hráli jsme hru zvanou kuře. Takže v kuřeti, víte, kdo se dostane na druhou stranu nejrychleji, vyhrává. Takže máte motivaci neustoupit druhému. Ale pokud každý z vás se rozhodne neustoupit, pak se srazíte a oba dostanete nejhorší odměnu. Takže co by lidé dělali v této situaci, pokud hrají opakovanou hru kuře, je, že se rychle naučíte si střídat. Tentokrát je to vaše řada, abyste jeli přímo, já uhnu a nechám vás, ale příště vy uhnete a necháte mě projet přímo. [00:32:35] Pokud jsme sobci, pořád do sebe narazíme, jako bychom se neustále ničili znovu a znovu, nebo hloupě, oba uhneme a žádný z nás nezíská výhodu projetí přímo. Takže v této situaci tady, žluté auto se rozhodne uhnout, modré auto pokračuje neomezeně až na druhou stranu.
A použili jsme 300 účastníků a 150 dyád, a byli placeni podle toho, jak rychle se dostali na druhou stranu. A poté jsme přidali nějakou AI. Přidali jsme asistenci při brzdění, kde, když jste měli upozornění na blízkost, když jste se přiblížili k druhému autu, auto zabrzdilo a dalo vám šanci rozhodnout se, že bych měl uhnout a nechat toho druhého projít, nebo naopak. Nebo jsme přidali asistenci řízení, která je v okamžiku, kdy se auto přiblížilo k druhému autu, prostě se vyhnula, ok? A přidali jsme minimální komunikační funkci, kde lidé mohli říct děkuji, nebo něco takového. Jen velmi minimální komunikace. A nejprve jsme ukázali, že asistence při brzdění, kde auta zastavují na pevné vzdálenosti před kolizí, zvýšila lidskou altruismus. [00:33:38] Tedy vycházení vstříc druhým, jak to dělá žluté auto zde. Takže přidání malé asistence při brzdění AI usnadnilo lidem spolupráci v této situaci. Kromě toho, umožnění lidem komunikovat dále pomáhá uskutečnit vzájemné ústupky v podmínkách asistence při brzdění. Na druhou stranu, asistence řízení, kde auto prostě uhlo, kompletně inhibovala vznik reciprocity mezi lidmi ve prospěch maximalizace vlastního zájmu. Lidé prostě vzdali svou morální agenturu. Už se nedostávají do situace. Prostě nechají stroj opakovaně uhýbat, a vzdají to, ok? Takže všechny vrozené etické schopnosti, které lidé měli, byly nyní odstraněny přidáním AI v podmínkách asistence řízení, ale posíleny v podmínkách asistence při brzdění. A to by vás také mělo donutit k zamyšlení. Měli byste přemýšlet, ach můj bože, každá maličkost, kterou uděláme, když programujeme tyto AI agenty, může mít dobré nebo špatné účinky na přirozené tendence lidí.
Schopnost lidí spolupracovat, střídat se a jednat altruisticky může atrofit, což vede ke horším kolektivním i individuálním výsledkům na konci. [00:34:46] A ve skutečnosti, krátce řečeno, umělá inteligence může vést k určitému druhu morální lenosti. (..) Zde je jeden poslední příklad trvalé změny po vystavení AI v hybridních systémech. A je to také příklad toho, jak může přítomnost AI změnit interakce mezi lidmi, i když AI už není součástí těchto interakcí. V roce 2016 vyvinul DeepMind AlphaGo, a ve stejném roce tento AI agent hrál proti Lee Sedolovi, pozoruhodnému mistru světa z Koreje.
Sledoval jsem zápas. Neumím hrát Go, ale uznávám, že je to nádherná hra. Můj syn hraje Go. (.) A opravdu jsem fandil Lee Sedolovi. Lee Sedol je v Koreji jako hrdina, jako bychom měli, víte, velké sportovce na našich Wheaties krabicích a podobně. Jako jeho je na malých baleních nudlí a na krabicích s cereáliemi. Myslím, že je úžasné, že v Koreji nějaký chytrý nerd jako já je, víte, považován za důležitou osobu, okay? Takže je v Koreji velmi populární. A přijde na první zápas a je příliš sebevědomý. [00:35:47] Můžu poznat, že je příliš sebevědomý. A prohrává s mašinou, a pak se omlouvá svým fanouškům. Říká, je mi to tolik líto. Jsou to pět her. Nejlepší tři ze pěti vítězství. Pak hraje druhou hru a znovu prohrává. A teď se to beru vážně. Poté hraje třetí hru a prohrává. Prohrál soutěž.
A tak nějak jste mohli vidět publikum a komentátoři byli ohromeni schopností mašiny hrát Go, provádět ty podivné a nádherné tahy, z nichž některé později zjistili, že byly provedeny, protože máme záznamy sahající až do tisíců let dopředu o zápasech Go hraných v čínském císařském dvoře. A mohli zjistit, oh můj bože, tohle je středověký tah, který mašina udělala. Už jsme ho tak dlouho neviděli.
A pak se Lisa Dahl vrací ve čtvrté hře a vyhrává. (..) A já jsem plakal. Byl jsem tak šťastný. (..) Protože měl stroj, víte, vrátil se za mým druhem a porazil ten zatracený stroj. Jako hrdinsky, jako, nemohl jsem pochopit, jaké mentální síly musely být zapotřebí, aby to Lisa Dahl dokázala. [00:36:49] V tu chvíli jsem byl nadšený a tak pyšný na něj, že se stále snažil, i poté, co prohrál zápas.
Teď je zajímavé, že když byla Lisa Dahl po zápase interviewována, řekla, že její vlastní hra se po zápase změnila. Takže znovu, AI pomáhá lidem, aby si pomohli sami, rozumíte? Mění, jak hraje, kvůli kontaktu. A následné výzkumy jiných vědců se zaměřily na profesionální hráče Go a zkoumaly průměrnou kvalitu rozhodování. Existuje nějaký standard v Go, jak posuzovat, jak dobrý tah je, a průměrná novost, tedy jak neobvyklý tah je. A zjistili, že když AlphaGo porazil lidského světového šampiona v roce 2016, hráči Go po celém světě začali dělat lepší tahy, které jsou inovativnější, rozumíte? Takže všichni lidé hrající Go mezi sebou se změnili, protože AlphaGo byl přidán. AI pomáhá lidem, aby si pomohli sami. Pokračujeme v práci na návrhu a přidávání jednoduchých botů do těchto a dalších situací zahrnujících sociální dilemata a problémy kolektivního jednání. [00:37:55] Zkoumáme, jak mohou boti ovlivnit koordinaci, spolupráci, komunikaci, kreativitu, důvěru, navigaci, sdílení a evakuaci. A v naší laboratoři se nesoustředíme na super chytrou AI, jako jsou LLM nebo AlphaGo, s cílem nahradit lidskou kognici, ale spíše na hloupou AI, která doplňuje lidskou interakci. Nesnažíme se vynalézt super chytrou AI, která by nahradila lidskou kognici. Vynalézáme hloupou AI, která doplňuje lidskou interakci. A naše AI si může dovolit být hloupá, protože lidé jsou chytří. Naše AI je jako platinum přidané do reakce organické chemie. Je to prostě katalyzátor. Vše, co potřebujeme, je katalyzátor, aby lidé byli lepší.
A samozřejmě je důležité uznat, že opak je také možný. Sociální AI může být použita k poškození skupin lidí. Ale náš přístup nabízí řadu dalších technických a konceptuálních výhod. Především, tyto jednoduché boty jsou srozumitelné a tedy jasně ilustrují širší síly a příležitosti. Na rozdíl od LLM, které jsou černou skrýší a nevíte, co dělá, mohu vám přesně říct, co náš bot dělá. [00:38:58] Je hlučný. Zprostředkovává představování. Předává zprávy tímto velmi specifickým způsobem. A za druhé, naše kontrolované experimenty s boty také mohou poskytnout pohled na to, jak by lidské chování mohlo také prospěšně změnit. Jinými slovy, mohu to vzít z laboratoře a mohu naučit skupinu lidí dělat to, co naši boti dělali. Způsobem, jakým nemůžete snadno naučit skupinu lidí, aby dělala to, co udělal ChachiPT. Nevíme, co ChachiPT dělá, ale víte, co dělají v naší situaci.
Chtěl bych zakončit, toto je moje poslední slide, metaforou. Zvažte tyto dva objekty. Oba jsou vyrobeny z uhlíku. Pokud vezmete uhlíkové atomy a spojíte je jedním způsobem, dostanete grafit, který je měkký a tmavý. Pokud vezmete stejné uhlíkové atomy a spojíte je jiným způsobem, dostanete diamant, který je tvrdý a průhledný. A zde jsou dva klíčové intelektuální pojmy. Především, tyto vlastnosti měkkosti a temnoty a tvrdosti a průhlednosti nejsou vlastnostmi uhlíkových atomů. Jsou to vlastnosti souboru uhlíkových atomů. A za druhé, jaké vlastnosti získáte, závisí na tom, jak mezi sebou spojíte uhlíkové atomy. Vezměte stejné uhlíkové atomy a spojte je jedním způsobem, získáte jeden soubor vlastností. [00:40:01] Spojte je jiným způsobem, získáte zcela jiný soubor vlastností. Podobně, povaha našich spojení ovlivňuje vlastnosti našich sociálních skupin. To jsou vazby mezi lidmi, které mohou udělat celek větším než součet jeho částí. Nové vlastnosti, jako jsou spolupráce a násilí, inovace a produktivita, důvěra a nedůvěra, pravda a nepravda, bohatství a chudoba, zdraví a štěstí, mohou vzniknout a šířit se díky těmto spojení, díky vazbám mezi lidmi, a ne nutně pouze kvůli lidem samotným. Ve skutečnosti naše vnímání světa závisí na struktuře a funkci sítí kolem nás, blízko i daleko. A náš druh se vyvinul, aby tomu tak bylo. A nemělo by nás překvapovat, že budeme reagovat na AI v našem středu. Děkuji vám mnohokrát.
