Nicholas Christakis: [00:00:05] Olgu, nii et inimesed on sotsiaalsete võrkude sisse Embedid ja need võrgud obey väga erilised matemaatilised, bioloogilised ja sotsiaalsed printsiibid. Ja üha enam lisame me tehisintellekti kujul veebiteenuseid ja füüsilisi roboteid meie keskel, kes suhtlevad meiega nagu nad oleksid sotsiaalsed üksused. Ja need tüübid, keda me meie süsteemidesse lisame, ulatuvad juhiabiga autodest teedel kuni kassamattideni poodides, inimkujuliste robotiteni kodudes või tehastes või lahinguväljal või tulekustutussituatsioonides, kuni kehatu iseseisvate agentideni, nagu veebibotid ja digitaalsed AI assistendid meie telefonides või prillides või töökohal. Ja need tehnoloogiad suhtlevad meiega samadel tingimustel nagu inimesed. Ja need annavad tõuke uuele liigile sotsiaalsest tehisintellektist.
Nüüd laske mul tuua teile lihtsalt mänguasi näide. Kui sa saad digitaalsete assistentidega, nagu Alexa, on seda seadet tootval ettevõttel suur mure inim-masina suhtluse üle. Ja see inim-masina suhtlus on optimeeritud. Näiteks, sa ei ostaks kunagi Alexat, kui iga kord, kui sa midagi temalt küsiksid, peaksid sa ütlema: vabandage, Alexa, ma olen väga vabandav, et sind segan. Kui sa ei pahanda, kas sa võiksid mulle palun öelda sõna? [00:01:35] ilm homme, eks? Seda peetaks absuurdeks viisakuse tasemeks. Sa ootad, et saad öelda: Alexa, ilm, ja et masin allub ning vastab kohe. Ja see on okei, kuni sa tuled selle masinaga oma koju ja su lapsed räägivad sellele masinale ning õpivad olema ebaviisakad. Ja siis lähevad nad mänguväljakule ja on teiste laste suhtes ebaviisakad. Nii et see masin, mis on meie keskkonda lisatud, ei hõlma mitte ainult inim-masina suhtlust, vaid ka inim-inimese suhtlust masinate kohalolekul. Ja seega, mind huvitab mitte mitte see, vaid inim-inimese suhtlused masinate kohalolekul. Ja me saame kasutada sotsiaalvõrgustiku struktuuri ja funktsiooni mõistmist, et hinnata sotsiaalse AI kasutust ja mõju inimgruppidele, mis on seotud usalduse ja koostööga, mis on vajalikud inimgruppide koostööks ning mõjutavad nende kollektiivsust.
Laske mul esile tuua osa meie tööst, kasutades mitmeid lähenemisviise võrgueksperimentide tegemiseks, mis hõlmavad tehisintellekti. Need eksperimentide hindavad, kuidas AI võiks mõjutada inimeste sotsiaalsete suhete struktuuri ja funktsiooni. [00:02:45] Nüüd on olemas kollektiivse tegevuse probleemide klass, mida meie sotsiaalsetes suhetes tuntakse koordineerimisprobleemidena. See tähendab, et need on probleemid, mil me peame koostööd tegema, et luua midagi kasulikku. Ja mõnikord lahendame neid probleeme, luues tsentraliseeritud institutsioone nagu politsei, kohtud või valitsused. Aga sageli suudame lahendada kollektiivse tegevuse probleeme, mis nõuavad meilt suurtel arvu inimesi koordineerimist või koostööd detsentraliseeritud viisil. Me oleme tegelikult arenenud, et meil oleks see võime. Ja üks konkreetne kollektiivse tegevuse probleem, millega sooviksin täna alustada, on tegelikult koordineerimine.
Nii et näiteks, et vältida seda ummikute, peavad inimesed koordineerima, et teha midagi erinevat kui nende naabrid. Kui kõik lahkuvad oma kodust samal ajal, jäävad kõik ummikusse. Kuid kui nad nihutavad oma lahkumise aegu ja lahkuvad vahemaades, siis ei ole keegi ummikus. Nüüd, muidugi, võiks teil olla mingi keskne autoriteet, kes seda koordineerib. Te tulete esimesena, siis teie ja siis teie. [00:03:45] Kuid ideaalis tahaksite, et oleks mingi detsentraliseeritud, mitte-top-down viis inimeste koordineerimiseks, et seda probleemi lahendada.
Nii et siin oli meie esimene katse, mis avaldati 2017. aastal selliste hübriidsüsteemide kohta, mis uurisid, kuidas tehisintellekt võiks aidata sellise väljakutsega. Uurisime inimgruppide sooritust, kes osalesid koordineerimisülesandes. Meie paradigma oli laenata arvutiteadusest midagi, mida tuntakse graafide värvimise probleemina. See on klassikaline probleem arvutiteaduses. Kuid see, mida me tegime, oli see, et tõime selle ja panime inimesed sellesse olukorda. Nii et me võtsime 4000 inimest ja panime nad 230 veebigruppi. Need inimesed paigutati nende gruppidesse. Ja nad määrati juhuslikult kohtadesse kunstlikus võrgustikus, mille struktuur sarnanes umbkaudu реaalsetele inimvõrgustikele. Nad paigutati nende kohtadele ja neile öeldi, et nad on määratud ühte kolmest värvist, [00:04:46] lilla, oranž, lilla, oranž ja roosa. Neile öeldi, et nad peavad valima värvi, mis on nende naabritest erinev.
Ja nad said näiliselt viis minutit aega selle tegemiseks. Nii et need inimesed vaatavad ringi oma naabrite poole. Iga inimene vaatab ringi ja ütleb, et see tüüp siin on roosa. Ta näeb, et tal on roosa naaber ja oranž naaber. Mida ta peaks tegema, on vahetada värv lilla vastu. Ja punased jooned siin näitavad värvikonflikte. Teisisõnu, kui kahe külgneva sõlme värvid on samad, saavad nad punase joone. Ja taustal olevad lillad jooned näitavad sotsiaalsete interaktsioonide struktuuri. Nii et sa paned inimesed siia. Nad vaatavad ringi oma naabrite poole iga sekundi või sekundi ja poole tagant. Nad teevad vahetuse, mis on kooskõlas eesmärgiga, et nad kõik peavad valima värvi, mis ei ole sarnane nende naabritega järgmise viie minuti jooksul. Ja kui nad seda teevad, siis ja ainult siis saavad nad tasu. Ma maksan teile, et te koos töötaksite. Ja kui te kõik töötate ühiselt probleemi lahendamiseks, siis saate kõik tasu. Kui ei, siis ei saa te midagi, okei? Nii et siin on, mis juhtub selle katses. Siin x-teljel on aeg sekundites kuni viie minuti märkmeni. [00:05:47] Mäng kestab viis minutit allpool kuskil. Ja siin y-teljel on objektiivne funktsioon või värvikonfliktide arv. Ja nii et siin alguses on 12 värvikonflikti. Nad on juhuslikult määratud oma algsetele värvidele. Ja see on näidatud siin selle väikese histogrammi peal. Ja nii inimesed hakkavad vaatama ringi ja vahetama oma värve. Sa tead, nad vahetavad ja nad vahetavad. Ja nad jõuavad siia punkti, kus nad on nüüd jõudnud olukorda, kus on värvikonflikt kahe inimese vahel. Ja see konflikt on aga see, mida me nimetame lahendamatuks konfliktiks. Nii et heledad oranžid jooned on lahendatavad konfliktid. See on see tüüp siin. Ta saab liikuda lilla poole, mis lahendab konflikti. Aga need tüübid, kes on oranžid, ei saa midagi teha, mis vähendaks värvikonflikte nende naabruses, eks? See tüüp ei saa liikuda lillale, sest kui ta vahetab lilla vastu, siis tal tekib rohkem konflikte. Tal on, nagu neli lillat naabrit. Ja ta ei saa vahetada roosa vastu, sest tal on kaks roosat naabrit. Nii et ta vaatab ja ütleb, et kõige vähem konflikte on tal lihtsalt jääda oranžiks. Nii et nüüd on see grupp ummikus, eks? [00:06:49] Neil on lahendamatu konflikt ja midagi ei saa juhtuda. Ei saa teha edusamme kollektiivse tegevuse probleemi lahendamisel, kuni üks neist kahest inimesest teeb vastupidise sammu, vahetab värvi lilla või roosa vastu ja suurendab konflikte ajutiselt. Ja see on tõepoolest see, mis juhtub. Ja siis aeg möödub, ja inimesed 245 sekundi jooksul lahendavad probleemi. Masin tuvastab lahenduse, peatab mängu ja maksab neile, okei?
Kuna me olime kavalad, siis tegime katseid, kus vaikselt asendasime mõned inimolendid robotitega. Hinnates, kuidas AI-iga varustatud robotite lisamine hübriidsüsteemi mõjutab grupi sooritust. Kas on võimalik lisada robotid inimrühmadele ja parandada nende võimet koordineerida selliste väljakutsete korral? Me lisasime kolm robotit ja muutsime katsetades kahte telge. Kuhu robotid paigutati, kus nad juhuslikult võrgustikku kukkusid, kas need pandi [00:07:51] võrgu keskmesse või perifeeriasse. Ja me manipuleerisime nende AI võimekusega väga lihtsal ja triviaalsetel viisidel. Nimelt, me muutsime, kas robotid tegutsesid perfektselt või väikese müraga.
Perfektsuse olukorras vaatasid robotid iga pooleteise sekundi järel oma naabreid ja valisid siis värvi, millel oli naaberitega kõige vähem konflikte. Seda võiks pidada irratsionaalseks käitumiseks. 10% müraga olukorras tegid nad seda, kuid 10% ajast valisid nad juhusliku värvi. Ja 30% müraga olukorras tegid nad seda, aga 30% ajast valisid nad juhusliku värvi. Nii et tegime robotid üha enam vigadele kalduvaks, üha mürarikkaimaks.
Siis vaatasime, meil oli midagi sellist, alustame kontrollgrupist. Joonistasime siia x-teljele aja ja need on ellujäämiskõverad. Y-teljele on tõenäosus, et rühm tervikuna pole koordineerimismängu lahendanud. Nii et siit, kui vaatate näiteks alguses, ajas null, [00:08:51] 100% ainult inimrühmades, sessioonides, kus olid ainult inimesed, on oranžid. Alguses pole 100% inimainete rühmad mängu lahendanud. Ja siis, kui aeg edasi liikuda, lahendavad üha rohkem inimrühmad mängu, nii et viie minuti lõpuks on võib-olla 60% inimrühmades mängu lahendanud.
Noh, mis juhtub, on see, et kui sa paned 10% müra tootvaid roboteid võrgu keskpunkti, siis saavutad märgatavalt parema tulemuse. Siin suudsid märgatavalt rohkem gruppe inimesi, kui keskele lisati natuke müra tootvaid roboteid, lahendada probleemi. Tegelikult vähendasid nad lahendamise mediaani aega 232 sekundi pealt 103 sekundi peale. Ja nendes andmetes on ka teisi leidusid. Täiuslikud robotid ja ülemäärased mürarikkad robotid ei olnud kumbki kasulikud. Oli vajalik mõningane kalibreerimine. Need 10% mürarikkaid roboteid olid kõige abivalmimad. Samuti oli robotite positsioonil samuti mingi mõju. Kuid kriitiliselt, nendes katsetes leidsime, et inimesed, kes ei olnud robotitega ühendatud, [00:09:52] kes olid võrgus kaugemal. Seega graafikutes olid mõned inimesed, kes olid robotitega ühenduses ja mõned, kes ei olnud. Leidsime, et isegi need inimesed hakkasid muutma oma mängimisviisi. Nii et tekkis lainetuse efekt, kaskaadiefekt. Kuidas robot suheldes oma inimestega, mõjudest koguti läbi võrgu ja hakkas siis mõjutama inimestevahelisi interaktsioone järjest kaugemale võrgu sees. Teisisõnu, robotid aitasid inimesi, et nad saaksid endid aidata, ja müra kasulikud mõjud levisid selles sotsiaalses süsteemis.
Las ma lasen veel ideid selle koosseisuväljakutse kohta ja kuidas need lihtsad AI-agendid võiksid aidata teise analoogia kaudu. Kujutage ette, et teil on lennuk. See on nagu gradientide langus masinõppes, näiteks. Teil on lennuk, ja teil on mäed ja mägi. Ja teil on erinevad mäed, okei, erinevate kõrgustega. Ja teil on siin üles mägi, mis on kõrgeim mägi. Niisiis, ma võtan neli teist, ja ma viskan teid kuhugi siia, ja ma käest käin teid kokku, igaühel teistsugune ilmasuund, [00:10:54] ja ma panen teile silmaklapid. Ja ma ütlen teile, leidke kõrgeim mägi. Niisiis, te rääkisite omavahel ja ütlesite, et miks mitte astuda igaüks oma suunas ja teatada meeskonnale? Niisiis, astute põhja suunas ja ütlete, et siit on ülesmäge. Ja lõuna ütleb, et siit on allamäge. Ja ida ja lääs ütlevad, et siit on külgsuunas. Niisiis, te kõik nõustute, et astuge põhja suunas. Ja teete seda iteratiivselt, kuni jõuate punkti, kus kõik ütlevad, et siit on allamäge.
Kas olete leidnud kõrgeima mäe? Ei. (...) Mida te olete teinud? Olete leidnud lähima mäe.
Kas sa leiad kunagi kõrgeima mäe? Ei. Sa ei leia kunagi kõrgeimat mäge. Sa oled kinni. Sa oled kohalikult optimeeritud, kuid globaalsetelt aladel on sul optimeerimata. Ja selleks, et globaalset optimeerimist saavutada, vajad sa natuke müra. Sa pead aeg-ajalt lubama sellel inimeste grupil astuda vastupidine samm mäe all või küngas alla. Nii et nad teevad mõnikord juhuslikult järjestikku samme, kuni nad saavad tagasi tasandile. Ja siis navigeerivad nad ringi sellel fitnessi maastikul, uurides kõiki neid tippe, kuni nad satuvad selle tippu. [00:11:56] Ja see kõrge tipp kaldub, globaalne optimaalne seisund, olema vastuvõttev olek, sest sealt kõrvale pääsemiseks on vaja palju rohkem müra kui teistelt rahnudelt. Nii et nüüd kõigud ümber globaalse optimaalse. Seega oleme oma töös uurinud seda lihtsat programmeerimist, mis on sisestatud sotsiaalsetesse süsteemidesse, et näha, kas suudame parandada inimeste tulemuslikkust erinevate kollektiivsete tegevusprobleemide lahendamisel.
Nüüd on teine kollektiivne tegevusprobleem seotud teistsuguse väljakutsega, mis on koostöö, mitte koordineerimine. Inimesed peavad sageli koostööd tegema, et toota seda, mida tuntakse kui avalikku hüve. Ja tuletorn on üks klassikaline näide avalikust hüvest. Avalikul hüvel on kaks klassikalist omadust. Esiteks, seda nimetatakse mitte-väljaarvatavaks. See tähendab, et teisi inimesi ei saa takistada selle kasutamast. Kui ehitad tuletorni enda isiklikuks hüvanguks, kuna navigeerid merel ja ei taha kaljudele otsa sõita, on see suurepärane sinu jaoks, kuid sa ei saa peatada kedagi teist selle kasutamast, jah? Mitte-väljaarvatav. [00:12:58] Samuti on see mitte-konkurentsitundlik. See tähendab, et ühe inimese tarbimine ei vähenda teiste tarbimist. Kui ma kasutan oma tuletorni valgust, ei ole vähem valgust sinu jaoks kasutada. Ja see on erinev näiteks tükkidest kooki. Kui mul on tükk kooki, siis see on minu, eks? Ma saan takistada sind selle söömisest. Ja kui ma selle söön, siis ei ole see enam sinu jaoks saadaval, jah? Seega, avalikul hüvel on need omadused ja need omadused muudavad avalike hüvede tootmise väga keeruliseks. Sest kui on jutt tuletorni ehitamisest, on väga ahvatlev seada oma isiklikud huvid rikka gruppi vastu. Kui sa ei panusta tuletorni ehitamisse, saad sa siiski sellest kasu. Ja seega on kõik ahvatletud mitte midagi tegemist, ja siis tuletorn ei tulegi välja, mis on kahjulik kõigile. Tasub ka rõhutada, et avalikud hüved on kasulikud, sest tegelikult saad neid kasutada näiteks ohutuks merereisiks. Seega, avalike hüvede vähene investeerimine on tõsine probleem meie ühiskonnas ja on tuntud ka kui ühiste tõdede tragöödia. Need avalikud hüved, näiteks usaldusnormid, mida me omavahel säilitame, on tõhusad. [00:14:01] Mõtle, kui käisid keskkoolis. Mõned teist käisid keskkoolis, kus õpilased usaldasid üksteist, ja see tähendas, et said jätta oma seljakotid koridori üksi ja mitte muretseda, et keegi need varastab. Teised teist käisid keskkoolides, kus ei olnud sama usaldusnorme, ja nüüd pidite oma seljakoti lukku panema või hoidma seda kogu aeg endaga. Millises kahest keskkonnast arvad, et õppisid paremini? Jah? Esimeses keskkonnas. Seega see normaalsus, mida kollektiivselt säilitati, on tootlik. Selles kontekstis tootlik õppimise jaoks. Siin, tootlik ohutuks merereisiks ja nii edasi.
Inimeste gruppidest koostöö avalike hüvede tootmiseks on keeruline ning selleks on vajalikud erinevad mehhanismid. Oleme teinud palju katseid, milles inimesed viidi võrku ja paluti mängida erinevaid avalike hüvede mänge oma naabritega, manipuleerides mitmete struktuursete ja muude omadustega aastate jooksul. Näiteks alustasime aastaid tagasi eksperimendiga, kus inimesed toodi sellisesse võrku. Nad tutvustasid oma naabreid ja mängisid avalike hüvede mängu, nagu käitumuslikus ökonoomikas, [00:15:03] kus ma võiksin anda natuke raha igale oma naabrile. Oletame, et võtan dollari ja jagan selle oma naabrite vahel. Siis teadlased kahekordistavad dollari. Oletame, et mul on neli naabrit. Ütleme, et mul on kolm naabrit ja annan dollari grupile. See muutub kaheks dollariks. Need kaks dollarit jagatakse meie nelja vahel. Nii et kogu grupp saab kasu kahe dollarina, kuid mina saan tagasi ainult 50 senti. Kaks jagatud nelja, saan tagasi 50 senti. Nii et ma pean teiste hüveks ohverdama. Loomulikult ütleb igaüks, et ma ei taha ohverdada. Las iga teine loll annab raha. Ma ei kavatse midagi anda ja loodan, et teised panustavad. Kuid muidugi, kui kõik nii teevad, toimub taas kokkuvarisemine. Parim käitumine on, kui kõik panustavad maksimaalselt. Siin selles olukorras alustame mängu. Sinised punktid on need, sinised inimesed on head koostöövalmidusega inimesed. Nad annavad maksimaalselt oma naabritele ning nad loovad avalikke hüvesid, nagu majaka ehitamine. Punased punktid on need, kes ekspluateerivad ja ei panusta, keda tuntakse ka defektoritena. Ja meie eksperimendis avastasime, et me kordame tulemust, mis on olnud teada 30 aastat, [00:16:03] et koostöö kokku variseb gruppides, eks? Mängu lõpus, mitu vooru hiljem, muutub pea igaüks defektoriks, välja arvatud need väikesed sinised inimesed siin ääres, kes hoiavad tsivilisatsiooni elus, tead sa, omavahel. Sa saad ka mõelda, et uuesti, et meenutada keskkooli üliõpilastele. Kas mäletad olukorda, kus su teaduse õpetaja määras neli teist koos tegema grupitööd ning te saite sama hinde. Ja teid määrati kolme teise lohaki juurde. Nii et nüüd on sul kaks valikut. Kas sa teed kogu töö ära, ja nad saavad ka A-d, sest sa tahad A-d. Või sa ütled, et see on ridiculous. Ma ei taha, et need laiskmadisikud kasu saavad minu rasketest töödest. Ja sa ütled, ma ei tee ka midagi ja saate kõik F-d, eks? See on kohutav dilemma. Noh, mis siin juhtub, on see, et inimesed lõpuks valivad teise variandi. Nad valivad kõik F-d, sest nad ei taha olla lollid ja jätkata panustamist. Nii et koostöö variseb kokku sotsiaalsetes süsteemides üldiselt. Kuid mida me tegime, oli see, et me lisasime, taas, mõned erineva tüübi robotid süsteemi. Me lisasime mõned robotid, kellel oli lihtne A. [00:17:05] Need robotid olid nagu väiksed abielu vahendajad. Nad vahendasid sotsiaalseid suhteid. Nad vaatasid oma ümbrusesse, kes kellega suhtleb, ja andsid soovitusi süsteemis olevatele inimestele. Sa tead, mida? Sa peaksid sideme katki tegema selle defektoriga, kes sinust rõhuvalt kasu lõikab, ja looma sideme selle toreda inimesega sealpool. Ja see pehme uuesti juhtimise nõuanne, mis tugineb ainult kohalikele teadmistele. Seal ei ole õpetajat, kes käskis inimesi olla head. Pole politseid. Pole kohut. Pole tsentraliseeritud autoriteeti, kes selle läbi viib. Lihtsalt tegutsemine kohalike teadmiste põhjal. Me leidsime, et need robotid suudavad, meie eksperimentides, kus osales üle 1000 inimese 64 grupis, mitte ainult koostööd stabiliseerida, vaid esmakordselt näitasime tulemuse, et koostöö võiks tegelikult suureneda algtasemest, kui neid robotitüüpe lisati. Ja DeepMind kordas hiljem meie tulemusi ning laiendas neid teises artiklis, mis ilmus umbes aasta või kaks pärast seda.
Nüüd veel ühes eksperimendis uurisime, kuidas botid võivad mõjutada grupi loomingulisust. [00:18:07] kuna uusi ideid on raske leida. Teooria ja eksperimendid viitavad sellele, et grupid võivad olla parem suudavad tuvastada ja säilitada innovatsioone kui üksikisikud, jagades oma avastusi.
Kuid innovatsioon gruppides seisab silmitsi oma väljakutsetega, sealhulgas grupimõtlemisega. Õige? Kui sa paned rühma inimesi kokku, võivad nad enneaegselt kokku leppida alateadlikult halvemas idees.
Või võid ette kujutada, et rühmal inimestel võiks koos olla suurem tarkus, nad võiksid tulla välja rohkemate ideedega. Näiteks, kui annad rühmale inimestele ülesande täiustada kalastusvarrust, tead, et esimene inimene võiks öelda, noh, miks mitte panna nööri otsa konks? Ja siis hoiab inimene nööri, millel on konks. Ja keegi ütleb, miks mitte lisada nööri otsa keppi? Oh, see on suurepärane idee. Nii et nad ühendavad oma teadlikkuse ja teevad seda. Ja keegi ütleb, noh, sööt konksu otsas ujub pinnal. Lisame laine, et see läheks alla. Noh, nüüd see läheb liiga alla. Kuidas oleks, kui lisame punni, et teaksime, kus see on, ja nii edasi. Ja inimesed innoveerivad, jagavad teadmisi omavahel, säilitavad teadmisi ajas, [00:19:08] ja saate need kultuurilised artefaktid, mis on mitme inimese ideede jagamise ja loomingulise töö koondtoode.
Nii, me tahtsime luua mängu, kus grupid inimesi uurivad maastikku, et leida optimaalne idee. Otsustasime kasutada nimisõnu ideede asendajana. Võtsime 20 000 nimisõna klassikalisest arvutiteaduse word-to-vec korpusest. Nii et me võtsime 20 000 nimisõna. Nende nimisõnade vahemaa määratlemiseks võiks kasutada kosinuse sarnasusmeetodit. Sa võid ette kujutada hüpordimensionaalset vektori ruumi, kus kass on koeraga sarnasem kui laud. Ja nad tegid seda vaadates, kui tihti sõnad kass ja koer koos esinevad veebilehtedel. Neil oli veebilehtede universum ja 20 000 nimisõna universum. Nad ütlesid, et need kaks nimisõna esinevad sageli koos, kuid need kaks teist nimisõna ei esine sageli koos. Nad lõid 300-dimensionaalse vektori ruumi. [00:20:08] Ja nüüd saad kirjeldada, kui sarnased on kaks nimisõna. Otsustasime kasutada nimisõnu ideede asendajana. Võtsime need 20 000 nimisõna. Ja siis valisime nimisõnade komplekti. Kujutle, et valisime ühe nimisõna, kuid valisime komplekti. Ühe nimisõna juhuslikult kõigi nende seas, nagu näiteks braggadocio, oli nimisõna. Nii et valisime braggadocio. Ja me ütleme, et see on ideaalne idee, mida me tahame, et see inimeste grupp leiaks. Ja siis kõik nimisõnad, mis on braggadocioga lähedal, jäävad selles vektori ruumis kõrvale. Nii et sul on tippnimisõna, mis saab kõige rohkem punkte, 20 000 punkti, ja kõik teised nimisõnad kaugel olevad nimisõnad. Ja me paneme inimesed sellesse süsteemi ja ütleme, et leidke see sõna. Me ei ütle neile sõna. Ja siis anname neile sõnade punktiväärtuse. Nii et nad hakkavad arvama. Ja kui nad arvavad, saavad nad tagasisidet. Ja nad ütlevad, ah, see sõna on rohkem punkte kui teine sõna. Ja nad tulevad järjest lähemale ja hakkavad üksteisega teadmisi jagama. Nad üritavad olla loovad, et probleemi lahendada.
Iga nimisõna on seotud teistega semantilises ruumis või sobimatu maastikus. [00:21:10] Meil oli 18 erinevat sihtnimisõna, nagu oleksime tõmmanud tipu 20,000 nimisõna maastikust 18 erinevas asukohas 18 erinevas maastikus. Need nimisõnad olid teadlikult ebatavalised, nagu fratricide, shoehorn, sarcoma, kartograafia jne. Siis viisime läbi katseid, mis hõlmasid mitmeid tingimusi, kus inimesed olid üksi, püüdes maastikus navigeerida, kus inimesed olid gruppides, töötades koos, et navigeerida maastikus, või kus inimesed olid gruppides, kuid seal oli ka mõned robotid, mis üritasid aidata neil olla loovad. Robotid töötasid, sest nad said edastada teavet ühe võrgu piirkonna vahel, suheldes omavahel. Näiteks sai robot number kaks edastada sõna taevas või auto robot number üks. Siin on võrgu näide.
Me laseme inimesed sisse. Ruudukesed on robotid. Ja sellel robotil on neli interaktsiooni ja sellel robotil on, ma ei tea, kuus või seitse interaktsiooni. Inimesed alguses hakkavad arvama. [00:22:12] Neil ei ole üldse alust arvamiseks mängu esimeses voorus. Nad arvavad taevas, auto, küülik, rot, koer, kass, laud. Nagu kui ma küsiksin teilt, valige nimisõna arvamiseks, siis te arvaksite maja või päike või kuu või kass või koer või mõni väike tüüpiline nimisõna. Ja nüüd öeldakse neile punktiväärtus, nagu kui sarnane on sõna rot, koer, kass, laud ja nii edasi sarcomaga. Ja neile öeldakse nende nimisõnade punktiväärtus sihtnimisõna, mis on sarcoma, suhtes. Ja siis need punktiväärtused kuulutatakse neile välja. Ja siis see robot saab vaadata inimeste ümber olevaid punktiväärtusi ja edastada kas juhusliku valiku sellele robotile või kõrgeima või madalaima punktiväärtuse, teatud mõttes teabe levitamine ühe inimrühma regiooni probleemide lahendamisest teise regiooni. Niisiis, vaatame mõningaid näiteid, et seda selgitada, sest see võib olla raske mõista. Inimesed mängisid seda mängu umbes 25 vooru. Ja siin on kosinus-sarnasus sihtnimisõnaga, milleks on sõna fratricide. Okei, nii et neid on 20,000 nimisõna. [00:23:13] Fratricide on 20,000 punkti. Ja teistel sõnadel on teised punktid. Ja siin on üksik inimene, inimene üksi, kes arvab. Nii et tema esimene arvamine on bit. Ja talle öeldakse, kui sarnane on sõna bit fratricide'iga. Ja siis on tema järgmiseks arvamiseks sünnitus. Ja nad saavad suure hüppe kosinus-sarnasuses, sest võite ette kujutada, et sõna sünnitus on lähemal sõnale fratricide kui sõna bit. Okei? Siis nad arvavad. Nad proovivad raha. See on halvem. Siis nad proovivad ahvi. See on veel halvem. Nad kontrollivad. Nad teevad sanity kontrolli. Nad proovivad sünnitust. See hüppab jälle üles. Siis nad proovivad beebit. See ei ole halb arvamine. Sünnitus beebi suhtes. Aga beebi viib nad fratricide'st kaugemale. Ja siis daam ja nii edasi. Ja nad navigeerivad. Ja nad arvavad. Ja nad arvavad. Ja nad ei saavuta fratricide'ile lähenemist lõpuks. Nüüd on teises olukorras meil rühm inimesi, kuid mitte roboteid. Ja nüüd saavad inimesed, lisaks oma arvamiste tegemisele, näha nende ümber olevate inimeste arvamisi. Ja ehitada teiste ideede peale. Okei? Loodud. Nagu koos kalastuspuu valmistamine. [00:24:13] Nii et see inimene, tema esimene arvamine on koer. Aga tema järgmine arvamine on kilp. Saate näha, et kilp on lähemal fratricide'ile kui koer. Ja see inimene arvab ja arvab ning saab sisendit oma naabritelt. Ja lõpuks, ta läheneb ja läheneb. Ta jõuab sõnani vaenlane. Okei? Tegelikult oli sõdur tema parim arvamine. Tal oli selle trajektoori jooksul kõrgeim punktiväärtus.
Kuidas botide lisamine siis oluline oli? See näitab taas tulemuste kokkuvõtet. X-teljel on ring, Y-teljel on keskmine kosinuse sarnasus selles hüperdimensioonilises vektoriruumis, mis on mõõde grupi sooritusele. Ja siin on grupp inimesi, kes tegutseb ja arvab üksinda. Niisiis, need inimesed, kes arvavad omapead, ei tee väga hästi, eks? Nad, nad, teate küll, see on lihtsalt juhus, kas nad suudavad kuidagi, või, teate, mingi loomulik võime igaühes. Nad saavad ajaga pisut paremini, lähenevad tõele. Kõik grupid saavutavad paremad tulemused kui üksikud. See on vana tõde, mis on teada. Inimeste grupp on loovam kui samas suuruses set üksi tegutsejatest. Kuid see, mida me leiame, on, et kui me lisame kõige sarnasema boti, bot, mis vaatab oma naabreid, [00:25:17] ja leiab, mis on nende kohalik konsensus, et siin? Minu inimesed arvavad, et see on hea sõna. Ja siis edastab selle botile, mis on võrgu kauges osas. See bot parandas oluliselt selle inimgrupi sooritust, et teha avastus. Peaks olema võimalik ette kujutada, kuidas see võiks töötada inseneride grupis või muus teadmus tööjate grupis. Kuidas, nagu saate teadmisi tõhusalt jagada, vältides grupimõtlemist ja soodustades loovust, luues bote, mis aitavad inimestel end aidata. Bot siin ei oma aju. See ei paku ise ideid. See aitab lihtsalt inimestel ideid omavahel jagada.
Nii et lihtsad tehisintellekti agentid, kelle käitumine on tõlgendatav, suudavad suurendada loova avastamise võimet inimgruppides, jagades ideid, mille ümber on kohalik konsensus grupi ühes osas kaugel oleva grupi inimestega. Ja tulemuseks on see, et grupp suudab paremini töötada.
Nüüd oleme hakanud katsetama ka füüsiliste süsteemidega. Oleme lisanud humanoidseid ja mittehumanoide roboteid [00:26:19], kes on varustatud lihtsa tehisintellektiga, et aidata inimestel omavahel töötada, aidates neil ületada hõõrdumist või koostöö puudumist oma interaktsioonides. Üks minu lemmiknäiteid sellest on katse, mille tegin oma endise magistrandi Maggie Traegeriga, kes on taga ja nüüd on Notre Dame'i assistentprofessor. Selles eksperimendis võtsime kolm reaalset inimest, kes tulid laborisse, ja humanoidse roboti. Kujundasime väikese mängu, väikese raudteeraja mängu, mida mängitakse tahvelarvutil, ja sellel inimeste ja roboti grupil oli ülesanne panna raudteed punktist A punkti B, nagu väikesed Thomas the Tank Engine raudteed. Siis andsime neile mõned tükid, mille nad võisid tahvelarvutil valida, nagu sirged tükid ja kõverad tükid. Kuid me korraldasime aeg-ajalt, kuigi nägi välja, nagu seal oleks tükkide segu ja et põhimõtteliselt peaksid nad suutma minna punktist A punkti B, et nad ei saaks haiguse tõttu õigel hulgal kõveraid, et lubada neil punktist A punkti B jõuda. [00:27:21] Seega ei saanud nad seda teha. Nad ei saanud probleemi lahendada, sellest teadmata. Okei? Seega esimesena võttis iga inimene vahepeal oma käigu ja pani raudteetüki, siis järgmine inimene ja järgmine inimene. Nad töötavad koos, et ühendada punkt A punktiga B oma tahvelarvutites.
Ja mida me selle eksperimendi käigus tegime, oli see, et me manipuleerisime ning nad mängisid 30 vooru seda mängu selles virtuaalses maailmas, ja meil oli 51 gruppi, me muutsime robotite vestlusstile, eriti kas robot väljendas haavatavust, tunnistades viga. Nii et robot ütles, tead, ma tegin vea. Või kas robot ütles isade nalju. Ma eeldan, et kõik teavad, mis on isade naljad. Hästi. Nii et meil oli ka robot, kes ütles, muide, see on kultuuriline universaal, nagu antropoloogid Amazonase džunglis on uurinud põlisrahvaid ja seal ka isad räägivad isade nalju. Ja lapsed on nagu, ma ei suuda uskuda, et isa lollid naljad. Aga igatahes, ja tegelikult on teooria selle kohta, mida isade naljad on mõeldud laste tugevdamiseks mingil moel. See on teooria. Aga igatahes, see on täiesti teine nihe. Igatahes, meie robotid rääkisid isade nalju või väljendasid haavatavust. [00:28:21] Ja mis meid huvitas, oli see, kas robotite kõne muutmine suudab mitte ainult mõjutada seda, kuidas inimesed suhelda robotitega, vaid ka seda, kuidas inimesed omavahel suhtlevad. Ja veelkord, see pakub võimalust modifitseerida sotsiaalseid interaktsioone, tutvustades kunstlikke agente hübriidsüsteemides, mis ühendavad inimesi ja masinaid.
Nii et siin on väike näide, oh, ja ma ei rääkinud sulle tulemustest. Siin on, siin on, kui meil on, nii et need, nende joonte paksus, seadsime videokaamerad üles, et jälgida, kes räägib kellega ja kui palju nad räägivad. Ja nende joonte paksus näitab, kui palju teine isik räägib esimesest ja nii edasi. Nii et esimene isik ei räägi robotiga väga palju. See on õhuke joon. Ja kui sul oli neutraalne robot, saad sa sellise mustri. Kuid kui sul oli haavatav robot, kõik need jooned paksenevad ja saavad võrdsed. Niisiis, me avastasime, et haavatav robot suurendas inimeste vahelise kõne võrdsust, suurendas inimeste kõne mahtu ning tegelikult, eraldi tulemustes, [00:29:22] suurendas inimeste rahulolu sellises keskkonnas.
Ja siin on lihtsalt üks klipp kahest erinevast voorust, mis illustreerib, et robot räägib kõigepealt neutraalses viisis, passiivses hääles, mis ei mõjuta palju inimeste suhtlemist. robot ütleb, väga Reagan-esque viisil, et viga tehti.
Aga järgmises voorus ütleb robot, et ma tegin vea. Ja sa saad lihtsalt vaadata, mis siin juhtub. Vaatame, kas saame selle tööle. (25 sekundi pausi) Nii et paljude, paljude kümnete käivituste jooksul, see on selline muster, mida me leiame. Nii et lihtne manipulatsioon, lihtne manipulatsioon roboti kõne mustris muudab seda, kuidas inimesed omavahel suhtlevad. [00:30:25] Ja ma arvan, et ei ole keeruline ette kujutada, kuidas kogu meie chatboti ja kõige muu kujundamise viis võiks mõjutada mitte ainult seda Alexa näidet, mille ma sulle alguses tõin, kuidas me üksteisega suhtleme. Inimesed näivad usaldavat üksteist rohkem ja saavat selles olukorras rohkem lõbutseda.
Nüüd on siin veel, ja ma arvan, et see on viimane katse, mille ma teile näitan, ja siis ma lõpetan, veel ühe katsega, kus me arendasime välja uue küberfüüsilise platvormi, et testida selliseid sotsiaalseid ja tõeliselt eetilisi efekte lihtsate tehisintellekti tüüpide puhul. Kuna arvestades kollektiivse tegutsemise probleemide loomust, võib tehisintellekti kaasamine inimgruppides paradoksaalselt ja mitteintentionaalselt rõhutada olemasolevaid kasulikke sotsiaalseid norme inimeste seas, nagu näiteks koostöö ja altruism, mille meil on evolutsiooniliselt välja arendatud. Nii et meil on sadu tuhandeid aastaid looduse valikut, mis töötab meie nimel, et muuta meid võimekamaks kollektiivsete tegutsemise probleemide lahendamisel. Nii et küsimus on, kui me delegeerime osa sellest agentuurist masinatele, kas me kaotame võime töötada koos nende probleemide lahendamiseks? [00:31:32] Kas me hakkame nendele masinatele toetuma, ja nii degradesime meie sisemise võime koostööks ja koordineerimiseks ja loomiseks ning nii edasi? Nii et selles eksperimentis, tehes koostööd Hiro Shiratoga CMU-s, teise minu endise magistrandi, ehitasime platvormi, mis hõlmas kahte väikest Raspberry Pi poolt varustatud mehaanilist sõidukit, ja me ühendasime selle programmiga, mis võimaldab meil korraldada veebikatsed laialdaselt. Nii et inimesed olid oma kodudes, ja neile anti üks nendest autodest, ja nad juhtisid neid autosid üksteise suunas.
ja me lasime neid mängida kana mängu. Kana mängus, nagu teate, on see, et kes jõuab teisele poole kiiremini, see võidab. Seega on teil stiimul mitte alistuda teisele. Kuid kui kumbki teist ei alistu, siis kukute kokku ja saate mõlemad halvimad tulemused. Nii et mida inimesed sellises olukorras teeksid, kui mängitakse korduvat kana mängu, siis õpiksite kiiresti vahelduma. Seekord on teie kord otse edasi minna, mina tõmban kõrvale ja lasen teil minna, aga järgmisel korral tõmbate teie kõrvale ja lasete mul otse edasi minna. [00:32:35] Kui oleme isekad, siis jätkame lihtsalt üksteisega kokku põrkamist, nagu hävitades üksteist kord pärast kord, või rumalalt, kui mõlemad keerame ära ja keegi ei saa otse minemise kasu. Nii et siin otsustab kollane auto kõrvale tõmbuda, sinine auto sõidab lihtsalt takistusteta edasi teisele poole.
Me kasutasime 300 osalejat ja 150 paarikest, ning nende tasustamine sõltus sellest, kui kiiresti nad teisele poole jõudsid. Seejärel lisasime natuke tehisintellekti. Me lisasime automaatse pidurdamise abi, kus, kui sa said lähenemishoiatusest aru ja jõudsid teise auto lähedale, pidurdas auto ning andis sulle võimaluse otsustada, et peaksin kõrvale tõmbama ja laskma sellel teisel inimesel läbi, või vastupidi. Samuti lisasime automaatse roolisüsteemi abi, mis tähendab, et niipea, kui auto lähenes teisele autole, kõrvaldas see end lihtsalt. Ja lisasime minimaalsete suhtlemisfunktsioonidega, kus inimesed said öelda aitäh või midagi säärast. Lihtsalt väga minimaalne suhtlus. Esiteks näitasime, et automaatne pidurdamise abi, kus autod peatuvad enne kokkupõrget kindla distantsi vältel, suurendas inimeste altruismi. [00:33:38] See tähendab, et andes teed teistele, nagu kollane auto siin. Nii et natukene automaatset pidurdamise abi tehisintellektiga muudab inimeste koostöö ja üksteisega suhtlemise lihtsamaks. Lisaks, lubades inimestel suhelda, aitab veelgi enam nendevahelistele järeleandmistele automaatse pidurdamise tingimustes. Teisest küljest, automaatne rooliabi, kus auto lihtsalt kõrvaldas end, takistas täielikult vastastikkuse tekkimist inimeste vahel, eelistades isego rohkem. Inimesed lihtsalt loobuvad oma moraalsest vastutusest. Nad ei vaeva end enam. Nad lasevad masinal korduvasti kõrvale keerata ja loobuvad, eks? Nii et kõik need sisemised eetilised võimed, mis inimestel olid, on nüüd eemaldatud rooliabi tehisintellekti lisamisega, kuid paranenud pidurdamise tingimustes. See peaks ka sind mõtlema panema. Sa peaksid mõtlema, oh mu jumal, iga pisike detail, mida me teeme, kui programmeerime neid tehisintellekti agente, võib inimese loomulikele kalduvustele avaldada häid või halbu mõjusid.
Inimeste võime koostööd teha, vahetada ja altruisitlikult tegutseda võib kaduda, mis viib lõpuks halvematele kollektiivsetele ja individuaalsetele tulemustele. [00:34:46] Ja tegelikult võib AI lühidalt öeldes viia moraalse laiskuse omamoodi tekkeni. (..) Siin on veel üks lõplik näide püsivast muutusest pärast kokkupuudet AI-ga hübriidsüsteemides. Ja see on ka näide sellest, kuidas AI kohalolek võib muuta inimestevahelisi suhtlemisi, isegi pärast seda, kui AI ei ole suhtlemistes enam osaline. Nii et 2016. aastal arendas DeepMind välja AlphaGo ja samal aastal mängis see AI agent Lee Sedoli, erakordse maailmameistri Korea alt.
Vaatasin matši. Ma ei oska Go-d mängida, kuid tunnustan seda kui suurepärast mängu. Minu poeg mängib Go-d. (.) Ja ma tõsiselt hoidsin pöialt Lee Sedolile. Lee Sedol on Koreas nagu kangelane, nagu meie suurte sportlaste puhul Wheatiesi karpides ja muudes asjades. Nagu, tema nägu on väikestel nuudelipakenditel ja hommikusöögikarpidel. Nii et ma arvan, et on suurepärane, et Koreas on selline tark nohik nagu mina, kellel on, sa tead, oluline isikuks peetakse, okei? Nii et ta on Koreas väga populaarne. Ja ta tuleb esimeseks mänguks välja ja on liiga üleolev. [00:35:47] Ma näen, et ta on liiga üleolev. Ja ta kaotab masinale ning siis vabandab oma fännide ees. Ta ütleb, et olen nii kahju. Need on viis mängu. Parim kolm viiest võidab. Siis mängib ta teise mängu ja kaotab jälle. Ja nüüd ta võtab asja tõsiselt. Siis mängib ta kolmanda mängu ja kaotab. Ta on kaotanud võistluse.
Ja sa võid näha publikut ning kommentaatorid imestasid masina võimekuse üle mängida Go-d, tehes neid veidraid ja ilusaid käike, millest mõned nad hiljem avastasid, olid mängitud, kuna meil on kirjed, mis ulatuvad tuhandeid aastaid tagasi Go mängudele, mis toimusid Hiina keisrikohtus. Ja nad leidsid, oh, minu Jumal, see on keskajast pärit käik, mille masin tegi. Me ei olnud seda nii kaua näinud.
Ja siis Lisa Dahl naaseb neljandasse mängu ja ta võidab. (..) Ja ma nutsin. Ma olin nii õnnelik. (..) Sest tal oli masin, tead ju, ta oli tagasi minu liigi pärast ja ta oli selle damn masinaga võitnud. Nagu, kangelaslikult, nagu, ma ei saanud aru, kui suur ajuvõime oli vajalik, et Lisa Dahl seda teha. [00:36:49] Ma olin sellel hetkel ekstaatiliselt õnnelik ja niivõrd uhke, et ta ikka proovis, isegi pärast seda, kui ta oli mängu kaotanud.
Nüüd on huvitav, kui Lisa Dahl intervjueerimise ajal ütles, et tema mängustiil muutus pärast matši. Nii et veel kord aitab AI inimesi endid aitama, okei? Ta muudab oma mängu, kuna kontakt on olemas. Ja hilisemad uurimised teiste teadlaste poolt vaatasid professionaalseid Go mängijaid ning uurisid otsuste kvaliteedi mediaani. Go-s on standard, kuidas hinnata, kui hea käik on, ja mediaaniline uuenduslikkus, kui ebatavaline käik on. Ja nad avastasid, et kui AlphaGo alistas 2016. aastal inimmaailma meistrid, hakkasid üle kogu maailma Go mängijad tegema paremaid, innovatiivsemaid käike, okei? Nii et kõik inimesed, kes mängivad üksteisega Go-d, on muutunud, kuna AlphaGo on lisatud. AI aitab inimesi endid aitama. Nii et me jätkame oma töö arendamist, et projekteerida ja lisada lihtsaid boti nende ja teiste olukordade jaoks, mis käsitlevad sotsiaalseid dilemmasid ja kollektiivse tegevuse probleeme. [00:37:55] Me uurime, kuidas botid võivad mõjutada koordineerimist, koostööd, suhtlemist, loovust, usaldust, navigeerimist, jagamist ja evakueerimist. Meie laboris ei keskendu me ülikarmale AI-le, nagu LLM-id või AlphaGo, et asendada inimkognitiivsust, vaid pigem rumalale AI-le, et täiendada inimestevahelist suhtlemist. Me ei püüa leiutada ülikarmat AI-d, et asendada inimkognitiivsust. Me leiutame rumalat AI-d, et täiendada inimestevahelist suhtlemist. Ja meie AI võib endale lubada olla rumal, sest inimesed on targad. Meie AI on nagu plaatina, mis lisatakse orgaanilise keemilise reaktsiooni. See on lihtsalt katalüsaator. Kõik, mida me vajame, on katalüsaator, et aidata grupil inimesi paremini olla.
Ja loomulikult on oluline tunnustada, et vastupidine on samuti võimalik. Sotsiaalne tehisintellekt võib olla kasutatud inimgruppide kahjustamiseks. Kuid meie lähenemine pakub rida muid tehnilisi ja kontseptuaalseid eeliseid. Esiteks, need lihtsad robotid on arusaadavad ja seetõttu illustreerivad selgelt laiemat võimu ja võimalusi. Erinevalt LLM-idest, mis on nagu must kast ja te ei tea, mida see teeb, saan ma teile täpselt öelda, mida meie robot teeb. [00:38:58] See on lärmakas. See vahendab tutvusi. See edastab sõnumeid just sellisel spetsiifilisel viisil. Teiseks võivad meie kontrollitud roboti eksperimendid anda ka ülevaate, kuidas inimkäitumine võiks samuti kasulikult muutuda. Teisisõnu, ma saan selle laborist välja viia ja õpetada inimgrupile, kuidas teha seda, mida meie robotid tegid. Ühel või teisel viisil ei saa te lihtsalt õpetada inimgruppi tegema seda, mida ChachiPT siin tegi. Me ei tea, mida ChachiPT teeb, kuid teate, mida nad teevad meie olukorras.
Nii et tahaksin lõpetada, see on minu viimane slaid, kasutades metafoori. Kaaluge neid kahte objekti. Need mõlemad on valmistatud süsinikust. Kui ühendate süsinikuaatomid ühel viisil, saate grafiidi, mis on pehme ja tume. Võtke samad süsinikuaatomid ja ühendage need teisel viisil, saate teemandi, mis on kõva ja selge. Siin on kaks olulist intellektuaalset mõtet. Esiteks, need omadused, nagu pehmus ja pimedus ning kõvadus ja selgus, ei ole süsinikuaatomite omadused. Need on süsinikuaatomite kogumi omadused. Ja teiseks, millised omadused teil on, sõltub sellest, kuidas te süsinikuaatomid omavahel ühendate. Võtke samad süsinikuaatomid ja ühendage need ühel viisil, saate ühe omaduste komplekti. [00:40:01] Ühendage need teisel viisil, saate täiesti erineva omaduste komplekti. Samamoodi mõjutavad meieühenduste iseloom meie sotsiaalsete gruppide omadusi. Just sidemed inimeste vahel võivad muuta kogu suuremaks kui selle osade summa. Uued omadused, nagu koostöö ja vägivald, uuenduslikkus ja tootlikkus, usaldus ja usaldamatus, tõde ja vale, rikkus ja vaesus, tervis ja õnn, võivad tekkida ja levida sidemete tõttu, inimestevaheliste linkide tõttu, mitte tingimata ainult nende inimeste tõttu. Tegelikult sõltub meie kogemus maailmast meie ümber olevate võrkude struktuurist ja funktsioonist, lähedal ja kaugel. Ja meie liik arenes nii, et see oleks tõsi. Ja ei tohiks meid üllatada, et reageerime AI-le meie seas. Aitäh teile väga.
