Nicholas Christakis: [00:00:05] Bine, așadar, ființele umane sunt integrate în rețele sociale, iar aceste rețele respectă principii matematice, biologice și sociale foarte specifice. Și, din ce în ce mai mult, adăugăm inteligența artificială sub formă de agenți online și roboți fizici printre noi, care interacționează cu noi ca și cum ar fi entități sociale. Și aceste tipuri de agenți pe care vom începe să le adăugăm sistemelor noastre variază de la mașini autonome pe drumuri la aparate de plată în magazine, la roboți umanoid în case sau fabrici sau pe câmpurile de luptă sau în situații de salvare la incendii, până la agenți autonomi fără corp, cum ar fi boți online și asistenți digitali AI în telefoanele noastre sau în ochelarii noștri sau la locurile noastre de muncă. Și aceste tehnologii interacționează cu noi pe un teren de joc echitabil, ca și cum ar fi umane. Și ele vor da naștere unor sisteme hibride de oameni și mașini. Și aceste sisteme oferă oportunități pentru un nou tip de inteligență artificială socială.
Acum, permite-mi să-ți dau doar un exemplu simplu despre asta. Când obții, de exemplu, un asistent digital, cum ar fi Alexa, fabricantul acelui dispozitiv este foarte preocupat de interacțiunea om-mașină. Și această interacțiune om-mașină este optimizată. De exemplu, nu ai cumpăra Alexa dacă de fiecare dată când ai nevoie de ceva de la ea, ar trebui să spui: îmi cer scuze, Alexa, îmi pare rău că te întrerup. Dacă nu te deranjează, ai putea să-mi spui, te rog, cuvântul? [00:01:35] vremea de mâine, nu-i așa? Aceasta ar fi considerată un nivel absurd de politețe. Te aștepți să poți spune: Alexa, vremea, și apoi mașina să răspundă ascultătoare. Și asta este bine până aduci acea mașină în casa ta și copiii tăi vorbesc cu acea mașină și învață să fie răi. Și apoi merg la locul de joacă și sunt răi cu alți copii. Așadar, acea mașină care a fost adăugată în mijlocul nostru nu se referă doar la interacțiunea om-mașină, ci la interacțiunea om-om în prezența mașinilor. Și astfel, ceea ce mă interesează nu este, ci interacțiunile om-om în prezența mașinilor. Și putem folosi o înțelegere a structurii și funcției rețelelor sociale pentru a evalua utilizările și impactul inteligenței artificiale sociale în cadrul și asupra grupurilor umane, în raport cu factori precum încrederea și cooperarea care sunt necesare pentru ca grupurile de oameni să colaboreze, uh, și care afectează comportamentul acestor colectivități.
Așa că permiteți-mi să evidențiez câteva dintre lucrările pe care le facem, uh, folosind mai multe abordări pentru experimentele de rețea care implică, uh, inteligența artificială. Aceste experimente evaluează cum ar putea AI să afecteze structura și funcția interacțiunilor sociale umane. [00:02:45] Acum există o clasă de probleme de acțiune colectivă a interacțiunilor sociale pe care le avem, cunoscute sub numele de probleme de coordonare. Adică, aceste probleme sunt în care trebuie să lucrăm împreună dacă dorim să creăm ceva util. Uneori rezolvăm aceste probleme prin crearea de instituții centralizate, cum ar fi poliția sau instanțele sau guvernele. Dar, adesea, suntem capabili să rezolvăm problemele de acțiune colectivă care necesită să coordonăm sau să cooperăm cu un număr mare de oameni într-un mod descentralizat. De fapt, am evoluat pentru a avea această capacitate. Și un tip specific de problemă de acțiune colectivă cu care aș dori să încep astăzi este, de fapt, coordonarea.
De exemplu, pentru a evita acest ambuteiaj, oamenii trebuie să coordoneze să facă ceva diferit de vecinii lor. Așa că, dacă toată lumea părăsește casa în același timp, toată lumea rămâne blocată în ambuteiaj. Dar dacă, dacă își reorganizează orele de plecare și pleacă pe intervale, atunci nimeni nu este în ambuteiaj. Acum, desigur, ai putea avea un fel de autoritate centrală care să coordoneze acest lucru. Voi plecați primii, apoi voi, și apoi voi. [00:03:45] Dar ideal, ceea ce ai dori este un fel de mod descentralizat, non-ierarhic prin care oamenii să se coordoneze pentru a rezolva această problemă.
Așadar, acesta a fost primul nostru experiment publicat în 2017 pe aceste sisteme hibride care au explorat cum ar putea ajuta AI-ul cu o astfel de provocare. Am explorat performanța grupurilor umane implicate într-o sarcină de coordonare. Paradigma noastră a fost să împrumutăm din informatică ceva cunoscut sub numele de problema colorării grafurilor. Aceasta este o problemă clasică în informatică. Dar ceea ce am făcut a fost să o luăm și să plasăm oameni în acea situație. Așadar, ceea ce am făcut a fost să luăm 4.000 de oameni și să îi împărțim în 230 de grupuri online. Așadar, acești oameni au fost plasați în aceste grupuri. Și au fost repartizați aleatoriu într-un loc dintr-o rețea artificială pe care am creat-o, structura căreia semăna aproximativ cu rețelele umane reale. Și au fost plasați în aceste locuri și li s-a spus că au fost alocați una dintre cele trei culori, [00:04:46] o purpurie, portocalie, purpurie, portocalie și roz. Și li s-a spus că trebuie să aleagă o culoare diferită de cea a vecinilor lor.
Și li s-au dat cinci minute pentru a face asta. Așa că aceste persoane s-ar uita în jur la vecinii lor. Fiecare persoană s-ar uita în jur și ar spune, de exemplu, tipul acesta de aici este roz. El vede că are un vecin roz și un vecin portocalie. Ceea ce ar trebui să facă este să își schimbe culoarea cu violet. Iar liniile roșii de aici indică conflictele de culoare. Cu alte cuvinte, dacă cele două culori ale nodurilor adiacente sunt la fel, primesc o linie roșie. Iar liniile de fundal violet indică structura interacțiunilor sociale. Așa că îi pui pe oameni aici. Se uită în jur la vecinii lor în fiecare secundă sau secundă și jumătate. Fac o schimbare consistentă cu obiectivul că toți trebuie să aleagă o culoare diferită de a vecinilor lor în următoarele cinci minute. Și dacă o fac, atunci și numai atunci vor fi plătiți. O să vă plătesc să lucrați împreună. Și dacă toți lucrați împreună într-un mod descentralizat pentru a rezolva problema, toți veți fi plătiți. Altfel, nu veți primi nimic, bine? Așa că iată ce se întâmplă în acest experiment. Aici pe axa x este timpul în secunde până la marcajul de cinci minute. [00:05:47] Jocul durează cinci minute, în jos, undeva aici. Și aici pe axa y este funcția obiectiv sau numărul de conflicte de culoare. Și așa, la început, sunt 12 conflicte de culoare. Ele sunt atribuite aleatoriu culorilor lor inițiale. Și asta este arătat aici pe acest mic histogram aici. Așa că oamenii încep să se uite în jur și să își schimbe culorile. Știi, ei schimbă și schimbă. Și ajung în acest punct în care au ajuns acum în situația în care există un conflict de culoare între acești doi oameni. Și acest conflict, totuși, este ceea ce numim un conflict nerezolvabil. Așa că liniile de portocalie deschis sunt conflicte rezolvabile. Acest tip de aici poate face o mișcare către violet care rezolvă conflictul. Dar acești tipi de aici care sunt portocalii, nu există nicio mișcare pe care o pot face care să reducă numărul de conflicte de culoare din vecinătatea lor, nu-i așa? Tipul acesta nu poate schimba în violet pentru că, de fapt, dacă trece la violet, va avea mai multe conflicte. Are, cum ar fi, patru vecini violet. Și nu poate schimba în roz pentru că are doi vecini roz. Așa că se uită și spune, bine, cel mai puțin conflict pe care îl am este să rămân portocalie. Așa că acum acest grup este prins, nu-i așa? [00:06:49] Au un conflict nerezolvabil și nimic nu se poate întâmpla. Nicio progresie nu poate fi făcută în soluționarea problemei acțiunii colective până când unul dintre acești doi oameni nu face o mișcare contraintuitivă, schimbând culorile în violet sau roz, și crescând temporar conflictele. Și, de fapt, asta se întâmplă. Și apoi trece timpul, iar oamenii la 245 de secunde rezolvă problema. Mașina detectează soluția, oprește jocul și îi plătește, bine?
Acum, pentru că am fost isteți, ceea ce am făcut este că am realizat unele experimente în care am înlocuit pe ascuns unii dintre oamenii cu boți. Și am evaluat cum adăugarea de boți dotați cu inteligență artificială pentru a crea un sistem hibrid a afectat performanța grupului. Este posibil să adaugă niște boți în grupurile umane și să îmbunătățească capacitatea lor de coordonare atunci când se confruntă cu o astfel de provocare? Și ceea ce am făcut este că am adăugat trei boți, și am variat experimental două axe. Unde au fost plasați boții, unde au fost lăsați aleatoriu în rețea, unde au fost plasați în [00:07:51] centrul rețelei, sau unde au fost plasați în periferia rețelei. Și am manipulat aleatoriu capacitatea lor de inteligență artificială aici într-un mod foarte trivial și simplu. Adică, am manipulat dacă boții au acționat cu perfecțiune sau au acționat cu puțină zgomot.
În situația de perfecțiune, la fiecare o secundă și jumătate, boții se uitau în jur la vecinii lor, și apoi aleg culoarea care avea cele mai puține conflicte cu vecinii lor. Ceea ce ai putea considera comportament irațional. În situația cu 10% zgomot, au făcut asta, dar 10% din timp, au ales o culoare aleatoare. Și în situația cu 30% zgomot, au făcut asta, dar 30% din timp, au ales o culoare aleatoare. Așadar, am făcut ca boții, să spunem, să fie din ce în ce mai predispuși la erori, din ce în ce mai zgomotoși.
Apoi ne-am uitat la, cred că am avut ceva de genul, să începem cu un grup de control. Am reprezentat aici pe axa x timpul, iar acestea sunt curbele de supraviețuire. Pe axa y este probabilitatea ca grupul în ansamblu să nu fi rezolvat jocul de coordonare. Așa că aici, dacă te uiți aici, de exemplu, la început, la timpul zero, [00:08:51] 100% din grupurile formate doar din oameni, sesiunile cu doar oameni, sunt în portocaliu. La început, 100% din grupurile formate exclusiv din oameni nu au rezolvat jocul. Și apoi, pe măsură ce timpul trece, din ce în ce mai multe grupuri de oameni rezolvă jocul, așa că la sfârșitul celor cinci minute, poate 60% din grupurile formate exclusiv din oameni au rezolvat jocul.
Ei bine, ce se întâmplă este că, dacă introduci 10% roboți zgomotoși în poziția centrală a rețelei, obții o performanță vizibil îmbunătățită. Aici, un număr substanțial mai mare de grupuri de oameni, când s-au adăugat roboți cu un pic de zgomot în mijloc, au fost capabili să rezolve problema. De fapt, au redus timpul median de soluție de la 232 de secunde la 103 secunde. Și există și alte constatări în aceste date. Roboții perfecți și roboții excesiv zgomotoși au fost amândoi nefolositori. A fost nevoie de o calibrare. Roboții zgomotoși de 10% au fost cei mai ajutători. De asemenea, poziția roboților a avut un anumit impact. Dar, esențial în aceste experimente, am descoperit că oamenii care nu erau conectați la roboți, [00:09:52] care erau mai departe în rețea. Așadar, în grafice, erau unii oameni care erau conectați la roboți și apoi alții care nu erau. Am descoperit că chiar și acei oameni au început să își schimbe modul în care jucau. Așadar, a existat un efect de undă, un efect în cascadă. Beneficiile interacțiunii dintre roboți și oameni au unduit prin rețea și apoi au început să afecteze interacțiunile umane-umane din ce în ce mai departe în rețea. Cu alte cuvinte, roboții i-au ajutat pe oameni să se ajute pe ei înșiși, iar beneficiile zgomotului s-au dispersat în acest sistem social.
Acum permiteți-mi să clarific ideile referitoare la această provocare comună și modul în care acești agenți AI simpli ar putea ajuta printr-o altă analogie. Așa că imaginați-vă că aveți un plan. Deci, este ca în algoritmul de coborâre a gradientului în învățarea automată, de exemplu. Așa că aveți un plan, și aveți coline și un munte. Și aveți diferite coline, bine, de diferite înălțimi. Și aveți un munte foarte sus aici, care este cel mai înalt. Așa că vă las, voi lua patru dintre voi, și vă voi lăsa undeva aici, și vă voi lega împreună, fiecare fiind orientat într-o direcție cardinală diferită, [00:10:54] și vă voi lega la ochi. Și vă voi spune, găsiți cel mai înalt munte. Așa că voi vorbiți între voi și spuneți, ei bine, de ce să nu facem fiecare un pas în direcția noastră și să raportăm echipei? Așa că faceți un pas spre nord și spuneți că este în sus de aici. Și sudul spune că este în jos de aici. Și estul și vestul spun că este lateral de aici. Așa că toți sunteți de acord, haideți să facem un pas spre nord. Și continuați să faceți asta în mod iterativ până ajungeți într-un punct în care toți spuneți că este în jos de aici.
Ați găsit cel mai înalt munte? Nu. (...) Ce ați făcut? Ați găsit cea mai apropiată colină.
Acum, vei găsi vreodată cel mai înalt munte? Nu. Nu vei găsi niciodată cel mai înalt munte. Ești blocat. Ești optimizat local, dar sub-optimizat global. Și pentru a te optimiza global, ai nevoie de puțin zgomot. Trebuie ocazional să le permiți acestui grup de oameni să facă un pas împotrivaintuitiv în jos pe munte sau în jos pe deal. Așa că ei fac uneori o succesiune de pași din întâmplare, până ajung din nou pe plan. Și apoi navighează în jurul acestui peisaj de fitness, explorând toate aceste vârfuri până ajung pe acest vârf. [00:11:56] Și acest vârf înalt tinde, optimumul global, tinde să fie un stat de primire pentru că ia mult mai mult zgomot pentru a ieși de pe acel vârf decât de pe celelalte vârfuri. Și așa acum oscilezi în jurul optimumului global. Așadar, în munca noastră, am explorat acest tip de programare simplă inserată în sisteme sociale pentru a vedea dacă putem îmbunătăți performanța oamenilor în abordarea diverselor tipuri de probleme de acțiune colectivă.
Acum, o altă problemă colectivă implică o provocare diferită, care este cooperarea, nu coordonarea. Oamenii trebuie adesea să coopereze pentru a produce ceea ce este cunoscut sub numele de bun public. Iar un far este unul dintre exemplele canonice de bun public. Bunul public are două caracteristici canonice. În primul rând, este ceea ce se numește non-excludabil. Și asta înseamnă că alte persoane nu pot fi împiedicate să-l folosească. Dacă construiești un far pentru bunul tău personal, pentru că navighezi pe mări și nu vrei să te zgârii de țărm, e grozav pentru tine, dar nu poți opri pe altcineva să-l folosească, bine? Non-excludabil. [00:12:58] Și, de asemenea, este non-rivalos. Asta înseamnă că consumul de către o persoană nu reduce consumul de către altele. Dacă folosesc lumina de la farul meu, nu este mai puțină lumină pentru tine. Și aceasta este diferit, de exemplu, de o felie de tort. Dacă am o felie de tort, este a mea, nu? Pot să te împiedic să o mănânci. Și dacă o mănânc, nu mai rămâne nimic pentru tine, bine? Așadar, bunul public are aceste caracteristici, iar aceste caracteristici Fac foarte dificilă producerea bunurilor publice. Deoarece când vine vorba de construirea unui far, este foarte tentant să pui interesele tale individuale împotriva grupului. Dacă nu contribui la construirea farului, poți totuși beneficia de el. Și astfel, toată lumea este tentată să nu facă nimic, iar farul nu este construit în detrimentul tuturor. Și este de asemenea demn de subliniat că bunurile publice sunt utile, pentru că poți produce lucruri cu ele, cum ar fi călătoria în siguranță pe mare. Și, ca atare, sub-investiția în bunurile publice este o problemă serioasă în societatea noastră și a început să fie cunoscută și ca tragedia comunelor. Aceste bunuri publice, de exemplu, normele de încredere pe care le menținem între noi sunt eficiente. [00:14:01] Gândește-te când erai în liceu. Unii dintre voi au fost la un liceu unde elevii se încredeau unii în alții, și asta însemna că puteai să îți lași rucsacul singur în hol și să nu te îngrijorezi că cineva l-ar fura. Alții dintre voi au fost la licee unde nu existau aceleași norme de încredere, și acum trebuia să-ți închizi rucsacul sau să-l ții cu tine tot timpul. În care dintre aceste două medii credeți că ați avut o învățare mai bună? Corect? În mediul anterior. Deci acea normă care este menținută colectiv este productivă. În acest caz, productivă pentru învățare. Aici, productivă pentru călătorii sigure pe mare și așa mai departe.
Așadar, cooperarea în grupuri umane pentru a produce bunuri publice este provocatoare, iar diverse mecanisme sunt necesare pentru a o susține. Am efectuat multe experimente care implicau aruncarea oamenilor în grupuri de rețea și solicitarea de a juca diverse tipuri de jocuri de bunuri publice cu vecinii lor, manipulând multe caracteristici structurale și altele de-a lungul anilor. De exemplu, am început cu mulți ani în urmă cu un experiment în care oamenii erau puși într-o rețea ca aceasta. Au fost prezentati vecinilor lor și au jucat un joc de bunuri publice din, ca, economia comportamentală, [00:15:03] unde, ca, aș putea oferi o mică sumă de bani fiecărui vecin. Ca, iau un dolar și îl împart între vecinii mei. Apoi, oamenii de știință dublează dolarul. Așadar, să zicem că am patru vecini. Să zicem că am trei vecini, iar eu dau un dolar grupului. Devine două dolari. Acele două dolari sunt împărțite între noi patru. Așadar, întregul grup câștigă bogăție la două dolari, dar eu primesc înapoi doar 50 de cenți. Cele două împărțite la patru, primesc înapoi 50 de cenți. Așadar, trebuie să fac un sacrificiu pentru beneficiul altora. Așadar, în mod natural, toată lumea spune, nu vreau să sacrific. Să lase fiecare alt prost să dea banii. Eu nu voi da nimic și, sper, alții vor contribui. Dar, desigur, dacă toată lumea face asta, obții din nou un colaps. Și cel mai bun comportament este ca toată lumea să contribuie maxim. Așadar, aici, în această situație, începem jocul. Punctele albastre sunt, oamenii albastre sunt oamenii cooperanți și drăguți. Ei oferă maxim vecinilor lor și creează bunuri publice, precum construirea unui far. Iar punctele roșii sunt exploatatorii care nu fac contribuții, cunoscuți și sub numele de defectori. Și ceea ce descoperim în acest experiment este că reproducem un rezultat care este cunoscut de 30 de ani, [00:16:03] care este că cooperarea se prăbușește în grupuri, corect? La sfârșitul jocului, după mai multe runde, practic toată lumea devine un defector, cu excepția acestor mici oameni albastre de pe lateral, care mențin civilizația vie, știi, între ei. Te poți gândi, din nou, să invoci liceul pentru studenți. Îți amintești de acea situație în care profesorul tău de științe a assignat patru dintre voi să faceți un proiect de grup și urma să obțineți aceeași notă. Și ai fost asignat cu alți trei pierzători. Așadar, acum ai două alegeri. Fie faci toată munca, iar ei primesc și A-uri pentru că vrei un A. Sau spui, asta e ridicol. Nu vreau ca acești leneși să profite de munca mea grea. Și spui, nu o să fac nimic nici eu, și toți primiți F-uri, nu-i așa? Asta este o dilemă teribilă. Ei bine, ce se întâmplă aici este că ființele umane în cele din urmă aleg a doua opțiune. Toți aleg să primească F-uri pentru că nu vor să fie proști și să continue să contribuie. Așadar, cooperarea se prăbușește în sistemele sociale ca un rezultat general. Dar ceea ce am făcut a fost că, încă o dată, am adăugat câțiva roboți deși diferiți în sistem. Am adăugat câțiva roboți care au fost dotați cu un A foarte simplu. [00:17:05] Acești roboți au fost ca niște intermediari de căsătorie. Ei intermediază interacțiunile sociale. Se uitau în jurul lor local la cine interacționa cu cine și ofereau sugestii oamenilor din sistem. știi ce? Ar trebui să tai legătura cu acel defector care profita de tine și să formezi o legătură cu acest tip simpatic de aici. Iar acest sfat blând de reconfigurare, care folosește doar cunoștințe locale. Nu există profesor acolo care să ordone oamenilor să fie drăguți. Nici poliție. Nici tribunal. Nicio autoritate centralizată care să execute acest lucru. Doar acționând pe baza cunoștințelor locale, am descoperit că acești roboți ar putea, în experimentele noastre cu peste 1.000 de oameni în 64 de grupuri, am descoperit că nu numai că cooperarea putea fi stabilizată, dar pentru prima dată, am demonstrat un rezultat că cooperarea putea crește de fapt față de linia de bază când aceste tipuri de roboți au fost adăugați. Și DeepMind ulterior a replicat rezultatele noastre și le-a extins într-un alt articol care a apărut acum aproximativ un an sau doi de atunci.
Acum, într-un alt experiment, am explorat cum ar putea afecta roboții creativitatea de grup. [00:18:07] pentru că găsirea de idei noi este dificilă. Teoria și experimentele sugerează că grupurile pot fi mai capabile să identifice și să păstreze inovațiile decât indivizii prin împărtășirea descoperirilor lor.
Dar inovația în rândul grupurilor se confruntă cu propriile sale provocări, inclusiv gândirea de grup. Ai dreptate? Dacă aduni un grup de oameni, aceștia pot converga prematur spre o idee suboptimă.
Sau ai putea imagina, ar trebui să îți imaginezi, că un grup de oameni ar putea avea împreună o înțelepciune mai mare, ar putea să vină cu mai multe idei. De exemplu, dacă dai unui grup de oameni sarcina de a perfecționa un undiț, știi, prima persoană ar putea spune, ei bine, de ce să nu punem un cârlig la capătul unei sârme? Și apoi persoana ține firul cu un cârlig. Și cineva spune, de ce să nu punem un băț adăugat la fir? Oh, asta este o idee grozavă. Așa că își combină cunoștințele și fac asta. Și cineva spune, ei bine, momeala cu cârligul plutește la suprafață. Să adăugăm o undă astfel încât să coboare. Ei bine, acum coboară prea mult. Ce zici de a adăuga un plutitor astfel încât să știm unde se află și așa mai departe. Și astfel oamenii inovează, împărtășesc cunoștințe între ei, păstrează cunoștințe de-a lungul timpului, [00:19:08] și obții aceste artefacte culturale care sunt produsul compus al mai multor oameni care împărtășesc idei și sunt creativi.
Așadar, am vrut să creăm un joc în care grupuri de oameni căutau un peisaj pentru o idee optimă. Și am decis să folosim substantive ca un substitut pentru idei. Am luat 20.000 de substantive din corpusul clasic de știința calculatoarelor word-to-vec. Așadar, am luat 20.000 de substantive. Și distanța dintre aceste substantive ar putea fi definită prin metrica similarității cosinusului. Îți poți imagina un spațiu vectorial hiper-dimensional în care pisica este mai similară cu câinele decât cu biroul. Și modul în care au făcut asta a fost să observe cât de des co-apareau cuvintele pisică și câine pe site-uri web. Așadar, aveau un univers de site-uri web și un univers de 20.000 de substantive. Și au spus că aceste două substantive apar adesea împreună, iar aceste alte două substantive nu apar adesea împreună. Au creat un spațiu vectorial de 300 de dimensiuni. [00:20:08] Și acum poți descrie cât de similare sunt orice două substantive. Și am decis să folosim substantive ca un substitut pentru idei. Am luat aceste 20.000 de substantive. Și apoi am ales un set de substantive. Imaginează-ți că am ales un substantiv, dar am ales un set. Un substantiv la întâmplare din toate acestea, cum ar fi braggadocio, de exemplu, era un substantiv. Așadar, am ales braggadocio. Și spunem că aceasta este ideea perfectă pe care vrem ca acest grup de oameni să o găsească. Și apoi toate substantivele care sunt aproape de braggadocio căzute în acest spațiu vectorial. Așadar, ai substantivul de vârf care primește cele mai multe puncte, 20.000 de puncte, și toate celelalte substantive până la cele mai îndepărtate. Și am pus ființe umane în acest sistem și le spunem, găsiți acest cuvânt. Nu le spunem cuvântul. Și apoi le spunem valoarea punctelor cuvintelor. Așadar, încep să ghicească. Și pe măsură ce ghicesc, primesc feedback. Și spun, ah, acest cuvânt are mai multe puncte decât un alt cuvânt. Și se apropie tot mai mult și încep să împărtășească cunoștințele între ei. Încearcă să fie creativi pentru a rezolva problema.
Așadar, fiecare substantiv este legat de altele într-un spațiu semantic sau un peisaj lipsit de sens. [00:21:10] Și am avut 18 substantivuri țintă diferite, ca și cum am fi ridicat un vârf din peisajul acestor 20,000 de substantivuri în 18 locații diferite din 18 peisaje diferite. Iar aceste substantivuri au fost deliberate neobișnuite, cum ar fi fratricid, șurub, sarcom, cartografie și așa mai departe. Apoi am efectuat experimente implicând mai multe condiții în care oamenii erau singuri încercând să navigheze în peisaj, unde oamenii erau în grupuri lucrând împreună pentru a naviga în peisaj, sau unde oamenii erau în grupuri dar aveau și câțiva roboți acolo încercând să-i ajute să fie creativi. Iar roboții au funcționat pentru că puteau transmite informații dintr-o regiune a rețelei în alta comunicând între ei. Așadar, de exemplu, robotul numărul doi putea transmite cuvântul cer sau mașină robotului numărul unu. Iată un exemplu de rețea.
Noi introducem oamenii. Punctele pătrate sunt roboți. Și acest robot are patru interacțiuni și acest robot are, nu știu, șase sau șapte interacțiuni. Oamenii de la început încep să ghicească. [00:22:12] Nu au niciun temei pentru o ghicire deloc în prima rundă a jocului. Gândesc cer, mașină, iepure, șobolan, câine, pisică, birou. Ca atunci când v-aș întreba pe voi, alegeți un substantiv de ghicit, ați ghici casă sau soare sau lună sau pisică sau câine sau un alt substantiv mic tipic. Și acum li se spune valoarea punctelor, cât de similar este cuvântul șobolan, câine, pisică, birou și așa mai departe, cu sarcom. Și li se spune valoarea punctelor acelor substantive în raport cu substantivul țintă, care este sarcom. Apoi acele valori ale punctelor sunt anunțate. Și apoi acest robot poate privi la valorile punctelor oamenilor din jurul său și poate transmite fie o alegere aleatorie către acest robot, fie cea mai mare valoare a punctelor sau cea mai mică valoare a punctelor, un fel de canal de comunicare înspăimântător care răspândește informații dintr-o regiune a grupului de oameni care încearcă să rezolve problema în altă regiune. Așadar, haideți să ne uităm la câteva exemple pentru a clarifica acest concept, deoarece poate fi greu de înțeles. Oamenii au jucat acest joc timp de aproximativ 25 de runde. Și iată similaritatea cosinusului cu un substantiv țintă, care este cuvântul fratricid. Bine, avem 20.000 de substantive. [00:23:13] Fratricidul are 20.000 de puncte. Iar celelalte cuvinte au alte puncte. Și iată o persoană singură, o persoană care ghicește singură. Așadar, prima sa ghicire este bit. Și i se spune cât de similar este cuvântul bit cu fratricid. Apoi, următoarea sa ghicire este naștere. Și obține un salt mare în similaritatea cosinusului, deoarece îți poți imagina că cuvântul naștere este mai aproape de cuvântul fratricid decât cuvântul bit. În regulă? Apoi încearcă bani. Asta e mai rău. Apoi încearcă maimuță. Asta e și mai rău. Verifică. Fac o verificare de sănătate mintală. Încearcă naștere. Saltează din nou. Apoi încearcă bebeluș. Asta nu e o ghicire proastă. Naștere spre bebeluș. Dar bebelușul îi ia mai departe de fratricid. Și apoi doamnă și așa mai departe. Și ei navighează. Și ghicesc. Și ghicesc. Și nu ajung nicăieri aproape de fratricid până la final. Acum, în această altă situație, avem un grup de oameni, dar fără roboți. Și acum oamenii pot, în plus față de a face propriile lor ghiciri, să vadă ghicirile oamenilor din jurul lor. Și să construiască pe ideile altora. Bine? Creat. Ca și cum ar construi împreună undița de pescuit. [00:24:13] Așadar, această persoană, prima sa ghicire este câine. Dar următoarea sa ghicire este scut. Poți vedea că scutul este mai aproape de fratricid decât câinele. Și această persoană ghicește și ghicește și obține input de la vecinii săi. Și până la final, ajunge din ce în ce mai aproape. În cele din urmă ajunge la cuvântul dușman. Bine? De fapt, soldatul a fost cea mai bună ghicire a sa. A avut cea mai mare valoare a punctelor pe parcursul traiectoriei sale.
Deci, cum a influențat adăugarea bot-urilor? Asta, din nou, arată rezumatul rezultatelor. Pe axa x este runda. Pe axa y este similaritatea cosinus medie în acest spațiu vectorial hiper-dimensional, care este o măsură a performanței grupului. Și aici este un grup de oameni care acționează, ghicesc singuri. Deci, oamenii care ghicesc pe cont propriu nu se descurcă foarte bine, nu-i așa? Ei, ei, știți, este doar o chestiune de noroc dacă, cumva, sau, știți, o abilitate înnăscută în fiecare om în parte. Ei devin puțin mai buni în timp, apropiindu-se. Toate grupurile depășesc performanța celor care acționează singuri. Și acesta este un rezultat cunoscut de mult timp. Un grup de oameni este mai creativ decât un set similar, ca dimensiune, de practicanti solitari. Dar ceea ce găsim este că, dacă adăugăm bot-ul cel mai similar, bot-ul care s-a uitat la vecinii săi, [00:25:17] și a aflat care este consensul lor local despre această idee? Oamenii mei par să creadă că aceasta este o idee bună. Și apoi o transmite bot-ului de la o distanță în rețea. Acest bot a îmbunătățit substanțial performanța acestui grup de oameni pentru a face o descoperire. Ar trebui să poți imagina cum ar putea funcționa asta într-un grup de ingineri sau orice alți lucrători cunoștințe. Cum poți distribui cunoștințele într-un mod eficient, evitând gândirea de grup și promovând creativitatea, proiectând bot-uri care ajută oamenii să se ajute singuri. Bot-ul de aici nu are creier. Nu, nu, își sugerează idei. Doar ajută oamenii să răspândească ideile între ei.
Deci, agenții simpli de inteligență artificială cu comportament interpretabil pot îmbunătăți capacitatea de descoperire creativă în grupurile umane prin împărtășirea ideilor în jurul cărora există consens local într-o parte a grupului cu oameni dintr-o parte îndepărtată a grupului. Și, ca rezultat, grupul poate performa mai bine.
Acum, am început să experimentăm și cu sisteme fizice. Și am adăugat roboți umani și non-umani [00:26:19] dotați cu AI simplu pentru a ajuta grupurile de oameni să colaboreze mai bine, ajutându-i să depășească fricțiunile sau incapacitatea de a coopera în interacțiunile lor. Unul dintre exemplele mele preferate este un experiment pe care l-am realizat cu fosta mea studentă de doctorat, Maggie Traeger, care este în spate și acum este profesor asistent la Notre Dame. Acest experiment. În acest experiment, am avut trei oameni reali care au venit în laborator și un robot umanoid. Și am proiectat un mic joc, un joc cu șine de tren, care se joacă pe o tabletă, iar acest grup de oameni și un robot au avut sarcina de a așeza șine de tren de la punctul A la punctul B, precum șinele de tren ale lui Thomas the Tank Engine. Apoi le-am oferit câteva piese din care puteau alege pe tabletă, cum ar fi piese drepte și piese curbate. Dar am conceput ocazional, deși părea că era un amestec de piese și că, în principiu, ar trebui să poată merge de la punctul A la punctul B, am conceput vicleșit astfel încât să nu fie numărul potrivit de curbe pentru a le permite să ajungă de la punctul A la punctul B. [00:27:21] Așa că nu au putut să o facă. Nu au putut să rezolve problema fără să știe. Bun? Așa că mai întâi fiecare persoană își ia rândul să așeze o piesă de șină, apoi următoarea persoană și următoarea persoană. Lucrează împreună pentru a lega punctul A de punctul B pe tabletele lor.
Și ceea ce am făcut în acest experiment a fost să manipulăm, iar ei au jucat 30 de runde din acest joc în această lume virtuală, și am avut 51 de grupuri, am manipulat stilul de conversație al roboților, specific dacă robotul și-a exprimat vulnerabilitatea recunoscând o greșeală. Așadar, robotul a spus, știi, am făcut o greșeală. Sau dacă robotul a spus glume de tată. Presupun că toată lumea știe ce sunt glumele de tată. Bine. Așadar, am avut robotul să spună, apropo, acesta este un universal cultural, cum ar fi antropologii din jungla amazoniană care au studiat popoarele indigene și tații de acolo de asemenea spun glume de tată. Iar copiii sunt de genul, nu pot să cred că glumele stupide ale tatălui. Dar, oricum, și de fapt există o teorie despre ceea ce sunt glumele de tată, care sunt menite să întărească copiii într-un fel. Aceasta este o teorie. Dar, oricum, acesta este un alt subiect. Oricum, am avut roboții noștri să spună glume de tată sau să își exprime vulnerabilitatea. [00:28:21] Și ceea ce ne interesa să aflăm este dacă schimbările în vorbirea roboților au puterea nu doar de a afecta modul în care oamenii interacționează cu roboții, ci și modul în care oamenii interacționează între ei. Și din nou, aceasta oferă perspectiva de a modifica interacțiunile sociale prin introducerea agenților artificiali în sisteme hibride de oameni și mașini.
Iată un mic exemplu despre, oh, și nu ți-am spus rezultatele. Așadar, iată când avem, grosimea acestor linii, am aranjat camere video pentru a monitoriza cine vorbește cu cine și cât de mult vorbesc. Și grosimea acestor linii indică cât de mult persoana două vorbește cu persoana unu și așa mai departe. Așadar, persoana unu nu vorbește prea mult cu robotul. Asta este o linie subțire. Și când aveți roboți neutri, obțineți acest model. Dar când aveți robotul vulnerabil, toate aceste linii devin mai groase și se egalizează. Așadar, am descoperit că un robot vulnerabil a crescut egalitatea discursului între oameni, a crescut volumul discursului între oameni și, de fapt, în rezultatele separate, [00:29:22] a crescut satisfacția oamenilor în acel tip de mediu.
Și iată doar un clip din două runde diferite care ilustrează modul în care robotul vorbește mai întâi într-un mod neutru, în voce pasivă, care nu afectează prea mult comunicarea umană. Robotul spune, într-un mod foarte în stilul lui Reagan, s-a făcut o greșeală.
Dar în runda următoare, robotul spune, am făcut o greșeală. Și poți doar să observi ce se întâmplă aici. Hai să vedem dacă putem să facem să funcționeze. (25 de secunde de pauză) Așadar, pe parcursul a multe zeci de runde, acesta este genul de model pe care îl găsim. Așadar, o manipulare simplă, o manipulare simplă în modelul de discurs al robotului schimbă modul în care oamenii interacționează între ei. [00:30:25] Și nu cred că necesită mult să ne imaginăm cum întregul mod în care proiectăm chatbot-urile noastre și tot restul ar putea afecta nu doar exemplul Alexa pe care ți l-am dat la început, ci și modul în care ne tratăm unii pe alții. Oamenii par să aibă mai multă încredere unii în alții și să se distreze mai mult în această situație.
Acum aici este liniște, și cred că acesta este ultimul experiment pe care o să-ți arăt și apoi o să închei, într-un alt experiment, am dezvoltat o platformă cibernetico-fizică nouă pentru a testa astfel de efecte sociale și, de fapt, etice ale unor tipuri simple de inteligență artificială. Deoarece, având în vedere natura problemelor de acțiune colectivă, implicarea inteligenței artificiale în grupurile umane ar putea, paradoxal și în mod neintenționat, să suprime normele sociale benefice existente în rândul oamenilor, cum ar fi cele care implică cooperarea și altruismul, pe care le-am evoluat ca specie. Așadar, avem sute de mii de ani de selecție naturală care au acționat asupra noastră pentru a ne face capabili să rezolvăm problemele de acțiune colectivă. Așa că întrebarea este, bine, dacă delegăm o parte din această agenție mașinilor, vom pierde capacitatea de a lucra împreună pentru a rezolva aceste probleme? [00:31:32] Ne vom baza pe aceste mașini și astfel ne degradăm abilitatea noastră înnăscută de a coopera și coordona și a crea și așa mai departe? În acest experiment, colaborând cu Hiro Shirato de la CMU, un alt fost student absolvent de-al meu, am construit o platformă care a implicat două mici vehicule mecanice dotate cu Raspberry Pi și le-am conectat la un software pe care îl avem, care ne permite să organizăm experimente online la o scară vastă. Așa că oamenii erau în casele lor și li s-a asignat una dintre aceste mașini, iar ei conduceau aceste mașini una spre cealaltă,
și i-am avut jucându-se jocul de curajos. Așa că în curajos, știi, ca, cine ajunge mai repede pe cealaltă parte câștigă. Așa că ești incentivizat să nu cedezi celuilalt. Dar dacă fiecare dintre voi alege să nu cedeze, atunci colidează și amândoi obțin cel mai prost rezultat. Așa că ce ar face oamenii în această situație, dacă jucați un joc de curajos iterat, este că ați învăța rapid să faceți schimb. De data aceasta este rândul tău să treci drept, eu mă voi opri și te voi lăsa, dar data viitoare te oprești tu și mă lași pe mine să trec drept. [00:32:35] Dacă suntem egoiști, continuăm să ne ciocnim, ca și cum ne distrugem unii pe alții din nou și din nou, sau stupizi, amândoi ne abatem, și niciunul nu obține beneficiul de a trece drept. Așa că în această situație de aici, mașina galbenă decide să se oprească, mașina albastră continuă nepăsătoare până pe cealaltă parte.
Și am folosit 300 de participanți și 150 de dyade, iar ei au fost plătiți în funcție de cât de repede ajungeau de cealaltă parte. Apoi am adăugat ceva AI. Am adăugat asistență la frânare automată, unde, când aveai o alertă de proximitate, când te apropiai de cealaltă mașină, frâna și îți oferea o șansă să decizi, hei, ar trebui să mă trag deoparte și să-l las pe acest alt tip să treacă, sau viceversa. Sau am adăugat asistență la direcție automată, care este, în momentul în care se apropia de cealaltă mașină, pur și simplu devia, ok? Și am adăugat o funcție de comunicare minimă, unde oamenii puteau să spună mulțumesc sau ceva de genul ăsta. O comunicare foarte minimă. Și mai întâi, am arătat că asistența la frânare automată, unde mașinile se opresc la o distanță fixă înainte de a coliziona, a crescut altruismul uman. [00:33:38] Adică, a ceda calea altora, așa cum face mașina galbenă aici. Așadar, adăugarea unui pic de asistență AI la frânare automată a făcut mai ușor pentru oameni să colaboreze și să coopereze în situație. În plus, permiterea oamenilor să comunice ajută și mai mult la a face concesii mutuale în condiția de frânare automată. Pe de altă parte, asistența la direcție automată, unde mașina pur și simplu devia, a inhibat complet apariția reciprocity-ului între oameni în favoarea maximizării interesului personal. Oamenii pur și simplu își predau agenția morală. Nu se mai deranjează. Pur și simplu lasă mașina să deviaze repetat și se lasă bătuți, ok? Așadar, toate abilitățile etice înnăscute pe care oamenii le aveau au fost acum eliminate prin adăugarea de AI în condiția de direcție automată, dar îmbunătățite în condiția de frânare automată. Și acest lucru ar trebui să te facă să te oprești și să te gândești. Trebuie să te gândești, oh, Doamne, fiecare mic detaliu pe care îl facem când programăm acești agenți AI ar putea avea efecte bune sau rele asupra tendințelor naturale ale oamenilor.
Capacitatea oamenilor de a coopera și de a face schimb de rânduri și de a acționa altruist poate atrofia, ceea ce duce, în cele din urmă, la rezultate mai proaste atât colective, cât și individuale. [00:34:46] De fapt, pe scurt, IA poate duce la un fel de lene morală. (..) Iată un ultim exemplu de schimbare durabilă după expunerea la IA în sisteme hibride. Și este, de asemenea, un exemplu despre cum prezența IA poate schimba interacțiunile între oameni, chiar și după ce IA nu mai este parte din aceste interacțiuni. Așadar, în 2016, DeepMind a dezvoltat AlphaGo, iar în același an, acest agent IA a jucat împotriva lui Lee Sedol, extraordinarul campion mondial din Coreea.
Am urmărit meciul. Nu pot juca Go, dar recunosc că este un joc magnific. Fiul meu joacă Go. (.) Și chiar l-am susținut pe Lee Sedol. Lee Sedol este ca un erou în Coreea, așa cum am avea, știți, mari atleți pe cutiile noastre de Wheaties și așa mai departe. La el este pe pachete de tăiței și pe pachete de cereale. Cred că este minunat că în Coreea un nerd deștept ca mine este considerat, știți, o persoană importantă, bine? Așa că el este foarte popular în Coreea. Și iese la primul meci și este prea arogant. [00:35:47] Îmi dau seama că este prea arogant. Și pierde în fața mașinii, apoi își cere scuze fanilor. Spune, îmi pare atât de rău. Sunt cinci jocuri. Cel mai bun din trei câștigă. Apoi joacă un al doilea joc și pierde din nou. Și acum devine serios. Apoi joacă un al treilea joc și pierde. A pierdut competiția.
Și ai putea să vezi un fel de public, iar comentatorii erau uimiți de abilitatea mașinii de a juca Go, făcând aceste mutări ciudate și frumoase, unele dintre care mai târziu au descoperit că fuseseră jucate pentru că avem înregistrări care se întorc cu mii de ani în urmă de meciuri de Go jucate în Curtea Imperială Chineză. Și au putut să găsească, oh, Doamne, aceasta este o mutare medievală pe care a făcut-o mașina. Nu o mai văzusem de atât de mult timp.
Și apoi, Lisa Dahl revine în a patra partidă și câștigă. (..) Și am plâns. Eram atât de fericit. (..) Pentru că el avea mașina, știi, venise înapoi pentru specia mea și învinsese mașina, naibii. Ca, într-un mod eroic, nu puteam să înțeleg, de exemplu, puterea cerebrală care trebuie să fi fost necesară pentru ca Lisa Dahl să facă asta. [00:36:49] Eram în extaz în acel moment și atât de mândru de el pentru că încă mai încerca, chiar și după ce pierduse meciul.
Acum, ceea ce este interesant este că atunci când Lisa Dahl a fost intervievată ulterior, Lisa Dahl a spus că modul său de a juca s-a schimbat după meci. Așadar, din nou, IA îi ajută pe oameni să se ajute pe ei înșiși, bine? El își schimbă modul de a juca din cauza contactului. Iar investigațiile ulterioare efectuate de alți oameni de știință s-au concentrat pe jucătorii profesioniști de Go și au analizat calitatea medie a deciziilor. Există un standard în Go pentru a evalua cât de bună este o mutare și noutatea medie, adică cât de neobișnuită este o mutare. Și ei au descoperit că atunci când AlphaGo l-a învins pe campionul mondial uman în 2016, jucătorii de Go din întreaga lume au început să efectueze mutări mai bune care sunt mai inovatoare, bine? Așadar, toți oamenii care joacă Go între ei s-au schimbat pentru că AlphaGo a fost adăugat. IA îi ajută pe oameni să se ajute pe ei înșiși. Așadar, continuăm să ne dezvoltăm munca pentru a concepe și a adăuga roboți simpli la aceste situații și alte situații implicând dileme sociale și probleme de acțiune colectivă. [00:37:55] Ne uităm la modul în care roboții pot afecta coordonarea, cooperarea, comunicarea, creativitatea, încrederea, navigarea, împărtășirea și evacuarea. Și în laboratorul nostru, nu ne concentrăm pe IA super inteligentă, cum ar fi LLM-urile sau AlphaGo, pentru a înlocui cogniția umană, ci mai degrabă pe IA slabă pentru a suplimenta interacțiunea umană. Nu încercăm să inventăm IA super inteligentă pentru a înlocui cogniția umană. Inventăm IA slabă pentru a suplimenta interacțiunea umană. Iar IA noastră poate fi slabă deoarece oamenii sunt inteligenți. IA noastră este ca platinul adăugat la o reacție de chimie organică. Este doar un catalizator. Tot ce avem nevoie este catalizatorul pentru a ajuta un grup de oameni să fie mai buni.
Și, desigur, este important să recunoaștem că inversul este de asemenea posibil. AI social poate fi folosit pentru a dăuna grupurilor de oameni. Dar abordarea noastră oferă o serie de alte avantaje tehnice și conceptuale. În primul rând, acești roboți simpli sunt inteligenți și, prin urmare, ilustrează clar puterile și oportunitățile mai ample. Spre deosebire de LLM-uri, care sunt o cutie neagră și nu știi ce fac, îți pot spune exact ce face robotul nostru. [00:38:58] Este zgomotos. Facilitează introduceri. Transmite mesaje într-un mod foarte specific. Iar în al doilea rând, experimentele noastre controlate cu roboți pot oferi, de asemenea, o perspectivă asupra modului în care comportamentul uman s-ar putea schimba în mod benefic. Cu alte cuvinte, pot lua asta din laborator și pot învăța un grup de oameni să facă ceea ce au făcut roboții noștri. Într-un fel, nu poți învăța ușor un grup de oameni să facă exact ceea ce a făcut ChachiPT aici. Nu știm ce face ChachiPT, dar știi ce fac ei în situația noastră.
Aș dori să închei, aceasta este ultima mea diapozitivă, cu o metaforă. Considerați aceste două obiecte. Ambele sunt făcute din carbon. Dacă luați atomii de carbon și îi conectați într-un fel, obțineți grafit, care este moale și întunecat. Luați aceiași atomi de carbon și îi conectați într-un alt fel, obțineți diamant, care este tare și clar. Și aici sunt două idei intelectuale esențiale. În primul rând, aceste proprietăți de moale și întunecat și tare și clar nu sunt proprietăți ale atomilor de carbon. Ele sunt proprietăți ale colecției de atomi de carbon. Și în al doilea rând, ce proprietăți obțineți depinde de modul în care conectați atomii de carbon între ei. Luați aceiași atomi de carbon și îi conectați într-un fel, obțineți un set de proprietăți. [00:40:01] Conectați-i altfel, obțineți un set complet diferit de proprietăți. În mod similar, natura legăturilor noastre afectează proprietățile grupurilor noastre sociale. Este legătura dintre oameni care poate face întregul mai mare decât suma părților sale. Noi proprietăți, cum ar fi cooperarea și violența, inovația și productivitatea, încrederea și neîncrederea, adevărul și minciuna, bogăția și sărăcia, sănătatea și fericirea, pot apărea și se pot răspândi datorită conexiunilor, datorită legăturilor dintre oameni, și nu neapărat doar din cauza oamenilor în sine. De fapt, experiența noastră asupra lumii depinde de structura și funcția rețelelor din jurul nostru, atât aproape, cât și departe. Specia noastră a evoluat pentru a fi așa. Și nu ar trebui să ne surprindă că vom reacționa la AI-ul din mijlocul nostru. Vă mulțumesc foarte mult.
