Николас Кристакіс: [00:00:05] Добре, така е природата на човешките същества, те са вградени в социални мрежи, и тези мрежи следват много специфични математически, биологични и социални принципи. И все повече добавяме изкуствен интелект под формата на онлайн агенти и физически роботи между нас, които взаимодействат с нас, сякаш са социални субекти. Тези агенти, които ще добавим към нашите системи, варират от безпилотни автомобили по пътищата до касови машини в магазини, до хуманоидни роботи в домове или фабрики или бойни полета или в ситуации на гасене на пожари, до отделни автономни агенти като онлайн ботове и цифрови AI асистенти в нашите телефони или очила или работни места. И тези технологии взаимодействат с нас на равни начала, сякаш са хора. И те ще доведат до хибридни системи от хора и машини. И тези системи предлагат възможности за нов вид социален изкуствен интелект.
Сега, нека ви дам просто един пример. Когато получите, например, цифров асистент, като Alexa, производителят на това устройство е много загрижен за взаимодействието между човек и машина. И това взаимодействие между човек и машина е оптимизирано. Например, никога не бихте купили Alexa, ако всеки път, когато ви е необходимо нещо от нея, трябваше да кажете: извинете ме, Alexa, много съжалявам, че ви прекъсвам. Ако не ви пречи, можете ли да ми кажете думата? [00:01:35] времето утре, нали? Това би се считало за абсурдно ниво на учтивост. Очаквате да можете да кажете: Alexa, времето, и след това машината покорно да отговори. И това е добре, докато не донесете машината в дома си и вашите деца говорят с нея и се учат да бъдат груби. А след това отиват на площадката и са груби с другите деца. Така че това устройство, което е добавено в нашия среда, не е само за взаимодействието между човек и машина, а за взаимодействието между хората в присъствието на машини. И затова, което ме интересува, не е, ами взаимодействията между хората вPresence of machines. И можем да използваме разбирането за структурата и функциите на социалната мрежа, за да оценим употребите и въздействието на социалния AI вътре в и върху човешките групи, с оглед на фактори като доверие и сътрудничество, които са необходими за групи от хора да работят заедно, и които влияят на поведението на тези колективи.
Позволете ми да подчертая част от работата, която вършим, използвайки няколко подхода към мрежови експерименти, свързани с изкуствения интелект. Тези експерименти оценяват как изкуственият интелект може да повлияе на структурата и функцията на човешките социални взаимодействия. [00:02:45] Сега има клас проблеми с колективни действия в социалните взаимодействия, познати като координационни проблеми. Това са проблеми, при които е нужно да работим заедно, за да създадем нещо полезно. Понякога решаваме тези проблеми, като създаваме централни институции, като полиция, съдилища или правителства. Но често сме в състояние да решим проблеми с колективни действия, които изискват да координираме или сътрудничим с голям брой хора по децентрализиран начин. Всъщност, еволюирахме, за да имаме тази способност. И един конкретен тип проблем с колективното действие, с който бих искал да започна днес, е именно координацията.
Например, за да избегнат тази задръстване, хората трябва да координират действията си по начин, различен от съседите си. Ако всички напуснат домовете си по едно и също време, всички остават в задръстването. Но ако разместват времето на заминаването си и напускат на интервали, никой не е в задръстването. Разбира се, би могло да има някакъв вид централна власт, която да координира това. Вие напускате първи, после вие, и след вас. [00:03:45] Но идеално е да имате някакъв тип децентрализирана, не херархична форма на координиране сред хората, за да решат този проблем.
Така че тук беше нашият първи експеримент, публикуван през 2017 г. относно такива хибридни системи, които изследваха как изкуственият интелект може да помогне с такова предизвикателство. Изследвахме представянето на човешки групи, които участваха в задача за координация. Нашата парадигма беше да вземем нещо от компютърните науки, известно като проблема с оцветяването на графи. Това е класически проблем в компютърните науки. Но ние направихме нещо, взехме го и поставихме хора в тази ситуация. Взехме 4000 души и ги поставихме в 230 онлайн групи. Тези хора бяха разпределени в тези групи. И им бяха назначени случайни места в изкуствена мрежа, която създадохме, структурата на която грубо наподобяваше реални човешки мрежи. Те бяха поставени на тези места и им беше казано, че им е назначен един от трите цвята, [00:04:46] лилав, оранжев, лилав, оранжев и розов. И им беше казано, че трябва да изберат цвят, който е различен от съседите им.
И им бяха дадени пет минути, за да направят това. Така че тези хора ще погледнат около себе си. Всеки човек ще погледне около себе си и ще каже, например, този човек тук е розов. Той вижда, че има розов съседи и оранжев съседи. Какво трябва да направи, е да премине към лилав цвят. А червените линии тук показват конфликти в цветовете. С други думи, ако двата цвята на съседни възли са еднакви, получават червена линия. А лилавите линии на фона показват структурата на социалните взаимодействия. Така че поставяте хората тук. Те поглеждат около себе си на всеки секунда или секунда и половина. Те правят смяна, в съответствие с целта, че всички те трябва да изберат цвят, различен от съседите си, в следващите пет минути. И ако го направят, тогава и само тогава ще бъдат платени. Ще ви платя да работите заедно. И ако всички работите заедно по децентрализиран начин, за да решите проблема, всички ще получите заплащане. В противен случай, нищо не получавате, разбирате ли? Така че ето какво се случва в този експеримент. Тук по ос х е времето в секунди до марка от пет минути. [00:05:47] Играта трае пет минути, надолу някъде тук. А тук по ос y е целевата функция или броят на конфликтите в цветовете. И така, тук в началото има 12 конфликта в цветовете. Те са случайно назначени с техните начални цветове. И това е показано тук на този малък хистограм. И така, хората започват да поглеждат около себе си и да сменят цветовете си. Знаеш ли, те сменят и сменят. И достигат до тази точка, където сега са достигнали ситуация, в която има цветен конфликт между тези двама души. И този конфликт, обаче, е това, което наричаме неразрешим конфликт. Така че светлите оранжеви линии са разрешими конфликти. Това е този тук. Той може да направи ход към лилав, който разрешава конфликта. Но тези тук, които са оранжеви, нямат ход, който да намали броя на конфликтите в техния район, нали? Този човек не може да премине към лилав, защото, всъщност, ако премине към лилав, ще има повече конфликти. Той има, например, четирима лилави съседи. И не може да премине към розов, защото има двама розови съседи. Така че той поглежда и казва: „Най-малко конфликт имам, трябва да остана оранжев“. Така че сега тази група е закована, нали? [00:06:49] Те имат неразрешим конфликт и нищо не може да се случи. Няма напредък в решаването на проблема с колективното действие, докато някой от тези двама души не направи контраинтуитивен ход, смени цвета на лилав или розов и временно увеличи конфликтите. И точно това се случва. И след това времето минава, и хората на 245 секунда решават проблема. Машината открива решението, спира играта и им плаща, разбирате ли?
Сега, тъй като бяхме хитри, това, което направихме, е, че проведохме някои експерименти, при които тайно заменихме части от хората с ботове. И оценихме как добавянето на ботове с изкуствен интелект за създаване на хибридна система влияе на груповата производителност. Възможно ли е да добавим някои ботове към човешките групи и да подобрим способността им да координират при такова предизвикателство? И какво направихме, добавихме три бота и експериментално променихме две оси. Къде бяха поставени ботовете, къде случайно бяха вкарани в мрежата, къде ги поставихме в [00:07:51] центъра на мрежата или къде ги поставихме на периферията на мрежата. И случайно манипулирахме техния вид капацитет на ИИ тук по много тривиален и прост начин. А именно, манипулирахме дали ботовете действат с перфектност или действат с малко шум.
В ситуацията с перфектност, на всеки секунда и половина, ботовете поглеждаха около себе си към съседите и после избираха цвета, който имаше най-малко конфликти с техните съседите. Това, което можете да считате за ирационално поведение. В ситуацията с 10% шум, те правеха това, но 10% от времето, те избираха произволен цвят. А в ситуацията с 30% шум, те правеха това, но 30% от времето, те избираха произволен цвят. Така че направихме ботовете, да кажем, все по-склонни към грешки, все по-шумни.
И после разгледахме, мисля, че имахме нещо като, да започнем с контролна група. Планирахме тук по x-осите времето, а тези са кривите на оцеляване. По y-осите е вероятността групата като цяло да не е решила играта за координация. Така че тук, ако погледнете, например, в началото, в нула време, [00:08:51] 100% от единствените човешки групи, сесии само с хора, са в оранжево. В началото 100% от групите само с хора не са решили играта. А след това, с течение на времето, все повече и повече от човешките групи решават играта, така че в края на петте минути, може би 60% от групите само с хора са решили играта.
Е, какво се случва е, че ако поставите 10% шумни ботове в централната позиция на мрежата, получавате осезаемо подобрена производителност. Тук значително повече групи от хора, когато ботовете с малко шум бяха добавени в средата, успяха да решат проблема. Всъщност, те намалиха медианното време за решаване от 232 секунди на 103 секунди. Има и други находки в тези данни. Перфектните ботове и прекалено шумните ботове и двамата не бяха полезни. Нуждаете се от някаква калибрация. Това бяха 10% шумни ботове, които бяха най-полезни. Също така позицията на ботовете имаше някакво влияние. Но съществено е, че в тези експерименти, ние също намерихме, че хората, които не бяха свързани с ботовете, [00:09:52], които бяха по-далеч от мрежата. Така че в графиките имаше някои хора, които бяха свързани с ботовете и след това някои други, които не бяха. Открихме, че дори и тези хора започнаха да променят начина, по който играят. Имаше ефект на вълна, каскаден ефект. Ползите от начина, по който ботът взаимодействаше с хората, се разпространиха през мрежата и след това започнаха да влияят на взаимодействията между хората, които бяха все по-далеч от мрежата. С други думи, ботовете помогнаха на хората да се помагат сами, а ползите от шума се разпространиха в тази социална система.
Сега нека да разгледам по-подробно идеи относно това об Collective предизвикателство и как тези прости AI агенти могат да помогнат с друга аналогия. Представете си, че имате равнина. Това е като в градиентен спуск в машинното обучение, например. Имате равнина и хълмове и една планина. Имате различни хълмове, добре, с различна височина. И имате планина, която е най-високата. Тъй като ще поставя четирима от вас и ще ви оставя някъде тук, и ще ви сложа белезници един на друг, всеки от вас гледайки в различна кардинална посока, [00:10:54] и ще ви завържа очите. И ще кажа на вас, намерете най-високата планина. Тази идея е, че вие ще обсъждате помежду си и ще кажете, добре, защо не предприемем стъпка в нашата посока и да се отчетем на екипа? Така че вие предприемате стъпка на север и казвате, че е нагоре оттук. А на юг ни казват, че е надолу оттук. А на изток и запад казват, че е настрани оттук. Следователно, всички се съгласявате, да направите стъпка на север. И продължавате да правите това итеративно, докато стигнете до точка, в която всички кажете, че е надолу оттук.
Намерили ли сте най-високата планина? Не. (...) Какво направихте? Намерихте най-близкия хълм.
Сега ще намерите ли най-високата планина? Не. Никога няма да намерите най-високата планина. Вие сте затворени. Оптимизирани сте на местно ниво, но глобално не оптимизирани. А за да оптимизирате глобално, ви трябва малко шум. Понякога трябва да позволите на тази група хора да направи контраинтуитивна стъпка надолу по планината или надолу по хълма. Така те правят последователност, понякога по случайност, от стъпки, докато не се върнат на равнината. И след това навигират из този пейзаж на фитнеса, изследвайки всичките тези върхове, докато стигнат до този връх. [00:11:56] И този висок връх, глобалният оптимум, се оказва приемлива държава, защото е необходим много по-голям шум, за да се слезе от този връх, отколкото от другите върхове. И сега вие осцилирате около глобалния оптимум. В нашата работа ние изследваме този вид проста програма, вградена в социални системи, за да видим дали можем да подобрим представянето на хората при решаването на разнообразни видове колективни проблеми.
Сега друг проблем с колективното действие включва различно предизвикателство, което е сътрудничество, а не координация. Човекът често трябва да си сътрудничи, за да произведе това, което е известно като обществено добро. И фарът е един от каноничните примери за обществено добро. Общественото добро има две канонични характеристики. Първо, то е това, което се нарича ненадхвърляемо. И това означава, че други лица не могат да бъдат възпрепятствани да го използват. Ако построите фар за собствена полза, защото навигирате по моретата и не искате да се блъснете в брега, това е страхотно за вас, но не можете да спрете никого друг да го използва, нали? Ненадхвърляемо. [00:12:58] И също така е ненаситно. Това означава, че консумацията от един човек не намалява консумацията от другите. Ако използвам светлината от моя фар, няма по-малко светлина за вас да използвате. И това е в контекста, например, на парче торта. Ако имам парче торта, то е мое, нали? Мога да ви попреча да го изядете. И ако го изям, няма да остане за вас, нали? Така че общественото добро има тези характеристики, и те от своя страна правят много трудно произвеждането на обществени блага. Защото когато става въпрос за построяване на фар, е много изкушаващо да поставите своите индивидуални интереси срещу груповите. Ако не допринесете за изграждането на фара, все пак можете да се възползвате от него. И така всеки е изкушен да не прави нищо, и после фарът не се построява в ущърб на всички. И също така си струва да се подчертае, че обществените блага са полезни, защото наистина можете да произвеждате неща с тях, например безопасно морско пътуване. И така, недостатъчното инвестиране в обществени блага е сериозен проблем в нашето общество, и също така е известно като трагедия на общото. Тези обществени блага, например, нормите на доверие, които поддържаме помежду си, са ефективни. [00:14:01] Помислете за времето, когато бяхте в гимназия. Някои от вас са ходили в гимназия, където учениците си вярваха и това означаваше, че можете да оставите раниците си без надзор в коридора и да не се притеснявате, че някой ще ги открадне. Други от вас са ходили в гимназии, в които не е имало същите норми на доверие, и сега трябваше да заключвате раницата си или да я носите с вас през цялото време. В коя от тези две среди мислите, че ще имате по-добро учене? Нали? В бившата среда. Така че тази норма, която се поддържа колективно, е продуктивна. В този случай, продуктивна за ученето. Тук, продуктивна за безопасно морско пътуване и т.н.
Така че сътрудничеството в човешките групи за производство на обществени блага е предизвикателство и са необходими различни механизми, за да се поддържа то. Проведохме много експерименти, които включват поставяне на хора в мрежови групи и помолихме да играят разнообразни видове игри с обществени блага с техните съседи, манипулирайки много структурни и други характеристики през годините. Например, години назад започнахме с експеримент, в който хората бяха поставени в такава мрежа. Те бяха представени на своите съседи и играеха игра с обществени блага, подобна на поведенческата икономика, [00:15:03], където, например, можех да дам малко пари на всеки от моите съседи. Взимам един долар и го разделям между моите съседи. След това учените удвояват долара. Да кажем, че имам четирима съседи. Да кажем, че имам трима съседи и давам един долар на групата. Той става два долара. Тези два долара се разделят между нас четиримата. Така че цялата група печели богатство на стойност два долара, но аз получавам само 50 цента. Двата разделени на четирима, получавам 50 цента. Така че трябва да направя жертва за ползата на другите. И естествено, всеки казва, не искам да жертвам. Нека всеки друг глупак да даде парите. Аз няма да дам нищо и се надявам другите да допринесат. Но, разбира се, ако всеки го направи, отново получавате рухване. И най-доброто поведение е, ако всеки максимално допринася. Така че тук, в тази ситуация, започваме играта. Сините точки, сините хора са хубавите кооперативни хора. Те дават максимално на своите съседи и създават обществени блага, например строят фар. А червените точки са експлоататорите, които не правят никакви вноски, известни също като дефектори. И в нашия експеримент установяваме, че възпроизвеждаме резултат, известен от 30 години, [00:16:03], че сътрудничеството рухва в групи, нали? В края на играта, след многократни рундове, почти всички стават дефектори, освен тези малки сини хора тук отстрани, които поддържат цивилизацията жива, знаете ли, сред себе си. Можете също така да помислите, отново, за да призовете гимназията за студентите. Спомняте ли си ситуацията, в която вашият учител по науки назначи четирима от вас да направят групов проект и щяхте да получите същата оценка? И се назначавате на четирима, трима други неудачници. Сега имате два избора. Или правите всичката работа, а те също получават А, защото искате А. Или казвате, това е абсурдно. Не искам тези мързеливи хора да печелят от моя труд. И казвате, няма да направя нищо и всички получавате F, нали? Това е ужасна дилема. Е, какво се случва тук е, че хората в крайна сметка избират втория вариант. Всички избират да получат F, защото не искат да бъдат глупаци и да продължат да допринасят. Така че сътрудничеството рухва в социалните системи като общ резултат. Но ние направихме нещо, отново добавихме някои, макар и различни видове ботове в системата. Добавихме ботове, които бяха надарени с много прост A. [00:17:05] И тези ботове бяха като малки брокери на бракове. Те посредничеха в социални взаимодействия. Те гледаха около себе си на местно ниво, кой взаимодейства с кого и даваха предложения на хората в системата. Знаете какво? Трябва да скъсате връзката с този дефектор, който се възползва от вас, и да създадете връзка с този добър човек отсреща. И този деликатен съвет за повторно свързване, който използва само местно знание. Няма учител, който да нарежда на хората да бъдат мили. Няма полиция. Няма съд. Няма централизирана власт, която да изпълнява това. Просто действайки на базата на местно знание, установихме, че тези ботове могат, в нашите експерименти с над 1000 души в 64 групи, не само да стабилизират сътрудничеството, но за първи път да покажем резултат, че сътрудничеството може всъщност да нарасне от основния ниво, когато тези видове ботове бяха добавени. И DeepMind впоследствие репликира нашите резултати и ги разширява в друга статия, която се появи около година или две след тази.
Сега в още един експеримент изследвахме как ботове могат да повлияят на груповата креативност. [00:18:07] защото намирането на нови идеи е трудно. И теорията и експериментите предполагат, че групите могат да бъдат по-добри в идентифицирането и запазването на иновации, отколкото индивидите, чрез споделянето на своите открития.
Но иновациите в групите срещат свои собствени предизвикателства, включително груповото мислене. Вярно? Ако съберете група хора заедно, те може да се обединят преждевременно около субоптимална идея.
Или можете да си представите, че група хора може да има колективно по-голяма мъдрост, могат да успеят да измислят повече идеи. Например, ако дадете на група хора задача да усъвършенстват въдица, знаете, първият човек може да каже: добре, защо да не сложим кука на края на някаква връв? И след това човекът държи връвта с кука. И някой казва, защо да не добавим пръчка към връвта? О, това е страхотна идея. Така те комбинират знанието си и правят това. И някой казва, добре, стръвта с кука плува на повърхността. Нека добавим вълна, за да потъне. Ами, сега отива твърде навътре. Какво ще кажете да добавим поплавък, за да знаем къде е, и така нататък. И хората иновират, споделят знания помежду си, запазват знания във времето, [00:19:08] и получавате тези културни артефакти, които са комбиниран продукт на множество хора, споделящи идеи и бъдещи креативни моменти.
Искахме да създадем игра, в която групи от хора търсят оптимална идея в пейзажа. Решихме да използваме съществителни като заменители на идеите. Взехме 20,000 съществителни от класическия корпус за компютърни науки word-to-vec. Така че взехме 20,000 съществителни. Разстоянието между тези съществителни може да бъде определено чрез метриката за косинусна близост. Можете да си представите хиперизмерно векторно пространство, в което котка е по-подобна на куче, отколкото на бюро. И начинът, по който те го направиха, е, че разгледаха колко често думите котка и куче се появяват заедно на уебсайтовете. Така че те имаха вселената от уебсайтове и вселената от 20,000 съществителни. И казаха, че тези две съществителни често се появяват заедно, а тези две други съществителни не се появяват често заедно. Създадоха 300-измерно векторно пространство. [00:20:08] И сега можете да опишете колко подобни са всяко две съществителни. Решихме да използваме съществителни като заменители на идеите. Взехме тези 20,000 съществителни. И след това избрахме набор от съществителни. Представете си, че избрахме едно съществително, но избрахме набор. Едно съществително на случаен принцип от всички тях, като например бравадо, беше съществително. Така че избрахме бравадо. И казваме, че това е перфектната идея, която искаме тази група хора да намери. И след това всички съществителни, които са близо до бравадо, отпадат в това векторно пространство. Така че имате върховото съществително, което получава най-много точки, 20,000 точки, и всички други съществителни до най-далечните съществителни. И поставяме човешки същества в тази система и казваме, намерете тази дума. Не им казваме думата. И след това им казваме стойностите на точките на думите. Така че те започват да гадаят. И докато гадаят, получават обратна връзка. И казват, а, тази дума има повече точки от друга дума. И те се приближават все повече и повече и започват да споделят знанията помежду си. Те се опитват да бъдат креативни, за да решат проблема.
Така всеки съществително име е свързано с други в семантично пространство или безкраен ландшафт. [00:21:10] Имахме 18 различни целеви съществителни, сякаш изтеглихме връх от ландшафта на тези 20,000 съществителни в 18 различни локации в 18 различни ландшафта. И тези съществителни бяха нарочно необичайни, като фратрицид, обувка за обуване, саркома, картография и така нататък. След това провеждахме експерименти с няколко условия, при които хората бяха сами и се опитваха да навигират в ландшафта, хора в групи, работещи заедно, за да навигират в ландшафта, или хора в групи, но също така с няколко бота, които се опитваха да им помогнат да бъдат креативни. И ботите работеха, защото можеха да предават информация от един регион на мрежата на друг, като комуникират помежду си. Например, бот номер две можеше да предаде думата небе или кола на бот номер едно. Ето един пример за мрежа.
Ние вкарваме хората. Квадратните точки са ботове. И този бот има четири взаимодействия, а този бот има, не знам, шест или седем взаимодействия. Човешките същества в началото започват да предполагат. [00:22:12] Те нямат никаква основа за предположение в първия рунд на играта. Те предполагат небе, кола, заек, плъх, куче, котка, бюро. Като ако ви попитам, изберете съществително, което да предположите, вие бихте предположили къща или слънце или луна, или котка, или куче, или някое малко типично съществително. И сега им се казва стойността на точките, колко подобно е думата плъх, куче, котка, бюро и така нататък, на саркома. И им се казва стойността на точките на тези съществителни във връзка с целевото съществително, което е саркома. И след това тези стойности на точките им се обявяват. И след това този бот може да разгледа стойностите на точките на хората около него и да предаде или случайно избран избор на този бот, или най-високата стойност на точките, или най-ниската стойност на точките, нещо като задна врата за комуникация, разпространяваща информация от една група хора, опитваща се да реши проблема, на друга група. Нека разгледаме някои примери, за да можем да го разберем, защото това може да е трудно за разбиране. Хората играят тази игра за около 25 рунда. И ето косинусната подобие с целевото съществително, което е думата фратрицид. Добре, имаме 20 000 съществителни. [00:23:13] Фратрицидът е 20 000 точки. А другите думи имат други точки. И ето един човек, човек сам, който предполага. Така че първото му предположение е бит. И му се казва колко подобно е думата бит на фратрицид. А след това следващото му предположение е раждане. И получава голям скок в косинусната подобие, защото можете да си представите, че думата раждане е по-близо до думата фратрицид, отколкото думата бит. Добре? И след това той предполага. Опитва пари следващо. Това е по-лошо. След това пробва маймуна. Това е още по-лошо. Проверява. Прави си проверка за здравето. Опитва раждане. То отново се увеличава. След това опитва бебе. Това не е лошо предположение. Раждане до бебе. Но бебето ги отдалечава от фратрицид. А след това дама и т.н. И те навигират. И те предполагат. И те предполагат. И те предполагат. И до края не доближават фратрицид. Сега в тази друга ситуация имаме група от хора, но няма ботове. И сега хората, в допълнение към собствените си предположения, могат да видят предположенията на хората около тях. И да изградят идеи на основата на другите. Добре? Създадено. Като да направите заедно рибарска въдица. [00:24:13] Така че този човек, първото му предположение е куче. Но следващото му предположение е щит. Можете да видите, че щитът е по-близо до фратрицид, отколкото кучето. И този човек предполага и предполага и получава информация от съседите си. И в края на краищата той става все по-близо и по-близо. Накрая стига до думата враг. Добре? Всъщност, войникът беше най-доброто му предположение. Имаше най-висока стойност на точките по време на неговата траектория.
Как така добавянето на роботите оказа значение? Това отново показва обобщение на резултатите. На x-оста е кръгът. На y-оста е средната косинусна подобие в това хипер-измерно векторно пространство, което е мярка за ефективността на групата. И тук има група хора, които действат, познавайки сами. Така че хората, които познават сами, не се справят много добре, нали? Те, те, знаете ли, просто е късмет дали могат по някакъв начин или, знаете ли, някаква вродена способност у всеки един човек. Те стават малко по-добри с времето, приближавайки се. Всичките групи превъзхождат индивидуалните. И това е стар резултат, който е известен. Група хора е по-креативна от иначе подобен по размер набор от индивидуални практикуващи. Но това, което откриваме, е, че ако добавим най-подобния робот, робота, който погледна съседите си, [00:25:17] и намери какво е тяхното местно съгласие за тук? Моите хора изглежда смятат, че това е добра дума. И след това го предава на робота в далечна част от мрежата. Този робот значително подобри ефективността на тази група хора, за да извлекат откритие. Трябва да можете да си представите как това може да работи в група инженери или всякакви други работници със знания. Как, например, можете да разпределите знания по ефективен начин, избягвайки груповото мислене и насърчавайки креативността, чрез проектиране на роботи, които помагат на хората да си помагат сами. Роботът тук няма, няма мозък. Не е, това е само-предлагащи идеи. Той просто помага на хората да разпространяват идеите помежду си.
Така че, простите AI агенти с интерпретируемо поведение могат да увеличат капацитета за креативно откритие в човешките групи, като споделят идеи, около които има местно съгласие в една част на групата с хора в далечна част на групата. И в резултат групата може да се представя по-добре.
Сега започнахме да експериментираме и с физически системи. Добавихме хуманоидни и нехуманоидни роботи [00:26:19], надарени с проста ИИ, за да се включат в лицем към лицето сесии с хора и показахме как те могат да улеснят работата на групи от хора, помагайки им да преодолеят триене или невъзможност за сътрудничество в взаимодействията си. Един от любимите ми примери за това е експеримент, който направих с бившия си аспирант, Меги Трейгер, който е отзад и сега е асистент-преподавател в Нотр Дам, е този експеримент. В този експеримент взехме трима реални хора, които влязоха в лабораторията, и хуманоиден робот. И проектирахме малка игра, малка игра с релсова платформа, която се играе на таблет, и тази група от хора и робот имаха задачата да поставят релсови линии от точка А до точка Б, подобно на релсите на Томас, Паровозът. След това им дадохме няколко парчета, от които можеха да избират на таблета, като прави и извити парчета. Но понякога измисляхме, макар и да изглеждаше, че има смесени парчета и в принцип трябваше да могат да преминат от точка А до точка Б, умишлено го проектирахме така, че да не е правилният брой извивки, за да им позволи да стигнат от точка А до точка Б. [00:27:21] Така че не можеха да го направят. Не можеха да решат проблема без да знаят. Добре? Първо всеки човек взимаше ред да постави парче релсов път, след това следващият човек и следващият. Работят заедно, за да свържат точка А с точка Б на таблета.
И това, което направихме в този експеримент, е, че манипулирахме и те играха 30 рунда от тази игра в този виртуален свят, а ние имахме 51 групи, манипулирахме стила на разговор на роботите, конкретно дали роботът изразяваше уязвимост, признавайки грешка. Така че роботът каза, знаете ли, направих грешка. Или дали роботът разказваше татковски вицове. Предпоставям, че всички знаят какво са татковски вицове. Добре. Така че ние също накарахме робота да разказва, между другото, това е културен универсал, като антрополозите в амазонската джунгла са наблюдавали индигенни народи и татковците там също разказват татковски вицове. А децата като: не мога да повярвам на тъпоумните шеги на тате. Но каквато и да е, всъщност има теория за това какво татковските вицове трябва да направят, за да укрепят децата по един начин. Това е теория. Но каквато и да е, това е съвсем друга тема. Каквато и да е, накарахме нашите роботи да разказват татковски вицове или да изразяват уязвимост. [00:28:21] И с какво се интересувахме да установим е дали измененията в речта на роботите имат силата не само да влияят на начина, по който хората взаимодействат с роботите, но и как хората взаимодействат помежду си. И отново, това предлага перспектива за модифициране на социалните взаимодействия чрез въвеждане на изкуствени агенти в хибридни системи от хора и машини.
Така че ето един малък пример за, о, и не ви казах резултатите. Така че ето, когато имаме, така че тези, дебелината на тези линии, поставихме видеокамери, за да наблюдаваме кой говори с кого и колко говорят. И дебелината на тези линии показва колко човек две говори на човек едно и т.н. Така че човек едно не говори много на робота. Това е тънка линия. И когато имахте неутрални роботи, получавате този модел. Но когато имате уязвим робот, всички тези линии стават по-дебели и се изравняват. Така че установихме, че уязвимият робот увеличава равенството в речта сред хората, увеличава обема на речта сред хората и всъщност, в отделни резултати, [00:29:22] увеличава удовлетворението на хората в такава среда.
И ето само един клип от две различни обиколки, които илюстрират как роботът говори по неутрален начин на първо място, в пасивен глас, което не влияе много на човешката комуникация. Роботът казва, по много Рейгънов начин, беше допусната грешка.
Но в следващия рунд, роботът казва, аз допуснах грешка. И можете просто да наблюдавате какво се случва тук. Да видим дали можем да накараме това да работи. (25 секунди пауза) Така че през много, много десетки опити, това е моделът, който намираме. Така че, простата манипулация, проста манипулация в речевия модел на робота променя начина, по който хората взаимодействат помежду си. [00:30:25] И не, предполагам, не е трудно да си представим как цялостният начин, по който проектираме нашите чат ботове и всичко останало, може да влияе не само на примера с Алекса, който ви дадох в началото, как се отнасяме един към друг. Хората изглежда се доверяват повече един на друг и да имат повече удоволствие в тази ситуация.
Сега тук все още, и мисля, че това е последният експеримент, който ще ви покажа, а след това ще завърша, в още един експеримент разработихме нова кибер-физическа платформа за тестване на такива социални и наистина етични ефекти на простите типове ИИ. Заради естеството на проблемите с колективните действия, намесата на ИИ в човешките групи би могла парадоксално и неволно да потисне съществуващите полезни социални норми при хората, като тези, свързани с кооперацията и алтруизма, които сме еволюирали като вид да имаме. Така че имаме стотици хиляди години естествен отбор, работещи върху нас, за да ставаме способни да решаваме проблеми с колективните действия. Въпросът е, ако делегираме част от тази агенция на машините, ще загубим ли способността да работим заедно, за да решаваме тези проблеми? [00:31:32] Ще започнем ли да разчитаме на тези машини и така ще влошим ли нашата вродена способност да кооперираме и координираме и създаваме и така нататък? В този експеримент, в сътрудничество с Хироширато от CMU, друг мой бивш магистър, построихме платформа, която включваше две малки Raspberry Pi, надарени с малки механични превозни средства, и ги свързахме към софтуер, който имаме, за да организираме онлайн експерименти в огромен мащаб. Хората бяха в собствените си домове и им беше зададено да управляват едно от тези автомобили, и те шофираха тези автомобили един към друг,
и ние ги накарахме да играят играта на кокошка. В играта на кокошка, знаете, е, че който достигне до другата страна най-бързо, печели. Така че сте стимулирани да не отстъпвате на другия човек. Но ако всеки от вас реши да не отстъпва, тогава ще се сблъскате и и двамата ще получите най-лошия резултат. Така че какво биха направили хората в тази ситуация, ако играете итеративна игра на кокошка, е, че бързо ще научите да се редувате. Този път е ваш ред да минете направо, аз ще отстъпя и ще ви пусна, но следващия път вие отстъпвате и ми позволявате да премина направо. [00:32:35] Ако сме егоисти, продължаваме да се блъскаме един в друг, като разрушаваме един друг систематично или глупаво, и двамата избягваме и никой не печели от преминаването направо. Така че в тази ситуация тук, жълтата кола решава да отстъпи, а синята кола просто продължава безпрепятствено до другата страна.
И използвахме 300 участници и 150 дяди, и те бяха заплатени в зависимост от това колко бързо достигнаха до другата страна. След това добавихме малко изкуствен интелект. Добавихме помощ при спиране, при която, когато имаше сигнал за близост, когато се приближиш до другия автомобил, той спира и ти дава възможност да решиш, о, трябва да се отдръпна и да пусна този друг човек, или обратно. Или добавихме помощ при управление, която е, в момента в който се приближи до другия автомобил, просто изкривяваш, добре? И добавихме минимална комуникационна функция, където хората могат да кажат благодаря, или нещо подобно. Просто много минимална комуникация. И първо, показахме, че помощта при спиране, при която автомобилите спират на фиксирано разстояние преди сблъсък, увеличава човешкия алтруизъм. [00:33:38] Тоест, правене на път на другите, както жълтият автомобил прави тук. Така че добавянето на малко помощ при спиране с изкуствен интелект улеснява хората да работят заедно и да сътрудничат в ситуацията. Освен това, позволяването на хората да комуникират допълнително помага да направят взаимни отстъпки в условията на автоматично спиране. От друга страна, помощта при управление, при която автомобилът просто изкривява, напълно възпрепятства появата на взаимност между хората в полза на максимизиране на собствения интерес. Хората просто предават своята морална агенция. Те вече не се вълнуват. Просто оставят машината да се изкривява многократно и се отказват, добре? Така че всичките вродени етични способности, които хората имат, вече са премахнати с добавянето на изкуствен интелект в условията на управление, но са подобрени в условията на спиране. И това също трябва да ви накара да се замислите. Трябва да си мислите, о, боже мой, всяко малко решение, което взимаме, когато програмираме тези AI агенти, може да има добри или лоши ефекти върху естествените тенденции на хората.
Способността на хората да сътрудничат и да си правят редовете и да действат алтруистично може да отслаби, водейки до по-лоши колективни и индивидуални резултати в крайна сметка. [00:34:46] И всъщност, накратко, изкуственият интелект може да доведе до един вид морална леност. (..) Ето един последен пример за трайна промяна след излагане на изкуствен интелект в хибридни системи. И това е също пример за това как присъствието на изкуствения интелект може да промени човешките взаимодействия, дори след като ИИ вече не е част от взаимодействията. Така през 2016 г. DeepMind разработи AlphaGo, и през същата година този ИИ агент игра срещу Лий Седол, забележителния световен шампион от Корея.
Гледах мача. Не мога да играя Го, но го признавам за великолепна игра. Синът ми играе Го. (.) И наистина го подкрепях Лий Седол. Лий Седол е като герой в Корея, като начина, по който имаме, знаете ли, велики атлети на нашите кутии с Wheaties и подобни неща. Неговото име е на малки пакети с нудли и на опаковки за зърнени храни. Смятам, че е великолепно, че в Корея някой умник като мен се разглежда като важна личност, добре? Така че той е много популярен в Корея. И излиза за първия мач, и е твърде самоуверен. [00:35:47] Мога да кажа, че е твърде самоуверен. И губи от машината, а след това се извинява на феновете си. Казва, много съжалявам. Това са пет игри. Най-добрите три от пет печелят. След това играе втора игра и отново губи. И сега става сериозен. След това играе трета игра и губи. Загуби състезанието.
И можеше да се види аудиторията, а коментаторите се възхищаваха на способността на машината да играе Го, правейки тези странни и красиви ходове, някои от които по-късно откриха, че са били играни, защото имаме записи, които са се върнали хиляди години назад на игри на Го, играни в Китайския имперски двор. И можеха да открият, о, Боже мой, това е средновековен ход, който машината направи. Не бяхме го виждали толкова дълго.
И след това Лиза Дал се връща в четвъртата игра и той побеждава. (..) И аз плачех. Бях толкова щастлив. (..) Защото той притежаваше машината, знаеш ли, той се върна за моя вид и победи тази проклетa машина. Както, по героичен начин, не можех да разбера каква мозъчна мощ е била необходима на Лиза Дал, за да го направи. [00:36:49] Бях в екстаз в този момент и толкова горд с него, че все още се опитваше, дори след като загуби мача.
Сега, какво е интересно, е че когато Лиза Дал беше интервюирана след това, Лиза Дал каза, че собствената му игра се е променила след мача. И така, отново, ИИ помага на хората да помогнат на себе си, добре? Той променя начина, по който играе заради контакт. И последващи разследвания от други учени разгледаха професионални играчи на Го и провериха средното качество на решенията. Има някакъв стандарт в Го за разглеждане на това колко добър е един ход и средна новост, като колко необичаен е един ход. И те открили, че когато AlphaGo побеждава човешкия световен шампион през 2016 г., по целия свят играчите на Го започват да правят по-добри ходове, които са по-иновативни, добре? Така че всички хора, играещи Го помежду си, са се променили, защото AlphaGo е добавен. ИИ помага на хората да помогнат на себе си. Продължаваме да изграждаме нашата работа, за да проектираме и добавяме прости ботове в тези и други ситуации, свързани с социални дилеми и проблеми с колективното действие. [00:37:55] Ние разглеждаме как ботовете могат да повлияят на координацията, сътрудничеството, комуникацията, креативността, доверието, навигацията, споделянето и евакуацията. И в нашата лаборатория не се фокусираме върху свръхумни ИИ, като LLM или AlphaGo, за да заменим човешката когниция, а по-скоро върху глупав ИИ, за да допълним човешката интеракция. Не се опитваме да изобретим свръхумни ИИ, за да заменим човешката когниция. Изобретяваме глупав ИИ, за да допълним човешката интеракция. И нашият ИИ може да си позволи да бъде глупав, защото хората са умни. Нашият ИИ е като платина, добавена към реакция по органична химия. Той е просто катализатор. Всичко, от което се нуждаем, е катализаторът, за да помогнем на група хора да бъдат по-добри.
И разбира се, важно е да признаем, че обратното също е възможно. Социалният ИИ може да бъде използван, за да навреди на групи хора. Но нашият подход предлага редица технически и концептуални предимства. Първо, тези прости ботове са разбираеми и по този начин ясно илюстрират по-широките сили и възможности. За разлика от LLMs, които са черна кутия и не знаеш какво правят, мога да ти кажа точно какво прави нашият бот. [00:38:58] Той е шумен. Той посредничи за запознанства. Предава съобщения по този много специфичен начин. И второ, нашите контролирани експерименти с ботове също могат да предоставят прозорливост в това как човешкото поведение може да се промени полезно. С други думи, мога да взема това от лабораторията и мога да науча група хора да правят това, което нашите ботове направиха. По един начин, не можеш лесно да научиш група хора просто да направят това, което ChachiPT направи тук. Не знаем какво прави ChachiPT, но знаеш какво правят в нашата ситуация.
Искам да завърша с метафора. Обмислете тези два обекта. И двата са направени от въглерод. Ако свържете въглеродните атоми по един начин, получавате графит, който е мек и тъмен. Ако свържете същите въглеродни атоми по друг начин, получавате диамант, който е твърд и прозрачен. Има две ключови интелектуални идеи тук. Първо, тези свойства на мекота и тъмен цвят и твърдост и прозрачност не са свойства на въглеродните атоми. Те са свойства на съвкупността от въглеродни атоми. И второ, какви свойства ще получите зависи от начина, по който свързвате въглеродните атоми помежду им. Вземете същите въглеродни атоми и ги свържете по един начин, получавате един набор от свойства. [00:40:01] Свържете ги по друг начин, получавате напълно различен набор от свойства. Подобно на това, естеството на нашите връзки влияе върху свойствата на нашите социални групи. Връзките между хората могат да направят цялото повече от сумата на частите. Нови свойства, като сътрудничество и насилие, иновации и производителност, доверие и недоверие, истина и лъжа, богатство и бедност, здраве и щастие, могат да се появят и разпространят заради връзките, заради връзките между хората, а не непременно само заради самите хора. Всъщност, нашият опит за света зависи от структурата и функцията на мрежите около нас, близко и далеч. И нашият вид е еволюирал, за да бъде така. Не трябва да се изненадваме, че ще реагираме на ИИ в нашата среда. Благодаря ви много.
