{"id":3297,"date":"2026-06-18T16:48:32","date_gmt":"2026-06-18T16:48:32","guid":{"rendered":"https:\/\/bolteuropa.com\/?p=3201"},"modified":"2026-06-18T16:52:47","modified_gmt":"2026-06-18T16:52:47","slug":"nicholas-christakis-conferencia-sobre-ia-centrada-en-la-sociedad","status":"publish","type":"post","link":"https:\/\/bolteuropa.com\/es\/2026\/06\/nicholas-christakis-conferencia-sobre-ia-centrada-en-la-sociedad\/","title":{"rendered":"Nicholas Christakis &#8211; Conferencia sobre IA Centrada en la Sociedad"},"content":{"rendered":"\n<figure class=\"wp-block-embedpress-embedpress aligncenter\" data-source-id=\"source-162ce1b5-2361-4fa9-a310-7ebcf0b84df1\" data-embed-type=\"Youtube\"><div class=\"gutenberg-block-wraper  \"><div class=\"position-right-wraper ep-embed-content-wraper   \" style=\"position:relative;display:inline-block\"><div class=\"ose-youtube ose-uid-76a3e2a920e4ecdd804e333bc88b9fe2 ose-embedpress-responsive\" style=\"width:600px; height:340px; max-height:340px; max-width:100%; display:inline-block;\" data-embed-type=\"Youtube\"><iframe title=\"WI3EGnXAerk\" allowfullscreen width=\"600\" height=\"340\" src=\"https:\/\/www.youtube.com\/embed\/WI3EGnXAerk?feature=oembed&color=red&rel=1&controls=2&start=true&end=true&fs=1&iv_load_policy=1&mute=1&playsinline=1&autoplay=0&modestbranding=0&cc_load_policy=0\" frameborder=\"0\" allow=\"accelerometer; encrypted-media;accelerometer;autoplay;clipboard-write;gyroscope;picture-in-picture clipboard-write; encrypted-media; gyroscope; picture-in-picture\" referrerpolicy =origin loading=\"lazy\" style=\"width:600px;height:340px;max-width:100%;\"><\/iframe><\/div><\/div><\/div><style>\n                    [data-source-id=\"source-162ce1b5-2361-4fa9-a310-7ebcf0b84df1\"] .ose-embedpress-responsive{\n                        width: 600px!important;\n                        height: 340px!important;\n                        max-height: 340px!important;\n                    }\n                    [data-source-id=\"source-162ce1b5-2361-4fa9-a310-7ebcf0b84df1\"] iframe{\n                        width: 600px!important;\n                        height: 340px!important;\n                        max-height: 340px!important;\n                    }\n                    [data-source-id=\"source-162ce1b5-2361-4fa9-a310-7ebcf0b84df1\"] .embedpress-yt-subscribe iframe{\n                        height: 100%!important;\n                    }\n                    [data-source-id=\"source-162ce1b5-2361-4fa9-a310-7ebcf0b84df1\"] .ose-youtube > iframe{\n                        height: 340px!important;\n                        width: 600px!important;\n                        max-width: 100%!important;\n                    }\n                    [data-source-id=\"source-162ce1b5-2361-4fa9-a310-7ebcf0b84df1\"] .ose-youtube{\n                        height: 340px!important;\n                        width: 600px!important;\n                    }\n                    [data-source-id=\"source-162ce1b5-2361-4fa9-a310-7ebcf0b84df1\"] .ose-giphy img{\n                        height: 340px!important;\n                        width: 600px!important;\n                    }\n                    [data-source-id=\"source-162ce1b5-2361-4fa9-a310-7ebcf0b84df1\"] .ose-google-docs img{\n                        height: 340px!important;\n                        width: 600px!important;\n                    }\n                    [data-source-id=\"source-162ce1b5-2361-4fa9-a310-7ebcf0b84df1\"] .ose-embedpress-responsive.ose-google-photos{\n                        height: 100% !important;\n                        max-height: 100% !important;\n                    }\n\n                    [data-source-id=\"source-162ce1b5-2361-4fa9-a310-7ebcf0b84df1\"] .embera-embed-responsive-provider-gettyimages,\n                    [data-source-id=\"source-162ce1b5-2361-4fa9-a310-7ebcf0b84df1\"] .embera-embed-responsive-provider-gettyimages iframe,\n                    [data-source-id=\"source-162ce1b5-2361-4fa9-a310-7ebcf0b84df1\"] .getty{\n                        width: 600px!important;\n                        height: 340px!important;\n                        max-height: 340px!important;\n                        max-width: 100%!important;\n                    }\n                    <\/style><style>\n                    [data-source-id=\"source-162ce1b5-2361-4fa9-a310-7ebcf0b84df1\"] img.watermark{\n                        display: none;\n                    }\n                    \n                    <\/style><\/figure>\n\n<p class=\"wp-block-paragraph\">Nicholas Christakis: [00:00:05] Muy bien, los seres humanos est\u00e1n integrados en redes sociales, y estas redes obedecen a principios matem\u00e1ticos, biol\u00f3gicos y sociales muy particulares. Y cada vez m\u00e1s, estamos a\u00f1adiendo inteligencia artificial en forma de agentes en l\u00ednea y robots f\u00edsicos entre nosotros que interact\u00faan con nosotros como si fueran entidades sociales. Y estos tipos de agentes que vamos a agregar a nuestros sistemas var\u00edan desde autos sin conductor en las carreteras hasta m\u00e1quinas de pago en las tiendas, hasta robots humanoides en hogares o en f\u00e1bricas o en campos de batalla o en situaciones de lucha contra incendios, hasta agentes aut\u00f3nomos desencarnados como bots en l\u00ednea y asistentes digitales de IA en nuestros tel\u00e9fonos o nuestras gafas o nuestros lugares de trabajo. Y estas tecnolog\u00edas interact\u00faan con nosotros en igualdad de condiciones como si fueran humanos. Y dar\u00e1n lugar a sistemas h\u00edbridos de humanos y m\u00e1quinas. Y estos sistemas ofrecen oportunidades para un nuevo tipo de inteligencia artificial social.<\/p>\n\n<p class=\"wp-block-paragraph\">Ahora, d\u00e9jame darte solo un ejemplo sencillo de esto. Cuando tienes, por ejemplo, un asistente digital, como un Alexa, el fabricante de ese dispositivo est\u00e1 muy preocupado por la interacci\u00f3n humano-m\u00e1quina. Y esa interacci\u00f3n humano-m\u00e1quina est\u00e1 optimizada. Por ejemplo, nunca comprar\u00edas el Alexa si cada vez que necesitabas algo de \u00e9l, tuvieras que decir: disculpa, Alexa, lamento interrumpirte. Si no te importa, \u00bfpodr\u00edas decirme la palabra? [00:01:35] clima ma\u00f1ana, \u00bfverdad? Esto ser\u00eda considerado un nivel absurdo de cortes\u00eda. Esperas poder decir: Alexa, clima, y entonces la m\u00e1quina responde obedientemente. Y eso est\u00e1 bien hasta que traes esa m\u00e1quina a tu casa y tus hijos hablan con esa m\u00e1quina y aprenden a ser groseros. Y luego van al parque y son groseros con otros ni\u00f1os. As\u00ed que esa m\u00e1quina que ha sido a\u00f1adida a nuestro entorno, no se trata solo de la interacci\u00f3n humano-m\u00e1quina, se trata de la interacci\u00f3n humano-humano en presencia de m\u00e1quinas. Y as\u00ed, lo que me interesa no es si eso, son las interacciones humano-humano en presencia de m\u00e1quinas. Y podemos usar un entendimiento de la estructura y funci\u00f3n de la red social para evaluar los usos e impactos de la IA social dentro y sobre los grupos humanos, con respecto a factores como la confianza y la cooperaci\u00f3n que son necesarios para que grupos de personas trabajen juntos, y que afectan el comportamiento de estas colectividades.<\/p>\n\n<p class=\"wp-block-paragraph\">Perm\u00edtanme resaltar parte del trabajo que estamos realizando, usando varios enfoques para experimentos de red que involucran inteligencia artificial. Estos experimentos eval\u00faan c\u00f3mo la IA podr\u00eda afectar la estructura y funci\u00f3n de las interacciones sociales humanas. [00:02:45] Ahora hay una clase de problemas de acci\u00f3n colectiva de interacciones sociales que conocemos como problemas de coordinaci\u00f3n. Es decir, son problemas en los que debemos trabajar juntos si queremos crear algo \u00fatil. A veces, resolvemos estos problemas creando instituciones centralizadas como la polic\u00eda, los tribunales o los gobiernos. Pero a menudo podemos resolver problemas de acci\u00f3n colectiva que requieren que nos coordinemos o cooperemos con un gran n\u00famero de personas de manera descentralizada. De hecho, hemos evolucionado para tener esta capacidad. Y un tipo espec\u00edfico de problema de acci\u00f3n colectiva con el que me gustar\u00eda empezar hoy es, de hecho, la coordinaci\u00f3n.<\/p>\n\n<p class=\"wp-block-paragraph\">Por ejemplo, para evitar este embotellamiento, las personas tienen que coordinarse para hacer algo diferente de sus vecinos. As\u00ed que si todos salen de sus casas al mismo tiempo, todos quedan atrapados en un embotellamiento. Pero si ajustan sus horarios de salida y salen en intervalos, entonces nadie queda atrapado en el embotellamiento. Ahora, por supuesto, podr\u00edas tener alg\u00fan tipo de autoridad central que coordinara esto. Ustedes salen primero, luego ustedes, y luego ustedes. [00:03:45] Pero idealmente, lo que querr\u00edas es alg\u00fan tipo de forma de coordinaci\u00f3n humana descentralizada, no de arriba hacia abajo, para resolver este problema.<\/p>\n\n<p class=\"wp-block-paragraph\">As\u00ed que aqu\u00ed estuvo nuestro primer experimento que se public\u00f3 en 2017 sobre sistemas h\u00edbridos que exploraron c\u00f3mo la IA podr\u00eda ayudar con tal desaf\u00edo. Y exploramos el rendimiento de grupos humanos que estaban comprometidos en una tarea de coordinaci\u00f3n. Y nuestro paradigma fue tomar prestado de la inform\u00e1tica algo conocido como el problema de coloreado de grafos. Este es un problema cl\u00e1sico en inform\u00e1tica. Pero lo que hicimos fue tomarlo y poner seres humanos en esa situaci\u00f3n. As\u00ed que lo que hicimos fue reunir a 4,000 personas y las colocamos en 230 grupos en l\u00ednea. As\u00ed que estos seres humanos fueron asignados aleatoriamente a un lugar dentro de una red artificial que creamos, cuya estructura se asemejaba aproximadamente a las redes humanas reales. Y fueron ubicados en estos lugares y se les dijo que se les asign\u00f3 uno de tres colores, [00:04:46] un p\u00farpura, naranja, p\u00farpura, naranja y rosa. Y se les dijo que ten\u00edan que elegir un color diferente de sus vecinos.<\/p>\n\n<p class=\"wp-block-paragraph\">Y se les dieron cinco minutos para hacer eso. As\u00ed que estas personas miraban a sus vecinos. Cada persona miraba alrededor y dec\u00eda, como, este tipo aqu\u00ed es rosa. Ve que tiene un vecino rosa y un vecino naranja. Lo que deber\u00eda hacer es cambiar al color p\u00farpura. Y las l\u00edneas rojas aqu\u00ed indican conflictos de color. En otras palabras, si los dos colores de nodos adyacentes son los mismos, obtienen una l\u00ednea roja. Y las l\u00edneas p\u00farpuras de fondo indican la estructura de las interacciones sociales. As\u00ed que pones a las personas aqu\u00ed. Miran a sus vecinos cada segundo o segundo y medio. Hacen un cambio consistente con el objetivo de que todos deben elegir un color diferente al de sus vecinos durante los pr\u00f3ximos cinco minutos. Y si lo hacen, entonces y solo entonces se les pagar\u00e1. Les voy a pagar a ustedes para que trabajen juntos. Y si todos trabajan juntos de manera descentralizada para resolver el problema, todos recibir\u00e1n el pago. De lo contrario, no recibir\u00e1n nada, \u00bfde acuerdo? Entonces aqu\u00ed est\u00e1 lo que sucede en este experimento. Aqu\u00ed en el eje x est\u00e1 el tiempo en segundos hasta el l\u00edmite de cinco minutos. [00:05:47] El juego dura cinco minutos, aqu\u00ed abajo en alg\u00fan lugar. Y aqu\u00ed en el eje y est\u00e1 la funci\u00f3n objetivo o el n\u00famero de conflictos de color. As\u00ed que aqu\u00ed al principio, hay 12 conflictos de color. Se asignan aleatoriamente sus colores iniciales. Y eso se muestra aqu\u00ed en este peque\u00f1o histograma. As\u00ed que las personas comienzan a mirar alrededor y cambiar sus colores. Sabes, cambian y cambian. Y llegan a este punto donde ahora han alcanzado la situaci\u00f3n en la que hay un conflicto de color entre estas dos personas. Y este conflicto, sin embargo, es lo que llamamos un conflicto irresoluble. As\u00ed que las l\u00edneas de color naranja claro son conflictos resolubles. Ese es este tipo aqu\u00ed. Puede hacer un movimiento a p\u00farpura que resuelve el conflicto. Pero estos tipos aqu\u00ed que son naranjas, no hay movimiento que puedan hacer que reduzca el n\u00famero de conflictos de color en su vecindario, \u00bfverdad? Este tipo no puede cambiar a p\u00farpura porque, de hecho, si cambia a p\u00farpura, tendr\u00e1 m\u00e1s conflictos. Tiene, como, cuatro vecinos p\u00farpuras. Y no puede cambiar a rosa porque tiene dos vecinos rosas. As\u00ed que mira y dice, bueno, el menor conflicto que tengo es quedarme naranja. As\u00ed que ahora este grupo est\u00e1 estancado, \u00bfverdad? [00:06:49] Tienen un conflicto irresoluble y no puede suceder nada. No se puede avanzar en la soluci\u00f3n del problema de acci\u00f3n colectiva hasta que una de estas dos personas haga un movimiento contraintuitivo, cambie de color a p\u00farpura o rosa, y aumente los conflictos temporalmente. Y eso, de hecho, es lo que sucede. Y luego pasa el tiempo, y los seres humanos a los 245 segundos resuelven el problema. La m\u00e1quina detecta la soluci\u00f3n, detiene el juego y les paga, \u00bfde acuerdo?<\/p>\n\n<p class=\"wp-block-paragraph\">Ahora, debido a que fuimos astutos, lo que hicimos fue realizar algunos experimentos donde sustituimos subrepticiamente a algunos de los seres humanos por bots. Y evaluamos c\u00f3mo la adici\u00f3n de bots dotados de IA para crear un sistema h\u00edbrido afect\u00f3 el rendimiento del grupo. \u00bfEs posible agregar algunos bots a grupos humanos y mejorar su capacidad de coordinaci\u00f3n al enfrentar tal desaf\u00edo? Lo que hicimos fue agregar tres bots y variamos experimentalmente dos ejes. D\u00f3nde se colocaron los bots, d\u00f3nde se les hizo caer al azar en la red, si se les coloc\u00f3 en [00:07:51] el centro de la red, o si se les puso en la periferia de la red. Y manipulamos aleatoriamente su capacidad de IA aqu\u00ed de una manera muy trivial y simple. Es decir, manipulamos si los bots actuaban con perfecci\u00f3n o actuaban con un poco de ruido.<\/p>\n\n<p class=\"wp-block-paragraph\">En la situaci\u00f3n de perfecci\u00f3n, cada segundo y medio, los bots miraban a su alrededor a sus vecinos y luego eleg\u00edan el color que ten\u00eda menos conflictos con sus vecinos. Lo que podr\u00edas pensar como comportamiento irracional. En la situaci\u00f3n de 10% de ruido, hac\u00edan eso, pero el 10% del tiempo, eleg\u00edan un color al azar. Y en la situaci\u00f3n de 30% de ruido, hac\u00edan eso, pero el 30% del tiempo, eleg\u00edan un color al azar. As\u00ed que hicimos que los bots, digamos, fueran cada vez m\u00e1s propensos a errores, cada vez m\u00e1s ruidosos.<\/p>\n\n<p class=\"wp-block-paragraph\">Y luego observamos, tuvimos, creo que algo as\u00ed, empecemos con un grupo de control. Aqu\u00ed trazamos en el eje x el tiempo, y estas son curvas de supervivencia. En el eje y est\u00e1 la probabilidad de que el grupo en su conjunto no haya solucionado el juego de coordinaci\u00f3n. As\u00ed que aqu\u00ed, si miras aqu\u00ed, por ejemplo, al principio, en el tiempo cero, [00:08:51] el 100% de los grupos solo humanos, las sesiones con solo humanos, est\u00e1n en naranja. Al principio, el 100% de los grupos solo humanos no han solucionado el juego. Y luego, a medida que pasa el tiempo, cada vez m\u00e1s grupos humanos resuelven el juego, as\u00ed que al final de los cinco minutos, tal vez el 60% de los grupos solo humanos han solucionado el juego.<\/p>\n\n<p class=\"wp-block-paragraph\">Bueno, lo que sucede es que si pones un 10% de bots ruidosos en la posici\u00f3n central de la red, obtienes un rendimiento notablemente mejorado. Aqu\u00ed, un n\u00famero considerablemente mayor de grupos de personas, cuando se a\u00f1adieron bots con un poco de ruido al medio, pudieron resolver el problema. De hecho, redujeron el tiempo medio de soluci\u00f3n de 232 segundos a 103 segundos. Y hay otros hallazgos tambi\u00e9n en estos datos. Los bots perfectos y los bots excesivamente ruidosos fueron poco \u00fatiles. Necesitabas algo de calibraci\u00f3n. Fueron los bots ruidosos del 10% los que resultaron ser los m\u00e1s \u00fatiles. Adem\u00e1s, la posici\u00f3n de los bots tambi\u00e9n tuvo cierto impacto. Pero, crucialmente, en estos experimentos, tambi\u00e9n descubrimos que los seres humanos que no estaban conectados a los bots, [00:09:52] que estaban m\u00e1s alejados en la red. As\u00ed que en los gr\u00e1ficos, hab\u00eda algunas personas que estaban conectadas a los bots y otras que no. Descubrimos que incluso esas personas comenzaron a cambiar la forma en que jugaban. As\u00ed que hubo un efecto en cadena, un efecto de cascada. Los beneficios de c\u00f3mo el bot interactuaba con los humanos se propagaron a trav\u00e9s de la red y comenzaron a afectar las interacciones humanas entre s\u00ed, m\u00e1s y m\u00e1s lejos en la red. En otras palabras, los bots ayudaron a los humanos a ayudarse a s\u00ed mismos, y los beneficios del ruido se dispersaron dentro de este sistema social.<\/p>\n\n<p class=\"wp-block-paragraph\">Ahora d\u00e9jame corregir m\u00e1s ideas sobre este desaf\u00edo colectivo y c\u00f3mo estos simples agentes de IA podr\u00edan ayudar con otra analog\u00eda. Imagina que tienes un plano. As\u00ed es como en el descenso de gradiente en el aprendizaje autom\u00e1tico, por ejemplo. Tienes un plano, y tienes colinas y una monta\u00f1a. Y tienes diferentes colinas, \u00bfde acuerdo?, de diferentes alturas. Y tienes una monta\u00f1a muy arriba que es la m\u00e1s alta. As\u00ed que te voy a soltar, voy a tomar a cuatro de ustedes y los voy a soltar en alg\u00fan lugar aqu\u00ed, y los voy a manillar juntos, cada uno mirando en una direcci\u00f3n cardinal diferente, [00:10:54] y los voy a vendar los ojos. Y les voy a decir que encuentren la monta\u00f1a m\u00e1s alta. Entonces ustedes hablan entre ustedes y dicen, bueno, \u00bfpor qu\u00e9 no cada uno da un paso en su direcci\u00f3n y reporta de vuelta al equipo? Entonces das un paso hacia el norte y dices que est\u00e1 en subida desde aqu\u00ed. Y el sur dice que est\u00e1 en bajada desde aqu\u00ed. Y el este y el oeste dicen que est\u00e1 en lateral desde aqu\u00ed. As\u00ed que todos acuerdan, tomemos un paso hacia el norte. Y sigues haciendo esto de manera iterativa hasta que llegues a un punto en el que todos digan que est\u00e1 en bajada desde aqu\u00ed.<\/p>\n\n<p class=\"wp-block-paragraph\">\u00bfHas encontrado la monta\u00f1a m\u00e1s alta? No. (...) \u00bfQu\u00e9 has hecho? Has encontrado la colina m\u00e1s cercana.<\/p>\n\n<p class=\"wp-block-paragraph\">\u00bfAlguna vez encontrar\u00e1s la monta\u00f1a m\u00e1s alta? No. Nunca encontrar\u00e1s la monta\u00f1a m\u00e1s alta. Est\u00e1s atrapado. Est\u00e1s optimizado localmente, pero sub-optimizando globalmente. Y para optimizar globalmente, necesitas un poco de ruido. Necesitas permitir ocasionalmente que este grupo de personas d\u00e9 un paso contraintuitivo hacia abajo de la monta\u00f1a o hacia abajo de la colina. As\u00ed que, a veces, toman una secuencia por casualidad de una secuencia de pasos hasta que vuelven al plano. Y luego navegan por todo este paisaje de aptitud, explorando todos estos picos hasta que terminan en este pico. [00:11:56] Y este alto pico tiende, el \u00f3ptimo global, tiende a ser un estado receptor porque se necesita mucho m\u00e1s ruido para salir de ese pico que de los otros picos. Y ahora oscilas alrededor del \u00f3ptimo global. As\u00ed que, en nuestro trabajo, hemos estado explorando este tipo de programaci\u00f3n simple insertada en sistemas sociales para ver si podemos mejorar el rendimiento de los seres humanos al abordar diversos tipos de problemas de acci\u00f3n colectiva.<\/p>\n\n<p class=\"wp-block-paragraph\">Ahora, otro problema de acci\u00f3n colectiva involucra un desaf\u00edo diferente, que es la cooperaci\u00f3n, no la coordinaci\u00f3n. Los humanos a menudo tienen que cooperar para producir lo que se conoce como un bien p\u00fablico. Y un faro es uno de los ejemplos can\u00f3nicos de un bien p\u00fablico. El bien p\u00fablico tiene dos caracter\u00edsticas can\u00f3nicas. Primero que nada, se llama no excluible. Y eso significa que otras personas no pueden ser prevenidas de usarlo. Si construyes un faro para tu propio beneficio, porque est\u00e1s navegando en los mares y no quieres chocar contra la costa, eso est\u00e1 bien para ti, pero no puedes detener a nadie m\u00e1s de usarlo, \u00bfde acuerdo? No excluible. [00:12:58] Y tambi\u00e9n, es no rivalizante. Eso significa que el consumo por una persona no reduce el consumo por otros. Si uso la luz de mi faro, no hay menos luz para que t\u00fa la uses. Y esto es diferente, por ejemplo, de un pedazo de pastel. Si tengo un pedazo de pastel, es m\u00edo, \u00bfverdad? Puedo evitar que lo comas. Y si me lo como, no hay ninguno disponible para ti, \u00bfde acuerdo? As\u00ed que el bien p\u00fablico tiene estas caracter\u00edsticas, y son estas caracter\u00edsticas las que a su vez hacen que sea muy dif\u00edcil producir bienes p\u00fablicos. Porque cuando se trata de construir un faro, es muy tentador poner tus intereses individuales en contra de los grupos. Si no contribuyes a la construcci\u00f3n del faro, a\u00fan puedes beneficiarte de \u00e9l. Y as\u00ed todos est\u00e1n tentados a no hacer nada, y entonces el faro no se construye en detrimento de todos. Y tambi\u00e9n vale la pena enfatizar que los bienes p\u00fablicos son \u00fatiles, porque realmente puedes producir cosas con ellos, como un viaje seguro por mar. Y como tal, la subinversi\u00f3n en bienes p\u00fablicos es un problema serio en nuestra sociedad, y tambi\u00e9n se ha conocido como la tragedia de los bienes comunes. Estos bienes p\u00fablicos, por ejemplo, las normas de confianza que mantenemos entre nosotros son eficientes. [00:14:01] Piensa en cuando estabas en la escuela secundaria. Algunos de ustedes fueron a una escuela secundaria donde los estudiantes confiaban unos en otros, y eso significaba que pod\u00edas dejar tus mochilas solas en el pasillo y no preocuparte de que alguien las robara. Otros de ustedes fueron a escuelas secundarias donde no hab\u00eda las mismas normas de confianza, y ahora ten\u00edas que asegurar tu mochila o mantenerla contigo en todo momento. \u00bfEn cu\u00e1l de esos dos entornos crees que tendr\u00edas un mejor aprendizaje? \u00bfVerdad? En el primer entorno. Entonces, esa norma que se mantiene colectivamente es productiva. En ese caso, productiva para el aprendizaje. Aqu\u00ed, productiva para un viaje seguro por mar y as\u00ed sucesivamente.<\/p>\n\n<p class=\"wp-block-paragraph\">La cooperaci\u00f3n en grupos humanos para producir bienes p\u00fablicos es un desaf\u00edo, y se requieren varios mecanismos para sostenerla. Hemos realizado muchos experimentos que implican colocar humanos en grupos de red y pedirles que jueguen diversos tipos de juegos de bienes p\u00fablicos con sus vecinos, manipulando muchas caracter\u00edsticas estructurales y otras a lo largo de los a\u00f1os. Por ejemplo, comenzamos hace a\u00f1os con un experimento en el que las personas eran colocadas en una red como esta. Se les present\u00f3 a sus vecinos y jugaron un juego de bienes p\u00fablicos, como en la econom\u00eda del comportamiento, [00:15:03], donde, por ejemplo, podr\u00eda dar un poco de dinero a cada uno de mis vecinos. Tomo un d\u00f3lar y lo divido entre mis vecinos. Luego, los cient\u00edficos duplican el d\u00f3lar. Supongamos que tengo cuatro vecinos. Supongamos que tengo tres vecinos, y doy un d\u00f3lar al grupo. Se convierte en dos d\u00f3lares. Esos dos d\u00f3lares se dividen entre los cuatro de nosotros. Entonces, todo el grupo gana riqueza a dos d\u00f3lares, pero yo solo recupero 50 centavos. Los dos divididos por cuatro, recupero 50 centavos. As\u00ed que tengo que hacer un sacrificio para el beneficio de los dem\u00e1s. Naturalmente, todos dicen: no quiero sacrificarme. Que cada otro tonto d\u00e9 el dinero. No voy a dar nada, y espero que otros contribuyan. Pero, por supuesto, si todos hacen eso, terminamos en un colapso nuevamente. Y el mejor comportamiento es si todos contribuyen al m\u00e1ximo. As\u00ed que aqu\u00ed en esta situaci\u00f3n, comenzamos el juego. Los puntos azules son las personas azules, que son las personas cooperativas y amables. Dan al m\u00e1ximo a sus vecinos y est\u00e1n creando bienes p\u00fablicos, como construir el faro. Y los puntos rojos son los explotadores que no hacen contribuciones, lo que tambi\u00e9n se conoce como los defectores. Y lo que encontramos en este experimento es que reproducimos un resultado que se conoce desde hace 30 a\u00f1os, [00:16:03], que es que la cooperaci\u00f3n colapsa en grupos. Al final del juego, m\u00faltiples rondas despu\u00e9s, pr\u00e1cticamente todos se convierten en defectores, excepto estos peque\u00f1os puntos azules aqu\u00ed a un lado, manteniendo viva la civilizaci\u00f3n, entre ellos. Tambi\u00e9n puedes pensar en, otra vez, para evocar la escuela secundaria para los estudiantes de pregrado. Recuerda esa situaci\u00f3n en la que tu profesor de ciencias asign\u00f3 a cuatro de ustedes hacer un proyecto grupal, y ustedes iban a recibir la misma nota. Y te asignaron a tres perdedores m\u00e1s. As\u00ed que ahora tienes dos opciones. O haces todo el trabajo y ellos tambi\u00e9n obtienen A porque quieres un A. O dices, eso es rid\u00edculo. No quiero que estos chicos perezosos se beneficien de mi arduo trabajo. Y dices, no voy a hacer nada tampoco, y todos obtienen F, \u00bfverdad? Ese es un dilema terrible. Bueno, lo que sucede aqu\u00ed es que los seres humanos finalmente eligen la \u00faltima opci\u00f3n. Todos eligen obtener F porque no quieren ser tontos y seguir contribuyendo. As\u00ed que la cooperaci\u00f3n colapsa en los sistemas sociales como resultado general. Pero lo que hicimos fue, una vez m\u00e1s, agregar alg\u00fan tipo de bots, aunque diferentes, al sistema. Agregamos algunos bots que estaban dotados de una A muy simple. [00:17:05] Y estos bots eran como peque\u00f1os mediadores de matrimonio. Mediaban interacciones sociales. Miraban a su alrededor localmente qui\u00e9n estaba interactuando con qui\u00e9n, y daban sugerencias a las personas en el sistema. Sabes qu\u00e9, deber\u00edas cortar el lazo con ese defector que se est\u00e1 aprovechando de ti y formar un lazo con este chico amable aqu\u00ed en su lugar. Y este gentil consejo de reconfiguraci\u00f3n que solo utiliza conocimiento local. No hay un maestro ah\u00ed ordenando a las personas que sean amables. No hay polic\u00eda. No hay tribunal. No hay autoridad centralizada que ejecute esto. Simplemente actuando sobre el conocimiento local, descubrimos que estos bots pod\u00edan, en nuestros experimentos con m\u00e1s de 1,000 personas en 64 grupos, no solo estabilizar la cooperaci\u00f3n, sino que, por primera vez, demostramos un resultado que la cooperaci\u00f3n podr\u00eda, de hecho, aumentar desde la l\u00ednea base cuando se a\u00f1adieron estos tipos de bots. Y DeepMind posteriormente replic\u00f3 nuestros resultados y los extendi\u00f3 en otro art\u00edculo que apareci\u00f3 aproximadamente un a\u00f1o o dos despu\u00e9s de este.<\/p>\n\n<p class=\"wp-block-paragraph\">Ahora, en otro experimento, exploramos c\u00f3mo los bots podr\u00edan afectar la creatividad grupal. [00:18:07] porque encontrar nuevas ideas es dif\u00edcil. Y la teor\u00eda y los experimentos sugieren que los grupos pueden ser mejores para identificar y preservar innovaciones que los individuos al compartir sus descubrimientos.<\/p>\n\n<p class=\"wp-block-paragraph\">Pero la innovaci\u00f3n dentro de los grupos enfrenta sus propios desaf\u00edos, incluido el pensamiento grupal. \u00bfVerdad? Si re\u00fanes a un grupo de personas, pueden converger prematuramente en una idea sub\u00f3ptima.<\/p>\n\n<p class=\"wp-block-paragraph\">O podr\u00edas imaginar, deber\u00edas imaginar, que un grupo de personas podr\u00eda tener colectivamente m\u00e1s sabidur\u00eda, podr\u00eda ser capaz de generar m\u00e1s ideas. Por ejemplo, si le das a un grupo de personas la tarea de perfeccionar una ca\u00f1a de pescar, ya sabes, la primera persona podr\u00eda decir, bueno, \u00bfpor qu\u00e9 no ponemos un anzuelo al final de un hilo? Y luego la persona sostiene el hilo con un anzuelo. Y alguien dice, \u00bfpor qu\u00e9 no ponemos un palo a\u00f1adido al hilo? Oh, eso es una gran idea. As\u00ed que combinan su conocimiento y lo hacen. Y alguien dice, bueno, el cebo con el anzuelo est\u00e1 flotando en la superficie. Vamos a a\u00f1adir una boya para que se hunda. Bueno, ahora se hunde demasiado. \u00bfQu\u00e9 tal si a\u00f1adimos una boya para saber d\u00f3nde est\u00e1 y as\u00ed sucesivamente? Y as\u00ed la gente innova, comparte conocimiento entre ellos, preserva el conocimiento a lo largo del tiempo, [00:19:08] y obtienes estos artefactos culturales que son el producto compuesto de varias personas compartiendo ideas y siendo creativas.<\/p>\n\n<p class=\"wp-block-paragraph\">Entonces quer\u00edamos crear un juego en el que grupos de personas buscaran en un paisaje una idea \u00f3ptima. Y decidimos usar sustantivos como una representaci\u00f3n de ideas. Tomamos 20,000 sustantivos del corpus cl\u00e1sico de ciencia de la computaci\u00f3n word-to-vec. As\u00ed que tomamos 20,000 sustantivos. Y la distancia entre estos sustantivos podr\u00eda definirse por la m\u00e9trica de similitud coseno. Puedes imaginar un espacio vectorial hiperdimensional en el que gato es m\u00e1s similar a perro que a escritorio. Y la manera en que hicieron eso fue mirando con qu\u00e9 frecuencia las palabras gato y perro coaparec\u00edan en sitios web. As\u00ed que ten\u00edan un universo de sitios web y un universo de 20,000 sustantivos. Y dijeron que estos dos sustantivos coaparecen a menudo y que estos otros dos sustantivos no coaparecen a menudo. Crearon un espacio vectorial de 300 dimensiones. [00:20:08] Y ahora puedes describir cu\u00e1n similares son cualquier par de sustantivos. Y decidimos usar sustantivos como una representaci\u00f3n de ideas. Tomamos estos 20,000 sustantivos. Y luego seleccionamos un conjunto de sustantivos. Imagina que seleccionamos un sustantivo, pero elegimos un conjunto. Un sustantivo al azar de todos estos, como bragado, por ejemplo, fue un sustantivo. As\u00ed que elegimos bragado. Y decimos que esa es la idea perfecta que queremos que este grupo de personas encuentre. Y luego todos los sustantivos que est\u00e1n cerca de bragado caen en este espacio vectorial. As\u00ed que tienes el sustantivo cumbre que recibe m\u00e1s puntos, 20,000 puntos, y todos los otros sustantivos hasta los sustantivos m\u00e1s lejanos. Y ponemos humanos en este sistema y decimos, encuentra esta palabra. No les decimos la palabra. Y luego les decimos el valor en puntos de las palabras. Entonces empiezan a adivinar. Y a medida que adivinan, obtienen retroalimentaci\u00f3n. Y dicen, ah, esta palabra tiene m\u00e1s puntos que otra palabra. Y se acercan cada vez m\u00e1s y comienzan a compartir el conocimiento entre ellos. Est\u00e1n tratando de ser creativos para resolver el problema.<\/p>\n\n<p class=\"wp-block-paragraph\">As\u00ed que cada sustantivo est\u00e1 relacionado con otros en un espacio sem\u00e1ntico o un paisaje sin rumbo. [00:21:10] Y ten\u00edamos 18 sustantivos objetivo diferentes, como si hubi\u00e9ramos levantado un pico del paisaje de estos 20,000 sustantivos en 18 ubicaciones diferentes en 18 paisajes diferentes. Y estos sustantivos eran deliberadamente inusuales, como fratricidio, palanca, sarcoma, cartograf\u00eda, y as\u00ed sucesivamente. Y luego realizamos experimentos que involucraban varias condiciones donde las personas estaban solas tratando de navegar por el paisaje, donde las personas estaban en grupos trabajando juntas para navegar por el paisaje, o donde las personas estaban en grupos pero tambi\u00e9n hab\u00eda algunos bots tratando de ayudarles a ser creativos. Y los bots funcionaron porque pod\u00edan pasar informaci\u00f3n de una regi\u00f3n de la red a otra comunic\u00e1ndose entre s\u00ed. As\u00ed que, por ejemplo, el bot n\u00famero dos pod\u00eda pasar la palabra cielo o coche al bot n\u00famero uno. As\u00ed que aqu\u00ed hay un ejemplo de red.<\/p>\n\n<p class=\"wp-block-paragraph\">Dejamos entrar a las personas. Los puntos cuadrados son bots. Y este bot tiene cuatro interacciones y este bot tiene, no s\u00e9, seis o siete interacciones. Los seres humanos al principio empiezan a adivinar. [00:22:12] No tienen ninguna base para adivinar en absoluto en la primera ronda del juego. Adivinan cielo, coche, conejo, rata, perro, gato, escritorio. Como si les pidiera a ustedes, elijan un sustantivo para adivinar, adivinar\u00edan casa o sol o luna o gato o perro o alg\u00fan sustantivo t\u00edpico peque\u00f1o. Y ahora se les dice el valor de los puntos, como cu\u00e1n similar es la palabra rata, perro, gato, escritorio, etc., a sarcoma. Y se les dice el valor de los puntos de esos sustantivos en relaci\u00f3n con el sustantivo objetivo, que es sarcoma. Luego se anuncian esos valores de puntos. Y luego este bot puede mirar los valores de puntos de los humanos a su alrededor y puede transmitir ya sea una elecci\u00f3n aleatoria a este bot o el valor m\u00e1s alto de puntos o el m\u00e1s bajo, una especie de canal de comunicaci\u00f3n alterno que difunde informaci\u00f3n de una regi\u00f3n de un grupo de personas tratando de resolver el problema a otra regi\u00f3n. As\u00ed que veamos algunos ejemplos para aclarar esto, porque puede ser dif\u00edcil de entender. Las personas jugaron este juego durante aproximadamente 25 rondas. Y aqu\u00ed est\u00e1 la similitud del coseno con un sustantivo objetivo, que es la palabra fratricidio. Bien, hay 20,000 sustantivos. [00:23:13] El fratricidio tiene 20,000 puntos. Y las otras palabras tienen otros puntos. Y aqu\u00ed hay una persona sola, una persona por s\u00ed misma que est\u00e1 adivinando. As\u00ed que su primera adivinanza es bit. Y se les dice cu\u00e1n similar es la palabra bit a fratricidio. Y luego su siguiente adivinanza es nacimiento. Y obtienen un gran aumento en la similitud de coseno, porque se puede imaginar que la palabra nacimiento est\u00e1 m\u00e1s cerca de la palabra fratricidio que la palabra bit. \u00bfDe acuerdo? Y luego adivinan. Intentan dinero a continuaci\u00f3n. Eso es peor. Luego intentan mono. Eso es a\u00fan peor. Verifican. Hacen una verificaci\u00f3n de cordura. Intentan nacimiento. Vuelve a aumentar. Luego intentan beb\u00e9. Esa no es una mala adivinanza. Nacimiento a beb\u00e9. Pero beb\u00e9 los aleja m\u00e1s de fratricidio. Y luego dama y as\u00ed sucesivamente. Y navegan. Y est\u00e1n adivinando. Y est\u00e1n adivinando. Y est\u00e1n adivinando. Y no se acercan en absoluto a fratricidio al final. Ahora en esta otra situaci\u00f3n, tenemos un grupo de personas, pero sin bots. Y ahora las personas pueden, adem\u00e1s de hacer sus propias adivinanzas, ver las adivinanzas de las personas a su alrededor. Y construir sobre las ideas de otros. \u00bfDe acuerdo? Creado. Como hacer la ca\u00f1a de pescar juntos. [00:24:13] As\u00ed que esta persona, su primera adivinanza es perro. Pero su siguiente adivinanza es escudo. Se puede ver que escudo est\u00e1 m\u00e1s cerca de fratricidio que perro. Y esta persona est\u00e1 adivinando y adivinando y recibiendo comentarios de sus vecinos. Y al final, se acerca m\u00e1s y m\u00e1s. Termina con la palabra enemigo. \u00bfDe acuerdo? En realidad, soldado fue su mejor adivinanza. Ten\u00eda el valor de puntos m\u00e1s alto durante su trayectoria.<\/p>\n\n<p class=\"wp-block-paragraph\">Entonces, \u00bfc\u00f3mo importa la adici\u00f3n de los bots? Esto, una vez m\u00e1s, muestra el resumen de los resultados. En el eje X est\u00e1 la ronda. En el eje Y est\u00e1 la similitud coseno media en este espacio vectorial hiperdimensional, que es una medida del rendimiento grupal. Y aqu\u00ed hay un grupo de humanos que est\u00e1n actuando, adivinando en solitario. As\u00ed que los humanos que est\u00e1n adivinando por su cuenta no lo hacen muy bien, \u00bfverdad? Es solo cuesti\u00f3n de suerte si pueden, o, ya sabes, alguna habilidad innata en cada humano individual. Se vuelven un poco mejores con el tiempo, acerc\u00e1ndose. Todos los grupos superan al solitario. Y este es un antiguo resultado conocido. Un grupo de personas es m\u00e1s creativo que un conjunto similar en tama\u00f1o de practicantes solitarios. Pero lo que encontramos es que si a\u00f1adimos el bot m\u00e1s similar, el bot que mir\u00f3 a sus vecinos, [00:25:17] y encontr\u00f3, \u00bfcu\u00e1l es su consenso local sobre esto? Mis humanos parecen pensar que esta es una buena palabra. Y luego lo pasa al bot en una parte distante de la red. Ese bot mejor\u00f3 sustancialmente el rendimiento de este grupo de personas para hacer un descubrimiento. Deber\u00edas poder imaginar c\u00f3mo esto podr\u00eda funcionar en un grupo de ingenieros o cualquier otro trabajador del conocimiento. C\u00f3mo, como puedes distribuir el conocimiento de manera eficiente, evitando el pensamiento grupal y fomentando la creatividad, dise\u00f1ando bots que ayuden a los humanos a ayudarse a s\u00ed mismos. El bot aqu\u00ed no tiene cerebro. No est\u00e1 sugiriendo ideas por s\u00ed mismo. Simplemente est\u00e1 ayudando a los humanos a difundir las ideas entre ellos.<\/p>\n\n<p class=\"wp-block-paragraph\">As\u00ed que agentes de IA simples con un comportamiento interpretable pueden mejorar la capacidad de descubrimiento creativo en grupos humanos al compartir ideas sobre las que hay un consenso local en una parte del grupo con personas en una parte distante del grupo. Y como resultado, el grupo puede desempe\u00f1arse mejor.<\/p>\n\n<p class=\"wp-block-paragraph\">Ahora, tambi\u00e9n hemos comenzado a experimentar con sistemas f\u00edsicos. Y hemos agregado robots humanoides y no humanoides [00:26:19] dotados de inteligencia artificial simple a grupos de humanos cara a cara y mostramos c\u00f3mo pueden facilitar que los grupos de humanos trabajen juntos al ayudarles a superar la fricci\u00f3n o la incapacidad para cooperar en sus interacciones. Uno de mis ejemplos favoritos de esto es un experimento que hice con mi ex estudiante de posgrado, Maggie Traeger, que est\u00e1 en la parte de atr\u00e1s y ahora es profesora asistente en Notre Dame. Este experimento. En este experimento, tomamos a tres humanos reales que llegaron al laboratorio y un robot humanoide. Y dise\u00f1amos un peque\u00f1o juego, un peque\u00f1o juego de rieles de tren, que se juega en una tableta, y este grupo de humanos y un robot ten\u00edan la tarea de colocar rieles de tren desde el punto A hasta el punto B, como unas peque\u00f1as v\u00edas de tren de Thomas el Tren. Y luego les dimos algunas piezas que pod\u00edan elegir en la tableta, como piezas rectas y curvas. Pero a veces nos las ingeniamos, aunque parec\u00eda que hab\u00eda una mezcla de piezas y que en principio deber\u00edan poder ir del punto A al punto B, lo dise\u00f1amos maliciosamente de tal manera que no hab\u00eda el n\u00famero correcto de curvas para permitirles ir del punto A al punto B. [00:27:21] Entonces no pod\u00edan hacerlo. No pod\u00edan resolver el problema sin que ellos lo supieran. \u00bfEst\u00e1 bien? As\u00ed que primero cada persona tomar\u00eda su turno colocando una pieza de riel, luego la siguiente persona y la siguiente persona. Est\u00e1n trabajando juntos para conectar el punto A al punto B en sus tabletas.<\/p>\n\n<p class=\"wp-block-paragraph\">Y lo que hicimos en este experimento fue manipular, y jugaron 30 rondas de este juego en este mundo virtual, y tuvimos 51 grupos, manipulamos el estilo conversacional de los robots, espec\u00edficamente si el robot expresaba vulnerabilidad al reconocer un error. As\u00ed que el robot dijo, ya saben, comet\u00ed un error. O si el robot contaba chistes de pap\u00e1. Supongo que todos saben lo que son los chistes de pap\u00e1. Est\u00e1 bien. Tambi\u00e9n tuvimos al robot que dijera, por cierto, eso es un universal cultural, como los antrop\u00f3logos en la selva amaz\u00f3nica han observado a los pueblos ind\u00edgenas y los pap\u00e1s all\u00ed tambi\u00e9n cuentan chistes de pap\u00e1. Y los ni\u00f1os est\u00e1n como, no puedo creer los est\u00fapidos chistes de pap\u00e1. Pero de todos modos, en realidad hay una teor\u00eda sobre lo que los chistes de pap\u00e1 est\u00e1n destinados a endurecer a los ni\u00f1os de alguna manera. Esta es una teor\u00eda. Pero de todos modos, ese es otro tema. En fin, nuestros robots contaron chistes de pap\u00e1 o expresaron vulnerabilidad. [00:28:21] Y lo que nos interesaba descubrir es si los cambios en el habla de los robots ten\u00edan el poder de afectar no solo c\u00f3mo las personas interact\u00faan con los robots, sino tambi\u00e9n c\u00f3mo las personas interact\u00faan entre ellas. Y una vez m\u00e1s, esto ofrece la perspectiva de modificar las interacciones sociales mediante la introducci\u00f3n de agentes artificiales en sistemas h\u00edbridos de humanos y m\u00e1quinas.<\/p>\n\n<p class=\"wp-block-paragraph\">Aqu\u00ed hay un peque\u00f1o ejemplo de, oh, y no te cont\u00e9 los resultados. As\u00ed que aqu\u00ed est\u00e1n, aqu\u00ed es cuando tenemos, as\u00ed que estos, el grosor de estas l\u00edneas, configuramos c\u00e1maras de video para monitorear qui\u00e9n est\u00e1 hablando con qui\u00e9n y cu\u00e1nto est\u00e1n hablando. Y el grosor de estas l\u00edneas indica cu\u00e1nto habla la persona dos con la persona uno y viceversa. As\u00ed que la persona uno no habla mucho con el robot. Esa es una l\u00ednea delgada. Y cuando ten\u00edas robots neutrales, obtienes este patr\u00f3n. Pero cuando ten\u00edas el robot vulnerable, todas estas l\u00edneas se engrosan y se igualan. As\u00ed que descubrimos que un robot vulnerable aumentaba la igualdad de discurso entre los humanos, aumentaba el volumen de discurso entre los humanos, y de hecho, en resultados separados, [00:29:22] aumentaba la satisfacci\u00f3n de los humanos en ese tipo de entorno.<\/p>\n\n<p class=\"wp-block-paragraph\">Y aqu\u00ed hay un clip de dos rondas diferentes que ilustran c\u00f3mo el robot habla de manera neutral primero, en voz pasiva, lo que no afecta mucho la comunicaci\u00f3n humana. El robot dice, de una manera muy regresiva, se cometi\u00f3 un error.<\/p>\n\n<p class=\"wp-block-paragraph\">Pero en la siguiente ronda, el robot dice, comet\u00ed un error. Y puedes ver lo que sucede aqu\u00ed. Veamos si podemos hacer que esto funcione. (25 segundos de pausa) As\u00ed que a trav\u00e9s de muchas, muchas docenas de ejecuciones, este es el tipo de patr\u00f3n que encontramos. As\u00ed que una manipulaci\u00f3n simple, una manipulaci\u00f3n simple en el patr\u00f3n de habla del robot cambia c\u00f3mo los humanos interact\u00faan entre s\u00ed. [00:30:25] Y no, asumo, no toma mucho imaginar c\u00f3mo toda la manera en que dise\u00f1amos nuestros chatbots y otras cosas podr\u00eda estar afectando no solo el ejemplo de Alexa que te di al principio, c\u00f3mo nos tratamos entre nosotros. Los humanos parecen confiar m\u00e1s entre s\u00ed y tener m\u00e1s diversi\u00f3n en esta situaci\u00f3n.<\/p>\n\n<p class=\"wp-block-paragraph\">Ahora aqu\u00ed hay silencio, y creo que este es el \u00faltimo experimento que voy a mostrarte y luego concluir\u00e9, en otro experimento m\u00e1s, desarrollamos una plataforma cibern\u00e9tica-f\u00edsica novedosa para probar tales efectos sociales y, de hecho, \u00e9ticos de tipos simples de IA. Porque dada la naturaleza de los problemas de acci\u00f3n colectiva, la participaci\u00f3n de la IA en grupos humanos podr\u00eda parad\u00f3jicamente e involuntariamente suprimir normas sociales beneficiosas existentes en los humanos, tales como aquellas que implican cooperaci\u00f3n y altruismo que hemos evolucionado como especie. As\u00ed que tenemos cientos de miles de a\u00f1os de selecci\u00f3n natural que han trabajado en nosotros para hacernos capaces de resolver problemas de acci\u00f3n colectiva. Entonces la pregunta es, bueno, si delegamos parte de esa agencia a las m\u00e1quinas, \u00bfperderemos la capacidad de trabajar juntos para resolver esos problemas? [00:31:32] \u00bfLlegaremos a depender de estas m\u00e1quinas, y as\u00ed degradamos nuestra habilidad innata para cooperar, coordinar y crear, y as\u00ed sucesivamente? Entonces, en este experimento, colaborando con Hiro Shirato en CMU, otro ex estudiante graduado m\u00edo, construimos una plataforma que involucraba dos peque\u00f1os veh\u00edculos mec\u00e1nicos dotados de Raspberry Pi, y lo conectamos a un software que tenemos que nos permite organizar experimentos en l\u00ednea a gran escala. As\u00ed que la gente estaba en sus propias casas, y se les asign\u00f3 uno de estos coches, y estaban conduciendo estos coches uno hacia el otro,<\/p>\n\n<p class=\"wp-block-paragraph\">y los hicimos jugar al juego del gallo. As\u00ed que en gallo, sabes, como, quien llega al otro lado m\u00e1s r\u00e1pido gana. As\u00ed que est\u00e1s incentivado a no ceder ante el otro. Pero si cada uno de ustedes decide no ceder, entonces chocan, y ambos obtienen el peor resultado. Entonces, lo que har\u00edan los humanos en esta situaci\u00f3n, si est\u00e1n jugando un juego de gallo iterado, es que aprender\u00edan r\u00e1pidamente a turnarse. Esta vez es tu turno de ir en l\u00ednea recta, yo me har\u00e9 a un lado y te dejar\u00e9 pasar, pero la pr\u00f3xima vez t\u00fa te har\u00e1s a un lado y me dejar\u00e1s pasar a m\u00ed. [00:32:35] Si somos ego\u00edstas, simplemente seguimos chocando entre nosotros, destruy\u00e9ndonos una y otra vez, o est\u00fapidamente, ambos nos desviamos, y ninguno obtiene el beneficio de ir en l\u00ednea recta. As\u00ed que en esta situaci\u00f3n aqu\u00ed, el coche amarillo decide hacerse a un lado, el coche azul simplemente avanza sin obst\u00e1culos todo el camino hacia el otro lado.<\/p>\n\n<p class=\"wp-block-paragraph\">Y utilizamos 300 participantes y 150 d\u00edadas, y se les pag\u00f3 en funci\u00f3n de qu\u00e9 tan r\u00e1pido llegar\u00e1n al otro lado. Luego agregamos un poco de IA. A\u00f1adimos asistencia de frenado autom\u00e1tico, donde cuando ten\u00edas una alerta de proximidad, al acercarte al otro coche, frenaba y te daba la oportunidad de decidir, oye, deber\u00eda apartarme y dejar pasar a este otro, o viceversa. O a\u00f1adimos asistencia de direcci\u00f3n autom\u00e1tica, que es, en el momento en que se acercaba al otro coche, simplemente se desviaba, \u00bfde acuerdo? Y a\u00f1adimos una funci\u00f3n de comunicaci\u00f3n m\u00ednima, donde las personas pod\u00edan decir gracias, o algo as\u00ed. Solo una comunicaci\u00f3n muy m\u00ednima. Y primero, mostramos que la asistencia de frenado autom\u00e1tico, donde los coches se detienen a una distancia fija antes de chocar, aument\u00f3 el altruismo humano. [00:33:38] Es decir, ceder el paso a otros, como lo hace el coche amarillo aqu\u00ed. As\u00ed que a\u00f1adir un poco de IA de asistencia de frenado autom\u00e1tico facilit\u00f3 que los seres humanos trabajaran juntos y cooperaran en la situaci\u00f3n. Adem\u00e1s, permitir que los humanos se comunicaran ayuda a\u00fan m\u00e1s a hacer concesiones mutuas en la condici\u00f3n de frenado autom\u00e1tico. Por otro lado, la asistencia de direcci\u00f3n autom\u00e1tica, donde el coche simplemente se desvi\u00f3, inhibi\u00f3 completamente la aparici\u00f3n de reciprocidad entre las personas en favor de la maximizaci\u00f3n del inter\u00e9s propio. Las personas simplemente renuncian a su agencia moral. No se preocupan m\u00e1s. Simplemente dejan que la m\u00e1quina se desv\u00ede repetidamente, y se rinden, \u00bfde acuerdo? As\u00ed que todas las habilidades \u00e9ticas innatas que las personas ten\u00edan han sido eliminadas por la adici\u00f3n de IA en la condici\u00f3n de direcci\u00f3n autom\u00e1tica, pero mejoradas en la condici\u00f3n de frenado autom\u00e1tico. Y esto tambi\u00e9n deber\u00eda hacerte reflexionar. Deber\u00edas estar pensando, oh Dios m\u00edo, cada peque\u00f1o detalle que hacemos cuando programamos estos agentes de IA podr\u00eda tener efectos positivos o negativos en las tendencias naturales de las personas.<\/p>\n\n<p class=\"wp-block-paragraph\">La capacidad de las personas para cooperar, turnarse y actuar altruistamente puede atrofiarse, lo que lleva a peores resultados colectivos e individuales al final. [00:34:46] De hecho, en resumen, la IA puede llevar a una especie de pereza moral. (..) Aqu\u00ed hay un \u00faltimo ejemplo de cambio duradero despu\u00e9s de la exposici\u00f3n a la IA en sistemas h\u00edbridos. Y tambi\u00e9n es un ejemplo de c\u00f3mo la presencia de la IA puede cambiar las interacciones humano-humano, incluso despu\u00e9s de que la IA ya no sea parte de las interacciones. Entonces, en 2016, DeepMind desarroll\u00f3 AlphaGo, y en ese mismo a\u00f1o, este agente de IA jug\u00f3 contra Lee Sedol, el notable campe\u00f3n mundial de Corea.<\/p>\n\n<p class=\"wp-block-paragraph\">Vi el partido. No puedo jugar Go, pero reconozco que es un juego magn\u00edfico. Mi hijo juega Go. (.) Y realmente estaba animando a Lee Sedol. Lee Sedol es como un h\u00e9roe en Corea, como los grandes atletas que tendr\u00edamos en nuestras cajas de Wheaties y cosas as\u00ed. Como, el suyo est\u00e1 en peque\u00f1os paquetes de fideos y en paquetes de cereales. Como, creo que es magn\u00edfico que en Corea un nerd inteligente como yo sea visto como una persona importante, \u00bfverdad? As\u00ed que es muy popular en Corea. Y sale para el primer partido, y es demasiado arrogante. [00:35:47] Puedo decir que es demasiado arrogante. Y pierde contra la m\u00e1quina, y luego se disculpa con sus fan\u00e1ticos. Dice, lo siento mucho. Son cinco juegos. Es el mejor de tres de cinco. Luego juega un segundo juego y vuelve a perder. Y ahora se est\u00e1 poniendo serio. Luego juega un tercer juego y pierde. Ha perdido la competencia.<\/p>\n\n<p class=\"wp-block-paragraph\">Y podr\u00edas ver a la audiencia, y los comentaristas estaban asombrados por la capacidad de la m\u00e1quina para jugar Go, haciendo estos movimientos extra\u00f1os y hermosos, algunos de los cuales luego descubrieron que se hab\u00edan jugado porque tenemos registros que se remontan a miles de a\u00f1os de partidos de Go jugados en la Corte Imperial China. Y pod\u00edan encontrar, oh, Dios m\u00edo, este es un movimiento medieval que hizo la m\u00e1quina. No lo hab\u00edamos visto en tanto tiempo.<\/p>\n\n<p class=\"wp-block-paragraph\">Y luego Lisa Dahl vuelve en el cuarto juego, y \u00e9l gana. (..) Y llor\u00e9. Estaba tan feliz. (..) Porque ten\u00eda la m\u00e1quina, sabes, hab\u00eda vuelto por mi especie y hab\u00eda vencido a la maldita m\u00e1quina. Como, de manera heroica, como, no pod\u00eda entender, como, el poder cerebral que debi\u00f3 haber sido necesario para que Lisa Dahl hiciera eso. [00:36:49] Estaba extasiado en ese momento, y tan orgulloso de \u00e9l por seguir intent\u00e1ndolo, incluso despu\u00e9s de haber perdido el partido.<\/p>\n\n<p class=\"wp-block-paragraph\">Ahora, lo interesante es que cuando Lisa Dahl fue entrevistada despu\u00e9s, dijo que su propio estilo de juego cambi\u00f3 despu\u00e9s del partido. As\u00ed que una vez m\u00e1s, la IA est\u00e1 ayudando a los humanos a ayudarse a s\u00ed mismos, \u00bfde acuerdo? \u00c9l cambia c\u00f3mo juega debido al contacto. Y las investigaciones posteriores de otros cient\u00edficos analizaron a jugadores profesionales de Go y observaron la calidad de decisi\u00f3n mediana. Hay ciertos est\u00e1ndares en Go para evaluar qu\u00e9 tan buena es una jugada, y la novedad mediana, como qu\u00e9 tan inusual es una jugada. Y descubren que cuando AlphaGo derrota al campe\u00f3n mundial humano en 2016, alrededor del mundo, los jugadores de Go comienzan a hacer mejores movimientos que son m\u00e1s innovadores, \u00bfde acuerdo? As\u00ed que todos los humanos que juegan Go entre s\u00ed han cambiado porque se ha a\u00f1adido AlphaGo. La IA ayuda a los humanos a ayudarse a s\u00ed mismos. As\u00ed que seguimos construyendo sobre nuestro trabajo para dise\u00f1ar y a\u00f1adir bots simples a estas y otras situaciones que involucran dilemas sociales y problemas de acci\u00f3n colectiva. [00:37:55] Estamos investigando c\u00f3mo los bots pueden afectar la coordinaci\u00f3n, la cooperaci\u00f3n, la comunicaci\u00f3n, la creatividad, la confianza, la navegaci\u00f3n, el compartir y la evacuaci\u00f3n. Y en nuestro laboratorio, no estamos enfocados en una IA superinteligente, como LLMs o AlphaGo, para reemplazar la cognici\u00f3n humana, sino m\u00e1s bien en una IA simple para complementar la interacci\u00f3n humana. No estamos tratando de inventar una IA superinteligente para reemplazar la cognici\u00f3n humana. Estamos inventando una IA simple para complementar la interacci\u00f3n humana. Y nuestra IA puede permitirse ser simple porque los humanos son inteligentes. Nuestra IA es como el platino a\u00f1adido a una reacci\u00f3n de qu\u00edmica org\u00e1nica. Es solo un catalizador. Todo lo que necesitamos es el catalizador para ayudar a un grupo de personas a ser mejor.<\/p>\n\n<p class=\"wp-block-paragraph\">Y, por supuesto, es importante reconocer que lo inverso tambi\u00e9n es posible. La IA social puede usarse para da\u00f1ar a grupos de personas. Pero nuestro enfoque ofrece una serie de otras ventajas t\u00e9cnicas y conceptuales. En primer lugar, estos bots simples son comprensibles y, por lo tanto, ilustran claramente poderes y oportunidades m\u00e1s amplias. A diferencia de los LLMs, que son una caja negra y no sabes lo que est\u00e1n haciendo, puedo decirte exactamente lo que nuestro bot est\u00e1 haciendo. [00:38:58] Es ruidoso. Est\u00e1 facilitando presentaciones. Est\u00e1 pasando mensajes de esta manera muy espec\u00edfica. Y en segundo lugar, nuestros experimentos controlados con bots tambi\u00e9n pueden proporcionar informaci\u00f3n sobre c\u00f3mo el comportamiento humano tambi\u00e9n podr\u00eda cambiar de manera beneficiosa. En otras palabras, puedo llevar esto del laboratorio y puedo ense\u00f1ar a un grupo de humanos a hacer lo que hicieron nuestros bots. De alguna manera, no puedes ense\u00f1ar f\u00e1cilmente a un grupo de humanos a hacer simplemente lo que ChachiPT hizo aqu\u00ed. No sabemos lo que ChachiPT est\u00e1 haciendo, pero sabes lo que est\u00e1n haciendo en nuestra situaci\u00f3n.<\/p>\n\n<p class=\"wp-block-paragraph\">As\u00ed que me gustar\u00eda cerrar, esta es mi \u00faltima diapositiva, con una met\u00e1fora. Considera estos dos objetos. Ambos est\u00e1n hechos de carbono. Si tomas los \u00e1tomos de carbono y los conectas de una manera, obtienes grafito, que es suave y oscuro. Toma los mismos \u00e1tomos de carbono y con\u00e9ctalos de otra manera, obtienes diamante, que es duro y claro. Y hay dos ideas intelectuales clave aqu\u00ed. En primer lugar, estas propiedades de suavidad y oscuridad y dureza y claridad no son propiedades de los \u00e1tomos de carbono. Son propiedades de la colecci\u00f3n de \u00e1tomos de carbono. Y en segundo lugar, qu\u00e9 propiedades obtienes depende de c\u00f3mo conectas los \u00e1tomos de carbono entre s\u00ed. Toma los mismos \u00e1tomos de carbono y con\u00e9ctalos de una manera, obtienes un conjunto de propiedades. [00:40:01] Con\u00e9ctalos de otra manera, obtienes un conjunto completamente diferente de propiedades. De manera similar, la naturaleza de nuestras conexiones afecta las propiedades de nuestros grupos sociales. Son los lazos entre las personas los que pueden hacer que el todo sea mayor que la suma de sus partes. Pueden surgir y expandirse nuevas propiedades, como la cooperaci\u00f3n y la violencia, la innovaci\u00f3n y la productividad, la confianza y la desconfianza, la verdad y la falsedad, la riqueza y la pobreza, la salud y la felicidad, debido a las conexiones, debido a los lazos entre las personas, y no necesariamente solo a causa de las personas mismas. De hecho, nuestra experiencia del mundo depende de la estructura y la funci\u00f3n de las redes que nos rodean, cerca y lejos. Y nuestra especie evolucion\u00f3 para que esto fuera as\u00ed. Y no deber\u00eda sorprendernos que respondamos a la IA en medio de nosotros. Muchas gracias.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Nicholas Christakis: [00:00:05] Muy bien, los seres humanos est\u00e1n integrados en redes sociales, y estas redes obedecen a principios matem\u00e1ticos, biol\u00f3gicos y sociales muy particulares. Y cada vez m\u00e1s, estamos a\u00f1adiendo inteligencia artificial en forma de agentes en l\u00ednea y robots f\u00edsicos entre nosotros que interact\u00faan con nosotros como si fueran entidades sociales. Y estos&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_kad_blocks_custom_css":"","_kad_blocks_head_custom_js":"","_kad_blocks_body_custom_js":"","_kad_blocks_footer_custom_js":"","_kad_post_transparent":"","_kad_post_title":"","_kad_post_layout":"","_kad_post_sidebar_id":"","_kad_post_content_style":"","_kad_post_vertical_padding":"","_kad_post_feature":"","_kad_post_feature_position":"","_kad_post_header":false,"_kad_post_footer":false,"_kad_post_classname":"","_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_post_was_ever_published":false},"categories":[796],"tags":[],"class_list":["post-3297","post","type-post","status-publish","format-standard","hentry","category-cultura-y-educacion"],"taxonomy_info":{"category":[{"value":796,"label":"Cultura y Educaci\u00f3n"}]},"featured_image_src_large":false,"author_info":{"display_name":"BoltAdmin","author_link":"https:\/\/bolteuropa.com\/es\/author\/boltadmin\/"},"comment_info":"","category_info":[{"term_id":796,"name":"Cultura y Educaci\u00f3n","slug":"cultura-y-educacion","term_group":0,"term_taxonomy_id":796,"taxonomy":"category","description":"lengua, historia, educaci\u00f3n, alfabetizaci\u00f3n medi\u00e1tica, intercambio cultural, universidades, iniciativas, filosof\u00eda p\u00fablica, identidad y civismo","parent":0,"count":2,"filter":"raw","cat_ID":796,"category_count":2,"category_description":"lengua, historia, educaci\u00f3n, alfabetizaci\u00f3n medi\u00e1tica, intercambio cultural, universidades, iniciativas, filosof\u00eda p\u00fablica, identidad y civismo","cat_name":"Cultura y Educaci\u00f3n","category_nicename":"cultura-y-educacion","category_parent":0}],"tag_info":false,"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/bolteuropa.com\/es\/wp-json\/wp\/v2\/posts\/3297","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bolteuropa.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bolteuropa.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bolteuropa.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bolteuropa.com\/es\/wp-json\/wp\/v2\/comments?post=3297"}],"version-history":[{"count":0,"href":"https:\/\/bolteuropa.com\/es\/wp-json\/wp\/v2\/posts\/3297\/revisions"}],"wp:attachment":[{"href":"https:\/\/bolteuropa.com\/es\/wp-json\/wp\/v2\/media?parent=3297"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bolteuropa.com\/es\/wp-json\/wp\/v2\/categories?post=3297"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bolteuropa.com\/es\/wp-json\/wp\/v2\/tags?post=3297"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}