Nicholas Christakis: [00:00:05] Alles klar, Menschen sind in sozialen Netzwerken eingebettet, und diese Netzwerke unterliegen sehr speziellen mathematischen, biologischen und sozialen Prinzipien. Zunehmend fügen wir künstliche Intelligenz in Form von Online-Agenten und physischen Robotern hinzu, die mit uns interagieren, als wären sie soziale Wesen. Und diese Arten von Agenten, die wir zu unseren Systemen hinzufügen werden, reichen von autonomen Autos auf den Straßen über Kassenautomaten in Geschäften bis hin zu humanoiden Robotern in Haushalten oder Fabriken oder auf Schlachtfeldern oder in Feuerbekämpfungssituationen, bis zu entkörperten autonomen Agenten wie Online-Bots und digitalen KI-Assistenten in unseren Handys oder unseren Brillen oder an unseren Arbeitsplätzen. Und diese Technologien interagieren mit uns auf einem gleichen Niveau, als wären sie menschlich. Und sie werden hybride Systeme von Menschen und Maschinen hervorbringen. Und diese Systeme bieten Chancen für eine neue Art sozialer künstlicher Intelligenz.
Lassen Sie mich Ihnen ein einfaches Beispiel dafür geben. Wenn Sie, sagen wir, einen digitalen Assistenten wie Alexa bekommen, sorgt der Hersteller dieses Geräts sehr dafür, wie die Mensch-Maschine-Interaktion funktioniert. Und diese Mensch-Maschine-Interaktion ist optimiert. Zum Beispiel würden Sie Alexa niemals kaufen, wenn Sie jedes Mal, wenn Sie etwas von ihr benötigen, sagen müssten: "Entschuldigen Sie, Alexa, es tut mir leid, Sie zu unterbrechen. Wenn es Ihnen nichts ausmacht, könnten Sie mir bitte das Wort sagen? [00:01:35] Wetter für morgen, richtig?" Das wäre ein absurdes Maß an Höflichkeit. Sie erwarten, einfach zu sagen: "Alexa, Wetter", und dann antwortet das Gerät gehorsam. Und das ist in Ordnung, bis Sie dieses Gerät in Ihr Haus bringen und Ihre Kinder mit diesem Gerät sprechen und unhöflich werden. Und dann gehen sie auf den Spielplatz und sind unhöflich zu anderen Kindern. Diese Maschine, die in unsere Mitte gebracht wurde, betrifft nicht nur die Mensch-Maschine-Interaktion, sondern auch die Mensch-Mensch-Interaktion in Anwesenheit von Maschinen. Was mich also interessiert, sind nicht nur die Mensch-Mensch-Interaktionen in der Präsenz von Maschinen. Wir können ein Verständnis der Struktur und Funktion sozialer Netzwerke nutzen, um die Verwendung und die Auswirkungen sozialer KI innerhalb und auf menschliche Gruppen zu bewerten, mit Blick auf Faktoren wie Vertrauen und Kooperation, die erforderlich sind, damit Menschen gemeinsam arbeiten können, und die das Verhalten dieser Kollektivitäten beeinflussen.
Lassen Sie mich einige der Arbeiten hervorheben, die wir leisten, indem wir verschiedene Ansätze zu Netzexperimenten mit künstlicher Intelligenz verwenden. Diese Experimente bewerten, wie KI die Struktur und Funktion menschlicher sozialer Interaktionen beeinflussen könnte. [00:02:45] Es gibt eine Klasse von Problemen des kollektiven Handelns in sozialen Interaktionen, die als Koordinationsprobleme bekannt sind. Das sind Probleme, bei denen wir zusammenarbeiten müssen, um etwas Nützliches zu schaffen. Manchmal lösen wir diese Probleme, indem wir zentrale Institutionen wie Polizei oder Gerichte oder Regierungen schaffen. Aber oft sind wir in der Lage, kollektive Handlungsprobleme zu lösen, die von uns verlangen, mit einer großen Anzahl von Menschen dezentral zu koordinieren oder zu kooperieren. Wir haben uns tatsächlich so entwickelt, dass wir diese Fähigkeit haben. Und eine spezifische Art von Kollektivhandlungsproblem, mit dem ich heute beginnen möchte, ist in der Tat die Koordination.
Um zum Beispiel diesen Stau zu vermeiden, müssen die Menschen koordinieren, um etwas anders zu machen als ihre Nachbarn. Wenn also alle gleichzeitig ihr Haus verlassen, steckt jeder im Stau fest. Wenn sie jedoch ihre Abfahrtszeiten ein wenig durcheinanderbringen und in Intervallen fahren, dann ist niemand im Stau. Natürlich könnte es eine Art zentrale Autorität geben, die dies koordiniert. Ihr kommt zuerst, dann ihr, und dann ihr. [00:03:45] Aber idealerweise möchte man eine Art dezentralen, nicht-top-down Weg, wie Menschen koordinieren, um dieses Problem zu lösen.
Hier war unser erstes Experiment, das 2017 veröffentlicht wurde und solche hybriden Systeme untersuchte, um zu erkunden, wie KI bei einer solchen Herausforderung helfen könnte. Wir untersuchten die Leistung menschlicher Gruppen, die an einer Koordinationsaufgabe beteiligt waren. Unser Paradigma war es, aus der Informatik etwas zu entleihen, das als Graphfärbungsproblem bekannt ist. Dies ist ein klassisches Problem in der Informatik. Was wir getan haben, ist, dass wir es genommen und Menschen in diese Situation gebracht haben. Wir haben also 4.000 Personen genommen und sie in 230 Online-Gruppen eingesetzt. Diese Menschen wurden in diese Gruppen platziert und zufällig einem Platz innerhalb eines künstlichen Netzwerks zugewiesen, das wir erstellt haben und dessen Struktur grob realen menschlichen Netzwerken ähnelte. Sie wurden an diesen Plätzen platziert und ihnen wurde gesagt, dass sie einer von drei Farben zugewiesen wurden, [00:04:46] ein Lila, Orange, Lila, Orange und Pink. Ihnen wurde gesagt, dass sie eine Farbe wählen mussten, die sich von der ihrer Nachbarn unterscheidet.
Und sie hatten fünf Minuten Zeit, um das zu tun. Also würden diese Leute umherblicken und ihre Nachbarn beobachten. Jede Person würde sich umsehen und sagen, dass dieser Typ hier pink ist. Er sieht, dass er einen pinken Nachbarn und einen orangefarbenen Nachbarn hat. Was er tun sollte, ist, die Farbe in lila zu wechseln. Und die roten Linien hier zeigen Farbkonflikte an. Mit anderen Worten, wenn die beiden Farben benachbarter Knoten gleich sind, bekommen sie eine rote Linie. Die lila Hintergrundlinien zeigen die Struktur der sozialen Interaktionen an. Also setzt du die Leute hier hinein. Sie schauen alle ein bis anderthalb Sekunden um sich, und sie machen einen Wechsel im Einklang mit dem Ziel, dass jeder von ihnen eine Farbe wählt, die sich von seinen Nachbarn unterscheidet, in den nächsten fünf Minuten. Und wenn sie das tun, dann und nur dann werden sie bezahlt. Ich werde euch bezahlen, um zusammenzuarbeiten. Und wenn ihr alle auf eine dezentrale Weise zusammenarbeitet, um das Problem zu lösen, bekommt ihr alle eine Bezahlung. Andernfalls bekommt ihr nichts, okay? Also, was in diesem Experiment passiert, ist folgendes. Hier auf der x-Achse ist die Zeit in Sekunden bis zur fünfminütigen Marke. [00:05:47] Das Spiel dauert fünf Minuten, hier irgendwo unten. Und hier auf der y-Achse ist die Ziel-Funktion oder die Anzahl der Farbkonflikte. Also gibt es hier zu Beginn 12 Farbkonflikte. Sie wurden zufällig ihren Anfangsfarben zugewiesen. Das wird hier in diesem kleinen Histogramm angezeigt. Und so beginnen die Leute, um sich zu schauen und ihre Farben zu wechseln. Sie wechseln und sie wechseln. Und sie erreichen diesen Punkt hier, an dem es jetzt einen Farbkonflikt zwischen diesen beiden Personen gibt. Und dieser Konflikt ist jedoch das, was wir einen unlösbaren Konflikt nennen. Die hellorangefarbenen Linien sind lösbare Konflikte. Das ist dieser Typ hier. Er kann einen Zug in lila machen, der den Konflikt löst. Aber diese Typen hier, die orange sind, können keinen Zug machen, der die Anzahl der Farbkonflikte in ihrer Nachbarschaft verringert, richtig? Dieser Typ kann nicht nach lila wechseln, da er tatsächlich, wenn er zu lila wechselt, mehr Konflikte haben wird. Er hat etwa vier lila Nachbarn. Und er kann nicht zu pink wechseln, weil er zwei pinke Nachbarn hat. Also schaut er und sagt, dass der geringste Konflikt, den ich habe, ist, einfach orange zu bleiben. Also ist diese Gruppe jetzt festgefahren, richtig? [00:06:49] Sie haben einen unlösbaren Konflikt und es kann nichts geschehen. Kein Fortschritt kann in der Lösung des Problems des kollektiven Handelns gemacht werden, bis einer dieser beiden Menschen einen kontraintuitiven Schritt macht, die Farben zu lila oder pink wechselt und vorübergehend die Konflikte erhöht. Und genau das passiert. Und dann vergeht Zeit, und die Menschen lösen das Problem nach 245 Sekunden. Die Maschine erkennt die Lösung, stoppt das Spiel und bezahlt sie, okay?
Jetzt, weil wir heimlich waren, haben wir einige Experimente durchgeführt, bei denen wir heimlich einige der Menschen durch Bots ersetzt haben. Und wir haben bewertet, wie die Hinzufügung von KI-ausgestatteten Bots zur Schaffung eines hybriden Systems die Gruppenleistung beeinflusste. Ist es möglich, Bots zu menschlichen Gruppen hinzuzufügen und deren Fähigkeit zur Koordination bei solchen Herausforderungen zu verbessern? Was wir gemacht haben, ist, dass wir drei Bots hinzugefügt haben, und wir haben experimentell zwei Achsen variiert. Wo die Bots platziert wurden, wo sie zufällig ins Netzwerk fielen, ob sie ins [00:07:51] Zentrum des Netzwerks oder an die Peripherie des Netzwerks gesetzt wurden. Und wir haben ihre AI-Kapazität hier auf eine sehr triviale und einfache Weise zufällig manipuliert. Nämlich haben wir manipuliert, ob die Bots perfekt oder mit ein wenig Rauschen agierten.
In der Perfektion-Situation schauten die Bots alle anderthalb Sekunden bei ihren Nachbarn vorbei und wählten dann die Farbe, die die wenigsten Konflikte mit ihren Nachbarn hatte. Was man als irrationales Verhalten betrachten könnte. In der 10%-Rauschen-Situation taten sie das, aber 10% der Zeit wählten sie eine zufällige Farbe. Und in der 30%-Rauschen-Situation taten sie das, aber 30% der Zeit wählten sie eine zufällige Farbe. Also haben wir die Bots, sagen wir, immer fehleranfälliger gemacht, immer rauschhafter.
Und dann haben wir geschaut, wir hatten, ich denke, so etwas wie eine Kontrollgruppe. Wir haben hier auf der x-Achse die Zeit aufgetragen, und das sind Überlebenskurven. Auf der y-Achse ist die Wahrscheinlichkeit, dass die Gruppe insgesamt das Koordinationsspiel nicht gelöst hat. Wenn Sie sich hier umsehen, zum Beispiel am Anfang, zur Zeit Null, sind 100% der einzigen Menschengruppen, die Sitzungen mit nur Menschen sind, in Orange. Zu Beginn haben 100% der nur menschlichen Gruppen das Spiel nicht gelöst. Und dann, mit der Zeit, lösen immer mehr der Menschengruppen das Spiel, sodass nach fünf Minuten vielleicht 60% der nur menschlichen Gruppen das Spiel gelöst haben.
Nun, was passiert, ist, wenn Sie 10% rauschende Bots in die zentrale Position des Netzwerks einsetzen, erhalten Sie merklich verbesserte Leistung. Hier konnten erheblich mehr Gruppen der Menschen, als die Bots, die ein wenig Rauschen hatten, in die Mitte hinzugefügt wurden, das Problem lösen. Tatsächlich reduzierten sie die mediane Lösungszeit von 232 Sekunden auf 103 Sekunden. Und es gibt auch andere Erkenntnisse in diesen Daten. Perfekte Bots und übermäßig rauschende Bots waren beide nicht hilfreich. Sie benötigten eine gewisse Kalibrierung. Es waren die 10% rauschenden Bots, die am hilfreichsten waren. Und auch die Position der Bots hatte einen gewissen Einfluss. Aber entscheidend in diesen Experimenten fanden wir auch, dass Menschen, die nicht mit den Bots verbunden waren, [00:09:52] die weiter weg im Netzwerk waren. In den Grafiken gab es einige Leute, die mit den Bots verbunden waren, und dann einige andere, die es nicht waren. Wir stellten fest, dass selbst diese Personen begannen, ihre Spielweise zu ändern. Es gab also einen Welleneffekt, einen Kaskadeneffekt. Die Vorteile, wie der Bot mit seinen Menschen interagierte, breiteten sich durch das Netzwerk aus und begannen, die Interaktionen zwischen Menschen, die immer weiter vom Netzwerk entfernt waren, zu beeinflussen. Mit anderen Worten, die Bots halfen den Menschen, sich selbst zu helfen, und die Vorteile des Rauschens verbreiteten sich innerhalb dieses sozialen Systems.
Lass mich nun weitere Ideen zu dieser kollektiven Herausforderung und wie diese einfachen KI-Agenten helfen könnten, mit einer anderen Analogie festigen. Stell dir vor, du hast eine Ebene. Das ist wie beim Gradientenabstieg im maschinellen Lernen, zum Beispiel. Du hast eine Ebene, und du hast Hügel und einen Berg. Und du hast verschiedene Hügel, okay, von unterschiedlicher Höhe. Und du hast einen Berg, der da oben ist, das ist der höchste Berg. Ich werde vier von euch nehmen und euch irgendwo hier absetzen, und ich werde euch zusammenschließen, jeder von euch schaut in eine andere Himmelsrichtung, [00:10:54] und ich werde euch die Augen verbinden. Und ich werde sagen, findet den höchsten Berg. Also redet ihr unter euch und sagt: Warum machen wir nicht jeweils einen Schritt in unsere Richtung und berichten dem Team? Also macht ihr einen Schritt nach Norden, und ihr sagt, es geht hier bergauf. Und Süden sagt, es geht hier bergab. Und Osten und Westen sagen, es geht hier seitlich. Also einigt ihr euch, lasst uns einen Schritt nach Norden machen. Und ihr macht dies iterativ weiter, bis ihr an einen Punkt erreicht, an dem ihr alle sagt, es geht hier bergab.
Habt ihr den höchsten Berg gefunden? Nein. (...) Was habt ihr gemacht? Ihr habt den nächstgelegenen Hügel gefunden.
Wirst du jetzt jemals den höchsten Berg finden? Nein. Du wirst den höchsten Berg niemals finden. Du bist festgefahren. Du bist lokal optimiert, aber global sub-optimiert. Und um global zu optimieren, brauchst du ein wenig Lärm. Du musst gelegentlich zulassen, dass diese Gruppe von Menschen einen kontraintuitiven Schritt den Berg hinunter oder den Hügel hinunter macht. Manchmal machen sie zufällig eine Reihe von Schritten, bis sie wieder auf die Ebene kommen. Und dann navigieren sie all around this fitness landscape, indem sie all diese Gipfel erkunden, bis sie auf diesem Gipfel landen. [00:11:56] Und dieser hohe Gipfel tendiert, das globale Optimum, tendiert dazu, ein Empfangszustand zu sein, weil es viel mehr Lärm braucht, um von diesem Gipfel wegzukommen als von anderen Gipfeln. Und so schwingst du nun um das globale Optimum. In unserer Arbeit haben wir dieses einfache Programm in soziale Systeme eingefügt, um zu sehen, ob wir die Leistungsfähigkeit von Menschen bei der Bewältigung verschiedener Arten von kollektiven Aktionsproblemen verbessern können.
Jetzt besteht ein weiteres kollektives Handlungsproblem aus einer anderen Herausforderung, nämlich der Kooperation, nicht der Koordination. Menschen müssen oft zusammenarbeiten, um das zu produzieren, was als öffentliches Gut bekannt ist. Ein Leuchtturm ist ein klassisches Beispiel für ein öffentliches Gut. Öffentliches Gut hat zwei charakteristische Merkmale. Zunächst einmal heißt es, dass es nicht ausschließbar ist. Und das bedeutet, dass andere Personen nicht davon abgehalten werden können, es zu nutzen. Wenn du einen Leuchtturm für deinen eigenen persönlichen Nutzen baust, weil du die Meere navigierst und nicht gegen die Küste fahren willst, ist das großartig für dich, aber du kannst niemanden davon abhalten, ihn zu nutzen, okay? Nicht ausschließbar. [00:12:58] Und außerdem ist es nicht rivalisierend. Das bedeutet, dass der Konsum durch eine Person den Konsum durch andere nicht verringert. Wenn ich das Licht von meinem Leuchtturm benutze, gibt es kein weniger Licht für dich zur Verfügung. Und das ist im Gegensatz zu einem Stück Kuchen. Wenn ich ein Stück Kuchen habe, gehört es mir, richtig? Ich kann dich daran hindern, es zu essen. Und wenn ich es esse, ist nichts mehr für dich da, okay? Öffentliches Gut hat diese Merkmale, und gerade diese Merkmale machen es sehr schwierig, öffentliche Güter zu produzieren. Denn wenn es darum geht, einen Leuchtturm zu bauen, ist es sehr verlockend, deine individuellen Interessen gegen die Gruppe auszuspielen. Wenn du nicht zum Bau des Leuchtturms beiträgst, kannst du trotzdem davon profitieren. Und so wird jeder versucht, nichts zu tun, und dann wird der Leuchtturm nicht gebaut, was allen schadet. Und es ist auch wichtig zu betonen, dass öffentliche Güter nützlich sind, weil man tatsächlich Dinge damit produzieren kann, wie beispielsweise sicheres Reisen auf See. Insofern ist die Unterinvestition in öffentliche Güter ein ernstes Problem in unserer Gesellschaft und wird auch als Tragödie der Allmende bekannt. Diese öffentlichen Güter, zum Beispiel Normen des Vertrauens, die wir untereinander pflegen, sind effizient. [00:14:01] Denk daran, als du in der High School warst. Einige von euch gingen auf eine High School, in der die Schüler einander vertrauten, und das bedeutete, dass du deinen Rucksack im Flur unbeaufsichtigt lassen und dir keine Sorgen machen konntest, dass ihn jemand stiehlt. Andere von euch gingen auf High Schools, in denen es nicht die gleichen Vertrauensnormen gab, und jetzt musstest du deinen Rucksack abschließen oder immer bei dir behalten. In welcher dieser beiden Umgebungen denkst du, hättest du besser gelernt? Richtig? In der ersteren Umgebung. Diese Norm, die kollektiv aufrechterhalten wird, ist produktiv. In diesem Fall produktiv für das Lernen. Hier, produktiv für sicheres Reisen auf See und so weiter.
Die Zusammenarbeit in menschlichen Gruppen zur Produktion öffentlicher Güter ist herausfordernd, und es sind verschiedene Mechanismen erforderlich, um sie aufrechtzuerhalten. Wir haben viele Experimente durchgeführt, bei denen Menschen in Netzwerkggruppen platziert wurden und gebeten wurden, verschiedene Arten von Spielen zu öffentlichen Gütern mit ihren Nachbarn zu spielen, während wir über die Jahre viele strukturelle und andere Merkmale manipulatorisch beeinflussten. Zum Beispiel haben wir vor vielen Jahren mit einem Experiment begonnen, bei dem Menschen in ein Netzwerk wie dieses eingeordnet wurden. Sie wurden ihren Nachbarn vorgestellt, und sie spielten ein Spiel über öffentliche Güter, das aus der Verhaltensökonomie stammt, [00:15:03] in dem ich einen kleinen Betrag Geld an jeden meiner Nachbarn geben konnte. Ich nehme einen Dollar und teile ihn unter meinen Nachbarn auf. Dann verdoppeln die Wissenschaftler den Dollar. Angenommen, ich habe vier Nachbarn. Sagen wir, ich habe drei Nachbarn, und ich gebe einen Dollar an die Gruppe. Es wird zu zwei Dollar. Diese zwei Dollar werden unter uns vieren aufgeteilt. Die gesamte Gruppe gewinnt an Reichtum in Höhe von zwei Dollar, aber ich erhalte nur 50 Cent zurück. Die zwei geteilt durch die vier, ich bekomme 50 Cent zurück. Daher muss ich ein Opfer für das Wohl anderer bringen. Natürlich sagt jeder: Ich will kein Opfer bringen. Lassen wir jeden anderen Trottel das Geld geben. Ich werde nichts geben, und hoffentlich werden andere beitragen. Aber natürlich, wenn jeder das tut, kommt es wieder zu einem Zusammenbruch. Das beste Verhalten ist, wenn alle maximal beitragen. In dieser Situation beginnen wir das Spiel. Die blauen Punkte sind die, die netten kooperativen Leute. Sie geben maximal an ihre Nachbarn und schaffen öffentliche Güter wie den Bau des Leuchtturms. Und die roten Punkte sind die Ausbeuter, die keine Beiträge leisten, auch bekannt als die Defektoren. Was wir in diesem Experiment feststellen, ist, dass wir ein Ergebnis reproduzieren, das seit 30 Jahren bekannt ist, [00:16:03] dass die Zusammenarbeit in Gruppen zusammenbricht. Am Ende des Spiels, mehrere Runden später, wird fast jeder zu einem Defektoren, außer diesen kleinen blauen Leuten hier am Rand, die die Zivilisation untereinander am Leben erhalten. Man kann auch wieder an die High School für die Studenten denken. Erinnern Sie sich an die Situation, in der Ihr Wissenschaftslehrer vier von Ihnen beauftragt hat, ein Gruppenprojekt zu machen, und Sie bekamen die gleiche Note. Und Sie wurden mit drei anderen Losern gekoppelt. Jetzt haben Sie zwei Möglichkeiten. Entweder Sie machen die ganze Arbeit und sie bekommen auch A's, weil Sie ein A wollen. Oder Sie sagen, das ist lächerlich. Ich möchte nicht, dass diese faulen Typen von meiner harten Arbeit profitieren. Und Sie sagen: Ich werde auch nichts tun, und alle erhalten F's, richtig? Das ist ein schreckliches Dilemma. Was hier passiert, ist, dass Menschen letztendlich die letztere Option wählen. Sie entscheiden sich alle, F's zu bekommen, weil sie nicht die Trottel sein wollen, die weiterhin beitragen. Also bricht die Zusammenarbeit in sozialen Systemen im Allgemeinen zusammen. Aber was wir getan haben, ist wieder, dass wir einige, wenn auch andere Bots in das System eingefügt haben. Wir haben einige Bots hinzugefügt, die mit sehr einfachen A ausgestattet waren. [00:17:05] Diese Bots waren wie kleine Heiratsvermittler. Sie vermittelten soziale Interaktionen. Sie schauten sich lokal um, wer mit wem interagierte, und gaben den Menschen im System Vorschläge. Wissen Sie was? Sie sollten die Verbindung zu diesem Defektoren, der von Ihnen profitiert, auflösen und stattdessen zu diesem netten Typ hier drüben eine Verbindung aufbauen. Und dieser sanfte Ratschlag zur Umverkabelung, der nur lokales Wissen nutzt. Es gibt keinen Lehrer, der die Leute zum Nettsein anordnet. Keine Polizei. Kein Gericht. Keine zentrale Autorität, die dies durchsetzt. Nur auf lokales Wissen basierend haben wir festgestellt, dass diese Bots in unseren Experimenten mit über 1.000 Menschen in 64 Gruppen nicht nur die Zusammenarbeit stabilisieren konnten, sondern zum ersten Mal in der Geschichte haben wir gezeigt, dass die Zusammenarbeit tatsächlich über die Basislinie ansteigen konnte, als diese Art von Bots hinzugefügt wurde. Und DeepMind hat unsere Ergebnisse anschließend repliziert und in einem weiteren Papier, das etwa ein Jahr oder zwei nach diesem Papier erschienen ist, erweitert.
In einem weiteren Experiment haben wir untersucht, wie Bots die Kreativität in Gruppen beeinflussen könnten. [00:18:07] Denn neue Ideen zu finden, ist schwer. Theorien und Experimente deuten darauf hin, dass Gruppen besser in der Lage sein könnten, Innovationen zu identifizieren und zu bewahren, als Einzelpersonen, indem sie ihre Entdeckungen teilen.
Aber Innovation innerhalb von Gruppen steht vor eigenen Herausforderungen, einschließlich Gruppendenken. Richtig? Wenn Sie eine Gruppe von Menschen zusammenbringen, können sie frühzeitig auf einer suboptimalen Idee konvergieren.
Oder Sie könnten sich vorstellen, dass eine Gruppe von Menschen kollektiv mehr Weisheit haben könnte und in der Lage ist, mehr Ideen zu entwickeln. Zum Beispiel, wenn Sie einer Gruppe von Menschen die Aufgabe geben, eine Angelrute zu perfektionieren, könnte die erste Person sagen: Nun, warum fügen wir nicht einen Haken am Ende einer Schnur hinzu? Und dann hält die Person die Schnur mit einem Haken. Und jemand sagt: Warum fügen wir nicht einen Stock zur Schnur hinzu? Oh, das ist eine großartige Idee. Also kombinieren sie ihr Wissen und tun das. Und jemand sagt: Nun, der Köder mit dem Haken schwimmt an der Oberfläche. Lassen Sie uns eine Welle hinzufügen, damit er nach unten geht. Nun, jetzt geht es zu weit nach unten. Wie wäre es, wenn wir einen Schwimmer hinzufügen, damit wir wissen, wo er ist, und so weiter. Und die Leute innovieren, teilen Wissen untereinander, bewahren Wissen über die Zeit, [00:19:08] und Sie erhalten diese kulturellen Artefakte, die das zusammengesetzte Produkt von mehreren Menschen sind, die Ideen teilen und kreativ sind.
Wir wollten ein Spiel entwickeln, in dem Gruppen von Menschen eine Landschaft nach einer optimalen Idee durchsuchen. Und wir beschlossen, Nomen als Stellvertreter für Ideen zu verwenden. Wir nahmen 20.000 Nomen aus dem klassischen Word-to-VEC-Korpus der Informatik. Also haben wir 20.000 Nomen genommen. Und der Abstand zwischen diesen Nomen könnte durch die Kosinusähnlichkeit definiert werden. Man kann sich einen hyperdimensionalen Vektorraum vorstellen, in dem „Katze“ ähnlicher zu „Hund“ ist als zu „Schreibtisch“. Und die Art, wie sie das getan haben, war, dass sie schauten, wie oft die Wörter „Katze“ und „Hund“ auf Websites gemeinsam auftauchten. Sie hatten ein Universum von Websites und ein Universum von 20.000 Nomen. Und sie sagten, diese beiden Nomen tauchen oft gemeinsam auf, und diese beiden anderen Nomen tauchen nicht oft gemeinsam auf. Sie schufen einen 300-dimensionalen Vektorraum. [00:20:08] Und jetzt kann man beschreiben, wie ähnlich zwei Nomen sind. Wir beschlossen, Nomen als Stellvertreter für Ideen zu verwenden. Wir nahmen diese 20.000 Nomen. Und dann wählten wir eine Menge von Nomen aus. Stellen Sie sich vor, wir wählten ein Nomen aus, aber wir wählten eine Menge. Ein Nomen zufällig aus all diesen, wie zum Beispiel „braggadocio“, war ein Nomen. Also wählten wir „braggadocio“. Und wir sagen, das ist die perfekte Idee, die wir für diese Gruppe von Menschen finden wollen. Und dann fallen alle Nomen, die in diesem Vektorraum nahe „braggadocio“ liegen, weg. Sie haben das Spitzen-Nomen, das die meisten Punkte bekommt, 20.000 Punkte, und alle anderen Nomen zu den am weitesten entfernten Nomen. Und wir setzen Menschen in dieses System und sagen: Finde dieses Wort. Wir sagen ihnen nicht das Wort. Und dann sagen wir ihnen den Punktwert der Wörter. Also fangen sie an zu raten. Und während sie raten, bekommen sie Feedback. Und sie sagen: „Ah, dieses Wort hat mehr Punkte als ein anderes Wort.“ Und sie kommen näher und näher und beginnen, das Wissen miteinander zu teilen. Sie versuchen, kreativ zu sein, um das Problem zu lösen.
Jedes Substantiv ist mit anderen in einem semantischen Raum oder einer unpassenden Landschaft verbunden. [00:21:10] Wir hatten 18 verschiedene Zielsubstantive, als hätten wir einen Gipfel aus der Landschaft dieser 20.000 Substantive an 18 verschiedenen Orten in 18 verschiedenen Landschaften herausgezogen. Diese Substantive waren absichtlich ungewöhnlich, wie Brudermord, Schuhanzieher, Sarkom, Kartographie usw. Dann führten wir Experimente durch, die mehrere Bedingungen umfassten, bei denen Menschen allein versuchten, sich in der Landschaft zurechtzufinden, bei denen Menschen in Gruppen zusammenarbeiteten, um sich in der Landschaft zurechtzufinden, oder bei denen Menschen in Gruppen waren, aber auch einige Bots dabei hatten, die versuchten, ihnen zu helfen, kreativ zu sein. Und die Bots funktionierten, weil sie Informationen von einer Region des Netzwerks zur anderen weitergeben konnten, indem sie miteinander kommunizierten. Zum Beispiel konnte Bot Nummer zwei das Wort Himmel oder Auto an Bot Nummer eins weitergeben. Hier ist ein Beispiel für ein Netzwerk.
Wir bringen die Leute hinein. Die quadratischen Punkte sind Bots. Und dieser Bot hat vier Interaktionen und dieser Bot hat, ich weiß nicht, sechs oder sieben Interaktionen. Die Menschen beginnen am Anfang zu raten. [00:22:12] Sie haben in der ersten Runde des Spiels überhaupt keine Grundlage für eine Vermutung. Sie raten Himmel, Auto, Kaninchen, Ratte, Hund, Katze, Schreibtisch. Wenn ich euch gefragt hätte, wählt ein Substantiv zum Raten, hättet ihr Haus oder Sonne oder Mond oder Katze oder Hund oder ein kleines typisches Substantiv geraten. Und jetzt wird ihnen der Punktwert mitgeteilt, wie ähnlich das Wort Ratte, Hund, Katze, Schreibtisch usw. dem Wort Sarkom ist. Und ihnen wird der Punktwert dieser Substantive in Relation zu dem Zielsubstantiv, das Sarkom ist, mitgeteilt. Und dann werden diese Punktwerte ihnen verkündet. Und dann kann dieser Bot die Punktwerte der Menschen um ihn herum betrachten und entweder eine zufällige Wahl an diesen Bot weitergeben oder den höchsten Punktwert oder den niedrigsten Punktwert, eine Art Hintertürkommunikation, die Informationen von einer Region einer Gruppe von Menschen, die versuchen, das Problem zu lösen, zu einer anderen Region verbreitet. Schauen wir uns einige Beispiele an, um das zu verdeutlichen, denn das kann schwer zu verstehen sein. Die Leute haben dieses Spiel etwa 25 Runden gespielt. Und hier ist die Kosinus-Ähnlichkeit mit einem Zielsubstantiv, das das Wort Fraterzid ist. Okay, also sind da 20.000 Substantive. [00:23:13] Das Fraterzid hat 20.000 Punkte. Und die anderen Wörter haben andere Punkte. Und hier ist eine Einzelperson, eine Person, die allein rät. Ihr erster geratenes Wort ist Bit. Und ihnen wird gesagt, wie ähnlich das Wort Bit dem Fraterzid ist. Dann ist ihr nächstes Wort die Geburt. Und sie bekommen einen großen Anstieg in der Kosinus-Ähnlichkeit, weil man sich vorstellen kann, dass das Wort Geburt näher am Wort Fraterzid ist als das Wort Bit. Okay? Und dann raten sie. Sie versuchen es als nächstes mit Geld. Das ist schlechter. Dann probieren sie es mit Affe. Das ist noch schlechter. Sie überprüfen. Sie machen einen Realitätscheck. Sie versuchen Geburt. Es steigt wieder. Dann versuchen sie Baby. Das ist keine schlechte Vermutung. Geburt zu Baby. Aber Baby bringt sie weiter weg vom Fraterzid. Und dann Dame usw. Und sie navigieren. Und sie raten. Und sie raten. Und sie kommen am Ende nicht annähernd an das Fraterzid heran. In dieser anderen Situation haben wir eine Gruppe von Menschen, aber keine Bots. Und nun können die Menschen, zusätzlich zu ihren eigenen Vermutungen, die Vermutungen der Menschen um sie herum sehen. Und auf den Ideen der anderen aufbauen. Okay? Zusammen erstellt. Wie beim gemeinsamen Angeln. [00:24:13] Diese Person, ihr erstes Wort ist Hund. Aber ihr nächstes Wort ist Schild. Man sieht, dass Schild näher am Fraterzid ist als Hund. Und diese Person rät und rät und erhält Input von seinen Nachbarn. Und am Ende kommt er näher und näher. Er endet bei dem Wort Gegner. Okay? Tatsächlich war Soldat seine beste Vermutung. Hatte während seines Verlaufs den höchsten Punktwert.
Wie hat das Hinzufügen der Bots also einen Unterschied gemacht? Dies zeigt erneut die Zusammenfassung der Ergebnisse. Auf der x-Achse ist die Runde. Auf der y-Achse befindet sich die durchschnittliche Kosinus-Ähnlichkeit in diesem hyperdimensionalen Vektorraum, die ein Maß für die Gruppenleistung ist. Hier ist eine Gruppe von Menschen, die agieren und alleine raten. Also die Menschen, die alleine raten, schneiden nicht sehr gut ab, oder? Es ist einfach Glück, ob sie irgendwie eine Antwort finden können oder vielleicht eine angeborene Fähigkeit jedes einzelnen Menschen. Mit der Zeit werden sie ein wenig besser und kommen näher. Alle Gruppen übertreffen die Einzelgänger. Und dies ist ein altes Ergebnis, das bekannt ist. Eine Gruppe von Menschen ist kreativer als eine ansonsten ähnliche Gruppe von Einzelpraktikern. Aber was wir feststellen, ist, dass wenn wir den ähnlichsten Bot hinzufügen, den Bot, der seine Nachbarn betrachtet hat, [00:25:17] und herausfand, was deren lokale Zustimmung zu diesem Thema ist? Meine Menschen scheinen zu denken, dass dies ein gutes Wort ist. Und dann wird es an den Bot an einem entfernten Punkt im Netzwerk weitergegeben. Dieser Bot hat die Leistung dieser Gruppe von Menschen wesentlich verbessert, um eine Entdeckung zu machen. Sie sollten sich vorstellen können, wie das in einer Gruppe von Ingenieuren oder anderen Wissensarbeitern funktionieren könnte. Wie man Wissen auf effiziente Weise verteilen kann, um Gruppendenken zu vermeiden und Kreativität zu fördern, indem man Bots entwirft, die den Menschen helfen, sich selbst zu helfen. Der Bot hier hat kein Gehirn. Er schlägt keine Ideen vor. Er hilft einfach den Menschen, die Ideen untereinander zu verbreiten.
So können einfache KI-Agenten mit interpretierbarem Verhalten die Fähigkeit zur kreativen Entdeckung in Menschengruppen verbessern, indem sie Ideen teilen, um die es in einem Teil der Gruppe lokale Zustimmung gibt, mit Menschen in einem entfernten Teil der Gruppe. Und als Ergebnis kann die Gruppe besser abschneiden.
Jetzt haben wir auch begonnen, mit physikalischen Systemen zu experimentieren. Und wir haben humanoide und nicht-humanoide Roboter [00:26:19] mit einfacher KI ausgestattet, um in direkten Gruppen mit Menschen zu interagieren und gezeigt, wie sie es erleichtern können, dass Gruppen von Menschen zusammenarbeiten, indem sie ihnen helfen, Reibungen oder Unfähigkeit zur Kooperation in ihren Interaktionen zu überwinden. Eines meiner Lieblingsbeispiele dafür ist ein Experiment, das ich mit meiner ehemaligen Graduiertenstudentin Maggie Traeger durchgeführt habe, die dort hinten sitzt und jetzt Assistenzprofessorin an der University of Notre Dame ist. In diesem Experiment haben wir drei echte Menschen, die ins Labor kamen, und einen humanoiden Roboter genommen. Und wir haben ein kleines Spiel entworfen, ein kleines Eisenbahnschienen-Spiel, das auf einem Tablet-Computer gespielt wird, und diese Gruppe von Menschen und einem Roboter hatte die Aufgabe, Eisenbahnschienen von Punkt A nach Punkt B zu verlegen, wie kleine Eisenbahnschienen von Thomas, der Tankengine. Dann haben wir ihnen einige Teile gegeben, aus denen sie auf dem Tablet wählen konnten, wie gerade und gebogene Stücke. Aber wir haben gelegentlich so getan, als ob es eine Mischung aus Stücken gäbe und dass sie prinzipiell von Punkt A nach Punkt B kommen sollten. Wir haben es hinterhältig so gestaltet, dass nicht die richtige Anzahl von Kurven vorhanden war, um ihnen zu ermöglichen, von Punkt A nach Punkt B zu gelangen. [00:27:21] Also konnten sie es nicht tun. Sie konnten das Problem unbeachtet nicht lösen. Okay? Zuerst nahm jede Person abwechselnd einen Zug, um ein Stück Schiene zu verlegen, dann die nächste Person und die nächste Person. Sie arbeiten zusammen, um Punkt A mit Punkt B auf ihren Tablets zu verbinden.
Und was wir in diesem Experiment gemacht haben, ist, dass wir manipuliert haben, und sie spielten 30 Runden dieses Spiels in dieser virtuellen Welt, und wir hatten 51 Gruppen. Wir haben den Gesprächsstil der Roboter manipuliert, speziell ob der Roboter Verletzlichkeit ausdrückte, indem er einen Fehler eingestand. Der Roboter sagte, wissen Sie, ich habe einen Fehler gemacht. Oder ob der Roboter Dad-Jokes erzählte. Ich nehme an, jeder weiß, was Dad-Jokes sind. Okay. Wir ließen den Roboter auch erzählen, übrigens ist das ein kulturelles Universum, wie Anthropologen im Amazonas-Dschungel untersucht haben, haben auch die Väter dort Dad-Jokes erzählt. Und die Kinder sagen: Ich kann nicht glauben, dass Dads dumme Witze. Aber wie auch immer, und tatsächlich gibt es eine Theorie darüber, was Dad-Jokes bewirken sollen, um die Kinder in gewisser Weise abzuhärten. Das ist eine Theorie. Aber wie auch immer, das ist ein ganz anderes Thema. Wie auch immer, wir ließen unsere Roboter Dad-Jokes erzählen oder Verletzlichkeit ausdrücken. [00:28:21] Und was uns interessiert hat, war herauszufinden, ob Veränderungen in der Robotersprache die Macht hatten, nicht nur zu beeinflussen, wie Menschen mit Robotern interagieren, sondern auch, wie die Menschen miteinander interagieren. Und nochmals, das bietet die Aussicht, soziale Interaktionen durch die Einführung von künstlichen Agenten in hybride Systeme von Menschen und Maschinen zu verändern.
Hier ist ein kleines Beispiel, und ich habe euch die Ergebnisse nicht gesagt. Hier sind wir, wenn wir haben, die Dicke dieser Linien deutet darauf hin, wie viel Person zwei mit Person eins spricht und umgekehrt. Person eins spricht nicht viel mit dem Roboter. Das ist eine dünne Linie. Wenn man neutrale Roboter hat, erhaltet man dieses Muster. Aber wenn man den verletzlichen Roboter hat, werden all diese Linien dicker und gleichen sich an. Wir haben festgestellt, dass ein verletzlicher Roboter die Gleichheit der Sprache unter den Menschen erhöht, das Volumen der Sprache unter den Menschen steigert und tatsächlich, in separaten Ergebnissen, [00:29:22] die Zufriedenheit der Menschen in dieser Art von Umgebung erhöht.
Hier ist ein Clip aus zwei verschiedenen Runden, der veranschaulicht, dass der Roboter zuerst in neutraler Weise spricht, im Passiv, was die menschliche Kommunikation nicht viel beeinflusst. Der Roboter sagt auf eine sehr Reagan-artige Weise, es wurde ein Fehler gemacht.
In der nächsten Runde sagt der Roboter, ich habe einen Fehler gemacht. Und man kann einfach sehen, was hier passiert. Mal schauen, ob wir das zum Laufen bringen. (25 Sekunden Pause) Über viele, viele Dutzend Durchläufe finden wir dieses Muster. Eine einfache Manipulation, eine einfache Manipulation im Sprachmuster des Roboters verändert, wie die Menschen miteinander interagieren. [00:30:25] Und ich nehme an, es braucht nicht viel, um sich vorzustellen, wie die gesamte Art und Weise, wie wir unsere Chatbots und alles andere gestalten, nicht nur das Beispiel mit Alexa beeinflussen könnte, sondern auch, wie wir uns gegenseitig behandeln. Die Menschen scheinen sich mehr zu vertrauen und in dieser Situation mehr Spaß zu haben.
Jetzt ist hier noch ruhig, und ich denke, dies ist das letzte Experiment, das ich Ihnen zeigen werde, und danach werde ich mit einem weiteren Experiment abschließen. Wir haben eine neuartige cyber-physische Plattform entwickelt, um die sozialen und tatsächlich ethischen Effekte einfacher Arten von KI zu testen. Aufgrund der Natur von kollektiven Handlungsproblemen könnte die Einbeziehung von KI in menschliche Gruppen paradoxerweise und unbeabsichtigt bestehende vorteilhafte soziale Normen bei Menschen unterdrücken, wie zum Beispiel jene, die Kooperation und Altruismus betreffen, die wir als Spezies entwickelt haben. Wir haben also Hunderte von Tausenden Jahren natürliche Selektion, die an uns gearbeitet hat, um uns in die Lage zu versetzen, kollektive Handlungsprobleme zu lösen. Die Frage ist also, wenn wir einen Teil dieser Handlungsmacht Maschinen delegieren, werden wir dann die Fähigkeit verlieren, gemeinsam zu arbeiten, um diese Probleme zu lösen? [00:31:32] Werden wir anfangen, uns auf diese Maschinen zu verlassen, und dadurch unsere angeborene Fähigkeit zur Kooperation und Koordination und Schaffung usw. verringern? In diesem Experiment, in Zusammenarbeit mit Hiro Shirato an der CMU, einem weiteren ehemaligen Doktoranden von mir, haben wir eine Plattform gebaut, die aus zwei kleinen Raspberry Pi-gesteuerten mechanischen Fahrzeugen besteht, und wir haben sie mit einer Software verbunden, die es uns ermöglicht, Online-Experimente in großem Maßstab zu organisieren. Die Menschen befanden sich in ihren eigenen Häusern und wurden einem dieser Autos zugewiesen, und sie steuerten diese Autos aufeinander zu.
und wir haben sie das Spiel Huhn spielen lassen. Also im Huhn-Spiel, wissen Sie, derjenige, der am schnellsten auf die andere Seite kommt, gewinnt. Man wird also dazu angeregt, dem anderen nicht nachzugeben. Aber wenn jeder von Ihnen beschließt, nicht nachzugeben, dann prallen Sie zusammen, und beide erhalten die schlechteste Rendite. Was Menschen in dieser Situation tun würden, wenn sie ein wiederholtes Huhn-Spiel spielen, ist, dass sie schnell lernen, sich abzuwechseln. Diesmal ist es Ihre Runde, geradeaus weiterzufahren, ich werde an den Rand fahren und Sie lassen, aber beim nächsten Mal fahren Sie an den Rand und lassen mich geradeaus fahren. [00:32:35] Wenn wir egoistisch sind, prallen wir immer wieder ineinander, wie wenn wir uns immer wieder gegenseitig zerstören, oder dummerweise weichen wir beide aus, und keiner erhält den Vorteil, geradeaus zu fahren. In dieser Situation hier entscheidet das gelbe Auto, an den Rand zu fahren, das blaue Auto fährt einfach ungehindert weiter auf die andere Seite.
Und wir verwendeten 300 Teilnehmer und 150 Dyaden, und sie wurden bezahlt, abhängig davon, wie schnell sie auf die andere Seite kamen. Und dann fügten wir etwas KI hinzu. Wir fügten eine automatische Bremsassistenz hinzu, bei der, wenn Sie eine Näherungswarnung hatten, wenn Sie sich dem anderen Auto näherten, es bremste und Ihnen die Möglichkeit gab, zu entscheiden: ‚Oh, ich sollte anhalten und diesem anderen Typen den Vortritt lassen, oder umgekehrt.‘ Oder wir fügten eine automatische Lenkassistenz hinzu, die im Moment, als sie sich dem anderen Auto näherte, einfach auswich, okay? Und wir fügten eine minimale Kommunikationsfunktion hinzu, bei der die Menschen ‚Danke‘ sagen oder so etwas sagen konnten. Nur sehr minimale Kommunikation. Und zunächst zeigten wir, dass die automatische Bremsassistenz, bei der die Autos vor einer Kollision in einem festen Abstand stoppen, den menschlichen Altruismus erhöhte. [00:33:38] Das heißt, anderen den Vortritt lassen, so wie das gelbe Auto hier. Das Hinzufügen von etwas automatischer Bremsassistenz-KI machte es den Menschen leichter, in dieser Situation zusammenzuarbeiten und zu kooperieren. Darüber hinaus hilft es den Menschen, weiter zu kommunizieren, was ihnen hilft, gegenseitige Zugeständnisse unter den Bedingungen der automatischen Bremsassistenz zu machen. Andererseits hemmte die automatische Lenkassistenz, bei der das Auto einfach auswich, vollständig das Entstehen von Gegenseitigkeit zwischen den Menschen zugunsten der Maximierung des Eigeninteresses. Die Menschen geben einfach ihre moralische Handlungsfähigkeit auf. Sie kümmern sich nicht mehr darum. Sie lassen einfach die Maschine wiederholt ausweichen, und sie geben auf, okay? Also wurden all die angeborenen ethischen Fähigkeiten, die die Menschen hatten, durch die Hinzufügung von KI in der automatischen Lenkbedingung entfernt, aber in der automatischen Bremsbedingung verbessert. Und das sollte Sie auch zum Nachdenken bringen. Sie sollten denken: ‚Oh mein Gott, jedes kleine Detail, das wir bei der Programmierung dieser KI-Agenten machen, könnte gute oder schlechte Auswirkungen auf die natürlichen Neigungen der Menschen haben.'
Die Fähigkeit der Menschen, zusammenzuarbeiten, abwechselnd zu handeln und altruistisch zu agieren, kann verkümmern, was letztendlich zu schlechteren kollektiven und individuellen Ergebnissen führt. [00:34:46] Tatsächlich kann KI in der kurzen Sicht zu einer Art moralischer Faulheit führen. (..) Hier ist ein letztes Beispiel für bleibende Veränderungen nach der Exposition gegenüber KI in hybriden Systemen. Und es ist auch ein Beispiel dafür, wie die Anwesenheit von KI menschliche Interaktionen verändern kann, selbst nachdem die KI nicht mehr Teil der Interaktionen ist. Im Jahr 2016 entwickelte DeepMind AlphaGo, und im selben Jahr spielte dieser KI-Agent gegen Lee Sedol, den bemerkenswerten Weltmeister aus Korea.
Ich habe das Match gesehen. Ich kann Go nicht spielen, aber ich erkenne es als ein großartiges Spiel an. Mein Sohn spielt Go. (.) Und ich habe wirklich für Lee Sedol mitgefiebert. Lee Sedol ist wie ein Held in Korea, so wie wir, wissen Sie, große Athleten auf unseren Wheaties-Packungen haben und so. Sein Bild ist auf kleinen Nudelpackungen und auf Frühstücksflockenpackungen. Ich finde es großartig, dass in Korea so ein kluger Nerd wie ich als wichtige Person wahrgenommen wird, okay? Also ist er sehr populär in Korea. Und er kommt zum ersten Match und ist zu überheblich. [00:35:47] Ich kann sagen, dass er zu überheblich ist. Und er verliert gegen die Maschine und entschuldigt sich dann bei seinen Fans. Er sagt, es tut mir leid. Es sind fünf Spiele. Gewinnen sind die besten drei aus fünf. Dann spielt er ein zweites Spiel und verliert wieder. Und jetzt wird er ernst. Dann spielt er ein drittes Spiel und verliert. Er hat den Wettbewerb verloren.
Und man konnte das Publikum sehen, und die Kommentatoren waren erstaunt über die Fähigkeit der Maschine, Go zu spielen, und machte diese merkwürdigen und schönen Züge, von denen einige später entdeckt wurden, weil wir Aufzeichnungen aus tausenden von Jahren von Go-Matches am chinesischen Kaiserhof haben. Und sie konnten feststellen: Oh mein Gott, das ist ein mittelalterlicher Zug, den die Maschine gemacht hat. Wir hatten ihn so lange nicht gesehen.
Und dann kommt Lisa Dahl im vierten Spiel zurück, und er gewinnt. (..) Und ich weinte. Ich war so glücklich. (..) Weil er die Maschine hatte, du weißt schon, er war für meine Art zurückgekommen, und er hatte die verdammte Maschine besiegt. Sozusagen heldenhaft, ich konnte nicht verstehen, welche Gehirnleistung dafür erforderlich sein musste, dass Lisa Dahl das geschafft hat. [00:36:49] In diesem Moment war ich außer mir vor Freude und so stolz auf ihn, dass er es weiterhin versuchte, selbst nachdem er das Spiel verloren hatte.
Jetzt ist es interessant, dass Lisa Dahl nach dem Interview sagte, dass sich sein eigenes Spiel nach dem Match geändert hat. Also hilft die KI erneut den Menschen, sich selbst zu helfen, okay? Er ändert, wie er spielt, aufgrund des Kontakts. Und nachfolgende Untersuchungen von anderen Wissenschaftlern haben sich Profispieler im Go angesehen und die durchschnittliche Entscheidungsqualität betrachtet. Es gibt einen Standard im Go, um zu bewerten, wie gut ein Zug ist, und die durchschnittliche Neuheit, wie ungewöhnlich ein Zug ist. Sie stellen fest, dass als AlphaGo den menschlichen Weltmeister 2016 besiegt, Go-Spieler weltweit damit beginnen, bessere und innovativere Züge zu machen, okay? Alle Menschen, die Go gegeneinander spielen, haben sich verändert, weil AlphaGo hinzugefügt wurde. Die KI hilft den Menschen, sich selbst zu helfen. Wir setzen unsere Arbeit fort, um einfache Bots für diese und andere Situationen mit sozialen Dilemmata und kollektiven Aktionsproblemen zu entwerfen und hinzuzufügen. [00:37:55] Wir betrachten, wie Bots Koordination, Zusammenarbeit, Kommunikation, Kreativität, Vertrauen, Navigation, Teilen und Evakuierung beeinflussen können. In unserem Labor konzentrieren wir uns nicht auf superintelligente KI, wie LLMs oder AlphaGo, um die menschliche Kognition zu ersetzen, sondern eher auf dumme KI, um die menschliche Interaktion zu ergänzen. Wir versuchen nicht, superintelligente KI zu erfinden, um die menschliche Kognition zu ersetzen. Wir erfinden dumme KI, um die menschliche Interaktion zu ergänzen. Und unsere KI kann dumm sein, weil die Menschen intelligent sind. Unsere KI ist wie Platin, das einer organischen Chemereaktion hinzugefügt wird. Es ist nur ein Katalysator. Alles, was wir brauchen, ist der Katalysator, um einer Gruppe von Menschen zu helfen, besser zu werden.
Und natürlich ist es wichtig anzuerkennen, dass das Gegenteil auch möglich ist. Soziale KI kann genutzt werden, um Gruppen von Menschen zu schaden. Aber unser Ansatz bietet eine Reihe anderer technischer und konzeptioneller Vorteile. Zunächst einmal sind diese einfachen Bots verständlich und veranschaulichen daher klarere Kräfte und Möglichkeiten. Im Gegensatz zu LLMs, die eine Black Box sind und bei denen man nicht weiß, was sie tun, kann ich Ihnen genau sagen, was unser Bot tut. [00:38:58] Es ist laut. Es vermittelt Einführungen. Es übermittelt Nachrichten auf diese sehr spezifische Weise. Und zweitens können unsere kontrollierten Bot-Experimente auch Einblicke darin geben, wie sich menschliches Verhalten auch vorteilhaft verändern könnte. Mit anderen Worten, ich kann dies aus dem Labor nehmen und einer Gruppe von Menschen beibringen, das zu tun, was unsere Bots getan haben. In gewisser Weise kann man einer Gruppe von Menschen nicht einfach beibringen, das zu tun, was ChachiPT hier getan hat. Wir wissen nicht, was ChachiPT tut, aber Sie wissen, was sie in unserer Situation tun.
Ich möchte schließen, dies ist meine letzte Folie, mit einer Metapher. Betrachten Sie diese beiden Objekte. Sie bestehen beide aus Kohlenstoff. Wenn Sie die Kohlenstoffatome auf eine Weise verbinden, erhalten Sie Graphit, das weich und dunkel ist. Verbinden Sie dieselben Kohlenstoffatome auf eine andere Weise, erhalten Sie Diamant, der hart und klar ist. Und es gibt zwei zentrale intellektuelle Ideen hier. Erstens sind diese Eigenschaften von Weichheit und Dunkelheit sowie von Härte und Klarheit keine Eigenschaften der Kohlenstoffatome. Sie sind Eigenschaften der Ansammlung von Kohlenstoffatomen. Und zweitens, welche Eigenschaften Sie erhalten, hängt davon ab, wie Sie die Kohlenstoffatome miteinander verbinden. Nehmen Sie die gleichen Kohlenstoffatome und verbinden Sie sie auf eine Weise, erhalten Sie einen Satz von Eigenschaften. [00:40:01] Verbinden Sie sie auf eine andere Weise, erhalten Sie einen völlig anderen Satz von Eigenschaften. Ähnlich beeinflusst die Art unserer Verbindungen die Eigenschaften unserer sozialen Gruppen. Es sind die Bindungen zwischen den Menschen, die das Ganze größer machen können als die Summe seiner Teile. Neue Eigenschaften wie Kooperation und Gewalt, Innovation und Produktivität, Vertrauen und Misstrauen, Wahrheit und Falschheit, Reichtum und Armut, Gesundheit und Glück können durch Verbindungen, durch die Bindungen zwischen Menschen entstehen und sich verbreiten und nicht unbedingt nur aufgrund der Menschen selbst. Tatsächlich hängt unser Erlebnis der Welt von der Struktur und Funktion der Netzwerke um uns herum, nah und fern, ab. Und unsere Spezies hat sich darauf entwickelt, dass dies der Fall ist. Und es sollte uns nicht überraschen, dass wir auf KI in unserer Mitte reagieren werden. Vielen Dank.
