Meta AI avslöjar AI-infunderad diplomatisk charmör som rör AI-etik och AI-lag till indelicate Tiff

Den uppskattade världen av charm och diplomati är ofta fläckad av otillbörligheter och oförskämdhet.

Will Rogers, den store humoristen och sociala kommentatorn, sa att diplomati är konsten att säga "snäll vovve" tills du kan hitta en sten.

Den uppenbara innebörden är att du ibland måste hålla undan alla hotande och hotande styrkor tills du kan hitta en lämpligt försvarbar lösning. Gör vad du behöver göra när du befinner dig i desperata svårigheter. Medvetet och målmedvetet lugna de som äventyrar dig, med dina lugnande och förtjusande ord, och samla dyrbar tid för att beväpna dig med en mer praktisk och öppet påtaglig hållning.

ANNONS

Vissa hävdar att krig oupplösligt är ett resultat av misslyckad diplomati. I denna övervägda synvinkel kommer ett konstant trumslag av diplomati att avvärja krig. Fortsätt prata och striderna kommer inte igång. Andra är inte överens om en så problematisk åsikt. Kanske, sägs det, är diplomatin i själva verket det som får oss in i krig. Utöver det kan det vara så att diplomatin sträcker ut krig och håller igång striderna på en oändlig basis.

Vi ska ge Will Rogers en ny chans att njuta av lite humor ur frågan om huruvida diplomati är bra eller dåligt när det gäller krigets tillkomst eller fortsättning: "Ta diplomatin ur kriget och saken skulle falla platt på en vecka" (han enligt uppgift deklareras).

Den gemensamma definitionen av diplomati betonar relationerna mellan nationer. Diplomater representerar särskilda nationer eller nationalstater och utövar diplomati när de utför sina heliga plikter. Vi förväntar oss att våra diplomater åtar sig att förmedla sin utrikespolitik genom att använda självkänsla. Budbäraren ska inte vara den som väcker fiendskap, bara meddelandet kan istället göra det. En antagligen felfri diplomatisk skildring av även de mest allvarliga meddelanden kan bevisligen mildra slaget som uppstår från ett annars skadligt krav eller hot.

ANNONS

Naturligtvis är diplomatin inte begränsad till enbart formaliserade diplomaters höga arbete. Jag vågar påstå att vi alla i vårt dagliga liv måste dra på oss något sken av diplomati. När du vill att en vän ska vaka över din älskade hund medan du är på affärsresa, kommer du med all säkerhet att diplomatiskt soffa begäran om att ta hand om hunden. Att ställa ett direkt krav på att göra det kommer sannolikt att landa med en dov duns.

Diplomati är förmodligen mer konst än vetenskap, och diplomati är något som människor använder för att smörja släporna, hålla lamporna tända och förhindra att samhället går helt amok. Förhandlingar kommer att spela. Försoning kan behöva uppstå. Ibland använder man moroten, ibland använder man pinnen. Om du måste göra det kan du prova så kallad kanonbåtsdiplomati, där du försöker skrämma andra omkring dig. Eller i stället för stark beväpning kan du gå den mjukare medlings- och humanitära vägen. Allt beror på.

Okej, så vi är benägna att alla rimligen är överens om att diplomati är en viktig form av kommunikation mellan människor. Det består av övningar eller scenkonst förknippat med att använda takt, medling, förhandling, förlikning och en mängd samhälleligt skicklig politik.

ANNONS

Låt oss lägga till något annat till den ekvationen.

Är du redo?

Vi kommer att lägga till något annat som du kanske har tänkt på.

Artificiell intelligens (AI).

Ja, AI börjar komma in i diplomatin. Detta verkar helt vettigt. Om vi ​​ska ha AI nedsänkt i alla aspekter av våra liv, så var diplomatin så småningom tvungen att få sin tur. Vi kan förvänta oss att AI kommer att kunna utföra alla uppgifter den har genom att använda lämpliga ord och diplomatiska sätt.

ANNONS

AI som den autonoma eller semi-autonoma diplomaten.

Jag inser att det kan verka ganska skrämmande och totalt skrämmande. Jag tror inte att någon av oss är redo för att AI ska gå runt som en representant för våra respektive länder. Föreställ dig att AI tjänar på våra vägnar för att förhandla om våra internationella positioner och bekräfta vår globala politiska ställning. Hoppsan! Det är grejen med dessa apokalyptiska sci-fi-berättelser.

Nåväl, andas en kort suck av lättnad eftersom det inte finns i korten just nu.

Tänk istället på AI som du använder för att få dina bankärenden gjorda eller som hjälper dig att köpa ett hem. Dagens AI som interagerar med människor är vanligtvis ganska skuren och torr. Kom till fakta, bara fakta. En del AI har frostats upp med söta formuleringar för att få dig att tro att den är vänlig eller en kompis, även om detta snabbt genomskådas. Bara för att ett AI-system hänvisar till dig med ditt namn eller avger ord som "hej" istället för "hej", inser de flesta av oss direkt att detta är en charad.

Ett nästa steg som flitigt eftersträvas i AI-utvecklarnas hallar är att försöka ingjuta diplomatiska egenskaper i vår vardagliga AI. Det övergripande målet är att införliva programmatiska aspekter som får AI att visa upp diplomati och diplomatiskt liknande beteende. Genom att använda en mängd olika algoritmer och särskilt det senaste inom generativ AI eller Large Language Models (LLM), görs framsteg särskilt på denna front.

ANNONS

Vi ska ta en titt på ett sådant exempel, CICERO, ett nytt AI-system som släppts av Meta AI-teamet.

Om du var på semester och inte hade hängt med i de senaste nyheterna om AI, ger det senaste tillkännagivandet och avslöjandet av ett AI-system myntat som CICERO en viktig vägvisare för var den AI-infunderade diplomatiarenan ligger nuförtiden. Omtänksamt och till sin goda kredit, har Meta AI-teamet öppet gjort sitt utvecklade CICERO AI-system tillgängligt. Du kan läsa de tekniska detaljerna i en publicerad forskningsartikel om Vetenskap, Se länken här. Du kan besöka en webbplats som de har skapat för att försiktigt förmedla de övergripande nyanserna av CICERO med korta videoklipp för att illustrera vad det gör (se länken här). För de av er som söker heads-down faktisk programkod och mjukvara, kan du hitta källkoden på GitHub på länken här.

Jag vill snabbt klargöra en aspekt som kan verka förvirrande om du väljer att gräva i den här frågan.

Det speciella AI-systemet som tagits fram av Meta AI är för närvarande inställt för att spela ett något populärt spel som kallas Diplomati (du kanske har sett brädspelet enligt Hasbro och andra speltillverkare). Jag tar upp detta eftersom ordet "diplomati" kommer att ha dubbel plikt i denna omständighet. Å ena sidan försöker den utarbetade AI att ingjuta egenskaper hos företaget och displayen diplomati i sig. Samtidigt är miljön där detta speciella AI-system äger rum när man spelar specifikt och endast (just nu) det berömda brädspelet känt som Diplomati.

Ser du hur detta potentiellt kommer att förvirra vissa människor?

Om någon säger till dig att just denna AI gör riktigt bra "diplomati", kanske du är osäker på om de syftar på uppfattningen att AI:n är ganska skicklig på att spela brädspelet som kallas Diplomati eller kanske istället antyder de att AI förkroppsligar kärnan i samband med mänsklighetens diplomati. Dessutom kan det vara så att båda aspekterna är avsedda samtidigt (dvs. AI:n är bra på att spela Diplomati och samtidigt är bra på att kunna utöva eller visa upp diplomati som en färdighet eller handling).

ANNONS

Här ska jag försöka reda ut det här genom att använda den första bokstaven med versaler och med kursiv stil visa namnet på brädspelet, Diplomati. Resten av tiden kommer jag att använda den icke-kursiverade formuleringen av "diplomati" som en indikation på den övergripande uppfattningen att vara diplomatisk eller uppvisa diplomati (se, jag gjorde det precis där).

För att återgå till den aktuella frågan, kan du fundera ett ögonblick på om AI som uppvisar diplomati är något vi borde önska eller istället avvärja.

Det finns många positiva aspekter med att få AI att visa upp diplomati. Du skulle dock leva i en ytlig bubbla för att anta att AI som inför diplomati kommer att vara helt och uteslutande en bra sak. AI som verkar ha diplomatiska färdigheter och kan få oss att tro att den har diplomati är också full av oroande frågor som vi måste lyfta fram. I grund och botten väcker AI som används på detta sätt en båtlast av frågor om AI-etik och AI-lag. För er som är intresserade av AI-etik och AI-rätt kan ni ta en titt på min omfattande och pågående bevakning av etisk AI och AI-lag på länken här och länken här, bara för att nämna några.

Innan jag hoppar in i AI som förkroppsligande av någon form av diplomati, vill jag först lägga en viktig grund om AI och särskilt AI-etik och AI-lag, för att se till att diskussionen blir kontextuellt förnuftig.

ANNONS

Den ökande medvetenheten om etisk AI och även AI-lag

Den senaste tiden av AI ansågs ursprungligen vara AI For Good, vilket betyder att vi kan använda AI för att förbättra mänskligheten. I hälarna på AI For Good kom insikten att vi också är nedsänkta i AI för dåligt. Detta inkluderar AI som är framtagen eller självförändrad till att vara diskriminerande och gör beräkningsval som genomsyrar onödiga fördomar. Ibland är AI:n byggd på det sättet, medan den i andra fall svänger in i det ogynnsamma territoriet.

Jag vill försäkra mig mycket om att vi är på samma sida om arten av dagens AI.

Det finns ingen AI idag som är kännande. Vi har inte det här. Vi vet inte om sentient AI kommer att vara möjligt. Ingen kan lämpligen förutsäga om vi kommer att uppnå sentient AI, och inte heller om sentient AI på något sätt mirakulöst spontant kommer att uppstå i en form av beräkningskognitiv supernova (vanligtvis kallad singulariteten, se min bevakning på länken här).

Den typ av AI som jag fokuserar på består av den icke-kännande AI som vi har idag. Om vi ​​ville spekulera vilt om sentient AI, skulle den här diskussionen kunna gå i en radikalt annan riktning. En kännande AI skulle förmodligen vara av mänsklig kvalitet. Du skulle behöva tänka på att den kännande AI är den kognitiva motsvarigheten till en människa. Mer så, eftersom vissa spekulerar att vi kan ha superintelligent AI, är det tänkbart att sådan AI kan bli smartare än människor (för min utforskning av superintelligent AI som en möjlighet, se täckningen här).

ANNONS

Jag skulle starkt föreslå att vi håller saker nere på jorden och överväger dagens beräkningslösa AI.

Inse att dagens AI inte kan "tänka" på något sätt i nivå med mänskligt tänkande. När du interagerar med Alexa eller Siri kan samtalskapaciteten tyckas likna mänsklig kapacitet, men verkligheten är att den är beräkningsmässig och saknar mänsklig kognition. Den senaste eran av AI har i stor utsträckning använt maskininlärning (ML) och djupinlärning (DL), som utnyttjar matchning av beräkningsmönster. Detta har lett till AI-system som ser ut som mänskliga benägenheter. Samtidigt finns det inte någon AI idag som har ett sken av sunt förnuft och inte heller något av det kognitiva förundran med robust mänskligt tänkande.

Var mycket försiktig med att antropomorfiera dagens AI.

ML/DL är en form av beräkningsmönstermatchning. Det vanliga tillvägagångssättet är att man samlar ihop data om en beslutsuppgift. Du matar in data i ML/DL-datormodellerna. Dessa modeller försöker hitta matematiska mönster. Efter att ha hittat sådana mönster, om så hittas, kommer AI-systemet att använda dessa mönster när det möter ny data. Vid presentationen av nya data tillämpas mönstren baserade på "gamla" eller historiska data för att göra ett aktuellt beslut.

Jag tror att ni kan gissa vart detta är på väg. Om människor som har fattat mönstrade beslut har införlivat ogynnsamma fördomar, är oddsen att data speglar detta på subtila men betydelsefulla sätt. Machine Learning eller Deep Learning beräkningsmönstermatchning kommer helt enkelt att försöka matematiskt efterlikna data i enlighet därmed. Det finns inget sken av sunt förnuft eller andra kännande aspekter av AI-tillverkad modellering i sig.

ANNONS

Dessutom kanske AI-utvecklarna inte inser vad som händer heller. Den mystiska matematiken i ML/DL kan göra det svårt att ta bort de nu dolda fördomarna. Du skulle med rätta hoppas och förvänta dig att AI-utvecklarna skulle testa för de potentiellt begravda fördomarna, även om detta är svårare än det kan verka. Det finns en stor chans att det även med relativt omfattande tester kommer att finnas fördomar inbäddade i mönstermatchningsmodellerna för ML/DL.

Du skulle kunna använda det berömda eller ökända ordspråket om skräp-in skräp-ut. Saken är den att detta är mer besläktat med fördomar-in som smygande blir infunderade när fördomar nedsänkt i AI. Algoritmen för beslutsfattande (ADM) för AI blir axiomatiskt laddat med orättvisor.

Inte bra.

Allt detta har särskilt betydande AI-etiska implikationer och erbjuder ett praktiskt fönster till lärdomar (till och med innan alla lärdomar händer) när det gäller att försöka lagstifta AI.

ANNONS

Förutom att använda AI-etiska föreskrifter i allmänhet, finns det en motsvarande fråga om vi bör ha lagar som styr olika användningar av AI. Nya lagar håller på att samlas runt på federal, statlig och lokal nivå som rör omfattningen och karaktären av hur AI bör utformas. Ansträngningen att utarbeta och anta sådana lagar sker gradvis. AI-etik fungerar åtminstone som ett övervägt stopp, och kommer nästan säkert till viss del att direkt införlivas i dessa nya lagar.

Var medveten om att vissa bestämt hävdar att vi inte behöver nya lagar som täcker AI och att våra befintliga lagar är tillräckliga. De varnar för att om vi stiftar några av dessa AI-lagar, kommer vi att döda guldgåsen genom att slå ner på framsteg inom AI som ger enorma samhällsfördelar.

I tidigare spalter har jag täckt de olika nationella och internationella ansträngningarna att skapa och anta lagar som reglerar AI, se länken här, till exempel. Jag har också täckt de olika AI-etiska principerna och riktlinjerna som olika nationer har identifierat och antagit, inklusive till exempel FN:s insatser såsom UNESCO-uppsättningen av AI-etik som nästan 200 länder antog, se länken här.

ANNONS

Här är en användbar nyckelstenslista över etiska AI-kriterier eller egenskaper för AI-system som jag tidigare har utforskat noggrant:

• Öppenhet
• Rättvisa & Rättvisa
• Icke-ondska
• Ansvar
• Integritetspolicy
• Välgörenhet
• Frihet & autonomi
• Litar
• Hållbarhet
• Värdighet
• Solidaritet

Dessa AI-etiska principer är uppriktigt tänkta att användas av AI-utvecklare, tillsammans med de som hanterar AI-utvecklingsinsatser, och även de som i slutändan arbetar med och underhåller AI-system.

Alla intressenter under hela AI-livscykeln för utveckling och användning anses vara inom ramen för att följa de etablerade normerna för etisk AI. Detta är en viktig höjdpunkt eftersom det vanliga antagandet är att "endast kodare" eller de som programmerar AI:n är föremål för att följa AI-etikbegreppet. Som tidigare betonats här, krävs det en by för att utveckla och sätta in AI, och för vilken hela byn måste vara bevandrad i och följa AI-etiska föreskrifter.

ANNONS

Jag har också nyligen undersökt AI Bill of Rights vilket är den officiella titeln på det amerikanska regeringens officiella dokument med titeln "Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People" som var resultatet av en årslång insats av Office of Science and Technology Policy (OSTP) ). OSTP är en federal enhet som tjänar till att ge råd till den amerikanske presidenten och US Executive Office om olika tekniska, vetenskapliga och tekniska aspekter av nationell betydelse. I den meningen kan du säga att denna AI Bill of Rights är ett dokument som godkänts av och godkänts av det befintliga amerikanska Vita huset.

I AI Bill of Rights finns det fem nyckelstenskategorier:

• Säkra och effektiva system
• Algoritmiskt diskrimineringsskydd
• Dataintegritet
• Meddelande och förklaring
• Mänskliga alternativ, hänsyn och fallback

Jag har noggrant granskat de föreskrifterna, se länken här.

ANNONS

Nu när jag har lagt en användbar grund för dessa relaterade AI-etik- och AI-rättsämnen är vi redo att hoppa in i det berusande ämnet AI-infunderad maskinbaserad diplomati.

AI-diplomati i all ära och även potentiell undergång

Låt oss först fastställa att den typ av AI som övervägs här är icke-kännande AI.

Jag säger detta för att om, eller några säger när vi når kännande AI, hela ämnet kommer sannolikt att bli helt upplyft. Föreställ dig det potentiella kaoset och den samhälleliga förvirringen för att på något sätt ha hamnat i det annars aldrig tidigare sett otvivelaktigt verifierat konstgjord intelligens som förkroppsligar känslor (för min analys av ett berömt test av AI känt som Turing-testet, se länken här). Du kan göra en motiverad satsning på att många av våra befintliga kulturella, juridiska och vardagliga normer kommer att skakas enormt till sin kärna.

Kanske kommer den kännande AI:n att vara vår kompis, eller kanske den kännande AI:n kommer att vara vår värsta fiende. Hur ska vi kunna säga vilken väg AI kommer att gå?

Du kan vara frestad att föreslå att vi förmodligen kommer att kunna prata med AI:n och ta reda på vad den säger vilka avsikter den har. Aha, du har fallit i en oroande fälla. Anta att AI är särskilt välfylld med någon form av AI-diplomati. När du försöker prata med AI:n kommer den kanske att tala i de mest charmiga och vältaliga termer. Detta kan vara mycket lugnande för mänskligheten.

ANNONS

Men är det vad AI verkligen har "i åtanke" när det gäller dess AI-baserade beräkningsavsikter?

AI kanske gör det klassiska diplomatiska ett-två-slaget. Prata om ett bra spel och få oss att bli invaggade till att tro att AI är vår bästa kompis någonsin. Detta kan vara att ge AI tid att samla resurser för att ta över mänskligheten eller kanske arbeta flitigt bakom kulisserna för att underskrida allt annat vi använder för att upprätthålla mänskligheten. Efter det där smarta diplomatiska stall, wham, AI slår oss alla kallt.

Kom ihåg vad Will Rogers sa, vilket i det här fallet kan vara att AI säger till oss "Snäll vovve" och vi ger AI:n tillräckligt med andningsutrymme för att sedan torka oss från planeten. Denna uppfattning om AI som en existentiell risk har länge funnits runt. Vissa tror att vi kommer att bli snookerade genom att utveckla AI med infunderad diplomati. AI:n kommer noggrant att använda all den infunderade diplomatigrejen som vi hjälpte till att träna AI på, och i slutändan kommer vi att bli blint lurade till att AI blir vår överherre.

Vi borde skämmas.

För de av er som är ytterligare intresserade av denna mycket spekulativa terräng om en futuristisk AI, se min bevakning av perspektiven på AI som ett existentiellt hot på länken här.

ANNONS

När jag kommer tillbaka till jorden, kommer jag hädanefter att betona vägen för AI-infunderad diplomati i vår existerande icke-kännande AI.

Låt oss göra lite historiespårning.

Försök att ta fram AI som på något sätt förkroppsligar en beräkningssmak av diplomati och diplomatiska beteenden har pågått sedan AI:s tidiga dagar. Du kan lätt gå tillbaka till 1950-, 1960- och 1970-talen och hitta grundläggande forskningsstudier som var ivriga att tillämpa AI på denna domän. Vissa trodde att spelteorin var nyckeln. Andra fokuserade på psykologi och relaterade kognitiva element. Andra försökte utnyttja ekonomi, operationsforskning och en myriad av till synes relevanta insatsområden.

En första storhetstid inträffade senare under 1980-talet. På den tiden bestod ett dominerande tillvägagångssätt av att använda Expert Systems (ES) eller Knowledge-Based Systems (KBS) för att konstruera diplomatirelaterade AI-system. Resultatet var ganska uppstyltat och tenderade att visa hur svår uppgift detta skulle bli.

ANNONS

En gnagande gåta under den här eran av inledande undersökningar var behovet av en stabil plattform på vilken, eller inom vilken, en AI som påstås kunna prestera på vissa diplomatirelaterade sätt kunde testas och utforskas på ett adekvat sätt. Detta behov är kanske uppenbart. Om någon vill urskilja om en människa eller en AI kan utöva diplomati, måste en miljö som främjar denna strävan skapas.

In i den här bilden kommer brädspelet av Diplomati.

Jag inser att brädspelet Diplomati är inte nästan lika känd som monopol, Risk, eller Stratego (du har förmodligen hört talas om de spelen). Ändå finns det ett strategiskt brädspel känt som Diplomati som skapades först 1954 och släpptes kommersiellt 1959. Förutom att spelas ansikte mot ansikte, Diplomati spelet spelades ofta via snigelpost. Du skulle skriva dina drag på ett papper och skicka bladet till dem som du spelade mot. Lite galet att föreställa sig nuförtiden. Senare användes e-post. Så småningom var spelet tillgängligt online och gjorde det möjligt för spelare att delta i realtid med varandra.

När Diplomati När spelet blev tillgängligt på mikrodatorer började AI-specialister använda spelet som ett praktiskt sätt att testa sina AI-infunderade diplomatitillsatser. De Diplomati spelet var tillgängligt som en app som kördes på datorer så att en människa kunde spela mot maskinen (dvs den utarbetade AI). AI på 1990-talet som skrevs för att spela Diplomati var notoriskt långsam, kryptisk och lätt slagen av nästan vilken minimalt kunnig spelande människa som helst.

ANNONS

Här är en recension från 1999 Diplomati som postat på Yahoo som livfullt beskrev det sorgliga tillståndet av den AI-infunderade diplomatikapaciteten som en mänsklig spelares motståndare:

• "Dock, DiplomatiDet mest påfallande problemet är att den artificiella intelligensen i spelet är helt fruktansvärd. Spelare på vilken nivå som helst kommer inte att ha några som helst problem med valfångst på datorn även vid den högsta svårighetsgraden. Seger är helt enkelt en fråga om tid och tålamod med gränssnittet. Det är inte som om datorn inte planerar bakom din rygg – det gör den, och den slår sig ofta ihop med allierade för att ta ett territorium eller två ifrån dig – men sådana system kommer i fall och börjar, snarare än som ett kontinuerligt eller särskilt utmanande hot.”

En särskilt irriterande svaghet med AI-designen var att den verkade sakna kapacitet att beräkna flera drag eller strategier på en gång: "Och på en mer grundläggande nivå verkar datorn oförmögen att hantera flera strategiska drag. Medan en mänsklig spelare kan starta attacker mot Grekland och Belgien samtidigt, verkar datorn alltid fokusera på bara en sak i taget. Av denna anledning kan datorn helt enkelt inte tävla mot en mänsklig spelare” (ibid).

Jag har ännu inte förklarat för dig vad Diplomati brädspel består av, så låt oss ta en stund för att få grundreglerna etablerade.

Det finns en praktisk forskningsartikel om AI och spel Diplomati som kortfattat beskrev spelets natur: "Spelet utspelar sig på en karta över Europa år 1901, som är uppdelad i 75 provinser. Varje spelare spelar mot en av den tidens sju stormakter: Österrike (AUS), England (ENG), Frankrike (FRA), Tyskland (GER), Italien (ITA), Ryssland (RUS) och Turkiet (TUR) och varje spelare börjar med tre eller fyra enheter (arméer eller flottor) som är placerade i fasta initiala positioner på kartan. I varje omgång av spelet måste varje spelare 'skicka in en beställning' för var och en av sina enheter, som talar om för dessa enheter hur de ska flytta runt på kartan och låter dem erövra kartans provinser” (Dave de Jonge, Tim Baarslag, Reyhan Aydogan , Catholijn Jonker, Katsuhide Fujita och Takayuki Ito, "The Challenge of Negotiation in the Game Of Diplomacy," Avtalsteknik: 6:e internationella konferensen, AT 2018)

ANNONS

Du behöver också veta om sätten att vinna och sätt att förlora spelet: ”Some of the Provinces are s.k. Försörjningscenter och målet för spelarna är att erövra dessa Supply Centers. En spelare är eliminerad när han eller hon förlorar alla sina Supply Centers och en spelare vinner spelet när han eller hon har erövrat 18 eller fler av de 34 Supply Centers (en Solo Seger). Men spelet kan också avslutas när alla överlevande spelare går med på oavgjort” (ibid).

Jag litar på att du kan se det Diplomati är ett enkelt spel som involverar upp till sju spelare som försöker övermanövra varandra strategiskt. Under denna manövrering kan spelarna konferera med varandra, utan att de andra spelarna vet vad de har för sig. Diplomatiakten kommer i förgrunden genom att kunna få andra spelare att följa dina planer. Du kanske avslöjar dina sanna planer, eller så kanske du inte. Du kan erbjuda falska planer. Du kan förhandla med andra spelare. Du kan lura andra spelare. Du kan skapa allianser med andra spelare. Etc.

Allt är rättvist i kärlek och krig, som man säger.

Jag valde just det forskningsdokumentet eftersom det var avgörande för att etablera en variant av den datoriserade versionen av Diplomati kallas DipGame för att fungera som en framåtriktad plattform för testning av AI-infunderade diplomatiförmågor: "Det finns en kronisk brist på delade applikationsdomäner för att testa avancerade forskningsmodeller och agentförhandlingsarkitekturer i Multiagent Systems. I denna artikel introducerar vi en vänlig testbädd för detta ändamål. Testbädden bygger på Diplomatispelet där förhandling och relationerna mellan aktörer spelar en väsentlig roll” (ibid). Detta och många andra varianter av Diplomati har skapats och gjorts tillgängliga för forskning och lek.

ANNONS

Forskarna förklarade varför de trodde det Diplomati är ett så användbart spel för att hjälpa AI-strävan mot AI-infunderad diplomati: "Spelet om Diplomati utgör ett utmärkt testfall för den här typen av komplexa förhandlingar, eftersom det är ett spel som innehåller många av de svårigheter man också skulle behöva möta i verkliga förhandlingar. Det involverar tillfredsställelse av begränsningar, koalitionsbildning, spelteori, tillit och till och med psykologi. Nu när moderna Chess and Go-datorer redan är mycket överlägsna alla mänskliga spelare, förväntar vi oss det Diplomati kommer att börja väcka mer uppmärksamhet som nästa stora utmaning för datavetenskap” (ibid).

I en snabb sammanfattning, brädspelet Diplomati tillhandahåller ett redan känt och något populärt verktyg för att få människor att agera på en mängd olika diplomatiska sätt. Normalt spelar människor mot andra människor (i detta fall upp till sju mänskliga spelare). Vi kan ta fram AI som skulle försöka ta rollen som en spelare i spelet. Således kan du ha sex mänskliga spelare och en AI-spelare.

Tänk dig att spela Diplomati uppkopplad.

Om vi ​​inte berättar för de mänskliga spelarna att det finns en AI bland dem, kan de naturligtvis anta att den sjunde spelaren bara är en annan mänsklig spelare. För att försöka hindra någon mänsklig spelare från att gissa att AI spelar, kan vi begränsa spelaspekterna till att kräva att alla spelare skickar textorienterade meddelanden till varandra. Du kan inte direkt se de andra spelarna.

ANNONS

Du kanske tänker att detta inte verkar speciellt annorlunda än att spela schack online. Varför det stora tjafset om Diplomati som ett spel?

Kom ihåg att vi fokuserar på interaktioner mellan spelare. Utgångspunkten för detta spel är att spelarna åberopar diplomati mot varandra. Detta är till skillnad från konventionellt schack. Om jag utvecklade en AI-baserad schackspelsapp skulle den normalt spela mot en människa. Det finns ingen förhandling eller diskussion mellan den schackspelande AI:n och den mänskliga spelaren. De gör bara schackrörelser och försöker överträffa varandra. Detta görs vanligtvis i total tystnad.

Diplomati tillåter oss att utöva uttalad beräknings- och människobaserad diplomati (potentiellt att göra det skriftligt snarare än att behöva sägas högt): "Den största skillnaden mellan Diplomati och andra deterministiska spel som Chess and Go, är att inom diplomati tillåts spelare att förhandla med varandra och bilda koalitioner. Vid varje omgång, innan spelarna lämnar sina order, får spelarna tid att förhandla med varandra och göra överenskommelser om vilka order de ska lämna. Förhandlingar sker privat och varje överenskommelse som görs är endast känd för de aktörer som är involverade i det avtalet” (ibid).

Kan du komma på något annat spel som använder interaktiv diplomati istället för att förlita dig på spelet Diplomati?

Absolut.

ANNONS

Det finns olika sådana spel.

Bekvämligheten med att välja ett särskilt märke av ett spel är att då kan AI-utvecklarna fokusera sin uppmärksamhet på det specifika spelet. Du kan samlas kring att utforma AI som utför diplomati i det definierade sammanhanget. Du kan dela tillvägagångssätt och kontrastera dem. Du kan poängsätta de olika instanserna av AI baserat på mätvärdena förknippade med det spelet. Och så vidare.

Som sagt, motargumentet eller uttryckt oro är att det här är som att lägga alla dina ägg i en korg. Vissa oroar sig om många AI-utvecklare blir upptagna av en viss plattform eller miljö, som i det här fallet Diplomati, kommer de att försöka optimera AI för den specifika arenan. Nackdelen är att AI inte kommer att generaliseras. Vi kommer inte att göra lika stora framsteg mot övergripande kapacitet för AI-infunderad diplomati.

Ungefär som att misslyckas med att se skogen för träden, om man så vill.

En annan oro som ofta uttrycks är att spel som t.ex Diplomati är bara spel.

ANNONS

Den svåra frågan uppstår om människor som spelar ett spel gör samma saker som de skulle göra i verklig diplomati. Du kanske inte agerar på samma sätt när nationell stolthet eller nationella insatser inte står på spel. Visst, du kanske är orolig för din personliga stolthet när du spelar ett spel, eller kanske försöker bli en toppskytt, eller kanske till och med vinner prispengar, men ändå innebär det att förhandla om världsfred i FN eller pruta om vilka länder borde ha eller inte ha kärnvapen.

Vissa tror att dessa diplomatispel är lämpliga mikrokosmos av den verkliga världen. Andra beklagar att spelen är användbara men inte skalar upp till den ökända "gummi-meets-the-road-diplomatin" av internationell kaliber. Det kan vara så att spelversionerna av AI-infunderad diplomati inte visar sig vara något annat än en ren spelframgång. Jisses, den utarbetade AI:n kan vinna eller göra riktigt bra ifrån sig när man spelar ett spel som involverar diplomati, men det visar sig att användningen av samma AI i sanna diplomatiska miljöer är mycket bristfällig och vacklar eller misslyckas.

Antag för tillfället att AI skapas för att spela spel som t.ex Diplomati är verkligen värt besväret. Du kan rimligtvis hävda att oavsett om det bara är lämpligt för spel eller för action i den verkliga världen, innebär idén att tänja på AI-gränserna och göra framsteg inom AI som kan bidra till diplomati eller kan ha andra fördelaktiga genombrott för att skapa AI.

ANNONS

Förespråkar smileyen för tillfället.

Vi ska sedan undersöka hur Meta AI har valt att skapa en AI-infunderad diplomatispelare som kan prestera i spelet Diplomati.

Håll i hattarna.

Meta AI And The Diplomacy Playing Machine-Based Diplomat Cicero

Som tidigare nämnts finns en forskningsartikel publicerad i Vetenskap som beskriver den nyligen tillkännagivna och offentligt släppta Meta AI-appen myntad som Cicero (genom den här diskussionen kommer jag omväxlande att hänvisa till detta som "Cicero" och likaså all-cap-monikern för "CICERO"):

ANNONS

• "Vi presenterar Cicero, en AI-agent som uppnådde prestanda på mänsklig nivå i strategispelet Diplomati. I Diplomati, sju spelare genomför privata naturliga språkförhandlingar för att samordna sina handlingar för att både samarbeta och konkurrera med varandra. Däremot har tidigare stora framgångar för multiagent AI varit i rent kontradiktoriska miljöer, som schack, Go och poker, där kommunikation inte har något värde. Av dessa anledningar, Diplomati har fungerat som ett utmanande riktmärke för lärande med flera agenter” (Meta Fundamental AI Research Diplomacy Team, ”Human-Level Play In The Game Of Diplomacy By Combining Language Models With Strategic Reasoning”, Vetenskap, 22 november 2022).

Jag kommer att citera från tidningen och sedan erbjuda olika insikter som förhoppningsvis kommer att vara av intresse för dig.

Med tanke på att AI just har gjorts tillgänglig kommer jag sannolikt att göra en efterföljande analys efter att ha haft en chans att göra en djupgående praktisk utvärdering av koden och även spela experimentellt för att mäta AI-kapaciteten (som t.ex. viktiga styrkor och svagheter).

Håll utkik efter det senare inlägget!

Hur som helst, jag litar på att du kanske har observerat i passagen som jag just citerade att det finns en fras som säger att AI "uppnådde prestanda på mänsklig nivå i strategispelet Diplomati. "

ANNONS

Fundera över det.

För det första är det verkligen lovvärt att ha kunnat utveckla AI som spelar Diplomati spel på en påstådd prestationsnivå som liknar människor. Det är oerhört viktigt.

Vi har massor av Diplomati spelar AI som är undermålig i jämförelse med människor som spelar Diplomati spel. Mer än du kan skaka en pinne åt. Det är betryggande och spännande att röra sig uppåt mot AI som kan göra mycket bättre spel. Vi måste dock vara försiktiga med att dra några snabba slutsatser om detta.

Anta till exempel att jag hade tänkt ut AI för att spela Diplomati och jag ställde det mot mänskliga spelare som aldrig har spelat spelet förut. Om min AI slår dem skulle det vara lite av en överdrift att säga att min AI har presterat på mänsklig nivå. Det faktum att det gjorde det med människor som inte var bekanta med spelet är något ögonbrynshöjande och tveksamt.

ANNONS

Jag tar upp detta för att varna dig för att alltid noggrant inspektera alla till synes överdimensionerade påståenden om AI. Diskussionen tidigare om AI-etik och AI-lag öppnar kanske dina ögon för möjligheten av falska påståenden om AI. Det finns direkt falska påståenden och det finns de lömska delvis sanna och delvis vilseledande påståendena som är särskilt knotiga. Nyckeln är att fråga varför de som gör påståenden om sin AI gör det.

Var är biffen?

Här är vad Meta AI-teamet hade att säga om grunden för deras prestationsanspråk på mänsklig nivå (se uppsatsen för ytterligare information):

• "Cicero deltog anonymt i 40 matcher av Diplomacy i en "blitz"-liga på webDiplomacy.net från 19 augusti till 13 oktober 2022. Denna liga spelade med fem minuters förhandlingsvändningar; dessa tidskontroller gjorde att spel kunde slutföras inom två timmar. Cicero rankades bland de 10 % bästa deltagarna som spelade mer än en match och 2:a av 19 deltagare i ligan som spelade 5 eller fler matcher. För alla 40 matcherna var Ciceros medelpoäng 25.8 %, mer än dubbelt så mycket som medelpoängen på 12.4 % av dess 82 motståndare. Som en del av ligan deltog Cicero i en 8-spelsturnering som involverade 21 deltagare, varav 6 spelade minst 5 matcher. Deltagarna kunde spela maximalt 6 matcher med deras rankning bestämd av genomsnittet av deras 3 bästa matcher. Cicero placerade sig på första plats i denna turnering” (ibid).

ANNONS

Det är en stor lättnad att se att de på allvar har försökt stödja sina AI-påståenden i det här fallet (var medveten om att inte alla inom AI gör det).

Du kan föreslå att de utförde ett experiment. Experimentet består av mänskliga spelare som antagligen inte visste att de spelade med en AI-spelare mitt ibland dem (tidningen diskuterar varför detta verkade vara rimligt slutsats, nämligen att människorna inte öppet insåg att en av spelarna var AI, men en intressant sidotangens innebär en berättelse om en spelare som blev lätt misstänksam men inte särskilt så). Dessa mänskliga spelare var förvalda av den experimentella designens natur så att de var ligaspelare Diplomati och vi kan rimligen dra slutsatsen att de visste hur man spelar spelet. De var inte nybörjare.

Enligt den rapporterade statistiken, som vi kommer att ta till nominellt värde som tidigare och korrekt insamlad och rapporterad (olika data och kod finns i tilläggsmaterialet), verkade AI:n ha spelat spelet tillräckligt för att göra en rimlig men snävt begränsad slutsats att den nådde en mänsklig prestandanivå för denna variant av Diplomati spel och som inom ramen för det angivna ligaspelet mot människor som var till synes bevandrade spelare.

Jag är säker på att några av er kanske vill tjafsa om antalet tillfällen av att spela spelet, kanske med argumentet att det är för litet för att göra djärva proklamationer. En annan käbbla kan vara att det inte är tillräckligt högt att vara bland de 10 % av deltagarna, så att man inte ska skryta med AI-prestandan tills kanske den översta 1 % har uppnåtts.

ANNONS

De där käbblarna verkar lite gälla.

Jag säger det eftersom påståendet om att vara "övermänsklig" tack och lov inte åberopades. Läsare känner utan tvekan till min sura och sura syn på de inom AI som fortsätter att göra de överdrivna uttalandena om att deras AI har nått en övermänsklig status. Jag kommer inte att gå in på mina klagomål om de övermänskliga ropande påståendena häri, se länken här för mina åsikter.

Min poäng i det här fallet är att jag anser att indikationen av prestanda på mänsklig nivå förmodligen är allmänt tillåten, förutsatt att alla har i åtanke att detta är inom ett extremt snävt sammanhang och att vi inte försöker göra detta till s.k. övermänsklig. Jag upprepar också om och om igen det begränsade sammanhanget av en anledning som jag nästa gång kommer att belysa.

Jag kan bara föreställa mig att vissa sociala medier eller naiva (möjligen ansedda) reportrar kommer att helt ta ur sitt sammanhang prestandan på mänsklig nivå.

Här är vad jag fruktar.

ANNONS

Håll andan.

Vissa kommer att hävda att AI har behärskat diplomati. Ja, en studie av ett utvecklat AI-system för diplomati visade utom allt tvivel att AI kan och nu har kapacitet att göra allt som människor gör för diplomati.

Skicka hem de utländska diplomaterna. Vi kan ersätta dem med AI.

Världen som vi känner den har förändrats. Vi har producerat AI som är helt lika med människor i diplomati, och vi kan göra det mentala "logiska" språnget till idén att AI nu kan göra vad människor kan göra. Voila, vi har nu bevisat att AI är i paritet med människor. Tydligen ger denna studie tydliga bevis på kännande AI.

Markera mina ord, det här kommer definitivt att bli den udda, oansvariga, besvärliga uppfattningen av vissa författare.

Jag ska inte understryka poängen. Vi går vidare.

ANNONS

Hur fungerar AI?

Här är en snabb sammanfattning från tidningen: "Cicero kopplar en kontrollerbar dialogmodul med en strategisk resonemangsmotor. Vid varje punkt i spelet modellerar Cicero hur de andra spelarna sannolikt kommer att agera baserat på spelets tillstånd och deras konversationer. Den planerar sedan hur spelarna kan koordinera till ömsesidig nytta och kartlägger dessa planer till budskap på naturligt språk” (ibid).

Det finns en munfull i den snabba sammanfattningen.

Tillåt mig att packa upp lite.

En mänsklig spelare som spelar Diplomati måste förutse vad de andra mänskliga spelarna kommer att göra. Du vill försöka förhandla med andra spelare och få dem att följa dina planer. De kommer att försöka göra samma sak med dig. De kanske ljuger för dig. Du kanske ljuger för dem. Du måste kämpa med sex andra spelare, som alla har sina egna planer och tillvägagångssätt.

ANNONS

Multiagent-aspekterna i det här spelet är avgörande för svårighetsgraden för att skapa AI för att spela spelet. AI:n måste hålla reda på vad varje person kan vilja göra, tillsammans med vad de säger att de vill göra, tillsammans med vilka knep de än gör med andra spelare. Detta måste vägas mot vad de säger till dig att de ska göra, och även vad du säger till dem att du kommer att göra.

Svindlande, men lätt nog för människor, vanligtvis.

På AI-fältets språkbruk refererar vi till detta som Theory of Mind (ToM). Tänk på att du som människa tenderar att teoretisera om vad andra människor tänker. Du kan inte bända upp någons noggin och se deras tankar. Du måste gissa vad deras tankar är. Du kan fråga dem, men det de berättar kan vara deras tankar eller kan vara en lömsk version av deras tankar.

Förutom teorin om sinnets komplexitet måste vi lägga till mänskligt språk i denna grumliga mix.

När en person kommunicerar till dig på sitt naturliga språk, låt oss säga engelska, finns det mycket utrymme för misstag och missförstånd. Jag säger att jag ska ta över land X, men jag säger felaktigt Y. Oopsie. Eller, sa jag land X, men du trodde av misstag att jag sa land Y. Om du tror att den typen av förvirring inte kan hända om alla använder textmeddelanden, skulle du ha mycket fel. Jag kanske skriver ett meddelande som säger att jag ska attackera ett land och jag nämner inte vilket. Kanske är det underförstått vilken jag "uppenbarligen" skulle attackera. En spelare som tar emot mitt meddelande kan anta att jag måste syfta underförstått till land X, men jag kanske ville att de skulle tycka det.

ANNONS

På och vidare går det.

Kruxet är att våra senaste framsteg inom AI när det gäller Natural Language Processing (NLP), och särskilt det senaste inom generativ AI och Large Language Models (LLM) gör denna typ av naturliga språksituation nästan genomförbar. Tidigare var NLP vanligtvis inte tillräckligt bra och likaså hade LLM:erna ännu inte varit mer väletablerade.

Tidigare skickade AI meddelanden som du nästan säkert omedelbart skulle känna igen som skrivna av ett skriptat AI-system. Formuleringen var inte flytande. Det var mall. Detta var en uppenbar giveaway att AI var en AI. Nuförtiden är det mycket svårare att urskilja att AI inte är en mänsklig aktör i dessa sammanhang.

Som nämnts i citatet ovan har just denna AI utformats för att innehålla en "kontrollerbar dialogmodul med en strategisk resonemangsmotor" (ibid). Dialogen kommer via detta: "Cicero genererar dialog med hjälp av en förtränad språkmodell som vidareutbildades på dialogdata från mänskliga spel av Diplomati. Av avgörande betydelse, förutom att vara grundad i både dialogens historia och speltillstånd, tränades dialogmodellen för att vara kontrollerbar via avsikter, som vi här definierar som en uppsättning planerade åtgärder för agenten och dess talande partner.”

ANNONS

Lägg märke till att domäninställningen är avgörande. Om du bara tränade på dialoger av normal karaktär över Internet, skulle detta inte nödvändigtvis vara passande för Diplomati spelsammanhang. De som spelar spelet är vana vid ett slags stenografisk sätt att diskutera spelet och föreslagna drag. Du vill att AI ska göra likadant. Att träna språkmodellen på domänspecifika dialogdata är därför ett anmärkningsvärt tillvägagångssätt.

För den angivna motorn för strategiska resonemang, så här säger de: "Cicero använder en strategisk resonemangsmodul för att intelligent välja avsikter och handlingar. Den här modulen kör en planeringsalgoritm som förutsäger policyerna för alla andra spelare baserat på speltillståndet och dialogen hittills, och tar hänsyn till både styrkan hos olika handlingar och deras sannolikhet i mänskliga spel, och väljer en optimal åtgärd för Cicero baserat på dessa förutsägelser . Planering bygger på en värde- och policyfunktion tränad via självspel RL som straffade agenten för att ha avvikit för långt från mänskligt beteende för att kunna upprätthålla en människokompatibel policy” (ibid; notera att RL är en förkortning för Reinforcement Learning).

Under ett spel omkalibrerar spelarna alla sina positioner efter varje drag. Du kan inte gå in i det här spelet med en fördefinierad fast strategi som är oflexibel och gjuten i sten. Du måste ändra dina handlingar baserat på vad de andra spelarna gör. AI:n borde programmeras för att göra detsamma. Ingen statisk strategi i sig. Fortsätt istället att informera om situationen, steg för steg, och ta reda på vad som verkar vara de näst bästa stegen att ta.

Den tekniska grunden för AI utformades så här: "Vi fick en datauppsättning med 125,261 XNUMX spel av Diplomati spelas online på webDiplomacy.net. Av dessa innehöll 40,408 12,901,662 spel dialog, med totalt XNUMX XNUMX XNUMX meddelanden utbytta mellan spelare. Spelarkonton avidentifierades och automatisk borttagning av personlig identifierbar information (PII) utfördes av webDiplomacy. Vi hänvisar till denna datauppsättning hädanefter som WebDiplomacy” (ibid).

På samma sätt som du kan träna AI för att spela schack, där du tar tag i miljontals schackspel och låter AI:n göra mönstermatchning om hur spelen spelades, AI för detta Diplomati spelet var jämförbart etablerat.

De av er som är AI-vana kanske är nyfikna på vilka basmodeller de använde, så här: "Vi tog R2C2 (22) som vår basmodell - en 2.7B parameter Transformatorbaserad kodare-avkodarmodell förutbildad på text från Internet med ett BART-de-noising-objektiv. Den förtränade basmodellen tränades sedan vidare på WebDiplomacy via standard Maximum Likelihood Estimation” (ibid).

Dessutom tog de en något ovanlig och spännande inställning till modelleringen av de andra spelarna när det gäller deras tillskrivna policyer i åtanke: "Ett populärt tillvägagångssätt i kooperativa spel är att modellera de andra spelarnas policyer via övervakat lärande på mänskliga data, vilket är vanligt. kallas beteendekloning (BC). Men ren BC är spröd, särskilt eftersom en övervakad modell kan lära sig falska samband mellan dialog och handlingar. För att lösa detta problem använde Cicero varianter av piKL (26) för att modellera spelarnas policyer. piKL är en iterativ algoritm som förutsäger policyer genom att anta att varje spelare i försöker både maximera det förväntade värdet av sin policy πi och minimera KL-divergensen mellan πi och BC-policyn, som vi kallar ankarpolicyn τi (ibid).

Jag tror att det täcker överlinjens aspekter och ger dig en korrekt sken av vad AI gör och hur den utför den utsedda uppgiften.

Slutsats

Det finns mycket mer jag skulle vilja nämna, men jag håller på med den här diskussionen och kommer att försöka täcka bara några keystone-aspekter. Jag siktar på att täcka mer i ett efterföljande inlägg.

Har du någonsin hört talas om fångens dilemma?

Det är ett klassiskt beslutsrelaterat problem.

Fångens dilemma innebär att du måste bestämma dig för om du ska tjata eller tjata på en medfånge. Den andra fången kan också möjligen tjata om dig. Det finns en belöningsfunktion så att om du tjatar ut den andra fången och de inte tjatar om dig, är det en slags vinst för dig. Om de tråkar ut dig och du inte tråkar ut dem, är det en slags vinst för dem och en förlorande hållning för dig. Om ni båda råkar ut för varandra, förlorar ni båda i princip. Se min bevakning i detalj på länken här.

Vilken strategi skulle du komma med när du står inför fångdilemmat?

Om det var en engångsaffär kan du nästan slå ett mynt. Om situationen upprepades om och om igen, och du hade att göra med samma andra fånge, kanske du hittar ett mönster som kan uppstå. Ett av de mest populära och ofta rekommenderade mönstren är känt som tit-för-tat. Vad den andra fången än gör, gör du samma sak vid ditt nästa drag. Om de inte tråkar ut dig, tråkar du inte ut dem. Om de tråkar ut dig, tråkar du ut dem vid nästa drag.

Du kan bli förbryllad över hur något av detta relaterar till AI-infunderad diplomati medan du spelar Diplomati.

Såhär är det.

I förhandlingar med andra måste man ofta bestämma sig för om man ska berätta sanningen eller ljuga för dem. Ett problem med att ljuga är att om du fastnar i lögnen kommer den andra personen förmodligen inte att lita på dig från och med då. De kanske inte litade helt på dig till att börja med, men nu när du har visat din hand att du verkligen ljuger kommer de utan tvekan att bestämma dig för att du är en lögnare.

Vissa spelare av Diplomati ljuga konstant. De tror att detta är den bästa strategin. Lögn, lögn och mer lögner. Andra spelare går tvärtom. De hävdar att du vill avstå från att ljuga om du kan göra det. Använd bara en lögn i de mest nödvändiga situationerna. Genom att skona lögnerna kan du bygga förtroende med andra spelare. När du väl har gått ner för den liggande vägen och blivit upptäckt kommer ingen att tro på ett ord du säger.

Uppsatsen som beskriver Cicero nämner detta: "Slutligen är diplomati en särskilt utmanande domän eftersom framgång kräver att bygga förtroende med andra i en miljö som uppmuntrar spelare att inte lita på någon. Varje turs handlingar sker samtidigt efter icke-bindande, privata förhandlingar. För att lyckas måste en agent redogöra för risken att spelare kanske inte håller sig trogna sitt ord, eller att andra spelare själva tvivlar på agentens ärlighet” (ibid).

Enligt tidningen och de korta videorna fann forskarna så småningom att att låta AI berätta sanningen så mycket som möjligt verkade vara den bättre övergripande strategin. På sätt och vis kan du likna det här med fångens dilemma. Börja med att berätta sanningen. Om din motståndare säger sanningen fortsätter du att säga sanningen. Om de börjar ljuga måste du bedöma om du ska hålla fast vid att berätta sanningen eller gå över till att ljuga.

Man antar att detta är ett hjärtevärmande fynd.

Tänk på att den knepiga och spännande delen av Diplomati är att du gör detta med avseende på sex andra spelare (känd som ett problem med flera agenter). Du kanske är skarpt sanningsenlig med dem alla. Eller, kanske sanningsenlig för vissa men inte andra. Det finns också aspekten att när du ljuger och fastnar i en lögn för en annan spelare, kan detta potentiellt observeras eller härledas av andra spelare. Ergo är du känd eller antas ljuga, även om du inte ljög för en viss spelare som du hoppas tror att du är sanningsenlig och som du försöker vara sann mot.

Människor tenderar att ta reda på och utveckla sina synsätt på lögn-sanning när de utövar diplomati. Situationsberoende kan vara en stor faktor. Insatserna på linjen är avgörande att överväga. En mängd faktorer spelar in.

Det skulle vara fascinerande att ha en AI-infunderad Diplomati maskinbaserade spelare spelar ett mycket stort antal spel för att se vad resultaten kan antyda i huvudsak.

Vi kanske också vill ställa AI mot mindre än sex andra spelare för att se hur det förändrar saker och ting. Vi kan också lägga till AI i mixen som mer än en spelare. Anta till exempel att vi hade fem mänskliga spelare och två AI-spelare (vi ställer in AI-spelarna som separata instanser så att de inte är beräkningsmässigt en och samma). Vad sägs om fyra människor och tre AI? Vad sägs om sex AI och en människa?

En annan väg skulle vara att ställa AI enbart mot AI. På det sättet kunde vi köra igenom en gazillion spel i snabb ordning. Inställning av sju distinkta instanser av AI. Var och en är sin egen separata spelare. Eftersom allt detta finns i datorn kan vi köra dem nonstop och producera tusentals eller miljontals spelinstanser.

Naturligtvis är problemet med AI-mot-AI att vi har tagit bort de mänskliga spelarna. Vi vet inte att AI-mot-AI reflekterar vad mänskliga spelare skulle göra. I alla fall kan några intressanta resultat skönjas.

Jag hade tidigare sagt att en begränsning av AI av detta slag är att den vanligtvis är snävt fokuserad. Vi kan inte lätt veta att den AI som spelar Diplomati kommer att tillämpas i verklig diplomati. Dessutom kanske den AI som fungerar bra för Diplomati kommer inte att göra särskilt bra i andra diplomati-orienterade onlinespel. Det kanske inte babords och istället är en sorts entricksponny.

Som framgår av forskningen om formuleringen av DipGame:

• ”Vi hävdar att det i riktiga förhandlingar är viktigt att ha kunskap om domänen och man bör kunna resonera kring det. Man kan till exempel inte förvänta sig att göra lönsamma affärer i antikaffären utan att ha någon kunskap om antikvitet, hur bra man än är på att pruta. Dessutom bör en bra förhandlare också kunna resonera kring sina motståndares önskemål. En bra bilförsäljare skulle till exempel försöka ta reda på vilken typ av bil som bäst passar hans klients behov för att öka chanserna att göra en lönsam affär” (som tidigare citerats: Angela Fabregues och Carles Sierra, “DipGame: A Challenging Negotiation Testbädd”, Tekniska tillämpningar av artificiell intelligens, oktober 2011).

När behärskar AI i Diplomati inträffar, bör alla ögon riktas mot att använda eller återanvända AI för att ta itu med andra diplomatirelaterade spel. Dessutom bör ansträngningar att använda AI i verkliga diplomatimiljöer undersökas.

Jag avslutar för nu med några etiska AI-överväganden.

För det första var det lugnande att märka att Meta AI-teamet insåg att deras arbete omfattar AI-etiska konsekvenser. Nyktra frågor uppstår. Är det korrekt att "lura" folk att spela mot AI utan att berätta för dem att de gör det? Kan det naturliga språket som genereras av AI oavsiktligt innehålla stötande formuleringar som förmedlas till de mänskliga spelarna? Och så vidare.

Se till att ta en titt på hur de hanterade de akuta frågorna om etisk AI i Supplemental Materials (SM) i deras papper: "Vi diskuterar etiska överväganden för denna forskning vidare i SM, inklusive integritetsöverväganden för dataanvändning (SM, § A.1), potentiella skador till följd av giftig eller partisk språkgenerering (SM, §A.2), vägar för missbruk av målinriktad dialogteknik (SM, §A.3) och AI-agent avslöjande för mänskliga spelare (SM , §A.4)” (ibid).

Vi behöver fler AI-utvecklare och deras ledarskap för att vara medvetna om etisk AI och ta medvetna steg för att vara försiktiga och omdömesgilla i det AI-arbete de gör. Dessutom måste de se till att de är transparenta om vilka etiska AI-åtgärder de har vidtagit och vilka antaganden de har gjort.

Min sista punkt för nu innebär den övergripande bävan över antropomorfiserande Ai.

Om vi ​​förbättrar AI för att framstå som mycket diplomatisk, kommer det att vilseleda människor att anta eller tro att AI är i nivå med människor i alla avseenden?

Det är en lätt hal backe. En klumpig AI som du interagerar med ger bort en ledtråd om att det förmodligen är AI och inte en människa. En smidig itererad AI som ser ut som en överlägsen diplomatisk balans kommer sannolikt att få människor att utan tvekan falla i fällan att AI:n är mänsklig, inklusive som om den har mänskligt sunt förnuft och alla människors förståelseförmåga.

För övrigt, inse också hur detta kan utnyttjas under en Diplomati spel. En mänsklig spelare som ser nästan poetiska meddelanden från en annan spelare kanske inser att detta måste vara AI (nu långt bortom den tidigare klumpiga AI), medan andra människor inte skulle vara så välartikulerade att skriva meddelanden. Naturligtvis, om AI fortsätter att anpassa sig, kan det ändra den poetiska formuleringen för att närmare spegla den kortfattade och lösaktiga formuleringen hos faktiska mänskliga spelare. I sin tur kan mänskliga spelare byta till poetiskt språk och försöka ge bort att de är människor. Tanken är att kanske andra mänskliga spelare kommer att vara villiga att anpassa sig till medmänniskor över AI.

Nästa sak du vet, spelet börjar övergå till att försöka lista ut vem som är människan och vem som är AI. Om du kan lista ut vilken som är vilken, kanske detta ger dig en fördel. Å andra sidan kan det vara för att inte. AI:n kan sluta vara lika kunnig i spelet som människorna. Dina gissningar om vilket är vilket gör dig inte särskilt bra. Det kan vara en distraktion från att bara koncentrera sig på att försöka vinna spelet, oavsett om AI-spelare eller mänskliga spelare är till hands.

För forskare som vill göra några studier av mänskliga faktorer om denna typ av sinnesförvrängande uppfattning, kan du eventuellt överväga att använda AI-infunderad Diplomati spelare och söka villig Diplomati ligaturneringar för att undersöka identifiering av människa-mot-AI och beteendeanpassningsstrategier som uppstår.

Låt oss avsluta det här.

Mark Twain sa detta om diplomati: "Principen att ge och ta är principen om diplomati - ge en och ta tio." Är det en ärlig bedömning av hur människan fungerar eller är det bara lite tungan i kinden humor som cyniskt men felaktigt bedömer människans tillstånd?

Fundera över dessa ytterligare frågor:

• Om vi ​​kan genomsyra diplomati i AI, kommer detta att lära oss om hur människor instansierar diplomati och möjligen tillåta mänskligheten att förbättras i konsten att vara diplomatisk?
• Kommer vi att skapa en falsk AI som verkar vara känslig när den inte är något liknande, allt på grund av att vi beräkningsmässigt drar en kanin ur hatten för att till synes visa upp mänsklig diplomati?
• Kan man hitta en balans mellan att ha AI genomsyrad av diplomati så att vi under tiden blir uppmärksammade på att detta fortfarande bara är vardaglig AI och därför inte ska antropomorfisera det?

De säger att diplomati är konsten att låta någon annan ha din vilja. Låt oss se till att vårt sätt är det mänskliga sättet, snarare än AI-sättet. Även om för att vara diplomatisk, nu när jag tänker noga på det, och om vi skulle sluta med AI-överherrar, kanske vi borde tillåta att vårt sätt är AI-sättet, som förhoppningsvis sammanfaller med ett lämpligt mänskligt sätt.

Försöker bara utöva ett litet mått av listig diplomati.