AI-etik och den hyllade AI Uncanny Valley, som också skramlar AI-baserade självkörande bilar

Ibland är det lite konstiga saker som fångar din uppmärksamhet och får din intuitiva känsla igång att det på något sätt är något fel. Konstigheten är inte uppenbar, inte alls flagrant i ditt ansikte. Du kanske inte ens omedelbart kan sätta fingret på vad inkonsekvensen är eller hur det kommer sig att din ökända spindelkänsla pirrar.

Kanske anas subtila ledtrådar. Kanske råkar du i magen inse att det finns en dissonans. Jag antar att man kan säga att det bara finns den minsta antydan till diskret kuslighet och din känsliga mänskliga radar plockar upp annars till synes dolda signaler.

Välkommen till den kusliga dalen.

Om du aldrig har hört talas om den kusliga dalen, ett ämne som är relativt populärt inom området AI och speciellt robotik, kan du bli lite av en njutning eftersom det är ämnet jag kommer att diskutera och analysera noga här.

Den övergripande uppfattningen kan gälla många saker som vi upplever i livet, även om nyckelstensprinciperna och ursprungsdefinitionen inbegriper AI-system och robotar. Vi ska först utforska ursprunget och den initiala betydelsen av den kusliga dalen och sedan gå vidare till en breddning för att se hur fenomenen verkar vara tillämpliga i större sammanhang.

Jag kan också tillägga att vi ska överväga om den kusliga dalen överhuvudtaget existerar.

Du förstår, vissa skeptiker och cyniker hävdar att hela ärendet är lite av ett skit och inte håller vatten. Var försiktig när du tar upp ämnet för de som är insatta. Vissa kommer att le glatt och klappa dig på ryggen för att du är mycket bekant med den kusliga dalen, medan andra ivrigt kommer att tala om för dig att det är ett smörgåsbord av svin och att du måste rengöra ditt sinne med en skumbar mental rengöringstvål. .

Den goda nyheten här är att du får bestämma om den kusliga dalen är verklig eller inte, tillsammans med om den har fördelar för medveten tillämpning eller istället ska slängas utan ceremonier på techno-idé-skräphögen. I den meningen sitter du i förarsätet.

Allt detta hör också nära till det växande området för etisk AI och den ökande insikten om att samhället på allvar och nyktert måste uppmärksamma AI-etiken. Vi kommer att göra den slipsen i ett ögonblick.

Det bästa stället att börja är genom att direkt citera professorn som kom på det kusliga dalkonceptet och direkt namngav detta utropade fenomen. 1970 publicerade professor Masahiro Mori vid Tokyo Institute of Technology en ganska liten artikel i en något mindre känd tidskrift som heter Energi (inte särskilt en grogrund för AI och robotik i sig), och sa detta:

"Jag har märkt att när vi klättrar mot målet att få robotar att framstå som mänskliga, ökar vår affinitet för dem tills vi kommer till en dal, som jag kallar den kusliga dalen."

Observera att ovanstående fraser visas på engelska, även om originalet var på japanska. Den engelska översatta versionen övervakades av författaren och publicerades senare i IEEE Spectrum 2012 och krediteras Masahiro Mori som författare. Du kan läsa tidningen själv eftersom den är öppen och fritt tillgänglig på nätet. Det är en avgjort snabbläsning på kanske tio minuter eller så och innehåller ingen teknisk tung terminologi.

Med detta sagt är det intressant och lite häpnadsväckande att en så livlig artikel, publicerad 1970, så småningom startade en hel arena av undersökningar och lanserade en myriad av relaterade studier, projekt, forskning och ibland en eldstorm av kontroverser om huruvida den införda begreppet en kuslig dal finns verkligen. Jag antar att detta visar att spännande och ibland synsätt-föränderliga idéer inte behöver vara massivt invecklade eller överfyllda med jargong och höghet. En kortfattad idé kan vara precis som om inte ens mer kraftfull än vad den kan tyckas på ytan.

Jag litar på att det kommer att uppmuntra dig att försöka främja dina nya idéer, gör det med insikten om att sött och enkelt kan vara lika magnifikt eller ibland mer än invecklat och komplext.

Låt oss hoppa tillbaka in i den kusliga dalgången.

Du stöter på ett robotsystem som har ett ansikte som liknar ett mänskligt utseende. Föreställ dig att detta robotansikte har skapats genom många iterationer. AI-utvecklare som sätter ihop robothuvudet har stegvis strävat efter att få robotansiktsdelen att verka mer och mer som ett verkligt mänskligt ansikte.

Deras första försök var oerhört primitivt. Robotansiktet hade samma utseende som du har sett i sci-fi-filmerna att vara helt metalliskt och visa upp redskap och kablar. Du vet direkt när du tittar på föremålet att det är en robot. Ingen fråga i ditt sinne om det.

Nästa försök av AI-utvecklarna involverade att linda lite plastmaterial runt metallbitarna. Även om det här ser något mer vänligt ut, vet du fortfarande omedelbart att det är ett robothuvud och ett robotansikte. Återigen, lätt att upptäcka.

Dessa AI-utvecklare är fast beslutna att fortsätta med detta. De skulpterar plasten och ger den hudtoner. De lägger till egenskaper som verkar väldigt likna ett mänskligt ansikte, som mullvad, hår, fläckar och liknande.

Vid första anblicken kan du förledas att tro att detta är ett mänskligt ansikte. Om en bild togs av robotansiktet och du blev ombedd att identifiera om bilden föreställde en person kontra ett robotansikte, kan du bli förskräckt av att omedelbart kunna säga vilken det var. Å andra sidan, om du stod bredvid enheten, skulle du troligtvis vid noggrann inspektion kunna urskilja att det inte är en människa utan istället en robot.

Saken är den att innan du fick chansen att göra en närbildsgranskning var det något med ansiktet som inte verkade stämma helt. Det såg verkligen ut som ett mänskligt ansikte. Men det var något fel. Du var tvungen att fortsätta att stirra om och om igen för att sätta fingret på det som inte ser riktigt bra ut. Kanske är det ett riktigt ansikte. Återigen, det kanske det inte är. Ditt sinne rullar därefter.

Ett sken av kuslighet kommer in i ditt sinne.

Du hade inte samma sken av kuslighet när du såg de två tidigare versionerna. Du kunde utan paus eller tvekan upptäcka att roboten var en robot. Bara ett barn kan bli lurad att tro att någon av dessa versioner var av en riktig person.

Den senaste versionen var dock annorlunda. Det var ännu inte fulländat för att se ut som ett mänskligt ansikte. Det var inte heller så långt ifrån det verkliga att det var uppenbart att det måste vara en robot. En sorts rörig mark hade nåtts.

Anta att utvecklarna drev längre in i sina forskningsansträngningar och ordnade allt så att robotansiktet nästan inte kunde skiljas från ett mänskligt ansikte. Oavsett hur länge du stirrar på saken är du osäker på om det är en människa eller inte. När du får information om att det är robotansiktet blir du förvånad. Jisses, de har gjort ett bra jobb med att få det att se verkligt ut.

Lägg märke till att du hittills bara har övervägt robotaspekterna baserat på enbart utseende.

Vi skulle kunna lägga till rörelse till ekvationen. Detta ger en extra dimension för dig att urskilja om roboten är en robot eller en människa. Jag vill inte helt uppfatta detta som ett flerdimensionellt slags problem i den här diskussionen eftersom det gör en förklaring av detta ämne mer intrikat (det finns även om multidimensioner oundvikligen är sammanflätade). Föreställ dig i alla fall att du inte bara såg robotansiktet utan också kunde se när roboten flyttar ansiktsdragen, såsom munnen, ögonen, näsan, etc. Självklart kan det också vara giveaways om huruvida detta är en robot eller människa.

En viktig aspekt att hålla i framkanten av den kusliga dalen är att den ursprungliga uppfattningen betonar handlingen av mänsklig affinitet. Det påstådda fenomenet är att din affinitet ökar när du ser de stegvis förbättrade robotansikterna, tills den punkt där den kusliga varianten uppstår. Vid det tillfället sägs din känsla av affinitet sjunka dramatiskt och störta ner i en affinitetsklyfta eller -dal.

För den specifika versionen som fick dig att misstänka att något var fel, påstås din affinitet ha minskat radikalt. Dessutom, enligt teorin, kan din affinitet skjuta i höjden igen när du stöter på den mer avancerade versionen som är nästan identisk med en verkligt mänsklig form.

Här är mer om vad författaren sa om vår normala benägenhet att anta att livets aspekter ökar smidigt: ”Den matematiska termen monotont ökande funktion beskriver ett förhållande där funktionen y = ƒ(x) ökar kontinuerligt med variabeln x. Till exempel som ansträngning x växer, inkomst y ökar, eller när en bils gaspedalen trycks ned, rör sig bilen snabbare. Denna typ av relation är allestädes närvarande och mycket lätt att förstå. I själva verket, eftersom sådana monotont ökande funktioner täcker de flesta fenomen i vardagen, kan människor falla under illusionen att de representerar alla relationer. Ett bevis på detta felaktiga intryck är också det faktum att många människor kämpar sig igenom livet genom att ihärdigt trycka på utan att förstå effektiviteten av att dra sig tillbaka. Det är därför människor vanligtvis blir förbryllade när de ställs inför något fenomen som denna funktion inte kan representera." Detta citeras per IEEE Spectrum översatt papper.

Detta nästan universella antagande om att alltid öka kan omkullkastas när vi stöter på något fel. kusligheten och misstänksamheten kommer att orsaka ett relativt abrupt och dramatiskt fall i affinitet, säger teorin, till exempel en robothand som du valde att skaka och inte kunde känna de beniga egenskaperna hos en mänsklig hand: "När detta händer, tappar vi vårt sinne av affinitet, och handen blir kuslig. I matematiska termer kan detta representeras av ett negativt värde."

Om du accepterar premissen att det finns detta fenomen med en kuslig dal, är jag säker på att du undrar vad det hjälper dig att veta att den kusliga dalen tydligen existerar.

Det är alla tiders klassiker "så vad?" praktiska test.

Det visar sig att många har kommit på många tolkningar av vad vi borde eller kan göra åt den kusliga dalen. Det finns massor av åsikter. Jag kommer att ta upp en del av det inom kort.

Samtidigt, här är vad Masahiro Mori erbjöd: "Vi hoppas kunna designa och bygga robotar och proteshänder som inte kommer att falla ner i den kusliga dalen. På grund av risken med att försöka öka sin grad av mänsklig likhet för att skala den andra toppen rekommenderar jag att designers istället tar den första toppen som sitt mål, vilket resulterar i en måttlig grad av mänsklig likhet och en betydande känsla av affinitet . Faktum är att jag förutspår att det är möjligt att skapa en säker nivå av affinitet genom att medvetet sträva efter en icke-mänsklig design. Jag ber designers att fundera över detta.”

En snabb kondensering från min sida av tolv praktiska byxbyxregler om vad man ska göra angående den kusliga dalen går så här för AI-utvecklare i synnerhet:

1) Var medveten om den kusliga dalen och var på tårna därefter

2) Du vill förmodligen uppnå mänsklig affinitet för din AI så mycket som möjligt

3) Var beredd på en förlust av mänsklig affinitet om din AI faller i den kusliga dalen

4) Försök att undvika den kusliga dalen genom att utforma din AI på detta sätt

5) Det är respektabelt att ha ett mål som är kort från den kusliga dalen

6) Sikla upp till kanten av den kusliga dalen men ramla inte över klippan

7) Var inte besatt av att gå bortom den kusliga dalen

8) Det finns en chans att du kan hoppa förbi den kusliga dalen

9) Var inte upptagen av språnget eftersom du kan falla ner i dalen ändå

10) Maximal mänsklig affinitet skulle visserligen uppnås genom att ta sig förbi den kusliga dalen

11) Ändå finns det adekvat och lämplig affinitet före den kusliga dalen

12) Var ständigt uppmärksam på den kusliga dalen och låt den inte missa dig

Dessa dussin är alla allmänna föreskrifter som kan betraktas som slutsten eller förankringspunkter för att veta om den kusliga dalen. Jag ska genast erkänna att det finns andra punkter som inte är listade i det knappa dussinet som kan anses vara lika viktiga. Jag kommer också lätt att erkänna att det måste finnas oenighet för var och en av de identifierade punkterna, och en lång och het debatt kan uppstå om varje punkt som tas upp.

Mer så, vissa skulle säga att de tolv punkterna är helt och hållet skräp eftersom de är baserade på en lögn, till att börja med. Det finns inget som heter en kuslig dal, skulle de hävda. Det är bara chicanery och en påhittad konst som vädjar enbart och sorgligt att vädja till svaga sinnen (usch, det gör verkligen ont!). All uppmärksamhet på den kusliga dalen är en bortkastad fläkt och någon borde följa med och sätta en vass teoretisk påle av trä i sakens kärna (vissa forskare har försökt göra det).

För diskussionens skull, låt oss gå med strömmen och anta att det finns en kuslig dal och att den utger sig för att generellt stämma överens med vad jag har antytt hittills. De som inte håller med om konceptualiseringen av en kuslig dal är välkomna att zona ut eller fortsätta läsa med sammanbitna tänder och deras intellektuella ilska bryggande och kokande (förlåt för det).

Så här kommer etisk AI och fokus på att utforma och utveckla etisk AI. Förresten, för mina pågående och djupgående utforskningar av AI-etik, se min diskussion på denna länk här och denna länk här, bara för att nämna några.

Den kusliga dalen är en avgjort hat-kärleksaffär för dem som gillar etisk AI.

Först behövde lite bakgrund. En av de mest hårresande etiska AI-relaterade betänkligheterna är att människor kan luras att tro att ett AI-system är kännande. Var medveten om att det inte finns någon AI idag som kommer någonstans i närheten av att vara kännande. Det händer bara inte just nu. Mitt till synes "fräcka" påstående görs trots de oupphörliga och skrällande rubrikerna som förklarar denna AI eller att AI antingen är kännande eller tillräckligt nära för att betraktas som sådan. Malarkey. Vi är inte på AI-känsla.

Vi vet inte hur vi ska ta oss dit. Vi vet inte om det kommer att hända. AI-känsla är en värd dröm och strävan, men hoppa inte på pistolen och tro att vi är på väg att uppnå det.

Naturligtvis varnar många ivrigt för att om vi på något sätt lyckas få till stånd AI-känsla, oavsett om vi gör det genom design eller av en ren slump, kommer vi att möta en existentiell risk. På det sättet att tänka är det kanske inte så värt att söka AI-känsla. Risken är att denna kännande AI kan avgöra att människor inte är värda att ha runt. Vi kan bli klämda som en insekt. Eller bli förslavad av AI. Detta kan inträffa genom att AI:n öppet väljer att göra det, eller så kan AI:n sluta med att bli vår egen domedagsmaskin som förstör oss av vår egen oduglighet. För min bevakning av de oroande resultaten av AI-känsla eller singularitet, se länken här.

Ett avgörande etiskt bekymmer för AI är att utvecklarna av AI och de som arbetar med AI ibland suger människor att tro att AI är kännande. Sättet på hur AI visar sig, till exempel genom en robotformulering eller genom dess konversationsinteraktivitet, kan på ett lömskt sätt sporra människor att anta att AI:n är kännande. Detta leder dig i sin tur ner på en potentiellt vidrig primula-bana.

Om du hamnar i den mentala fällan att tro att ett AI-system är kännande, kommer du sannolikt att förlita dig på att det gör saker som kännande varelser skulle göra. Men det finns ännu inte något sunt förnuft för en människoliknande kvalitet inbyggd i någon av dagens AI. Den AI vi upplever för närvarande är extremt skör och ytlig när det kommer till mänskliga egenskaper. Du kan hamna i en del otäcka och farliga vatten genom att tro att ett AI-system är kännande.

Hur hänger det ihop med den kusliga dalen?

Såhär är det.

Kom ihåg att den kusliga dalen tycks berätta för oss att mänsklig affinitet gradvis kommer att öka när ett AI-system eller en robot kommer närmare och närmare en mänsklig formulering. Vid en tidpunkt då AI-systemet närmar sig punkten att vara ganska nära, men ändå, inte riktigt där, får vi en kuslig känsla av att något är fel. Fram till dess visste vi att AI inte var mänsklig. Nu är vi inte säkra. Vår mänskliga affinitet sjunker. Först när AI:n eller roboten blir helt övertygande när det gäller mänskliga egenskaper återfår vi vår sken av affinitet till enheten.

AI-utvecklare som tar till detta hjärta skulle förmodligen avsiktligt strävar efter att hålla sin AI borta från den kusliga dalen, med målsättningen att stanna när det gäller egenskaperna hos AI:n, precis innan de faller ner i den kusliga avgrunden (minns, det är också vad Masahiro Mori betonade). Utvecklarna skulle tydligen göra det genom att se till att det fortfarande fanns rikliga ledtrådar för att göra det ganska tydligt att AI:n är mindre än kännande AI och alltså inte en människa eller likaså.

AI-etiker skulle i allmänhet välkomna den uppriktiga ansträngningen.

Resonemanget är rakt på sak. De så informerade och omfamna AI-utvecklarna försöker se till att AI-systemet inte vilseleder människor att felaktigt tillskriva AI:n mänskliga faciliteter. Det är säkert goda nyheter. Utvecklarna kommer medvetet att skapa AI för att förhindra ett dyk in i den kusliga dalen. Människor kommer lätt att inse att AI inte är kännande.

Att försöka få AI-utvecklare att anamma ett sådant tillvägagångssätt är inte lätt. Det kan faktiskt vara kontraintuitivt mot deras vanliga instinkter och drivambitioner.

Många påståenden görs att AI-utvecklare och tekniker i allmänhet är upptagna av mål. De ser ett mål och kommer ofta blint att sträva efter det med stor glädje. Ingen tid att stanna och lukta på rosorna. Iväg till tävlingarna, vi går. Inom AI-området skulle det normativa målet vara en idealiserad AI som inte går att skilja från människor genom att AI:n kan vara intelligent lika i paritet. Men vi är inte där än. Som sådan ger den kusliga dalen ett sekundärt mål, som landar före den annars dämmande kusliga dalen, och blir ett mål som ändå är acceptabelt. Visst, det är inte den gyllene prisade ringen, men tanken är att detta "sekundära" pris är bra, tack så mycket, och du kan vara stolt över det.

Vi har ändrat den förstörda målsökande översta ambitionen och utnyttjat den till en logiskt klingande motiverad grund för att så att säga göra rätt.

Hurra!

Gör en vinst för AI-etik.

Men vänta en sekund, spoiler alert, det finns något annat som vi måste överväga lika mycket.

Nu när dessa kunniga AI-utvecklare känner till den kusliga dalen, kanske de vänder sina förstånd och tekniska skicklighet mot att avsiktligt hoppa över avgrunden och ändå göra det med ett sken av bedrägeri i åtanke. Få AI:n att se ut och framstå som helt människolik, även om utvecklarna vet att detta är osant.

Det oseriösa tänkandet går så här. Låt inte ditt AI-system tippa på hatten och få folk att få den svårfångade underströmmen av kuslighet. Ta bort de aspekter som kan ge någon hint eller ledtråd om att AI inte är av mänsklig förmåga. Gör detta medan du i hemlighet inser och oförlåtligt vet att AI:n inte är av mänsklig förmåga och det här handlar om att dölja den sanningen från de som interagerar med eller är beroende av AI:n.

Vilka djävulska planer.

Ironiskt nog kan den kusliga dalen vara ett slags väckarklocka för AI-utvecklare att om de verkligen vill lura människor måste de vara smarta nog att fly avgrunden. De gör det inte genom att uppnå fullständig AI, utan istället genom att sätta upp rök och speglar för att få AI:n att verka vilseledande som om den är mänsklig. Hade AI-utvecklarna inte insett att denna kusliga dal finns, hade de i stort sett fallit in i den. Det är bra för mänskligheten eftersom människor ärgo skulle förlora sin affinitet till AI när det gäller att inte överlita på dagens kvalitet på AI.

Beklagligt nog, genom att veta att fällan finns, kommer AI-utvecklare som vill smyga runt den att hitta fördärvligt smarta sätt att göra det.

Gör en träff mot föreskrifterna om etisk AI.

Ser du hur detta skapar en kärlek-hat-relation för AI-etiker om den kusliga dalen?

Förbannat om du gör det, förbannat om du inte gör det.

Jag inser att detta har varit en undersökning av den kusliga dalen och du kanske längtar efter några dagliga exempel. Det finns en speciell och säkerligen populär uppsättning exempel som ligger mig varmt om hjärtat. Du förstår, i min egenskap av expert på AI inklusive de etiska och juridiska konsekvenserna, blir jag ofta ombedd att identifiera realistiska exempel som visar upp AI-etiska dilemman så att ämnets något teoretiska natur kan lättare förstås. Ett av de mest suggestiva områdena som på ett levande sätt presenterar detta etiska AI-problem är tillkomsten av AI-baserade äkta självkörande bilar. Detta kommer att fungera som ett praktiskt användningsfall eller exempel för omfattande diskussioner om ämnet.

Här är en anmärkningsvärd fråga som är värd att överväga: Belyser tillkomsten av AI-baserade äkta självkörande bilar något om den kusliga dalen, och i så fall, vad informerar detta oss om att göra?

Tillåt mig en stund att packa upp frågan.

Observera först att det inte finns en mänsklig förare inblandad i en äkta självkörande bil. Tänk på att äkta självkörande bilar körs via ett AI-körsystem. Det finns inte ett behov av en mänsklig förare vid ratten, och det finns inte heller en bestämmelse för en människa att köra fordonet. För min omfattande och pågående bevakning av Autonomous Vehicles (AV) och speciellt självkörande bilar, se länken här.

Jag vill ytterligare klargöra vad som menas när jag hänvisar till riktiga självkörande bilar.

Förstå nivåerna av självkörande bilar

Som ett förtydligande är sanna självkörande bilar sådana som AI kör bilen helt på egen hand och det finns ingen mänsklig hjälp under köruppgiften.

Dessa förarlösa fordon betraktas som nivå 4 och nivå 5 (se min förklaring på denna länk här), medan en bil som kräver en mänsklig förare för att dela köransträngningen vanligtvis anses vara på nivå 2 eller nivå 3. De bilar som delar på köruppgiften beskrivs som halvautonoma och innehåller vanligtvis en mängd olika automatiserade tillägg som kallas ADAS (Advanced Driver-Assistance Systems).

Det finns ännu inte en riktig självkörande bil på nivå 5, som vi ännu inte vet om det är möjligt att uppnå och inte heller hur lång tid det kommer att ta sig dit.

Under tiden försöker nivå 4-ansträngningarna gradvis få lite dragkraft genom att genomgå mycket smala och selektiva offentliga vägförsök, även om det finns kontroverser om huruvida denna testning ska vara tillåten i sig (vi är alla liv-eller-död-marsvin i ett experiment. som äger rum på våra motorvägar och motorvägar, menar vissa, se min täckning på denna länk här).

Eftersom semi-autonoma bilar kräver en mänsklig förare, kommer antagandet av dessa typer av bilar inte att vara märkbart annorlunda än att köra konventionella fordon, så det finns inte mycket nytt i sig att täcka om dem om detta ämne (men som du kommer att se på ett ögonblick är de punkter som nästa görs generellt tillämpliga)

För semi-autonoma bilar är det viktigt att allmänheten måste varnas om en oroande aspekt som har uppstått på sistone, nämligen att trots de mänskliga förarna som fortsätter att lägga upp videor om sig själva somna vid ratten i en nivå 2 eller nivå 3 bil , vi måste alla undvika att bli vilseledda till att tro att föraren kan ta bort sin uppmärksamhet från köruppgiften medan han kör en semi-autonom bil.

Du är den ansvariga parten för fordonets körning, oavsett hur mycket automatisering som kan kastas till nivå 2 eller nivå 3.

Självkörande bilar och The Uncanny Valley

För nivå 4 och 5 verkliga självkörande fordon finns det ingen mänsklig förare som är involverad i köruppgiften.

Alla passagerare kommer att vara passagerare.

AI kör körningen.

En aspekt att omedelbart diskutera innebär det faktum att AI involverad i dagens AI-körsystem inte är känslig. Med andra ord är AI helt och hållet en kollektiv datorbaserad programmering och algoritmer, och kan med säkerhet inte resonera på samma sätt som människor kan.

Varför är denna extra tonvikt om att AI inte är känslig?

Eftersom jag vill understryka att när jag diskuterar AI-drivsystemets roll tillskriver jag inte mänskliga egenskaper till AI. Tänk på att det idag finns en pågående och farlig tendens att antropomorfisera AI. I grund och botten tilldelar människor mänsklig känsla till dagens AI, trots det obestridliga och obestridliga faktum att ingen sådan AI finns än.

Med det förtydligandet kan du föreställa dig att AI-körsystemet inte på något sätt "vet" om körningens aspekter. Körning och allt det innebär kommer att behöva programmeras som en del av hårdvaran och mjukvaran i den självkörande bilen.

Låt oss dyka in i den myriad av aspekter som kommer att spela om detta ämne.

För det första är det viktigt att inse att inte alla AI självkörande bilar är likadana. Varje biltillverkare och självkörande teknikföretag tar sitt tillvägagångssätt för att utforma självkörande bilar. Som sådan är det svårt att göra svepande uttalanden om vad AI-körsystem kommer att göra eller inte.

Dessutom, närhelst man säger att ett AI-körsystem inte gör någon speciell sak, kan detta senare övertas av utvecklare som faktiskt programmerar datorn att göra just det. Steg för steg förbättras och utökas AI-körsystemen gradvis. En befintlig begränsning idag kanske inte längre existerar i en framtida iteration eller version av systemet.

Jag litar på att det ger en tillräcklig litania av varningar för att ligga till grund för det jag ska berätta.

Vi är redo att göra en djupdykning i självkörande bilar och etiska AI-frågor som involverar den kusliga dalen.

Det finns fyra aspekter som hänför sig till denna fråga som kommer att behandlas här:

1. Det övergripande utseendet på självkörande bilar

2. Frågan om var självkörande bilar "letar"

3. AI-körning av självkörande bilar

4. Robotar som kör som ett sätt att få självkörande bilar

Ytterligare aspekter omfattas också på ett livskraftigt sätt, men för utrymmesbegränsningar kommer dessa fyra ämnen att vara tillräckliga för att belysa bäringen av den kusliga dalen som är relaterad till AI-baserade självkörande bilar.

1. Övergripande utseende av självkörande bilar

Jag slår vad om att du har sett bilder eller filmer på dagens prov på självkörande bilar. Som sådan kanske du har märkt att de flesta av fordonen är konventionella bilar som är utrustade med ytterligare specialutrustning. Till exempel kan det finnas ett takställ som innehåller en mängd elektroniska sensorer. Sensorerna inkluderar ibland videokameror, radarenheter, LIDAR-enheter, ultraljudssensorer och liknande.

Futuristisk design tenderar att antyda att vi kan avvika från den konventionella bilen för att istället designa om bilar på både interiören och exteriören för att vara mer eleganta autonoma fordon. Just nu är det allmänna tänket att det är enklare att använda konventionella bilar och inte lägga ner energi på att försöka tänja på strävan genom att samtidigt mixtra med bilar som ser okonventionellt ut (det finns några undantag från denna allmänna synpunkt, se min bevakning på länken här).

Kontentan just nu är att om du kör på vägbanan och stöter på en närliggande självkörande bil, kan du nästan alltid omedelbart urskilja att det förmodligen är en självkörande bil genom att bara lägga märke till smått och gott med sensorer monterade på det autonoma fordonet. Detta är en snabb visuell giveaway. Naturligtvis vet du inte säkert att det är självkörande i sig eftersom vid denna tidpunkt körkontrollerna vanligtvis fortfarande är intakta och en mänsklig reservförare kan sitta vid ratten.

I ett sätt att tänka kan du antyda att det är särskilt praktiskt att självkörande bilar fysiskt tycks sticka ut och lätt upptäcks visuellt av mänskliga förare i närliggande människodrivna bilar och även av fotgängare i närheten. Insikten om att en självkörande bil strövar i närheten kan vara en praktisk ledtråd för att vara på din vakt, vilket får dig att vara vaksam och uppmärksam på att AI:n är eller kan köra fordonet.

Anta att självkörande bilar såg identiska ut med en konventionell människodriven bil. Detta är realistiskt genomförbart på åtminstone två sätt. För det första kan sensorerna potentiellt vara dolda eller formade för att inte vara så uppenbara för tillfällig visuell inspektion. För det andra kan det vara så att alla bilar inklusive konventionella människodrivna bilar gradvis utrustas med liknande sensorer, även om fordonet ändå kommer att förbli en övervägande människodriven bil. Se min vidare bevakning på denna länk här.

Om du medvetet funderar över huruvida självkörande bilar kan eller borde vara identiska till utseendet med konventionella människodrivna bilar, kan du komma till tanken att en kuslig dal kan gömma sig i denna gryta.

Du förstår, bilar som uppenbart ser ut som självkörande bilar kan typiseras som att de befinner sig i en tidpunkt som ligger precis utanför den kusliga dalen. I grund och botten "vet" du att det är en robot eller ett robotsystem. Det är en bedömning du nästan omedelbart kan hoppa till.

När självkörande bilar ser identiskt ut som människodrivna bilar, kanske detta tyder på att de autonoma fordonen har hoppat förbi den kusliga dalen när det gäller deras robotliknande utseende. Finns det dock en medelväg mellan dessa två fysiska framträdanden som gör att vi hamnar i den kusliga dalen?

Kanske ser du en självkörande bil som kommer nerför gatan och det verkar som om det förmodligen är en självkörande bil, å andra sidan ser utseendet varken strikt autonomt ut eller rent mänskligt. Man kan hävda att den självkörande bilen nu är i ett kusligt eller oroande utseende.

Den självkörande bilen har skenbart hamnat i den kusliga dalen.

Som sagt, alla skulle inte hålla med om den kategoriseringen. Vissa skulle hävda att det fysiska utseendet inte har något att göra med den kusliga dalen. Vissa hävdar naturligtvis också att det inte finns något realistiskt känt som den kusliga dalen.

Som tidigare nämnts är du välkommen att ta ditt eget beslut om detta.

2. Fråga om vart självkörande bilar letar

En hotande oro som många har om självkörande bilar är att de vanligtvis saknar någon mänsklig förare i förarsätet och därför är det svårt att lista ut var "föraren" tittar när de kör bilen.

Du tittar normalt på mänskliga förare för att spionera var de letar. Till exempel kan du vara en fotgängare vid ett övergångsställe och en bil närmar sig övergångsstället. Du tittar intensivt på personen som sitter i förarsätet och försöker urskilja vart huvudet är vänt och vart deras ögon tittar. Om du tror att den mänskliga föraren har sett dig, kanske du är mer bekväm med att korsa gatan. Däremot, om den mänskliga föraren inte verkade se dig, är du med rätta orolig för att korsa.

I vissa städer finns det en sorts katt och råtta gambit på dessa aspekter. En speciell kulturell norm i en given stad kan vara att om du får ögonkontakt med en förare, "vinner" föraren och de har till synes rätt att fortsätta, oavsett hur lagligt körsituationen är. Andra städer kan vara helt tvärtom, nämligen att den kulturella normen är att när ögonkontakt görs "vinner" fotgängaren och den mänskliga föraren antas avstå från fotgängarens handlingar.

Vi tycks ha anammat denna sed under den relativt långa tid då bilar stått mitt i våra städer och samhällen. Problemet med tillkomsten av självkörande bilar är att det inte finns en mänsklig förare i förarsätet och därmed är det nu någon fotgängare eller närliggande mänsklig förare som normalt använder bilförares huvud och ögon som en kulturell indikator på köravsikten. otur.

Biltillverkare och självkörande bilutvecklare är mycket medvetna om detta framväxande problem. En föreslagen lösning består av att den självkörande bilen blinkar med strålkastarna på det autonoma fordonet eller eventuellt tutar. En annan föreställning är att den självkörande bilen kan ha en variant av en högtalare och berätta för dem i närheten vad "avsikterna" med AI-körsystemet är. Dessa idéer har var och en betydande nackdelar.

Ändå innebär ett annat förslag att göra något som du först kanske tror är löjligt. Förslaget går ut på att placera ögonglobsliknande klot på utsidan av det autonoma fordonet. Dessa klot skulle i stort sett se ut som mänskliga ögon i sken av att kunna svänga fram och tillbaka, vilket ger dig en omedelbar indikation som tyder på att AI:n "har sett dig" (du skulle tolka detta genom att ögongloberna tittar i din speciella riktning). Jag har analyserat detta tillvägagångssätt kl länken här.

Hur skulle du reagera på att se en självkörande bil komma nerför vägbanan och få dessa stora udda ögonglober monterade på motorhuven eller taket?

Jag antar att du kanske tycker att det är kusligt, kanske läskigt.

Vissa skulle mena att kusligheten uppstår från att den lika utrustade självkörande bilen befinner sig i den kusliga dalen. Andra skulle häftigt hävda att detta inte har något som helst att göra med den kusliga dalen. Av dessa förståsigpåare skulle vissa säga att det finns en kuslighet som kan vara kuslig utan att behöva förankras i den kusliga dalen (dvs den kusliga dalen producerar till synes alltid kuslig, men inte all kuslighet produceras enbart via den kusliga dalen). Den andra vinkeln är att kloten förmodligen kan utformas för att se mindre ögonglober ut och se ut att se mer robotaktiga ut, eller att vi alla oundvikligen kommer att acceptera utseendet på dessa klot och den första häpnadsväckande reaktionen kommer att avta.

3. AI-körning av självkörande bilar

Många av dagens tester av självkörande bilar har visat att de befintliga AI-körsystemen tenderar att vara programmerade att köra på ganska ljumna och något strikt lagliga sätt. AI-körsystemet gör vanligtvis att den självkörande bilen stannar vid stoppskyltar. AI-körsystemet gör inte vågade körningar genom korsningar när trafiksignalen är överhängande röd. Dessa egensinniga körpraxis är provinsen för mänskliga förare.

På ett sätt kan man nästan gissa att en självkörande bil är en självkörande bil av den körstil den uppvisar. Även om det autonoma fordonet visuellt såg ut att vara en konventionell människodriven bil, kan du observera körhandlingarna och kanske logiskt dra slutsatsen att det förmodligen drivs av ett AI-system.

Vissa tror att vi kommer att behöva få AI-körsystem att vara mer liknade mänskliga förares upptåg så att de effektivt smälter in i de normativa metoderna för körning. Jag antar att du skulle kunna tolka detta som att bekämpa eld med eld.

Är det vettigt att göra det?

Var medveten om att frispråkiga skeptiker och kritiker avskyr idén. De skulle ihärdigt hävda att vi vill att AI-körsystem ska köra ordentligt och försiktigt. Att lägga till potentiellt miljontals självkörande bilar på vägarna som är programmerade att vara som vilseledande mänskliga förare skulle tyckas vara en kolossal mardröm. Jag har diskuterat detta kontroversiella förslag kl länken här.

Låt oss omarbeta dilemmat genom att utnyttja den kusliga dalen.

När AI-körsystemet är strikt lagligt genom sina körhandlingar, är detta kanske en tydlig ledtråd om att det sannolikt är ett robotsystem (trots mänskliga förare som visserligen gör detta, även om de i dagens värld verkar långt och få emellan). Om AI-körsystem ska köra lika konstigt som mänskliga förare, hoppar detta över den kusliga dalen eller faller det ner i den kusliga dalen?

Fundera över det där.

4. Robotar som kör som ett sätt att uppnå självkörande bilar

Denna sista post för täckning är den mest uppseendeväckande av dessa fyra.

Du kanske är helt omedveten om att vissa AI-utvecklare försöker skapa robotar som kan köra bilar. Roboten skulle tendera att se ut som en människa i olika avseenden, med robotben och robotarmar som lemmar. När du vill att en konventionell människodriven bil ska vara en självkörande bil, placerar du bara denna specialiserade AI-körrobot i förarsätet i din bil. Se min analys av detta begrepp på länken här.

Varför skulle vi vilja köra robotar?

Det fina med en sådan robot är att alla dagens människodrivna bilar på ett sätt av tolkning kan bli självkörande bilar, nästan över en natt. Du bara köper, leasar eller på något sätt skaffar dig en körrobot. Du sätter roboten i förarsätet när du åker på en körresa. Roboten kör dig till din destination. Om du vill byta till att köra mänskligt tar du bort roboten från fordonet, kanske stoppar in den i bagageutrymmet för senare användning.

Det finns cirka 250 miljoner konventionella bilar i USA idag. Vissa tror att de så småningom kommer att skräpas när självkörande bilar kommer till. Istället för att slänga bort dessa konventionella bilar kanske vi kan försöka bygga om dem till att bli självkörande bilar, även om detta möjligen är en ganska kostsam idé. Det till synes mer försiktiga tillvägagångssättet skulle vara att göra körrobotar tillgängliga.

Om du såg en bil med konventionellt utseende komma nerför din stadsgata och den hade en robot vid ratten, vad skulle din reaktion vara?

Troligtvis kuslighet.

Ett visserligen påstående som kan diskuteras är att denna kuslighet beror på att roboten som kör en konventionell bil doppade ner i den berömda eller ökända kusliga dalen.

Slutsats

Ur ett etiskt AI-perspektiv presenterar den kusliga dalen en spännande gåta.

Det finns några inom AI som fullt ut tror på den kusliga dalen och några som inte tror det. Men oavsett om du tror på den kusliga dalen eller inte gör det, är ämnet i sig självt blandat. Du kan inte gömma ditt huvud och låtsas att konstruktionen i sig är obefintlig. Konstruktionen som idé lever och är till viss del viralt kraftfull. Hata det eller älska det, det förbannade eller kanske upphöjda ämnet består.

Enligt min tidigare diskurs om fördelarna med den kusliga dalen ur AI-ens etik, finns det ett duellerande kärleks- och hatförhållande däri. Skulle de i den etiska AI-sfären omfamna den kusliga dalen, eller sammanfattningsvis förkasta den kusliga dalen, eller förbli något neutrala om sanningshalten och istället fokusera på den påverkan som uppstår på grund av de pågående divergerande föreställningarna om den.

Denna utmaning leder till den framstående ekonomen Adam Smith när han en gång sa (omskrivning) att på vägen från Skepticismens stad måste du passera genom tvetydighetens dal.