AI Shake-Up som framstående AI-guru föreslår sinnesböjande "dödliga datorer" som också får AI-etik och AI-lag att gräva in

Här är något som du förmodligen inte hade funderat över ännu: Dödliga datorer.

Men det kanske du borde vara.

Det häftiga ämnet kom upp vid den nyligen genomförda och totalt sett ganska framstående årliga konferensen om AI som är särskilt fokuserad på tillkomsten av neurala nätverk och maskininlärning, nämligen konferensen om neurala informationsbehandlingssystem (känd av insiders som NeurIPS). Inbjudna huvudtalare och en mångårig AI-guru Geoffrey Hinton gjorde det spännande och kanske kontroversiella påståendet att vi borde tänka på datorer i ett dödligt och odödligt sammanhang.

Jag kommer att ta upp det anmärkningsvärda påståendet och göra det på två sätt som till en början inte nödvändigtvis verkar sammankopplade, men efter lite extra förtydligande kommer de att bli tydligare relaterade till varandra när det gäller de dödliga kontra odödliga stridigheterna.

De två ämnena är:

1) Integralt binda samman både hårdvara och mjukvara för AI-mekanisering snarare än att ha dem som distinkta och separata allierade

2) Överföra eller destillera maskininlärningsformuleringar från en AI-modell till en annan som gör det utan att kräva eller nödvändigtvis önska (eller ens möjligen på annat sätt) en rakt fram full renrasig kopiering

Allt detta har stora överväganden för AI och den framtida riktningen för AI-utveckling.

Dessutom finns det en mängd mycket svåra AI-etik- och AI-rättsproblem som också uppstår. Dessa typer av AI-förutsedda tekniska framsteg brukar rullas runt på en ren teknisk basis långt innan man inser att det också kan ha anmärkningsvärda konsekvenser för etisk AI och AI-lag. På sätt och vis är katten vanligtvis redan ur påsen, eller hästen är ute ur ladugården, innan uppvaknandet om att AI-etik och AI-lag bör ges due diligence-deltagande.

Nåväl, låt oss bryta den försenade eftertankecykeln och gå in på bottenvåningen på den här.

För dig som är intresserad av de senaste insikterna bakom AI-etiken och AI-lagstiftningen, kan du hitta informativ och inspirerande engagerande min pågående och omfattande bevakning på länken här och länken här, bara för att nämna några.

Jag kommer först här att täcka punkten ovan om sammankopplingen av hårdvara och mjukvara. En diskussion och analys av ämnet kommer att ske hand i hand. Därefter kommer jag att beröra frågan om kopiering eller något att säga destillering de avgörande delarna av ett maskininlärnings-AI-system från en AI till en nyutvecklad AI som mål.

Låt oss börja.

Bindning av hårdvara och mjukvara för AI

Du vet säkert att datorernas design i stort sett är sådan att det finns hårdvarusidan av saker och ting och separat finns det mjukvarusidan av saker och ting. När du köper en vanlig bärbar eller stationär dator tolkas den som en datorenhet för allmänt bruk. Det finns mikroprocessorer inuti datorn som används för att sedan köra och exekvera programvara som du kan köpa eller skriva på egen hand.

Utan någon programvara för din dator är det en bit av metall och plast som i princip inte kommer att göra dig mycket nytta, annat än att fungera som en pappersvikt. Vissa skulle säga att mjukvara är kung och styr världen. Naturligtvis, om du inte har hårdvara att köra programvaran på, kommer programvaran inte att göra mycket nytta. Du kan skriva så många rader kod som ditt hjärta önskar, men tills programvaran används via en dator är den formulerade källkoden lika tunn och flyglös som ett vackert diktverk eller en detektivroman på en minut.

Tillåt mig att tillfälligt byta till en annan väg som kan tyckas vara långt borta (det kommer det inte att vara).

Vi försöker ofta dra analogier mellan hur datorer fungerar och hur den mänskliga hjärnan fungerar. Detta försök att göra konceptuella paralleller är praktiskt. Som sagt, du måste vara försiktig med att gå överbord på dessa analogier eftersom jämförelserna tenderar att gå sönder när du kommer närmare de köttiga detaljerna.

Hur som helst, för diskussionens skull, här är en analogi som ofta används.

Hjärnan i sig är informellt ibland kallad våtgods. Det är ett catchy sätt att formulera saker på. Vi vet att datorer består av hårdvara och mjukvara, så det är smart att använda "ware"-delen av myntandet för att beskriva vad en hjärna går ut på. Den mäktiga och mystiska hjärnan, som ligger inbäddad i våra näbbar, svävar runt, mentalt beräknar alla våra handlingar (en del bra, medan vissa av våra tankar definitivt inte är fyllda med godhet).

Med en medelvikt på bara tre pund är hjärnan ett anmärkningsvärt organ. På något sätt, och vi vet ännu inte hur, kan hjärnan använda det i storleksordningen 100 miljarder neuroner och kanske allt från 100 till 1,000 XNUMX biljoner sammankopplingar eller synapser för att göra allt vårt tänkande åt oss. Hur ger hjärnans biologiska och kemiska egenskaper upphov till intelligens? Ingen kan säga säkert. Detta är ett sökande av tiderna.

Jag frågar dig detta, är hjärnan skenbart bara hårdvara, eller är det både hårdvara och mjukvara kombinerat?

Nudel på den där hjärngyckeln.

Du kan vara frestad att hävda att hjärnan helt enkelt är hårdvara (i en allmän mening). Det är ett organ i kroppen. På samma sätt kan man säga att hjärtat är hårdvara, blåsan är hårdvara och så vidare. De är alla mekaniseringar som liknar när vi talar om artefakter som har en fysisk form och gör fysiskt relaterade handlingar.

Var är då programvaran som kör människor?

Jag skulle våga påstå att vi alla i stort sett är överens om att mänsklighetens "mjukvara" på något sätt finns i hjärnan. Stegen som krävs för att laga ett ägg eller fixa ett punkterat däck är instruktioner som finns i våra hjärnor. Genom att använda den tidigare noterade datoranalogin av hårdvara och mjukvara är vår hjärna så att säga en hårdvara, för vilken vi lär oss om världen och instruktionerna om vad vi ska göra "körs" och "lagras" i våra hjärnor.

På en dator kan vi lätt peka på hårdvaran och säga att detta är hårdvara. Vi kan ha en lista över källkod och peka på listningen som programvara. Nuförtiden laddar vi elektroniskt ner mjukvara online och installerar den på våra bärbara datorer och smartphones. På gamla tiders dagar använde vi disketter och hålkort för att lagra vår programvara för att laddas in på datorns hårdvara.

Jag får dig in i en viktig gåta.

När du väl har lärt dig något och kunskapen finns i din hjärna, kan du fortfarande skilja mellan "hårdvaran" i din hjärna och den förmodade "mjukvaran" i din hjärna?

En argumenterad ståndpunkt är att kunskapen i din hjärna inte är särskilt separerad från föreställningarna om hårdvara och mjukvara. Analogin på så sätt med datorernas natur går sönder, skulle en del ivrigt hävda. Kunskap i hjärnan är sammanflätad med och oskiljaktig från din hjärnas hårdvara. De biologiska och kemiska egenskaperna sammanväver den kunskap som du mentalt besitter.

Stek på det för lite mental reflektion.

Om vi ​​hoppas på att en dag ta fram datorer som är i nivå med mänsklig intelligens, eller till och med överträffar mänsklig intelligens, kanske vi kan använda hjärnans strukturer och dess inre funktioner som en guide till vad vi behöver göra för att nå ett så högt mål. För vissa inom området AI finns det en övertygelse om att ju mer vi vet om hur hjärnan fungerar, desto bättre är våra chanser att ta fram sann AI, ibland kallad artificiell allmän intelligens (AGI).

Andra inom AI är mindre förtjusta i att behöva veta hur hjärnan fungerar. De betonar att vi kan gå vidare med att skapa AI, oavsett om vi kan låsa upp hjärnans hemliga inre funktioner. Låt inte hjärnans mysterier hindra våra AI-ansträngningar. Visst, fortsätt att försöka avkoda och dechiffrera den mänskliga hjärnan, men vi kan inte sitta och vänta på att hjärnan ska omvändas. Om det en dag är genomförbart, underbara nyheter, även om det kanske är en omöjlighet eller kommer att inträffa eoner från och med nu.

Jag är redo att nu dela med dig av den dödliga och odödliga datorstriden. Se till att du sitter ner och redo för den stora avslöjandet.

En dator som har en tydlig åtskillnad mellan hårdvaran och mjukvaran skulle kunna hävdas vara "odödlig" genom att hårdvaran kan bestå för evigt (inom gränser, förstås), medan mjukvaran kan skrivas och skrivas om gång på gång. Du kan hålla en konventionell dator igång så länge du kan reparera hårdvaran och hålla enheten igång. Du kan fortfarande använda dig av de råa hemdatorerna från 1970-talet som brukade komma i kit för montering, trots att de är nästan femtio år gamla eller så (en lång tid i datorår).

Anta dock att vi valde att göra datorer som hade hårdvaran och mjukvaran som fungerade oskiljaktigt (jag ska berätta mer om detta inom kort). Betrakta detta på samma grund som jag tidigare nämnde att hjärnan kanske har en integrerad sammansättning av hårdvara och mjukvara. Om så var fallet skulle det kunna antydas att datorn av denna typ inte längre skulle vara odödlig. Det skulle tolkas som att det är "dödligt" istället.

Enligt kommentarerna från NeurIPS-konferensen av den inbjudna huvudtalaren och den anmärkningsvärda AI-gurun Geoffrey Hinton, och som anges i hans medföljande forskningsartikel:

• "Digitaldatorer för allmänna ändamål utformades för att troget följa instruktionerna eftersom det antogs att det enda sättet att få en dator för allmänt ändamål att utföra en specifik uppgift var att skriva ett program som specificerade exakt vad som skulle göras i plågsamma detaljer. Detta är inte längre sant, men forskarvärlden har varit långsam med att förstå de långsiktiga konsekvenserna av djupinlärning för hur datorer är byggda. Mer specifikt har samhället hållit fast vid idén att programvaran ska kunna separeras från hårdvaran så att samma program eller samma uppsättning vikter kan köras på en annan fysisk kopia av hårdvaran. Detta gör att kunskapen som finns i programmet dör eller vikterna odödliga: Kunskapen dör inte när hårdvaran dör" (såsom den finns i och citerad från hans forskningsartikel "The Forward-Forward Algorithm: Some Preliminary Investigations", förtryck tillgängligt online) .

Observera att den speciella typen av datoranvändning som diskuteras i denna typ av AI använder sig av artificiella neurala nätverk (ANN).

Låt oss reda ut det här.

Det finns verkliga biologiska neuroner i våra hjärnor. Du använder dem hela tiden. De är biologiskt och kemiskt sammankopplade i ett nätverk i din noggin. Därför kan vi hänvisa till detta som en neurala nätverk.

På andra ställen finns det ska vi säga falska "neuroner" som vi beräkningsmässigt representerar i datorer i syfte att utveckla AI. Många människor inom AI hänvisar också till de som neurala nätverk. Jag tror att detta är något förvirrande. Du förstår, jag föredrar att referera till dem som konstgjord neurala nätverk. Detta hjälper till att genast skilja mellan en referens till i-ditt-huvud neurala nätverk (the real thing, liksom) och datorbaserade (konstgjord neurala nätverk).

Alla tar inte den hållningen. Många människor inom AI antar bara att alla andra inom AI "vet" att när de hänvisar till neurala nätverk pratar de nästan alltid om ANN - såvida det inte uppstår en situation där de av någon anledning vill diskutera verkliga neuroner och verkliga neurala nätverk i hjärna.

Jag litar på att du förstår min drift. För det mesta kommer AI-människor att säga "neurala nätverk" vilket är potentiellt tvetydigt eftersom du inte vet om de syftar på de riktiga i våra huvuden eller de beräkningsbaserade som vi programmerar in i datorer. Men eftersom AI-människor i stort sett sysslar med datorbaserade instanser, antar de som standard att du syftar på artificiella neurala nätverk. Jag gillar att lägga till ordet "konstgjord" i framkanten av formuleringen för att vara tydligare om avsikterna.

Går vi vidare kan du lite betrakta dessa beräkningsmässiga artificiella neuroner som en matematisk eller beräkningssimulering av vad vi tror att faktiska biokemiska fysiska neuroner gör, som att använda numeriska värden som viktningsfaktorer som annars händer biokemiskt i hjärnan. Idag är dessa simuleringar inte alls lika komplexa som verkliga neuroner. Nuvarande ANN är en extremt grov matematisk och beräkningsrepresentation.

Generellt sett är ANN ofta kärnelementet för maskininlärning (ML) och djupinlärning (DL) — tänk på att det finns mycket mer detaljer i detta, och jag uppmanar dig att ta en titt på min omfattande täckning av ML/DL på länken här och länken här, till exempel.

För att återgå till de odödliga kontra dödliga typerna av datorer här är mer att idissla om enligt forskaren:

• "Separationen av mjukvara från hårdvara är en av grunderna för datavetenskap och det har många fördelar. Det gör det möjligt att studera programs egenskaper utan att behöva oroa sig för elektroteknik. Det gör det möjligt att skriva ett program en gång och kopiera det till miljontals datorer. Om vi ​​däremot är villiga att överge odödligheten borde det vara möjligt att uppnå enorma besparingar i energin som krävs för att utföra en beräkning och i kostnaden för att tillverka hårdvaran som exekverar beräkningen. Vi kan tillåta stora och okända variationer i anslutningsmöjligheter och icke-linjäriteter för olika instanser av hårdvara som är avsedda att utföra samma uppgift och lita på en inlärningsprocedur för att upptäcka parametervärden som effektivt utnyttjar de okända egenskaperna för varje specifik instans av hårdvaran. Dessa parametervärden är bara användbara för den specifika hårdvaruinstansen, så beräkningen de utför är dödlig: den dör med hårdvaran” (ibid).

Du har nu blivit introducerad till hur odödliga och dödliga används i detta sammanhang.

Låt mig utarbeta.

Förslaget är att en dator som är specialbyggd baserad på ANN:er skulle kunna utformas så att hårdvaran och mjukvaran anses oskiljaktiga. När hårdvaran en gång inte längre fungerar (vilket vi naturligtvis säger integrerar mjukvaran), är den här typen av dator till synes inte längre användbar och kommer inte att fungera längre. Det sägs vara dödligt. Du kan lika gärna begrava den ANN-baserade datorn eftersom det inte kommer att göra dig mycket nytta hädanefter efter att den oskiljaktiga hårdvaran och mjukvaran inte längre fungerar som ett team.

Om du ville försöka relatera detta till liknelsen med en mänsklig hjärna, kanske du föreställer dig den svåra situationen för en mänsklig hjärna som helt försämras eller som på något sätt är irreparabelt skadad. Vi accepterar föreställningen att en person är dödlig och att deras hjärna i slutändan och oundvikligen kommer att sluta fungera. Kunskapen de innehöll i sin hjärna är inte längre tillgänglig. Om de inte råkade försöka berätta för andra eller skriva ner vad de visste, är deras kunskap borta till världen i stort.

Du har utan tvekan hört eller sett rapporter om försök att bevara hjärnor, som att försätta dem i ett fruset tillstånd, under teorin att kanske människor en dag kan vara odödliga eller åtminstone sträcka sig utöver sin vanliga livstid. Din hjärna kan leva vidare, även om den inte finns i din kropp. Många sci-fi-filmer och berättelser har spekulerat i sådana idéer.

Vi är nu redo för en detaljerad titt-se på den dödliga datorn och den odödliga datorn som begrepp och vad den förutsäger.

Medveten diskussion och hänsynsfull analys

Innan du dyker in i magen av denna analys av det postulerade tillvägagångssättet är några viktiga varningar och ytterligare punkter värda att nämna.

Forskaren betonade att den myntade dödliga datorer skulle inte särskilt ersätta eller skjuta ur existensen odödliga datorer som vi idag kallar för konventionella digitala datorer. Det skulle finnas en samexistens av båda typerna av datorer. Jag säger detta eftersom reaktionen från vissa har varit att uppmaningen att beställa var ett allmänt påstående att alla datorer av nödvändighet är eller kommer att vara på väg mot den dödliga typen.

Det var inte ett påstående som gjordes.

Under sitt föredrag nämnde han att dessa specialiserade sig neuromorfisk orienterad datorer skulle utföra beräkningsarbete som kallas dödliga beräkningar: "Vi kommer att göra vad jag kallar mortal computation, där kunskapen som systemet har lärt sig och hårdvaran är oskiljaktiga" (som citerats i en ZDNET-artikel av Tiernan Ray den 1 december 2022).

Och särskilt: "Det kommer inte att ersätta digitala datorer" (ibid).

Dessutom kommer dessa nya typer av datorer definitivt inte snart att finnas i din lokala datorbutik eller tillgängliga för köp online direkt, som det sades under hans presentation: "Vad jag tror är att vi kommer att se en helt annan typ av dator, inte på några år, men det finns all anledning att undersöka denna helt andra typ av dator.” Användningarna skulle också skilja sig åt: "Det kommer inte att vara datorn som har hand om ditt bankkonto och vet exakt hur mycket pengar du har."

En ytterligare twist är att de dödliga datorerna till synes skulle växa fram snarare än att tillverkas som vi gör idag för tillverkning av datorprocessorer och datorchips.

Under tillväxtprocessen skulle den dödliga datorn öka i förmåga i en stil av beräkningsmognad. Således kan en given dödlig dator börja med knappt någon kapacitet och mogna till vad den var tänkt att bli. Anta till exempel att vi ville skapa mobiltelefoner med hjälp av dödliga datorer. Du skulle börja med en enkel variant av en dödlig dator som från början har formats eller sådd för detta ändamål. Det skulle sedan mogna till den mer avancerade versionen som du letade efter. Kort sagt: "Du skulle ersätta det med att var och en av dessa mobiltelefoner måste börja som en babymobil, och den skulle behöva lära sig att vara en mobiltelefon."

På en av hans grundläggande bilder om dödliga beräkningar beskrevs fördelarna så här: "Om vi ​​överger odödlighet och accepterar att kunskapen är oskiljaktig från de exakta fysiska detaljerna hos en specifik hårdvara, får vi två stora fördelar: (1) Vi kan använda analog beräkning med mycket låg effekt, (2) Vi kan odla hårdvara vars exakta anslutningsmöjligheter och analoga beteende är okända."

En del av samma föredrag och även som ingår i hans preprint-forskningsuppsats är en föreslagen teknik för hur ANNs bättre kan utformas, som han hänvisar till som att använda en framåt-framåt nätverksstrategi. En del av er som är bevandrade i ANN är utan tvekan redan ganska medvetna om användningen av backpropagation eller back-propagation. Du kanske vill ta en titt på hans föreslagna framåtriktade teknik. Jag kommer att täcka det fascinerande tillvägagångssättet i ett framtida kolumninlägg, så håll utkik efter min kommande bevakning om det.

Växla, låt oss överväga vad som sägs i korridorerna och förbigångarna i AI-communityt om detta fräcka dödlig dator intrig.

Vi börjar med det som vissa skulle säga är en icke-startare på ämnet.

Är du redo?

Sluta kalla det här för en dödlig dator.

På samma sätt, sluta proklamera att dagens konventionella datorer är det odödlig.

Båda användningarna är helt enkelt fel och rikligt vilseledande, uppmanar skeptiker.

En vardaglig ordboksdefinition av det som är odödligt består av något som inte kan dö. Den lever för evigt. För att inte dö måste man förmodligen säga att själva saken är vid liv. Du trampar på fel spår för att hävda att dagens datorer lever. Ingen förnuftig person skulle tillskriva moderna datorer bona fide "levande" egenskaper. De är maskiner. De är saker. De är inte personer eller djur eller i ett livsvillkor.

Om du vill tänja på definitionen av odödlig för att tillåta att vi också syftar på icke-levande varelser, i så fall kommer den icke-levande varelsen till synes aldrig att förfalla och kan inte oundvikligen sönderfalla till damm. Kan du göra ett sådant påstående om dagens datorer? Detta verkar utsträckt (sidoanmärkning: vi skulle naturligtvis kunna hamna i en storslagen filosofisk diskussion om materiens och existensens natur, men låt oss inte gå dit i det här fallet).

Kontentan är att användningen av orden "dödlig" och "odödlig" är besynnerlig och oönskad. Att ta ett vanligt folkspråk och återanvända det för andra ändamål är förvirrande och ger grumligt vatten. Du måste vara villig att uppenbarligen rekonceptualisera vad dödligt och odödligt betyder i detta specifika sammanhang. Detta blir problematiskt.

Ännu mer oroande är att dessa ordval tenderar att antropomorfisera datoraspekterna.

Det finns redan mer än tillräckligt med problem förknippade med att antropomorfisera AI, vi behöver verkligen inte hitta på fler sådana möjligheter. Som jag har diskuterat utförligt i min bevakning av AI-etik och etisk AI, finns det alla möjliga vilda sätt som människor tillskriver kännande kapaciteter till datorer. I sin tur vilseleder detta människor till att felaktigt tro att AI-baserade datorer kan tänka och agera som människor gör. Det är en hal backe av fara när samhället invaggas att tro att dagens AI och datoranvändning är i nivå med mänsklighetens intellekt och sunt förnuft, se till exempel min analys på länken här och länken här.

Okej, vi kan förkasta eller ha förakt för de besvärliga formuleringsvalen, men tyder det på att vi ska slänga ut bebisen med badvattnet (ett gammalt uttryck, förmodligen närmar sig pensionen)?

Vissa hävdar att vi kanske kan hitta bättre formuleringar för denna övergripande strategi eller uppfattning. Kasta bort användningen av "dödlig" och "odödlig" så att resten av idéerna inte befläckas av olämplig eller olämplig användning. Samtidigt finns det motargument för att det är helt acceptabelt att använda dessa ordval, antingen för att de är passande eller för att vi inte ska vara oflexibla när det gäller hur vi väljer att återanvända ord. En ros är en ros med vilket annat namn som helst, deklarerar de.

För att undvika ytterligare hårda debatter här, kommer jag hädanefter att undvika att använda orden "dödlig" och "odödlig" och kommer bara att konstatera att vi har två huvudtyper av datorer som rullas runt, en som är en konventionell digital dator av idag och den annat är ett förslag neuromorf dator.

Inget behov av att dra in dödlighetsproblemet i detta, verkar det som. Håll himlen klar för att se vad mer vi kan göra av saken.

I så fall skulle vissa hävda att den föreslagna idén om en neuromorf dator inte är något nytt.

Du kan spåra tillbaka till AI:s tidigare dagar, särskilt när ANN:er först utforskades, och se att det talades om att utveckla specialiserade datorer för att utföra arbetet med artificiella neurala nätverk. Alla typer av ny hårdvara föreslogs. Detta händer än i dag. Naturligtvis kan du motargumentera att det mesta av dagens utforskning av specialiserad hårdvara för ANN:er och maskininlärning fortfarande bygger på den konventionella metoden för datoranvändning. I den meningen driver denna analoga oskiljbarhet mellan hårdvaran och mjukvaran gränsen något, och förslaget att "växa" datorn gör det också, åtminstone när det gäller att gå utanför den ansedda mainstream.

Kort sagt, det finns några som är helt genomsyrade av dessa frågor som är förvånade över att någon annan kan bli förvånad över de förslag som läggs fram. Dessa föreställningar är antingen desamma som tidigare eller återspeglar det som redan undersöks i olika forskningslabb.

Få inte håret att krångla, säger de.

Detta tar oss till en annan aspekt som är besvärande för många.

I ett ord: Förutsägbarhet.

Dagens datorer anses generellt vara förutsägbara. Du kan ta en titt på hårdvaran och programvaran för att ta reda på vad datorn ska göra. På samma sätt kan du spåra vad en dator redan har gjort för att förstå varför den gjorde vad den än gjorde. Det finns naturligtvis gränser för att göra detta, därför vill jag inte överdriva förutsägbarheten, men jag tror att du förstår idén överlag.

Du kanske är medveten om att en av de svåra problem som AI står inför idag är att en del AI är utformad för att vara självjusterande. Den AI som utvecklare sätter in kan ändra sig själv medan den används. Inom AI-etikens område finns det många exempel på AI som togs i bruk som till en början inte hade onödiga fördomar eller diskriminerande tendenser, som sedan gradvis självmuterades beräkningsmässigt under den tid som AI:n var i produktion, se min detaljerade bedömningar kl länken här.

Oron är att vi redan går in i en miljö som innefattar AI som inte nödvändigtvis är förutsägbar.

Anta att AI för vapensystem genomgår självjusteringar och resultatet är att AI:n beväpnar och avfyrar dödliga vapen vid mål och tider som inte förväntas. Människor kanske inte är i slingan för att stoppa AI. Människor som är i slingan kanske inte kan reagera tillräckligt snabbt för att gå om AI-åtgärderna. För ytterligare skrämmande exempel, se min analys på länken här.

För neuromorfa datorer är oron att vi sätter oförutsägbarhet på steroider. Från början kan kärnan i en neuromorf dator vara att den fungerar på ett sätt som trotsar förutsägelser. Vi stoltserar med oförutsägbarhet. Det blir ett hedersmärke.

Det finns två läger.

Ett läger säger att vi kan leva med de obehagliga oförutsägbarhetsproblemen, genom att sätta skyddsräcken för att hålla AI från att gå en bro för långt. Det andra lägret hävdar att du tar världen på en farlig väg. Den dag kommer att dyka upp då de påstådda skyddsräckena antingen misslyckas, eller så är de inte tillräckligt stränga, eller att skyddsräckena av misstag eller onda avsikter tas bort eller pillas med.

Ska vi vifta bort betänkligheterna kring neuromorfa datorer och förutsägbarhet?

Enligt forskarens kommentarer: "Bland de människor som är intresserade av analog beräkning är det fortfarande väldigt få som är villiga att ge upp odödligheten." Dessutom: "Om du vill att din analoga hårdvara ska göra samma sak varje gång... har du ett verkligt problem med alla dessa herrelösa elektriska saker och sånt."

Jag fixar det här.

Ett hotande och lite dystert perspektiv är att den så kallade förutsägbarheten som förknippas med dagens digitala datorer ändå går i riktning mot oförutsägbarhet. Som nämnts kan detta särskilt hända per AI som självjusterar på konventionella datorplattformar. Bara för att de neuromorfa datorerna kan vara till synes oförutsägbara är det inte ett tecken på att konventionella digitala datorer faktiskt är förutsägbara.

Den oförutsägbara ångvälten kommer till oss, full fart, oavsett vilken datorplattform du vill välja. För min bedömning av de senaste ansträngningarna att försöka uppnå AI-säkerhet i detta ljus, se länken här.

Denna vändning om förutsägbarhet borde få ditt sinne att nudla på något av en ojordad natur, typ. De av er som är involverade i AI-etik och AI-lag kanske inte har övervägt konsekvenserna av neuromorfa datorer.

Du har förmodligen siktat på konventionella digitala datorer som kör AI. Tja, gissa vad, du har ett helt extra och framväxande segment av AI-datorer som du nu kan vara uppe och oroa dig för på natten. Ja, neuromorfa datorer. Sätt det på din att göra-lista.

Tyvärr, fler sömnlösa nätter för dig.

Låt oss kort överväga vad AI Ethics och AI Law har gjort om konventionell digital datoranvändning och AI.

I tidigare spalter har jag täckt de olika nationella och internationella ansträngningarna att skapa och anta lagar som reglerar AI, se länken här, till exempel. Jag har också täckt de olika AI-etiska principerna och riktlinjerna som olika nationer har identifierat och antagit, inklusive till exempel FN:s insatser såsom UNESCO-uppsättningen av AI-etik som nästan 200 länder antog, se länken här.

Här är en användbar nyckelstenslista över etiska AI-kriterier eller egenskaper för AI-system som jag tidigare har utforskat noggrant:

• Öppenhet
• Rättvisa & Rättvisa
• Icke-ondska
• Ansvar
• Integritetspolicy
• Välgörenhet
• Frihet & autonomi
• Litar
• Hållbarhet
• Värdighet
• Solidaritet

Dessa AI-etiska principer är uppriktigt tänkta att användas av AI-utvecklare, tillsammans med de som hanterar AI-utvecklingsinsatser, och även de som i slutändan arbetar med och underhåller AI-system.

Alla intressenter under hela AI-livscykeln för utveckling och användning anses vara inom ramen för att följa de etablerade normerna för etisk AI. Detta är en viktig höjdpunkt eftersom det vanliga antagandet är att "endast kodare" eller de som programmerar AI:n är föremål för att följa AI-etikbegreppet. Som tidigare betonats här, krävs det en by för att utveckla och sätta in AI, och för vilken hela byn måste vara bevandrad i och följa AI-etiska föreskrifter.

Den del av detta som du kanske inte tidigare tänkt så mycket på är hur samma AI-etiska föreskrifter och den växande listan över nya AI-lagar kommer att gälla för neuromorfa datorer. För att förtydliga måste AI-etiken och AI-lagen verkligen ta det uttryckligen i beaktande. Jag påpekar att få gör det, och tänk på att det finns en risk för att tillkomsten av neuromorfa datorer kommer att kasta många för en loop i form av en ny dimension för att försöka regera i AI.

Vi måste överväga etiska AI- och AI-lagar på ett tillräckligt brett sätt för att omfatta allt AI som är nyutvecklat, inklusive neuromorfa datorer.

Alternativet med gungbräda är en klassisk katt-och-råtta-gambit. Så här går det till. Nya sätt att skapa AI är uttänkta och byggda. Befintlig AI-etik och AI-lagar är överraskade och omfattar inte helt de senaste AI-skönheten. En hastig ansträngning görs för att uppdatera etiska AI-föreskrifter och modifiera dessa nyligen präglade AI-lagar.

Skum, skölj, upprepa.

Det skulle vara bättre för oss alla att ligga före i matchen, snarare än att bli fångad bakom åtta bollen.

Slutsats

Jag har tagit dig med på en liten resa.

I början föreslog jag att det skulle finnas två viktiga ämnen att undersöka:

1) Integralt binda samman både hårdvara och mjukvara för AI-mekanisering snarare än att ha dem som distinkta och separata allierade

2) Överföra eller destillera maskininlärningsformuleringar från en AI-modell till en annan som gör det utan att kräva eller nödvändigtvis önska (eller ens möjligen på annat sätt) en rakt fram full renrasig kopiering

Det första ämnet om sammankoppling av hårdvara och mjukvara har varit huvuddelen av resan här. Detta ledde oss in i det dödliga kontra odödliga datormorass. Av vilka det fanns några avgörande AI-etik och AI-rättsliga överväganden som annars vanligtvis inte skulle tas upp eftersom denna typ av datorrelaterat ämne vanligtvis av vissa ses som ett rent tekniskt snarare än att det medför någon oro för samhällspåverkan.

Jag säger att det är klokast att vara förr och säkrare, snarare än senare och sämre när det gäller att ta upp etisk AI och AI-lag.

Det andra ämnet, som jag ännu inte har artikulerat här, relaterar materiellt till det första ämnet.

Såhär är det.

Anta att vi har en "dödlig dator" och vi vill bevara kapaciteten så att vi kan ha en säkerhetskopia eller skenbart kopior av vad AI innehåller. Vi kan vara oroliga att en viss dödlig dator närmar sig sitt slut. Usch, vi är beroende av det. Vad ska vi göra? Ett svar är att vi borde kopiera det förbannade.

Men att kopiera en neuromorf dator av det slag som skissas kommer att vara svårare än det kan tyckas vid första anblicken. Saker och ting kan bli knepiga.

Vi kanske borde komma på ett kopieringsknep som är generaliserbart och applicerbart på omständigheter som involverar maskininlärning och artificiella neurala nätverk. Vi vill att detta ska fungera i storskaliga och extremt storskaliga instanser. Vi skulle också vara villiga att låta kopian inte vara en exakt dubblett, utan i stället kan vara väsentligen likvärdig eller kanske till och med bättre utformad som ett resultat av kopieringsåtgärden.

En teknik som kallas destillering har föreslagits.

Jag har slut på utrymme för dagens kolumn, så jag kommer att ta upp detta andra ämne i en kommande kolumn. Jag tänkte att du skulle vilja veta om förhållandet direkt mellan det andra ämnet och det första ämnet som behandlades utförligt här. Se detta som en extra anteckning som fungerar som en teaser eller trailer för vad som kommer härnäst.

Förbli på kanten av ditt säte, eftersom ämnet om destillation är en ganska bra framträdande plats.

Som Batman brukade säga, håll fladdermusvingarna i kors och var redo för samma bat-time och bat-kanal för att reda ut den irriterande frågan om hur man kopierar en ANN eller maskininlärningsmodell eller neuromorf dator till en annan.

En sista kommentar för nu. Det finns en berömd replik i filmen The Dark Knight återkommer där vår kapade korsfarare säger detta: "Världen är bara vettig om du tvingar den till det." Jag ska försöka hålla fast vid det idealet när jag tar upp det andra ämnet om AI-relaterad destillation.

Håll utkik efter del 2 av detta spännande och fängslande dubbelhuvud.