Skälen till att reglera AI-algoritmer är enklare än du tror

Är du orolig att artificiell intelligens kommer att ta över världen? Många gör det. Från Elon Musk oroar sig för DeepMind slår människor i det avancerade spelet Go 2017, till kongressmedlemmar, europeiska beslutsfattare (se Ett europeiskt förhållningssätt till artificiell intelligens), och akademiker, det finns en känsla av att detta är årtiondet för att ta AI på allvar, och det håller på att fästa sig. Dock inte av de skäl du kanske tror och inte på grund av något aktuellt hot.

Det är här algoritmer kommer in. Vad är en algoritm kanske du frågar dig? Det enklaste sättet att tänka på det är som en uppsättning instruktioner som maskiner kan förstå och lära sig av. Vi kan redan nu instruera en maskin att beräkna, bearbeta data och att resonera på ett strukturerat, automatiserat sätt. Problemet är dock att när nämnda instruktioner väl ges kommer maskinen att följa dem. För nu är det meningen. Till skillnad från människor följer maskiner instruktioner. De lär sig inte så bra. Men när de väl gör det kan de orsaka problem.

Jag vill inte föra ett sensationellt argument om idén att datorer en dag skulle överträffa mänsklig intelligens, mer känd som singularitetsargumentet (se NYU-filosofen David Chalmers' funderingar kring ämnet.) Snarare kan tillverkning vara det bästa exemplet på varför AI-algoritmer börjar bli viktigare för allmänheten. Man fruktar att maskiner kommer att öka sin skicklighet avsevärt på vår bekostnad. Inte med några avancerade resonemang, nödvändigtvis, utan på grund av optimeringen inom gränserna för vad en algoritm säger.

Tillverkning handlar om att göra saker. Men när maskiner tillverkar saker måste vi vara uppmärksamma. Även om det maskinerna gör är enkelt. Jag ska förklara varför.

Från regnstövlar till mobiltelefoner och tillbaka

Säg, en fabrik har tillverkat regnstövlar. Jag älskar regnstövlar eftersom jag växte upp i ett område i Norge där det regnar mycket; Jag älskar att vara ute, föremål för naturens många element. Nokia gjorde de regnstövlar jag växte upp med. Ja, den Nokia vi känner idag som elektronikföretaget brukade tillverka gummistövlar. Varför är denna nyckel? För när du väl gör något är du ämnad att vilja göra förbättringar. Det känns logiskt. Man kan säga att det är mänsklig natur.

Vad som hände med Nokia är välkänt och går ungefär så här: Till en början var det ett pappersbruk, när jag var liten, var tillverkningen av gummistövlar (och däck) särskilt framgångsrik för företaget. Men de såg ytterligare möjligheter. Därför gick de någon gång på 1980-talet över till elektronik och ändrade snabbt fabrikerna, byggde upp en stor struktur av lokala leverantörer när de började tillverka mobiltelefoner. Detta inledde den mobila kommunikationsrevolutionen, som startade i Skandinavien och spred sig till resten av världen. Förståeligt nog har många skrivit historien om Nokia på 1990-talet (se Hemligheterna bakom det finska miraklet: Nokias framväxt).

Mitt exempel är okomplicerat. Kanske för enkelt. Men tänk på det så här. Om ett stort företag snabbt kan övergå från att göra papper att skriva på, till stövlar som gör det lättare att vara ute i regnet, så slutligen, till mobiltelefoner som förändrar människors sätt att kommunicera: hur lätt blir nästa steg? Anta att ett företag som tillverkar mobiltelefoner bestämmer sig för att tillverka nanobotar och kanske de tar fart om ett decennium, och förändrar mänskligheten med små maskiner som självständigt kör runt överallt, som kan återmontera och förändra den mänskliga upplevelsen. Tänk om det händer utan att överväga hur vi vill att det ska ske, vem vi vill ska vara ansvarig och de slutliga målen?

Att föreslå att robotar medvetet hjälpte Nokia att bestämma sig för att tillverka mobiltelefoner skulle vara en sträcka. Men att erkänna att tekniken hade en roll i att låta en finsk landsbygd på dess norra kust tro att de kunde få världsherravälde i en ny industri spelar en betydande roll.

Nokias historia har inte varit så rosa under det senaste decenniet med tanke på att de misslyckades med att ta hänsyn till framväxten av mjukvarubaserade iOS- och Android-operativsystem. Nu, som ett resultat, tillverkar Nokia inte telefoner längre. I lite av en comeback-historia gör de nu nätverks- och telekominfrastruktur, nätverkssäkerhetslösningar, Wi-Fi-routrar, smart belysning och smarta TV-apparater (se Nokias comeback-historia). Nokia gör fortfarande saker, det är sant. Den enda observationen att göra är att Nokia alltid tycks njuta av att blanda ihop de saker de gör. Till och med människors tillverkningsbeslut är ibland svåra att förstå.

Tillverkning innebär att få saker och saker att utvecklas. I stort sett har det vi gör idag förändrats från för bara ett decennium sedan. 3D-skrivare har decentraliserad produktion av många avancerade produkter, både inom industrin och hemmet. De livsförändrande konsekvenserna av 3D-utskrift har ännu inte inträffat. Vi vet inte om detta kommer att pågå men vi vet att FDA:s fokus ligger på att reglera tillverkningen av produkter (se här.) som de tryckta piller eller medicintekniska produkter som uppstår, de uppenbara immateriella rättigheterna och ansvarsfrågorna, eller frågorna kring att kunna skriva ut skjutvapen. I slutändan är den politiska diskussionen om vilka negativa konsekvenser 3D-utskrift kan ha utöver detta obefintlig, och få av oss har brytt sig om att tänka på det.

Jag menar inte att 3D-utskrift är farligt i sig. Kanske är detta ett dåligt exempel. Ändå kan saker som från början ser vardagliga ut förändra världen. Det finns gott om exempel: jägarens/samlarens pilspets gjord av metall som startar krig, rituella masker som skyddar oss från covid-19, spikar som bygger skyskrapor, rörliga tryckpressar som (fortfarande) fyller våra fabriker med tryckt papper och driver förlagsverksamhet, glödlampor som gör att du kan se och arbeta inne på natten, jag skulle kunna fortsätta. Ingen jag känner satte sig i slutet av 1800-talet och förutspådde att Nokia skulle flytta sin produktion från papper till gummi till elektronik och sedan bort från mobiltelefoner. Det borde de kanske ha gjort.

Människor är dåliga förutsägare av stegförändringar, processen där en förändring leder till mer förändring, och plötsligt är saker och ting radikalt annorlunda. Vi förstår ännu inte denna process eftersom vi har liten praktisk kunskap om exponentiell förändring; vi kan inte föreställa oss det, beräkna det eller förstå det. Men gång på gång slår det oss. Pandemier, befolkningstillväxt, teknisk innovation från boktryck till robotik, det drabbar oss vanligtvis utan förvarning.

Tricket med futurism är inte om, utan när. Man kanske faktiskt kan förutsäga förändringar bara genom att välja några nya produktionsmetoder och konstatera att de kommer att bli vanligare i framtiden. Det är enkelt nog. Det knepiga är att ta reda på exakt när och särskilt hur.

Gem är inte problemet

Betrakta mitt fabriksexempel igen, men den här gången, föreställ dig att maskinerna är ansvariga för många beslut, inte alla beslut, utan produktionsbeslut som optimering. I hans bok Superintelligens, Oxford Universitys dystopiske humanist Nick Bostrom föreställde sig en berömd AI-optimeringsalgoritm som driver en gemfabrik. Vid något tillfälle, säger han, föreställ dig att maskinskälen att lära sig att avleda ständigt ökande resurser till uppgiften är rationellt, vilket slutar med att gradvis förvandla vår värld till gem och motstå våra försök att stänga av den.

Trots att han är en smart kille är Bostroms exempel ganska dumt och missvisande (ännu minnesvärt). För det första misslyckas han med att redogöra för det faktum att människor och robotar inte längre är separata enheter. Vi interagerar. De flesta smarta robotar utvecklas till cobots eller kollaborativa robotar. Människor kommer att ha många chanser att rätta till maskinen. Trots det finns hans grundläggande poäng kvar. Det kan ske en stegförändring någon gång, och om den förändringen sker tillräckligt snabbt och utan tillräcklig tillsyn kan kontrollen förloras. Men det extrema resultatet verkar lite långsökt. Hur som helst, jag håller med, måste vi reglera människorna som använder dessa maskiner och ålägga att arbetarna alltid är i kretsen genom att utbilda dem på lämpligt sätt. Den typen av träning går inte bra. Det tar för närvarande för lång tid och det krävs specialkunskaper både att träna och att tränas. Jag vet en sak. I framtiden kommer alla typer av människor att köra robotar. De som inte gör det blir ganska maktlösa.

Att förstärka människor är bättre än tanklös automatisering, oavsett om vi aldrig helt går samman med maskiner. De två begreppen är logiskt åtskilda. Det är möjligt för både människor och robotar att fastna i automatisering för automatiseringens skull. Det skulle göra stor skada för tillverkningen framöver. Även om det inte producerar mördarrobotar. Jag tror att en sammanslagning är hundratals år bort, men det är inte meningen. Även om det bara är trettio år bort, de självgående maskinerna som arbetar med förenklade algoritmer som tappar kontrollen, inträffar det scenariot redan på verkstadsgolvet. Vissa av dessa maskiner är trettio år gamla och körs på gamla, proprietära kontrollsystem. Deras främsta utmaning är inte att de är avancerade utan tvärtom. De är för enkla för att kunna kommunicera. Detta är inget problem för morgondagen. Det är ett redan existerande problem. Vi måste få upp ögonen för det. Tänk på detta nästa gång du kliver in i dina gummistövlar.

Jag har fortfarande mina Nokia-stövlar från 1980-talet. De har ett hål i sig, men jag behåller dem för att påminna mig själv om var jag kommer ifrån och hur långt jag har gått. Regnet fortsätter att falla också, och så länge det är tillräckligt rent vill jag inte ha en bättre fix för det än de där stövlarna. Återigen, jag är människa. En robot skulle förmodligen redan ha gått vidare. Vad är AI-versionen av regnstövlar undrar jag. Det är inte en mobiltelefon. Det är inte en regnsensor. Det förbryllar sinnet.

Digitala stövlar idag innebär att du kan anpassa dem eftersom de har 3D-printade mönster på dem. Det finns virtuella skor som endast existerar som NFTs (icke-fungibla tokens) som kan säljas och handlas. De bästa virtuella sneakers är värda $10,000 XNUMX nu för tiden (se Vad är en NFT Sneaker och varför är den värd $10,000 XNUMX?). Jag är inte rädd för dem men borde jag vara det? Om den virtuella världen värderas mer än den fysiska världen kanske jag gör det. Eller ska jag vänta med att vara orolig tills en AI:s egen avatar köper sin egen NFT-känga för att tackla "regnet"? Om vi ​​bygger algoritmer i vår egen bild är det mer troligt att en AI skulle vara bra på saker som vi önskar att vi var bra på men vanligtvis inte är, som att köpa aktier, bygga lojala vänskap (kanske med både maskiner och människor) och komma ihåg saker. Den industriella metaversen kan vara förvånansvärt sofistikerad – full av digitala tvillingar som härmar vår värld och överträffar den på fruktbara sätt – eller så kan det vara chockerande enkelt. Kanske båda. Vi vet bara inte än.

Vi måste reglera AI-algoritmer eftersom vi inte vet vad som finns runt hörnet. Det är skäl nog, men hur vi gör det, det är en längre historia. Tillåt mig en snabb observation till, kanske borde alla grundläggande algoritmer göras offentligt tillgängliga. Anledningen är, om inte, det finns inget sätt att veta vad de kan leda till. De översta är ganska välkända (se Topp 10 maskininlärningsalgoritmer), men det finns ingen världsomspännande översikt över var och hur de kommer att vänjas. Det är särskilt de oövervakade algoritmerna som bör övervakas noggrant (se Sex kraftfulla användningsfall för maskininlärning inom tillverkning), oavsett om de används för att förutsäga underhåll eller kvalitet, för att simulera produktionsmiljöer (t.ex. digitala tvillingar) eller för att skapa nya konstruktioner som en människa aldrig skulle komma på. I dagens landskap är dessa oövervakade algoritmer typiskt så kallade artificiella neurala nätverk, som försöker efterlikna den mänskliga hjärnan.

Jag har börjat oroa mig för neurala nät, bara för att jag har svårt att förstå deras logik. Problemet är att de flesta experter, även de som distribuerar dem, inte förstår hur dessa algoritmer rör sig från steg till steg eller lager till lager. Jag tycker inte att metaforen om "dolda lager", som ofta används, är särskilt träffande eller väldigt rolig. Till att börja med bör det inte finnas några dolda lager i tillverkningen, i automatiserad skatteuppbörd, i anställningsbeslut eller i collegeantagningar. Du kanske borde överväga att bli orolig också? En sak är säker, människor och maskiner som gör saker tillsammans kommer att förändra världen. Det har det redan, många gånger om. Från papper till regnstövlar och lagren av dagens konstgjorda hjärnor, ingenting ska lämnas outforskat. Vi ska inte gömma oss för det enkla faktum att från många små förändringar kan en större förändring plötsligt uppstå.