När han inte arbetar med att påskynda mänsklighetens rusning mot Singulariteten genom att skapa en artificiell allmän intelligens (AGI), spelar Ben Goertzel i ett jazzrockband som heter Jam Galaxy med en robot som heter Desdemona.
Det är ett av hans många sidoprojekt, vilket naturligtvis fick honom att försöka tokenisera musikbranschen genom att nå ut till medlemmar i Pearl Jam och Heart. Goertzel arbetar också med livslängdsforskning genom att crowdsourca hälsodata för människor med symboliska belöningar via en app som heter Rejuve.ai. Den informationen slås sedan samman med data från djur- och insektsstudier och analyseras med en AI för att avgöra vilka delar av genomen som kan få oss att leva längre och stimuleras sedan med genterapi. "Vi har haft några ganska slående upptäckter på genombrottsnivå", säger han. Åh, och precis innan vår timmeslånga intervju avslutas, nämner han nonchalant som en avslutning att han också skapar ett stabilt mynt för sin decentraliserade AI-marknad, SingularityNET, som är kopplat till ett syntetiskt index för miljöframsteg – eftersom att koppla det till amerikanska dollar skulle vara "lam."
”Framstegen på miljöområdet är mycket stabila. Det går aldrig någonstans, påpekar han.
"Och för att manipulera detta måste du faktiskt lösa den globala uppvärmningen."
Det är den exakta sortens politiska kommentar som möter högteknologiskt kunnande du kan förvänta dig av Goertzel, som ser ut och låter som en hippieforskare som snubblade in i en tidsmaskin 1971 och kom fram i full form 2023. Men låt dig inte luras av hatten med djurtryck, långt hår och Electric Kool-Aid syratripp: Han är en briljant vetenskapsman med ett grepp om framtidens ljusår före de flesta och som brottas med några av de största koncepten som mänskligheten någonsin har övervägt. Vad är medvetande? Hur skapar vi artificiellt liv, och vad händer om det inte gillar oss, blir oseriöst och skjuter ner alla som i Terminator 2?
Vad är artificiell allmän intelligens?
Goertzel populariserade termen "artificiell allmän intelligens" som ett sätt att särskilja en genuin tänkande maskin som kunde lära sig i stort sett vad som helst, till AI:er som är optimerade för en viss uppgift, som Deep Blue-datorn som slog världsmästaren i schack, Garry Kasparov. Han medger fritt att det finns risker med att bygga en maskin som kan lära sig allt och allt, inklusive hur man programmerar om sig själv för att bli en storleksordning mer intelligent än någon människa.
"Det finns ett antal risker och faror med AGI", säger Goertzel över tjafset på en indisk restaurang i ett livligt köpcentrum i Singapore. "En av dem som har fått mycket uppmärksamhet i media är att AGI kommer att gå amok och förinta mänskligheten och ta över universum. Det är fullt möjligt; man kan inte utesluta det”, säger han.
"En annan mer trolig risk är att otäcka själviska människor kommer att använda AI för att utöva sin egen girighet och kontroll över andra människor."
Enligt hans åsikt är det osannolikt att regeringar kommer att göra genombrott inom AGI eftersom de är "för konservativa och dumma", även om han noterar att Kina lägger ut sitt AGI-arbete på kontrakt till företag som Tencent och Baidu. Närmare hemmet tror han att Google och Facebooks AI-divisioner inte kommer att komma över gränsen heller, eftersom de kommer att vara alltför fokuserade på att få AI att träffa vissa mått, vilket inte främjar kreativt tänkande.
"Precis som de mest briljanta människorna inte bara vill tjäna någon annans mätvärden, tror jag att artificiell allmän intelligens inte nödvändigtvis vill maximera klickningen på någons webbsida heller, eller hur? Det måste få leka kreativt.”
Singulariteten cirka 1970
Goertzel började på universitetet vid 15, tog sin examen vid 18, hade en doktorsexamen vid 22 och en ung familj vid 23. Kanske ovanligt i våra dagar, var han inte bara en mattevetare eller tekniskt geni som lödde ihop datorer på 70-talet men var lika intresserad av filosofi, kreativt skrivande och musik.
Han tillbringade mycket av sin karriär med att undervisa och forska i datavetenskap, matematik och kognitionsvetenskap vid olika universitet runt om i världen samtidigt som han arbetade med AI-teknik när han kunde. En seriegrundare som tenderar att vara ungefär ett decennium före alla andra med sina idéer - som i affärer, känd är lika med att ha fel — han har arbetat med att använda AI för att förutsäga finansmarknader och livslängd, och han har också haft en period som chefsforskare för Hanson Robotics, där han gav Sophia the Robot sin konstgjorda hjärna.
Goertzel har tänkt på exponentiell teknisk tillväxt sedan 1970-talet när han först läste Gerald Feinbergs Prometheusprojektet, som handlar om "maskiner som kan tänka bättre än människor... nanoteknikmaskiner som är mikroskopiskt små, och vi ska lösa åldrande." Detta passade fint ihop med det framväxande konceptet Singularity, en hypotetisk framtida punkt när tekniska framsteg blir okontrollerbara och oåterkalleliga, vilket resulterar i massiva förändringar i den mänskliga civilisationen.
"Så människor kommer att leva för evigt, då blir frågan, Vad använder vi dessa teknologier till, snabb tankelös konsumentism, eller använder vi den för att utöka medvetandet? Och vad han [Feinberg] föreslog är att lägga det till en demokratisk omröstning."
År senare, när han började se att AGI var inom vårt räckhåll, blev denna "demokratiska röst" inspirationen till att först använda öppen källkodsteknologi och senare blockchain som ett sätt att sätta en kooperativ gemenskap som ansvarar för tekniken.
"Vad jag insåg vid en viss tidpunkt är att med AI räcker det inte att ha koden öppen", säger han. "Du måste verkligen träna AI på en skitmängd data."
"Det är här blockchain kommer som ett sätt att göra bearbetningen och den data som ligger bakom AI decentraliserad och crowdsourcad i naturen och öppen i kontroll. Och det visar sig vara knepigare än att bara använda koden med öppen källkod.”
Goertzel grundade OpenCog 2008 för att bygga ett ramverk för artificiell intelligens med öppen källkod. Den har använts av 50 företag, inklusive Huawei och Cisco, och är redo för en stor uppgradering snart kallad Hyperon som syftar till att accelerera den med 200 gånger. Alfaversionen kommer detta kvartal med beta som förväntas nästa år.
Blockchain är grundläggande men coolt
För Goertzel är blockchain-teknik lite grundläggande. Han beskriver det som några primitiva distribuerade algoritmer som lagts till kryptografi, men den "coola kombinationen" gör att system kan köras utan centraliserad kontroll, vilket gör det perfekt för hans behov.
"Om du ska göra en tänkande maskin och du ska göra den distribuerad datorväv i nanoskala, skulle det vara väldigt trevligt om detta ägdes av alla och ingen istället för att kontrolleras uppifrån och ned."
Blockkedjor är alldeles för långsamma för att hantera bearbetningskraven och enorma mängder data som är inblandade, så det finns något av en kapplöpning för att korrekt skala blockkedjan innan ett genombrott AGI utvecklas. Goertzel säger att även om skalningslösningar som nollkunskapssamlar är bättre, har de fortfarande inte tillräckligt med bandbredd på grund av begränsningarna i blockkedjan som de rapporterar transaktioner till.
Han var med och grundade SingularityNET 2017, som är både en decentraliserad marknadsplats för AI-tjänster och teknologi och en blockchain-baserad koordinationsmetod för forskare – eller till och med AI:er – att arbeta tillsammans.
För närvarande, baserat på Ethereum, tror han att han har drivit saker så långt de kan gå på blockchain i dess nuvarande form. Så när han inte arbetar på ett genombrott inom AGI (eller bandet, eller robotar, eller livslängd), så arbetar han på att massivt skala blockchain för att ge den den genomströmning som krävs.
"Om du inte radikalt kan öka skalbarheten av blockchain, kan du inte sätta AI:s inre funktioner på kedjan."
AI är närmare än du tror
2022 var något av ett genombrottsår för fungerande produkter baserade på AI-teknik, inklusive språkapplikationer (GPT-3, ChatGPT), kodning (GitHub Copilot) och bildgenerering (DALL-E och Stable Diffusion). Bing planerar till och med att ta på sig Googles sökdominans i år genom att införliva ChatGPT-teknik i sin sökmotor.
Goertzel tror att en AGI kan vara så lite som fem år bort och noterar att utvecklingen på området verkar gå i korta tre- eller fyraårsperioder i en serie av genombrott.
"Computer Vision startade 2014, och så plötsligt, pang, pang, pang, var mysteriet löst. Naturlig språkbehandling... efter att Google kom med Bert-modellen (2018) hade du GPT-3. Du kommer förmodligen att se samma framstegsbåge i AGI. Du kommer att få ett genombrott, sedan en hel del framsteg under två år”, sa han.
"Skillnaden är genombrottet framsteg, i så fall resulterar i en maskin som sedan kan fortsätta att utveckla sig själv genom att skriva om sin egen kod."
Goertzel hoppas att de projekt och samarbeten han har satt igång kan vara hur det uppstår.
"Om vi har tur, kommer vi att uppnå det genombrottet under de kommande tre till fem åren med OpenCog Hyperon som körs på SingularityNET som körs på Hypercycle", säger han. "Men om vi inte visar sig ha den hemliga såsen, kommer någon annan att göra det."
Synd att Vitalik inte var en datavetare
Goertzels lösning för att skala blockkedjan är ganska radikal och involverar turboladdning av en sidokedja eller lager 2 av Cardano som kallas "HyperCyle."
"Det är verkligen mer än en sidokedja. HyperCycle kommer också att samarbeta med Ethereum och andra blockkedjor, men vi kommer att använda Plutus-tolken där, men vi blir av med redovisningen.”
Han har beskrivit HyperCycle online som att lösa "blockkedjetrilemmat" av "decentralisering vs. säkerhet vs. prestanda genom att bli av med huvudboken och använda mer moderna/helt decentraliserade algor och datastrukturer, plus lite AI och ryktesystem."
Huvudboken är kärnan i blockchain-tekniken, men han säger att det är löjligt ineffektivt att få varje nod i nätverket att replikera varje transaktion och bearbeta varje smart kontrakt.
"Rekontran är bara dålig. Om du tänker på det, om du tänker på liknelsen med dina kontakter i din telefonbok, menar jag, redovisningen är som att […] behålla 10,000 10,000 kopior av Gula sidorna, och du uppdaterar dem varje gång någon ny kommer eller om någon ändrar sitt telefonnummer. Det är verkligen dumt att uppdatera XNUMX XNUMX exemplar av Gula sidorna.”
I HyperCycle-versionen av analogin, istället för att alla lagrar och uppdaterar de gula sidorna, lagrar personerna i din kontaktbok en kopia av din adressbok, och vice versa, krypterad med din privata nyckel.
"Vi kom på hur man får blockchain att fungera utan en replikerande huvudbok, så att skära hela vägen ner. Varje individ som är engagerad i blockkedjan behåller sin egen transaktionshistorik och behåller transaktionshistoriken för sina vänner och några av sina vänners vänner, säger han.
"Om du skär hela vägen ner behöver du ingen reskontra - du behöver ingen databastabell. Dessa saker är alldeles för centraliserade."
Han säger att några proof-of-concept HyperCycle-noder redan är i drift, men en fullskalig lansering kommer inte att ske förrän under andra halvan av 2024.
Vi ägnar lång tid åt att diskutera de olika fördelarna med olika tillvägagångssätt för blockchain, från internetdatorer till Elastos och Celestia, av vilka mycket är över min lönegrad och bortom min inspelningsenhets förmåga att exakt fånga i en bullrig restaurang.
Han avslutar med att säga: "Så jag känner bara att ingen av dessa arkitekturer är tillräckligt radikala. De håller sig alla för nära Bitcoin.”
"Så länge du kör varje smart kontrakt på varje nod, menar jag, det kommer att gå galet långsamt. Nu, i HyperCycle, om du kör ett smart kontrakt på fem noder, är det åtminstone bara fem gånger så långsamt som på en maskin – det är inte 10,000 XNUMX gånger långsammare.”
Varför Cardano då?
Goertzel har blivit vän med Cardanos grundare Charles Hoskinson, med paret som knyter an till sina projekt i Afrika. Han tror att Hoskinson "verkligen är där ute för att rädda världen. Jag menar, politiskt är han mer en hardcore libertarian än jag är - jag är mer en anarkosocialist - men han är inte bara inne på det för att tjäna pengar eller flå andra människor ur sina pengar."
Men Cardanos verkliga överklagande är att det använder programmeringsspråket Haskell, som Goertzel har varit ett fan av sedan 1993. Det smärtar honom mycket att Ethereums medgrundare Vitalik Buterin gick med Gavin Woods smarta kontraktsprogrammeringsspråk Solidity.
"Om bara Vitalik hade kunnat mer datavetenskap, skulle han ha fått dem att använda Haskell eller F Sharp eller något, och det skulle bli mycket färre hack av blockkedjan", säger han.
"Om du ska driva större delen av världens ekonomi och handla biljoner dollar på något mjukvarusystem, skulle du vara bättre ställd att bygga det mjukvarusystemet på ett språk som inte är benäget att buggar och där dina algoritmer kan vara formellt verifieras med hjälp av en matematisk teori. Det är helt rätt sätt att göra saker på.”
Stop-gap lösning
Oavsett hur snabb blockchain blir, så snart AGI är en storleksordning smartare och mer kapabel än människor är, säger Goertzel att det inte kommer att låta någon kontrollera det.
"När en AGI är 100 gånger smartare än människor vill den inte bli kontrollerad av oss, eftersom vi inte skulle kontrolleras av en schimpans eller en åsna, eller hur?"
"Då skulle jag säga att frågan inte är en av oss som kontrollerar den, frågan är: Är den välvillig till oss? Kommer det att låta människor reglera sin egen verksamhet och förse oss med coola verktyg och nanomontörer för att 3D-skriva ut allt vi vill ha och bota våra sjukdomar?”
"Men övergångsperioden när AGI är ungefär samma intelligens som människor, det är då saker och ting är mer känsliga och mer intressanta. Och frågan är då: Vill AGI samarbeta med människor? Eller är den paranoid och vill kontrollera människor innan de förstör den?”
Lära era barn väl
Enligt Goertzels uppfattning är lösningen att lära AGI om att bry sig om andra och om kreativitet och konst. Det är där Desdemona the Robot i hans band, och hennes syster Grace – som är designad för att ge äldreomsorg – kommer in.
Sättet du undviker att en AGI förvandlas till Terminators Skynet är att inte bygga den på det sättet i första hand.
"Skynet, naturligtvis, i filmen var ett datasäkerhetsnätverk som löpte amok. Den skapades för att försvara sig mot människor”, säger han.
"Men om du bygger den första AGI som har att göra med äldreomsorg och kreativ konst och utbildning när den blir smartare, kommer den att vara inriktad på att hjälpa människor och skapa coola grejer. Om du bygger den första AGI:n för att döda de onda... kanske den kommer att fortsätta göra de sakerna."
"Så, fördelaktigt eller inte, det handlar verkligen om vilka applikationer du har utvecklat och vad du har incitament för."
Han tror att det är användbart att sätta in AI i robotkroppar eftersom det hjälper till att placera dem i den verkliga världen, snarare än något abstrakt matematiskt universum.
"AI borde lära sig om den mänskliga världen och den fysiska världen. Att vara förkroppsligad i världen är det rätta sättet att göra det, säger han.
Men när han presenterar roboten Sophia för en stor publik kan de visuella och auditiva sensorerna lätt vara överväldigande och förvirra AI:n i en högljudd och ljus miljö. Så Sophia kommer snart att lanseras i metaversen, kallad Sophiaverse. Glöm ChatGPT:s tråkiga textbaserade svar, Sophia är förkroppsligad i en virtuell 3D-värld, och hon kommer att lära sig av att interagera med människor där. Men han varnar för att hon förmodligen kommer att säga några dumma saker.
"Den har ett neuralt nät som liknar GPT-3 och så vidare, som har betydande möjligheter att svara på dina frågor, men de är också ganska dumma på något sätt."
Prenumerera
De mest engagerande läsningarna i blockchain. Levereras en gång a
vecka.
Källa: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/