AI-etik som kämpar passionerat för din lagliga rätt att vara ett undantag

De säger att det finns ett undantag från varje regel.

Problemet är dock att ofta råder den stående regeln och det finns liten eller ingen tillåtelse för att ett undantag ska erkännas eller underhållas. Genomsnittsfallet används trots den stora möjligheten att ett undantag ligger i förgrunden. Ett undantag får ingen sändningstid. Det får inte en chans att bli vederbörligen övervägd.

Jag är säker på att du måste veta vad jag pratar om.

Har du någonsin försökt att få någon form av individualiserad kundservice där du blev sanslöst behandlad utan någon skillnad för ditt specifika fall och dina specifika behov?

Detta har utan tvekan hänt dig, förmodligen otaliga gånger.

Jag kommer att ta dig igenom en oroande trend som uppstår om hur artificiell intelligens (AI) obevekligt utformas för att tvinga in allt i ett paradigm som passar alla.

Undantag upptäcks antingen inte eller väljer att böjas ur form som om de inte alls var undantag. Grunden för detta beror delvis på tillkomsten av Machine Learning (ML) och Deep Learning (DL). Som du snart kommer att se är ML/DL en form av matchning av beräkningsmönster, som är "lättare" att utveckla och distribuera om du är villig att ignorera eller gå runt undantag. Detta är mycket problematiskt och väcker mycket anmärkningsvärda AI-etiska farhågor. För min övergripande pågående och omfattande bevakning av AI-etik och etisk AI, se länken här och länken här, bara för att nämna några.

Saker och ting behöver inte vara på det sättet och snälla vet att detta underblåses av de som tillverkar och distribuerar AI genom att välja att ignorera eller tona ned hanteringen av undantag inom deras AI-hopkok.

När undantag råder

Låt oss först ta upp karaktären av genomsnittsfallet kontra realiseringen av undantag.

Mitt favoritexempel på den här typen av dogpiling eller närsynt genomsnittliga fall utan undantag tillvägagångssätt är livfullt upplyst av nästan alla avsnitt av den hyllade och fortfarande ganska omåttligt populära TV-serien känd som House, MD (vanligtvis bara uttryckt som Huset, som pågick från 2004 till 2012 och kan ses idag på sociala medier och andra medier). Showen innebar en fiktiv karaktär vid namn Dr. Gregory House som var gruff, odräglig och ganska okonventionell, men han porträtterades som ett medicinskt geni som kunde ta bort de mest obskyra sjukdomar och åkommor. Andra läkare och till och med patienter kanske inte nödvändigtvis gillade honom, men han fick jobbet gjort.

Så här spelade ett typiskt avsnitt ut (generisk spoilervarning!).

En patient dyker upp på sjukhuset där Dr. House arbetar. Patienten uppvisar initialt något vanliga symtom och olika andra läkare turas om att försöka diagnostisera och bota patienten. Det konstiga är att försöken att hjälpa patienten antingen misslyckas med att förbättra de ogynnsamma tillstånden eller ännu värre tenderar att slå tillbaka. Patienten blir sämre och sämre.

Eftersom patienten nu ses som en slags medicinsk nyfikenhet, och eftersom ingen annan kan lista ut vad patienten lider av, dras Dr House in i fallet. Detta görs ibland medvetet för att utnyttja hans medicinska skicklighet, medan han i andra fall hör om fallet och hans medfödda instinkter drar honom mot ovanliga omständigheter.

Vi får gradvis reda på att patienten har någon extremt sällsynt sjukdom. Endast Dr. House och hans team av medicinska praktikanter kan ta reda på detta.

Nu när jag har delat med dig grundlinjen för avsnitten, låt oss dyka ner i lärdomar som illustrerar karaktären av genomsnittsfallet kontra undantag.

De fiktiva berättelserna är utformade för att visa upp hur tänkande i lådan ibland kan missa målet. Alla andra läkare som först försöker hjälpa patienten är grumlade i sina tankeprocesser. De vill tvinga in symtomen och presenterade aspekter i en konventionell medicinsk diagnos. Patienten är bara en av många som de förmodligen har sett tidigare. Undersök patienten och skriv sedan ut samma behandlingar och medicinska lösningar som de har använt upprepade gånger under sin medicinska karriär.

Tvätta, skölj, upprepa.

På ett sätt kan du motivera detta tillvägagångssätt. Oddsen är att de flesta patienter kommer att ha de vanligaste besvären. Dag efter dag stöter dessa läkare på samma medicinska problem. Du skulle kunna föreslå att patienterna som kommer in på sjukhuset verkligen befinner sig på ett medicinskt löpande band. Var och en flyter längs sjukhusets standardiserade protokoll som om de vore delar av en tillverkningsanläggning eller monteringsanläggning.

Genomsnittsfallet råder. Detta är inte bara allmänt lämpligt, utan det gör det också möjligt för sjukhuset och den medicinska personalen att optimera sina medicinska tjänster därefter. Kostnaderna kan sänkas när du utformar de medicinska processerna för att hantera genomsnittsfallet. Det finns ett ganska känt råd som ofta trummas in i läkarstudenternas medvetande, nämligen att om du hör hovljud som kommer från gatan är oddsen att du borde tänka på en häst snarare än en zebra.

Effektiv, produktiv, effektiv.

Tills ett undantag smyger sig in i mitten.

Kanske har en zebra från djurparken rymt och har vandrat nerför din gata.

Betyder detta att undantag borde vara regeln och att vi bör avsätta regeln för genomsnittsfall i stället för att enbart fokusera på undantag?

Du skulle få svårt att hävda att alla våra dagliga möten och tjänster bör fokuseras på undantag snarare än genomsnittsfallet.

Observera att jag inte kommer med ett sådant förslag. Det jag hävdar är att vi borde se till att undantag tillåts förekomma och att vi måste känna igen när undantag uppstår. Jag nämner detta eftersom vissa förståsigpåare är benägna att högljutt förkunna att om du är en förespråkare för att erkänna undantag måste du därför vara emot att tänka ut för genomsnittsfallet.

Det är en falsk dikotomi.

Fall inte för det.

Vi kan ta vår tårta och äta den också.

Att göra argument för Rätten att vara ett undantag

Jag ska härnäst kanske ge lite av en chock som relaterar allt detta till den växande användningen av AI.

AI-system skapas alltmer för att koncentrera sig på det genomsnittliga fallet, ofta till uteslutande eller till nackdel för att erkänna undantag.

Du kanske blir förvånad över att veta att detta händer. De flesta av oss skulle anta att eftersom AI är en form av datorautomatisering, är det fina med att automatisera saker att du vanligtvis kan införliva undantag. Detta kan vanligtvis göras till en lägre kostnad än om du använde mänsklig arbetskraft för att utföra en liknande tjänst. Med mänsklig arbetskraft kan det vara kostsamt eller oöverkomligt att ha all slags arbetskraft tillgänglig som kan hantera undantag. Saker och ting är mycket enklare att hantera och sätta på plats om du kan anta att dina kunder eller klienter alla är av genomsnittliga kaliber. Men användningen av datoriserade system är tänkt att rymma undantag, lätt så. I det sättet att tänka borde vi jubla upproriskt för att mer datoriserade kapaciteter kommer i förgrunden.

Se detta som en förvirrande gåta och ägna en stund åt att reflektera över denna irriterande fråga: Hur kan AI som annars antas vara det bästa inom automatisering som till synes obönhörligt marscherar nedför den rutiniserade och exceptionella vägen som ironiskt nog eller oväntat vi föreställt oss skulle gå i rakt motsatt riktning?

Svar: Machine Learning och Deep Learning tar oss dock till en exceptionell tillvaro inte eftersom vi tvångsmässigt måste ta den vägen (vi kan göra bättre).

Låt oss packa upp det här.

Anta att vi bestämmer oss för att använda Machine Learning för att ta fram AI som kommer att användas för att ta reda på medicinska diagnoser. Vi samlar in ett gäng historiska data om patienter och deras medicinska omständigheter. Den ML/DL som vi sätter upp försöker genomföra en beräkningsmönstermatchning som kommer att undersöka symtom hos patienter och visa en förväntad åkomma som är förknippad med dessa symtom.

Baserat på inmatade data, fastställer ML/DL matematiskt symtom som rinnande näsa, halsont, huvudvärk och värk är alla starkt associerade med förkylning. Ett sjukhus väljer att använda denna AI för att göra förhandsscreening av patienter. Visst nog, patienter som rapporterar dessa symtom när de kommer till sjukhuset "diagnostiseras" sannolikt att de har en vanlig förkylning.

Växla växlar, låt oss lägga till en Dr. House slags twist till allt detta.

En patient kommer till sjukhuset och diagnostiseras av AI. AI indikerar att patienten verkar ha en vanlig förkylning baserat på symptomen på rinnande näsa, halsont och huvudvärk. Patienten får till synes lämpliga recept och medicinsk rådgivning för att hantera en vanlig förkylning. Allt detta är en del av metoden för genomsnittsfall som används vid utformning av AI.

Det visar sig att patienten får dessa symtom i flera månader. En expert på sällsynta sjukdomar och aliment inser att samma symtom kan vara reflekterande av en cerebrospinalvätska (CSF) läcka. Experten behandlar patienten med olika kirurgiska ingrepp relaterade till sådana läckor. Patienten återhämtar sig (förresten, den här anmärkningsvärda historien om en patient med en CSF-läcka som initialt diagnostiserades med en vanlig förkylning är löst baserad på ett verkligt medicinskt fall).

Vi kommer nu att följa våra steg i denna medicinska saga.

Varför kunde inte den AI som gjorde förundersökningen vid intag bedöma att patienten kan ha denna sällsynta sjukdom?

Ett svar är att om träningsdata som användes för att skapa ML/DL inte innehöll några sådana instanser, skulle det inte finnas något däri för beräkningsmönstermatchningen att matcha. Med tanke på avsaknaden av uppgifter som täcker undantag från regeln, kommer själva den allmänna regeln eller genomsnittsfallet att betraktas som till synes felfritt och tillämpas utan att tveka.

En annan möjlighet är att det fanns ett exempel på denna sällsynta CSF-läcka i historiska data, men det var bara ett särskilt fall och i den meningen en extremvärde. Resten av data var alla matematiskt nära det konstaterade genomsnittsfallet. Frågan uppstår då vad man ska göra åt den så kallade outliern.

Var medveten om att hanteringen av dessa extremvärden är en mycket olika fråga om hur AI-utvecklare kan besluta sig för att kämpa med utseendet på något utanför det fastställda genomsnittsfallet. Det finns inget obligatoriskt tillvägagångssätt som AI-utvecklare är tvungna att ta. Det är lite av en vilda västern vad en given AI-utvecklare kan göra i en given undantagshöjande instans av deras ML/DL-utvecklingsinsatser.

Här är min lista över de sätt som dessa undantag ofta är olämpligt hanteras:

• Undantag antas som ett fel
• Undantag antas vara ovärdigt
• Undantag antas vara justerbart till "normen"
• Undantag märks inte alls
• Undantag uppmärksammat men summariskt ignorerat
• Undantag uppmärksammat och sedan senare glömt
• Undantag uppmärksammat och dolt
• Annat

En AI-utvecklare kan besluta att sällsyntheten inte är något annat än ett fel i data. Det kan tyckas konstigt att någon skulle tänka så, speciellt om du försöker humanisera det genom att till exempel föreställa dig att patienten med CSF-läckan är det ena fallet. Det finns dock en kraftfull frestelse att om alla dina out-of-context-data i princip säger en sak, kanske består av tusentals och åter tusentals poster och de alla konvergerar till ett genomsnittligt fall, kan förekomsten av en udda databit lätt (lätt!) tolkas som ett direkt fel. "Felet" kan då kasseras av AI-utvecklaren och inte anses vara inom området för vad ML/DL tränas på.

Ett annat sätt att klara av ett undantag skulle vara att bestämma att det är en ovärdig fråga. Varför bry sig om en raritet när man kanske rusar för att få igång en ML/DL? Kasta ut ytterstången och gå vidare. Ingen tanke går nödvändigtvis till följderna på vägen.

Ännu ett tillvägagångssätt innebär att vika in undantaget i resten av medelmålsmiljön. AI-utvecklaren modifierar data för att passa inom resten av normen. Det finns också en chans att AI-utvecklaren kanske inte märker att undantaget finns.

ML/DL kan rapportera att undantaget upptäcktes, vilket sedan AI-utvecklaren är tänkt att instruera ML/DL om hur outliern ska hanteras matematiskt. AI-utvecklaren kan sätta detta på en att-göra-lista och senare glömma att hantera det eller kanske bara välja att ignorera det, och så vidare.

Sammantaget är upptäckten och lösningen av att hantera undantag när det kommer till AI utan något specifikt stipulerat eller övertygande balanserat och motiverat tillvägagångssätt i sig. Undantag behandlas ofta som ovärdiga utstötta och genomsnittsfallet är den rådande vinnaren. Att hantera undantag är svårt, kan vara tidskrävande, kräver en sken av skickliga AI-utvecklingsfärdigheter, och annars är det krångligt i jämförelse med att klumpa ihop saker i en snygg fluga av ett one-size fits all-paket.

Till viss del är det därför AI-etik och etisk AI är ett så avgörande ämne. AI-etikens föreskrifter får oss att förbli vaksamma. AI-teknologer kan ibland bli upptagna av teknik, särskilt optimering av högteknologi. De överväger inte nödvändigtvis de större samhälleliga konsekvenserna.

Förutom att använda AI-etiska föreskrifter i allmänhet, finns det en motsvarande fråga om vi bör ha lagar som styr olika användningar av AI. Nya lagar håller på att samlas runt på federal, statlig och lokal nivå som rör omfattningen och karaktären av hur AI bör utformas. Ansträngningen att utarbeta och anta sådana lagar sker gradvis.

In i just denna diskussion om undantagens roll kommer en provocerande synpunkt att det kanske borde finnas en laglig rättighet förknippad med att vara ett undantag. Det kan vara så att det enda genomförbara sättet att få ett erkännande i god tro för att någon eventuellt är ett undantag innebär att man utnyttjar lagens långa arm.

Inför en ny typ av mänskliga rättigheter.

Rätten att betraktas som ett undantag.

Betrakta detta förslag: ”Rätten att vara ett undantag innebär inte att varje individ is ett undantag men att, när ett beslut kan skada beslutssubjektet, bör beslutsfattaren överväga möjligheten att föremålet Maj vara ett undantag. Rätten att vara ett undantag omfattar tre ingredienser: skada, individualiseringoch Osäkerheten. Beslutsfattaren måste välja att orsaka skada först när de har övervägt om beslutet är lämpligt individualiserat och, avgörande, den osäkerhet som följer med beslutets datadrivna komponent. Ju större risken för skada är, desto allvarligare övervägande” (av Sarah Cen, i en forskningsartikel med titeln Rätten att vara ett undantag i datadrivet beslutsfattande, MIT, 12 april 2022).

Du kanske frestas att anta att vi redan har en sådan rättighet.

Inte nödvändigtvis. Enligt forskningsartikeln kan den sannolikt närmast besläktade internationellt erkända mänskliga rättigheten vara individens värdighet. I teorin, föreställningen om att det borde finnas ett erkännande av värdighet så att en individ och deras specifika unika förutsätts omfattas, får du dig i bollplanken för en potentiell mänsklig rättighet till undantag. En betänklighet är att de befintliga lagarna som styr värdighetssfären sägs vara något oklara och alltför formbara, och därför inte väl inställda på den specifika juridiska konstruktionen av en undantagsrätt.

De som förordar en ny rättighet som består av en mänsklig rättighet att vara ett undantag skulle hävda att:

• En sådan rättighet skulle i stort sett tvinga AI-utvecklare att uttryckligen klara av undantag
• Företag som tillverkar AI skulle vara mer lagligt på hugget för att inte hantera undantag
• AI skulle sannolikt vara bättre balanserad och mer robust överlag
• De som använder AI eller är föremål för AI skulle ha det bättre
• När AI inte tillgodoser undantag, skulle rättslig regress vara lätt möjlig
• Tillverkare av AI kommer säkert också att ha det bättre (deras AI skulle täcka ett bredare spektrum av användare)
• Annat

De som motsätter sig en ny rättighet som betecknas som en mänsklig rättighet som ett undantag tenderar att säga:

• Befintliga mänskliga rättigheter och lagliga rättigheter täcker detta tillräckligt och behöver inte komplicera saken
• En onödig börda skulle läggas på AI-tillverkares axlar
• Ansträngningar att skapa AI skulle bli dyrare och tenderar att bromsa AI-framsteg
• Det skulle uppstå falska förväntningar om att alla skulle kräva att de skulle vara ett undantag
• Rätten i sig skulle utan tvekan bli föremål för olika tolkningar
• De som vinner mest kommer att vara advokatkåren när rättsfallen skjuter i höjden
• Annat

Kort sagt, motståndet mot en sådan ny rättighet brukar argumentera att detta är ett nollsummespel och att en laglig rättighet att vara ett undantag kommer att kosta mer än den fördelaktigt ger. De som anser att en sådan ny rättighet förnuftigt krävs är benägna att betona att detta inte är ett nollsummespel och att alla i slutändan gynnas, inklusive de som gör AI och de som använder AI.

Du kan vara säker på att denna debatt som omfattar juridiska, etiska och samhälleliga implikationer förknippade med AI och undantag kommer att vara högljudd och ihållande.

Självkörande bilar och vikten av undantag

Fundera på hur detta gäller i samband med autonoma system som autonoma fordon och självkörande bilar. Det har redan förekommit olika kritik om det genomsnittliga tänkesättet för AI-utveckling för självkörande bilar och autonoma fordon.

Till en början var det till en början väldigt få självkörande bilar som passade de som har någon form av fysisk funktionsnedsättning eller funktionsnedsättning. Man tänkte inte så mycket på att bredare omfatta ett komplett utbud av ryttarebehov. I stort sett har denna medvetenhet ökat, även om det fortfarande uttrycks oro över huruvida detta är tillräckligt långt framme och så omfattande omfamnat som det borde vara.

Ett annat exempel på det genomsnittliga fallet jämfört med ett undantag har att göra med något som kan få dig att bli ointressant.

Är du redo?

Utformningen och användningen av många av dagens AI-körsystem och självkörande bilar tenderar att göra ett tyst eller outtalat antagande om att vuxna kommer att åka i den självkörande bilen. Vi vet att när en mänsklig förare sitter vid ratten finns det naturligtvis en vuxen i fordonet, per definition eftersom att få körkort vanligtvis bygger på att vara vuxen (nåja, eller nästan en). För självkörande bilar som har AI som sköter all körning, behöver ingen vuxen vara närvarande.

Poängen är att vi kan ha barn som åker i bilar själva utan att någon vuxen är närvarande, det är åtminstone möjligt i fallet med helt autonoma AI-drivna självkörande bilar. Du kan skicka dina barn till skolan på morgonen genom att använda en självkörande bil. Istället för att du måste ge dina barn en hiss eller behöva använda en mänsklig förare av en samåkningstjänst, kan du helt enkelt låta dina barn stapla in i en självkörande bil och köras över till skolan.

Allt är inte rosenrött när det gäller att ha barn i självkörande bilar.

Eftersom det inte längre finns ett behov av att ha en vuxen i fordonet, innebär detta att barn inte längre kommer att känna sig påverkade eller ska vi säga kontrollerade av närvaron av en vuxen. Kommer barn att bli galna och riva upp interiören i självkörande bilar? Kommer barn att försöka klättra eller nå utanför fönstren på den självkörande bilen? Vilka andra typer av upptåg kan de göra, vilket leder till potentiell skada och allvarlig skada?

Jag har täckt den heta debatten om tanken på att barn åker ensamma i självkörande bilar, se länken här. Vissa säger att detta aldrig bör tillåtas. Vissa säger att det är oundvikligt och vi måste ta reda på hur vi bäst kan få det att fungera.

Slutsats

Låt oss återgå till det övergripande temat för genomsnittsfallet kontra undantaget.

Vi verkar alla vara överens om att det alltid kommer att finnas något undantag från regeln. När en regel väl har utformats eller identifierats borde vi leta efter undantag. När vi stöter på undantag bör vi tänka på vilken regel detta undantag sannolikt gäller.

Många av den AI som utvecklas idag är utformad kring att formulera regeln, medan utmaningarna i samband med undantag tenderar att överges och ryckas på axlarna.

För dem som gillar att vara smarriga och säger att det inte finns några undantag från regeln att det alltid finns undantag från regeln, skulle jag erkänna att denna kvickhet verkar vara ett mentalt pussel. Nämligen, hur kan vi ha en regel om att det alltid finns undantag, men då verkar inte just den här regeln gälla regeln att det alltid finns undantag från regeln?

Låter huvudet snurra.

Lyckligtvis finns det inget behov av att alltför komplicera dessa nyktra saker. Vi kan förhoppningsvis leva med den praktiska och livsviktiga tumregeln att vi bör hålla utkik efter och tillmötesgå undantagen från varje regel.

Det löser sig, så nu börjar vi jobba på det.