Generativ AI ChatGPT kan oroande sluka upp dina privata och konfidentiella data, varnar AI-etik och AI-lagar

Nu ser du din data, nu gör du det inte.

Under tiden har din värdefulla data blivit en del av kollektivet, så att säga.

Jag syftar på en aspekt som kan vara ganska överraskande för de av er som ivrigt och uppriktigt använder sig av det senaste inom artificiell intelligens (AI). Datan som du anger i en AI-app är potentiellt inte alls helt privat för dig och dig ensam. Det kan vara så att din data kommer att användas av AI-tillverkaren för att antagligen försöka förbättra sina AI-tjänster eller kan användas av dem och/eller till och med deras allierade partners för en mängd olika ändamål.

Du har nu blivit varnad.

Detta överlämnande av dina data sker på de mest ofarliga sätt och av potentiellt tusentals eller i storleksordningen miljontals människor. Hur så? Det finns en typ av AI känd som generativ AI som nyligen har fått stora rubriker och stor uppmärksamhet från allmänheten. Den mest anmärkningsvärda av de befintliga generativa AI-apparna är en som heter ChatGPT som är framtagen av företaget OpenAI.

Det påstås finnas omkring en miljon registrerade användare för ChatGPT. Många av dessa användare verkar njuta av att testa denna hetaste och senaste generativa AI-app. Processen är utomordentligt enkel. Du skriver in lite text som en uppmaning, och voila, ChatGPT-appen genererar en textutmatning som vanligtvis är i form av en uppsats. Vissa hänvisar till detta som text-till-text, även om jag föredrar att beteckna det som text-till-essä eftersom detta ordspråk är mer vardagligt vettigt.

Till en början kommer en nybörjare förmodligen att skriva in något roligt och bekymmerslöst. Berätta för mig om George Washingtons liv och tider, någon kan komma in som en uppmaning. ChatGPT skulle sedan producera en uppsats om vår legendariska första president. Uppsatsen skulle vara helt flytande och du skulle få svårt att urskilja att den producerades av en AI-app. En spännande sak att se hända.

Oddsen är att efter att ha lekt runt ett tag kommer ett segment av nybörjaranvändare att ha blivit mätta och eventuellt välja att sluta leka med ChatGPT. De har nu övervunnit sin FOMO (rädsla för att missa), efter att ha experimenterat med AI-appen som nästan alla verkar prata om. Gärning gjord.

Vissa kommer dock att börja fundera på andra och mer seriösa sätt att använda generativ AI.

Kanske använd ChatGPT för att skriva det där memo som din chef har uppmanat dig att skriva. Allt du behöver göra är att ge en uppmaning med punkterna som du har i åtanke, och nästa sak du vet har ett helt memo genererats av ChatGPT som skulle göra din chef stolt över dig. Du kopierar den utskrivna uppsatsen från ChatGPT, klistrar in den i företagets officiella mall i ditt ordbehandlingspaket och mailar det eleganta memorandumet till din chef. Du är värd en miljon dollar. Och du använde din hjärna för att hitta ett praktiskt verktyg för att göra det hårda arbetet åt dig. Klappa dig själv på axeln.

Det är inte allt.

Ja, det finns mer.

Tänk på att generativ AI kan utföra en mängd andra skrivrelaterade uppgifter.

Anta till exempel att du har skrivit en berättelse av något slag för en uppskattad kund och du verkligen vill ha en granskning av materialet innan det går ut genom dörren.

Lätt som en plätt.

Du klistrar in texten i din berättelse i en ChatGPT-prompt och instruerar sedan ChatGPT att analysera texten som du skrev. Den resulterande uppsatsen kan gräva djupt ner i din formulering, och till din trevliga överraskning kommer du att försöka inspektera innebörden av det du har sagt (som går långt utöver att fungera som en stavningskontroll eller en grammatikanalysator). AI-appen kan upptäcka fel i logiken i din berättelse eller kanske upptäcka motsägelser som du inte insåg fanns i ditt eget skrivande. Det är nästan som om du anlitat en listig mänsklig redaktör för att öga ditt utkast och ge en mängd användbara förslag och noterade bekymmer (ja, jag vill kategoriskt säga att jag inte försöker antropomorfisera AI-appen, särskilt att en mänsklig redaktör är en människa medan AI-appen bara är ett datorprogram).

Tack och lov att du använde den generativa AI-appen för att granska din värdefulla skrivna berättelse. Du skulle utan tvekan föredra att AI hittar dessa oroande skriftliga frågor snarare än efter att ha skickat dokumentet till din uppskattade kund. Föreställ dig att du hade komponerat berättelsen för någon som hade anlitat dig för att skapa en ganska vital skildring. Om du hade gett den ursprungliga versionen till klienten, innan du gjorde AI-appgranskningen, kan du drabbas av stor förlägenhet. Kunden skulle nästan säkert hysa allvarliga tvivel om dina färdigheter för att utföra det arbete som efterfrågades.

Låt oss öka före.

Överväg att skapa juridiska dokument. Det är uppenbarligen en särskilt allvarlig sak. Ord och hur de är sammansatta kan beskriva ett livligt juridiskt försvar eller en dyster juridisk olycka.

I min pågående forskning och konsultation interagerar jag regelbundet med många advokater som är mycket intresserade av att använda AI inom juridik. Olika LegalTech-program blir anslutna till AI-funktioner. En advokat kan använda generativ AI för att komponera ett utkast till ett kontrakt eller komponera andra juridiska dokument. Dessutom, om advokaten gjorde ett första utkast själva, kan de skicka över texten till en generativ AI-app som ChatGPT för att ta en titt och se vilka hål eller luckor som kan upptäckas. För mer om hur advokater och det juridiska området väljer att använda AI, se min diskussion på länken här.

Vi är dock redo att gnugga på detta.

En advokat tar ett utkast till kontrakt och kopierar texten till en uppmaning för ChatGPT. AI-appen producerar en recension för advokaten. Det visar sig att flera gotchas hittas av ChatGPT. Advokaten reviderar avtalet. De kan också be ChatGPT att föreslå en omformulering eller göra om den komponerade texten åt dem. En ny och bättre version av kontraktet produceras sedan av den generativa AI-appen. Advokaten tar tag i den utmatade texten och lägger in den i en ordbehandlingsfil. Missivet går till deras klient. Uppdrag slutfört.

Kan du gissa vad som också hände?

Bakom kulisserna och under huven kan kontraktet ha svalts upp som en fisk i munnen på en val. Även om den här AI-användande advokaten kanske inte inser det, kan kontraktstexten, placerad som en uppmaning i ChatGPT, potentiellt slukas upp av AI-appen. Det är nu foder för mönstermatchning och andra beräkningskompetenser i AI-appen. Detta kan i sin tur användas på en mängd olika sätt. Om det finns konfidentiella uppgifter i utkastet, är det också potentiellt nu inom gränserna för ChatGPT. Din uppmaning som ges till AI-appen är nu skenbart en del av kollektivet på ett eller annat sätt.

Dessutom anses den utskrivna uppsatsen också vara en del av kollektivet. Om du hade bett ChatGPT att ändra utkastet åt dig och presentera den nya versionen av kontraktet, tolkas detta som en utskriven uppsats. Utdata från ChatGPT är också en typ av innehåll som kan behållas eller på annat sätt omvandlas av AI-appen.

Usch, du kanske oskyldigt har gett bort privat eller konfidentiell information. Inte bra. Dessutom skulle du inte ens vara medveten om att du hade gjort det. Inga flaggor hissades. Ett horn blåste inte. Inga blinkande lampor slocknade för att chocka dig till verkligheten.

Vi kan förutse att icke-advokater lätt kan göra ett sådant misstag, men för en erfaren advokat att göra samma nybörjarmisstag är nästan ofattbart. Ändå finns det sannolikt jurister just nu som gör samma potentiella blunder. De riskerar att bryta mot en anmärkningsvärd del av advokat-klient-privilegiet och eventuellt bryta mot American Bar Association (ABA) Model Rules of Professional Conduct (MRPC). I synnerhet: "En advokat ska inte avslöja information som rör representationen av en klient om inte klienten ger informerat samtycke, avslöjandet är underförstått auktoriserat för att utföra representationen eller avslöjandet är tillåtet enligt punkt (b)" (citerad från MRPC, och för vilka undantagen förknippade med underavsnitt b inte verkar omfatta användning av en generativ AI-app på ett icke-säkert sätt).

Vissa advokater kan försöka ursäkta sin överträdelse genom att hävda att de inte är tekniska trollkarlar och att de inte skulle ha haft några möjligheter att veta att deras inmatning av konfidentiell information i en generativ AI-app på något sätt kan vara ett slags intrång. ABA har klargjort att en skyldighet för advokater innefattar att vara uppdaterad om AI och teknik ur ett juridiskt perspektiv: ”För att upprätthålla den erforderliga kunskapen och skickligheten bör en advokat hålla sig à jour med förändringar i lagen och dess praxis, inklusive de fördelar och risker som är förknippade med relevant teknik, engagera sig i fortsatta studier och utbildning och följa alla fortbildningskrav som advokaten är föremål för” (enligt MRPC).

Flera bestämmelser kommer in i denna sken av juridisk skyldighet, inklusive att behålla klientens konfidentiella information (Regel 1.6), skydda klientegendom såsom data (Regel 1.15), korrekt kommunikation med en klient (Regel 1.4), inhämta klientinformerat samtycke (Regel 1.6), och säkerställa kompetent representation på uppdrag av en klient (Regel 1.1). Och det finns också den föga kända men mycket anmärkningsvärda AI-fokuserade resolutionen som antogs av ABA: "Att American Bar Association uppmanar domstolar och advokater att ta itu med de framväxande etiska och juridiska frågorna relaterade till användningen av artificiell intelligens ('AI') i utövandet av juridik, inklusive: (1) partiskhet, förklaringsbarhet och insyn i automatiserade beslut som fattas av AI; (2) etisk och fördelaktig användning av AI; och (3) kontroller och tillsyn över AI och de leverantörer som tillhandahåller AI."

Ord till de kloka för mina juridiska vänner och kollegor.

Kärnan i saken är att nästan vem som helst kan hamna i ett problem när de använder generativ AI. Icke-advokater kan göra det på grund av sin förmodade brist på rättsskicklighet. Advokater kan också göra det, kanske förälskade i AI eller inte ta ett djupt andetag och reflektera över vilka juridiska konsekvenser som kan uppstå när man använder generativ AI.

Vi är alla potentiellt i samma båt.

Du bör också inse att ChatGPT inte är den enda generativa AI-appen på blocket. Det finns andra generativa AI-appar som du kan använda. Även de är sannolikt skurna från samma tyg, nämligen att de ingångar du anger som uppmaningar och de utdata du får som genererade utmatade uppsatser anses vara en del av kollektivet och kan användas av AI-tillverkaren.

I dagens kolumn kommer jag att ta upp karaktären på hur data som du anger och data som du får från generativ AI potentiellt kan äventyras med avseende på integritet och konfidentialitet. AI-tillverkarna gör sina licenskrav tillgängliga och du skulle göra klokt i att läsa upp de viktiga bestämmelserna innan du börjar aktivt använda en AI-app med något sken av verklig data. Jag kommer att gå igenom ett exempel på sådan licensiering, och gör det för ChatGPT AI-appen.

In i allt detta kommer en mängd AI-etik och AI-rättsliga överväganden.

Var medveten om att det pågår ansträngningar för att införliva etiska AI-principer i utvecklingen och användningen av AI-appar. En växande kontingent av berörda och dåvarande AI-etiker försöker se till att ansträngningarna att ta fram och införa AI tar hänsyn till en syn på att göra AI For Good och avvärja AI för dåligt. Likaså finns det föreslagna nya AI-lagar som samlas runt som potentiella lösningar för att hindra AI-strävanden från att gå amok på mänskliga rättigheter och liknande. För min pågående och omfattande bevakning av AI-etik och AI-lag, se länken här och länken här, bara för att nämna några.

Det finns betydande etiska AI-nyanser och bestämmelser förknippade med hur AI-tillverkare kan eller bör hantera data eller information som verkar privat eller konfidentiell för deras användare. Du vet förmodligen också att ett gäng befintliga lagar slår in i kärnan av hur data ska hanteras av tekniska enheter. Chansen är också stor att de nyligen föreslagna AI-lagarna också kommer att korsas i samma territorium. Se till exempel min bevakning av AI Bill of Rights och andra juridiska gräl som pågår om AI, kl länken här.

Här är nyckeln till den här diskussionen:

• Var väldigt, väldigt, väldigt försiktig med vilken data eller information du väljer att lägga i dina meddelanden när du använder generativ AI, och var på samma sätt extremt försiktig och förutse vilka typer av utmatade uppsatser du kan få eftersom utdata också kan absorberas.

Antyder detta att du inte ska använda generativ AI?

Nej, det är inte alls vad jag säger.

Använd generativ AI till ditt hjärta. Kontentan är att du måste vara uppmärksam på hur du använder den. Ta reda på vilken typ av licensvillkor som är förknippade med användningen. Bestäm om du kan leva med dessa krav. Om det finns vägar att informera AI-tillverkaren om att du vill åberopa vissa typer av extra skydd eller tillåtelser, se till att du gör det.

Jag kommer också att nämna en annan aspekt som jag inser kommer att få vissa människor att koka galna. Här kommer. Oavsett vad licensbestämmelserna är, måste du också anta att det finns en möjlighet att dessa krav kanske inte uppfylls fullt ut. Saker och ting kan gå snett. Saker kan glida mellan stolarna. I slutändan, visst, kan du ha ett rättsligt fall mot en AI-tillverkare för att inte följa deras bestämmelser, men det är lite efter att hästen redan är ute ur ladugården.

Ett potentiellt mycket säkert sätt att gå vidare skulle vara att sätta upp din egen instans på dina egna system, oavsett om det är i molnet eller internt (och, förutsatt att du följer de lämpliga säkerhetsåtgärderna för cybersäkerhet, vilket vissa visserligen inte gör och de är värre i sitt eget moln än att använda mjukvaruleverantörens moln). Ett lite av ett tjatande problem är dock att få av de generativa AI storskaliga apparna tillåter detta just nu. De arbetar alla i stort sett bara på vårt moln. Få har gjort det möjligt att få en hel instans utskuren just för dig. Jag har förutspått att vi gradvis kommer att se detta alternativ dyka upp, även om det till en början kommer att bli ganska kostsamt och något komplicerat, se mina förutsägelser på länken här.

Hur kan annars särskilt ljusa och särskilt skarpsinniga människor hamna i ett gräsk med data- eller informationskonfidentialitet?

Lockelsen med dessa generativa AI-appar är ganska magnetisk när du väl börjar använda en. Steg för steg finner du dig själv fascinerad och väljer att sätta tårna längre och längre ner i det generativa AI-vattnet. Nästa sak du vet är att du lätt överlämnar proprietärt innehåll som är tänkt att hållas privat och konfidentiellt till en generativ AI-app.

Motstå driften och snälla avstå från att stegvis falla i en obehaglig fälla.

För företagsledare och chefer på högsta nivå går samma varning till dig och alla personer i ditt företag. Senior chefer fastnar i entusiasmen och förvåningen över att använda generativ AI också. De kan verkligen förstöra och potentiellt ange hemlig information på toppnivå i en AI-app.

Utöver detta kan de ha breda ligor av sina anställda som också leker med generativ AI. Många av de annars uppmärksamma personalen anger tanklöst och lyckligt företagets privata och konfidentiella information i dessa AI-appar. Enligt senaste nyhetsrapporter upptäckte Amazon tydligen att vissa anställda skrev in olika proprietär information i ChatGPT. En juridiskt orienterad varning sades ha skickats internt för att vara försiktig med att använda den oemotståndliga AI-appen.

Sammantaget kommer lite ironi in i de ökande fenomenen med anställda som frivilligt anger konfidentiell data i ChatGPT och annan generativ AI. Tillåt mig att utveckla. Dagens moderna företag har vanligtvis strikta cybersäkerhetspolicyer som de noggrant har utformat och implementerat. Det finns många tekniska skydd. Förhoppningen är att förhindra oavsiktliga utsläpp av avgörande saker. Ett ständigt trumslag är att vara försiktig när du besöker webbplatser, vara försiktig när du använder icke-godkända appar och så vidare.

Med följer generativa AI-appar som ChatGPT. Nyheten om AI-appen går i taket och får stor uppmärksamhet. En frenesi uppstår. Människor i dessa företag som har alla dessa cybersäkerhetsskydd väljer att hoppa på en generativ AI-app. De leker med det i början. De börjar sedan mata in företagsdata. Wham, de har nu potentiellt avslöjat information som inte borde ha avslöjats.

Den glänsande nya leksaken som på magiskt sätt kringgår utgifterna för miljontals dollar för cybersäkerhetsskydd och fortlöpande utbildning om vad man inte ska göra. Men hej, det är spännande att använda generativ AI och vara en del av "in" skaran. Det är tydligen det som räknas.

Jag litar på att du förstår min drift om att vara markant försiktig.

Låt oss sedan ta en närmare titt på hur generativ AI tekniskt hanterar texten i uppmaningarna och utmatade uppsatser. Vi kommer också att utforska några av licensbestämmelserna, med ChatGPT som exempel. Vänligen inse att jag inte kommer att täcka hela skalan av dessa licenselement. Se till att involvera din juridiska rådgivare för vilken generativ AI-app du än väljer att använda. Dessutom skiljer sig licensieringen från AI-tillverkare till AI-tillverkare, plus att en given AI-tillverkare kan välja att ändra sin licensiering så se till att vara vaksam på vad den senaste versionen av licensieringen än föreskriver.

Vi har lite spännande uppackning att göra om detta berusande ämne.

Först bör vi se till att vi alla är på samma sida om vad Generativ AI består av och även vad ChatGPT handlar om. När vi väl täcker den grundläggande aspekten kan vi utföra en övertygande bedömning av spegelmetaforen som är förknippad med denna typ av AI.

Om du redan är mycket bekant med Generativ AI och ChatGPT kan du kanske skumma nästa avsnitt och fortsätta med avsnittet som följer det. Jag tror att alla andra kommer att finna lärorika de viktiga detaljerna om dessa frågor genom att noggrant läsa avsnittet och komma igång.

En snabb primer om Generativ AI och ChatGPT

ChatGPT är ett interaktivt konversationsorienterat system för allmänt bruk av AI, i grunden en till synes ofarlig allmän chatbot, men den används aktivt och ivrig av människor på ett sätt som fångar många helt och hållet, som jag kommer att utveckla inom kort. Denna AI-app utnyttjar en teknik och teknik inom AI-området som ofta kallas Generativ AI. AI:n genererar utdata som text, vilket är vad ChatGPT gör. Andra generativt baserade AI-appar producerar bilder som bilder eller konstverk, medan andra genererar ljudfiler eller videor.

Jag kommer att fokusera på de textbaserade generativa AI-apparna i den här diskussionen eftersom det är vad ChatGPT gör.

Generativa AI-appar är oerhört lätta att använda.

Allt du behöver göra är att ange en prompt så genererar AI-appen en uppsats åt dig som försöker svara på din prompt. Den komponerade texten kommer att verka som om uppsatsen skrevs av den mänskliga handen och sinnet. Om du skulle skriva in en uppmaning som sa "Berätta om Abraham Lincoln" kommer den generativa AI:n att förse dig med en uppsats om Lincoln. Detta klassificeras vanligtvis som generativ AI som fungerar text-till-text eller vissa föredrar att kalla det text-till-uppsats produktion. Som nämnts finns det andra lägen för generativ AI, såsom text-to-art och text-to-video.

Din första tanke kan vara att denna generativa förmåga inte verkar vara en så stor sak när det gäller att producera uppsatser. Du kan enkelt göra en onlinesökning på Internet och lätt hitta massor av uppsatser om president Lincoln. Kickaren i fallet med generativ AI är att den genererade uppsatsen är relativt unik och ger en originalkomposition snarare än en kopia. Om du skulle försöka hitta den AI-producerade uppsatsen på nätet någonstans, skulle du knappast upptäcka den.

Generativ AI är förutbildad och använder sig av en komplex matematisk och beräkningsformulering som har satts upp genom att undersöka mönster i skrivna ord och berättelser över webben. Som ett resultat av att undersöka tusentals och miljontals skriftliga stycken kan AI:n spy ut nya essäer och berättelser som är en sammanblandning av vad som hittades. Genom att lägga till olika probabilistiska funktioner blir den resulterande texten ganska unik i jämförelse med vad som har använts i träningsuppsättningen.

Därför har det blivit uppståndelse om att elever ska kunna fuska när de skriver uppsatser utanför klassrummet. En lärare kan inte bara ta uppsatsen som bedrägliga elever hävdar är deras egen skrift och försöka ta reda på om den har kopierats från någon annan onlinekälla. Sammantaget kommer det inte att finnas någon definitiv redan existerande uppsats online som passar den AI-genererade uppsatsen. Allt som allt måste läraren motvilligt acceptera att studenten skrev uppsatsen som ett originalarbete.

Det finns ytterligare farhågor om generativ AI.

En avgörande nackdel är att uppsatserna som produceras av en generativ baserad AI-app kan ha olika falskheter inbäddade, inklusive uppenbart osanna fakta, fakta som är missvisande framställda och uppenbara fakta som är helt påhittade. Dessa påhittade aspekter kallas ofta för en form av AI hallucinationer, en slagord som jag ogillar men som jag beklagligt verkar få populär dragkraft ändå (för min detaljerade förklaring om varför detta är usel och olämplig terminologi, se min bevakning på länken här).

Jag skulle vilja klargöra en viktig aspekt innan vi går in på det här ämnet.

Det har förekommit några galna överdimensionerade påståenden på sociala medier om Generativ AI hävdar att den senaste versionen av AI faktiskt är det kännande AI (nej, de har fel!). De inom AI-etik och AI-lag är särskilt oroliga över denna spirande trend med utsträckta anspråk. Du kan artigt säga att vissa människor överdriver vad dagens AI faktiskt kan göra. De antar att AI har kapacitet som vi ännu inte har kunnat uppnå. Det är olyckligt. Ännu värre, de kan tillåta sig själva och andra att hamna i svåra situationer på grund av ett antagande om att AI kommer att vara kännande eller människoliknande när det gäller att kunna vidta åtgärder.

Antropomorfier inte AI.

Om du gör det kommer du att fångas i en klibbig och hård tillitsfälla av att förvänta dig att AI ska göra saker den inte kan utföra. Med det sagt är det senaste inom generativ AI relativt imponerande för vad det kan göra. Var dock medveten om att det finns betydande begränsningar som du ständigt bör ha i åtanke när du använder en generativ AI-app.

Om du är intresserad av det snabbt växande uppståndelsen om ChatGPT och Generativ AI, har jag gjort en fokuserad serie i min kolumn som du kanske tycker är informativ. Här är en blick om något av dessa ämnen faller dig i smaken:

• 1) Förutsägelser om generativa AI-framsteg som kommer. Om du vill veta vad som sannolikt kommer att utvecklas om AI under 2023 och därefter, inklusive kommande framsteg inom generativ AI och ChatGPT, vill du läsa min omfattande lista med 2023-förutsägelser på länken här.
• 2) Generativ AI och mental hälsa. Jag valde att granska hur generativ AI och ChatGPT används för rådgivning om mental hälsa, en besvärlig trend, enligt min fokuserade analys på länken här.
• 3) Grunderna för generativ AI och ChatGPT. Det här stycket utforskar nyckelelementen i hur generativ AI fungerar och gräver i synnerhet ner i ChatGPT-appen, inklusive en analys av buzz och fanfar, på länken här.
• 4) Spänning mellan lärare och elever över generativ AI och ChatGPT. Här är sätten som eleverna listigt kommer att använda generativ AI och ChatGPT. Dessutom finns det flera sätt för lärare att ta itu med denna flodvåg. Ser länken här.
• 5) Kontext och generativ AI-användning. Jag gjorde också en säsongsmässigt smaksatt undersökning om en tomte-relaterad kontext som involverade ChatGPT och generativ AI på länken här.
• 6) Bedragare som använder generativ AI. På en olycksbådande notering har vissa bedragare kommit på hur man använder generativ AI och ChatGPT för att göra fel, inklusive att generera bluffmejl och till och med producera programmeringskod för skadlig programvara, se min analys på länken här.
• 7) Rookie-misstag med generativ AI. Många människor både överskrider och överraskande underskrider vad generativ AI och ChatGPT kan göra, så jag tittade särskilt på underskottet som AI-rookies tenderar att göra, se diskussionen på länken här.
• 8) Att hantera generativa AI-meddelanden och AI-hallucinationer. Jag beskriver ett ledande tillvägagångssätt för att använda AI-tillägg för att hantera de olika problem som är förknippade med att försöka skriva in lämpliga uppmaningar i generativ AI, plus att det finns ytterligare AI-tillägg för att upptäcka så kallade AI-hallucinerade utdata och falskheter, som täckt kl länken här.
• 9) Debunking Bonehead-påståenden om att upptäcka generativa AI-producerade uppsatser. Det finns en missriktad guldrush av AI-appar som förkunnar att de kan fastställa om någon given uppsats var mänskligt producerad kontra AI-genererad. Sammantaget är detta missvisande och i vissa fall är det ett benhårt och ohållbart påstående, se min bevakning på länken här.
• 10) Rollspel via generativ AI kan leda till nackdelar med mental hälsa. Vissa använder generativ AI som ChatGPT för att spela rollspel, där AI-appen svarar på en människa som om den existerade i en fantasivärld eller annan påhittad miljö. Detta kan få konsekvenser för psykisk hälsa, se länken här.
• 11) Att avslöja mängden utskrivna fel och falskheter. Olika insamlade listor håller på att sammanställas för att försöka visa upp karaktären av ChatGPT-producerade fel och falskheter. Vissa anser att detta är väsentligt, medan andra säger att övningen är meningslös, se min analys på länken här.
• 12) Skolor som förbjuder generativ AI ChatGPT saknar båten. Du kanske vet att olika skolor som New York City (NYC) Education Department of Education har deklarerat ett förbud mot användning av ChatGPT på deras nätverk och tillhörande enheter. Även om detta kan tyckas vara en användbar försiktighetsåtgärd, kommer den inte att flytta nålen och missar tyvärr helt båten, se min bevakning på länken här.
• 13) Generativ AI ChatGPT kommer att finnas överallt på grund av det kommande API:et. Det finns en viktig vändning när det gäller användningen av ChatGPT, nämligen att via användningen av en API-portal i denna speciella AI-app kommer andra mjukvaruprogram att kunna anropa och använda ChatGPT. Detta kommer att dramatiskt utöka användningen av generativ AI och har anmärkningsvärda konsekvenser, se min fördjupning på länken här.
• 14) Sätt som ChatGPT kan krångla eller smälta ner. Flera potentiella irriterande problem låg framför ChatGPT när det gäller att underskrida det hittills enorma beröm det har fått. Denna analys undersöker noggrant åtta möjliga problem som kan få ChatGPT att tappa kraften och till och med hamna i hundkojan, se länken här.

Du kanske tycker att ChatGPT är baserad på en version av en föregångare AI-app som kallas GPT-3. ChatGPT anses vara ett lite nästa steg, kallat GPT-3.5. Det förväntas att GPT-4 sannolikt kommer att släppas under våren 2023. Förmodligen kommer GPT-4 att vara ett imponerande steg framåt när det gäller att kunna producera till synes ännu mer flytande uppsatser, gå djupare och vara en vördnad -inspirerande förundran över de kompositioner som den kan producera.

Du kan förvänta dig att se en ny omgång av uttryckt förundran när våren kommer och det senaste inom generativ AI släpps.

Jag tar upp detta eftersom det finns en annan vinkel att tänka på, som består av en potentiell akilleshäl till dessa bättre och större generativa AI-appar. Om någon AI-leverantör tillhandahåller en generativ AI-app som skummande spyr ut fulhet, kan detta krossa förhoppningarna hos dessa AI-tillverkare. En samhällelig spridning kan göra att all generativ AI får ett allvarligt blåöga. Människor kommer utan tvekan att bli ganska upprörda över fula resultat, som redan har hänt många gånger och lett till högljudda samhälleliga fördömanden mot AI.

En sista förvarning för nu.

Vad du än ser eller läser i ett generativt AI-svar som verkar för att förmedlas som rent sakliga (datum, platser, personer etc.), se till att förbli skeptisk och var villig att dubbelkolla vad du ser.

Ja, datum kan hittas på, platser kan hittas, och element som vi vanligtvis förväntar oss att vara ovanliga är alla föremål för misstankar. Tro inte på vad du läser och håll ett skeptiskt öga när du undersöker generativa AI-uppsatser eller resultat. Om en generativ AI-app berättar att Abraham Lincoln flög runt i landet i sitt eget privatjet, skulle du utan tvekan veta att detta är malarky. Tyvärr kanske vissa människor inte inser att jetplan inte fanns på hans tid, eller så kanske de vet men misslyckas med att lägga märke till att uppsatsen gör detta fräcka och skandalöst falska påstående.

En stark dos av hälsosam skepsis och ett ihållande tankesätt av misstro kommer att vara din bästa tillgång när du använder generativ AI.

Vi är redo att gå in i nästa steg av denna förklaring.

Att veta vad djävulen kommer att hända med den texten

Nu när vi har etablerat grunderna kan vi dyka ner i data och informationsöverväganden när vi använder generativ AI.

Låt oss först kortfattat överväga vad som händer när du skriver in text i en prompt för ChatGPT. Vi vet inte säkert vad som händer i ChatGPT eftersom programmet anses vara proprietärt. Vissa har påpekat att detta undergräver en känsla av transparens kring AI-appen. En lite smarrig kommentar är att för ett företag som heter OpenAI är deras AI faktiskt stängd för allmänheten och inte tillgänglig som öppen källkod.

Låt oss diskutera tokenisering.

När du skriver in vanlig text i en prompt och trycker på retur, finns det förmodligen en konvertering som sker direkt. Texten konverteras till ett format som består av tokens. Tokens är underdelar av ord. Till exempel skulle ordet "hamburgare" normalt delas upp i tre symboler bestående av portionen "skinka", "bur" och "ger". En tumregel är att tokens tenderar att representera ungefär fyra tecken eller anses vara ungefär 75 % av ett konventionellt engelskt ord.

Varje token omformuleras sedan som ett nummer. Olika interna tabeller anger vilken token som tilldelas vilket särskilt nummer. Upptagandet av detta är att texten som du skrev in nu är helt och hållet en uppsättning siffror. Dessa siffror används för att beräkna prompten. Dessutom är det mönstermatchande nätverket som jag nämnde tidigare också baserat på tokeniserade värden. I slutändan, när du komponerar eller genererar den utmatade uppsatsen, används dessa numeriska tokens först, och innan de visas, konverteras tokens tillbaka till uppsättningar av bokstäver och ord.

Tänk på att för ett ögonblick.

När jag säger till folk att det är så mekaniken i bearbetningen fungerar blir de ofta chockade. De antog att en generativ AI-app som ChatGPT måste använda helt integrerande ord. Vi antar logiskt att ord fungerar som slutstenen för att statistiskt identifiera samband i skrivna berättelser och kompositioner. Det visar sig att bearbetningen faktiskt tenderar att använda tokens. Kanske bidrar detta till förvåningen över hur beräkningsprocessen verkar göra ett ganska övertygande jobb med att efterlikna mänskligt språk.

Jag ledde dig genom den processen på grund av en vanlig missuppfattning som verkar sprida sig. Vissa människor verkar tro att eftersom din prompttext konverteras till numeriska tokens, är du säker på att AI-appens inre delar på något sätt inte längre har din ursprungligen inmatade text. Således, hävdar påståendet, även om du angett konfidentiell information i din prompt, har du inga bekymmer eftersom det hela har till synes tokeniserats.

Den uppfattningen är en felaktighet. Jag har precis påpekat att numeriska tokens lätt kan återföras till textformatet för bokstäver och ord. Samma sak kan göras med den konverterade prompten som har tokeniserats. Det finns inget magiskt skyddande med att ha blivit tokeniserad. Med det sagt, om det efter konverteringen till tokens finns en ytterligare process som väljer att ta bort tokens, flytta runt dem och på annat sätt klämma eller hacka upp saker, i så fall finns det verkligen möjligheten att vissa delar av originalet prompten inte längre är intakta (och förutsatt att en originalkopia inte på annat sätt behålls eller lagras någonstans internt).

Jag skulle härnäst vilja ta en titt på de olika meddelandena och licensbestämmelserna för ChatGPT.

När du loggar in på ChatGPT visas en rad varningar och informationskommentarer.

Här är de:

• "Kan ibland generera felaktig information."
• "Kan ibland producera skadliga instruktioner eller partiskt innehåll."
• "Utbildad för att tacka nej till olämpliga förfrågningar."
• "Vårt mål är att få extern feedback för att förbättra våra system och göra dem säkrare."
• "Medan vi har säkerhetsåtgärder på plats, kan systemet ibland generera felaktig eller vilseledande information och producera stötande eller partiskt innehåll. Det är inte avsett att ge råd.”
• "Konversationer kan granskas av våra AI-utbildare för att förbättra våra system."
• "Dela inte någon känslig information i dina konversationer."
• ”Det här systemet är optimerat för dialog. Låt oss veta om ett visst svar var bra eller ohjälpsamt."
• "Begränsad kunskap om världen och händelserna efter 2021."

Två av de angivna varningarna är särskilt relevanta för denna diskussion. Titta på den sjätte punkten och den sjunde punkten.

Låt oss packa upp de två:

"Konversationer kan granskas av våra AI-utbildare för att förbättra våra system."

Den här sjätte punkten förklarar att textkonversationer när du använder ChatGPT kan granskas av ChatGPT via dess "AI-tränare", vilket görs för att förbättra deras system. Detta för att informera dig om att för alla dina inmatade textuppmaningar och motsvarande utmatade uppsatser, som alla är en del av "konversationen" som du tar med ChatGPT, kan den helt och hållet ses av deras folk. Skälet som ges är att detta görs för att förbättra AI-appen, och vi får också veta att det är en typ av arbetsuppgift som utförs av deras AI-tränare. Kanske så, men resultatet är att de har lagt dig på att de kan titta på din text. Punkt, punkt.

Om de skulle göra något annat med din text, skulle du förmodligen söka juridisk rådgivning om huruvida de har graviterat kraftigt bortom de föreslagna gränserna för att bara granska texten i systemförbättringssyfte (förutsatt att du lyckades upptäcka att de hade gjort det, vilket av i sig verkar kanske osannolikt). Hur som helst, du kan föreställa dig det juridiska grälet att försöka få dem på det här, och deras försök att ordna sig ur att bli greps för att på något sätt bryta mot gränserna för deras ansvarsfriskrivning.

"Dela inte någon känslig information i dina konversationer."

Den sjunde punkten anger att du inte får dela någon känslig information i dina konversationer. Det verkar relativt okomplicerat. Jag antar att du kanske tjafsar om vad definitionen av känslig information består av. Dessutom berättar punkten inte varför du inte ska dela någon känslig information. Om du en dag måste försöka och i djup svett förklara varför du dåraktigt skrev in konfidentiell information, kan du prova det höjda ögonbrynspåståendet att varningen var ospecifik, därför förstod du inte betydelsen. Håll andan på den där.

Sammantaget vågar jag påstå att de flesta människor som jag har sett använda ChatGPT tenderar att inte läsa punktpunkterna, eller så skummar de igenom försiktighetsåtgärderna med punktlistor och bara nickar med huvudet som om det är det vanliga skrattret som du ser alla tid. Få verkar ta varningarna strikt till hjärtat. Är detta ett fel hos säljaren för att inte göra försiktighetsåtgärderna mer uttalade? Eller ska vi anta att användarna ska vara ansvarsfulla och medvetet ha läst, förstått och därefter agera klokt utifrån varningarna?

Vissa hävdar till och med att AI-appen borde varna dig upprepade gånger. Varje gång du anger en prompt, bör programvaran dyka upp en varning och fråga dig om du vill slå tillbaka. Om och om igen. Även om detta kan verka som en användbar försiktighetsåtgärd, skulle det visserligen irritera användarna. En svår avvägning är inblandad.

Okej, så det är de uppenbara varningarna som presenteras för alla användare att lätt se.

Användare som kanske är mer nyfikna kan välja att följa några av de detaljerade licensbestämmelserna som också publiceras online. Jag tvivlar på att många gör det. Min gissning är att få tittar seriöst på punkterna när de loggar in, och ännu färre med stor marginal tar då en titt på licensdetaljerna. Återigen, vi är alla lite stela för sådana saker nuförtiden. Jag ursäktar inte beteendet, bara noterar varför det uppstår.

Jag ska granska några utdrag ur de publicerade licensvillkoren.

Först, här är en definition av vad de anser vara "innehåll" förknippat med användningen av ChatGPT:

• "Ditt innehåll. Du kan tillhandahålla indata till Tjänsterna ("Input") och ta emot utdata som genereras och returneras av Tjänsterna baserat på Input ("Output"). Indata och utdata är tillsammans "innehåll". Som mellan parterna och i den utsträckning det är tillåtet enligt tillämplig lag äger du all indata, och under förutsättning att du följer dessa villkor, tilldelar OpenAI dig härmed alla sina rättigheter, äganderätt och intressen i och till utdata. OpenAI kan använda innehåll vid behov för att tillhandahålla och underhålla tjänsterna, följa tillämplig lag och upprätthålla våra policyer. Du är ansvarig för innehållet, inklusive för att säkerställa att det inte bryter mot någon tillämplig lag eller dessa villkor.”

Om du noggrant undersöker den definitionen kommer du att märka att OpenAI förklarar att den kan använda innehållet som de anser nödvändigt för att underhålla dess tjänster, inklusive att följa tillämpliga lagar och upprätthålla dess policyer. Detta är en praktisk catchall för dem. I en kommande en av mina kolumner kommer jag att diskutera ett annat men relaterat ämne, specifikt om immateriella rättigheter (IP) som du har angående inmatade textuppmaningar och utmatade uppsatser (jag påpekar detta här eftersom definitionen av Innehållet har anknytning till det ämnet).

I ytterligare en del av termerna, märkta som avsnitt c, nämner de denna aspekt: ​​"En av de främsta fördelarna med maskininlärningsmodeller är att de kan förbättras över tid. För att hjälpa OpenAI att tillhandahålla och underhålla tjänsterna samtycker du till och instruerar att vi får använda innehåll för att utveckla och förbättra tjänsterna." Detta liknar den tidigare diskuterade varningen på en rad som visas när du loggar in på ChatGPT.

Ett separat dokument som är kopplat till detta ger ytterligare några aspekter om dessa tungt vägande frågor:

• "Som en del av denna ständiga förbättring, när du använder OpenAI-modeller via vårt API, kan vi använda den data du ger oss för att förbättra våra modeller. Detta hjälper inte bara våra modeller att bli mer exakta och bättre på att lösa ditt specifika problem, det hjälper också till att förbättra deras allmänna möjligheter och säkerhet. Vi vet att datasekretess och säkerhet är avgörande för våra kunder. Vi är mycket noga med att använda lämpliga tekniska kontroller och processkontroller för att säkra dina data. Vi tar bort all personligt identifierbar information från data som vi avser att använda för att förbättra modellens prestanda. Vi använder också bara ett litet urval av data per kund för våra ansträngningar att förbättra modellens prestanda. Till exempel, för en uppgift är det maximala antalet API-förfrågningar som vi tar prov per kund på 200 var sjätte månad” (utdrag från dokumentet med titeln ”Hur dina data används för att förbättra modellens prestanda”).

Observera att stadgandet anger att bestämmelsen gäller för användning av API som ett sätt att ansluta till och använda OpenAI-modellerna. Det är lite grumligt om detta lika gäller slutanvändare som direkt använder ChatGPT.

I ännu ett annat dokument, ett som innehåller deras lista med olika vanliga frågor, tillhandahåller de en rad frågor och svar, varav två verkar särskilt relevanta för denna diskussion:

• "(5) Vem kan se mina konversationer? Som en del av vårt engagemang för säker och ansvarsfull AI, granskar vi konversationer för att förbättra våra system och för att säkerställa att innehållet följer våra policyer och säkerhetskrav.”
• "(8) Kan du ta bort specifika uppmaningar? Nej, vi kan inte ta bort specifika meddelanden från din historik. Vänligen dela inte någon känslig information i dina konversationer."

Det finns ytterligare ett dokument som täcker deras integritetspolicy. Det står så här: "Vi samlar in information som ensam eller i kombination med annan information i vår ägo skulle kunna användas för att identifiera dig ("Personlig information")" och fortsätter sedan med att förklara att de kan använda loggdata, användningsdata, kommunikationsinformation, enhetsinformation, cookies, analys och annan potentiellt samlad information om dig. Se till att läsa det finstilta.

Jag tror att det i stort sett ger en genomgång av några överväganden som ligger bakom hur din data kan användas. Som jag nämnde i början kommer jag inte att mödosamt gå igenom alla licensbestämmelser.

Förhoppningsvis får detta dig in i en sinnesstämning i dessa frågor och förblir i ditt sinne.

Slutsats

Jag har sagt det förut och jag säger det igen, skriv inte in konfidentiell eller privat data i dessa generativa AI-appar.

Överväg några praktiska tips eller alternativ på detta sageråd:

• Tänk efter innan du använder generativ AI
• Ta bort saker i förväg
• Maskera eller fejka din inmatning
• Konfigurera din egen instans
• Övriga

Jag ska härnäst ange vad var och en av dessa består av. Inställningen av din egen instans behandlades tidigare här. Användningen av "annat" i min lista beror på möjligheten till andra sätt att hantera att förhindra att konfidentiell data tas med, vilket jag kommer att ta upp ytterligare i ett framtida kolumninlägg.

Låt oss undersöka dessa:

• Tänk efter innan du använder generativ AI. Ett tillvägagångssätt innebär att helt undvika att använda generativ AI. Eller åtminstone tänk efter två gånger innan du gör det. Jag antar att den säkraste vägen innebär att inte använda dessa AI-appar. Men detta verkar också ganska allvarligt och nästan överbord.
• Ta bort saker i förväg. Ett annat tillvägagångssätt består i att ta bort konfidentiell eller privat information från vad du än anger som en uppmaning. I den meningen, om du inte går in i det, finns det inte en chans att det kommer in i Borgen. Nackdelen är att borttagningen av den konfidentiella delen kanske på något sätt minskar eller underskrider det du försöker få den generativa AI att göra åt dig.
• Maskera eller fejka dina indata. Du kan modifiera din föreslagna text genom att ändra informationen så att vad som än verkade vara konfidentiellt eller privat nu skildras på ett annat sätt. Till exempel, istället för ett kontrakt som nämner Widget Company och John Smith, ändrar du texten så att den refererar till Specious Company och Jane Capone. En fråga här är om du kommer att göra ett tillräckligt uttömmande jobb så att alla konfidentiella och privata aspekter är helt förändrade eller förfalskade. Det skulle vara lätt att missa några av grumlingarna och lämna in saker som inte borde finnas där.

Här är en intressant extra twist som kan få din noggin ytterligare att tränga in i detta ämne. Om du helt och hållet kan säkerställa att ingen av dina inmatningsuppmaningar innehåller någon konfidentiell information, innebär detta att du inte behöver oroa dig ett dugg för att de utskrivna uppsatserna också innehåller någon av din konfidentiella information?

Detta verkar axiomatiskt sant. Ingen konfidentiell input, ingen konfidentiell utdata.

Här är din sinnesböjande twist.

Generativ AI ställs ofta in för att beräkningsmässigt träna om sig själv från de textuppmaningar som tillhandahålls. På samma sätt är generativ AI ofta framtagen för att beräkningsmässigt omskola sig från de utskrivna uppsatserna. All denna omskolning är avsedd att förbättra förmågan hos generativ AI.

Jag beskrev i en av mina andra kolumner följande experiment som jag gjorde. En advokat försökte hitta ett nytt sätt att ta itu med en juridisk fråga. Efter en uttömmande genomgång av den juridiska litteraturen verkade det som att alla vinklar som redan dykt upp fanns. Med hjälp av generativ AI fick vi AI-appen att producera en nyhet av ett juridiskt tillvägagångssätt som till synes inte tidigare hade identifierats. Man trodde att ingen annan ännu hade landat på denna rättsliga ställning. En laglig guldklimp så att säga. Detta kan vara en strategiskt värdefull konkurrensrättslig bonanza som vid rätt tidpunkt kan utnyttjas och utnyttjas.

Utgör den utskrivna uppsatsen en form av konfidentiell information, så att den genererades av AI:n för just den här personen och innehåller något speciellt och till synes unikt?

Aha, detta leder oss till det andra allierade och sammanflätade ämnet om ägande och IP-rättigheter förknippade med generativ AI. Håll utkik för att se hur detta blir.

En sista kommentar för nu.

Sofokles gav denna visdom: ”Gör ingenting i hemlighet; Ty tiden ser och hör allt och uppenbarar allt." Jag antar att du skulle kunna modernisera formuleringen och hävda att generativ AI och de som utvecklar och underhåller AI är benägna att se allt också.

Det är ett blygsamt symboliskt råd som är värt att komma ihåg.