Rasande oro över att generativ AI ChatGPT sporrar studenter att fuska kraftigt när de skriver uppsatser, skapar trollbunden uppmärksamhet för AI-etik och AI-lag

Är den skrivna uppsatsen av moderna studenter en aldrig mer?

Går den ångestfyllda studentuppsatsen febrilt ut genom fönstret?

Det är den brouhaha som har utbrutit till ett totalt uppståndelse nyligen. Du förstår, utseendet på en AI-app känd som ChatGPT har fått mycket uppmärksamhet och lika mycket ilska. För min omfattande täckning av ChatGPT, se länken här. För min pågående och omfattande bevakning av AI-etik och AI-lag, se länken här och länken här, bara för att nämna några.

Kontentan av ropandet och ropandet är att denna typ av AI, vanligtvis kallad generativ AI, kommer att bli dödsstöten för att be eleverna göra uppgifter i essästil.

Varför då?

Eftersom det senaste inom generativ AI kan producera till synes flytande essäer genom att bara skriva in en enkel uppmaning. Om du anger en rad som "Berätta för mig om Abraham Lincoln" kommer AI:n att generera en uppsats om Lincolns liv och tider som ofta är tillräckligt bra för att misstas för att ha skrivits helt och uteslutande av mänskliga händer. Dessutom, och här är den riktiga kickern, kommer uppsatsen inte att vara en dubblett eller märkbar kopia av något annat som redan skrivits om samma ämne. Den uppsats som produceras kommer i huvudsak att vara ett "original" såvitt någon tillfällig inspektion skulle kunna fastställa.

En student som står inför en skrivuppgift kan bara anropa en av dessa generativa AI-appar, ange en uppmaning och vips, hela uppsatsen har skrivits för dem. De behöver bara klippa och klistra in den automatiskt genererade texten i ett tomt dokument, i smyg smälla in sitt namn och klassinformation på det, och med lite av en ganska modig bravader gå vidare och lämna in den som sitt eget arbete.

Chanserna för att en lärare ska kunna illa ut att uppsatsen är skriven av AI och inte av studenten är nästan noll.

Skandal!

Rubriker har hastigt förkunnat att vi har nått det bittra slutet av att låta studenter skriva uppsatser eller göra i princip vilken typ av skrivuppgifter som helst utanför klassen. Det enda sättet att hantera situationen verkar vara att använda sig av uppsatsskrivande i klassen. När eleverna befinner sig i en kontrollerad miljö som ett klassrum och antar att de inte har tillgång till bärbara datorer eller sina smartphones, kommer de att vara begränsade till att skriva uppsatser på gammaldags sätt.

För att förtydliga, det gammalmodiga sättet innebär att de kommer att behöva skriva enbart genom att använda sina egna noggins.

Alla slags uppsatser som görs utanför klassrummet kommer omedelbart att misstänkas. Skrev studenten uppsatsen eller gjorde en AI-app det? Som nämnts kommer uppsatsen att vara så välskriven att du inte utan vidare kan upptäcka att den är skriven av en maskin. Stavningen kommer att vara oklanderlig. Syntaxen kommer att vara enorm. Diskurslinjen och potentiella coachade argument kommer att vara övertygande.

Heck, på ett sätt kan du föreslå att den generativa AI kommer att tippa sin ökända hand genom att göra en uppsats som är bortom förmågan för studenten som väljer att ta denna skändliga väg. En lärare kan bli misstänksam helt enkelt på grund av att uppsatsen är lite för bra. En kunnig lärare skulle frestas att gissa att eleven inte kunde ha skrivit en så elegant och lufttät prosa. Interna larmklockor börjar ringa.

Att utmana en student om sin uppsats kommer naturligtvis att vara fult och kan få negativa konsekvenser.

Anta att studenten noggrant skrev uppsatsen, helt själv. De kanske har dubbel- och trippelkollat ​​det. Det finns också en chans att de kanske har låtit en vän eller bekant ta en titt för att hitta något som behöver extra polering. Sammantaget är det fortfarande deras uppsats som skriven av dem. Föreställ dig att en lärare ställer den här seriösa och flitiga eleven skarpa frågor om uppsatsen. Pinsamheten och förtret över att i huvudsak bli anklagad för fusk är påtaglig, även om läraren inte högt gör ett sådant påstående. Bara konfrontationen i sig är tillräckligt för att underminera elevens aktning och få dem att känna sig falskt förtalade.

Vissa insisterar på att alla lärare som har misstankar om författarskapet till en uppsats borde be eleven förklara vad de skrivit. Förmodligen, om uppsatsen skrevs av studenten, kan den särskilda studenten förklara den på ett adekvat sätt. Lärare har gjort den här typen av undersökningar i evigheter. En student kan ha fått en annan student att skriva sin uppsats åt dem. Eleven kan ha fått en förälder att skriva sin uppsats. I dagens värld kan studenten betala någon över Internet för att i hemlighet skriva sin uppsats för deras räkning.

Att be en elev att verifiera författarskapet via en förfrågan i klassrummet är därför vanligt och inte en stor sak.

Jag är glad att du tog upp det.

Att försöka grilla en elev milt eller bevisligen är inte ett fullt så enkelt lackmustest som man kan tro. Studenten kunde ha studerat den AI-producerade uppsatsen noggrant och gjort sig redo för ett eventuellt förhör.

Tänk på det så här. Eleven skapar först uppsatsen med bara en knapptryckning. Eleven ägnar sedan en massa tid som de skulle ha ägnat åt att skriva uppsatsen istället för att noggrant granska och studera uppsatsen. Efter ett tag är orden nästan helt hängivna i minnet. Eleven lurar nästan sig själva att tro att de verkligen skrev uppsatsen. Denna sken av självförtroende och medvetenhet kunde lätt få dem genom lärarledd granskning.

Aha, säger vissa med lite av en motpol till rädslan för generativa AI-appar, notera att studenten faktiskt "lärde sig" något genom att ha skapat uppsatsen. Visst, studenten gjorde inte benarbetet för att undersöka ämnet, och de skrev inte heller uppsatsen, men ändå, om de noggrant studerade uppsatsen, verkar det visa att de har lärt sig om det tilldelade ämnet. Studenten som åtar sig att lära sig utantill uppsatsen om Lincoln har förmodligen lärt sig något väsentligt om Lincoln.

Lärande har skett.

Oj, säger repliken, uppdraget var sannolikt en dubbel process. Att lära sig om Lincoln kan ha varit relativt sekundärt. Det verkliga syftet var att få eleven att lära sig skriva. Denna väsentliga del av uppdraget har underskridits helt. Lärare tilldelar ofta öppna ämnen och syftar egentligen bara till att eleven ska få erfarenhet av att skriva. Du måste lägga ut vad du vill skriva, du måste lista ut de ord du ska använda, du måste lägga orden i en vettig uppsättning meningar och stycken, och så vidare. Att bara läsa en AI-producerad uppsats överensstämmer inte alls med den grundläggande aspekten av en uppsatsuppgift.

Motsatsen till detta är påståendet att studenten potentiellt lär sig skrivande genom att noggrant undersöka skriften som produceras av AI. Studerar vi inte alla skrivandets stormästare för att se hur de skriver? Vårt författarskap är ett försök att nå sådana som Shakespeare och andra stora författare. Att studera det skrivna ordet är ett giltigt sätt att få reda på hur man skriver.

Som en hård tennismatch rör sig bollen till andra sidan nätet. Även om det är bra att studera bra skrivande, måste du i slutändan skriva om du vill kunna skriva. Man kan inte bara läsa oändligt och sedan tomt anta att eleven nu vet hur man skriver. De måste skriva och skriva och fortsätta skriva tills de på ett konkret sätt kan visa upp och förbättra sina skrivförmåga.

Ser du hur det hela är en stor gåta?

Var medveten om att det finns ungefär en zillion eller fler vändningar på allt detta.

Jag kommer att täcka några av de mer geniala och intressanta vändningarna.

Justera uppsatsen via AI-uppmaning

Efter att precis ha nämnt Shakespeare, här är en aspekt av generativ AI som kan vara överraskande för dig. I många av de generativa AI-apparna kan du säga något så här: "Skriv en uppsats om Lincoln som om Shakespeare skrev uppsatsen." AI:n kommer att försöka skapa en uppsats som verkar vara skriven på det språk som vanligtvis används av Shakespeare i hans skrifter. Det är en ganska rolig och engagerande bedrift att se och många får en rejäl kick av detta.

Hur relaterar detta till studenten som "fuskar" genom att använda generativ AI för att skriva sina uppsatser?

I många generativa AI-appar kan du säga till AI:n att skriva på ett mindre än fantastiskt sätt. AI kommer att försöka producera en uppsats som är något grov runt kanterna. Det finns syntaxproblem här eller där. Uppsatsens logik kan vara nervös eller något osammanhängande.

Det här vore ett smart knep. Eleven tar den resulterande uppsatsen och lämnar in den. Uppsatsen är tillräckligt bra för att få ett toppbetyg, men samtidigt inte så perfekt att den väcker irritation hos läraren. Än en gång har AI gjort allt legwork för studenten, inklusive att göra uppsatsen något ofullkomlig.

Utöver detta låter de flesta generativa AI-appar dig använda appen så mycket du vill. Så här kommer det att spela. En student skriver in att AI-appen ska göra en något ofullkomlig uppsats om Lincoln. Uppsatsen är framtagen. Eleven tittar på uppsatsen och inser att den fortfarande är alltför perfekt. Eleven anger en annan prompt som instruerar AI:n att göra ofullkomligheterna mer uttalade.

Skum, skölj, upprepa.

Studenten fortsätter att skriva in uppmaningar och inspektera de uppsatser som produceras. Detta händer om och om igen. Så småningom får studenten AI till precis rätt nivå av ofullkomlighet i uppsatsen. Goldilocks-versionen har uppnåtts. Det är precis tillräckligt perfekt för att få ett högt betyg, och precis tillräckligt ofullkomligt för att inte väcka misstankar.

Jag är säker på att några av er smarrigt säger att om studenten bara hade valt att skriva den förbannade uppsatsen i första hand, skulle de kanske ha spenderat mindre tid eller åtminstone lika mycket tid på att skriva själva uppsatsen. All denna energislukande användning av AI-appen kunde ha varit inriktad på att helt enkelt fortsätta att skriva uppsatsen.

Tja, kom ihåg att studenten inte har det i åtanke. Lättheten att skriva in uppmaningar och iterativt granska och välja den önskade uppsatsen kommer definitivt att vara mycket lättare för studenten att göra. En timme att göra detta är mycket mindre jobbigt än att skriva uppsatsen direkt. Smarminess i detta fall måste vägas mot verkligheten.

Vad händer om andra elever gör samma sak

Jag skulle slå vad om att du hade denna smarta tanke i åtanke när du läste den föregående analysen om uppsatser och generativa AI-appar, nämligen att studenten utan tvekan kommer att fastna om många andra studenter gör detsamma.

Låt mig förklara.

En lärare ger hela klassen i uppdrag att skriva en uppsats om Lincoln. Anta att 90 % av eleverna bestämmer sig för att använda en generativ AI-app för denna uppgift. Om 90 % verkar överdrivet deprimerande, fortsätt och använd 10 % istället. Tänk bara på att när eleverna får nys om nyttan av generativa AI-appar kommer frestelsen att använda dem att bli svamp.

Okej, så en anmärkningsvärd andel av klassen använder en generativ AI-app. Du skulle anta att därför alla studenter kommer att lämna in ungefär samma Lincoln-uppsats. Läraren kommer att märka när de betygsätter den tredje eller fjärde uppsatsen att alla uppsatser är ungefär likadana. Detta kommer att vara en stor ledtråd om att något är fel.

Förlåt, men det är osannolikt att du har sån tur.

De flesta generativa AI-appar är mycket känsliga för hur en prompt är särskilt sammansatt. Om jag skriver "Berätta för mig om Lincoln" kontra om jag skriver "Berätta om Lincolns liv" är oddsen att uppsatserna kommer att vara väsentligt annorlunda. I första hand kanske uppsatsen som producerats av AI fokuserar på president Lincoln under hans tid i Vita huset och utelämnar allt om hans barndom. Den andra uppmaningen kan producera en uppsats som täcker hans födelse till hans död.

Eleverna kommer förmodligen inte att skriva in exakt vad läraren gav dem som uppmaning till uppsatsen. Det verkar klokt att som fuskare prova varianter. Men även om alla elever anger exakt samma prompt, är oddsen ganska goda att varje uppsats kommer att skilja sig något från de andra.

Dessa AI-appar använder sig av ett enormt internt skapat matematiskt och beräkningsnätverk som i princip har ett brett mönster som matchas på text som finns på Internet. Inkluderat i processen att skapa en uppsats är en probabilistisk faktor. Det är osannolikt att de valda orden är i samma ordning och exakt samma ordalydelse. Varje uppsats som genereras kommer i allmänhet att vara annorlunda.

Det finns dock en hake med detta. Om det valda ämnet är ganska oklart finns det en chans att några av de uppsatser som produceras kommer att likna varandra. Det skulle delvis bero på att mönstret i roten av texten var tunt till att börja med. Med det sagt kan sättet på vilket uppsatsen är sammansatt fortfarande vara ganska annorlunda. Allt jag säger är att essensen av innehållet i sig potentiellt kan vara ungefär detsamma.

Vill inte verka dyster, men du kan potentiellt göra samma påstående om ett vanligt ämne som Lincolns liv. Hur många olika sätt kan du utveckla de övergripande aspekterna av hans liv? Om du på något sätt säkrade elever i ett låst klassrum för att skriva om Lincoln och gav dem tillgång till internet för att forska i hans liv, vågar jag påstå att chansen att uppsatserna blir något lika kan hända ändå.

Den fria och lätta faktorn är betydande

Om en student nuförtiden vill fuska genom att betala någon över Internet för att skriva sin uppsats, är det väldigt enkelt att göra det (jag hoppas att det inte chockerar dig, jag kanske borde ha gett en utlösande varning i förväg).

Problemet är dock att du måste betala för uppsatsen. Det finns också en liten chans att du senare kan åka fast, kanske. Använde du ett kreditkort för att betala för uppsatsen? Kanske bättre att använda någon form av underjordisk betalningshantering för att försöka hålla dina spår fria.

Skönheten eller kanske den irriterande faktorn med generativ AI är att just nu de flesta av dem är tillgängliga gratis. Ingen betalning krävs. Ingen speciell meritlista för din användning (tja, för att vara tydlig kan AI-appen hålla koll på din användning, särskilt eftersom många av AI-apparna kräver att du registrerar dig med en e-postadress, men naturligtvis kan du fejka det också ).

Vissa människor antar naturligtvis att du måste vara en AI-guide för att använda en generativ AI-app.

Inte så.

Generativa AI-appar är i stort sett förvånansvärt enkla att använda. Du anropar AI-appen. Den ger dig en öppen textruta där du kan ange din uppmaning. Du anger en prompt och trycker på skicka. AI-appen genererar texten.

Det handlar om det.

Inga speciella datorspråk behövs. Ingen kunskap om databaser eller datavetenskap. Jag försäkrar er att nästan alla barn i skolan lätt kan använda en generativ AI-app. Om ett barn kan skriva kan de använda dessa appar.

Vissa hävdar att företagen som tillhandahåller de generativa AI-apparna först borde verifiera användarens ålder, förmodligen för att förhindra att icke-vuxna använder AI:n i fusksyfte när de skriver uppsatser. Om användaren anger att de inte är vuxen, låt dem inte använda AI-appen. Uppriktigt sagt är det ett osannolikt förebyggande scenario, om inte på något sätt AI-relaterade lagar har antagits som försöker fastställa den här typen av begränsningar. Även om sådana lagar antas kan du troligen komma runt detta genom att använda en generativ AI-app som är värd i ett annat land, etc.

En annan oöverkomlig vinkel skulle vara om de generativa AI-apparna kostar pengar att använda. Anta att det fanns en avgift per transaktion eller en abonnemangsavgift. Detta skulle sätta den generativa AI-appen i paritet med de människor på internet som kommer att skriva en uppsats åt dig som debiterar dig för att göra det. Labour skulle gå head-to-head med AI (som ett åsido, allt detta tyder på att människor som för en levande skriver uppsatser för studenter kommer att ersättas av AI som gör detsamma; frågan är om vi ska vara ledsna eller nöjda att de människor som försörjer sig inte längre kommer att kunna göra det på det sättet).

De företag som tillverkar generativa AI-appar vill verkligen tjäna pengar på dessa appar, men hur man gör det är fortfarande i luften. Att ta ut en transaktionsavgift, prenumerationsavgift eller kanske debitering per genererat ord ligger alla på bordet. Istället för att debitera folk kan intäktsgenerering ske genom användning av annonser. Kanske varje gång du använder en speciell generativ AI-app måste du först se en annons. Det kan vara en pengar maker.

Jag hatar att spilla mjölk på det här men som ett sätt att övervinna studentfusk kommer det inte att bli någon form av silverkula. Inte ens i närheten.

Det finns öppen källkodsversioner av generativ AI. Folk lägger ut dem och andra är benägna att göra appen tillgänglig gratis. På ett eller annat sätt, även om vissa företag tar ut en avgift, kommer du att kunna hitta varianter som är gratis att använda, även om du kan behöva se annonser eller kanske registrera dig och ge bort lite information om dig själv i marknadsföringssyfte.

Hjälper Multi-Step detta

En student väljer att använda en generativ AI-app för att producera sin uppsats.

Istället för att genast lämna in uppsatsen bestämmer sig studenten för att redigera uppsatsen. De tar medvetet ut några ord här. Sätt in några ord där. Flytta en mening uppåt. Flytta en mening längre ner. Efter lite redigering och finslipning har de nu en uppsats som de är redo att lämna in.

Är den här uppsatsen studentens verk eller är det inte?

Jag har tagit dig till den stora obesvarade olösta frågan för miljoner dollar.

Låt oss göra lite bakgrundsinformation om juridiska rättigheter och intrång. Detta är ett ämne som jag har tagit upp ganska mycket, som t.ex länken här och länken här, till exempel.

Du vet förmodligen redan något om upphovsrätt och vad som kallas immateriella rättigheter (IP). Någon som har en upphovsrättsskyddad berättelse antas behålla olika juridiska rättigheter förknippade med den berättelsen. De har inte en helt järnklädd allomfattande sken av juridiska rättigheter. Det finns undantag och undantag.

En av de svåraste frågorna med att göra intrång i någons upphovsrättsskyddade material är närheten till vad du kan ha i jämförelse med originalkällan. Du kanske har läst eller sett nyhetsartiklar om kända sångare och deras texter, där någon annan skrev en låt med till synes liknande texter och om detta var juridiskt korrekt eller inte.

Jag hade tidigare nämnt att den generativa AI-appen vanligtvis inte producerar en uppsats som är en kopia av annat material som den tidigare tränats på genom att undersöka innehåll på Internet. Chansen är stor att materialet är generaliserat och allt sammanflätats så att det inte längre liknar vad källinnehållet än bestod av.

Vi får vänta och se hur den rättsliga processen hanterar detta. Om en generativ AI-app producerar ett konstverk som är visuellt uppenbart besläktat med något inhämtat konstverk, skulle vi förmodligen luta oss mot att anklaga AI:n och skaparna av AI:n för att ha brutit mot upphovsrätten förknippad med originalverket. Vi kan se det med våra egna ögon.

När det kommer till uppsatser kan detta vara knepigare. De uppenbara fallen är när hela meningar och stycken är ord-för-ord identiska. Det kan vi alla se. Men när formuleringen skiljer sig åt med en viss skillnad hamnar vi i gråzoner.

Hur långt ifrån det ursprungliga materialet måste det nytillverkade materialet vara för att deklarera att det är ett bona fide original på sina egna meriter?

Det är en tung fråga.

Låt oss knyta detta till studenten som använder den generativa AI-appen för sin uppsats.

Låtsas för ögonblicket att en viss uppsats som genereras av AI-appen kommer att tolkas som en "original" uppsats. Jag säger anta att det inte på något uppenbart sätt bryter mot någon annan redan existerande essä eller textberättelse någonstans på jorden.

Eleven börjar sedan med en originalkälla till materialet. Som redan nämnts redigerar och förfinar studenten detta material. Saker och ting når en punkt där originalet som producerats av AI-appen nu skiljer sig från den förfinade versionen som studenten har tänkt ut.

Är detta fusk?

Kanske, kanske inte.

Det kan man hävda att det är. Eleven började med att AI skrev sin uppsats åt dem. Allt som studenten har gjort är att mekaniskt leka med uppsatsen. Vi förväntar oss att studenten ska skriva uppsatsen ur luften och använda sin egen noggrannhet för att göra det. Det är helt klart fusk att använda AI-appen för att generera sin baslinje. Ge eleven betyget "F".

Inte så fort. Du kan hävda att det inte är fusk. Eleven har gjort om källmaterialet. Om en jämförelse mellan den AI-appproducerade uppsatsen och den studentraffinerade versionen är tillräckligt stor skillnad skulle vi säga att studenten skrev uppsatsen. Visserligen använde de annat material för att göra det, men kan man inte säga detsamma om de använt ett uppslagsverk eller någon annan källa? Den här studenten förtjänar betyget "A" för att ha skrivit en uppsats på egen hand (trots att han hänvisat till annat material för att göra det).

Lärare kommer att fångas mitt i denna redan plågsamma fråga.

Ett tillvägagångssätt är att en lärare kategoriskt kan säga att eleverna måste lista allt refererat material, inklusive om en generativ AI-app användes eller inte. Om en elev misslyckas med att direkt lista den generativa AI som referens, och om läraren får reda på att de misslyckades med att lista den, får eleven summariskt betyget "F" på uppgiften. Eller så kanske vissa skolor anser att detta är ett fusk som gör att eleven får en automatisk flunk. Eller kanske utvisad. Vi får se hur långt skolorna går i dessa frågor.

Generellt sett är vi på väg mot en häftig värld av immateriella rättigheter och lagligt ägande av verk som essäer (text), konst (bilder) och video, inklusive:

• Vissa kommer att söka rättslig upprättelse från generativa AI-tillverkare angående källorna till innehåll som användes av AI för att generera den producerade produktionen.
• Vissa kommer att ta resultatet av generativ AI och betrakta resultatet som deras egna verk, och sedan försöka söka rättslig upprättelse från alla som bryter mot deras "original" arbete.
• Detta kan cykla runt, så att någon producerar utdata från generativ AI, som läggs ut på Internet, och sedan kommer någon annan generativ AI och använder detta i sin träning för att producera liknande verk.

Att vända ett negativt till ett positivt

Allt det här snacket om det dåliga med generativ AI när det kommer till studentfusk kanske grumlar våra sinnen, uppmanar vissa.

Ta det här i en annan riktning.

Sitter du ner?

Kanske borde lärare överväga att medvetet låta eleverna använda generativ AI som en del av inlärningsprocessen om hur man skriver uppsatser.

Jag har tidigare skrivit om den sk dubbla användningsområden av AI, se länken här. Tanken är att ibland kan ett AI-system användas för dåligt och ibland kan det växlas runt och användas för gott. Den oroande aspekten är när någon skriver AI för gott och är lyckligt omedveten om hur lätt deras AI kan förvandlas till ondskans spöke. Del av Etisk AI är insikten om att AI borde utformas så att det inte över en natt kan förvandlas till en förbannelse. Detta är ett pågående problem.

Tillbaka till den generativa AI för att producera uppsatser.

Jag tog tidigare upp konceptet att en elev skulle kunna lära sig skrivande genom att titta på skrivna verk som redan finns. Detta är mycket meningsfullt. I grund och botten, ju mer du läser, är chansen att du utökar din mentala sken mot att kunna skriva. Som nämnts tidigare behöver du fortfarande skriva, eftersom all läsning i världen inte nödvändigtvis kommer att få dig att bli en bra författare om du inte tränar på att skriva.

Vi skulle kunna använda generativ AI för att främja denna läs-och-skrivkoppling. Låt en elev avsiktligt använda generativ AI. AI producerar en uppsats. Studenten får i uppdrag att kritisera den AI-producerade uppsatsen. Därefter får studenten i uppdrag att skriva en ny uppsats, kanske om ett annat ämne, men kan använda strukturen och andra allmänna element i den tidigare AI-genererade uppsatsen.

Detta kan vara ännu mer produktivt, menar vissa, för eleverna än att bara läsa böcker eller andra texter av författare som eleven inte har tillgång till att "interagera" med. Med AI-appen kunde studenten prova att köra om och producera den första uppsatsen genom att använda en mängd uppmaningar, en efter en. Eleven kan säga åt AI:n att skriva en barebones-uppsats om Lincoln. Därefter ber studenten om en lång uppsats om Lincoln som är skriven med en informell röst. Efter att ha tittat på det, indikerar studenten för AI-appen att producera en mycket formaliserad version av Lincoln-uppsatsen. Etc.

Påståendet som gjorts är att detta materiellt skulle kunna hjälpa en student att lära sig om att skriva och hur skrivande kan ske.

En färsk forskningsartikel föreslår just denna punkt: "Författarna till denna artikel tror att AI kan användas för att övervinna tre hinder för lärande i klassrummet: förbättra överföringen, bryta illusionen av förklaringsdjup och träna eleverna att kritiskt utvärdera förklaringar" ( i en artikel med titeln "New Modes of Learning Enabled by AI Chatbots: Three Methods and Assignments", Dr. Ethan Mollick och Dr. Lilach Mollick, Wharton School vid University of Pennsylvania & Wharton Interactive, 12 december 2022)

Till exempel påpekar de att förbättring av lärandeöverföring kan ske på detta sätt: "AI är ett billigt sätt att ge eleverna många exempel, av vilka några kan vara felaktiga eller behöver ytterligare förklaring, eller helt enkelt vara påhittade. För elever med grundläggande kunskaper om ett ämne kan du använda AI för att hjälpa dem att testa sin förståelse och uttryckligen driva dem att namnge och förklara felaktigheter, luckor och saknade aspekter av ett ämne. AI:n kan ge en oändlig serie exempel på begrepp och tillämpningar av dessa begrepp och du kan pusha eleverna att: jämföra exempel i olika sammanhang, förklara kärnan i ett begrepp och påpeka inkonsekvenser och saknad information i hur AI:n tillämpar begrepp till nya situationer” (ibid).

Det är besläktat med den gamla refrängen, om du inte kan slå dem, gå med dem.

Förvandla den generativa AI till ett pedagogiskt verktyg.

Oj, kommer det snabba svaret.

Du sätter räven i hönshuset. Elever som inte hade någon aning om vad generativ AI är kommer nu att visas det, öppet, av en lärares och deras skolors uppenbara handlingar. Om eleverna hade ingen aning om möjligheterna med fusk, lägger du det direkt i deras ansikten och händer.

Det verkar helt motbjudande att myndighetspersoner skulle introducera eleverna till ett sätt att fuska. Du kommer därför för alltid att sätta de ärligaste eleverna i sfären av fuskfrestelser. Alla kommer att ha tillgång till fuskmaskinen. De blir tillsagda att göra det. Inget behov av att dölja det. Du behöver inte låtsas att du inte använder generativ AI. Skolan och läraren fick dig att använda den.

Svaret till detta är att du måste blint och okunnigt ha huvudet i sanden för att tro att eleverna inte kommer att bli bekanta med generativ AI. Medan du dåraktigt låtsas att de inte vet om det, springer de utanför skolan för att använda det. Ditt bättre val är att introducera saken för dem, diskutera vad den kan och inte kan användas till, och ge ett starkt, skinande ljus till hela gåtan.

Det är ganska dumt.

För de av er som forskar om pedagogiska innovationer av teknologi, kanske du vill ta en titt på generativ AI och hur det kan förändra karaktären hos pedagogiska tillvägagångssätt och påverka elevernas lärande. Det kommer snart nog.

Använder upptäckt för att rädda oss från ruin

Byt hattar och låt oss överväga digitala konstverk ett ögonblick.

Om du skapar ett digitalt konstverk kanske du vill markera det på något sätt så att du senare kan se om någon har valt att använda eller återanvända ditt konstnärskap. Ett enkelt sätt att göra detta består av att ändra några av pixlarna eller prickarna i ditt digitala konstverk. Om du gör några här eller där kommer konstverkets utseende fortfarande att vara detsamma för människors ögon. De kommer inte att märka de pixlar som är små och har ställts in på någon speciell färg som bara kan ses vid noggrann inspektion via digitala verktyg.

Du kanske känner till dessa tekniker som en form av vattenmärkning. Precis som förr i tiden gjordes försök att vattenmärka pappersbaserat material och annat icke-digitaliserat innehåll, har vi gradvis sett uppkomsten av digitala vattenstämplar.

En digital vattenstämpel kan vara gömd i bilden av ett digitalt konstverk. Om det kan verka påträngande för bilden kan du försöka bädda in vattenstämpeln i filen som innehåller det digitala konstverket (det digitala verkets så kallade "metadata").

Det finns ett katt-och-råtta-spel som kan uppstå.

Någon illgärare kommer och de upptäcker din digitala vattenstämpel. De tar bort det. Nu kan de till synes fritt använda ditt digitala konstverk utan att oroa dig för att du senare kommer att kunna peta in i det och visa att det helt klart är en rip-off av dina ansträngningar. De där skurkarna!

Vi måste höja den digitala vattenstämpeln, vilket vi kan göra med hjälp av kryptografiska tekniker och teknologier. Tänk på utsöndrade meddelanden och kodning.

Tanken är att vi kodar den digitala vattenstämpeln så att den är svår att hitta. Det är också potentiellt svårt att ta bort. Vi kan till och med försöka se till att programvara som visar eller tillåter användning av det digitala konstverket först måste kontrollera och se att det finns en giltig kodad digital vattenstämpel i verket, annars anses det vara en felaktig kopia. Tog dig på bar gärning.

Kan vi göra samma sak för generativ AI som producerar text?

En handske har lagts ner. Problemet kan dock vara tuffare till viss del än när man överväger digitala vattenstämplar för konstverk.

Här är varför.

Antag att den enda plats där du kan placera vattenstämpeln är direkt i själva texten. Jag säger detta eftersom texten som genereras inte nödvändigtvis går in i en fil. Texten är bara text. Du kan klippa ut och klistra in det från det generativa AI-verktyget. I denna mening finns det vanligtvis ingen metadata eller fil som vattenstämpeln kan bäddas in i.

Du måste fokusera enbart på texten. Ren text.

En väg skulle vara att smygt låta den generativa AI producera texten på ett sätt som kan spåras. Som ett grovt men opraktiskt exempel, föreställ dig att vi bestämde oss för att börja var tredje mening med ordet "Och" i början av meningen. Vi skulle fortfarande skapa en till synes helt flytande uppsats. Det enda knepet är att var tredje mening börjar med vårt valda magiska ord. Ingen annan vet vad vi håller på med.

En elev använder generativ AI för att producera den tilldelade uppsatsen om Lincoln. Eleven tar den direkt från AI-appen och mailar den till läraren. Det visar sig att studenten väntade till sista stund och stod emot den publicerade deadline. Ingen tid att granska uppsatsen. Skicka det bara och hoppas på det bästa.

Läraren tittar på uppsatsen. Anta att vi har berättat för henne att vår vattenstämpel består av det magiska ord som används i början av var tredje mening. Läraren upptäcker att så är fallet i denna inlämnade uppsats. Även om det kanske är en oerhört liten chans att studenten skrev uppsatsen och kanske gillar att använda just detta ord i början av var tredje mening, tror jag att vi rimligen kan hålla med om att detta är mycket osannolikt och istället använde studenten förmodligen den generativa AI:n att producera uppsatsen.

Ser du hur det fungerar?

Jag litar på att du gör det.

Problemet nu är hur man kommer fram till ett vattenstämpel som inte är fullt så uppenbart. En elev kanske märker att meningarna märkligt verkar använda ett visst ord. De kanske gissar vad som händer. I sin tur kan eleven flytta runt meningar och göra omformuleringar. Detta sänker i stort sett detta vattenmärke eftersom uppsatsen inte längre lätt kan ses som skriven av den generativa AI.

Katt-och-råtta-spelet pressar sig återigen fram.

Vi måste producera flytande text som på något sätt innehåller en "vattenstämpel" på ett sätt som inte lätt kan urskiljas. Vidare, om möjligt, bör vattenstämpeln fortsätta att finnas kvar även om uppsatsen är något reviderad. En helsvinsrevision kommer förmodligen inte att tillåta vattenstämpeln att överleva. Men vi vill ha viss redundans och elasticitet så att vattenstämpeln helst kommer att kunna upptäckas även om en del ändringar i textområdet görs.

En forskare som gör en del arbete för företaget som tillverkar ChatGPT (AI-appen från OpenAI) undersöker några intressanta kryptografiska insatser längs dessa vattenmärkningsöverväganden. Scott Aaronson är professor i datavetenskap vid University of Texas i Austin och han höll nyligen ett föredrag om en del av arbetet som pågår (en utskrift finns på hans blogg).

Betrakta detta utdrag där han kortfattat förklarar det befintliga tillvägagångssättet: "Hur fungerar det? För GPT är varje inmatning och utdata en sträng av tokens, som kan vara ord men också skiljetecken, delar av ord eller mer – det finns cirka 100,000 XNUMX tokens totalt. I sin kärna genererar GPT ständigt en sannolikhetsfördelning över nästa token att generera, beroende på strängen av tidigare tokens. Efter att det neurala nätet genererat distributionen, samplar OpenAI-servern faktiskt en token enligt den distributionen – eller någon modifierad version av distributionen, beroende på en parameter som kallas 'temperatur'. Så länge temperaturen inte är noll, dock, kommer det vanligtvis att finnas en viss slumpmässighet i valet av nästa token: du kan köra om och om igen med samma prompt och få en annan komplettering (dvs. en sträng av output-tokens) varje gång .”

Som nämnts finns det en viss mängd slumpmässighet om vilka ord som kommer att placeras bredvid i uppsatsen som härleds av ChatGPT-appen. Det förklarar också den tidigare poängen att varje uppsats sannolikt kommer att vara något annorlunda även om det handlar om samma ämne. En målmedveten användning av ett slumpmässigt urvalssätt som ligger inom särskilda gränser pågår under huven under uppsatsgenereringen.

Vi kommer nu till den saftiga delen, den kryptografiska sammanblandningen: "Så för att vattenmärka, istället för att välja nästa token slumpmässigt, kommer tanken att vara att välja den pseudoslumpmässigt, med hjälp av en kryptografisk pseudoslumpmässig funktion, vars nyckel endast är känd för OpenAI . Det kommer inte att göra någon detekterbar skillnad för slutanvändaren, förutsatt att slutanvändaren inte kan skilja pseudoslumptalen från verkligt slumpmässiga. Men nu kan du välja en pseudoslumpfunktion som i hemlighet påverkar en viss poäng – en summa över en viss funktion g utvärderad vid varje n-gram (sekvens av n på varandra följande tokens), för ett litet n – vilket poäng du också kan beräkna om du vet nyckeln till denna pseudoslumpmässiga funktion.”

Jag inser att det kan tyckas något tekniskt fullspäckat.

Kärnan är att den producerade uppsatsen kommer att verka flytande och du kommer inte att lätt kunna urskilja genom att läsa uppsatsen att den innehåller en digital vattenstämpel. För att ta reda på om en given uppsats innehåller en vattenstämpel, skulle du behöva mata in uppsatsen i en speciellt framtagen detektor. Programmet som gör detekteringen skulle beräkna ett värde baserat på texten och kunna jämföra det med en lagrad nyckel. I det tillvägagångssätt som beskrivs skulle nycklarna innehas av säljaren och inte på annat sätt vara tillgängliga, sålunda, förutsatt att nycklarna hålls hemliga, kan endast det smorda detektionsprogrammet beräkna om uppsatsen sannolikt härrörde från ChatGPT i detta fall.

Han fortsätter med att erkänna att detta inte är idiotsäkert: "Nu kan allt detta besegras med tillräcklig ansträngning. Till exempel, om du använde en annan AI för att parafrasera GPT:s utdata – okej, vi kommer inte att kunna upptäcka det. Å andra sidan, om du bara infogar eller tar bort några ord här och där, eller ändrar ordningen på några meningar, kommer vattenmärkningssignalen fortfarande att finnas där. Eftersom det bara beror på en summa över n-gram, är det robust mot den typen av ingrepp."

En lärare kan få tillgång till ett detektorprogram som kontrollerar elevuppsatser. Anta att saken är relativt lätt genom att läraren låter eleverna e-posta sina uppsatser till läraren och den automatiska detektorn. Detektorappen informerar sedan läraren om sannolikheten för att uppsatsen skapas av ChatGPT i det här fallet.

Nu, om detektorn är öppet tillgänglig för vem som helst, skulle du ha "överpresterande" studentfuskare som helt enkelt skulle köra sina uppsatser i detektorn och göra en rad ändringar tills detektorn indikerade en låg sannolikhet att uppsatsen härleddes av generativen. AI. Mer av katt och råtta. Förmodligen måste detektorn hållas tätt skyddad av lösenordsanvändning, eller så behövs något annat sätt eller metoder för att hantera kryptografiska metoder (det finns en mängd både nyckelbaserade och nyckellösa fokuserade metoder som kan användas).

En lärare kan ställas inför möjligheten att dussintals eller hundratals generativa AI-appar är tillgängliga för användning på Internet. I så fall, att försöka få alla dessa att använda lite digital vattenstämpel och att behöva mata in en uppsats i dem alla, ja, det blir bara mer lockande och logistiskt komplicerat.

Inga fler uppsatser utanför klassrummet

Ett undergångsperspektiv är att kanske lärare måste överge användningen av extern uppsatsskrivning. Alla uppsatser får endast skrivas inom den kontrollerade miljön i ett klassrum.

Detta har massor av problem.

Anta att en student normalt skulle behöva tio timmar för att skriva en viss fullvärdig uppsats som är ett klassprojekt. Hur skulle detta göras i ett klassrum? Ska du paketera det och låta studenten skriva en liten del av uppsatsen under en serie dagar? Tänk på vilka svårigheter detta ger.

Vissa hävdar att saken kanske är överdriven.

Lärare bör göra som de alltid har gjort när det gäller plagiat från elever. På förhand förklarar läraren att plagiat är ett allvarligt fuskproblem. Betona att användningen av generativ AI, på vilket sätt som helst, kommer att betraktas som ett fusk.

Gör påföljder som väger mycket, till exempel ett lågt betyg, en misslyckad klass eller utvisning från en skola om det kommer så långt. Kräv att eleverna skriftligen intygar för varje extern uppsatsuppgift att det de har lämnat in är deras arbete (som gjorts utan hjälpmedel som generativ AI, kopiering från internet, använda medstudenter, använda en förälder, betala för att få det gjort och så vidare). Kräv också att eleverna listar alla onlineverktyg som används vid förberedelserna av arbetet, inklusive att särskilt behöva notera all generativ AI-användning.

Läraren kanske eller kanske inte använder en detektorapp för att försöka urskilja om den inlämnade uppsatsen sannolikt kommer från en generativ AI-app. Detta är ett potentiellt betungande steg, beroende på hur lätta detektorerna är att använda och komma åt.

Lärare borde förmodligen redan vidta åtgärder för att avgöra om skrivna uppsatser utifrån verkar legitima. Genom att skriva uppsatser i klassen finns det en chans att jämföra och kontrastera, men inser att tiden för att skriva i ett klassrum är mindre och kan också hämmas av begränsningen att inte tillåta tillgång till referensmaterial online.

Kontentan är att vi inte borde ta vägen att abrupt kasta bort användningen av extern uppsatsskrivning. En del skulle beklaga detta som en förhastad handling och en som verkar påminna om att kasta ut barnet med badvattnet (ett gammalt talesätt, kanske värt att gå i pension).

Om att skriva utanför helt avbryts som en inlärningsaktivitet, finns det sannolikt allvarliga och långvariga nackdelar med att ta bort denna till synes vardagliga pedagogiska aktivitet från läroplanen. Det finns en avvägning inblandad. Hur många studenter kommer att fuska, trots alla ovan nämnda kontroller och balanser? Hur många studenter kommer inte att fuska och kommer därför att fortsätta att använda ett fördelaktigt pedagogiskt tillvägagångssätt för att förbättra sin skrivförmåga?

I teorin, förhoppningsvis, kommer andelen fuskare att vara tillräckligt liten så att skrivning utifrån fortfarande är meriterande för övervägande del av studenter.

Slutsats

AI kan vara en stor huvudvärk.

För lärare kan AI vara både en välsignelse och en förbannelse. Oavsett vilket betyder det att lärare behöver veta om AI, tillsammans med hur man hanterar AI-vändningar i samband med deras undervisningsaktiviteter, vilket är ytterligare en extra vikt på deras redan översträckta ryggar och axlar. Shoutout till lärare överallt.

Kanske kan vi önska att AI försvinner.

Nix.

Du förstår, vi kommer inte att vrida tillbaka klockan och ta bort generativ AI. Den som efterlyser detta är en drömmare. Och för övrigt använder jag ordet "Och" som det första ordet i den tredje meningen i detta stycke (oops, ger bort nyckeln!), generativ AI är här för att stanna.

Här är en prompt för att få igång dina heta diskussioner: Generativ AI kommer att bli mer genomgripande och ha ännu mer häpnadsväckande och irriterande kapacitet.

Mick släpp.

Sista tanken för nu.

Shakespeare skrev att "Att vara eller inte vara: det är frågan."

Jag försäkrar dig att generativ AI kommer att bli det. Det är det redan.

Vi måste ta reda på hur vi vill att generativ AI ska komma in i våra liv, och hur samhället kommer att välja att forma och styra sådan användning. Om du någonsin behövt en anledning att tänka på AI-etik och AI-lag, kanske generativ AI kommer att få dig att försöka veta vad vi är, även om vi inte vet vad vi kan vara (dold Shakespeare-referens).