Den sociala medieplattformen Snapchat har fått en varning från Storbritanniens datavakthund om sin nya artificiell intelligens (AI) chatbot känd som "My AI", enligt en uppdatering som publicerats av regulatorn.
Den 6 oktober utfärdade UK Information Commissioner's Office (ICO) ett preliminärt meddelande till Snap Inc. och Snap Group, Snapchats moderbolag, för det potentiella misslyckandet med att "på rätt sätt bedöma integritetsriskerna" som chatboten utgör.
Vi har utfärdat ett preliminärt tillkännagivande till Snap, Inc och Snap Group Limited om ett potentiellt misslyckande med att korrekt bedöma integritetsriskerna som utgörs av dess generativa AI-chatbot "My AI".
Läs mer om fallet: https://t.co/MAuHAH0h8B pic.twitter.com/BawISttPJN
— ICO – Information Commissioner's Office (@ICOnews) Oktober 6, 2023
Meddelandet är baserat på en provisorisk undersökning av företaget utförd av vakthunden, som sa att riskerna för flera miljoner My AI-användare, inklusive barn i åldrarna 13–17, inte var tillräckligt identifierade före lanseringen.
John Edwards, Storbritanniens informationskommissionär, kommenterade meddelandet och sa:
"Vi har varit tydliga med att organisationer måste överväga riskerna med AI, vid sidan av fördelarna. Dagens preliminära verkställighetsmeddelande visar att vi kommer att vidta åtgärder för att skydda brittiska konsumenters integritetsrättigheter."
Enligt meddelandet, om ett slutgiltigt verkställighetsmeddelande utfärdas, kan Snap tvingas stoppa databehandlingen i relation till My AI, vilket skulle hindra företaget från att erbjuda tjänsten till brittiska användare utan en "tillräcklig" riskbedömning.
För närvarande sa ICO att en slutsats inte borde göras från det aktuella utredningsskedet.
Relaterat: Friend.tech erbjuder lösningar för borttagning av inloggning efter SIM-bytesrapporter
Snapchats AI-chatbot rullades ut till användare av Snapchat+ i Storbritannien i februari 2023, med bredare tillgänglighet från april 2023.
Min AI drivs av OpenAI:s GPT-4-teknik och var enligt datawatchdog det "första exemplet på generativ AI inbäddad i en stor meddelandeplattform i Storbritannien."
En talesperson från Snap kontaktade Cointelegraph och sa att företaget "nära granskar" ICO:s provisoriska meddelande och sa att företaget är "åtagit sig att skydda användarnas integritet."
"Min AI gick igenom en robust juridisk process och integritetsgranskningsprocess innan den gjordes allmänt tillgänglig," sa talespersonen.
"Vi kommer att fortsätta att arbeta konstruktivt med ICO för att säkerställa att de är bekväma med våra riskbedömningsprocedurer."
Under hela året har stora sociala medieplattformar integrerat AI-funktioner i sin verksamhet. Den 4 oktober tillkännagav den Microsoft-ägda affärsfokuserade sociala medieplattformen LinkedIn ytterligare AI-verktyg tillgängliga för rekryterare, samt en AI-assistent i sitt lärcentrum.
Big Tech-jättarna Meta – moderbolaget till Facebook och Instagram – och Google har också avslöjat AI-chatbotintegrationer i sina tjänsteerbjudanden.
Magazine: "AI har dödat branschen": EasyTranslate chef för att anpassa sig till förändringar
Källa: https://cointelegraph.com/news/snapchat-warning-ai-chatbot-risks-uk-watchdog