Allt eftersom AI-verktyg blir mer sofistikerade för varje dag, arbetar teknikföretag för att se till att allmänheten kan se skillnaden mellan datorgenererat innehåll och mänskligt genererat innehåll. Så, OpenAI har tillkännagett en uppdatering av sin DALL-E bildgenerator som syftar till att ge mer insyn i frågan.
OpenAI inkluderade 3 C2PA-standarder (Coalition for Content Provenance and Authenticity) i DALL-E. Alla bilder som skapas med API:er som betjänar DALL-E 3 eller ChatGPT kommer nu att inkludera C2PA-metadata – de kommer att innehålla en synlig vattenstämpel för att hjälpa till att identifiera innehållet som AI-genererat. Den här förändringen kommer också att rullas ut till alla mobilanvändare senast den 12 februari.
Metadata kommer att innehålla datumet då bilden skapades och C2PA-logotypen i det övre vänstra hörnet. Tanken är att göra det tydligt för användarna vem som skapat bilden – en person eller AI. OpenAI hävdar att vattenmärkning inte kommer att påverka bildkvalitet eller bildskapande hastighet, men kan öka filstorleken med cirka 3-5% via API och 32% när den genereras via ChatGPT.
Det finns dock fortfarande sätt för användare att ta bort information om bildursprung från AI. Enligt OpenAI kan beskärning eller ta skärmdumpar av DALL-E-rådata potentiellt ta bort härkomstdata. Manipulationer med pixlarna i bilden kan också potentiellt ersätta den inbäddade vattenstämpeln.
Så C2PA-metadata är inte ett universalmedel för att lösa härkomstproblem. De kan enkelt raderas antingen av misstag eller med avsikt. Till exempel tar de flesta sociala nätverk nuförtiden bort metadata från uppladdade bilder, och åtgärder som att ta en skärmdump kan också hjälpa till att ta bort detta.
Microsoft tillämpar C2PA-specifikationen på utdata från Bing Image Creator, och säger: "Bilder skapade med artificiell intelligens inkluderar nu en osynlig digital vattenstämpel som överensstämmer med C2PA-specifikationen."
Låt mig påminna dig om att vi nyligen skrev det meta kommer att börja tagga innehåll som laddats upp till Facebook, Instagram och trådar om det genererades av AI. Flytten är en del av ett pågående arbete med att utveckla industristandarder för transparent märkning av AI-genererat innehåll.
Läs också: