Meta planerar att införa nya regler för AI-genererat innehåll på sina plattformar som Facebook, Instagram och trådar, vilket framgår av ett företagsblogginlägg den 6 januari. Dessa åtgärder syftar till att ta itu med den växande oron kring äktheten och transparensen i digitalt innehåll.
Enligt tillkännagivandet kommer allt innehåll som identifieras som AI-genererat, antingen genom metadata eller avsiktlig vattenmärkning, att märkas synligt. Dessutom kommer användarna att ha möjlighet att flagga omärkt innehåll som misstänks vara AI-genererat, vilket gör det möjligt för samhället att bidra till innehållsmodereringsinsatser.
Detta initiativ återspeglar Metas utvecklande strategi för innehållsmoderering, som påminner om dess tidigare praxis före uppkomsten av AI-genererat innehåll. Genom att ge användarna möjlighet att rapportera överträdelser och säkerställa transparens i innehållsmärkning syftar Meta till att upprätthålla integriteten hos sina plattformar.
När vi ser fram emot 2024 utnyttjar Meta sin stora användarbas för att förbättra innehållsmodereringsfunktionerna. Genom att göra det möjligt för användare att flagga AI-genererat innehåll utnyttjar Meta kraften i crowdsourcing för att ta itu med nya utmaningar inom digitalt innehålls äkthet.
Enligt blogginlägget:
“Vi kommer att kräva att människor använder detta informations- och märkningsverktyg när de publicerar organiskt innehåll med en fotorealistisk video eller realistiskt klingande ljud som skapats eller ändrats digitalt, och vi kan tillämpa påföljder om de inte gör det.”
Förbättrad detektering av AI-genererat innehåll
Skapare som använder Metas plattformar kommer att behöva märka sitt innehåll som AI-genererat för att undvika potentiella återverkningar. Medan Meta implementerar vattenmärkning och märkning för innehåll som genereras med hjälp av sina verktyg, erkänner det begränsningar i att upptäcka AI-genererat ljud- och videoinnehåll i stor skala.
För att ta itu med denna fråga samarbetar Meta med branschpartners som Google, OpenAI, Microsoft, Adobe, Midjourney och Shutterstock. Tillsammans försöker de utveckla metoder för att upptäcka osynliga vattenstämplar och förbättra verifieringen av innehållets äkthet.
Meta erkänner dock de nuvarande begränsningarna när det gäller att upptäcka AI-genererat ljud- och videoinnehåll, inklusive deepfake-teknik, i stor skala. Detta understryker de pågående ansträngningar som krävs för att ta itu med det föränderliga landskapet för digitalt innehålls äkthet och integritet.