Google zavádí funkci AI pro ověřování obrázků v aplikaci Gemini
Google dlouhodobě zkoumá různé způsoby, jak lépe porozumět kontextu informací, které uživatelé narazí online. S rostoucí běžností generativních AI médií a jejich zvyšující se kvalitou, Google se snaží poskytnout nástroje, které usnadní uživatelům identifikaci, zda byl obsah vytvořen nebo upraven pomocí AI.
Od dnešního dne Google začíná používat digitální watermarkingovou technologii SynthID, která vkládá signály do obsahu generovaného AI, které lidské oko nedokáže rozpoznat. Tento systém umožňuje každému uživateli aplikace Gemini snadno zjistit, zda byl obrázek vytvořen nebo upraven pomocí Google AI.
Google poprvé představil SynthID v roce 2023. Od té doby bylo na více než 20 miliard generativních AI obsahů aplikováno vodotisk SynthID. Kromě toho Google testoval ověřovací portál ‚SynthID Detector‘ ve spolupráci s novináři a mediálními odborníky.
Jak to funguje
Pokud chcete zjistit, zda byl konkrétní obrázek vyroben Google AI, jednoduše ho nahrajete do aplikace Gemini a položíte otázku, jako například „Vytvořil tento obrázek Google AI?“ nebo „Vytvořila to AI?“. Gemini poté zkontroluje vodotisk SynthID a využije své inferenční schopnosti, aby vám poskytlo odpověď. Tímto způsobem mohou uživatelé lépe porozumět kontextu obsahu, který potkávají online.
Budoucí plány
Tato nová funkce byla spuštěna jako součást snahy Google o poskytování kontextových informací k obrázkům v Google hledání a založena na nových výzkumných inovacích, jako je ‚Backstory‘ od Google DeepMind. Google plánuje i nadále vyvíjet různé způsoby, jak usnadnit uživatelům porozumění původu a historii online obsahu. V blízké budoucnosti plánuje rozšíření verifikace pomocí SynthID i na videa, audio a další formáty a také na více služeb, včetně Google hledání.
Kromě vývoje vlastních nástrojů je Google také členem výboru C2PA (Coalition for Content Provenance and Authenticity), kde spolupracuje s průmyslovými partnery na zajištění větší transparentnosti v celém odvětví. Usiluje o zlepšení technologie pro ověřování původu obsahu v celém ekosystému svých produktů, jako jsou YouTube, Google vyhledávání, Pixel a Google Photos.
V rámci těchto snah od dnešního dne bude mít každý obrázek vytvořený modelem Nano Banana Pro (Gemini 3 Pro Image) v aplikaci Gemini, Vertex AI, Google Ads a Flow zahrnuty metadata C2PA. To posílí transparentnost procesu vytváření obrázků. Google plánuje tuto funkci rozšířit na více produktů a služeb v následujících měsících.
Google rovněž plánuje postupně rozšířit ověřovací systémy tak, aby podporovaly i C2PA Content Credentials, což uživatelům umožní ověřit původ obsahu, i když bude vytvořen modelem nebo produktem mimo ekosystém Google.
Všechny tyto snahy jsou jádrem Google záměru o ‚odvážnou a zodpovědnou AI‘. Google se i nadále zavazuje přispívat k budoucnosti transparentnosti AI.
