SynthID - der KI-Finder

Die Diskussion ob ein Mensch oder eine Software es erkennen kann, ob ein Text, ein Bild, ein Lied, eine Stimme oder ein Video von einer KI oder von einem Menschen gemacht wurden ist allgegenwärtig und (zumindest für mich) auch etwas mühselig. Mir ist es nämlich relativ wurscht, ob KI oder nicht, Hauptsache ich werde nicht manipuliert oder das Ganze schadet mir. Zudem weis ich, wieviele Bilder in Instagram & Co mit Filtern belegt sind, wie leicht man die eigenen Falten schon bei der Smartphone-Aufnahme aus dem Gesicht entfernen kann und wie lange schon Horden von Photoshoppern, die nahen Eisenbahnschienen aus der letzten Drohnenaufnahme wegretuschiert haben.

Selbst Google gibt offiziell bekannt, dass KI-generierte Inhalte nicht stören, solange sie nützlich, einzigartig und hochwertig sind. Siehe dazu den KI-Leitfaden in der Search Central.

Warum bringt Google dennoch jetzt mit SynthID einen KI-Dedektor auf den Markt, der synthetischen Content automatisch erkennen soll? Die Antwort ist einfach, denn täglich taucht mehr und mehr generative KI in unserem Alltag auf. Sei es Form von Übersetzungen, Berechnungen, kreativen Texten, Präsentationen uvm. Das der sympathische Teil, doch das Risiko für Missbrauch steigt:

Die KI-Stimmen wirken immer realer, die Bilder sind von echten Bilder kaum mehr zu unterscheiden. Google hat mit VEO3/FLOW ein Video-Tool vorgestellt, dass sowohl das das Video gleich auch noch mit Stimmen Geräuschen und Musik hinterlegt!

Fake News, Deepfakes oder manipulierte Texte an allen Ecken und Enden und jedwedes Vertrauen in digitale Inhalte schwindet. Denkt an die diversen Datingportale, an Pornographie, an Phishing-eMails, Scraping Apps, Fake Shops, sie werden besser und besser.

Was will Google jetzt mit SynthID erreichen?

• Mehr Transparenz: Man soll erkennen können, ob ein Inhalt von einer KI stammt.

• Mehr Verantwortung: Unternehmen, Medien und Entwickler sollen klar zeigen können, wo KI im Spiel ist.

• Mehr Sicherheit: Manipulation, Propaganda oder Desinformation soll frühzeitig erkannt werden.

Als Nutzer sollen wir ein Recht darauf haben, zu wissen, woher Informationen kommen und der EU AI Act gibt das auch so vor! Und SynthID soll laut Google dafür in Zukunft ein möglicher Standard sein. SynthID bettet dafür digitale Wasserzeichen direkt in KI-generierte Bilder, Audio, Text oder Video ein. Die Wasserzeichen sind in Googles generativen KI-Produkten für Endverbraucher integriert und für Menschen nicht wahrnehmbar – können aber von der SynthID-Technologie erkannt werden.

Alles nice - und vermutlich wird es so sein, dass Google von SynthID "geprüfte" Inhalte bevorzugt! Aber was ist, wenn das Gegenüber bei diesem Standard schlicht und einfach nicht mitmacht? Was ist, wenn Google an Wichtigkeit und Sichtbarkeit verliert und User Systeme wie ChatGPT und Co statt GEMINI verwenden? Google hat denke ich noch nicht kapiert, dass sie nicht mehr die 1.Geige spielen! Und nur der 1.Geiger gibt die Regeln vor.

Fragt mal bei IBM nach - die haben auch geglaubt deren Standrad wäre immerwährend!