Microsoft enthüllt, dass KI-generierte Nachrichtensprecher bei Desinformationsbemühungen in Taiwan eingesetzt werden
2 Minute. lesen
Veröffentlicht am
Teile diesen Artikel
Verbessern Sie diesen Leitfaden
Lesen Sie unsere Offenlegungsseite, um herauszufinden, wie Sie MSPoweruser dabei helfen können, das Redaktionsteam zu unterstützen Mehr lesen
Wichtige Hinweise
- Microsoft identifiziert KI-generierte Nachrichtensprecher, die zur Verbreitung von Desinformationen eingesetzt werden, insbesondere bei den Wahlen in Taiwan.
- Chinesische Schauspieler stehen an vorderster Front und erstellen mit diesen KI-Moderatoren Fake-News-Videos.
- Die aktuelle KI-Technologie ist nicht überzeugend, aber die zukünftige Manipulation echten Nachrichtenmaterials gibt Anlass zur Sorge.
Microsoft hat das Aufkommen KI-generierter Nachrichtensprecher aufgedeckt, die zur Verbreitung von Desinformation eingesetzt werden. Die Informationen basieren auf jüngsten Bemühungen, die auf die Wahlen in Taiwan abzielen.
Aus den Informationen geht hervor, dass die staatlich unterstützten Gruppen Chinas die Hauptrolle in diesen Nachrichten spielen. Diese Gruppen sollen Fake-News-Videos erstellen, in denen KI-generierte Moderatoren voreingenommene oder irreführende Informationen über politische Persönlichkeiten liefern.
Als Beispiel wird ein von einer KI generierter Moderator genannt, der Taiwans Präsidenten mit unbegründeten Behauptungen im Zusammenhang mit der Familie kritisiert.
In einem von Microsoft zitierten Clip machte der KI-generierte Moderator unbegründete Behauptungen über das Privatleben des letztendlich erfolgreichen Kandidaten für die Souveränität – Lai Ching-te – und behauptete, er habe außereheliche Kinder gezeugt.
Microsoft verknüpft diese Bemühungen auch mit einem Videobearbeitungstool, CapCut, das von der chinesischen Firma ByteDance, zu der auch TikTok gehört, entwickelt wurde.
Von Microsoft befragte Experten sprechen über die Einschränkungen der aktuellen Generation von KI-generierten Ankern. Diese Videos zeigen oft unnatürliche Bewegungen, unrealistische Stimmen und es fehlen Details wie natürliches Licht auf den Figuren. Ich frage mich, wie nah sie am zuletzt vorgestellten GPT-4o sind
Trotz dieser Einschränkungen wurden einige Social-Media-Nutzer durch die Videos in die Irre geführt. Die gute Nachricht ist jedoch, dass der Bericht zumindest derzeit keine größeren Auswirkungen auf die öffentliche Meinung hat, wie das Ergebnis der Wahlen in Taiwan zeigt.
Die Informationen deuten darauf hin, dass eine potenziell größere Bedrohung in der Manipulation vorhandener Aufnahmen echter Nachrichtensprecher liegt. Dabei könnte es sich um manipulierte Videos handeln, um den Eindruck zu erwecken, dass Journalisten etwas Unwahres sagen. Microsoft warnt auch vor der möglichen zukünftigen Entwicklung einer überzeugenderen KI-generierten Videotechnologie, die meiner bescheidenen Meinung nach zwangsläufig eintreten wird.
Eine weitere Microsoft-bezogene Neuigkeit für chinesische Benutzer: Chinesische Windows 11-Insider erhalten PC Manager.
Mehr wenn sie hier klicken.
