KI kann von Kriminellen ausgenutzt werden, um Identitäten zu stehlen und diese für sonstige illegale Aktivitäten zu missbrauchen. Ein Beispiel hierfür ist die sog. Deepfake-Technologie, bei der KI genutzt wird, um z.B. täuschend echte Videos zu erstellen, in denen Personen scheinbar Dinge sagen oder tun, die sie nie getan haben. Solche Fälschungen können für Erpressungen, Betrug oder sogar politische Manipulationen verwendet werden.
Was sind Deepfakes?
Deepfakes sind computergenerierte gefälschte Medieninhalte, die mithilfe von KI erstellt werden. Sie werden typischerweise verwendet, um das Aussehen oder die Stimme einer Person in Audiodateien, Videos oder Bildern zu manipulieren, sodass der Eindruck entsteht, dass die betreffende Person tatsächlich Aussagen getroffen oder Handlungen vollzogen hat, die in Wirklichkeit nie stattgefunden haben. Die Technologie hinter Deepfakes basiert auf sogenannten generativen neuronalen Netzwerken, speziell auf einer Methode namens „Deep Learning“.
Wie setzen Kriminelle Deepfakes ein?
Betrug: Kriminelle können Deepfakes verwenden, um sich als jemand anderes auszugeben und betrügerische Aktivitäten durchzuführen. Sie könnten beispielsweise gefälschte Videos erstellen, in denen sie vorgeben, eine Person des öffentlichen Lebens zu sein, um Geld von ahnungslosen Opfern zu erlangen oder betrügerische Investitionen zu fördern.
Rufschädigung: Durch den Einsatz von Deepfakes, können gefälschte Videos oder Bilder verbreitet werden, in denen eine Person in fragwürdige oder illegale Aktivitäten verwickelt zu sein scheint. Diese falschen Beweise können zu ernsthaften persönlichen und beruflichen Konsequenzen führen und den Ruf einer Person nachhaltig schädigen.
Politische Manipulation: Durch gefälschte Videos von Politikern oder prominenten Persönlichkeiten können politische Akteure gezielt Falschinformationen verbreiten und versuchen, die öffentliche Meinung zu manipulieren und so auch Wahlen zu beeinflussen.
Es ist wichtig, dass die Gesellschaft sich der Existenz von Deepfakes bewusst ist und Mechanismen entwickelt, um deren Verbreitung zu erkennen und einzudämmen, wobei auch technische Lösungen zur Erkennung von Deepfakes unabdingbar sein werden.
Die Bundesregierung veröffentlichte bereits Hinweise und einige Tipps zur Erkennung von Deepfakes.
