Wahlmanipulation und Verkaufsmaschen: Geraten Deepfakes außer Kontrolle? transcript

[Musik] sie sind überall im Netz dieses Spray erobert derzeit die sozialen Medien und wir haben es für euch getestet KI generierte Videos und Bilder besonders zur Bundestagswahl steigt die Sorge vor Wahlbeeinflussung durch sogenannte deep Fakes ja meine Damen und Herren wir verachten sie und wir verachten die Demokratie und das ist verdammt schnell gemacht 30 bis 60 Sekunden sind ausreichend um deine Stimme zu klen sei es wlmanipulation mas Täuschung und Missbrauch trifft uns alle und auch unsere Moderatoren Stefan und eimann sind bereits Opfer die Vorstellung dass jemand mich als Person nutzen würde um z.B für radikale parteienwerbung zu machen das wä für mich der absolute Albtraum wir erfahren wie wir uns gegen solche KI Fakes schützen und rechtlich vorgehen können und unser Galileo Reporter Mette spürt die mutmaßlichen Ersteller von einem deep Fake auf also ich habe den gesehen aber der scheint bisschen sauer zu sein der mein in halben Stunde noch mal reden zum Anfang unserer Recherche unsere Galileo Redaktion stößt immer häufiger im Netz auf KI Fake Videos sogenannte deep Fakes von unseren Moderatoren Stefan gde undan Abdalla dieses Gerät überrollt gerade den Automarkt der mit diesem Gerät verwandelst du dein Auto in ein Entertainment Wohnzimmer dieses Spray erobert derzeit die sozialen Medien und wir haben es für euch getestet es nutzt innovative Nanotechnologie um den Autolack zu polieren Stefan ist besorgt was er alles gesagt haben soll und im Netz kursiert ich habe tatsächlich auch ein paar von diesen Videos auch privat geschickt bekommen auch von Menschen die mich kennen und die eigentlich auch wissen dass ich persönlich auch niemals Werbung machen dürfte für ein Produkt dass wir bei Galileo tatsächlich auch potenziell testen würden aber selbst Menschen in meinem engsten Umfeld sozusagen waren sich nicht sicher ob ich das bin ob das meine Stimme ist oder nicht was macht es denn mit Dir jetzt als also solche Videos zu sehen dich selbst zu sehen Sachen die du noch nie gesagt hast Werbung für Produkte die Du nie gemacht hast ich meine sind meine Persönlichkeitsrechte und menschenvertrauen auch mir als Person und wenn ich irgendwas Bewerbe und Menschen vertrauen dieser Empfehlung sozusagen und das Produkt ist aber quatsch das fällt auf mich zurück und nicht auf die anderen ja aber was ich viel schlimmer finde ist für uns als Galileo Redaktion ich meine diese Sendung gibt es seit über zwei Jahrzehnten und wir haben uns in Deutschland in der deutschsprachigen Welt so einen guten Ruf erarbeitet und dann nutzt du einfach so ein Format für dein Produkt das ist schon frech wird es aber für dich einen Unterschied machen wenn es be jetzt kein Produkt ist jetzt nicht irgendwie so ein Waschmittel oder sonst irwas sondern jetzt eine extreme politische Partei beispielsweise tatsächlich ist es für mich die Vorstellung dass jemand mich als Person nutzen würde um z.B für radikale parteienwerbung zu machen das wä für mich der absolute Albtraum wer steckt hinter diesem deep Fake und was können steefan und auch andere troffene tun erschreckend gut gemacht sorgt vor einigen Monaten dieser Fake für Aufsehen sie alle ja meine Damen und Herren wir verachten sie und wir verachten die Demokratie wir sind erstaunt wie hochwertig dieser KI März generiert ist Mette trifft dr Nikolas Müller vom Frauenhofer Institut der für uns das deepfake von März analysiert was hier wahrscheinlich gemacht worden ist man hat erst die Audiospur erstellt und dann hat man ein Programm benutzt was die Audiospur und quasi so ein originalv nimmt und so zusammen mischt dass eben die Lippenbewegungen zum Audio passen das ist ein lipsyking Programm es ist also besser als manche anderen deepfakes wo man einfach die Audiospur in den Hintergrund legt und die Lippen dann nicht anpasst wie hoch würdest du so den Aufwand einschätzen um das jetzt zu erstellen vielleicht ein Tag Tag reicht für uns unvorstellbar dass mittlerweile mit so geringem Aufwand solch hochwertige video möglich sind aber nicht nur Prominente oder Menschen aus der Politik sind betroffen was haben die Betrüger der deep Fakes vor eine neue Masche hören wir hier und da gibt's eben auch Fälle dass Eltern Geld verloren haben weil sie eine Sprachnachricht von der Tochter gekriegt haben die Tochter hat gesagt ich bin im Ausland ich habe Unfall gebraucht ich brauche schnell Geld und es war ein deep Fake und die Angreifer haben die Stimme der Tochter geklont weil diese Vorlesung gegeben hat und die auf YouTube veröffentlicht hat das heißt dies voice stimm sample konnte aus dem Internet gewonnen werden und dann für zielgerichteten Angriff verwendet werden also heißt es auch für mich weil ich habe schon paar Beiträge für Galileo gemacht also sobald man wo man mich auch hört beispielsweise Beitrag von mir könnte das jetzt jemand nehmen und meiner Familie schicken oder Freunden schicken 30 bis 60 Sekunden sind ausreichend um deine Stimme zu klonen ja schade Stimme und Bild von Galileo Moderator Stefan Göde wurden bereits geklaut und manipuliert um damit Geld zu verdienen dieses Spray erobert derzeit die sozialen Medien und wir haben es e testet es nutzt innovative Nanotechnologie um den Autolack zu polieren was kann Stefan dagegen tun das will er vom medienrechtsanwalt Christian sollmecke wissen welche Chancen habe ich eigentlich ganz persönlich glaubst du mit den Fllen also in anbetraag der Tatsache dass der Shop für den du unbekannterweise geworben hast jetzt gelöscht worden ist hoffe ich dass du genügend Beweise gesichert hast die würde ich dann erstmal sichten und dann würden wir schauen ob wir da an die Hintermänner rankommen täglich ploppen solche Fakes auf und verschwinden wieder innerhalb der EU gibt es Abkommen zwischen den Mitgliedstaaten da wäre es noch einfacher Stefans Recht durchzusetzen problematisch wird es außerhalb der EU da kommt es darauf an wie die Zusammenarbeit läuft wenn man als autonormalverbraucher der sich auch im Internet bewegt auch selbst Opfer von einem deepfake wird oder die Persönlichkeitsrechte werden geklaut was sollte man tun wie sollte man reagieren als erste was man tun sollte ist Screenshots machen um Beweise zu sichern denn wenn man den ter nachher findet braucht man die der wird wenn er merkt dass man ihm auf dem Fersen ist relativ schnell alles offline nehmen dann würde ich mal schauen über welche Plattform wird das deep Fake denn verbreitet die Plattformen sind verpflichtet innerhalb von 48 Stunden sowas zu löschen und wenn ich dann Recherchen betreibe und rausfinde wer hinter der Masche steckt dann kann ich in aller Ruhe denjenigen auch verklagen auf Unterlassung auf Schadenersatz und auch flöschung wer jedoch nicht klagen will und Anwaltskosten te kann sich auf ein Gesetz verlassen das es seit geraumer Zeit gibt der digital services Act oder auf Deutsch das Gesetz über digitale Dienste ist ein europaweites Gesetz und soll die Verbreitung illegaler Inhalte verhindern und unsere Grundrechte schützen es gilt seit Februar 2024 und zielt auf onlineienste oder Suchmaschinen die uns waren Inhalte oder Dienstleistungen anbieten veröffentlicht jemand hier ein illegales deepfake Video muss die Plattform eine beschde es muss möglich sein die Inhalte in kurzer Zeit zu sperren zusätzlich sollen die EU Mitgliedstaaten direkt gegen die Plattformen Vorgehen in Deutschland übernimmt diese Aufgabe die Bundesnetzagentur sie kann sogar bugelder verhängen auf deren Webseite dsc.bund.de gibt es ein eigenes beschwerdeportal das jeder von uns nutzen kann aber erst den Fake erkennen dafür hat frauenhof Plattform für uns alle entwickelt deep Fake total du kannst wenn du ein Youtube Twitter oder auch eine Audiospur auf deinem Computer hast von der du nicht sicher bist ist sie echt ist sie falsch kannst du die auf die Seite hochladen und dann wird die Spur von einem kimodell analysiert und das Modell sagt ihr dann eben ist die Spur echt oder ist sie falsch und wir sehen auch sofort das Ergebnis der KI nämlich das fakeometer ist auf 99,9% also die KI ist sich so sicher wie sie sich nur sicher sein kann dass diese Aufnahme ein Fake ist KI Fake haben auch weitreichende wirtschaftliche Folgen und beeinflussen sogar Aktienkurse dieses Bild das angeblich einen Bombeneinschlag am Pentagon zeigt sorgte für einen Börsencrash dabei sind die Täuschungen schnell zu erkennen du siehst z.B dass das Pentagon überhaupt nicht so aussieht das ist das sternförmige Gebäude was da abgebildet ist ist gar nicht das Pentagon darauf habe ich jetzt gar nicht geachtet also ich habe jetzt nicht ich habe eher so auf den Rauch geschaut und ich mE hier sieht man das ja dass so die Bäume so ein bisschen grau sind darauf habe ich halt eher geachtet dass ist das jetzt nicht das Pentagon das wä mir jetzt im ersten Blick gar nicht aufgefallen h ich gar nicht gemerkt also man sieht z.B dass die Laterne dass der laternenpfall im Boden verschwimmt oder auch unten links der Zaun verschwimmt im Boden der Rauch verschwimmt mit den Blättern vom vom Busch die Laterne da wackelt so ein bisschen also es gibt da ganz viele Unstimmigkeiten und wenn man genau hinschaut müsste man eigentlich direkt sehen dass das ein Fake ist wer steckt hinter den betrügerischen deepfakes auch von Eimern gibt es welche über das in seinem Video beworbene Produkt forscht nach er stößt auf die Kontaktdaten und onlinebwertungen der Firma immerhin auch eine [Musik] Telefonnummer herzlich willkommen bei ja also so wie auch schon vorhin geht einfach nur die Mailbox ran also niemand zu erreichen und das deckt sich dann auch mit den ganzen online Bewertungen die ich gefunden habe zum einen Vorsicht fingerwg ist das seriös es geht niemand telefonisch ran und wir haben ja auch eine E-Mail geschrieben und da gab's jetzt auch keine Antwort Statement geben wollen oder nicht damit geben wir uns nicht zufrieden wir fahren hin wissen die Auftraggeber dass Ihr Produkt mit einem gefälschten Video beworben wird ein Kamerateam kann einschüchtern und da wir nicht sofort auallen wollen nutzen wir eine versteckte Kamera wir sind beim Unternehmen angekommen das mit Eimern für Ihr Produkt wird Mette geht vor und klingelt unser Kamerateam beobachtet alles von der Ferne tatsächlich jemand öffnet die Tür und Mette geht rein er trifft einen der Geschäftsführer an hallo nicht erschrecken ich bin von prosim Galileo und ich hatte euch vor einer Woche bereits eine Interviewanfrage geschickt am Telefon ist leider auch niemand dran gegangen hättet ihr Lust uns ein Statement zu geben ich telefoniere gerade können wir in 30 Minuten noch mal reden in 30 Minuten alles klar bis später also ich habe den gesehen aber der scheint bisschen sauer zu sein also er mein eine halben Stunde noch mal reden also wen mal ein bisschen Matte klingelt nun ein weiteres Mal bei dem Unternehmen vergeblich der haben zwar gerade eben gesagt kommen noch in einer halben Stunde wieder aber jetzt zweimal geklingelt macht niemand mehr auf ich glaube das macht jetzt gerade auch keinen Sinn mehr also ich würde sagen wir fahren wieder heim Jungs unsere Rechtsabteilung wird die aktuellen und auch zukünftigen Fakes unserer Galileo Inhalte weiter verfolgen das kann die Fälscher abhängig vom Fall über 10 000 € Kosten rechtlich haben Stefan und eimann alle Möglichkeiten dafür bei Fälschungen im Wahlkampf sieht das anders aus wie gefährlich ist dieses ganze KI Thema in Bezug auf Beeinflussung also diese Desinformation die teilweise gerade vor Wahlen verbreitet wird die muss gestoppt werden aber dazu brauchen wir irgendjemanden der anfängt es zu kontrollieren das ist gerade noch eine gewisse Regelungslücke da müssten wir irgendwelche Mechanismen finden die auf der einen Seite die Meinungsfreiheit natürlich nicht einschränken auf der anderen Seite aber auch so eine Beeinflussung durch klare Unwahrheiten stoppen Fake News werden gerade vor Wahlen noch mal ordentlich angefacht durch Fake Videos die machen das Ganze noch echter und da haben wir gerade kaum ein Rechtsinstrument solange nicht Personen angegriffen werden um diese unwahren Tatsachen zu stoppen und das finde ich gefährlich die Hintermänner von deepfakes zu finden bleibt schwierig aber Betroffene haben einige rechtliche Möglichkeiten auf Deep Fake total können wir checken ob eine Stimme echt ist und auf dsc.bundt.de können wir Beschwerde gegen Plattformen einlegen mit einer gesunden Skepsis und einem geübten Blick fallen wir nicht so schnell darauf rein