#32 - Desinformation, Propaganda und Fake News

00:00:03: Es gibt Staaten, die halt geopolitisch Interessen haben und die beschießen quasi die Nachbarländer mit Desinformation.

00:00:12: Desinformation ist dank KI jetzt auch multimodal geworden.

00:00:15: Bilder, Videos, Audio, das alles täuschen echt und kaum noch von journalistisch produzierten Inhalt zu unterscheiden.

00:00:25: Die menschliche Intelligenz ist da sehr wohl entscheidend, also zum Interfragen, zum Abwägen, zum Einordern von Desinformation.

00:00:35: Und parallel dazu

00:00:36: gibt es koordinierte Desinformationskampagnen.

00:00:39: Da muss man leider sagen, wir befinden uns mitten in einem übrigen Krieg.

00:00:43: Also wir befinden uns mitten in einem Informationskrieg.

00:01:06: Manipulierte Bilder, falsche Texte und Statements, die Bandbreite der Täuschung ist groß.

00:01:12: Doch wie funktioniert Desinformation?

00:01:14: Wer steckt dahinter?

00:01:15: Und vor allem, wie können wir uns davor schützen?

00:01:18: Hallo und herzlich willkommen zu einer weiteren Folge von Heer Gehört.

00:01:23: Mein Name ist Ute Axmann und ich freue mich, dass ihr wieder zuhört, wo immer ihr auch gerade seid.

00:01:29: Heute ist auch Clara vom Webteam als Kommoderatorin mit dabei.

00:01:32: Hallo, Clara!

00:01:33: Hallo, ich freue mich dabei zu sein und bin gespannt auf die heutigen Themen, die wir besprechen werden.

00:01:38: Clara ist ständig in den sozialen Medien unterwegs und hat sich in der Community umgehört, welche Fragen und Meinungen es zum Thema Desinformation gibt.

00:01:46: Clara, wie bist du da vorgegangen?

00:01:48: Es ist immer spannend für uns zu sehen, welche Themen unsere Community eben interessiert.

00:01:52: Und für diesen Podcast habe ich einfach eine Story, es stellt auf Instagram und in der konnten die User ihre Fragen einbringen.

00:01:59: So stellen wir einfach sicher, dass auch Themen kommen, die aus unserer Community sind.

00:02:04: Und wir stellen diese und andere Fragen heute an Michael Sucker.

00:02:08: Er ist der Leiter des Cyber-Dokumentations- und Forschungszentrums an der Landesverteidigungsakademie in Wien.

00:02:14: Hallo Michael, vielen Dank, dass du dir heute Zeit für uns genommen hast.

00:02:18: Hallo und Grüß Gott.

00:02:19: Vielen Dank für die Einladung.

00:02:21: Michael, es heißt ja, Daten sind das neue Öl.

00:02:24: Was macht denn eurer Abteilung genau?

00:02:26: Warum beschäftigt sich das Bundesjahr mit solchen Angelegenheiten?

00:02:29: Ja, Daten sind das neue Öl.

00:02:31: Wohlgemerkt, wir sprechen davon Rohöl.

00:02:34: Also Daten ist eigentlich ein Rohmaterial.

00:02:36: Und erst durch die Raffinierung entsteht tatsächliche Wert.

00:02:39: Also durch Raffinierung entsteht Information.

00:02:42: Also Rohdaten, allein bedeuten wir gar nichts.

00:02:45: Erst wenn man die Daten sammelt, filtert, strukturiert, analysiert, contextualisiert, werden die Daten zu brauchbaren Erkenntnissen, also zu Informationen.

00:02:54: Und diese Informationen Entscheiden heute über die Handlungsfähigkeit, Resilienz und Sicherheit.

00:03:01: Der Daten schnell und intelligent veredeln kann, kann daraus Muster erkennen.

00:03:06: Also diese Informationen sind unverzichtbare Grundsubstanz für die Entscheidung und Wirkungsfähigkeit und gelten auch als Hebel für Überlegenheit und Resilienz.

00:03:15: Und genau das ist unser Job im Cyberdokumentations- und Forschungszentrum an der Landesverteidigungsakademie.

00:03:21: Also meine Cybersoldaten sammeln und kategorisieren offen verfügbare Daten im gesamten Hybridenspektrum.

00:03:27: Aufgrund der Schier unglaublichen Menge und Geschwindigkeit der Informationen mit die Verarbeitung und Verifikation zur Herausforderung, die ohne Einsatz von KI eigentlich kaum zu bewältigen ist.

00:03:37: Ganz ohne Mensch geht es aber auch nicht.

00:03:38: Also man muss verstärkt an Hybriden ansetzen arbeiten.

00:03:41: Also Hybride ansetzen, meine ich jetzt, die jummelnde Loop-Prinzip.

00:03:45: Der Mensch ist immer in diesem Prozess eingebunden.

00:03:47: Also die KI unterstützt, aber der Mensch... ist im Verifizierungsprozess immer noch eingebunden.

00:03:52: Gerade bei der Erkennung von Desinformation ist das relevant.

00:03:56: Beginnen wir dann gleich mit ein paar Definitionen.

00:03:58: Michael, was ist genau Desinformation?

00:04:01: Was ist Missinformation?

00:04:02: Ist das derselbe wie Fehlinformation?

00:04:04: Was sind Fake News genau?

00:04:05: Worüber sprechen wir da eigentlich?

00:04:07: Genau, das wird auch oft diskutiert.

00:04:10: Fake News, eins der Modewort.

00:04:12: vor allem durch politische Akteure im US-Wahlkampf verwendet und weltweite Bekannte erlangt.

00:04:18: Es war zu der Zeit sogar einer der häufigsten erwendeten Begriffe in den Medien und Öffentlichkeit.

00:04:22: Also Fake News sind absichtlich Falschiffemationen, die so gestaltet sind, dass sie wie echte journalistische Nachrichten wirken.

00:04:32: Aber in der Wissenschaft müssen bei den Definitionen jetzt wirklich konkreter sein.

00:04:36: Also wenn wir über Falschinformationen sprechen, meinen wir oft alles, was falsch ist.

00:04:40: Also alles, was falsch ist, ist Falschinformation.

00:04:42: Das ist der Deckmantel darüber.

00:04:44: Das heißt, das muss noch keine Absicht dahinter stehen?

00:04:46: Es muss noch keine Absicht dahinter sein.

00:04:48: Es ist einfach Falsch.

00:04:49: Es sind Falschinformationen.

00:04:50: Das ist der ganze Raum an Falschinformationen.

00:04:54: Und in der Forschung wird da weiter detailliert, und zwar in den gerade der Täuschung und die Schädigungsabsicht, also die Intention.

00:05:02: Und Fehlinformation entsteht, wenn falsche Inhalte unobsichtlich verbreitet werden, z.B.

00:05:07: durch Satire oder versehentliche Falschmeldung oder schlechte Recherche, da gibt es jetzt keine Täuschungsabsicht dahinter.

00:05:15: Und bei Desinformation gibt es eine Täuschungsabsicht, das ist eine gezielte Täuschung und die wird bewusst eingesetzt, um zu manipulieren, z.B.

00:05:22: durch Deepfakes oder manipulierte Bilder oder aus dem Kontext krisine Zitate, also frei erfundene Behauptungen.

00:05:29: Was es noch gibt, es gibt sogenannte Schadinformationen.

00:05:33: Da ist der wesentliche Unterschied.

00:05:35: Das Schadeinformationen muss es nicht falsch sein, aber die wird mit der Absicht verbreitet, jemanden zu schaden, zum Beispiel durch das öffentliche, private und vertrauliche Daten.

00:05:46: Das ist sehr interessant.

00:05:47: Wie kann man das Informationen erkennen?

00:05:49: Klarer, welche Fragen hat die Community dazu?

00:05:51: Ja, das war wirklich einer der meistgestellten Fragen.

00:05:55: Wie kann man diese Information erkennen, eben wenn sie Täuschungsabsicht hat?

00:05:59: Ja, ich sage beschäftiger und fast jeden Tag diese Frage.

00:06:04: Da muss man sagen, es ist auch Platz vorm Abhängig und es kommt doch auch an auf die Art des Informationen, ob es ein Video ist oder Text oder Audiofall.

00:06:12: Aber grundsätzlich kann man sagen, dass der Ablauf eigentlich immer gleich ist.

00:06:16: Man muss sich mal die Quelle anschauen.

00:06:18: Ich überprüfe die Quelle.

00:06:20: Wer steht in den Kanal?

00:06:22: Sind das Journalisten, die dahinter stecken?

00:06:25: Oder eine Institution?

00:06:26: Sind das Privatpersonen oder anonyme Accounts?

00:06:30: Und da muss man sich auch noch durch Transparenz anschauen.

00:06:33: Sind da Quellen angegeben?

00:06:36: Gibt es ein Impressum?

00:06:37: Gibt es Kontaktinformationen?

00:06:39: Und man muss sich auch anschauen, ob auch regelmäßig von diesem Kanal Inhalte gepostet werden.

00:06:45: sind die politisch einseitig oder reißerisch gepostet.

00:06:49: Es spielt alles eine Rolle bei der Beprüfung von Desinformation.

00:06:52: Dann gehe ich weiter nach vorne und schaue mal den Inhalt an.

00:06:55: Schaue mal an, ob der Quellenangaben im Video oder im Text drinnen sind.

00:07:00: Werden Originalquellen verwendet.

00:07:01: Gibt es da Studien oder sonstige offizielle Dokumentätigen, wo eingeblendet werden?

00:07:07: Weil das sollte ich mir auch mit anderen Quellen jetzt vergleichen.

00:07:13: Am besten wäre das mit etablierten Medien einmal vergleichen, ob die auch über das gleiche Narrativ jetzt berichten.

00:07:19: Weiters speziell bei Video und Tonaufnahmen interessant.

00:07:22: Ich schaue mal die Tonqualität an.

00:07:25: Generell auch die Sprache.

00:07:27: Selbstverständlich auch im Text ist es sachlich geschrieben, ist es emotional aufgeladen.

00:07:31: Manipulativ.

00:07:32: gibt es da eine übertriebene Dramatik dahinter, gibt es da Schulzuweisungen.

00:07:35: Also Angstbilder oder Angst generell ist meistens schon ein Zeichen für für Desinformation.

00:07:44: Was immer gut ist, man kann sich, man kann recherchieren, zum Beispiel bei unabhängigen Faktencheckern, wie zum Beispiel APA Faktencheck oder korrektiv.org, Mimikama EU Versus Des Info, das sind sogenannte Faktenchecker und die machen ihren Job wirklich sehr gut in Österreich und berichten auch sehr viel über Desinformation Inhalte und man kann da schon vergleichen, ob die schon das Thema aufgriffen haben.

00:08:11: Das sind schon ein paar gute Anhaltspunkte gewesen, danke.

00:08:14: Aber für mich hört sich das sehr an, also dass das sehr viel Recherche auf und dahinter steckt.

00:08:18: Also so auf die Schnelle wahrscheinlich ist das schwierig.

00:08:21: Ja, kommt darauf an.

00:08:24: Man bekommt da schon eine gewisse Übung, aber grundsätzlich mache ich das ja auch nur, wenn ich jetzt ein Bauchgefühl habe, dass es sich um Desformation handelt.

00:08:33: Und wenn ich jetzt das Skeptisch bin, dann schaue ich schon gezieltener Tiefe nach.

00:08:38: Es kommt da voran, wo ich jetzt in welchem Medien mich jetzt mitbefinde, wenn ich einen YouTube-Kanal sehe.

00:08:44: Ja, der hat nicht so vertrauenswidrig ist, der schaue ich schon lieber zwei, drei mal hin und erkundige mich genau, ob das die Information innerhalb sein könnte oder nicht.

00:08:52: Aber generell ist dieser Ablauf sehr wichtig.

00:08:55: Die Zukunft auch für Schüler sogenanntes laterales Lesen.

00:08:57: Also ich sehe mir eine Quelle an und parallel dazu recherchiere ich im Internet, ob es da andere Informationen zu diesem ähnlichen Aussagen auch gibt im Internet.

00:09:07: Gibt es auch jemanden, der darüber entscheidet, was die Information ist und was nicht?

00:09:13: Okay, das ist wirklich eine meiner Angstfragen, weil in diversen Forschungsprojekten bin ich im Kontakt mit Äthikern und diese Frage kommt natürlich immer sehr oft.

00:09:26: Niemand will jetzt einen Ministerium der Wahrheit erzeugen oder sowas.

00:09:29: Das brauchen wir nicht und Gott sei Dank haben wir auch sowas nicht, aber wer entscheidet, was wahr und falsch ist.

00:09:36: Ich habe mich oft mit Ethiken unterhalten und eines bleibt dabei immer hängen.

00:09:41: Die Wahrheit ist intersubjektiv.

00:09:44: Jeder hat erstellt sein eigenes Konstrukt an Wahrheit.

00:09:49: Man kann sagen, die Gesellschaft entscheidet dann gesamt, ob etwas wahr oder falsch ist.

00:09:55: Es ist also eine zutiefst philosophische Frage.

00:09:58: Michael, was sind denn die Gefahren der Desinformation?

00:10:02: Das wird... Ökonomik, Forum, Stuf, Desinfimation im Global Risk Report, ist eines der größten, kurzrichtigen Gefahren für die weltweite Stabilität ein.

00:10:12: Also das ganze sogar noch vor bewaffnendeten Konflikten.

00:10:16: Es kommt gerade zu einer massiven Steigerung an Menge von Desinfimationen, aber auch Propaganda.

00:10:21: Das Ziel der Desinfimation und Propaganda ist unsere Gesellschaft zu destabilisieren.

00:10:26: Klarer welche Fragen gibt es dazu von der Community?

00:10:29: Ja, gibt es ein Anhaltspunkt, wie viel Desinformation es bereits auf den sozialen Medien gibt oder wie bereits die österreichische Bevölkerung schon davon beeinflusst ist?

00:10:39: Ja, das ist eine sehr schwierige Frage, weil Desinformation jetzt viele Formen annehmen kann.

00:10:43: Das ist oft sehr schwer, exakt, messbar, diese ganze Angelegenheit.

00:10:48: Ich habe da schon über recherchiert, es gibt ein paar aktuelle Studien, eine davon aus Deutschland.

00:10:54: Und in dieser Studie wird davon berichtet, dass etwa neun von zehn Menschen auf Fake News und Desinformation als ernsthafte Bedrohung für unsere Freiheit und Demokratie ansehen.

00:11:07: Und weitere Kernpunkte dieser Studie waren, dass etwa jeder dritte Bürger schon mal auf Falschnachrichten im politischen Raum reingefallen ist.

00:11:14: Und jeder Siebte der Befragten hat angegeben, dass auf Basis von Fake News oder Falschnachrichten eine fehlgeleitete Wahlentscheidung getroffen hat.

00:11:23: Also sehr schwer zu messen.

00:11:26: Das Thema ist total relevant.

00:11:28: Aber was für uns wichtig ist, auch in der Forschung, wir müssen hier lernen, wie man die Auswirkungen messen kann.

00:11:37: Man muss lernen, wie man Desformation quantifizieren kann und dann auch Schwellenwerte festlegt.

00:11:42: Interessant ist auch, dass es da sehr große Unterschiede zwischen den Ländern in der Europäischen Union gibt.

00:11:47: Eine weitere Studie, leider etwas älteres, im Jahr zwanzig.

00:11:50: Und da wird berichtet, dass sich in Ungarn die Hälfte der Bevölkerung stark von Desinformation betroffen, während dieser Anteil in Österreich und Lettland unter einem Fünftel liegt.

00:12:03: Also man merkt ja schon, dass es da in anderen Staaten ein höheres Problembewusstsein gibt, zum Beispiel in Baltikum oder in Skandinavien.

00:12:10: Gibt es eine Erklärung dafür, warum sich Desinformation in manchen Ländern schneller verbreitet als zum Beispiel in Österreich?

00:12:17: Ja und nein, darf nicht vergessen, dass es auch Propaganda gibt.

00:12:25: Und andere Staaten sind betroffen von Propaganda.

00:12:29: Es gibt, die haben sogenannte Feinde.

00:12:31: Es gibt andere Staaten, die halt geopolitisch Interessen haben.

00:12:35: Und die beschießen quasi die Nachbarländer mit Desinformationen.

00:12:42: Und die sind selbstverständlich auch stärker betroffen.

00:12:45: Das ist alles eine Sache der auch der Medienkompetenz.

00:12:49: Man weiß auch, dass diese Länder, die stärker betroffen sind, doch eine höhere Resilienz entwickelt haben über die letzten Jahre.

00:12:56: Und was noch eine große Rolle spielt, ist auch das Verhalten in sozialen Medien.

00:13:01: Es gibt Staaten, wo die Bevölkerung eher im speziellen Social-Media-Bereich unterwegs ist und andere Quellen auswählen.

00:13:11: Also total unterschiedlich.

00:13:13: Wie unterscheidet sich Desinformation und Filinformation und Propaganda?

00:13:18: Der wesentliche Unterschied ist, dass Propaganda aus einem umfassenden Narrativ besteht.

00:13:24: Also ein umfassendes Narrativ und daraus entwickeln sich dann Metanarrative, also ein Erzählstrang.

00:13:33: Und das Ganze ist eine systematisch aufgebaute Geschichte.

00:13:38: die meist ein politisches oder ideologisches Bild oder eine Motivation verfolgt.

00:13:44: Und das entspricht den jeweiligen Weltbild des Landes.

00:13:47: Das Weltbild des Landes oder des Staates ist quasi der Überbau der Propaganda.

00:13:53: Und Fake News, oder wir müssen jetzt konkreter sein, des Informationskampagnen sind jetzt nur ein einziger Mosaikstein innerhalb der gesamten größeren Strategie.

00:14:05: in den umfassenden Narrativ.

00:14:08: Und die Propagande ist in ein größeres Kommunikationsmuster eingebettet, mit dem Ziel, Meinungen einzuformen oder bestehende Überzeugung zu festigen.

00:14:18: Propaganda muss jetzt auch nicht zwingend falsch sein.

00:14:20: Sie kann auch wahre Informationen erhalten, aber es wird halt einseitig präsentiert und ohne Raum für weitere Perspektiven.

00:14:28: Und das hat sich auch natürlich mit Verbreitung von KI extrem weiterentwickelt.

00:14:33: Okay, und wie hat sich die Qualität und Häufigkeit mit der steigerten Verbreitung von KI verändert?

00:14:39: Ja, das ist ebenfalls gerade ein intensives Forschungsthema.

00:14:42: Gerade alles im Bereich der Künstlinikenz.

00:14:44: Also, diese Information zu erzeugen, ist keine Raketenwissenschaft mehr.

00:14:49: Die Eintrittsbarrieren sind extrem niedrig.

00:14:51: Man braucht das überhaupt keine Spezialwissen mehr, keine großen Ressourcen.

00:14:54: Also jeder kann jetzt mit einem Notebook und Internetzugang diese Information erzeugen.

00:14:59: Zum Beispiel ein Background in der Info-Sicherheit, zum Beispiel Fishing-Mails.

00:15:06: Man konnte in den Fishing-Mails früher leicht Fehler erkennen, weil die eine unpersönliche Anrede gehabt haben oder eine sehr schlechte Übersetzung, Rechtschöpfel da drinnen.

00:15:14: Heute ist das ganz anders, also die Texte sind sehr sauber formuliert, meistens sogar mit den Emotionen, mit einem normalen Feingefühl und alles durch die Verbesserung der Grüße und Intelligenz.

00:15:26: Und da bleibt es auch nicht bei den Texten.

00:15:28: Die KI ist ... Die KI ... Desinformation ist dann KI jetzt auch multimodal geworden.

00:15:34: Also es gibt Bilder, Videos, Audio.

00:15:38: Es ist alles täuschend echt und kaum noch von journalistisch produzierten Inhalt zu unterscheiden.

00:15:44: Es hat auch Auswirkungen auf die Wirtschaft.

00:15:47: Desinformation betrifft nicht nur die Gesellschaft, sondern hat sehr wohl wirtschaftliche Auswirkungen.

00:15:55: Es gibt ... eine enorme Zunahme an Diebwegs im geschäftlichen Bereich, sogenannte CEO Fraud, also der Chef, der Chef als Diebweg.

00:16:06: Sonstige Desinformationsaktivitäten, man kann Unternehmen, man kann Konkurrenten mit Desformation ausschalten, ob das jetzt Restaurantbewertungen sind, Hotelbewertungen, also die Spannweite ist wirklich enorm.

00:16:19: Man kann das sehr viel machen.

00:16:20: Wie kann man sich das genau vorstellen mit den Chef und den Deepfakes?

00:16:24: Zum Beispiel im Rahmen einer Videokonferenz.

00:16:26: Es geht ziemlich einfach, auch im Livebetrieb, dass man einen Deepfake erstellt, wo der vermeintliche Chef im Video erscheint und Anweisungen gibt, so Überweisungen von Geldern zum Beispiel.

00:16:41: Ich sehe wahrscheinlich auch eine militärische Gefahr.

00:16:43: Man kann einen General... oder eine sonstige Führungsperson auch als diebfähig darstellen der falsche Anweisungen gibt.

00:16:52: Die Spannweite ist ja enorm an Möglichkeiten.

00:16:55: Wir haben es vorher schon ein bisschen angedeutet, aber was kann man dann gegen das Informationen tun?

00:17:00: Wie kann man sich schützen?

00:17:01: Ja, die Grundlagen habe ich bei der vorigen Frage eben schon erwähnt.

00:17:06: Man muss jetzt mal skeptisch sein, man muss die Quellen prüfen, die Kanäle prüfen.

00:17:10: Man muss sich anschauen, wie der Texas geschrieben ist, ob der emotional aufgeladen ist.

00:17:16: Aber das Wichtigste ist, vorher kurz um ein Innehalten, bevor man irgendwas teilt.

00:17:20: Weil die Desinformation wird erst gefährlich, wenn es wirklich geteilt wird.

00:17:24: Und ja, ich muss da immer grinsen, wenn ich darüber denke.

00:17:29: Jeder, der beim Bundesjahr war, kennt das, vom Funksprechverkehr.

00:17:32: Denken, drücken, sprechen.

00:17:34: Und das ist da nichts anderes.

00:17:36: Also Innehalten, Quelle prüfen.

00:17:38: Wer sagt das und warum sagt er das?

00:17:41: Mehrere Perspektiven einholen, statt nur der eigenen Blase zu vertrauen.

00:17:45: Und die Sache ist ja die, dass der Mensch, der Mensch neigt dazu, sein eigenes Weltbild mit den passenden Informationen zu füttern und zu stärken.

00:17:54: Und da muss man einfach wissen, wie Manipulation funktioniert.

00:17:57: Wenn man weiß, wie die Tricks funktionieren, ist es auch schwerer, dass die greifen.

00:18:01: Also ein kritisches Denken ist der beste Vierenschutz im Informationsraum.

00:18:05: Kommen wir zum Beispiel, Clara, du hast dir da noch Fragen gefunden.

00:18:09: Genau, wir haben ja im Bundesheer auch ein YouTube-Kanal.

00:18:12: Wenn wir jetzt zum Beispiel diesen Kanal nehmen, da haben wir bereits über zweihundertsechundertsiebzigtausend Abonnenten.

00:18:17: Gibt es eine Möglichkeit, wie man auf YouTube zum Beispiel Videos auf die Richtigkeit überprüfen kann?

00:18:25: Ja, also die Grundlagen zum Erkenntnissen des Informations sind immer gleich.

00:18:30: Also Quellen prüfen, Inhalt prüfen, aufpassen, ob ... wie jetzt die Qualität ist, ob die jetzt aufgeladen ist, emotional oder nicht.

00:18:37: Also wie ich vorhin gesagt habe, Angstbilder ist generell ein Wahnsignal, das gilt auch für Videos.

00:18:43: Eine gute Möglichkeit, Bild oder auch Videomaterial zu prüfen, ist die Google Rückwärtssuche.

00:18:49: Das heißt, die machen wir jetzt einen Screenshot von dem Video und laden das auf Google hoch, da gibt es diese Google Rückwärtssuche.

00:18:59: Und dann wird analysiert, ob dieses Bild, diesen Ausschnitt von dem Video schon irgendwo mehr gegeben hat.

00:19:05: Und das passiert eigentlich relativ oft, dass es schon irgendwo verwendet wird.

00:19:08: Und das ist natürlich ein Zeichen, dass er sich da voraussichtlich um Desformation handelt, wenn dieses Video, dieses Bildausschnitt vom gleichen Video schon, schon vor dem Jahrzehnt mal verwendet wird.

00:19:19: Was es noch gibt, es gibt mittlerweile auch unterschiedliche Tools und Browser-Erweiterungen.

00:19:24: Jeder Browser hat schon unterschiedliche Sachen implementiert.

00:19:27: Da kann man auch sehr viel analysieren.

00:19:31: Selbstverständlich gibt es auch Diepfeg-Indikatoren.

00:19:33: Es gibt Diepfeg-Tools, Erkennungstools.

00:19:35: Da muss ich aber sagen, die sind leider noch nicht so ausgereift.

00:19:38: Es ist ein städtiges Hin und Her.

00:19:40: Es gibt bessere Methoden Diepfeg zu erzeugen und die Erkennung... ist da eher etwas hinten nach.

00:19:47: Das ist auch unser Bereich in der Forschung, dass wir da auf die Art Tools entwickeln.

00:19:52: Was man machen kann, ist, ich kann auf unnatürliche Bewegungen achten, umschaffe Ränder oder zum Beispiel Asynchrome, lieben Bewegungen.

00:20:00: Das kann alles auf Manipulation hindeuten.

00:20:02: Und bei KI generierten Videos... Es ist auch immer interessant, auch wenn die Qualität besser wird, man kann sehr oft auf Detail schauen.

00:20:13: Zum Beispiel auf die Finger.

00:20:14: Oft gibt es auf einer Hand, also nicht sieben oder acht Finger.

00:20:18: Das ist immer ein kleines Detail, das kann man achten und wirkt auch sehr oft bei der Identifizierung von Desformationshinhalten in den Videos.

00:20:28: Das sind ein paar spannende Möglichkeiten.

00:20:30: Kann man sagen, auf was wir uns da noch einstellen müssen oder können in Zukunft?

00:20:35: Durch größte Intelligenz wird die Qualität der Desinformation immer besser.

00:20:40: Es werden bessere Videos erzeugt, bessere Qualität der Tonaufnahmen bei DeepFake Audio.

00:20:48: Auch der Text wird immer besser.

00:20:51: Und das Problem ist auch die Nutzung von JetBots und zukundigendem Large Language Modellen, weil die Desinformationsinhalte, die generiert werden, Die werden dann auch fürs Trainieren von sogenannten Large-Language-Modellen implementiert.

00:21:10: Das ist eine Grundlage für unsere Jet-Bots, wie zum Beispiel JetGBT.

00:21:14: Das heißt, die lernen dann Des-Informationen mit.

00:21:16: Das heißt, die KI generiert Des-Informationen und die KI verbreitet dann auch die Des-Informationen weiter.

00:21:23: Und in Verbindung mit der Zunahme an sozialen Medien wird das sehr schwierig werden in Zukunft, die zum unterscheiden.

00:21:31: Was ist mit der menschlichen Intelligenz?

00:21:33: spielt die überhaupt dann noch eine Rolle?

00:21:36: Da muss ich sagen, gestern ist mir was eingefallen.

00:21:39: Es gibt ja seinen alten Monte-Beiden-Film, einen Fischnamenswander.

00:21:43: Den will sie nicht kennen.

00:21:46: Ich bin etwas schneller als ihr.

00:21:48: Ich habe mal ihn als Kind gerne angesehen.

00:21:51: Und da gibt es einen Dialog zwischen den Otto und der Wander.

00:21:55: weil sie immer das Affe bezeichnet.

00:21:57: Und dann sagt er, na Affen lesen keine Philosophiebücher, doch Otto, die lesen Philosophiebücher, aber sie verstehen die nur nicht.

00:22:05: Und genau da liegt der Punkt bei der Kunstintelligenz.

00:22:08: Die Kunstintelligenz kann die Philosophiebücher lesen, aber die kann es auch verarbeiten oder analysieren, aber sie versteht die Philosophiebücher nicht.

00:22:17: Und das gilt auch für alles andere.

00:22:19: Die KI kann verarbeiten, aber sie versteht das nicht.

00:22:23: Und ohne Verstehen gibt es keine echte Intelligenz.

00:22:26: Also die KI kann Muster erkennen, aber keine Wahrheit.

00:22:29: Und die menschliche Intelligenz ist da sehr wohl entscheidend, also zum Hinterfragen, zum Abwägen, zum Einordern von Desinformation.

00:22:37: Kurz gesagt, die Maschine produziert Inhalte.

00:22:41: Wir entscheiden, ob wir glauben oder nicht.

00:22:44: Das ist ein guter Vergleich mit dem Film Ein Fisch namens Wander.

00:22:48: Kommen wir einmal zu militärischen, da wird oft von Hybridenbetrohungen gesprochen, gehört Desinformation dazu?

00:22:54: und klarer, welche Fragen sind da so in der Community aufgedaucht?

00:22:58: Ja, eine klassische Frage war, was macht eigentlich das Bundesheer als Beschützer Österreichs dagegen?

00:23:04: Ja, bleiben wir ganz kurz einmal bei den Hybridenbetrohungen, das ist mich sehr wichtig, dass man jetzt konkret einmal erklärt, was bei Hybridenbetrohungen sind, auch wenn jetzt die aktuelle Debatte in den Medien.

00:23:15: Es gibt jetzt kein Tag, wo nicht irgendwas über Hybridibetrohungen berichtet wird.

00:23:19: Und konkret sind Hybridibetrohungen die wachsende Umschärfe zwischen der zunehmenden Verschmelzung zwischen Krieg und Frieden.

00:23:29: Im Kern geht es bei Hybridibetrohungen um die gezielte Schaffung von Ambiguitäten und das Ausnützen von Zuständigkeitslücken innerhalb staatlicher Strukturen.

00:23:40: Also bei Hybridibetrohungen werden militärische und nicht militärische Mittel, verdeckte oder offene Maßnahmen miteinander verbunden.

00:23:50: Und ja, diese Information gehört da sehr wohl dazu.

00:23:53: Genauso wie Cyberangriffe oder wirtschaftlicher Druck, aber auch der Einsatz von regulären oder inregulären Streitkräfte, wie wir es aus den Einmarschen der Ukraine auch gesehen haben.

00:24:04: Die Kraft dieser Bedrohung liegt in deren Koordination.

00:24:08: Wenn mehrere dieser Mitteln mehrere dieser Hybridenbetrogungen zusammenwirken, entstehen sogenannte Kaskadeneffekte und diese Kaskadeneffekte erzeugen Störungen und die werden bewusst genutzt, um weitere Schwachstellen in anderen Bereichen offen zu lögen oder auszunützen.

00:24:26: Also das Ziel hinter Hybridenbetrogungen ist nicht nur einen kurzfristigen Schaden anzurichten, sondern hauptsächlich das Vertrauen zu untergraben, die Stabilität zu erschüttern und auch die gesellschaftliche Resilienz.

00:24:38: Schwächen.

00:24:39: Also hybride Bedrohungen sind nicht nur Krieg mit anderen Mitteln, das sind der Kampf um Wahrnehmung, Vertrauen und Systemstabilität.

00:24:47: Und aktuell, wie ich ja vorhin erwähnt habe, in den Medien jeden Tag passiert irgendwas.

00:24:54: Es gibt eine bedrohliche Kombination zwischen Thronenüberflügen, gezielte Kabeldurchtrainungen, sabotage Akte.

00:25:02: Was haben wir noch?

00:25:03: Umfassende Cyberangriffe.

00:25:05: muss man auch sagen, auch auf unsere eigene IKD-Infrastruktur.

00:25:08: Und parallel dazu gibt es koordinierte Desinformationskampagnen.

00:25:13: Da muss man leider sagen, wir befinden uns mitten in einem Hybridenkrieg, also wir befinden uns mitten in einem Informationskrieg.

00:25:20: Und da haben wir jetzt auch, da kann ich ein paar konkrete Beispiele nennen, wie gefährlich Desformation tatsächlich ist im Rahmen von Hybridenbedrohungen.

00:25:28: Und zwar ein gutes Beispiel, die Präsidentschaftswahl, Jahr zwanzig in Rumänien.

00:25:33: Da hat das Verfassungsgericht die erste Wahlrunde für ungültig erklärt.

00:25:38: Also die haben tatsächlich dann entschieden, die Wahl ist ungültig und im Zentrum dieser ganzen Angelegenheit stand eine rechtsextreme Kandidat, Georgesco.

00:25:47: Und der hat, also, da hat es da mehrere Untersuchungen gegeben und man hat da entdeckt, dass der wahrscheinlich aus dem Ausland begünstigt worden ist, im Form von Desinformationskampagnen und generelle Unterstützung.

00:26:01: Das kann auch... auch finanzielle Unterstützung.

00:26:04: Weitere die sozialen Medien, also etwa fünfhunderttausend Personen, sind auf TikTok gefolgt.

00:26:10: Manche Postings davon haben Millionen von Menschen erreicht.

00:26:14: Das soll auch aus dem Ausland Hilfe erhalten haben, das zum Generieren.

00:26:18: Und wie ich auch vorher gesagt habe, ein Kaskadeneffekt.

00:26:21: Also gleichzeitig erfolgten etwa achtzigtausend Cyberangriffe auf die kritische Infrastruktur in Rumänien, unter anderem auch auf die Wahlinfrastruktur.

00:26:30: Ja, er wurde ausgeschlossen und bei der anschließenden Neu-Wahl wurde der Giugesco dann ebenfalls von der Wahlkommission ausgeschlossen.

00:26:39: Und ist auch sehr aktuell, also ein ähnliches Bild zeigt sich in der Republik Moldau vor wenigen Wochen, dass er ebenfalls waren gegeben und dort wurde die pro-russische Partei von der Parlamentswahl ausgeschlossen.

00:26:52: Ebenfalls wegen ausländischer Einflussnahme und Desinformationsaktivitäten.

00:26:57: Das sieht man wie verletzlich demokratische Prozesse gegenüber hybriden Strategien geworden sind.

00:27:04: Und ja, unsere Rolle, da muss ich wieder weiter ausholen.

00:27:08: Da geht es auch um die umfassende Landesverteidigung.

00:27:11: Also was gehört zur umfassenden Landesverteidigung dazu?

00:27:15: Die ist seit dem Jahr n.a.

00:27:16: in Kraft ein Bundesverfassungsgesetz.

00:27:19: Und das Ziel ist es, der umfassenden Landesverteidigung, die Unabhängigkeit nach außen und die Umverlätslichkeit und Einheit des Bundesgebietes zu bewahren.

00:27:28: Insbesondere zur Aufrechterhaltung und Verteidigung der immerwährenden Neutralität und die besteht aus der militärischen Landesverteidigung, die geistige Landesverteidigung, zivile Landesverteidigung, aber auch die witzchaftliche Landesverteidigung.

00:27:40: Wenn man jetzt die militärische Landesverteidigung hernimmt, die gilt in Friedenstätten.

00:27:46: Da wird sie vorbereitet auf Krisen und auf Neutralitäts- und Verteidigungsfall.

00:27:53: Und im Krisenfall geht es hier um die Unterstützung der staatlichen zuständigen Strukturen.

00:27:59: Und einer der Hauptaufgaben des österreichischen Bundesheers ist eben die Abwehr von Angriffen von außen.

00:28:04: Dazu gelten auch hybride Attacke, Cyberangriffe oder auch Angriffe auf die Wiffenmationssouveränität.

00:28:11: Und zu geistigen, lange zu zeigen, was ebenfalls zu unseren Aufgaben gehört, gilt es, Werte für Staat und Demokratie zu vermitteln.

00:28:20: Also wir müssen da jetzt demokratiegefährdende Erscheinungen und Entwicklungen thematisieren und das ist auch einer der Hauptaufgaben unserer etwa sechshundert Info-Officiere, die da Bildungsarbeit leisten und sicherheitspolitische Themen informieren.

00:28:38: Aber gibt es der Unterschiede auch in Friedenszeiten, in Krisen oder im Krieg, wie der vorgegangen wird?

00:28:44: Es ist auch sehr schwer zu erklären, weil man hier nie komplett abgrenzen kann.

00:28:50: Es gibt da keine komplette Trennung zwischen Krisen und Krieg und Frieden.

00:28:56: Es wird auch im Risikobild-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus-Aus- subtil Erfolgen.

00:29:08: Es gibt, wie wir wissen, dass es Staaten gibt, die Desinformation betreiben, aber trotzdem sehr subtil, hat aber dennoch Auswirkungen auf uns.

00:29:15: Also die Grenzen verschwimmen und Propaganda-Aktivitäten werden sehr wohl erkannt.

00:29:21: Also sehr schwer.

00:29:23: Ich sage, man kann nicht immer erkennen, ob es Propaganda oder Desinformation ist.

00:29:29: Das Ganze verschwimmt einfach und es gibt kaum Unterschiede.

00:29:34: Was ist die Aufgabe des Bundesheirs oder des Ministeriums für Landesverteidigung?

00:29:38: Unsere Aufgabe dahinter ist es, die Fähigkeiten zu entwickeln.

00:29:42: Wir unterstützen selbstverständlich im Rahmen der interministerialen Detikate die anderen Ministerien im gesamten Spektrum und wir entwickeln selbstverständlich auch die Fähigkeiten, sowohl in Frieden als auch auf dem Verteidigungswahl.

00:29:55: Und da wird gerade sehr viel daran gearbeitet an der kontulichen Weiterentwicklung, wie zum Beispiel die Stratkom.

00:30:02: oder Information Operations.

00:30:04: Also da muss ich schon auch mal sagen, wir haben im Bundesjahr sehr viele engagierte Leute, die das Thema des Informationen veranprägen, also von der Forschung auseinander zu Teiligungsakademie über die Direktion Verteiligungspolitik, Direktion SIX, IKD und selber, aber auch Informationsraum und auch die Führungsschule, die bei der Ausbildung der Informationskräfte auf modernsten Niveau arbeitet.

00:30:28: Und wir alle stehen jetzt im regelmäßigen Austausch untereinander, aber auch mit anderen Streitgriften.

00:30:34: Gibt es auch eine Zusammenarbeit zwischen, generell zwischen Forschung, Bundeswehr oder der Zivilgesellschaft in Österreich?

00:30:40: Ja, die gibt es.

00:30:42: Wir arbeiten sehr eng zusammen.

00:30:44: Zum Beispiel durch viele interdisziplinäre Forschungsprojekte.

00:30:48: Das Bundesministerium für Landesverteidigung, aber auch andere Behörden sind als Bedarfträger in diesen Forschungsprojekten zu Desi-Information eingebunden.

00:30:56: Gemeinsam mit Fake-Checking-Organisationen, aber auch Unternehmen.

00:31:00: Und wir versuchen da in den Forschungsprojekten gemeinsam Resilienz zu entwickeln.

00:31:05: Also da geht es um organisatorische Resilienz, aber auch um technische Resilienz, zum Beispiel durch die Erstellung von Softwareprodukten zur Detektion von Desinformation.

00:31:16: Ja und eingebunden sind wahrscheinlich auch immer Ethik und Rechtsexperten, mit denen ich auch oft diskutieren muss.

00:31:22: Jedes Softwareprodukt muss den ethischen und rechtlichen Bestimmungen entsprechen.

00:31:29: Weiters gehörten den Forschungsprojekten auch die Öffentlichkeitsarbeit dazu.

00:31:33: Das ist total wichtig.

00:31:34: Wir stellen hier gemeinsam wissenschaftliche Publikationen und erhalten Vorträge an diversen Konferenzen.

00:31:41: Viele Konferenzen wurden auch durch Unzug das Bundesministerium für Landesutdeidigung ausgeführt.

00:31:48: Was noch sehr wichtig ist, wir arbeiten auch, wir üben gemeinsam.

00:31:52: Es gibt Planspiele.

00:31:54: Da üben wir gemeinsam mit anderen Behörden.

00:31:58: FACTIG-Jacking-Organisationen sowie Forschern.

00:32:02: Und da spielen wir zum Beispiel die Kommunikationsprozesse durch bei auftretenden Desinfamationskampagnen.

00:32:09: Und das Ganze wird auch durch das Bundeskanzleramt koordiniert.

00:32:14: Also man kennt sich in der Community, wir arbeiten zusammen, wir forschen zusammen, wir üben gemeinsam und das Ganze wird wirklich gut koordiniert.

00:32:23: Das heißt, das Bundesherarbeitet viel mit zivilen Experten zusammen, denn nur mit möglichst viel Wissen, kritischen Denken hat man eine Chance, gegen Desinformationen zu bestehen.

00:32:32: Aber auch jeder Einzelne kann mitmachen und etwas tun, um sich vor Desinformationen schützen zu können, wenn ich das mal so zusammenfassen darf.

00:32:39: Michael, vielen Dank für deine Zeit.

00:32:41: Clara, vielen Dank, dass du in den sozialen Medien nachgefragt hast und vielen Dank an alle, die da auch mitgemacht haben.

00:32:48: Die im Podcast genannten Quellen finden sich übrigens in den Show-Notes.

00:32:52: Das war's für heute.

00:32:53: Vielen Dank fürs Zuhören und hört auch beim nächsten Mal bitte wieder her.