#17 - Smart Defence: KI und das Bundesheer

00:00:00: Die KI ist gekommen, um zu bleiben.

00:00:07: Wie die Computer gekommen sind, haben alle gesagt, die Computer gekommen, es wird furchtbar,

00:00:13: alle Jobs werden ersetzt.

00:00:14: In den ersten Phasen des Krieges werden sie da Maschinen schlagen, aber wenn das fertig

00:00:22: ist, dann kommt das direkt wieder der Mensch.

00:00:27: Wenn du zu langsam bist, ist es zu spät.

00:00:37: Herr Geherth, der Bundesheir-Podcast.

00:00:39: Die einen lieben es, die anderen verbannen es.

00:00:43: Über KI, also künstliche Intelligenz, wird auf allen Ebenen heftig debattiert.

00:00:49: Aber welche Chancen bietet es und welche Gefahren stecken dahinter?

00:00:53: Wie kann KI beim Militär eingesetzt werden?

00:00:56: Hallo und herzlich willkommen zu einer weiteren Folge von "HR Gehört".

00:01:01: Schön, dass ihr wieder mit dabei seid, wo immer ihr auch gerade seid.

00:01:04: Heute ist Clara vom Webteam als Kommoderatorin an meiner Seite.

00:01:08: Sie ist ständig in den sozialen Medien unterwegs und hat sich bei der Community umgehört,

00:01:13: welche Fragen und Meinungen zu KI herrschen.

00:01:15: Hallo Clara.

00:01:16: Hallo, danke, dass ich dabei sein darf.

00:01:18: Ich freue mich auch, dass ich heute die Fragen von unseren User im Gepäck dabei habe.

00:01:23: Ja, wir stellen diese Fragen heute an Herrn Brigadier Magister Christoph Tatschel.

00:01:28: Er ist stellvertretender Direktor und Chef des Stabes der Direktion im Verteidigungsministerium,

00:01:33: die für den Cyberbereich im Bundesheir zuständig ist.

00:01:36: Vielen Dank, dass Sie sich heute Zeit für uns genommen haben.

00:01:39: Ich danke ebenfalls und es freut mich, Sie in der Direktion 6 begrüßen zu dürfen.

00:01:43: Beginnen wir einmal mit einer Definition.

00:01:45: Herr Brigadier, was ist KI genau?

00:01:47: Worüber sprechen wir da heute eigentlich?

00:01:49: Das Thema Künstlichen Intelligenz bzw. die Idee der Künstlichen Intelligenz ist ja keine neue Idee.

00:01:56: Wir kamen in den 60er-Jahren auf in Wirklichkeit und die Konzeptionen konnten aber bis heute nur schwer durchgesetzt

00:02:04: oder umgesetzt werden, weil uns die Rechenleistung gefehlt hat.

00:02:08: Heute haben wir die Rechenleistung und wir haben uns über die Algorithmen.

00:02:11: Das heißt, der Rechner kann Dinge wahnsinnig schnell rechnen,

00:02:16: wie ein Äpfchen alles machen.

00:02:19: Das ist die erste Stufe oder die Vorstufe von Künstlicher Intelligenz, diese Rechengeschwindigkeit.

00:02:25: Und der zweite Anteil von der Künstlichen Intelligenz sind die Daten.

00:02:29: Das heißt, die Datenbasis, mit die die Künstliche Intelligenz rechnet.

00:02:34: Und wenn wir jetzt die Künstliche Intelligenz, die aus diesen Algorithmen besteht

00:02:39: und aus diesen Daten zusammennehmen, dann gehen wir in eine schwache Künstliche Intelligenz.

00:02:48: Oder es wirkt wie eine Künstliche Intelligenz, weil sie ziemlich rasche Antworten bekommen.

00:02:56: Zum Beispiel, wir nehmen einen Chatbot her, sie geben eine Frage ein.

00:03:01: Der Chatbot hat natürlich weiß, diese Frage gibt diese Antworten im Prinzip.

00:03:06: Das kann ein Äpfchen schnell und man hat den Eindruck, da ist wirklich jemand da,

00:03:11: der sich diese Antworten überlegt. Das ist aber noch sehr, wie ich jetzt sage, sehr einfach.

00:03:16: Los geht es dann wirklich in Richtung Intelligenz und Künstliche Intelligenz,

00:03:22: wenn wir den Lernfaktor hineinbekommen.

00:03:25: Wenn wir den Faktor bekommen, wie ein Mensch zu agieren.

00:03:29: Das heißt, die Künstliche Intelligenz lernt, die Künstliche Intelligenz kann selbst Entscheidungen treffen.

00:03:34: Die Künstliche Intelligenz kann sich selbst weiterentwickeln lernen,

00:03:39: nämlich auch ihre Algorithmen selbst weiterentwickeln lernen.

00:03:42: Dann kommen wir eigentlich so richtig in die Richtung starke Künstliche Intelligenz

00:03:47: und da sind wir also dran, was die Leute eigentlich meinen.

00:03:52: Man muss aber sagen, dass die meisten Dinge, die man heute sieht,

00:03:55: eher die schwache Künstliche Intelligenz sind und nicht die starke Künstliche Intelligenz.

00:03:58: Wenn wir dann in den Science-Fiction-Bereich gehen,

00:04:01: dann gibt es also Forschung dazu, aber noch keine Umsetzung,

00:04:04: dann wird oft gesprochen von Superintelligenz.

00:04:07: Diese Superintelligenz wäre dann in Richtung Bewusstsein oder ein freies Denken oder Kreativität.

00:04:16: Die muss man so aber bewusst sein, in der Werbung gibt es das natürlich schon,

00:04:21: aber in der Realität gibt es das noch nicht.

00:04:24: Und ist aber, wird aber ganz stark beforst, logischerweise, weil man sich eine sehr, sehr große Vorteile von diesen Möglichkeiten erhofft.

00:04:34: Also zusammengefasst sind wir im großen Teil der heutigen Umsetzung und Forschung

00:04:40: eher noch in der schwachen Intelligenz, künstlichen Intelligenz.

00:04:43: Hier gibt es dann halt so Sprachverarbeitung, Schlussfolgerungen, einfache Bilderkennungen,

00:04:49: autonomes Fahren wäre so was zum Beispiel, diese Dinge gemacht.

00:04:53: Und wir sind also erst im Schritt in Richtung starke KI, die beforst wird

00:04:58: und wo man dann wirklich in eine Art Denkstrukturen kommt,

00:05:02: dass die KI auch selber, was wir als Menschen als Denken verstehen, leisten kann.

00:05:07: Das sind wir aber eher noch in der Konzeption, in der Beforschung.

00:05:10: KI betrifft uns ja alle.

00:05:13: Clara, du hast dich in den sozialen Medien so umgehört.

00:05:15: Wie bist du da vorgegangen?

00:05:17: Genau, wir beziehen sehr gerne unsere User ein, also auf unseren Instagram-Kanal,

00:05:22: Bundesheer Online.

00:05:23: Und da habe ich einfach eine Story erstellt zum Thema KI

00:05:26: und ich habe bewusst die Frage gestellt, was interessiert euch zum Thema KI

00:05:30: oder was sind eure Meinungen.

00:05:32: Und so konnten wir sehen, ob unsere Richtung stimmt, was wir in Bottgas besprechen wollen

00:05:36: und was dann die Interessen von außen sind, die wir vielleicht auch noch beantworten können.

00:05:40: Und welche Fragen bzw. Meinungen sind da zum Beispiel herausgekommen?

00:05:44: Also es gab zum Beispiel allgemein Fragen, wie ob KI Jobs abnehmen wird

00:05:49: oder Menschen dadurch ihre Arbeit verlieren könnten.

00:05:52: Dann gab es auch spezielle Fragen in Richtung oder Meinungen,

00:05:56: dass man KI mit nicht so vielen Informationen füttern sollte

00:05:59: oder ihr zu viele Freiheiten geben kann, damit man eben die Kontrolle dadurch verliert.

00:06:04: Aber es wurden auch spezielle Fragen auf das Bundesheer bezogen,

00:06:07: zum Beispiel wird die KI jemals den Spießer setzen.

00:06:11: Wir werden das heute ja noch alles besprechen, aber Herr Brigidier,

00:06:15: welche Rolle spielt KI überhaupt generell im Bundesheer?

00:06:18: Die Rolle der KI ist nicht mehr wegzudenken, nirgendswo, in keinem Bereich,

00:06:24: ob es in der Wirtschaft ist oder eben auch bei der militärischen Landesverteidigung.

00:06:29: Die KI ist gekommen, um zu bleiben und sie wird sich in allen unseren Bereichen durchsetzen.

00:06:36: Das heißt, ob das jetzt um das Lagebild geht, zum Beispiel,

00:06:40: das heißt, dass man weiß, wo ist der Feind, was macht er

00:06:45: oder ob das eine Entscheidungsunterstützung ist, ob das eine logistische Optimierungsaufgabe ist,

00:06:51: wenn man weiß, wie werden die Güter am besten wohin transportiert

00:06:55: oder bis dorthin, dass Waffensysteme ihre Ziele finden.

00:07:00: Alle diese Dinge sind, und das sieht man auch bereits im Ukrainekrieg, unverzichtbar,

00:07:05: es wird eine ganz, ganz, ganz große Rolle spielen.

00:07:10: Wir sind natürlich auch dabei im österreichischen Bundesheer,

00:07:14: um hier auf der Höhe der Zeit zu bleiben, unsere eigenen Instanzen aufzubauen

00:07:21: und uns natürlich intensiv damit zu beschäftigen

00:07:24: und auch unsere ersten Anwendungen entsprechend zu machen,

00:07:27: weil das muss man lernen, das kann man nicht einfach irgendwo kaufen,

00:07:31: das muss man auch selbst erforschen.

00:07:34: Und wir müssen ja vom Konzept in die Anwendung kommen, das ist ganz wichtig.

00:07:41: Und da gibt es wirklich in allen Bereichen, ich habe schon ein paar genannt,

00:07:45: aber es gibt auch in weniger hartfektartigen,

00:07:50: sondern Ausbildung zum Beispiel, keine KI unterstützen,

00:07:53: auch die Medizin keine KI unterstützen, logistisch,

00:07:57: und natürlich der Kampf selbst kann von der KI unterstützt werden.

00:08:00: Wir haben faktisch in jedem der Bereiche in der Zwischenzeit eine KI-Unterstützung

00:08:05: und wenn wir auf der Höhe der Zeit sein wollen,

00:08:10: wenn wir einen Gegner gegen einen Gegner kämpfen müssen,

00:08:15: der auf der Höhe der Zeit ist, dann brauchen wir diese Unterstützung,

00:08:19: sonst haben wir im Wahr keine Chance.

00:08:21: Ja klar, was ist denn deiner Community dazu gefragt worden?

00:08:25: Ja genau, kommen wir vielleicht eben zu dem Thema Job ersetzen.

00:08:28: Also ist die Frage gekommen, wird KI noch Jobs ersetzen

00:08:31: oder werden der Menschen auch ihre Arbeiter durch verlieren,

00:08:35: beispielsweise eben der Spieß, also ein Spieß ist ein Unterfizier,

00:08:39: der für die Verpflegung und andere Notwendigkeiten sorgt.

00:08:42: Wie sieht das da aus?

00:08:43: Ist da die Gefahr, dass der irgendwann ersetzt wird?

00:08:45: Die Jobs zu ersetzen wird, ich denke, wirklich Tatsache sein.

00:08:51: Aber wir haben das schon öfters erlebt, wir haben das wieder Computer gekommen,

00:08:54: haben alle gesagt, die Computer kommen, es wird furchtbar, alle Jobs werden ersetzt.

00:08:58: Ich kann aber nur das eine sagen, was haben wir gesehen in Wirklichkeit,

00:09:01: wenn man sich das anschaut, die Jobs sind nicht ersetzt worden,

00:09:04: sondern sind andere Jobs geschaffen worden,

00:09:06: Wirklichkeit sind höherwertige Jobs geschaffen worden.

00:09:08: Das bedeutet auch, wir müssen es mit der KI in der Ausbildung beschäftigen.

00:09:11: Wir müssen auch die Leute höher ausbilden, dann können sie höherwertige Jobs haben,

00:09:15: dann brauchen wir die repetitiven Jobs weniger, die KI kann das übernehmen.

00:09:20: Viele von diesen Dingen, ich würde niemand so nahe,

00:09:22: da ich glaube, jetzt kein Beispiel wieder, kann sich vorstellen, was ich meine.

00:09:25: Fließbandjob zum Beispiel.

00:09:27: Die Frage, ob das immer spannend ist, ein ganzes Leben lang auf Fließband zu sitzen,

00:09:30: dass diese Dinge, diese kann die KI, oder die Robotik verbunden,

00:09:34: Robotik und KI, das ist ja eine wesentliche Verbindung, autonomes Systeme,

00:09:39: das ist eine wesentliche Geschichte schon.

00:09:44: Wenn man den Spieß einer Kompanie anschaut,

00:09:47: dann ist ja nicht nur der, der die Verpflegung beschafft und schaut,

00:09:51: dass alles administriert wird, sondern der ist ja das Herz und die Mutter der Kompanie.

00:09:56: Der ist Vorbild, der kümmert sich um die Soldaten in der Kompanie,

00:10:00: der ist Anlaufstelle, der ist von der ersten psychologischen Beteuerung

00:10:08: bis hin zur Aufrichterhaltung von Disziplinen und Ordnung alles.

00:10:11: Das sehe ich so schnell nicht kommen, dass jemand oder etwas geben kann,

00:10:17: der diese umfassende Aufgabe übernehmen kann,

00:10:23: nur in irgendeiner gearteten Art oder Weise,

00:10:26: das kann man der Science-Fiction dabei noch überlassen.

00:10:29: Es gibt ja auch manchmal gefährliche und unangenehme Jobs, zum Beispiel bei Minenräumen.

00:10:34: Genau, also wir haben hier, es gibt hier auch bereits Testfälle,

00:10:40: wie getestet, Minenräume mit Metronen.

00:10:43: Die KI kann Schutz ausüben.

00:10:48: Im Sinne von, es wird das Wesenliche, das Wichtigste Gut, das wir haben,

00:10:53: ist das Soldat und diesen Soldat zu schützen, nicht in die Gefahr zu schicken.

00:10:59: Und das können KI-Bewerte Systeme machen, wie ich schon vorher gesagt habe,

00:11:04: es gibt Versuche mit Metronen, dass sie Minen erkennen und räumen.

00:11:10: Minen sind ein ganz ein großes Problem am Gefechtsfeld,

00:11:14: nicht nur während des Kampfes, sondern vor allen Dingen auch,

00:11:17: wenn der Krieg beendet ist, werden Jahrzehnte danach noch Minen zu räumen,

00:11:21: sind noch Minen zu räumen und das passieren furchtbarste Unfälle.

00:11:24: Und das muss ja alles mit der Hand im Wesentliche gemacht werden,

00:11:27: wenn man es nicht mit brutalen Maschinen machen kann.

00:11:30: Das kann man aber nicht immer,

00:11:32: man muss es in bebauten Gebieten,

00:11:34: man muss immer jede Minen einzeln suchen und das ist wirklich gefährlich,

00:11:37: wenn das Maschinen machen können.

00:11:39: Und da sind wir schon, muss man sagen, so weit,

00:11:42: dass das Erfolg versprechend ist, dass wir tatsächlich autonome Systeme haben,

00:11:46: die das machen können in vielen Bereichen.

00:11:48: Zum Thema vielleicht moderne Kriegsführung, hat das Bundesheer auch Pläne,

00:11:52: dass die KI in Zukunft Gefechtsfeld Entscheidungen selber treffen kann

00:11:56: oder ist das noch weiter Zukunft?

00:11:58: Die Entscheidungsunterstützung, wie wir das nennen,

00:12:01: wird ein wesentlicher Vorteil im Kampf sein.

00:12:05: Die Geschwindigkeit von erfassender Situation, was passiert am Gefechtsfeld,

00:12:11: hin zur Entscheidung und zur Waffenwirkung,

00:12:14: wird durch die KI immer, immer enger und immer schneller sein.

00:12:18: Und wir werden ohne, wenn du zu langsam bist, ist es zu spät.

00:12:23: Das ist auch ein Grundprinzip, dass wir immer sagen,

00:12:25: dass beste Information hilft nichts, wenn sie zu spät kommt.

00:12:28: In der Ausbildung lernen wir,

00:12:31: eine weniger genaue Information zu haben, als wir gar keine zum Beispiel.

00:12:35: Und das Tier werden die Systeme unterstützen,

00:12:39: aber die Entscheidung ist im Wesentlichen zu 100 Prozent,

00:12:44: nach wie vor beim Menschen und von unseren moralischen und ethischen Vorstellungen,

00:12:52: auch die beschwerene westliche Demokratie auch ist,

00:12:56: ist es auch in keinerlei Planung, das irgendwie zu ändern,

00:13:00: nur mit der von nicht vergessen, es gibt andere, die anders denken.

00:13:04: Und wenn die einen Vorteil haben könnten,

00:13:07: könnte es durchaus sein, dass andere sich dem bedienen,

00:13:12: dass sie die Entscheidung der Maschine überlassen,

00:13:16: wenn es einen Vorteil gibt.

00:13:18: Das muss man diskutieren, das muss man international diskutieren,

00:13:21: das muss man breit diskutieren.

00:13:24: Und sie wissen ja, was passiert im Krieg.

00:13:27: Die moralische erste Opfer des Krieges.

00:13:29: Das heißt, ob dann die Systeme dann auch wirklich noch immer so geschalten sind.

00:13:34: Wir werden es sehen.

00:13:35: Bevor wir dann zu den weiteren Fragen kommen, klarer,

00:13:38: da fällt mir gerade ein, wenn wir schon beim Thema Kontrolle da sind,

00:13:42: und vielleicht auch beim Thema Datenschutz.

00:13:44: Im zivilen Bereich hat es ja vor kurzem Proteste von britischen Musikern,

00:13:47: Musikerinnen gegeben,

00:13:49: die verhindern wollten, dass ihre Werke umgefragt ins KI-Netz eingeschmeißt werden können.

00:13:55: Das heißt, die Idee war, dass die KI dann diese Werke kennt

00:13:58: und dann selber Musik kreiert.

00:14:01: Das heißt, so würde eine Konkurrenz geschaffen werden,

00:14:03: die von der Kreativität anderer profitiert.

00:14:06: So, jetzt dann zu dieser Frage, dann gibt es im militärischen Bereich

00:14:10: dann generell Überlegungen, wie man das verhindern kann,

00:14:12: dass eben die erwähnten Gefechtsfeldentscheinungen

00:14:14: des einen Landes vom Feind genutzt werden können?

00:14:17: Es sind zwar völlig verschiedene Dinge.

00:14:20: Das Internet, das öffentlich zugängliche Internet,

00:14:24: ist natürlich die Plattform, um sich heute auch zu vermarkten.

00:14:28: Ich weiß das nicht auswendig, aber ich denke,

00:14:30: das ist ein großer Anteil an Gewinn in der Musikindustrie

00:14:34: über die Streaming-Dienste und so weiter gemacht wird.

00:14:37: Da diese Daten sind faktisch im öffentlichen Raum verfügbar.

00:14:42: Und die KI, die wir kennen, die die meisten Menschen kennen,

00:14:46: die haben einen JETGPD zum Beispiel,

00:14:48: was die meisten Menschen wahrscheinlich auch schon benutzt haben,

00:14:51: die lebt von den Daten, die im Internet verfügbar sind.

00:14:54: Das heißt also auch, wenn wir das Reproduzieren

00:14:59: von geistigen Werken, egal ob das eine Romanis oder Musik ist

00:15:07: oder sonst irgendwas, ist natürlich für die KI

00:15:10: eine ganz erforderende Möglichkeit zu lernen.

00:15:14: Weil das sind die Grunddaten, um zu lernen, wie Musik funktioniert.

00:15:18: Das sind die Grunddaten, um zu lernen, wie man eine Roman schreibt.

00:15:22: Und auf dem baut die KI auf.

00:15:26: Weil man weiß, dass die Gesichtserkennung deshalb

00:15:31: einer der ersten Dinge geworden ist,

00:15:33: die so gut funktioniert haben, weil es so viele Katzenbilder

00:15:36: mit Beschreibung im Internet gab.

00:15:38: Das waren die Basistaten für das.

00:15:41: Faktisch sind ja die, alle die, was in das Internet einspeisen,

00:15:44: sind freiwillige Helfer dieser KI-Entwicklung.

00:15:48: Und ich sehe das so, ich sehe, da ist also auch keine Möglichkeit,

00:15:52: wenn du nicht ein eigenes Netzwerk hast, um das zu verhindern.

00:15:55: Und darum wird das Militär das niemals machen.

00:15:58: Wir haben unsere Daten in unserem eigenen System,

00:16:02: in unseren eigenen Datenbanken,

00:16:04: und die sind nicht verbunden mit dem öffentlichen Netz.

00:16:07: Weil es ganz, ganz wichtig ist,

00:16:09: dass man unsere Daten keiner Zugriff bekommt,

00:16:11: auch kein Gegner oder auch sonst niemand.

00:16:14: Weil das sind die Kronju-Wählen heute, Daten.

00:16:19: Das sind die Kronju-Wählen für jede Industrie,

00:16:21: das ist jede Entwicklung für das Militär, für alles.

00:16:24: Und daher wird man da geholfen.

00:16:26: keine Schnittstellen haben in den öffentlichen Raum. Das sollte nicht passieren.

00:16:29: Das war auch eine Frage von unserer Community, dass man zum Beispiel so Daten verwenden könnte,

00:16:33: um Wehrmabilder automatisch auszuwerten. Und das könnte auch wieder eine Hilfe sein in die Kriegsführung.

00:16:39: Die automatische Auswertung von Bildern ist eine der wesentlichen Dinge, die auch für das Militär

00:16:43: einen ganz einen wesentlichen Effekt sind. Sie müssen, sie müssen, der heutige Gefechtsraum ist voll mit Sensoren.

00:16:51: Früher hat man einen Soldaten stehen gehabt, der hat beobachtet und wenn irgendwas passiert ist, hat er es gemeldet.

00:16:58: Das gibt es heute noch, aber eigentlich ist es nicht mehr modern, sondern heute hat man technische Sensoren,

00:17:07: Wehrmabild-Sensoren, es gibt 100 verschiedene Sensoren.

00:17:12: Und die Grundauswertung von diesen Sensoren, die Vorauswertung von diesen Sensoren,

00:17:17: die Veränderungsüberwachung, zum Beispiel was fährt da? Zuerst macht das Sensoren, es bewegt sich, was es hat sich was verändert.

00:17:25: Dann meldet das Sensoren das zurück, wird wieder mit Krieg ausgehört. Was ist das?

00:17:30: Die Krieg wärtet aus, wo gehört das dazu? Die Krieg wärtet aus, was hat er für Absichten?

00:17:35: Ist es vor allem feind, was will er dann? Zu welcher Einheit gehört er, wo gehört er hin?

00:17:39: Und dann, aus dem ergibt sich dann das Lagebild in der Kette und dann ist der jeweilige medialische Kommandant

00:17:46: eine Entscheidung, was er damit machen wird. Und dann gibt ihm die KI sogar noch die Möglichkeit,

00:17:52: für wir schlagen vor, also wir, die KI, schlagen vor, dass du mit dem und dem und dem das bekämpfen wirst,

00:18:00: weil das am besten, vermutlich, den besten Effekt zeigt. Also diese Unterstützung wird es geben und da sind eigentlich alle dahinter,

00:18:08: aber im Endeffekt wird das noch entschieden werden, aber die KI, um mehr so viel für alle zurückkommen,

00:18:14: ist in diesem Bereich ganz, ganz wesentlich. Und das ist ja nicht das Militär,

00:18:19: denken Sie an einen Orts, der ein Röckenbild auswertet oder ein MRT auswertet.

00:18:25: Welcher großartige Hilfe ist das für den? Wenn auf die Datensätze, sagen wir mal, ich treue mir,

00:18:30: die ganzen Welt zu greifen kann und das wird ausgewertet und der hilft ihm bei der Auswertung,

00:18:36: die KI hilft ihm bei der Auswertung, bei der Krankheitsfindung und Genesungsfindung.

00:18:40: Wenn so viel ins Netz gefüttert wird, das man dann verwenden kann, entstehen ja manchmal auch Fake News.

00:18:45: Was sagt denn die Community dazu, Clara?

00:18:47: Ja, also wir haben schon bemerkt bei Auswertung der Antworten, dass da schon eine gewisse Angst herrscht

00:18:52: oder halt, dass die User unsicher sind, weil es gibt eben eine Gefahr von zum Beispiel durch KI generierte Pishingmails

00:18:59: oder eben, dass Fake-Videos verteilt werden, Stimmen verzerrt werden,

00:19:05: und man denkt, das ist eine echte Person, dabei ist das nur eine Stellung von KI.

00:19:10: Kann KI in diesem Bereich für das Bundesjahr auch gefährlich werden oder ist das eine Bedrohung?

00:19:15: Ich kann Ihnen nur sagen, da kann ich Ihnen keine guten Nachrichten geben.

00:19:20: Das ist eine Bedrohung für alle, Demokratie, für die Gesellschaft, für das Militär in seiner Aufgabenserfüllung,

00:19:27: was hier passiert. Der Informationsraum ist heute heiß um den Kämpf der Raum.

00:19:32: Hier manche sagen sogar, da befindet man sich bereits im Krieg, wenn man das anschaut, was da passiert.

00:19:37: Und es ist tatsächlich so, dass wir hier ganz entscheidend die Fähigkeiten von jedem Einzelnen,

00:19:45: von der gesamten Bevölkerung, von jedem Einzelnen heben müssen, dass er sich mit diesen Dingen auseinandersetzt.

00:19:50: Die KI kann heute Dinge unterstützen, machen, und die, die dazu haben, meistens noch die Menschen,

00:19:58: aber sie kann heute Informationen verändern, Videos verändern, Nachrichten verändern,

00:20:03: in einer Art und Weise, dass es für einen Durchschnittsmensch ist, das zu erkennen.

00:20:10: Hier muss man Fähigkeiten gearbeitet werden, schon von der Schule herauf, dass man sich mit diesen Dingen beschäftigt.

00:20:15: Man braucht kein Paranoia jetzt bekommen, aber mit diesen Dingen muss man sich beschäftigen.

00:20:21: Das ist von ganz entscheidender Bedeutung, denn das ist der Kampfraum auf der Tegelschirmilität,

00:20:29: auf allen Ebenen, die wir haben zur Zeit. Und das sehen wir gerade wieder den Konflikten,

00:20:35: die wir heute haben, das ist immer der gut zitierte Konflikt, der wirkt hier,

00:20:40: im Informationsraum in ganz Europa, auf die ganze Welt. Und das muss man sich bewusst sein,

00:20:45: da wird die KI nicht für das Wohl des Menschen verwendet.

00:20:49: Ich muss noch eine Meinung aufgreifen, die die Clara erhoben hat.

00:20:53: Und zwar, KI sollte man nie mit zu viel Informationen füttern, beziehungsweise zu viele Freiheiten geben.

00:20:59: Geht es überhaupt, dass man hier die Kontrolle warte, Herr Brieger, der?

00:21:02: Das ist eine sehr spannende Frage, weil es hat Experimente gegeben mit der KI,

00:21:09: wo man zum Beispiel einfach ein Chatbot aufgesetzt hat.

00:21:14: Also ein Chatbot ist nichts anderes, wie ich zuerst schon gesagt habe,

00:21:17: dass einfache Antworten vorbevor gefertigte Antworten auf die Frage erkennt,

00:21:22: was ist die Frage und gibt dann die wahrscheinlichste Antwort, die aber schon vorgefertigt ist.

00:21:26: Und man hat das weitentwickeln in diesen Experimenten und hat der KI,

00:21:30: die den Algorithmen, hat man die Chance gelassen, ihre Algorithmen weiter selbst weiterzuentwickeln.

00:21:37: Und da ist ganz, ganz interessante Dinge passiert, nämlich,

00:21:41: dass die Algorithmen so weit entwickelt haben, dass der Chatbot plötzlich ganz andere Dinge gemacht hat.

00:21:45: Dass sie dann mit Leuten unterhalten, über ganz andere Sachen, hat ganz andere Antworten plötzlich gegeben.

00:21:51: Und jetzt bis zu einer gewissen Komplexitätsgrad, das muss ja mal selber programmieren, alles,

00:21:57: haben wir die Hand drauf, keine Frage.

00:22:01: Wenn aber die KI beginnt, sich selbst weiterzuentwickeln, und das ist auch einer dieser Lernideen,

00:22:07: die man hat, dann wird es einen Moment geben, wo man nicht mehr einfach schauen kann.

00:22:13: Warum hat er jetzt die Antwort gegeben?

00:22:16: Dann wird es eher so werden, wie es sich vielleicht auch von sich selbst kennen, von Menschen kennen,

00:22:20: warum hat er jetzt die Antwort gegeben? Man ist es aus dem Bauch gekommen.

00:22:24: Und das war es vielleicht witzigartig, ich habe keinen Bauch, aber sie hat dann Algorithmen und Programmteile,

00:22:31: die sie erlernt hat und sich selbst ausgebildet hat, die sie zu dieser Antwort bewegen.

00:22:36: Und da wird es dann interessant, also wenn wir dann an Transparenz denken und Nachvollziehbarkeit von diesen Algorithmen,

00:22:43: dann, wenn wir in die Höhe, was ich ganz am Anfang gesagt habe, wenn wir in die starke KI gehen,

00:22:50: dann wird es zum Erwägen sein, lasst man den oder lasst man die KI so weit, haben wir diese Vorteile?

00:22:57: Oder schränken wir die KI ein und verzichten auf diese Vorteile?

00:23:01: Und wenn sie jemals, jemals einer mit dem Spiel Go beschäftigt hat, da gibt es diesen Go-Zug 37, der ganz berühmt geworden ist,

00:23:08: wo ein Go-Meister gegen eine Maschine gespielt hat und man glaubt, das kann die Maschine nicht gewinnen.

00:23:15: Und die Maschine macht einen völlig ungewöhnlichen Zug.

00:23:18: Und alle sagen, das ist ja ein Zug, die Maschine muss jetzt verlieren und die Maschine hat aber mit diesem Zug gewonnen.

00:23:23: Und dieser Zug war nicht verhörsebar, auch von der Programmierung nicht verhörsebar.

00:23:26: Weil die Maschine in dem Spiel und immer wieder Spiel gelernt hat, so geht es nicht, ich mach's anders.

00:23:33: Also mit diesen Dingen müssen wir uns auseinandersetzen und das wird definitiv kommen.

00:23:37: Das ist deshalb interessant, weil man ja sonst meinen könnte, der Mensch wäre derjenige, der etwas unvorhergesehenes Bößig macht im Spiel.

00:23:44: Das ist richtig, aber spannend wird es, wenn man die Maschine auch so macht.

00:23:48: Wer das Spiel Go kennt, weiß, die Regeln sind eigentlich recht einfach, aber das Spiel ist ein sehr schweres.

00:23:54: Und man beschäftigt sich die Meisterbeschwingte mit dem jahrelang und analysieren die Züge.

00:23:59: Und man hat geglaubt, das ist so ein bisschen schon ausanalysiert, aber da ist tatsächlich dann die Maschine auf was Neues gekommen.

00:24:05: Und das haben wir wieder, was wir zuerst gesprochen haben, mit den Datenmengen.

00:24:08: Die Maschine kann halt Datenmengen und Informationen verarbeiten, die wir Menschen nicht mehr verarbeiten können, von der Mengen an von der Größe her.

00:24:16: Keine andere Gewichtungen setzen. Und da kann man dann in einem Bereich, wo man dann noch erstaunen, jetzt ausgelöst wird,

00:24:25: aber man muss sich dann bewusst sein, was das auch heißt, wenn die Maschine dann so agiert.

00:24:32: Fassen wir einmal zusammen, welche Vorteile bzw. Nachteile die Nutzung von KI bringen kann.

00:24:38: Clara, was hat man in der Community als Vorteile bzw. als Nachteile wahrgenommen?

00:24:43: Also das Vorteil hat man auf jeden Fall gesehen, dass wir auch vorher schon besprochen, dass die KI den Menschen unterstützen kann.

00:24:49: Es können dadurch Menschenlehm gerettet werden, bei der Minenbergung beispielsweise.

00:24:54: Nachteile natürlich, die Kontrolle, wie weit ist KI kontrollierbar, wie viel darf man sie füttern und wie wird sie irgendwann auch Menschen ersetzen in der Arbeit.

00:25:05: Und wie sieht Ihre Sicht dazu aus Herr Brigadier?

00:25:09: Ja, diese Vor- und Nachteile muss man sich bewusst werden. Es ist sehr viel auch genannt worden.

00:25:16: Der Vorteil definitiv der KI ist, dass sie in der Lage ist, einen umfassenden Bereich an Daten sehr rasch zu analysieren und sehr rasche Ergebnisse über diese Basis zu machen.

00:25:33: Der Nachteil ist, wenn die Daten schlecht sind, sind auch das Ergebnis schlecht.

00:25:38: Und wenn wir heute über das, was wir heute meistens haben, über das Internet drüber schauen und die öffentlichen KI ist ja im Internet laufen,

00:25:48: dann muss man sich immer bewusst sein, dass die Ergebnisse da kommen, basieren auf die Daten, die im Internet zur Verfügung gestellt wurden.

00:25:56: Und da wird es dann wirklich interessant, was ist im Internet drinnen? Ist es ausgewogen oder gibt es da Diskriminierung im Internet?

00:26:08: Da hat es Experimente gegeben in der USA, wo zum Beispiel Internetdaten genutzt wurden, um Versicherungen anzubieten und zu beraten.

00:26:16: Und interessant ist, dass dann plötzlich schwarze Personen Afrikanische Abstimmigkeit plötzlich höhere Raten haben zu zahlen müssen, weil es wie weiße,

00:26:28: weil die haben dann diesen Bayer mitgenommen, die haben diese Art von Rassismus, der unter Schwelch in dem Netz war, wo die mitgenommen haben.

00:26:35: Die KI, weiß das ja nicht, nimmt einfach diese Daten auf.

00:26:39: Diese Form von Diskriminierung oder es könnte Diskriminierung von Glauben oder Bevölkerungsgruppen passieren, weil wenn im Internet die Masse ist,

00:26:47: dann könnten diese Dinge passieren.

00:26:50: Also das muss man schon aufpassen.

00:26:52: Und die KI, wenn sie sich weiterentwickelt, faktisch selbst weiterentwickelt, neigt auch zu Halluzinationen.

00:26:58: Das heißt, sie beginnt die Ergebnisse zu Halluzinieren, die dann faktisch auf der Datenbasis nicht ist.

00:27:03: Das muss man auch erst im Begriff, das muss man auch erst hereinbekommen.

00:27:08: Und, wenn man militärisch das anschaut, dann haben wir auch einen Arms-Rais, also einen Wettkampf zu gewärtigen.

00:27:17: Und wer die schneller und besser KI hat, könnte auch der Meinung sein, dass er den nächsten Krieg gewinnen kann, dadurch.

00:27:24: Also hier bekommen wir ganz ein eigenes, was früher ja Dombaffen worden und so weiter vom Arms-Rais her,

00:27:29: kommen wir jetzt in diesen KI-Wettbewerb herein.

00:27:32: Aber im positiven Sinn haben wir es gesagt, autonomes System kann ein verwunderten Bergen, ein medizinisches System kann schneller behandeln.

00:27:41: Das geht auch für uns, die Entscheidung kann besser.

00:27:43: Wir können die Leute schützen, dass sie nicht in die Gefahr müssen.

00:27:49: Also das ist schon ganz klar, da gibt es große Vorteile, aber man darf die Nachteile im Enthusiasmus nicht aus den Augen lassen.

00:27:58: Das Risiko muss man reduzieren.

00:28:00: Also da gab es auch eine sehr kritische Frage von unserer Community.

00:28:03: Und zwar macht der Fußsoldat da noch Sinn, wenn zum Beispiel autonom agierende Drohne schwerme kommen.

00:28:10: Das ist eine gute Frage, weil es geht ja auch um die militärischen Fähigkeiten.

00:28:13: Um diese grundsätzlich militärischen Fähigkeiten muss ich noch roppen lernen, wenn es Drohnen gibt.

00:28:18: Das ist eine hervorragende Frage, das muss ich sogar wirklich sagen, weil diese Idee, dass durch Technologie das Soldat wegfällt,

00:28:26: wird jetzt immer wieder gegeben.

00:28:28: Die haben wir sogar in den Revolutionen mit der Fährstelle Stufung,

00:28:33: zum Beispiel wie die Luftwaffe entwickelt wurde und entstanden ist, das eigene Waffengattung.

00:28:37: Wenn man Flieger hat, dann braucht man keine Infanteriesoldaten mehr.

00:28:42: Das macht man alles über die Luftsteigkräfte.

00:28:44: Das hat sich alles nicht aus wahr entschieden.

00:28:46: Und am Ende des Tages, das muss man sagen, was es ist, und das Soldat, da muss man das auch so sagen,

00:28:52: Krieg ist schmutzig, Krieg heißt, Dötten oder getötet werden.

00:28:55: Und nur, wenn der Soldat, der Soldat wo ist und das in Besitz nehmen kann, den Bereich,

00:29:03: und auch dort agieren kann, dann ist es immer noch unter Kontrolle.

00:29:10: Und daher wird auch, und das sehen wir auch in den Konflikten, die wir jetzt haben,

00:29:16: sogar der Kampf man gegen Mann, man sieht das an den Verlusten,

00:29:19: und also seinen Handwerk zu verstehen, auch Dinge wie der Tapfer zu sein,

00:29:26: in die Gefahr zu handeln und ähnliche Dinge, das wird uns leider nicht erspart bleiben.

00:29:30: Außer mit den so weit vor, das sind wir noch lange nicht,

00:29:33: dass man den Roboter Krieg denkt, irgendwann mal.

00:29:36: Das dann wird möglicherweise in den ersten Phasen autonomes System,

00:29:42: das wird auch über das nachgedankt, in den ersten Phasen des Krieges,

00:29:46: dann werden sie da Maschinen schlagen, aber wenn das fertig ist,

00:29:49: dann kommen das da natürlich der Mensch.

00:29:51: Am Ende da ist das die Ultimeration, das menschliche Leben,

00:29:54: in die Waagschale zu werfen, weil selbst wenn die Maschinen einen Krieg entscheiden,

00:29:58: dann wird der Verlierer sagen, na gut, dann probieren wir das anders noch.

00:30:02: Also so ist es nicht zu einfach.

00:30:04: Da kommen wir dann auch in den philosophischen Bereich hin.

00:30:07: Gibt es noch eine Frage von der Community, die wir noch bringen sollten?

00:30:11: Ja, vielleicht die Frage, wie sieht das eigentlich aus mit KI und Umwelt?

00:30:15: Wir haben letztens die Panzerfahrschule besucht und da hat man gesagt,

00:30:18: man könnte eben an Simulatoren arbeiten, dann spart man sich auch dadurch

00:30:21: eben die ganzen Abgase, sag ich mal.

00:30:24: Aber wie wird KI zum Beispiel auch in der Ausbildung jetzt bereits genutzt

00:30:28: für Simulatoren oder für andere Ausbildungen?

00:30:31: Das ist interessant, dass wir das ansprechen.

00:30:33: Es gibt ja auch bereits einen Rechtsrahmen in der EU

00:30:37: und da ist auch einer der Forderungen Umweltschutz dann.

00:30:41: Und das ist dann ein KI-Soll-Umweltschutz fördern.

00:30:46: Und was Sie gesagt haben, ja.

00:30:49: Also viele Dinge, Simulation, das ist schon seit vor dem KI-Dema,

00:30:54: ein wesentliches Thema beim Militär war.

00:30:57: Man sei auch noch an den Erfreiter-Simulator denken

00:31:00: oder ähnlich wie Flugstunden, wenn man sich da sparen kann.

00:31:03: Oder die zivilen Piloten trainieren,

00:31:07: ihre ganzen Notfallsprozetturen in diesen Systemen,

00:31:13: was man dadurch einsparen kann.

00:31:16: Aber man kann faktisch alles simulieren.

00:31:19: Und das aber immer besser und immer deutlich an realistischer,

00:31:23: das macht dann die KI.

00:31:24: Und dadurch spart man sich natürlich immer mehr

00:31:27: den realistischen Verbrauch.

00:31:30: Und natürlich in der Technik selbst auch,

00:31:33: werden die Maschinen auch immer besser,

00:31:35: dass sie weniger Energie verbrauchen.

00:31:37: Aber man darf auch nicht vergessen,

00:31:39: man braucht auch Rechenleistung, die auch Strom verbraucht.

00:31:42: Das wollte ich gerade fragen.

00:31:43: Das braucht man natürlich.

00:31:45: Und wenn ich heute an Daten oder KI-Farmen denke,

00:31:48: dann ist dieser Stromverbrauch schon, fällt ins Gewicht.

00:31:54: Nur denke ich, wenn viele Nutzen haben,

00:31:59: dann ist diese Investition trotzdem klein als was da,

00:32:02: da ist trotzdem ein gewinn, ein wesentlicher Gewinn zu erwarten.

00:32:06: Es gibt auf jeden Fall Chancen, aber auch Gefahren.

00:32:09: Und ich erkenne, es geht also darum,

00:32:11: wie man mit dem Einsatz von KI sorgsam umgeht.

00:32:14: Wir machen an dieser Stelle einen Punkt.

00:32:16: Herr Brigadier, vielen Dank für das Gespräch.

00:32:18: Klarer vielen Dank, dass du in den sozialen Medien nachgefragt hast.

00:32:21: Und vielen Dank an alle, die da auch mitgemacht haben.

00:32:24: Das war's für heute.

00:32:25: Vielen Dank fürs Zuhören.

00:32:27: Und hört auch beim nächsten Mal bitte wieder her.

00:32:31: Das war Herr Geherz, der Bundessepp-Podcast.

00:32:35: Ihr habt Fragen, Feedback oder Themenwünsche?

00:32:38: Schreibt uns eine Mail an podcast@bundessepp.at.

00:32:42: Wir freuen uns auf euch.

00:32:44: [Musik]

00:32:47: [Musik]