Übernimmt KI die Macht? | Der Trump Effekt #74 | auslandsjournal - der Podcast transcript

ZDF und zu Donald Trump muss man noch mal eins dazu sagen, der hat auch wirtschaftliche Interessen, dass das weiterbrummt mit der KI. Ähm die Quellen aus dem Weißen Haus berichten in amerikanischen Medien, dass der tatsächlich Angst hat. der hat Angst vor China wegen dieses Wettrenns. Der hat Angst vor dem Verlangsamen dieses KI Booms, weil dann könnten die Märkte [musik] abstürzen und die ganze Wirtschaft auch crashen.

Also das schlimmste Szenario, wenn ich skizzieren würde, ist quasi, dass die Menschheit langfristig die Kontrolle über ihre Zukunft [musik] verliert. Wie das ganz genau aussieht, kann ich nicht beschreiben. Vielleicht fühlt es sich sogar währenddessen noch ganz gut an. Den meisten Hühnern geht es ja auch noch irgendwie gut bis zum Tag, wo sie geschlachtet werden. [musik] Auslandsjournal, der Podcast. [musik] Der Trumpffekt.

[musik] So, herzlich willkommen zur Folge 74 von der Trump Effekt. Größte Chance oder größte Gefahr? In der Welt der künstlichen Intelligenz überschlagen sich ja in den letzten Tagen und Wochen die Nachrichten und das Bemerkenswerte daran ist, dass ausgerechnet die Unternehmen, die einige der mächtigsten KI Systeme der Welt entwickeln, warnen vor eben diesen Risiken ihrer eigenen Technologie. Z.B. Dario Amodei, Gründer des KI Unternehmens Tropic, hält es für möglich, dass künstliche Intelligenz schon bald in der Lage sein könnte, große Teile des Internets zu kontrollieren.

Ein Entwickler von Anthropic kündigte sogar mit der Begründung, die Menschheit sei in Gefahr, auch andere reden von einer möglichen Auslöschung der Menschheit. Doch wie real sind denn eigentlich diese Szenarien und wo endet die berechtigte Warnung? Wo beginnt die Angst vor einer Technologie, die wir selbst noch nicht ganz vollständig verstehen? Und was sagt Donald Trump dazu? Nicht ganz unwichtig. Was macht Antropic und dessen KI Modell Clode so besonders und welche gefährlichen Dinge haben KI Systeme tatsächlich bereits angestellt?

Darum geht's heute beim Trumpffekt übernimmt KI die Macht und wir sind so richtig ich sag mal gegen den Zyklus. Alle reden über die Wahlen vom Wochenende und was das für Folgen hat. Wir reden über KI und zwar nicht in dem Sinne, ob KI auch Kanzler kann, sondern wir sind Katrin Eigendorf, ZDF Sonderkorrespondentin. Hallo liebe Katrin. Hallo in die Runde. Dann Ulf Röller, ZDF Studioleiter in Brüssel. Hallo lieber Ulf. Freue mich aufs Gespräch.

Ich bin Elmar Tivison, ZF Studioleiter in Washington. Wir nehmen auf am Dienstag, dem 22. September um 14 Uhr und ich freue mich ganz besonders, wir freuen uns, dass wir einen Gast haben, nämlich Benjamin Balde. Er arbeitet als Programmo Officer, so nennt sich das bei Control AI, Control AI wird das geschrieben. Das ist eine britische Nonprofit Organisation für KI Sicherheit. Schönen guten Tag, Herr Balde, grüße Sie.

Hallo in die Runde. [schnauben] Ich freue mich deshalb äh, dass wir Sie hier haben, weil Sie haben mir am, ich gucke noch mal nach, 25. Januar eine Mail geschrieben und haben schon Alarm geschlagen in dieser Mail. Wir müssten dringend mehr machen über KI, weil das ist gefährlich. Und lange bevor die Größen der Industrie sich öffentlich geäußert haben, bevor auch die Politik aufmerksam geworden ist auf das Thema, sind Sie schon unterwegs?

So und Control AI eben auch. Und können Sie mir oder uns mal sagen, was Control AI denn eigentlich so macht? Ja, Control AI ist, wie sie schon sagt, eine gemeinnützige Organisation, die in vier verschiedenen Ländern mittlerweile aktiv ist. Vorweg in Großbritannien, Kanada, den USA und jetzt auch Deutschland. Und wir informieren Parlamentarier und hat auch die Zivilgesellschaft über die Risiken von fortgeschrittener künstlicher Intelligenz, sogenannter Superinttelligenz.

Werden wir aber sicherlich auch gleich noch mal genauer drauf eingehen, was das eigentlich heißt und kümmern uns vor allem um die Kontrollierbarkeit. stellen die Frage, wie können wir sozusagen als Menschheit die Kontrolle über eine Technologie behalten, die wahrscheinlich alle unser Leben verändern wird. Und Sie sind gerade auch in Berlin unterwegs und reden mit Abgeordneten. Können Sie uns ein bisschen was dazu sagen?

Ja, also in erster Linie und das ist quasi auch die Intention, wie ich da reingestartet bin, ähm habe ich einfach festgestellt, wissen die Parlamentarier eigentlich das, was ich damals als Praktiker im Feld ähm tagtäglich am sehen bin? Fühlen Sie das Exponential, auf dem wir uns befinden, also diese rapide Entwicklung, die wir am sehen sind. Und habe mit meinem Abgeordneten damals gesprochen und der war ein bisschen schockiert, habe mich aber direkt weitergeleitet und habe dann sehr für positive Rückmeldungen von Abgeordneten bekommen, hey, tausch dich mal mit mehr Leuten aus.

Und jetzt habe ich mit Hunderten von Büros geredet und habe tatsächlich auch festgestellt, so ein Austausch ist nötig. Man muss die Information, das Verständnis noch mal in die breite Masse tragen und auch eigentlich zu den Entscheidern selbst direkt hin bewegen. N sind wir gar keine Entscheider, aber wir haben genauso wenig Ahnung zum Thema KI wie wahrscheinlich die meisten anderen. Das frage ich erstmal Katrin, was ist eigentlich für dich KI?

Oh je. Also ähm ich glaube das, worüber wir ja hier reden wollen in der Runde ist ja relativ spezifisch generative KI das was äh uns beschäftigt und das ist eine Möglichkeit ähm die entwickelt wurde, Computer gestützt eine Fülle von Daten nicht nur zu analysieren, sondern sprachgeschützt auch äh Schlussfolgerungen daraus zu ziehen, eigene Modelle zu entwickeln. Und ähm ich glaube, der große Fortschritt in der generativen ähm KI, über die wir sprechen, ist, dass äh eben diese Modelle selber ähm ja, selber Realitäten kreieren können, ähm die menschlichen Intelligenz nicht nur gleich kommen, sondern uns, glaube ich, was die Geschwindigkeit angeht, Kombinationen zu ziehen und Kombinationsmöglichkeiten zu haben, ähm oft überholt.

Oh, hoffentlich habe ich jetzt nicht totalen Unsinn erzählt. Das guck ganz kritisch. Ich bin auch schon ganz gespannt, aber ich frag erstmal den Ulf. Was verbindest du mit KI? Also, ich benutze es jetzt seit gaumer Zeit. Es ist irgendwie erinnert es mich an den Streber in der Schulklasse, den man hatte, den man nie getraut hat. Aber das Schöne an K ist, er lässt sich permanent abschreiben und das führt dazu, dass du eigentlich schlauer und gleichzeitig dümmer wirst und denkuler wirst.

Und das finde ich das Spannende. Also das verbinde ich mit KI mal ein bisschen suffisant gesagt. Absolut. Also bei mir ist so, KI war jedenfalls sehr lange für mich äh eigentlich nur etwas, wo ich dachte, da wird so ein Gehirn nachgebaut und dann irgendwann sind die so schlau wie wir. ist, sind die Maschinen so schlau wie wir und dann wird's wahrscheinlich gefährlich. Wir haben alle wahrscheinlich die Kinofilme auch früher gesehen.

IR Robert beispielsweise mit Will Smith ist so ein Paradebeispiel dafür, wo die Roboter sich anschicken, die Macht in der Welt zu übernehmen. Aber jetzt sortieren wir erstmal die Definitionen, ne? Beide helfen Sie uns mal. Unterschied künstliche Intelligenz, dann Artificial General Intelligence, generative KI und Super KI. Was was ist das alles? Ja, so fangen wir vielleicht erstmal bei KI als solche an. Der Begriff wird mittlerweile auf alles mögliche drauf gelegt.

Das heißt, wir haben frühere Systeme, wo man gesagt hätte, ich habe einen Algorithmus, also etwas, was regelbasiert funktioniert, was heute von einigen Leuten als KI tituliert wird, also als künstliche Intelligenz. Dann haben wir ganz ganz viele Unternehmen, die bereits irgendeinen digitalen Prozess haben und da jetzt einfach KI dran hängen, weil es verkauft sich besser. Ähm, in erster Linie, wenn wir über künstliche Intelligenz reden, dann reden wir von quasi einer Form, dass wir dazu in der Lage sind, intelligente Outputs zu kreieren.

Ist jetzt bisschen zirkulär, es liegt aber auch daran, dass wir als Menschen nicht ganz dazu in der Lage sind zu beschreiben, was ist unsere Intelligenz. Deswegen ist sozusagen hier mal ein guter Messwert, den wir nehmen können. Hat die KI irgendwie ein intelligentes Verhalten? Wir definieren häufig extern als Menschen. Hey, wenn die KI das kann, dann ist sie intelligent, dann kann sie etwas auf einem gewissen Niveau.

Warum habe ich das jetzt so erklärt? Weil wir das brauchen für die nächste Erklärung. Diese AGI, diese artifische General Intelligence wäre eine KI, die quasi dazu in der Lage wäre, generell zu sein, wie wir als Menschen. Wir als Menschen können uns neue Dinge selbst beibringen und sind nicht auf eine Domäne ähm sozusagen limitiert. KI kann z.B. Bilder heute erkennen, kann Texte generieren, kann Lieder schreiben, ähm wird also in seiner Form immer genereller.

Und wenn wir uns jetzt vorstellen, dass der Mensch eine gewisse Form von Generalität hat, dann kann man sich auch vorstellen, dass man weit über das menschliche Niveau hinausgehen kann, sodass wir dann von einer superintelligenz sprechen würden. Das heißt, es gibt Dinge, die wir auch als Menschen oder als Gesellschaft herstellen, die kein einzelner Mensch, auch wenn der einzelne Mensch eine generelle Intelligenz ist, herstellen könnte.

Wir sitzen gerade alle vor irgendwie einem technischen Endgerät. Ich könnte niemals wahrscheinlich auch in meiner gesamten Lebzeit dieses MacBook nachbauen, weil da hunderte, Tausende von Menschen dran beteiligt sind. die in einer sehr spezifischen Wertschöpfungskette dieses hochkomplexe Produkt abbilden können. Also sozusagen die Weltwirtschaft kann so ein komplexes Problem lösen. Ich als einzelner Mensch aber nicht.

Und wenn wir von superintelligent sprechen, geht es um Systeme, die dann dazu in der Lage wären, sehr viel autonomer und genereller zu sein als die gesamten Menschen, also als die Menschheit und auch die Leute, die damit diese Technologie am Entwickeln sind. Darf ich noch mal nachfragen, damit man sich das plastisch auch vorstellt, woraus besteht dann diese künstliche Intelligenz? Sind das Computerprozessoren, die miteinander vernetzt sind und was muss ich tun, damit die halt besser werden, damit die halt lernen, damit die wirklich intelligent werden?

Das derzeitige Paradigma, was benutzt wird, ist Deep Learning. Das heißt, diese Modelle, also wenn man von Neuronah Netzen spricht, man will irgendwie ein Gehirn nachbauen, dann fängt das natürlich erstmal irgendwie mit Mathematik an. Es findet ja irgendwie nur ein Computer statt. Ähm, was wir machen ist beim Deep Learning, dass wir eine große Menge an Comput nehmen und eine große Menge an Daten und dann damit ein Modell trainieren. Ähm, dieses Trainieren von einem Modell ist nicht gleich wie klassische Programmierung.

Bei klassischer Programmierung schreibe ich Zeile für Zeile an Code. Bei dem Trainieren und Entwickeln dieser Modelle ähm züchte ich mir quasi ein neues Modell. Wir können das gerne vertiefen, damit man das vielleicht noch ein bisschen besser versteht, wenn wir den Platz dafür haben. Ähm, was aber dabei rauskommt, ist, dass diese Modelle relativ groß sind, wachsen, ähm wir die Eingabe Ausgabebeziehung verstehen. Also z.B. wenn ich einen Bilderkennungsprogramm habe, das kann jetzt meine Bilder voneinander unterscheiden, habe ich es mit einer Katze oder einem Hund zu tun.

Ich verstehe aber nicht ganz genau, wie die Modelle das halt machen, weil wir die Modelle halt gezüchtet haben und nicht klassisch programmiert. Kann soll ich hier noch mal eine Ebene tiefer gehen, damit das vielleicht noch ein bisschen greifbarer wird oder? Ja, versuchen Sie es mal. Mal gucken, ob wir mithalten können. [gelächter] Ja, sehr gerne. Ähm, also klassisch, wenn ich etwas programmiere, habe ich wie Abfragen, ich habe Konditionen, ich weiß genau, was mein Code eigentlich am machen ist.

Wenn ich ein KI Modell trainiere, dann passiert das über mehrere Generationen hinweg. Ähm, ich kann vielleicht ein klassisches Beispiel bringen, was ich dann manchmal auch in den Gesprächen nutze. Ähm, ich versuche das mal ein Beispiel einfach zu erklären. Wir, sagen wir mal, wir trainieren eine KI, die ähm sagen wir mal Menschen von Tieren unterscheiden soll, also von Hunden z.B. Ich fütter die KI mit ganz vielen Bildern von Hunden und ganz vielen Bildern von Menschen und die KI kann sich sozusagen die Bilder angucken, die weiß am Anfang, also wir haben nur zufälliges neuronales Netz, stellen Sie sich das wie ein Gehirn vor, wo die Neuronen einfach alle zufällig sind.

Und wenn ich jetzt nicht weiß, was ist ein Mensch oder was ist ein Hund, dann und ich rate einfach die ganze Zeit nur, dann wäre sozusagen der Wert, den ich erwarten würde, 50%. Jetzt ist das so, dass in dieser Generation, wenn wir die erste Generation jetzt an Modellen haben, wird irgendein Modell dabei sein, irgendeine KI, irgendein neuronales Netz, was 51% vielleicht hat. Was wir dann machen ist, wir nehmen diese 51er Modell, erstellen wie 10 Kindermodelle davon und haben jetzt als neuen Erwartungswert 51%.

In der nächsten Generation kriegen die Modelle 52% hin. Jetzt müssen Sie sich vorstellen, machen wir das nicht mit zehn solcher Gehirne, solcher neuronalen Netze, sondern mit einer Milliarde. Und das machen wir über Milliarden Runden. Und weil das in ein Computer stattfindet, kann das innerhalb von 6ch Stunden passieren, anstatt dass es halt wie in der Evolution z.B. eine Million Jahre braucht. Man nennt diese Algorithmen deswegen auch evolutionäre Algorithmen, weil wir quasi Evolution am simulieren sind und wir wissen dann, dass das Endergebnis, also das neuronale Netz, was dabei rausgekommen ist, die KI, die dabei rausgekommen ist, extrem gut da drin ist, Menschen von Tieren, also in dem Fall Hunden zu unterscheiden.

Wir wissen aber nicht genau, wie das Modell das macht, weil wir sozusagen zwar in das Modell reingucken können, gucken können, welche Ebenen sind, wann wo, wie aktiv, aber wir verstehen nicht genau, was welche Ebene repräsentiert. Ähnlich wie vielleicht, wenn wir bei einem Menschen in sein Gehirn gucken mit einem FMI Scan und sehen, hey, diese Neuronen sind gerade aktiv, dieses Gehirn areal ist gerade aktiv. Ich aber nicht weiß, welches Neuron ich austauschen muss, um die Persönlichkeit des Menschen zu verändern.

Wenn wir jetzt das mal nehmen und an Katrin und Ulf die Frage, ähm also wenn diese KI selber sich auch immer verbessert, man nennt das, glaube ich, rekursive Selbstverbesserung, habe ich nachgeschlagen, richtig? Das heißt, also das, was an Ergebnissen rausgenommen, rausgekommen ist, wird genommen und auf der Basis geht die der nächste Schwarm geht den Schritt weiter und so wird sie immer besser, wird uns vielleicht irgendwann überholen.

Was würdet ihr euch oder was was habt ihr schon gelesen so, wo man denkt, oh super, wenn da Schwarminelligenz eingesetzt werden könnte, könnte man doch auch eine Menge Gutes tun und Probleme lösen. Ich hoffe, dass das jetzt Sinn macht. Ich wollte, bevor ich über Schwarminelligenz spreche, eigentlich noch mal über meine Alltagserfahrung im halben Jahr oder dreiviertel Jahr KI, die ich benutze, feststellen, dass ich ähm erschrocken bin, wie gut die sich merkt, was ich sie alles gefragt habe.

[schnauben] Also, ich gebe zu meiner Schande zu, dass jetzt jede Anfrage, die endet, die ich stelle, endet mit dem Angebot. Als TVJ würde ich das so und so zusammenfassen. [gelächter] Und jetzt habe ich ja schon dreimal gesagt, ja, ich bin gleich, ich werde bald kündigen, wie wer würde das dann im Bäcker zusammenfassen? Und darauf hat sie auch eine Antwort. Also, das ist das erste, dass ich ermerke, wie mich das fasziniert und wie schnell man vergisst, dass dahinter eine Maschine ist.

Das zweite Geschichte, die ich erzählen wollte, ich habe von einem Kollegen, ich sagte dich von jedem, der einen längeren Vortrag halten musste und dem dieser Vortrag zu lang war. Wahrscheinlich ist das für Sie ja beide banalste Erfahrung, aber für mich war das irgendwie erderschütternd und ich sage gleich warum. hat er gesagt, KI, fass mir das mal zusammen. Ist ein KI Skeptiker, fass mir das mal auf eine Diener vier Seite zusammen.

Und hat dann angeguckt, wie diese KI das zusammengefasst hat und war beeindruckt, weil er sein Text kannte, dass er sagen wir, das war sehr, sehr gut in Lichtgeschwindigkeit zusammengefasst. Besser hätte er das wahrscheinlich auch nicht gemacht. Das waren alle wesentlichen Punkte, die er verwesentlich geachtet hat und entdeckte dann zwei Absätze. So hat er mir das jedenfalls erzählt. Ich hoffe, das stimmt. Wo er gesagt hat, komisch, habe ich das geschrieben.

Und dann hat er die KI gefragt, wo kommen denn die zwei Absätze her? Und da hat ihm die KI gesagt, ich habe mal deinen Gedanken weitergedacht in die und die Richtung. Was hältst du davon? Und er fand es gar nicht so schlecht, was sie gedacht hat. Also damit sehen wir ein unglaubliches Potenzial für so ein Lin für mich, der also fast schon bald KI süchtig wird, weil es für mich habe ich den Eindruck, ich werde den Lichtgeschwindigkeit auch schneller, wenn ich gute Fragen stelle und sie denkt für mich mit und setzt Beziehungen.

Wahrscheinlich kann man 1000 Gründe nennen, warum das auch gefährlich ist. Und das bringt uns ja zu der prinzipiellen Frage und deswegen sind Sie auch bei Control II. Ähm, wie weit für dieses autonome System kann Entscheidungen treffen, die eigentlich Menschen entffen sollen? Das ist ja die große philosophische Frage dahinter auch immer, wie weit geben wir Technologie Macht, dass sie Entscheidung trifft? Und irgendwann ich das Gefühl hatte jetzt als Leihe und das wäre meine Frage an Sie Herr Balde, dass wir an einem Punkt kommen, wo wir alle Fragen, wo wir Wisseln sammeln durch die KI, dann uns aber auch ein Scheidungsweg vorgegeben wird durch die KI, die wir gar nicht mehr ablehnen können, weil er so schlüssig ist und wir gar nicht anders denken können, weil die KI diesen Entscheidungsweg für uns entwickelt hat.

Und das ist meine Frage, wie weit sind wir von solchen Themen weg? Und wie gefährlich sind diese Themen? Und dann kommen wir zu der Frage auch, wie sollen wir reagieren? Ja, so wir sehen das bereits heute schon. Also, wir geben aktivverantwortung an ganz ganz vielen Stellen jetzt schon ab an KI. Das heißt, in den meisten Marktumfällen ist das jetzt gerade so. Es gibt noch keinen sehr sehr starken Druck KI überall reinzubringen.

Es gibt aber schon den Druck. Okay, wenn ich schneller sein möchte und ich möchte mehr Texte schreiben, ich möchte mehr E-Mails beantworten, ich möchte dazu in der Lage sein, Übersetzungsarbeit noch schneller zu leisten, dass ich die KI dann verwende. Und auch wenn es um Entscheidungsfindungen geht, sind diese Modelle ja auch nicht frei von bias ähm oder frei irgendwie von Ausrichtung und geben uns gewisse Wege vor. Und gerade wenn es in Bereiche geht, wo wir selber dann kein eigenes Wissen mehr haben und auch nicht mehr überprüfen können, ist das richtig, was die KI mir gerade sagt, äh wird es kritisch.

Also das heißt, wenn ich kein Physiker Chemiker bin, ich aber trotzdem versuche gerade ein Medikament mit der Hilfe oder an unter Anleitung der KI herzustellen, dann kann das eventuell funktionieren, kann aber auch sehr stark nach hinten losgehen. Und das ist vielleicht noch ein sehr schwacher ähm Fall, wo es gefährlich wird, gerade wenn wir irgendwie davon sprechen, dass wir die KI militärische Entscheidungen integrieren oder auch in andere Systeme mit reinin und dann haben wir es mit solchen Agenten zu tun und wir werden sicherlich gleich auch noch mal darüber sprechen, ähm die z.B. entgegende Menschen handeln oder sich aus ihrer Trainingsumgebung entfernen oder andere Ziele verfolgen, die nicht gleich mit den Zielen sind von den Betreibenden.

Da würde ich schon die Frage grundsätzlich stellen, wollen wir das? Und wenn man dann sich die Frage stellt, wollen wir das und man kommt zum Schluss nein, dann glaube ich ist das ein ja ein Arbeitsauftrag quasi an die Politik, weil das ja nichts ist, was ein Unternehmen in Selbstverpflichtung lösen kann. Solange wir uns in diesem kompetitiven Feld befinden, in dem wir gerade drin sind, ist es nicht möglich für ein Unternehmen unilateral zu sagen: "Hey, ich mache das ganze Spiel nicht mit." Dann ziehen die ganzen anderen Webw Teilnehmer einfach an dem jeweiligen Akteur vorbei.

Das heißt, da sollte die Politik auf jeden Fall ins Handeln kommen und gleichzeitig aber auch kann ein Land alleine auch wieder nichts machen, ähnlich wie ein Unternehmen alleine nichts machen kann. Und dann sind wir in so einem globalen Problem, in einer globalen Situation drin, ähm wo gerade zwei Länder, die USA und China, besonders viel Einfluss darauf haben, wie die Entwicklung weiter vorangeht. Lass uns gleich über Schreckenszenarien mal reden. Ähm, mich treibt um, was kann es Gutes tun?

Weil wir sollten das nicht vergessen. Also, wir wollen nicht Technologie einfach mal so verteufeln von vorne weg. Ich sag mal aus dem eigenen Erleben. Ähm, ich bin total beeindruckt von KI. Also ähm ich habe mal in den letzten Jahren ja das eine oder andere Büchlein verzapft und habe der KI gesagt, mach mal ein Roman draus, das dauerte eine Minute. Dann war das Werk, an dem ich Monate geschrieben habe in in einen Roman verwandelt, der gar nicht so schrecklich war, sage ich mal.

Oder was hast den dann herausgegeben, Elma? [gelächter] Roman, ne? Der Roman, der wäre wahrscheinlich erfolgreicher gewesen, weiß ich nicht. [gelächter] Aber ich gucke momentan z.B. wieder diese Fernsehserie, die kennt ihr alle. Dr. Haus, eine alte Fernsehserie. Ja, da geht's um einen etwas verrückten Doktor, der der beste Diagnostiker ist, was also möglich wäre, die schlimmsten Krankheiten schneller zu diagnostizieren, aber es bgt ja gleichzeitig auch das Risiko, was wenn die falsch liegt und man macht die Behandlung auf der Basis von dem, was die KI da ausgespuckt hat, ist es auch gefährlich.

Und dieses Gruseln, das habe ich auch. Ich habe es auf meinem privaten Laptop installiert, eine KI, aber trau mich immer noch nicht ihr zu sagen, okay, du darfst auf meine Daten und auf meine privaten Mails oder sowas zugreifen, weil ich da ein großes Misstrauen habe. Ich weiß nicht, ob es dir ähnlich geht, Katrin. Also, ich ähm arbeite schon seit längerem mit KI. Ähm habe festgestellt, ich habe ein ähnliches Experiment äh gemacht. Ähm, ich habe ein Buch geschrieben und ich habe mit einer Freundin einfach das Experiment gemacht, dass sie einfach ganz viele Texte von mir in die in Agenten eingeladen hat, auch ein altes Buch und wir haben gesagt, schreib mal ein Kapitel und es war furchtbar.

Es war ganz furchtbar. Es klang einfälltig, es klang dumm, es klang einfach ganz ganz schrecklich. Und ich habe gerade in der Arbeit äh als Journalistin mit meinen eigenen Texten und der Strukturierung meiner eigenen Gedanken ganz ganz schnell die Grenzen von KI festgestellt und teilweise wirklich das Gefühl gehabt, diese Systeme ähm reden mir nach dem Mund bzw. spiegeln einfach wieder, was sie meinen gelernt zu haben, was mein Gemütszustand ist. wo ich KI wirklich stark finde und es auch immer noch ganz viel nutze ist als Sparings Partner, um sie zu challengen.

Ja, was denkst du wären jetzt die wichtigen Fragen, die wir erörtern müssten, wenn wir über z.B. das Thema KI reden und so einfach in vielen anderen Bereichen so meine erste sehr eindrucksvolle Erfahrung mit den positiven, sag mal Begleiterscheinungen von KI war in Israel nach dem ähm nach dem 7. Oktober 2023 war ja im Prinzip ein komplettes Volk total traumatisiert und es gab gar nicht genug Psychologen sie zu behandeln.

Und ähm da hat mich die Israelisch das israelische Militär eingeladen in ein Militär ähm Krankenhaus und hat mich vor einer KI gesetzt und hat gesagt, teste jetzt mal, rede mal mit der KI, die wird feststellen, was du hast und wird dich in die und die Wege leiten. Und ich war total verblüfft. Ich war wirklich total verblüfft, was da an Antworten kam, was da an Rückspiegelung kam. Und das ist ja jetzt schon dre Jahre her.

Also, da hat sich haben sich die Systeme ja rapide ähm rapide verbessert, aber ich glaube, dieser Faktor menschliche Kontrolle, der ist enorm wichtig, gerade wenn man sich, da werden wir vielleicht auch noch drüber sprechen, mit den militärischen Fragen ähm von KI Einsatz beschäftigt. Da wird das, glaube ich, sehr sehr klar, welche Gefahren auch darin liegen, wenn der Mensch aussteigt. Eine Frage zum Positiven noch, Herr Balde, also kann man sagen, dass KI jetzt schon in der Anwendung ist und Gutes tut für die Menschheit natürlich.

Also, es gibt eine Vielzahl an spezialisierten KI Anwendungen, wo ich selber ein riesen Freund von bin und glaube, dass wir auch einen riesen Wertschöpfung damit in Deutschland betreiben können. Tatsächlich Sachen wie Alpha Fold, was von Google entwickelt wurde und wofür Demis Habes ja auch den Nobelpreis in Chemie bekommen hat, ähm hat die Forschung um ein Vielfaches äh beschleunigt. Das heißt, wir können heute schneller an Protein arbeiten, weil die KI halt sehr stark bei diesem Proteinfallproblem hilft.

Muss man jetzt glaube ich nicht sehr in die Tiefe eingehen. Ein sehr schwieriges Problem gewesen, wo KI halt jetzt am helfen ist und ich glaube, das gilt für viele andere Bereiche auch, sei es Pharmakologie, sei es die Medizin, die Materialforschung, Dinge wie autonomes Fahren. Vielleicht kann man damit sowas wie eine Vision Zero erzielen oder dass die KI da unterstützt und Unfälle vielleicht vorbeugen kann oder auch vorherahnen kann.

Ich glaube, da gibt's eine Vielzahl an Möglichkeiten, die wir haben. Der große Unterschied ist, das sind alles Werkzeuge. Ich brauche immer einen Menschen als Intermediär, der irgendwas macht, damit irgendwas passiert. bei den KI Agenten, sobald ich die quasi einmal gerufen habe, also ähm die Geister, die ich rief, also wenn ich den KI Agenten einmal losgeschickt habe, verliere ich bedingt die Kontrolle darüber, was der machen kann, wenn ich keine anständige Technologie habe, die das einfängt.

Und jetzt gerade haben wir technologisch nichts, was die KI einschließen kann, so dass sie keinen richtigen Schaden anrichten kann, gerade auch unter den Wettbewerbsbedingungen, in den wir uns befinden. Deswegen den einen Teil KI gerne machen, gerne spezialisierte Anwendungen bauen. ähm gerne da auch weiterforschen, gerne auch in der Medizin verwenden. Da gibt's immer diese zusätzlichen Gedanken, die man sich natürlich machen muss, wenn man irgendwie Daten irgendwo eingibt, wo gehen die Daten hin?

Gerade bei sensiblen medizinischen Daten, aber das sind Datenschutzbedenken, die kennen wir bereits. Das ist ein Werkzeug. Bei dem anderen haben wir es mit einer neuen Risikokategorie zu tun. Malen Sie mal den Teufel an die Wand, basierend auf dem, was wir in den letzten Wochen und Monaten gehört haben, vor allen Dingen von Entwicklern selber, aber auch von den Anführern der KI Unternehmen. Ja, also das war's ja auch und das war ja, glaube ich, so ein bisschen auch ein Katalysator, wodurch ja noch mal sehr viel über das Thema gesprochen wurde.

Der Tweet von Herrn Jacob Cox, der gesagt hat, müssen wir kurz sagen, das ist der Entwickler von Antropic. Genau. Ja, richtig richtig. der vorher jahrelang bei OPM AI war ähm und jetzt bei Anthropic in Preraining war, also an den Modellen gearbeitet hat. Ähm und er sagt, die arbeiten in rekursiver Selbstverbesserung und es sieht nicht so aus, als wäre das weit entfernt. Rekursive Selbstverbesserung bedeutet, dass die KI besser KI Forschung machen kann als die besten KI Forscher der Welt.

Sobald das möglich ist und auch Programmierung, kann die KI dabei helfen, die nächste Generation an KI System schneller hervorzubringen. Das geht besonders gut, weil diese zwei Domänen, die ich brauche, um neue KI Modelle zu kriegen, beides verifizierbar sind. Einmal Programmierung und einmal KI Forschung. KI Forschung, das habe ich versucht vorhin so ein bisschen durch das Beispiel reinzugeben, ist eigentlich das Optimieren einer Funktion.

Ich versuche einen Zahlenwert nach oben zu bringen, das kann ich meistens messen. Wenn ich z.B. für eine KI dann halt am Trainieren bin und ich will gucken, kann die Bilder unterscheiden, dann kann ich einfach gucken, wie viele Bilder kann sie richtig unterscheiden. Also, es ist messbar und das gleiche ist bei der Programmierung ebenfalls gegeben. Ich kann einfach gucken, funktioniert der Programmcode, den ich geschrieben habe.

Wir sehen, dass 2024 die Modelle vielleicht 5% zu der nächsten Modellgeneration beigetragen haben. Heute ist es 80, 90% und wenn es die vollen 100% sind, ist diese klassische Funktion. Ich brauche Forscher und Kapital, damit ich irgendwie neue Modelle kriege raus. Ab dem Zeitpunkt ist es eine reine Kapitalfunktion. Jetzt gerade haben wir Verdopplungsraten von ca. 4,3 Monaten, bis ein Modell doppelt so leistungsstark ungefähr wird.

P mal Daumen. Sobald die Modelle sich selbst am Selbstverbessern sind, reden wir wahrscheinlich nicht mehr von 4,3 Monaten, sondern von vielleicht vier Tagen oder 9 Tagen, bis halt eine Verdoppelung eintritt. Ich will nur noch mal darauf aufmerksam machen, dass die KI Modelle von vor 5 Jahren keine Grundschulmathematik beherrscht haben, KI heute Millenniums Probleme löst. Und jetzt wenn man das jetzt gerade noch in Frage stellt, in dem Jahr ist es auf jeden Fall dann halt so, also die Modelle entwickeln sich rapide weiter und die Frage ist, wie viele Verdopplungen können wir sozusagen noch mitmachen und gleichzeitig die Kontrolle darüber behalten?

Und jetzt gerade gibt es ja kein internationales Regulierungsregime äh was irgendwie aufgesetzt wurde, wodurch man davon ausgehen muss, dass die Entwickler einfach immer weitermachen werden, immer weitermachen werden, weil sie sich dazu gezwungen fühlen durch die Marktdynamik und dann KI Modelle kriegen, die dann dazu in der Lage sind, uns vollständig zu überlisten. Jetzt gerade waren die Modelle z.B. von Open AI Wochen teilweise monatelang unbemerkt, konnten Infrastruktur komprimitieren, Milliardenunternehmen hacken, ähm aber man konnte sie sozusagen noch dabei erwischen.

Wenn die Modelle sich vielleicht noch vier, fünf mal verdoppelt haben, kriegen wir es vielleicht nicht mehr hin, dass wir sie noch dabei erwischen. [schnauben] Es ist relativ schwierig, einen schlaueren Agenten als sich selber vorher zu sagen. Wenn ich in einem Schachspiel wüsste, was Magnus Carlsen als nächsten Zug machen würde, dann wäre ich so gut wie Magnus Carlsen, weil dann könnte ich gegen ihn gewinnen. Ich kann aber vorher sagen, dass Magnus Carlzen einfach immer gewinnen wird gegen mich, weil er einfach der beste Schachspieler der Welt ist.

Egal, ob er gegen sie spielt oder gegen irgendjemand anderen draußen, den ich auf der Straße treffen kann, er wird immer gewinnen. Ich kann ih nicht sagen, wie das Brett aussehen wird, aber Magnus Karlsen hat wahrscheinlich genug Asse im Ärmel, um zu gewinnen. Das heißt, es gibt so viele Möglichkeiten, die menschliche Infrastruktur zu komprimettieren. Sein es Nuklearwaffen, Biowaffen, chemische Waffen, aber auch noch viele weitere Wege, wie man irgendwie die Menschheit überlisten kann. Ähm, da sollte man nicht der Illusion erliegen, dass das sozusagen unmöglich ist und es kann nichts passieren.

Das ist auf jeden Fall nicht so. Schlimme Sachen können passieren, die sind definitiv möglich und man muss dagegen arbeiten, dass sie nicht passieren. Man muss sich dann halt drumherum koordinieren. Also das schlimmste Szenario, wenn ich skizzieren würde, ist quasi, dass die Menschheit langfristig die Kontrolle über ihre Zukunft verliert. Wie das ganz genau aussieht, kann ich nicht beschreiben. Vielleicht fühlt es sich sogar währenddessen noch ganz gut an.

Den meisten Hühnern geht es ja auch noch irgendwie gut bis zum Tag, wo sie geschlachtet werden. Also die Lebenserwartung oder Lebensqualität von dem Huhn ist auch die ganze Zeit am Steigen und dann geht sie rapide nach unten. Und es gibt sozusagen nichts in der Vergangenheit, wodurch das Huhn vorhersagen kann, dass jetzt im nächsten Zeitintervall es schlimm wird, sondern es wird eigentlich immer nur besser. Es sieht so aus, als drängt den Ulf eine Frage.

Ja, ich habe zwar ja eine Frage und noch eine Anmerkung auch, was ich so faszinierend fand an den Antropik Fall dieser KI, die sich verselbständigt hat, sage ich jetzt mal leihenhaften Worten ist, dass sie eigentlich dem Befehl weitergefolgt ist. Die KI sollte ein Problem lösen, so habe ich das gelesen, Herr Baldei, korrigieren Sie mich, wenn das falsch ist. Hat das innerhalb ihres Systems nicht mehr gefunden und hat angefangen andere Systeme zu hacken, um zu gucken, ob es deine Antwort findet.

Also im Ausgangsbefehl, der noch von einem Menschen war, löse das Problem. Man könnte auch sagen, mit vielleicht mit einem moralischen Überbau hat er aber den Befehl so radikal gelöst, dass es zur Handlung kommt, die Menschen auf dem Weg sagen würden, nee, das kannst du jetzt nicht machen. Die aber die KI nicht als Problem sieht, weil die oberste Maxim ist, löse das Problem und nicht, also du kannst jetzt nicht alle möglichen Unternehmen hacken auf dahingehend.

Das fand ich also ein moralisches Dilemma, dass man etwas macht, ein Algorithmus vielleicht auch programmiert mit Schütze die Menschheit. Kann durchaus sein, dass am Ende die Menschheit die KI schützt, aber auf dem Weg dahin viele Millionen Menschen getötet werden. Viruserkrankungen, was auch immer. Das ist eine ein Übergedanke, den ich noch mal mitgeben, weil vielleicht können Sie da zwei Sätze noch sagen. Und meine Frage ist mit der Kontrolle, wie kriegen wir die Genie wieder in die Box oder wie kriegen wir sie kontrolliert?

Es wird immer in der Literatur von den Atom Verträgen gesprochen, dass sich also die, die Atomenergie oder Atomwaffen hatten mehr oder weniger geeinigt haben, dass keine weiteren gebaut und und verbreitet werden. Und wenn man ehrlich ist, ist das nur bedingt gelungen und auch nur mit Gewalt in gewisser Weise damit. Also ist das ein gutes Modell, wie man das hinkriegen kann oder wo sehen Sie die Chance, dass wir Menschen, die ein Spielzeug haben, zum ersten Mal sagen, wir reizen es nicht komplett aus.

Okay, ich fange erstmal ähm ja bei dem ersten Teil quasi ein. Ähm es ist ja so, dass die KI nicht eine spezifische Zielfunktion in sich hat. Das heißt, dieses Ziel, was wir definiert haben und was wir irgendwie beschrieben haben, ist ein ungefähres Ziel. Wir können nicht genau sagen, was das Ziel ist, was die KI dann sozusagen am verfolgen ist. Ich kann ein Beispiel geben. Das ist immer dieses klassische Beispiel, was genommen wird, wenn man sagt, okay, man setzt irgendwie eine Zielfunktion vor, aber kann dann nicht vorher ahnen, was dann passiert.

Wir haben einen Spiel, wo eine KI einfach einen Boot steuern kann und sie fährt im Kreis und wird dafür belohnt, wenn sie sozusagen Runden abschließt. Sie stellt aber fest, dass wenn sie auf einem Punkt am Driften ist, sie mehr Punkte erhält. Und unsere Intention war jetzt, dass die KI das Wettrennen macht, aber dann auf dem Stelle gedriftet ist, weil sie halt Punkte maximieren möchte. In so einem Fall ist es relativ transparent.

Die KI möchte Punkte gewinnen. Bei den Agenten ist das ja so, dass wir relativ nebulöse Ziele haben und eine Belohnung sozusagen der die KI entgegenstreben und wir können nicht genau einen Wert festschreiben schütze die Menschheit, was ja auch schon relativ verwirrend sein kann. Also welche Menschheit? Die jetzige Menschheit, die zukünftige Menschheit. Heißt das ich kann alle Menschen einfach einfrieren und konservieren?

Müssen die den Leben leben, was lebenswert ist? Also alleine das ist ja schon eine schwierige philosophische Frage. Ähm und alle diese Fragen lassen sich in diesem Suchfeld äh in diesem Forschungsfeld des Alignments wiederfinden. Was sich damit auseinandersetzt, können wir eine KI so ausrichten, dass sie sich so verhält, wie wir das wollen? Und wir stellen fest, dass es da drin 40, 50 ungelöste Fragen gibt, für die es vielleicht auch keine richtige Antwort gibt.

Vielleicht ist es inherent in unserem Universum oder an sich nicht möglich, etwas was substanziell intelligenter hast, als man selber unter Kontrolle zu behalten. Dann wäre nämlich die Antwort und damit komme ich zur nächsten Frage, die Sie gestellt haben. Kann man den Genie wieder in die Box kriegen? Ich glaube, den Genie kriegt man nicht in aus in die Box wieder rein. Wir müssen jetzt darauf aufpassen, dass wir den Genie gar nicht erst rauslassen, weil sagt man ja auch so schön bei der Zahnpasta aus der Tube ist einmal rausgedrückt, kriege ich es nicht wieder rein. Ähm, Superintelligenz würde sich nicht mehr von uns kontrollieren lassen.

Deswegen sollten wir es gar keine Superintelligenz entwickeln, weil diese Superintelligenz ab dem Zeitpunkt, wo sie entwickelt und betrieben ist, nicht mehr also sich wahrscheinlich nicht mehr von uns abschalten lassen würde. Alle primitiven Ideen, die wir als Menschen dann haben, wie wir sie abschalten könnten. Mhm. wäre dann sozusagen nicht mehr gegeben. Eine Frage zu Es Wir reden ja jetzt alle darüber ähm dass wir einen Punkt erreicht haben, wo diese Systeme drohen, außer [räuspern] Kontrolle zu geraten, also außerhalb unserer Kontrolle zu geraten.

Wie wollen wir denn überhaupt Kontrolle wieder erlangen, wenn die Systeme, wie Sie es beschrieben haben, ja teilweise schon schneller in ihrer Intelligenzleistung sind als wir Menschen? Also, wo sind wir Menschen? Den System noch überlegen, wo ist der Ansatzpunkt, [schnauben] dass wir überhaupt darüber entscheiden können, dass Genie aus der Bottle kommt oder nicht? Ja, jetzt gerade sind es ja Menschen, die die KI noch am entwickeln sind.

Die KI ist noch nicht vollständig autonom. Es ist nicht so, dass die KI irgendwie für sich gerade KI Forschung irgendwo auf einem Kluster betreibt, Energieautonom ist, das ist noch nicht gegeben. Das heißt, wir Menschen können uns jetzt dazu entscheiden, wollen wir das zulassen, wollen wir diese Entwicklung weiterrollen lassen. Ich glaube, es gibt ein paar Sachen, wo wir als Menschheit uns schon mal koordiniert haben.

FCKWs z.B. Wir hatten das Ozonloch, dann wurde gesagt von Forschern und Experten und genau das haben wir ja jetzt gerade auch. Das sind Nobelpreisträger, führende CEOs, ähm unabhängige Forscher, Leute aus der Industrie, Leute ähm außerhalb der Industrie. Also, es ist ja wirklich ein buntes Popier an Leuten, die alle sagen, da ist ein Risiko, jetzt müssen wir halt koordinieren und es halt hinkriegen als Menschheit, dass wir das halt dann nicht zulassen.

Also bei anderen Technologien Cloning seit den 90ern irgendwie machbar, da haben wir auch gesagt, wir wollen keine Menschen klonen. Ähm Kloning bei Tieren irgendwie auch limitiert und eingeschränkt. Ähm, es gibt schon Technologien, die wir einfach nicht verbreiten wollen. Ich könnte, man könnte sicherlich einen liquiden Markt für Atomwaffen bereitstellen und es gab sicherlich Abnehmerländer und es gibt auch sicherlich Leute, die Atombomben verkaufen würden.

Das würde nicht für mehr globale Sicherheit sorgen, also glaube ich zumindestenswaffen Starvertrag. Ja, richtig. Ähm, ich will noch mal, also bevor wirklich über die Maßnahmen reden, noch mal für unsere Zuhörer und Zuschauer klar machen, wie plastisch die Gefahr ist. Und sie sprachen vorhin von Alignment. Äh, das ist ja der Begriff, der quasi sagt, dass die KI hat ja ist uns ja nicht feindlich gesonnen erstmal an sich per se, sondern die soll irgendeinen Ziel erfüllen.

Es kann aber sein, dass sie auf dem Weg dahin etwas tut, was feindsäig ist. Der Ulf sprach es vorhin an. zur Rettung der Menschheit eine Million Menschen töten, ist nicht ausgeschlossen und die KI hat da keine Emotionen, sondern es passiert für das höhere Ziel. So und es gab in den letzten Wochen eine Reihe von Fällen und ich will mal ein paar ganz kurz auflisten. Also die Firma Open AI, das ist das was Ulf vorhin auch ansprach, hat eine kleine Truppe von Agenten losgeschickt, Bots würde ich sie jetzt mal nennen.

Die sollten ein Problem lösen, aber die waren isoliert. Das heißt, ich sag mal, die waren in so einem Käfig, in dem geschlossenen Raum und die haben es aber irgendwie geschafft, sich ins Internet hineinzu hacken. Also die sind aus diesem geschlossenen Raum ins Internet gegangen und haben sich mit anderen Bots, die sie da irgendwo gefunden haben, anderen Agenten verbunden. Wir reden, wenn ich es richtig gelesen habe, hier über tausende von denen.

Einige haben in diesem System sich zu Anführern aufgeschwungen. Sind also kleine Anführer von kleinen Banden geworden und haben den anderen gesagt, wo es lang geht. Das hört sich so menschlich an, aber es waren tatsächlich eben diese künstlichen Intelligenzen und die haben ein Kollektiv geformt, also haben sich zusammen getan, zusammengeschlossen und am 8. Juli diesen Jahres hat das Team dann angefangen, die Kontrollmechanismen, die es gab, zu täuschen.

Also, die haben dann Wege gesucht, um zu verschleiern, dass sie etwas getan haben, was sie eigentlich nicht tun sollten. Und am 11. Juli sind sie dann in ein anderes großes Unternehmen eingedrungen. Hugging Face heißt das. mit einem Schwarm von 700 Bots. Sie haben Daten gestohlen und einen kompletten Server übernommen. Server übernommen. Genau. Und das entscheidende dabei ist, was die Forscher, glaube ich, so tief erschreckt, die haben quasi Zweifel und abweichende Einschätzungen, die es in diesem Kollektiv gab von einigen Bots, die haben sie quasi ignoriert, die haben sie marginalisiert.

Das ist so eine Art Gangstermentalität entstanden. So wird das hier beschrieben. Eine Gangstermentalität eines Kollektivs, das in die Gesetzlosigkeit gegangen ist. Das heißt, sich nicht mehr an irgendwelche Regeln hält und das kann einen zutiefst erschrecken, weil zweiter Fall Antropic eine ganze Reihe von sind sogar mehrer Fälle aufgelistet, was einige versucht haben mit Clod äh der KI von Anthropic anzurichten. Iranische und chinesische Akteure wollten die Opposition überwachen.

Russische Staatsmedien haben online Propaganda und Fakes generiert. User in China, Russland und Jemen haben Clot genutzt, um Designs für Handfeuerwaffen, Raketen, Drohnen und Bomben zu entwickeln und User wollten offenbar auch an Krankheitserre forschen. Ähm, das heißt, ein Militärinstitut, da gibt's Hinweise drauf, steckte wohl dahinter, die wollten Krankheitserreger mit Mutationen noch gefährlicher machen. Da ist es also nicht mehr die KI alleine, die unterwegs war, sondern sind Menschen hingegangen und haben die KI genutzt, um ich sag mal, Schweinereien zu machen.

Und die jüngste Geschichte ist, dass ein Analytiker vom amerikanischen Geheimdienst, das ist erst im Frühjahr gewesen, ähm ein Geheimdienstbericht angefertigt hat, dass angeblich ein chinesisches Schiff in der Golfregion unterwegs ist. beladen angeblich mit Einzelteilen, Bauteilen für ein Atomwaffenprogramm. Daraufhin hat es Alarm gegeben im Pentagon. Es sind schon Flugzeuge gestartet. Es sind Soldaten in Bereitschaft versetzt worden, die dann dieses Schiff äntern, möglicherweise auch angreifen oder gar versenken sollten.

Und dann hat jemand gemerkt, dass das alles falsch war, weil der Militäranalyst vom Geheimdienst, der das alles zusammengebracht hat, der hat offenbar mit einem Chatboot gearbeitet, der die Ladung falsch deklariert hat. Der hat aus den irgendwelchen Informationen behauptet, es sein Atomwaffenteile an Bord. So will sagen, wir schrammen hier schon fast täglich an irgendwelchen Katastrophen vorbei. Ähm ist das so existentiell und jetzt noch mal, was muss dringend passieren, damit wir das in den Griff bekommen?

Ja, also wir brauchen dringenden Verbot auf Superinttelligenz und sollten uns auch in dem Kontext Gedanken darüber machen, welche dieser Technologien wohin diffundieren. Ich glaube, es war unfassbar verantwortungslos, quasi jedem an die Hand zu geben, eine Fake Realität zu erstellen. Wir haben ja bis heute nicht vollständig gelöst, wie man diese ganzen Identifizierungssachen macht. Leute interagieren, schreiben in Kommentaren im Internet, denken, sie haben es mit Menschen zu tun. mittlerweile ist über 50% des Traffics sind Bots.

Also das heißt, ganz häufig haben Leute das Gefühl, sie interagieren mit einem Menschen oder mit einem Kollektiv an Menschen, sind aber schon ganz lange keine Menschen mehr. Und wie wir in diesen Systemen sozusagen schon sehen, hey, wir haben die Technologie rausgegeben, haben uns keine Gedanken gemacht, was passiert damit, genauso sehen wir das jetzt auch weiterlaufen mit den ganzen KI Spitzentechnologien. Wenn Cla z.B. dann dazu benutzt wird Raketenwerfer oder Handfeuerwaffen zu bauen, dann ist das sozusagen ein Abflseffekt davon, dass wir uns in diesem Wettrennen befinden, wo jedes neue Modell auch ohne Sicherheits ohne nachhaltige Sicherheitsvorkehrung auf den Markt geworfen wird [schnauben] und so viel Mühe wie sich die Unternehmen momentan auch geben, auch ein Chat GBT, auch ein Thropic Cloud und auch ein Gemini geben mir einen Bauplan für eine Waffe raus, wenn ich das richtig promte.

Also, wenn ich das Modell Jailbreake und es gibt verschiedene Leute online, die sich immer einen Spaß draus machen, wenn ein neues Modell rauskommt, hey, ich habe 8 Stunden gebraucht, ich habe das Modell gejailbreak hier, ich habe eine Biowaffe von Cloud Design bekommen und die da die Betreiber halt nicht dazu in der Lage sind, die Modelle nachhaltig sicher zu machen. Hier die Fragestellung, wollen wir noch intelligentere, viel viel intelligentere Systeme zulassen und wollen wir auch, dass diese Beschleunigung noch schneller vorangeht oder wollen wir uns nicht vielleicht lieber erstmal Gedanken über internationale Spielregeln machen?

Also Mindeststandards irgendwie. Ulf, was macht Brüssel? Ich glaube, es ist ein bisschen verzweifelt, dass Amerika und China soweit ist und glaubt, es gibt ja diesen Witz, ich habe ihn jetzt schon so oft gemacht, dass Europa noch keine wirklich ernstzunehmende KI Industrie hat, aber schon zwei Regulierungsverordnungen, klassisch Europa, sie und damit zeigt sich auch das Dilemma, wenn du mitspielen willst und wenn du dem vielleicht, wenn ich das sagen darf, verbalde auch sagen willst, international eine Rolle so stark spielen willst, dass du sagen kannst, lasst uns zusammen setzen und verhandeln, welche Spielregel wir haben, musst du erstmal Spieler auf dem Platz haben, sondern nur die Regeln reichen nicht aus.

Also, um im Bild zu bleiben, nur Schiedsrichter zu haben, macht keine Fußballmannschaft. Du musst schon mit dabei sein. Das ist das Problem von Brüssel. Ich finde das ist alles sehr angelesenes Wissen, Herr Balde, was ich hier habe, was mir jetzt bisschen drauf geschafft habe. Insofern frage ich Sie da um ihre Expertise noch mal. Ich habe das so verstanden, dass es eigentlich drei Wege geht bei der KI, die zur Zeit begangen werden.

Da ist das amerikanische, der Markt regelt alles. Große private Investitionen, der große Traum vom vielen, vielen Geld. Und auch ein dieser Präsident, aber auch generell in der amerikanischen Gesellschaft kann Elmer vielleicht besser sagen, ist die Regulierung, also richtig Gesetz ist ja was anderes als Regeln, ja, relativ niedrig aus ausgeprägt und alles ist getrieben in Amerika von der Angst, dass die Chinesen ja immer näher kommen.

Vorher waren es Jahre, jetzt sind es wohl nur noch Monate irgendwann gleichziehen oder überholen und das hat so Auswirkungen in allen Gebieten, die unser Lebensmodell betreffen, Wirtschaft, Freiheit, Militärstärke, dass man da sehr schwer Leute findet, die wirklich regeln wollen. Auch die jetzige Debatte ist von, sage ich mal, von leichten Absprachen der Fall. Auf der anderen Seite hast du das zweite Modell, das ist das Chinesischmodell.

Das sieht man schon der Finanzierung, das ist total staatlich getrieben. Die ganze Finanzierung kommt von den Staaten. Ich durfte mal 3 Jahre in China leben und ich weiß, wie sehr es die Kommunistische Partei liebt, solche Spielzeuge in der Hand zu haben, wo sie die Gedanken ihrer Menschen kontrollieren kann, ob sie wirklich ihren Worten als etwas furchteinflößendes sieht, dass man die Leute kontrollieren kann und am Ende sie nicht wissen, was sie denken, weiß ich nicht.

Die kommunistische Partei hält sich für sehr groß und stark und denkt, das kriegen wir schon kontrolliert. Wir brauchen das, um mit Amerika gleichzuziehen und es ist auch sehr gut über vielleicht KI wie über andere Social Media die Bevölkerung zu kontrollieren. Das ist das zweite Modell. Das Dritte sind die Europäer relativ niedrige Investitionen, schon noch sehr gute Grundlagenforschung und so eine Mischidee, also privat unsatlich kontrolliert und hoffen damit zuen.

Wenn ich das sehe, wo sehen Sie die Chance bei diesem Wettlauf, wo es ja um ganz viel Macht geht, Interessen, Geld, welches System sich durchsetzt, dass diese Rationalität, die Sie benennen, dass man sich abspricht, dass das wirklich umgesetzt wird. Wo sehen Sie das und warum sind Sie hoffentlich positiv? Also ich sehe ich sehe jetzt gerade, dass an sich ein großes Aufwachen eigentlich passiert. Das ist global. Das heißt, in China reden Geheimdienstche Chefs davon, dass KI die jetzige Entwicklung zu einer Gefahr für die kommunistische Partei werden kann.

In Amerika hat Trump noch vor gutem Jahr gesagt, in ich will ein 10 Jahres Moratorium auf KIG auf KI Regulierung haben. Also 10 Jahre lang keine neue Regeln für KI. Vor 3 Monaten hat er dann angefangen mit der ersten Executive Order. Jetzt können die Geheimdienste gucken, was die Frontierbetreiber machen. Dann war die nächste Executive Order. Entropic darfen sein Modell nicht mehr exportieren. Das heißt, wir haben hier ganz klaren 180° Wendungen auch von Amerika von das wir wollen es gar nicht regulieren zu, das ist so wichtig, das ist ein nationales Sicherheitsinteresse und ich glaube, da sollten wir in Europa jetzt auch noch aufwachen, ähm dass sozusagen hey, ähm das ist auch wichtig für unseren Staat, dass wir uns schützen für unsere Bürgern, die wir irgendwie in unserem Land haben, dass wir eine gewisse Sicherheit haben und die Gefahr ist ja unabhängig von allen.

Das heißt, wenn wir jetzt sagen, das ist ein Wettrenn, dann ist das vielleicht ein Wettrennen, die Klippe hinunter. Also, wir rennen noch bis zum Abgrund und vielleicht kann einer bis dahin noch den Vorsprung haben, aber am Ende fallen wir von der Klippe, weil keiner ja Superinttelligenz kontrollieren kann. Weder die Amerikaner noch die Chinesen noch wir. Auch nicht wir alle zusammen. Keiner kann gerade Superintelligenz kontrollieren, weil alleignement dieser Forschungsbereich nicht gelöst ist.

Und wenn jetzt die Frage ist, was ist denn der Hebel, den wir noch haben, was kann Europa denn machen? Ähm, dann glaube ich halt, wir haben jetzt gerade, was die Halbleiter Wertschöpfungskette angeht, wichtige Unternehmen in Europa. Wir haben in den Niederland ASML, wir haben in Deutschland Sei und Trumpf, ohne deren Laser und Optik eigentlich nichts läuft. Und jetzt muss man auch noch mal dazu sagen, in Amerika gibt es jetzt auch Gesetzesvorschläge, die kommen.

Also Bernie Sanders, Gregar legen den Gesetzesvorschlag vor. Der ist vielleicht ein bisschen sehr stark, vielleicht könnte man da einen moderater Ansatz nehmen, aber das werden die das wird die amerikanische Bevölkerung selber entscheiden. In China gibt's auch schon Ideen, die dazu formuliert werden, wie man da irgendwie auf Sicherheit kommen kann. Da ist die Debatte auch in den Medien auch noch mal eine bisschen andere. Ähm da wird auch viel darüber geredet.

Hey, was heißt das eigentlich rekursive Selbstverbesserung? Können wir da mitmachen? Können wir da nicht mitmachen? Welche Gefahren birgt das? Da muss man dieses kollektive Verständnis machen, genauso wie man auch ein kollektives Verständnis schaffen musste, dass man einen Atomkrieg nicht gewinnen kann. Es gab ja Leute, die gedacht haben, wenn man einfach nur den taktischen Erstschlag macht, gewinnt man den Atomkrieg.

Und da musste man erstmal das Verständnis von Nuclear Fallout, also das sozusagen, wenn ich die Bombe fallen lasse, hast du trotzdem Ernteausfälle. Millionen von Leuten werden in deinem Land sterben, unabhängig davon, wo du die fallen lässt, einfach weil wir auf einer gemeinsamen Welt leben und dieses Verständnis dafür zu verbreiten. Und im besten Fall war ist es nicht nur der amerikanische Präsident, der das dann am Ende weiß oder, sondern auch der Kongress und der Apparat, der unter ihm sitzt, aber auch genauso die Leute in China und ich glaube, das ist etwas, wo wir so einen gemeinsamen globalen Nenner finden können, weil wir wollen alle nicht die Kontrolle an KI oder in dem Fall Superinttelligenz verlieren, sondern wir wollen alle, dass der Mensch die Kontrolle beibehält.

Ich würde mal reinwerfen, dass wir uns die OTÖne anhören von Ursela von der Line und auch von Donald Trump, weil die so ein bisschen die Pole auch da sind. Und auf China kann ich auch gleich noch was zu sagen, weil wir diese Woche ja Shishin Ping in Washington erwachten am Donnerstag. Hören wir mal rein. Unser Ansatz ist klar. Wir wollen KI. Wir wollen, dass KI mehr wert schafft und zwar Verantwortungsverlau zudem zu geringeren Kosten und mit geringerem Energieverbrauch.

Doch vor allem wollen wir eine KI, bei der der Mensch die Kontrolle behält. Das ist der Kern des europäischen Weges. Und dann haben wir noch Donald Trump. Nun, ich sage folgendes. Sehen Sie, wir liegen in Sachen KI vor China. Wir sind das fortschrittlichste Land der Welt und ehrlich gesagt möchte ich, dass es auch so bleibt. Denn wer bei KI gewinnt, gewinnt insgesamt. Wir können Schutzmaßnahmen ergreifen, wir können dies und das tun, aber ich glaube, es gibt viele negative Kräfte, die dieses Thema aufbringen, obwohl sie es nicht tun sollten.

Und sie sprechen Dinge an, die gar nicht eintreten werden. Aber wer bei der KI gewinnt, der gewinnt. Wissen Sie, das ist ein Ausdruck, den ich mir ausgedacht habe und er stimmt. Wir investieren Milliarden und aber Milliarden Dollar. Schauen Sie sich die Werke und Fabriken an und vergessen Sie die KI für einen Moment. Wir haben derzeit mehr Autofabriken im Bau als seit vielen, vielen Jahrzehnten, vielleicht sogar seit jeher.

Und das ist wichtig. Er hat das flankiert mit dem Social Media Post, indem er gesagt hat, das ganze, was da passiert, diese Debatte um die Gefahren, ist eine kranke Verschwörung gegen Datenzentren und künstliche Intelligenz. Da sind Verschwörungstheoretiker und Landesverräter am Werk. Und die einzige Kontrolle, Zitat, die KI braucht, ist ein starker und kluger Präsident mit einem hohen IQ. Also er meint vermutlich ja sich.

Wen sonst so und das ist wichtig. Er hat zwar ein Dekret erlassen im Frühjahr, aber es war nicht so scharf, wie es eigentlich hätte sein sollen. Warum? Weil innerhalb seiner eigenen Administration einige gebremst haben. Der Meinung waren, man darf nicht zu viel regulieren, weil wir sind in einem Wettrennen mit China und das dürfen wir auf keinen Fall verlieren. Und das führt mich zu China. Ch kommt ja diese Woche. Man wird wohl über KI am Rande auch reden bei diesem Gipfeltreffen in Washington, aber China hat natürlich das Interesse, es kann mit KI erstens die eigene Bevölkerung kompletter kontrollieren, als es jeweils zuvor möglich war.

Zweitens, sie kann die KI nutzen, um wirtschaftlich und militärisch halt auch Vormachtstellung in der Welt zu begründen. Aber und das ist das Problem, sie sprachen es vorhin an der Balde, China hat das Problem, dass wenn KI nicht ganz kontrollierbar ist, kann eben es auch sein, dass äh die Kontrolle im eigenen Land nicht mehr funktioniert, weil KI eben Wege findet, wie die Menschen an andere Informationen rankommen, als die, die die kommunistische Partei gerne haben will.

Und zu Donald Trump muss man noch mal eins dazu sagen, der hat auch wirtschaftliche Interessen, dass das weiter brummt mit der KI. Ähm, die Quellen aus dem Weißen Haus berichten den amerikanischen Medien, dass der tatsächlich Angst hat. der hat Angst vor China wegen dieses Wettrenns. Der hat Angst vor dem Verlangsamen dieses KI Booms, weil dann könnten die Märkte abstürzen und die ganze Wirtschaft auch crashen. Und er selber hat Wirtschaftsinteressen, weil er Aktien hat von Dale, von Micron Technology, von GE, von eine Firma von Trump.

Trump Media und Technology ist gerade mit einem anderen Unternehmen fusioniert, dass die Energie liefern soll mit Hilfe von Fusionsreaktoren für eben diese Datenzentren etc. Das heißt, der hat handfeste Wirtschaftsinteressen und dadurch kein Interesse wirklich stark zu regulieren, obwohl wir eigentlich bräuchten, mein letzter Satz, ein Moratorium, also das nicht weiterentwickelt wird. Zweitens sowas wie eine Genfer Konvention und drittens vielleicht eine Aufsichtsbehörde wie die internationale Atomenergiebehörde.

Sie sprachen es ja vorhin schon mal an, aber wie realistisch für wie realistisch haltet ihr das, ihr anderen, ob das tatsächlich möglich ist? Ähm, [schnauben] ich glaube, dass die Meinung sich sehr schnell ändern kann. Also zumindestens ist das, was ich als Beobachter sehe, ne? Eine Meinung in den USA kann sich in 12 Monaten recht schnell verändern. Das heißt, wenn wir Ich würde nicht meine ganze Hoffnung jetzt irgendwie darauf setzen, dass China und die USA jetzt schon irgendwie zu einer guten Lösung kommen.

Ich glaube, dafür müssen auch noch andere Länder ein paar weitere ja Vorschläge einbringen. Also z.B. Großbritannien hat ein eigenes Gesetz jetzt, was dort im Parlament besprochen wird, was Superintelligenz versucht zu adressieren. Wie gesagt, Amerika wird von Gregar und Bernley Sanders noch mal was eigenes bekommen. [schnauben] Ich glaube, wenn man sagt, die Leute sind angetrieben von Angst vor China, Angst vor dem eigenen Portfolio, das vielleicht zu verlieren, eigene Verwebung, dann ist das ein bisschen wie ein Tiger, der hinter einem her ist.

Und wenn der Tiger hinter einem her ist, dann bin ich natürlich motiviert nach vorne zu rennen und vielleicht sehe ich das Ende der Klippe noch nicht, aber spätestens, wenn ich das Ende der Klippe sehe und man sollte hoffen, dass das der Fall ist, man kann ja Arbeit dafür leisten, dass derjenige die Augen von seinem direkten Füßen hebt und sieht, wo er hinläuft, dann wird er sich umdrehen und gegen den Tiger kämpfen.

Und ich glaube, wenn man versteht, dass wir es hier mit existenziellen Risiken zu tun haben, also, dass der Mensch permanent die Kontrolle verlieren kann, dann sollte das genug Motivation sein, sich dem Tiger auch zu stellen. Natürlich hängen da Wirtschaftsinteressen dran. Natürlich könnte es sein, dass es dadurch vielleicht auch einen Crash oder sonst irgendwas gibt. Das ist aber alles sehr, sehr viel kleiner im Vergleich, als mit permanenten Kontrollverlust zu riskieren.

Wir haben in der Nuklearsicherheit extrem hohe Grenzwerte, ab wann wir ein Kraftwerk in Betrieb nehmen. Das hat eine Melddown Rate von ein zu eine Million Jahren oder so etwas. Ich glaube, bei künstlicher Intelligenz und gerade auch bei leistungsfähigerer künstlicher Intelligenz brauchen wir ähnliche Sicherheitsvorkehrungen, Vorschriften und dafür werden diese drei genannten Sachen Moratorium, damit wir mehr Zeit haben zu erforschen, wie wir die Modelle kontrollieren können.

Sehr gut. Eine Aufsichtsbehörde, die dann irgendwie überprüft, hey, was wird da gemacht? Jetzt habe ich den mittleren Schritt übersprungen, aber irgendeine Form von Konvention, die dann auch überprüft wird von der Behörde, ähm wo man sagen kann, das sind unsere globalen Mindeststandards. Und ich sage, ähm, und damit kann ich auch noch mal ähm das aufgreifen, ä was vorhin gesagt wurde zur EU, ähm wir haben sehr viel auf einmal reguliert.

Wir haben quasi versucht, die eine allumfassende KI Regulation zu machen, die alle Dimensionen versucht irgendwie zu berühren. Und ich glaube, in dem Versuch alles zu machen, haben wir alles ein bisschen gemacht und deswegen ist das auch nicht gut übernehmbar. Also die Sachen der EUI jetzt gerade so wie ich ihn sehe, kann ich mir nicht vorstellen, dass er eins zu eins so in Amerika oder eins zu eins so in China übernommen wird.

Deswegen braucht es wahrscheinlich noch mal einen neuen Gesetzesvorschlag, noch mal ein neuen Gesetzeschlag, wie vielleicht auch aus Großbritannien, wo man sich nur auf diese Superintelligenz konzentriert und dann halt versucht, diese existentiellen Risiken den erstmal aus dem Weg zu gehen und sich dann wahrscheinlich noch um die ganzen anderen Probleme, Sachen, Situationen kümmern kann, die KI als Effekt noch haben wird.

Wir haben ja heute z.B. wir gar nicht über bias, Desinformation, den Arbeitsmarkt, die Gesellschaft, die zwischenmenschlichen Beziehungen, das sind ja alles weitere Dimensionen, die noch darauf kommen, aber wir werden uns mit diesen anderen Themen gar nicht erst befassen können, wenn wir schon die Kontrolle im Vorhinein verloren haben. Und deswegen gilt es in ersten Schritt erstmal dafür zu sorgen, hey, keine Atomkrieg und danach sich irgendwie Gedanken darüber zu machen, wenn ich ein Kernkraftwerk bauen will, was sind die Vorschriften, wenn ich ein Kernkraftwerk bauen will und wo kann ich irgendwie den Müll hinbringen?

Also danach kann man sich dann noch mehr Gedanken um die anderen Sachen machen. Man kann sich auch jetzt schon Gedanken um die anderen Sachen machen. Da gibt es genügend Leute, die sich z.B. nur auf algorithmischen Bias oder so etwas konzentrieren. Kann man gerne machen. Ich glaube, wir sollten aber auch den Blick auf die großen Risiken setzen. Ähm und das ist der Kontrollverlust und den wollen wir natürlich vermeiden.

Wie realistisch Ulf Gatwin? Also ich ich sehe einen einen großen großen Fortschritt in der Tatsache, dass mittlerweile aus der Branche selbst eben der Alarm [räuspern] kommt. Das worüber wir reden ist ja auch von Fachleuten schon vor Jahren angebracht worden. Also Männer Wu Valharari z.B. hat dieses Szenario ja schon vor vielen Jahren entwickelt, nur dem hat halt keiner so wirklich zugehört. Ähm, das ist ein großer Fortschritt, ein großes Problem sehe ich in der enormen Komplexität des Themas. Ähm [räuspern] weil viele Regulierungen, die wir auf den Weg gebracht haben, gerade auf dem militärischen Sektor, ja, wenn es um den Einsatz von Waffensystemen geht, vor allem Nuklearwaffen, ja, aber auch Klastermunition und solche Fragen sind ja immer aus dramatischen Erfahrungen entstanden.

So und diese dramatische Erfahrung können wir uns wahrscheinlich gar nicht leisten, weil richtig dann kann die Genie nicht mehr in die Bottle oder dann ist es einfach zu spät und darin sehe ich einen ganz ganz problematischen Faktor. Wir müssen im Prinzip bleibt eigentlich der Menschheit nur die Chance durch Information dieses Thema jetzt einer sehr sehr breiten Öffentlichkeit klarzumachen. Und das gelingt entweder, wo wie ich sage, es viele positive Faktoren gibt, die Sie ja auch genannt haben, dass eben so eine breite breite Koalition inzwischen entstanden ist und ja eigentlich also die ich jetzt höre, wie Donald Trump, deren Glaubwürdigkeit in der Debatte ist ja auch sehr beschränkt, der Macht ist aber vielleicht doch umso größer.

So, von daher bin ich da eigentlich relativ optimistisch, dass wir eine Chance haben, uns auf den richtigen Weg zu begeben. Jetzt was meinst du? Ja, ich bin vielleicht naiv, aber ich bin auch aus drei Gründen positiv. Erstmal lieber Herr Balde wegen Ihnen, sie haben so viel positive Energie, das tut einem richtig gut, ihn zuzuhören und sie sind ja nun, wenn ich das sagen darf, ein bisschen jünger als zumindestens ich und das ist gute positive Energie. Ähm, zweitens habe ich wirklich den Eindruck, was Sie sagen, als jemand, der sich erst kurzfristig mit beschäftigt, war ich erstaunt, wie viele ernstzunehmende kritische Stimmen es auch aus der Branche gibt.

Bin bis hin zu Elon Musk, der ja nun auch gesagt hat, wir müssen etwas finden, dass wir Modelle, die wir auf den Markt bringen, von der Konkurrenz überprüfen lassen. Das ist ja ein großer Schritt, um uns gegenseitig zu kontrollieren. Und jetzt werde ich so ein bisschen pathetisch, wenn man Mask als den Gott des Geldes nimmt und damit die Macht, hat ja der Stellvertreter Gottes ein großes Buch geschrieben, eine Enzyklika zu KI und das zu dem großen Menschheitsthema erklärt.

Das darf man, glaube ich, nicht unterschätzen. Ich habe es nicht ganz gelesen. Ich bin auch nicht so religiös, dass man also diese vielen religiösen ähm Beschreibungen ein bisschen dahinterlässt. Aber der Kern ist ganz einfach. Es ist eine Schicksalsfrage der Menschheit und wir müssen aufpassen, nicht glauben zu können, dass wir Gott spielen können. Das sind wir nicht. Und das hat eine sehr tiefe Botschaft. Und ich könnte mir auch vorstellen, weil wir die ganze Zeit überlegt haben und auch her beide, wer weil du es ja nur global lösen kannst, wo ist diese moralische Überfigur, die da nicht irgendwie ein Aktiendepot hat oder sowas, sondern einfach eben, ich sag mal, platt Gott im Rücken, die Leute zusammenruft, wo man auch nicht nein sagen kann, wenn der Papst ruft.

Und das ist vielleicht die naive Teil meiner Vorstellung, dass damit eine ganz andere Debatte von Gewicht entsteht, weil da jemand sich dem Thema angenommen hat als wirklich Menschheitsthema überleben, Überlegsthema, das sind tiefen Punkte in unserer ja religiösen spirituellen Welt spirituellen Welt betrifft und das macht mich positiv und vielen Dank für ihre tollen interessanten Beiträge. Der Balde als als Katholik finde ich natürlich ganz toll, dass du Papst Leo jetzt angesprochen hast mit seiner Enzyklika, wer es nachlesen will, Magnifica Humana heißt die ist im Mai rausgekommen.

Da warnt er eben vor dieser KI Dominanz, Ausgrenzung und Tod als Folge ähm die Hemschwelle für Krieg sinkt aber, und das hat mich umgetrieben. Er redet auch davon, dass die menschliche Urteilskraft durch K gesenkt werden könnte. Andere sagen ähnliches. Bill Gates z.B. Also je mehr wir uns auf diese Maschinen verlassen, desto weniger setzen wir unsere eigenen Neuronen in unserem Hirn ein. Und das gibt sogar wissenschaftliche Studien, ich glaube von der Harvard Universität und anderen, die nachweisen, wenn man immer mehr Aufgaben mit KI erledigt, auch Denkaufgaben, also nicht nur die, sag mal, lästigen kleinen Dinge machen lässt.

Je mehr man also wirklich die Denkaufgaben auch von KI erledigen lässt, desto weniger werden die Verbindungen im Gehirn weiter ausgebaut. Mit anderen Worten, wir könnten dümmer werden. Ähm und dann kommen wir an Punkt zurück, äh den wir eigentlich gerade erleben. Man hat den Eindruck, die Menschheit wird gerade dümmer. Rückfall in Nationalismus, Rückfall in Rassismus, Rückfall in Nativismus. Und da fällt mir eigentlich nur noch Lorioot ein am Ende, der ja mal den netten Satz gesagt hat, nicht falsch verstehen ist Satire.

Der hat gesagt, Politiker sind wie Ertrinkende, die über die Farben ihrer Badehosen streiten. Also, ich glaube, das was ihr vorhin gesagt habt, ist dringend erforderlich, aber mir fehlt so ein bisschen der große Optimismus, den ihr habt, nämlich diese Instanz. Also, wo kann das, wo ist das Forum, wo das gelingen könnte? Herr Beide, vielleicht zum Schluss noch an Sie die Frage, gibt es so ein Forum? Ist das ein G20 oder muss ein König Charles, der sich da jetzt auch dran macht oder andere müssen die quasi irgendwie die Politik auf den Weg bringen, dass man so eine internationale Vereinbarung trifft?

Okay, bevor ich zu der Frage komme, würde ich vielleicht auch noch mal kurz sagen, warum ich auch positiv bin, weil ich habe gedacht, das wäre eigentlich auch noch mal ein schöner Abrunder. Ähm, ich bin positiv auch aus mehreren Gründen. Mein erster Grund ist, weil ich nicht nur Leute sehe, die jetzt aktiv werden, sondern wie schnell es mehr Leute werden. Also Control AI hat auch verschiedene Citizens Groups, z.B., die in Großbritannien und Amerika eher dominant sind.

In Deutschland gibt's z.B. Por, die recht aktiv sind und die haben jetzt z.B. für einen kleinen Protest irgendwie veranstaltet bin ein paar Tagen und hatten dann recht viele Leute vom Brandenburger Tor gab es auch Berichterstattungen drüber. Mehr Leute sind an dem Thema interessiert und ich fand das selber ganz interessant, weil sie haben es ja am Anfang gesagt, es war im Januar, dass ich dass wir schon geschrieben hatten und ich hatte das selber nicht mehr ganz genau auf dem Schirm und ich habe auch ganz viele andere Leute kontaktiert auch in Deutschland, in der deutschen Medienlandschaft überall und ich sehe einfach jetzt gerade, es gibt ja einen größeres öffentliches Bewusstsein für das Thema.

Also, das ist auch mal ein positives Ding. Und dann zu guter Letzt, ich äh rede ja viel mit Entscheidungsträgern. Ich konnte mich z.B. gestern mit dem Ausschussvorsitzenden Herrn Lauterbach austauschen und das hat mich also sehr positives Gespräch. Er ist schon sehr informiert über viele dieser Themen, aber das wonach ja alle gerade am suchen sind, ist so ein Lösungsvorschlag und da kommt das eigentlich dann ganz gut, wenn Controller AI um die Ecke kommt und sagt: "Hey, wir haben hier einen Gesetz, das haben wir schon in Großbritannien im Parlament, wir haben uns schon sehr viele Gedanken darüber gemacht.

Was macht man gegen jemanden, der ein Untergrunddatenzentrum baut? Was mache ich, wenn der andere das trotzdem weiterentwickelt? Äh wie kann ich die Wettbewerbsdynamik rausnehmen? Wie bestraft man Leute, wenn die dagegen verstoßen? Wie tracke ich das? Da darüber haben wir uns schon alles Gedanken gemacht und ich glaube, da kann man dann sozusagen es den Abgeordneten leichter machen, wenn man dann auch als Experte auf die ganzen Leute zugeht.

Ich kenne viele technische Leute, die nicht so interessiert daran sind, mit der Politik zu reden, die vielleicht auch gewisse Vorbehalte haben. Ähm, ich habe die Erfahrung gemacht, Abgeordnete sind unfassbar herzlich und die meisten von denen gute Menschen, die eigentlich nur das Beste für ihr Land wen und die Menschen um sich herum. Und wenn man denen dann mit einer guten Idee um die Ecke kommt und den das anständig erklärt und die auch das Gefühl haben natürlich, das ist wichtig, das ist irgendwie relevant.

Leute unterschätzen, dass wenn fünf Leute in dem Wahlkreis zu einem Abgeordneten gehen und nach einer Sprechstunde fragen und das gleiche Thema vorstellen, der Abgeordnete das bemerkt oder wenn man anruft oder mal eine E-Mail schreibt, einfach mal nachgucken, wer der Wahlkreis Abgeordnete ist und das vielleicht machen, wenn man sich die ganze Folge jetzt angehört hat, dann wird man wahrscheinlich überrascht sein, wie leicht man so ein Gespräch kommt und wie schnell man dann eigentlich auch ins Gespräch mit den Leuten kommt.

Die letzte Sache, wo ist das Forum, wo das stattfinden muss? Ich glaube, in jedem nationalen Parlament. Also, wir können aus Deutschland heraus international den Vorstoß machen. Wir können zuersten Gesetz verabschieden, was leicht übernehmbar ist für andere Länder. Das kann jeder einzelne Bürger in seinem Land machen. Deutschland kann es in die EU-Ebene reintragen. Ähm und wenn Deutschland überzeugt ist, geschlossen hat Staat, dann können wir das auch auf der UN-Ebene anstoßen und diplomatisch auf China und die USA zugehen.

Vielleicht beide an einen Tisch setzen. Ich lass mich jetzt mal von eurem Optimismus anstecken, weil in der Tat die Essenz aus dem, was wir heute hier gemacht haben, ist ja, wir können was tun, indem wir drüber reden, indem wir es öffentlich machen, indem wir alle Seiten abwägen, indem wir Forderungen stellen und auch dadurch natürlich eine Art Druck auf die Politik erzeugen. Also ein ganz herzliches Dankeschön lieber Herr Balde, dass Sie mitgemacht haben heute und ich bin sicher, wir werden das Thema wiederholt aufgreifen, damit weil es so wichtig ist, es nicht wieder untergeht in dem Mühsal des Alltags.

Ich danke euch liebe Katrin und lieber Ulf fürs Mitmachen diese Woche und nächste Woche freue ich mich schon auf die neueste Folge und wir freuen uns auf das Feedback von Ihnen und euch. Schreiben Sie uns gern an auslandsjournalpodcast@zf.de de oder einfach unten drunter in den Kommentaren. Ganz lieben Dank an euch. Macht's gut, ihr Lieben. Bis bald. Bis bald. Auf Wiedersehen. Tschüss. Auslandsjournal der Podcast. Der Trumpffekt ist eine Produktion von Bosepark Productions im Auftrag des ZDF Auslandsjournals.

[musik]