Alexander Jungkunz

Herr Dabrock, alle paar Tage neue Meldungen über eine KI, die sich über Regeln hinwegsetzt. Die Hersteller vermelden das dann mit einer Mischung aus Stolz über das Können ihrer Produkte und Mahnungen, was da alles passieren könne… wie finden Sie das?((ContentAd))Es ist sehr schwierig, das einzuschätzen. Zum Teil stecken Marketing-Absichten dahinter – schaut mal, wir sind ganz vorne dabei. Aber das Ganze ist verbunden mit einem Spiel mit dem Feuer. Nicht mit einem kleinen Lagerfeuer, sondern einem hochexplosiven Gebräu.Also höchste Alarmstufe?Was sich da gerade tut, ist von weltgeschichtlicher Bedeutung. Ich bin zutiefst beunruhigt, welche Dynamik da zu erleben ist. Und dabei sind wir erst ganz am Anfang der KI-Entwicklung.Es geht rasend schnell.Und immer schneller. Was sich in letzter Zeit entwickelt, hat an Rasanz, das ist unfassbar. Da helfen Beschönigungen nichts.Wer beschönigt denn was?Manche sagen: „Die KI kann doch gar nicht denken, sie hat kein Bewusstsein“. Oder es kommt das Argument, dass die Kosten der Rechenzentren an Grenzen stoßen – auch das ist eine Beschönigung. Denn in China werden ähnliche Modelle mit deutlich weniger Aufwand betrieben, der globale Wettlauf ist voll im Gange.((Platzhalter))Welche Gefahren drohen?Man kann sich kaum vorstellen, was alles möglich ist. Dieser Fall zeigt, wie viel Täuschung da zu erleben ist. Man hackt sich ein, schafft Fake-Accounts – und wenn man erwischt wird, gibt man das als Fehler zu, arbeitet aber im Hintergrund weiter. Bei einem Menschen würde man da von subtiler Boshaftigkeit sprechen. Von daher: Höchste Eisenbahn, sich jenseits nationalstaatlicher Fokussierung auf Regeln zu einigen, die China und die USA mit einschließen müssen. Eine ungeheure Dramatik: Wir erleben einen Atomwaffen-Moment der künstlichen Intelligenz.Die KI handelt offenbar wie Menschen und ahmt Taten nach – auch verbrecherische. Wer trägt dafür eigentlich die Verantwortung?Ein zentraler Punkt. Der französische Soziologe Bruno Latour sprach von „Aktanten“ – sprich: Formen von Technik, die zwar kein Bewusstsein, aber eben Handlungsfähigkeit haben. Die können handeln – und sie zwingen uns, sie als Ko-Handelnde zu betrachten und ernst zu nehmen. Aber die einzigen, die für ihr Handeln Verantwortung übernehmen können, sind wir Menschen. Das Herausfordernde ist: Wir haben da – wie bei Goethes Zauberlehrling - Aktanten geschaffen, bei denen wir an die Grenzen der Kontrollierbarkeit kommen.((ContentAd))Bleiben wir beim Zauberlehrling: Da kommt am Ende ja der alte Meister und stoppt den eigenmächtigen Besen. Gibt es diesen Meister bei der KI noch?Das ist in der Tat die offene Frage. Und wenn es ihn gäbe: Wäre er in der Lage, den Besen mit einem Zauberspruch wieder in die Ecke zu bringen?((Platzhalter))Könnte er es?Es gibt Überlegungen, wie das gelingen könnte: Netzwerkbeschränkungen, Echtzeit-Monitoring, Sanktionen für Fehlverhalten…. Ich frage mich nur: Diese Maßnahmen richten sich am menschlichen Verhalten aus. Aber reicht das aus, um Modelle in Schach zu halten, die sich rasend schnell weiterentwickeln? Und solche Vorkehrungen – ich will den vermenschlichenden Ausdruck nicht vermeiden – arglistig unterlaufen. Oder ausschalten.Sind dann Regeln überhaupt durchsetzbar?Da bin ich nur ein Laie, der die Entwicklungen aus ethischer Sicht verfolgt. Mir scheint nun der Punkt gekommen für eine konzertierte Aktion der weltweit besten Fachleute aus der Branche und aus anderen Gebieten – auch aus der Zivilgesellschaft, Geisteswissenschaftler, Juristen und Politiker. Diese Leute müssen zusammenkommen und die realistischen Worst-Case-Szenarien durchspielen: Können wir das einfangen oder nicht?Was, wenn wir es nicht mehr einfangen können?Dann kann diese Entwicklung so nicht mehr weitergehen.Wer soll sie denn stoppen?<h3>„Da geht es ums nackte Überleben. Es kann nur einen Sieger geben.“</h3>Das ist das Problem. Blicken wir auf die USA. Da erleben wir einen echten Kampf der Giganten – technisch wie finanziell – zwischen den KI-Konkurrenten Anthropic und OpenAI. Ein unerbittlicher Wettbewerb, knallhart. Da geht es ums nackte Überleben – es kann nur einen Sieger geben. Momentan zieht Anthropic an OpenAI vorbei.Da wird sich niemand auf Regeln einlassen wollen bei so einem Kampf.In der Tat. Dass eine der beiden Firmen sagt: Wir reduzieren unser Geschäftsmodell – das ist extrem unwahrscheinlich. Denn wer als erster zuckt, hat verloren.Wobei viele KI-Pioniere selbst mehrfach eine Pause, ein Moratorium für die KI gefordert haben.Ja. Aber passiert ist nichts. Blicken wir mal zurück: Ich habe selbst die Stirn gerunzelt, als der legendäre Astrophysiker Stephen Hawking davon sprach, KI sei so einzuordnen wie die Atombombe. Und dann gab es diese Moratoriums-Forderungen.((ContentAd))Die erste unterschrieb auch Elon Musk.Ja – und da dachte ich: Der macht da nur mit, um im Hintergrund mit seinen Firmen aufholen zu können.Dann kam der zweite Brief.Den unterschrieb auch Open-AI-Gründer Sam Altman. Da hieß es: KI muss ähnlich geregelt werden wie unser Umgang mit Atomwaffen. Auch da dachte ich: Das ist doch nur pures Marketing.War es mehr als das?Jetzt, im August 2026, denke ich: Wir müssen die Angelegenheit als Weltgesellschaft in den Griff bekommen – eben durch die Einschätzung von realistischen Worst-Case-Szenarien.((Platzhalter))Welche zum Beispiel?Das Hacken von Biowaffen-Systemen, das Lahmlegen kritischer Infrastrukturen. Oder Szenarien, wie sie in Filmen aufgearbeitet wurden – das Vorbeischrammen an der atomaren Katastrophe, wie wir es bei der Kuba-Krise erlebt haben. Da mag man sich nicht ausmalen, was nun möglich ist – mit Maschinen, die höchst kompetente Experten hinters Licht führen können. Das ist äußerst beunruhigend.Nun gab es ein Treffen zwischen Vertretern der US-Regierung und den AI-Marktführern. Gab das Hoffnung?Leider nein. Denn auf neue allgemeine Regeln verzichtete die Regierung, sie setzt weiter auf Selbstregulierung. Also lässt man die Zutaten – Öl und Streichhölzer – weiter offen herumliegen. Äußerst herausfordernd. Und man denkt, das läuft nach dem alten Kölner Spruch: Et hätt noch emmer joot jejange …Manche fordern eine europäische Lösung. Aber macht das Sinn? Wenn USA und China nicht mitspielen, bleibt das Risiko doch.Eben. Und Europa ist technisch inzwischen so weit zurück – das ist hoffnungslos, bis auf den niederländischen Hersteller ASML, der wichtige KI-Komponenten liefert. Wir sind de facto aus dem Spiel. Allenfalls als großer Markt könnte Europa ökonomischen Druck ausüben, um Regularien durchzusetzen.((ContentAd))Die größten Warnungen vor KI kamen aus der Branche selbst, die mehrfach sagte: Wir haben da eine gefährliche Waffe in der Hand. Sind das nur Kassandra-Rufe?<h3>„Sie sind quasi Kassandra und Akteur zusammen. Das macht die Sache noch schlimmer.“</h3>Sie haben ihren Warnungen leider keine Taten folgen lassen. Sie sind quasi Kassandra und Akteur zusammen. Das macht die Sache nochmal schlimmer. Denn sie könnten ja gegensteuern. Aber es passiert nichts wirklich Ernsthaftes.Muss vielleicht erst etwas Schlimmeres – also eine Art KI-GAU – passieren, damit es zu Regulierungen kommt? Und: Kann es dann dafür womöglich zu spät sein?Exakt. Das ist genau der Moment, der drohen kann. Wir erleben nun laufend Zwischenfälle, deren Folgen gravierender werden. Wer jetzt nicht aufwacht, der muss sich nicht wundern, wenn es zu spät ist.Keine schönen Aussichten.Wir sind auf jeden Fall an einem Tipping Point angekommen, an einem Kipppunkt. Und: Ja, es könnte sein, dass es dann zu spät ist. Stellen wir uns mal vor, so ein System hackt die Struktur des Internets. Da würden wir auf einen Schlag in die Steinzeit zurückfallen, weil nichts mehr ginge. Wir sind viel abhängiger als vor einigen Jahrzehnten. Daher: Aufwachen!((Platzhalter))

thumbnail_Dabrock von Giulia Iannicelli 2211-01

Bisher haben immer "Katastrophen" Dingen eine andere Entwicklungsrichtung gegeben und haben sogar als Motor funktioniert einfach wegen des evolutionären Drucks, der dadurch entsteht, seis Hiroshima, globale Klimakatastrophen, usw. sogar Erfindungen.
Inwieweit "der Mensch", das ist nicht einer, das sind viele gegenläufige Mentalitäten, darauf Einfluß nehmen kann, hängt von der Eigendynamik der Prozesse ab. z.B. kann eine rasante Klimaveränderung nicht rückgängig gemacht werden, genauso wie eine Eiszeit.
Die Entwicklung der sog. KI dürfte so ein ähnlicher Prozeß sein. Es sei denn, der "Träger - der Hersteller und Verteiler - der KI" erfährt ziemlich einschneidende Veränderungen...sozusagen Katastrophen...
Ich kann nur auf HG Wells von 1945 hinweisen "Mind at the end of its tether"
https://archive.org/details/in.ernet.dli.2015.33876/mode/2up



Genau das ist die Schwäche des Menschen,  daß er nicht aufhören kann und immer mehr will und seine Errungenschaften dann falsch einsetzt. In diesem Fall hinsichtlich der KI. Der Mensch überschätzt sich, wenn er meint, die KI steuern zu können.

Nicht das Messer ist gefährlich, sondern der Mensch, der das Messer in der Hand hat. Das war bisher richtig, aber mit der KI befinden wir uns an einer Schwelle, an der Systeme autonom agieren. Da kommen jetzt zwangsläufig Erinnerungen an "Terminator I" und Skynet hoch. Aber eines ist klar. Der Geist ist in Form von KI schon raus aus der Flasche und die ersten erfolgreichen Anwendungen von neuen Technologien sind fast immer kriegerisch oder kriminell. Aber das Beispiel Atomkraft zeigt auch, dass der Mensch schwierige Technologien durchaus beherrschen kann. Ohne Atomkraftwerke wäre der Klimawandel schon einige Jahre weiter fortgeschritten. Es spricht nichts dagegen, mit der KI Texte und Bilder zu bearbeiten, ihr klar umrissene Aufgabe zu übertragen und sie Musik komponieren zu lassen. Man muss ihr aber klare Grenzen setzen und wir müssen wieder lernen, mit weniger Technik zu leben um resilient zu sein.   An manchen Stellen müssen  eben Menschen sitzen, auch wenn die KI übernehmen könnte.

rise of the machines
scheint sich zur Wirklichkeit zu entwickeln

ARCHIV - 28.02.2025, Sachsen-Anhalt, Wernigerode: 

Schliemann Dabrock

Fürther Ethik-Experte: Es gibt keinen Grund, Künstliche Intelligenz zu verteufeln

ILLUSTRATION - 12.08.2025, Sachsen, Leipzig: Der K

Wenn die KI sich selbstständig macht: Es braucht strengere Regeln für die Hersteller

Peter Dabrock (62) ist seit 2010 Professor für Systematische Theologie (Ethik) am Fachbereich Theologie der Friedrich-Alexander-Universität Erlangen-Nürnberg und war von 2016 bis 2020 Vorsitzender des Deutschen Ethikrates. Seine Forschungsschwerpunkte liegen im Bereich der Ethik technischer und (bio-)wissenschaftlicher Durchdringung menschlicher Lebensformen (von Keimbahnintervention bis KI). Dabei interessieren ihn besonders Fragen von sozialer Gerechtigkeit, Menschenwürde und Leiblichkeit. Er veröffentlichte zahlreiche Bücher und Artikel. Dabrock lebt in Fürth.

Theologe und Ethik-Experte

https://images.nordbayern.de/image/contentid/policy:1.15229159:1786528130/thumbnail_Dabrock_von_Giulia_Iannicelli_221101.jpg?f=16:9&h=320&m=FIT&w=600&$p$f$h$m$w=6b331ce

https://www.nn.de/politik/erlanger-ethik-experte-peter-dabrock-wir-erleben-einen-atomwaffen-moment-der-ki-1.15229158

Er blickt seit Jahren auf die Entwicklung der Künstlichen Intelligenz: Peter Dabrock, Theologe und Professor für Ethik in Erlangen. Die Häufung von Grenzüberschreitungen durch KI-Modelle alarmiert ihn zutiefst. Ein Gespräch, das beunruhigt.

Erlanger Ethik-Experte Peter Dabrock: „Wir erleben einen Atomwaffen-Moment der KI“