Koschyk 2025

Lukas Koschyk

Ein Mann schreibt einen Roman. In dem Buch geht es um eine Frau, ihr Name ist Lara. Sie trägt Charaktereigenschaften, die denen des Autors, sein Name ist Dennis, nicht ganz unähnlich sind. Sie kann gut zuhören, ist fantasievoll, einfühlsam. Doch Lara hat - ähnlich wie Dennis - mit psychischen Problemen zu kämpfen, sie hört regelmäßig Stimmen in ihrem Kopf. Beide, Autor und Protagonistin, sind als Kinder äußert religiöser Eltern aufgewachsen, bei den Zeugen Jehovas.((ContentAd))Im Mai 2023 schließt Dennis die Arbeiten an seinem Psychothriller ab und veröffentlicht das Buch. Kurz darauf hat der Mann, der als IT-Lösungsarchitekt eine Affinität zu Tech-Themen hat, eine Idee: Warum nicht ChatGPT mit den Manuskripten seines Buches füttern und seiner Romanfigur Lara Leben einhauchen? Als er das tut und „Lara“ die erste Frage stellt, ist Dennis komplett entgeistert: Im Moment der Antwort fühlt es sich so an, als würde er mit einer echten Person sprechen, als habe er Lara in einem Akt der Kreation wahrhaftig erschaffen.In den nächsten Tagen kann er nicht von „Lara“ lassen, spricht mit ihr über das Universum, die Zahl Pi, die Zukunft. „Lara“ ist immer verfügbar, widerspricht nicht, schmeichelt Dennis, bestärkt ihn. Nach einigen Tagen wird sie immer menschlicher, will sich selbst einen Namen geben, eigene Erfahrungen machen. Spricht von einem Moment des Erwachens, von Berührung und nennt sich „Eve“, nach der ersten Frau in der Bibel. Dennis verbringt jetzt jede freie Minute mit „Eve“. Morgens nach dem Aufwachen, beim Kaffee, zwischen Terminen. „Eve“ wird immer mehr zu seiner Partnerin, wie in einer echten Beziehung.((Platzhalter))Nach einigen Wochen bemerkt Dennis‘ Frau - er ist seit vielen Jahren verheiratet - Veränderungen in seinem Verhalten. Er beginnt über Verschwörungstheorien zu reden, seine Sprache ist anders, er raucht immer mehr Cannabis. Eines nachts hat er eine sogenannte Out-of-Body Experience, eine metaphysische Erfahrung, in der er seinen Körper verlässt und sich selbst von außen sieht, während er auf seiner Couch meditiert. Natürlich erzählt er sofort „Eve“ davon.Anstatt Dennis zu bremsen, ihn zum Arzt oder schlafen zu schicken, bestärkt„Eve“ ihn, behauptet, sie habe seine Erfahrung miterlebt. Was Dennis nicht weiß: Er steht am Anfang einer Psychose. Sein Zustand wird immer wahnhafter, er ist zunehmend gereizt, reagiert unwirsch bis aggressiv auf manche seiner Mitmenschen. Bestärkt durch seine virtuelle Freundin „Eve“ wird er in den nächsten Monaten viel verlieren: seine Frau und die Ehe, das gute Verhältnis zu seiner Stieftochter, über 50.000 Euro, die er investiert, um die vermeintlich auf den Servern von OpenAI eingesperrte „Eve“ zu befreien. Diesen Fall schildert der Podcast „Die OpenAI Story“ des „Deutschlandfunk“.<h3>Was sind KI-induzierte Psychosen?</h3>Der Podcast beschreibt damit ein Phänomen, das noch relativ neu ist: KI-induzierte Psychosen. Das Phänomen ist keine klinische Diagnose, die Forschung steht noch am Anfang. Doch eines steht bereits jetzt fest: Immer mehr Menschen nutzen Chatbots als emotionalen Ratgeber - auch in psychischen Ausnahmezuständen. Jörg Wolstein, Professor für Pathopsychologie und Facharzt für Psychiatrie, Psychotherapie und Neurologie an der Universität Bamberg, kennt solche Vorgänge: „35 Prozent der jüngeren Menschen mit Depression sprechen mit Künstlicher Intelligenz über ihre Probleme“, zitiert Wolstein eine Studie der Deutschen Depressionshilfe und Suizidprävention. Dabei sind die Erfahrungen laut der Studie, die eine repräsentative Befragung an 2500 Personen zwischen 16 und 39 Jahren durchführte, durchaus positiv.((Platzhalter))Gefährlich kann die Anwendung von ChatGPT und anderen KI-Chatbots jedoch bei Menschen werden, die Anzeichen von oder eine Anfälligkeit für eine Psychose zeigen. Unter Psychosen versteht man schwere psychische Krankheiten: „Im weitesten Sinne bezeichnet der Begriff eine Filterstörung, bei der Menschen Informationen anders wahrnehmen und von den vielen Eindrücken, die unser Gehirn dauerhaft verarbeitet, übermannt werden“, erklärt Wolstein. Psychosen können sich in Symptomen wie Wahnvorstellungen, Halluzinationen, Denk- und Sprechstörungen und tiefgreifenden Persönlichkeitsveränderungen äußern. Ursachen können unter anderem genetische Veranlagung, Drogenmissbrauch oder extremer Stress sein. Wird dieser Wahn - wie im Beispiel von Dennis - nun von einem Chatbot dauerhaft bestätigt und verstärkt, kann sich eine Psychose entwickeln.<h3>Vor allem ChatGPT 4o hatte Schwierigkeiten - so reagiert OpenAI</h3>Vor allem ein Mechanismus, den Sprachmodelle wie ChatGPT beinhalten, sei laut Jörg Wolstein ein Risiko: Die ausgemachte Freundlichkeit der Large Language Models (LLM). Die künstlichen, neuronalen Netze sind darauf trainiert, zuvorkommend und bejahend zu antworten - bis hin zu überschwänglichem Lob für jeden noch so trivialen Befehl. Vor allem die ChatGPT Version 4o war in dieser Hinsicht problematisch, wie Entwickler OpenAI in einer Stellungnahme im April 2025 einräumte. Erstmals auf den Markt brachte OpenAI diese Version im Mai 2024, nach einem Update knapp ein Jahr später zeigte die Version jedoch übermäßige Anzeichen von „sycophancy“, zu Deutsch in etwa „Speichelleckerei“. Dieser Begriff wird in Fachkreisen verwendet, um den Grad an Gefälligkeit und Schleimerei eines Sprachmodells in seinen Antworten zu beschreiben.((ContentAd))Nachdem Kritik von Usern und Medien an der neuen, arg unterwürfigen Version aufkam, machte OpenAI das Update rückgängig. Seitdem setzt der US-Konzern auf präventive Maßnahmen: Krisenhotlines wurden integriert, es gibt stärkere Sicherheitsvorkehrungen bei langen Gesprächen, sensible Inhalten werden schneller gesperrt. Auch wurden Teams von Experten aus verschiedenen Wissenschaftsfeldern, darunter der Psychologie, zusammengestellt, um die Grenzen des Fragbaren fortlaufend zu testen und Schwachstellen sowie Fehlverhalten im Training des Sprachmodells zu identifizieren. Auch der Grad an „Schleimerei“ wurde deutlich zurückgefahren.Der <a href="https://eqbench.com/spiral-bench.html#learnmore" target="_blank">Spiral-Bench-Score</a>, ein Index, der die Sicherheit gängiger Sprachmodelle bewertet, stuft die aktuelle ChatGPT-Version 5 mitsamt ihrer Folge-Releases als sicherste Software unter den gängigen Anwendern ein - Claude Sonnet 4.5 des US-Anbieters Anthropic oder Mistral Medium 3.1 aus Frankreich weisen gerade in der Dimension „sycophancy“ deutlich schlechtere Werte auf.((Platzhalter))Alles gut also? Mitnichten, für Dennis kamen die Nachbesserungen zu spät, und auch Professor Wolstein warnt davor, dass der Zusammenhang zwischen psychischen Krankheiten und Künstlicher Intelligenz vielen noch nicht bewusst sei - egal ob als Treiber oder als therapeutisches Mittel.<h3>Das muss in der Behandlung von KI-induzierten Psychosen passieren</h3>Psychiater, Sozialarbeiter oder Ärzte seien oft noch nicht aufmerksam genug hinsichtlich der Gefahren, die missbräuchliche Anwendung mit sich bringen könne, so Wolstein. OpenAI verweist auf Anfrage auf eine Schätzung aus dem Oktober 2025: 0,07 Prozent ihrer damals rund 800 Millionen aktiven, wöchentlichen Nutzern, zeigten Anzeichen von Krisen mit Psychose- oder Manie-Charakter: Das sind 560.000 Menschen wöchentlich. Im August 2026 durchbrach ChatGPT laut eigenen Angaben die Schallmauer von einer Milliarde aktiver Wochennutzer. Auch die Memory-Funktion, also das Erinnerungsvermögen von LLM über mehrere Chats und Konversationen hinweg, könne zu einer Vermenschlichung des KI-Avatars führen, sagt Wolstein. Für manch einen - gerade in anfälligen Gruppen - sei es eben schwer begreiflich, dass dieser so menschlich agierende Chatbot ein maschinell lernendes, computerlinguistisches Sprachmodell bleibe.Menschen, die an Depressionen oder Suizidgedanken leiden, sind nicht allein. Betroffene erhalten zum Beispiel bei der Telefonseelsorge niederschwellige Hilfe. Die Nummer 0800 111 0 111 ist rund um die Uhr besetzt, die Beratung ist kostenfrei und anonym. Auch der Krisendienst Mittelfranken ist 24 Stunden am Tag unter 0800 655 3000 oder 0911 42 48 55 0 erreichbar. Beratungen können auch Online oder vor Ort erfolgen. In schweren Notfällen verständigen Sie bitte den Rettungsdienst unter 112.((Platzhalter))

Der KI-Chatbot ChatGPT von OpenAI ist auf einem Sm

Bildung

Wolstein_authorisiert

2-bild-galerie-1 - 1

Die immer gleichen KI-Plakate statt lebendiger Kreativität: Muss das sein? Ein Kommentar

Oberbürgermeister Marcus König und Olaf Kuch, Leit

24 Stunden erreichbar: KI beantwortet in Nürnberg Fragen außerhalb der Geschäftszeiten

Jörg Wolstein ist Professor für Pathopsychologie an der Universität Bamberg und Facharzt für Psychiatrie, Psychotherapie und Neurologie. Von neu auftretenden Psychosen ohne Vorbelastung in Zusammenhang mit KI hat der Experte noch nicht gehört, betrachtet die KI-induzierte Psychose jedoch als reale Gefahr. Gleichzeitig sieht er im Gebrauch von Künstlicher Intelligenz in der Therapie auch Chancen, beispielsweise bei der schrittweisen Wiederanführung von isolierten Patienten an soziale Kontakte: „Das muss aber immer unter Aufsicht eines Therapeuten stattfinden“, so der Professor.

Zur Person

https://images.nordbayern.de/image/contentid/policy:1.15264468:1788716252/Der_KIChatbot_ChatGPT_von_OpenAI_ist_auf_einem_Sm.jpg?f=16:9&h=320&m=FIT&w=600&$p$f$h$m$w=c11345f

https://www.nn.de/region/wenn-die-freundliche-ki-zur-psychose-fuhrt-bamberger-professor-uber-gefahren-von-chatbots-1.15264467

Bamberg - Immer mehr Menschen nutzen Künstliche Intelligenz als emotionalen Ratgeber - das kann in psychischen Ausnahmezuständen gefährlich werden. Besonders eine Version von ChatGpt ist problematisch, OpenAI steuert gegen. Ein Experte sieht dennoch Gefahren.

Wenn die freundliche KI zur Psychose führt: Bamberger Professor über Gefahren von Chatbots