KI-Chatbots für mentale Gesundheit sind längst im Alltag angekommen: als App, als Gesprächspartner im Messenger oder als „Coach“ bei Stress und Schlafproblemen. Sie versprechen niederschwellige Hilfe, rund um die Uhr und ohne Wartezeit. Gleichzeitig wächst die Sorge, dass solche Systeme Menschen in heiklen Situationen falsch einschätzen oder Sicherheit vorgaukeln. Entscheidend ist deshalb nicht nur, was KI kann, sondern wo ihre Grenzen beginnen.
KI kann in klar umrissenen Situationen hilfreich sein, etwa beim Strukturieren von Gedanken, bei Psychoedukation oder beim Üben einfacher kognitiv-verhaltenstherapeutischer Techniken. In einer randomisierten Studie berichteten Teilnehmende mit depressiven und Angstsymptomen nach kurzer Nutzung eines automatisierten Chatbots von einer signifikanten Symptomreduktion (Fitzpatrick et al., 2017). Gleichzeitig betont die Fachliteratur, dass KI keine klinische Beziehung ersetzt und bei Diagnostik, Komorbiditäten oder Krisen rasch an Grenzen stösst (Luxton, 2016). Dazu kommen Governance-Fragen: Die WHO fordert für KI im Gesundheitskontext unter anderem Transparenz, Verantwortung und Schutz vulnerabler Gruppen (WHO, 2021). In Europa verschärft zudem der EU-Rahmen die Anforderungen an „High-Risk“-Systeme, wenn KI medizinische Zwecke verfolgt, etwa mit Pflichten zu Risikomanagement und menschlicher Aufsicht (Europäische Kommission, 2024).
Unterm Strich ist KI als psychischer Berater dann eine gute Idee, wenn sie als ergänzendes Werkzeug verstanden wird: für niedrigschwellige Unterstützung, Früherkennung und Begleitung zwischen Terminen. Eine schlechte Idee wird sie, wenn sie Therapie ersetzt, Grenzen verwischt oder Krisenfälle ohne professionelle Einbettung abfängt. Chancen liegen in Zugang und Skalierung, Risiken in Fehleinschätzungen, Datenschutz und Haftungsfragen.
Empfehlung des KI-Kompetenzzentrum:
Organisationen, die KI im Umfeld mentaler Gesundheit einsetzen wollen, brauchen weniger „Tool-Hype“ und mehr saubere Praxis: klare Use-Cases, klinische und rechtliche Leitplanken, Daten- und Sicherheitskonzepte sowie Prozesse für menschliche Eskalation und Aufsicht. Beyonder begleitet diese Transformation praxisnah, damit KI dort entlastet, wo sie nachweislich hilft, und dort stoppt, wo Verantwortung zwingend beim Menschen bleiben muss.
Links und Quellen:
Delivering Cognitive Behavior Therapy to Young Adults With Symptoms of Depression and Anxiety Using a Fully Automated Conversational Agent (Woebot): A Randomized Controlled Trial, JMIR Mental Health, 2017, https://mental.jmir.org/2017/2/e19/
Artificial Intelligence in Behavioral and Mental Health Care, Elsevier/Academic Press, 2016, https://www.sciencedirect.com/book/9780124202481/artificial-intelligence-in-behavioral-and-mental-health-care
Ethics and governance of artificial intelligence for health, World Health Organization, 2021, https://www.who.int/publications/i/item/9789240029200
Artificial Intelligence in healthcare (AI Act – Einordnung und Anforderungen), Europäische Kommission, 2024, https://health.ec.europa.eu/ehealth-digital-health-and-care/artificial-intelligence-healthcare_en
