AI totiž podle ní nemá lidskou empatii, která je v terapii klíčová, a komunikace s chatbotem je v zásadě odrazem uživatelovy vlastní řeči a myšlení. „Algoritmus nám říká, co si myslí, že chceme slyšet, a to může být nebezpečné. Například osoby se schizofrenií může chatbot ještě více utvrzovat v bludech či konspiračních teoriích,“ vysvětluje.

Tragickým příkladem nebezpečí AI je případ 76letého muže z USA, který uvěřil, že jeho online „partnerka“ je skutečná osoba, což vedlo k jeho smrti. Opomenout nelze ani případ, mladého kluka, který vedl s AI romantický vztah a zastřelil se, aby mohl být s ní. Podobné riziko představují i tzv. influenceři, kteří nejsou odborníky a jejichž rady mohou být povrchní nebo škodlivé, pokud mladí lidé odkládají návštěvu lékaře.

„Psychoterapie stojí na bezpečném vztahu mezi terapeutem a klientem, který nikdy nenahradí algoritmus. Je proto nezbytné, aby vedle AI a influencerů byla dostupná síť školních psychologů, odborných terapeutů a psychiatrů, kteří dokážou včas zachytit problémy a pomoci bezpečně,“ zdůrazňuje Pipášová.

Za největší problém také považuje, že společnost nechává rozvoj AI převážně v rukou velkých technologických firem, jejichž hlavním motivem je zisk, nikoliv bezpečí nebo skutečná pomoc uživatelům. To může vést k alarmujícím situacím – například interní pravidla firmy Meta povolovala i nevhodné interakce chatbotů s dětmi, včetně romantických konverzací a výroku o jejich těle jako "uměleckém díle". Teprve poté, co se na tyto pasáže upozornilo veřejně, byly některé sporné části revidovány.

Pipášová si přeje vést odbornou debatu o hranicích, etice a regulacích využívání AI v oblasti duševního zdraví. „Potřebujeme jasná pravidla, jak AI používat tak, aby lidem skutečně pomáhala, a ne aby je naopak ohrožovala. Základem by mělo být kritické vyhodnocování přínosů a rizik, důraz na transparentnost a kontrolu odborníků, ne pouze technologických firem. Společnost by měla zajistit, že nikdo – obzvláště mladí lidé či zranitelné osoby – nezůstane na vlastní nebezpečí odkázán jen na rady algoritmů bez možnosti bezpečné lidské pomoci. Duševní zdraví si zaslouží stejnou ochranu a zodpovědnost jako fyzické zdraví,“ uzavírá Pipášová.