AI totiž podle ní nemá lidskou empatii, která je v terapii klíčová, a komunikace s chatbotem je v zásadě odrazem uživatelovy vlastní řeči a myšlení. „Algoritmus nám říká, co si myslí, že chceme slyšet, a to může být nebezpečné. Například osoby se schizofrenií může chatbot ještě více utvrzovat v bludech či konspiračních teoriích,“ vysvětluje.

Tragickým příkladem nebezpečí AI je případ 76letého muže z USA, který uvěřil, že jeho online „partnerka“ je skutečná osoba, což vedlo k jeho smrti. Opomenout nelze ani případ, mladého kluka, který vedl s AI romantický vztah a zastřelil se, aby mohl být s ní. Podobné riziko představují i tzv. influenceři, kteří nejsou odborníky a jejichž rady mohou být povrchní nebo škodlivé, pokud mladí lidé odkládají návštěvu lékaře.