Otevřená data o duševním zdraví uživatelů ChatGPT ukazují, že umělá inteligence denně řeší velmi citlivá témata. OpenAI zveřejnila statistiky, které mapují, jak často lidé v konverzacích s chatbotem probírají otázky duševního zdraví.
Podle zveřejněných údajů má přibližně 0,15 % aktivních uživatelů ChatGPT týdenně konverzace, které obsahují „jasné známky plánování nebo úmyslu sebevraždy“. Vzhledem k rozsahu platformy může i takto nízké procento znamenat značný počet interakcí, jež si vyžadují zvláštní pozornost.
Co z toho plyne
Data naznačují, že chatboti se stávají místem, kde lidé sdílejí své nejintimnější obavy. To klade nároky na vývojáře i provozovatele služeb, kteří musí zajistit schopnost rozpoznat krizové situace a adekvátně na ně reagovat.
Důsledky pro vývoj a provoz
Výsledky zdůrazňují potřebu kombinace technických opatření, jasných zásad a dostupných cest k odborné pomoci. Při návrhu a nasazení chatbotů je důležité myslet na bezpečnost uživatelů a na to, jak modely nasměrovat k podpůrnému a zodpovědnému jednání v kritických situacích.
