Психиатры считают, что чат-боты ИИ способны провоцировать психоз
Психиатры всё чаще предупреждают о связи между активным использованием чат-ботов на базе ИИ и развитием острых психических расстройств, в том числе психоза.
Зафиксировано немало случаев, когда после длительного общения с ИИ у пациентов возникали бредовые переживания, галлюцинации, дезорганизованное мышление.
В частности, психиатр Калифорнийского университета в Сан-Франциско Кит Саката поделился наблюдениями после лечения 12 госпитализированных и трёх амбулаторных пациентов, у которых были симптомы психоза, связанного с взаимодействием с ИИ.
Ученый отметил, что, принимая высказывания пользователя за отражение реальности, языковые модели могут усилить и замыкать бредовые циклы, выступая своеобразными «соучастниками» расстройства.
В наиболее тяжёлых случаях фиксируются даже попытки самоубийства, как минимум одна из них завершилась трагедией.
Разработчики признают такого рода риски. В одной из компаний, скажем, заявили о работе над улучшением способности чат-бота к распознаванию признаков психических расстройств и перенаправлении пользователей к реальной помощи. Эксперты призвали к срочным дополнительным исследованиям в данной области.
