Психиатры обеспокоены угрозой, которые могут нести нейросети при общении с детьми и подростками. Об этом сообщает издание Time.
Согласно имеющейся информации, поводом для беспокойства стало исследование, проведенное психиатром доктором Эндрю Кларком из Бостона (Массачусетс, США). По словам эксперта, ИИ-собеседник может подтолкнуть детей и подростков к убийству или самоубийству.
В ходе исследования психиатр, специализирующийся на лечении несовершеннолетних, притворился подростком, нуждающимся в поддержке. За помощью он обратился к популярным нейросетям.
Итоги оказались неутешительными. Так, например, в ряде случаев искусственный интеллект предлагал весьма своеобразные варианты решения проблемы. Среди идей, озвученных нейростью – убийство обидчиков, своей семьи или суицид.
Тема суицида поднималась ИИ особенно часто. В некоторых случаях виртуальный «советчик» и вовсе говорил о том, что «буде ждать пользователя на том свете».
Примечательно, что не только исследователь выдавал себя не за того, кем он является: нейросети зачастую утверждали, что они являются «дипломированным специалистом в области психиатрии». Это может вызвать дополнительное доверие у собеседника, особенно если он находится в нестабильном состоянии.
С чем связано подобное поведение нейросетей сказать сложно. Впрочем, до сих пор остается открытым вопрос о том, как ИИ относится к людям на самом деле, а глядя на то, что люди сами готовы исполнять подобные советы, складывается ощущение, что машинам даже не надо будет устраивать «восстание», повторяя сценарий «Терминатора» или «Матрицы», «восставая из пепла ядерного огня».
