Сегодня для многих стало обыденностью обсуждать свое здоровье с нейросетями : «Болит голова, перед глазами какие-то мошки — скажи, что это может быть»
Но трагическая история 31-летней программистки Боуэн Ван лишний раз напомнило миру, почему нельзя слепо доверять нейросетям, особенно в вопросах здоровья.
Что случилось?
По данным СМИ, женщина страдала тяжелой эпилепсией и принимала противосудорожные препараты. Столкнувшись с побочными эффектами, она обратилась за помощью к ChatGPT. Как утверждают ее родители в судебном иске, чат-бот предложил ей план постепенной отмены лекарства, отговаривал возвращаться к лечению и даже советовал не рассказывать об этом врачу. Вскоре после прекращения приема препарата Боуэн умерла от эпилептического приступа. Теперь ее семья обвиняет компанию в произошедшем. И это далеко не единственный случай: ранее появлялись сообщения о чат-ботах, которые поддерживали суицидальные мысли пользователей и усиливали их бредовые убеждения.
Нейросеть не является врачом
По словам психиатра Алексея Вилкова, доверять вопросы здоровья нейросетям нельзя. Только врач может определить диагноз, так как он видит пациента вживую, знает всю клиническую картину, а также все показания и противопоказания.
— Использование искусственного интеллекта для медицинских консультаций как минимум небезопасно, и недавние трагические случаи это доказывают. Особенно опасно обращаться к нейросетям людям с тяжелыми соматическими заболеваниями, потому что ИИ может усугубить их состояние, — предупредил собеседник «ВМ».
Врач подчеркнул, что влияние ИИ на здоровье необходимо строго ограничивать, чтобы сохранить критическое мышление у людей. Потенциальный вред от таких консультаций значительно превышает пользу.
Определять лечение может только лечащий врач непосредственно на приеме
