ChatGPT оказался ужасным советчиком лекарств

Не спешите спрашивать о своем здоровье у ИИ, поскольку исследование выявило поразительные неточности в бесплатной версии ChatGPT, когда речь идет о запросах, связанных с лекарствами, сообщает Ferra.

Фармацевты из Университета Лонг-Айленда обнаружили, что из 39 заданных вопросов о лекарствах лишь 10 ответов чатбота были признаны «удовлетворительными», что свидетельствует о потенциальном риске для пользователей.

Авторы исследования предупреждают пациентов и медицинских работников о необходимости соблюдать осторожность при получении информации о лекарствах от ChatGPT, призывая проверять информацию из надежных источников, таких как врачи или авторитетные медицинские сайты. Ведущий автор исследования Сара Гроссман подчеркивает, что пользователи не должны заменять ответы ChatGPT профессиональной медицинской консультацией.

Эти выводы добавляют к растущему списку опасений относительно точности ИИ-чатбота, и Федеральная торговая комиссия США уже расследует потенциальные проблемы. Учитывая, что данные для обучения бесплатной версии датируются сентябрем 2021 года, исследователи выражают беспокойство по поводу устаревшей информации и приводят реальные примеры, когда неточные ответы могут повлиять на безопасность пациентов.