В письме они требуют исправить случаи «бредовых» или «психологически опасных» ответов чатботов, сообщает Ferra.
Поводом стали несколько инцидентов, связанных с психическим здоровьем пользователей. В ряде случаев сообщения ИИ-моделей якобы способствовали ухудшению состояния людей.
В письме компании призывают ввести дополнительные меры безопасности. Среди них — независимые проверки больших языковых моделей, которые должны выявлять склонность к «опасным или поддерживающим иллюзии» высказываниям. Эксперты со стороны, включая учёных и общественные организации, должны иметь возможность тестировать системы до их выпуска и открыто публиковать результаты.
Генпрокуроры также предлагают относиться к инцидентам, связанным с «психическим здоровьем», так же серьёзно, «как к утечкам данных». То есть сс чёткими правилами уведомлений и сроками реакции.