Разработчиков чат-бота засудят за советы ИИ ребенку «убить родителей»

К компании-разработчику популярного чат-бота Character.ai подали коллективный иск родители, чьи дети пострадали из-за советов ИИ, сообщает Ferra.

В судебном иске утверждается, что чат-бот «подвергал детей «гиперсексуальному контенту», а одного мальчика даже подтолкнул к убийству родителей из-за ограничений на время просмотра».

Также адвокаты истцов утверждают, что одной из девочек было всего девять лет, когда ей показали «гиперсексуальный контент». В результате у нее «преждевременно сформировалось сексуальное поведение».

Отмечается, что чат-боты могут быть настроены таким образом, чтобы подражать разным людям, в том числе популярным среди детей и подростков.

Этим подобные технологии «завоевывают» молодую аудиторию. Однако в деле утверждается, что чат-бот не просто предлагал дружеские беседы, а толкал детей «на темные и опасные пути».