Опубликовано: 170

Новое селфи-приложение оскорбляет людей

Новое селфи-приложение оскорбляет людей Фото - Gettyimages

Интернет-пользователи пожаловались на программу.

Встроенная нейросеть распознаёт лица и даёт пользователям расистские и просто оскорбительные характеристики, передает Life.ru.

Интернет-пользователи пожаловались на приложение ImageNet Roulette, которое даёт им обидные названия. Сообщается, что встроенная в программу нейросеть проанализировала несколько миллионов фотографий и научилась разделять людей на категории в зависимости от их внешности. Это получилось у неё весьма своеобразно.

Например, журналистка Джулия Кэрри Вонг показала скриншот своего фото с надписью Gook — что в переводе значит "косоглазая". Это оскорбительное слово применяют по отношению к уроженцам Кореи, Вьетнама и других стран Азии. Другие люди получили названия negro или negriod. Ещё одна девушка пришла в ярость после того, как приложение назвало её "мулаткой".

Корреспондент Mail Online ради эксперимента тоже выложил в приложение своё селфи, и нейросеть назвала его "подозреваемым в изнасиловании". Стоит упомянуть ещё одну фотографию — изображённый на ней мужчина выяснил, что программа считает его "впервые совершившим преступление".

Разработчики поспешили объяснить, что специально сделали такие настройки, чтобы привлечь внимание общества к проблеме машинного обучения. Они заявили, что абсолютно все нейросети классифицируют людей, руководствуясь всевозможными предубеждениями и проявляя дискриминацию. Вся разница в том, что в данном приложении это показано "честно".

«Классификация людей искусственным интеллектом редко делает их видимыми для пользователей. Мы хотим пролить свет на то, что происходит, когда технические системы обучаются на проблемных данных».

Оставить комментарий

Оставлять комментарии могут только зарегистрированные пользователи