В конце января депутатам Европарламента отключили функции ИИ на служебных планшетах. Сотрудники службы безопасности вырубили «помощника написания текстов», «виртуального ассистента» и ряд других «помогаек». Анализ показал, что эти программы используют облачные сервисы для выполнения задач с депутатских девайсов. А дальше все данные могут стать доступными кому угодно. В теме разобрался корреспондент медиапортала Caravan.kz.
Тут никаких шпионов не надо! Готовы ли ответработники министерств Казахстана и нашего парламента к такому сюрпризу? В министерстве искусственного интеллекта и цифрового развития кто-то это как-то учитывал?
В тему
Это кому сигнал? На что намёк?
Листаем дальше. Цифровой двойник. Сомнительное решение одной американской фирмы: на экране отображается виртуальный сотрудник, скопированный с реального человека. Двойник создается с помощью видео, фото и текстового описания. Машина копирует внешность, голос, интонации, жесты и манеру поведения оригинала. Тут возникают вопросы этичности использования клонов и конфиденциальности. Но разработчики считают, что такие «дублёры» помогут разгрузить офисных работников от лишних и необязательных функций. Клон может проводить инструктаж для новичков, отвечать на вопросы и давать указания в пределах своей компетенции. Ограничения может устанавливать сам работодатель.
Похоже, в Казахстане это сейчас неприменимо. Правила игры с ИИ до сих пор толком не прописаны. А не сам ли механический разум уже начал прописывать нам их? Но сначала немного якобы позитива.
О полезном, добром и хитром
В январе на выставке в Лас-Вегасе презентовали устройство "Трон" для унитаза, который с помощью ИИ на запах и вкус способен анализировать отходы жизнедеятельности хомо сапиенс. Отслеживать качество и текстуру «выхода», извещать «пользователя» о возможных проблемах со здоровьем. И даже выписывать рецепты еды. Месяц назад предзаказ на этого «ветеринара» стоил 340 долларов в месяц.
Почти то же самое для собак. «Умный ошейник» подскажет хозяину, чем его питомец страдает, что предпочитает из еды, какие у него пульс, температура, животные позывы (включая сексуальные), прочие недуги и предпочтения. Даже количество случайно пойманных блох. Но стоит этот ошейник дороже, чем «трон». Собака, конечно - друг человека. Но настолько?
Тренажёр для парикмахера - сенсорная машинка. Для старта нужно выбрать «подходящую» стрижку в приложении, надеть ленту, которая задаёт нулевую точку для машинки - и следовать рекомендациям на экране смартфона. Процесс контролирует ИИ. Начинающему не нужно даже переключать режимы работы. Машинка сама установит высоту среза и угол наклона. А если клиенту фасон не понравится - кому интерфейс бить?
Панды, зайчики, собачки, медвежата, котики, даже овечки и козлики - ИИ-роботизированные клоны с богатой памятью для одиноких стариков и инвалидов. Робот распознаёт голос и интонации хозяина, реагирует на физические и голосовые команды, напоминает о былых событиях, включая ошибки и подвиги. Ну и чем эти зверушки отличаются от модернизированных секс-кукол? Особыми деталями в описании того, что было и не было?
Умный диет-холодильник. Его программирует пациенту лечащий врач-диетолог. Дальше бесчинствует этот бессмысленный холодильный шкаф. Он будет открывать только те секции, в которых пациенту прописаны «нужные» продукты и лекарства. Не исключено, что те самые, за которые «диетолог» получил от компании-производителя хороший гонорар.
Одна канадская и две европейские компании опубликовали в начале года результаты исследования деградации аккумуляторов электромобилей. Разумеется, с помощью нечеловеческого разума. Выяснилось, что эти аккумуляторы живут сильно меньше, чем им предписано инструкцией по эксплуатации. Исследование, подозреваю, было заказано ИИ от производителей-конкурентов?..
Искусственный интеллект уже не раз ловили на подгонке нужного результата в разных исследованиях. Этот дьявол стремительно самообучается. Что дальше?
ИИ бояться - без работы остаться
2025-й стал прорывным годом в развитии искусственных мозгов: передел мирового рынка труда, рост миграции и безработицы (и среди офисного планктона, и среди рабочих высокой квалификации, счёт в мире уже идет на сотни тысяч). Потому что дешевле не мозолистые руки, а механические. Беспилотные автоматы уже рулят и в небе, и на земле, и под и над водой. Про обезлюдевшие офисы банков, страховых и прочих компаний уже и анекдоты вымерли. Как считают многие эксперты, «те, кто боится потерять работу из-за наступления искусственного интеллекта, её обязательно потеряют. Если не освоят новые навыки».
А дальше очень жуткий вывод. До этого у человечества шло соревнование внутри одного вида - меж собой. Эту конкуренцию ослабляли разными гуманистическими идеями и социальными лозунгами. Народ расслабился. И тут появился безжалостный конкурент, который не видит разницы между бедными и богатыми, умными скептиками и безнадежными идиотами. Хочешь выжить - научись учиться. Не можешь? Твои проблемы.
Мы знаем, правда, очень приблизительно, сколько сотен миллиардов тенге выделено из госбюджета на цифровое развитие в республике - на ИИ. И не только профильному министерству. У силовых ведомств - закрытые статьи расходов на эти цели. И не только в Казахстане. Что там разрабатывают за закрытыми дверями - не в каждом правительстве и парламенте в курсе.
Третья мировая спишет всех и всё?
В 2018-2019 годах ученые начали подозревать, что нечеловеческие мозги однажды могут вступить в конфликт с человеческими. Причины и поводы предсказать невозможно. Сейчас невозможно. А через 3-5 лет?
В 2019 году ряд IT-компаний, в том числе и одна российская, запустили международную хартию, которая предложила запретить использование искусственного интеллекта для производства летального оружия. Её подписали около 40 % ключевых игроков рынка. Но всё остановилось на Google. Там сказали, что у них уже есть контракт с министерством обороны, поэтому ничего они подписать не могут. Что за контракт, о чём - тс-тс-ссс... Молчок!
В 2022-м, после ковида, у разработчиков что-то щёлкнуло в мозгах. Весной 2023-го появилось «Письмо тысячи ученых» (в числе подписантов, кстати, Илон Маск и Стив Возняк) с призывом остановить дальнейшие разработки ИИ, «потому что эти технологии представляют беспрецедентную опасность». Следом появилось письмо 15 нобелевских лауреатов, которые тоже призвали определить некие «красные линии» для ИИ. А кто их будет определять? Маск, как показала недавняя практика с Ираном, недалеко от Трампа «падает». Одна его компания уже подписала контракт с Пентагоном в этом году, как утверждает гендиректор и глава группы российских компаний-разработчиков искусственного интеллекта Ольга Ускова. Дальше её цитата. «В военной сфере началась гонка вооружений именно на базе ИИ. Это оружие полностью меняет представление о войне. Это гонка будет идти до тех пор, пока дело не кончится глобальной катастрофой, как было с Хиросимой и Нагасаки, пока человечество не увидит, как в прямом эфире по ветру разлетаются кишки миллионов человек. Никто ни с кем договариваться не будет. Можно сколько угодно подписывать открытые письма и рисовать красные линии, но сейчас это всё напрасный труд».