Третья мировая или восстание машин: почему депутатам в Европарламенте отключили ИИ

В конце января депутатам Европарламента отключили функции ИИ на служебных планшетах. Сотрудники службы безопасности вырубили «помощника написания текстов», «виртуального ассистента» и ряд других «помогаек». Анализ показал, что эти программы используют облачные сервисы для выполнения задач с депутатских девайсов. А дальше все данные могут стать доступными кому угодно. В теме разобрался корреспондент медиапортала Caravan.kz.

Тут никаких шпионов не надо! Готовы ли ответработники министерств Казахстана и нашего парламента к такому сюрпризу? В министерстве искусственного интеллекта и цифрового развития кто-то это как-то учитывал?

В тему

Перед предстоящими выборами в конгресс Колумбии появилась кандидатка, которая не проводит агитацию на площадях и не жмет руки своим потенциальным избирателям. Аватар по имени Гайтана работает через цифровой интерфейс. За этим образом кроются реальные люди, которые выбрали такую избирательную стратегию. Они называют ее «современной адаптацией практик предков». Сейчас на платформе зарегистрировано 10 000 граждан Колумбии, к ним могут присоединиться все желающие, однако им нужно подтвердить свою личность документально. Разработчики предлагают сформировать гибридное место в конгрессе Колумбии, а когда Гайтана победит и получит мандат, ее место займут реальные граждане.

Это кому сигнал? На что намёк?

Листаем дальше. Цифровой двойник. Сомнительное решение одной американской фирмы: на экране отображается виртуальный сотрудник, скопированный с реального человека. Двойник создается с помощью видео, фото и текстового описания. Машина копирует внешность, голос, интонации, жесты и манеру поведения оригинала. Тут возникают вопросы этичности использования клонов и конфиденциальности. Но разработчики считают, что такие «дублёры» помогут разгрузить офисных работников от лишних и необязательных функций. Клон может проводить инструктаж для новичков, отвечать на вопросы и давать указания в пределах своей компетенции. Ограничения может устанавливать сам работодатель.

Похоже, в Казахстане это сейчас неприменимо. Правила игры с ИИ до сих пор толком не прописаны. А не сам ли механический разум уже начал прописывать нам их? Но сначала немного якобы позитива.

О полезном, добром и хитром

В январе на выставке в Лас-Вегасе презентовали устройство «Трон» для унитаза, который с помощью ИИ на запах и вкус способен анализировать отходы жизнедеятельности хомо сапиенс. Отслеживать качество и текстуру «выхода», извещать «пользователя» о возможных  проблемах со здоровьем. И даже выписывать рецепты еды. Месяц назад предзаказ на этого «ветеринара» стоил 340 долларов в месяц.

Почти то же самое для собак. «Умный ошейник» подскажет хозяину, чем его питомец страдает, что предпочитает из еды, какие у него пульс, температура, животные позывы (включая сексуальные), прочие недуги и предпочтения. Даже количество случайно пойманных блох. Но стоит этот ошейник дороже, чем «трон». Собака, конечно — друг человека. Но настолько?

Тренажёр для парикмахера — сенсорная машинка. Для старта нужно выбрать «подходящую» стрижку в приложении, надеть ленту, которая задаёт нулевую точку для машинки — и следовать рекомендациям на экране смартфона. Процесс контролирует ИИ. Начинающему не нужно даже переключать режимы работы. Машинка сама установит высоту среза и угол наклона. А если клиенту фасон не понравится — кому интерфейс бить?

Панды, зайчики, собачки, медвежата, котики, даже овечки и козлики — ИИ-роботизированные клоны с богатой памятью для одиноких стариков и инвалидов. Робот распознаёт голос и интонации хозяина, реагирует на физические и голосовые команды, напоминает о былых событиях, включая ошибки и подвиги. Ну и чем эти зверушки отличаются от модернизированных секс-кукол? Особыми деталями в описании того, что было и не было?

Умный диет-холодильник. Его программирует пациенту лечащий врач-диетолог. Дальше бесчинствует этот бессмысленный холодильный шкаф. Он будет открывать только те секции, в которых пациенту  прописаны «нужные» продукты и лекарства. Не исключено, что те самые, за которые «диетолог» получил от компании-производителя хороший гонорар.

Одна канадская и две европейские компании опубликовали в начале года результаты исследования деградации аккумуляторов электромобилей. Разумеется, с помощью нечеловеческого разума. Выяснилось, что эти аккумуляторы живут сильно меньше, чем им предписано инструкцией по эксплуатации. Исследование, подозреваю, было заказано ИИ от производителей-конкурентов?..

Искусственный интеллект уже не раз ловили на подгонке нужного результата в разных исследованиях. Этот дьявол стремительно самообучается. Что дальше?

ИИ бояться — без работы остаться

2025-й стал прорывным годом в развитии искусственных мозгов: передел мирового рынка труда, рост миграции и безработицы (и среди офисного планктона, и среди рабочих высокой квалификации, счёт в мире уже идет на сотни тысяч). Потому что дешевле не мозолистые руки, а механические. Беспилотные автоматы уже рулят и в небе, и на земле, и под и над водой. Про обезлюдевшие офисы банков, страховых и прочих компаний уже и анекдоты вымерли. Как считают многие эксперты, «те, кто боится потерять работу из-за наступления искусственного интеллекта, её обязательно потеряют. Если не освоят новые навыки».

А дальше очень жуткий вывод. До этого у человечества шло соревнование внутри одного вида — меж собой. Эту конкуренцию ослабляли разными гуманистическими идеями и социальными лозунгами. Народ расслабился. И тут появился безжалостный конкурент, который не видит разницы между бедными и богатыми, умными скептиками и безнадежными идиотами. Хочешь выжить — научись учиться. Не можешь? Твои проблемы.

Мы знаем, правда, очень приблизительно, сколько сотен миллиардов тенге выделено из госбюджета на цифровое развитие в республике — на ИИ. И не только профильному министерству. У силовых ведомств — закрытые статьи расходов на эти цели. И не только в Казахстане. Что там разрабатывают за закрытыми дверями — не в каждом правительстве и парламенте в курсе.

Третья мировая спишет всех и всё?

В 2018-2019 годах ученые начали подозревать, что нечеловеческие мозги однажды могут вступить в конфликт с человеческими. Причины и поводы предсказать невозможно. Сейчас невозможно. А через 3-5 лет?

В 2019 году ряд IT-компаний, в том числе и одна российская, запустили международную хартию, которая предложила запретить использование искусственного интеллекта для производства летального оружия. Её подписали около 40 % ключевых игроков рынка. Но всё остановилось на Google. Там сказали, что у них уже есть контракт с министерством обороны, поэтому ничего они подписать не могут. Что за контракт, о чём — тс-тс-ссс… Молчок!

В 2022-м, после ковида, у разработчиков что-то щёлкнуло в мозгах. Весной 2023-го появилось «Письмо тысячи ученых» (в числе подписантов, кстати, Илон Маск и Стив Возняк) с призывом остановить дальнейшие разработки ИИ, «потому что эти технологии представляют беспрецедентную опасность». Следом появилось письмо 15 нобелевских лауреатов, которые тоже призвали определить некие «красные линии» для ИИ. А кто их будет определять? Маск, как показала недавняя практика с Ираном, недалеко от Трампа «падает». Одна его компания уже подписала контракт с Пентагоном в этом году, как утверждает гендиректор и глава группы российских компаний-разработчиков искусственного интеллекта Ольга Ускова. Дальше её цитата. «В военной сфере началась гонка вооружений именно на базе ИИ. Это оружие полностью меняет представление о войне. Это гонка будет идти до тех пор, пока дело не кончится глобальной катастрофой, как было с Хиросимой и Нагасаки, пока человечество не увидит, как в прямом эфире по ветру разлетаются кишки миллионов человек. Никто ни с кем договариваться не будет. Можно сколько угодно подписывать открытые письма и рисовать красные линии, но сейчас это всё напрасный труд».