В сентябре в Албании министром по госзакупкам назначили искусственный интеллект. Даже имя ему дали – Диелла. Считается, что ОНО сделает все госзакупки самыми прозрачными в мире. Ну да, взяток не берет, на любовниц и азартные игры не тратит ни тиына. А что в Казахстане?
Корреспондент медиапортала Caravan.kz начинает расследование.
С неделю назад министр финансов РК Мади Такиев сообщил, что благодаря внедрению искусственного разума в сфере госзакупок удалось сэкономить 781 миллиард тенге. Как?! По словам Мади Токешовича, «конкурсная комиссия не создается (тут отдельный вопрос на последствия. Всё-таки принимают решения люди, а не компьютер – Авт.), осуществляется автоматический выбор победителя, отсутствует обжалование итогов… Проведена 791 проверка по бюджетным средствам в размере более 2 триллионов тенге. В ходе мониторинга выявлены финансовые нарушения на 348 млрд тенге, устранено на 310 млрд тенге. Под онлайн-мониторингом находятся более 6000 объектов социальной сферы… Ресурсы госаудита направлены также на предварительный анализ планируемых расходов госорганов до утверждения бюджета. По итогам этой работы выявлено некачественное планирование на сумму 1,5 трлн тенге».
Все человеческое ему чуждо!
Суммы солидные. Казахстанский ИИ обыграл албанскую Диеллу? Результаты её труда пока не обнародованы. У нашего ИИ ни имени, ни должности, ни ответственности за возможные ошибки. На премии за вышеуказанные подвиги не претендует. Но итоги – вот они. Отсюда несколько резонных вопросов.
С какого месяца искусственный мозг аудировал ситуацию по госзакупкам?
Насколько широким был охват? Насколько объективны итоги этого аудита?
Кто-то как-то его перепроверял? Нет информации. Или казахстанскому Диелле полное доверие?
Если у него все верно, то может ли минфин передать соответствующие документы в соответствующие органы для дальнейшего разбирательства по указанным нарушениям? Повторюсь, деньги-то немалые.
В начале октября зампред агентства по финансовому миниторингу Кайрат Бижанов сообщил, что за два года АФМ возбудило более 120 уголовных дел, связанных с незаконным получением субсидий – масштабные хищения в агросекторе: «Есть факты неэффективного использования на 11 миллиардов тенге».
То есть, если бы нормально работал e-gov и ему помогал бы ИИ, то бюджет страны не понес бы такие потери?
Комментарий мажилисвумен Екатерины Смышляевой (она инициатор закона об ИИ в РК): «Нет ни одной страны, где ИИ признается субъектом права. Только объектом регулирования… Так что все это хайп… У ИИ нет юридической личности, нет права собственности, права голоса – никаких конституционных прав… Если мы завтра признаем ИИ субъектом – и вот они уже идут голосовать на выборах… Это уже не научная фантастика».
Логично. Допустим, казахстанская «Диелла» изучит предвыборные программы и лозунги претендентов на кресло в парламенте. Или даже на пост главы государства. Что случится?
Комментарий эксперта в области компьютерных технологий Руслана Садвакасова.
ИИ – человеку: «Мне нужно твое рабочее место и твоя зарплата»
Читаю американские СМИ. Психиатрические клиники сообщают, что многие пациенты впали в «невменоз» под влиянием ИИ. С начала 2025 года - более тысячи случаев. Страх потери работы? И еще в Европе, Корее и Японии. После сокращения госаппарата уволенным американским чиновникам выплачивают миллионы долларов в виде компенсаций.
А что у нас?
В сентябре вице-министр труда Олжас Канафин: «Искусственный интеллект в ближайшие годы может занять миллион рабочих мест казахстанцев (это результаты исследования). В 423 группах профессий – в зоне риска почти четверть трудящихся, а это около 2,2 миллиона человек».
Справка «Каравана»
А про какие рабочие места говорил г-н Канафин? Имел ли он в виду чиновников, которых может заменить искусственный разум?
Естественный вопрос: на каком основании их будут сокращать? По каким критериям? Какие выплаты и «парашюты» будут им положены в этом случае?
Опять Екатерина Смышляева: «Министерство труда изучает этот вопрос… В одной западной компании уволили всех диспетчеров, заменили чат-ботами. Через полгода их вернули. В другой уволили тысячи юристов. Когда пошли ошибки – половину вернули».
В марте этого года директор научного центра неврологии РАН академик Михаил Пирадов сказал, что ученые до сих пор не понимают, как работают человеческое сознание и память. «Если совсем просто и наглядно, то это похоже на попытку червячка изучить человека… Природа сознания с нейрофизиологической точки зрения до сих пор остается загадкой… Как бы мы ни старались, вы не сможете заставить свой мозг ни о чем не думать. Он постоянно в деле, как вечный двигатель… ИИ придуман по алгоритмам, которые придумал человек. Когда он станет работать самостоятельно, сам для себя создавать алгоритмы и находить решения – люди ему вообще будут не нужны. Они будут лишними».
Опять Садвакасов: «У искусственного разума нет эмоций, нет мотивации. Он не устаёт. В отличие от человека не испытывает чувства радости или страха, пить-есть не просит. Мораль – это не про него. Кто-то из моих российских коллег сказал, что работать с ИИ нужно как в футболе. В команде есть вратари, защитники, распасовщики, нападающие. Между ними должна быть сыгранность. А ее ставит тренер. ИИ здесь может выступать в любом амплуа. Но главным остается человек-тренер – со всеми своими ошибками и слабостями. Потому что может возникнут ситуация, как в фильме «Терминатор». Этот «алгоритм» однажды может сказать человеку: «Мне нужна твоя работа и твоя зарплата».
Российский исследователь проблем ИИ Игорь Шкуренко недавно заметил, что все идет к тому, что системы будут принимать решения, а люди их исполнять. Во-первых, потому что снижается уровень ответственности и теряется личная инициатива. И во-вторых, человек не всегда может понять логику ИИ. По Шкуренко, «вы не поймете, где и в чем он лжет (или ошибается? – Авт.), даже если будете искать. Не найдете».
Справка «Каравана».
Возможно, за счет новых предприятий, которые собираются открыть к этому сроку. Где-то 350-400. Точных данных нет. Потому что их надо обеспечить не только коммуникациями, но и соответствующими специалистами. А их вполне может заменить инструментальный мозг? Опять когнитивная ошибка?
Умная насущность?
В понедельник зампремьера и министр искусственного интеллекта Жаслан Мадиев сообщил, что в Казахстане утвердили 20 карт цифровой трансформации. Иными словами, цифровому разуму доверяют почти все то, что ранее доверяли живым членам правительства – проблемы в сельском хозяйстве, госуправлении, медицине, образовании, экологии, сфере МВД, список можно продолжать.
По последним данным, инвестиции в цифровой разум за последние два года составили в мире более 2 триллионов долларов. В следующие два года превысят 8-10 триллионов.
Недавно в «Самрук-Казына» заявили, что членом совета директоров стал ИИ. Очень интересно будет узнать, чего он подсказал членам совета. Не удивлюсь, если будут критические замечания. Но сомневаюсь, что их опубликуют. Но «железо» не подвластно эмоциям и желаниям бастыков.
И еще я помню известный афоризм: «Не учи отца смеяться».
Потому что пока еще в мире правят не цифры, а люди.