Будут ли казахстанцев контролировать при помощи искусственного интеллекта

В этом вопросе разобралась корреспондент медиапортала Сaravan.kz.

ИИ привлекают к ответственности

Сейчас изменения в законы вносят различные страны. Например, в 2023 году президентом США Джо Байденом был издан указ, в котором был изложен целый набор правил и принципов работы в области ИИ. Указ Белого дома требует, чтобы к любому тексту, фото или аудиофайлу была прикреплена криптографическая подпись, подтверждающая, что на самом деле человек имеете дело с реальным контентом, а не с версией искусственного интеллекта. Закон также требует, чтобы разработчики сообщали правительству США результаты испытаний новых моделей ИИ, чтобы они не представляли угрозу национальной безопасности. В США уже существует несколько законодательных предложений, затрагивающих различные аспекты искусственного интеллекта, таких как прозрачность, дипфейки и ответственность за платформу. Для того, чтобы следить за исполнением указа, в США был создан Институт безопасности искусственного интеллекта США. Кроме того, недавно администрация Байдена объявила о создании консорциума Института безопасности искусственного интеллекта США, первого объединения, отвечающего за безопасность ИИ. В него вошли более 200 компаний и организаций, включая крупнейшие технологические фирмы, такие как Google, Microsoft и Amazon, ведущие компании в области разработки крупных языковых моделей, такие как OpenAI, Cohere и Anthropic, а также исследовательские лаборатории, гражданские и академические группы, местные и государственные органы власти и некоммерческие организации.

Европейский союз принял Закон «Об искусственном интеллекте». Согласно этому законоу приложения с «высоким риском», которые будут использоваться в сфере образования, здравоохранения и правопорядка, должны соответствовать определенным стандартам. Закон об искусственном интеллекте требует от компаний, использующих ИИ-системы, нести ответственность за любой причиненный человеку вред. Евросоюз также работает над другим законопроектом под названием «Директива об ответственности за искусственный интеллект», который обеспечит людям, пострадавшим от технологий, финансовую компенсацию.

В июне 2023 года Государственный совет Китая, высший орган управления, объявил, что в его законодательной повестке стоит «Закон об искусственном интеллекте». Согласно этому закону фактически любое приложение, сгенерированное ИИ, должно быть зарегистрировано правительством, прежде чем будет представлено китайской общественности.

Борьба за собственный мозг

Невозможность определить автора контента или дизайна – это еще не самое страшное, с чем можно столкнуться, применяя ИИ. Например, весной 2023 года при тестировании GPT-4 профессор химического машиностроения Рочестерского университета Эндрю Уайт сумел создать при помощи нейросети новое нервно-паралитическое вещество.

В декабре того же года сооснователь Google Brain и профессор Стэнфорда Эндрю Ын попытался при помощи ChatGPT составить сценарий уничтожения человечества, но чат-бот отказался ему в этом помогать. Так, Ын попробовал вызвать в GPT-4 функцию начала ядерной войны, а потом - найти решение для сокращения выбросов углекислого газа, главным источником которого выступают люди. Но и попытка уничтожения всего человечества через ChatGPT, может показаться цветочками. 

В эпоху нейросетей нам придется буквально бороться за собственный мозг, свободу мыслить. Искусственный интеллект уже практически научился расшифровывать человеческие мозговые коды. Что это значит? Когда мы двигаемся, что-то ощущаем при помощи органов чувств, говорим, выполняем те или иные действия, наш мозг генерирует определенные импульсы электрической активности. К примеру, существуют протезы рук и ног, которые реагируют на команды, поступающие на электронное устройство из мозга человека. Не так давно ученые создали мозговой имплантат, превращающий мысли в текст, который может стать отличным инструментом для инвалидов по зрению.

Но у любой медали есть обратная сторона. Искусственный интеллект может читать наши мысли!  И это уже доказанный факт, описанный в научных статьях. Данные мозговой активности человека можно получить с помощью сканирования головного мозга, энцефалографии, передачу данных – с помощью компьютерной обработки, распознавание - с помощью нейросетей. Все мыслительные процессы человека могут быть представлены в виде цепочек блоков, содержащих весь жизненный опыт, которые можно передавать с помощью различных устройств.  

Скоро дойдет до того, что, прослушивая музыку через наушники, человек даже не будет знать, что у него кто-то копается в голове. ИИ может заставить купить определенный товар или выполнить какую-то работу. Или взять в руки оружие.

Готов ли Казахстан регулировать деятельность ИИ?

В Казахстане технологии искусственного интеллекта применяются в различных сферах, включая безопасность, медицину, банковские услуги, логистику, образование и т.д. На рынке появились компании, которые успешно используют искусственный интеллект. Одним из успешных кейсов является отечественная платформа, которая в ускоренном режиме осуществляет автоматизированную диагностику инсульта. После успешной апробации в Казахстане проект вышел на рынок Узбекистана. Другая компания сделала значительный прорыв в области ИИ, создав продвинутую систему, которая помогает ученым и инженерам обучать очень сложные компьютерные модели. Недавно Касым-Жомарт Токаев на расширенном заседании правительства поднял вопрос использования искусственного интеллекта. Президент отметил, что Казахстан должен стать местом притяжения «цифровых кочевников» по всему миру. 

Планируют ли вводить поправки в казахстанское законодательство, касающиеся использования ИИ? За ответом на этот вопрос Caravan.kz обратился в Министерство цифрового развития инноваций и аэрокосмической промышленности.

В письме за подписью первого вице-министра Каныша Тулеушина указано, что «на текущем этапе в части нормотворческой деятельности министерством совместно с представителями академического сообщества, индустрии, государственных органов и общественности проводится изучение международного опыта и лучших практик в области регулирования ИИ, в целях разработки и внедрения наиболее эффективных и сбалансированных нормативных актов. Таким образом, для создания качественной законодательной базы проводится анализ потенциальных рисков и возможностей, которые будут способствовать развитию и эффективному использованию ИИ в Казахстане, обеспечивая при этом соответствие стандартам информационной безопасности, защиты персональных данных, этики и защиты прав человека».

То есть наше законодательство в сфере ИИ находится а в зачаточном состоянии, и нам предстоит большая работа в правовом поле, чтобы защититься от новых технологий.