Стремительное развитие различных воплощений искусственного интеллекта меняет повседневную жизнь людей по всему миру. И оно же ставит перед традиционными государственными институтами непростые вопросы. С одной стороны, время требует от правительств развивать эти технологии и интегрировать их в управленческие механизмы, с другой — уделять внимание рискам, которые несет в себе искусственный интеллект.
Валерий Дмитриевич Дзгоев, руководитель объединенной редакции ИД «Бюджет»
Марк Артурович Цуциев, генеральный директор ИД «Бюджет»
Конкуренция обостряется
В декабре 2024 года Президент России В. В. Путин выступил на международной конференции «Путешествие в мир искусственного интеллекта (ИИ)», где озвучил ключевые направления развития ИИ в государственном управлении. 30 декабря по итогам конференции президент утвердил перечень поручений Правительству РФ по ускоренному развитию ИИ. В качестве главной цели заявлен фундаментальный технологический переход в системе госуправления. В частности, озвучены планы внедрения интегральных цифровых платформ для автоматизации бюрократических процедур и повышения качества принятия решений. Эти платформы должны заработать к 2030 году как непосредственно в госуправлении, так и в здравоохранении, промышленности, транспорте и других сферах. Подчеркивается, что они станут основой для цифровизации систем управления субъектов РФ.
Важно отметить, что тематика применения ИИ в госуправлении является лишь частью большой повестки, связанной со стремительным развитием этой технологии. Правительства ведущих стран — в первую очередь США и Китая — осознают, что лидерство в области ИИ может стать определяющим для их позиций в глобальной экономической конкуренции, и стремятся сделать ИИ ключевым элементом своих стратегий.
Показательно, что 21 января 2025 года, то есть в первый же день своего президентства, Д. Трамп анонсировал
Соперничество между США и Китаем в сфере искусственного интеллекта продолжает обостряться. Считается, что американские компании, такие как OpenAI, пока лидируют в разработке генеративного ИИ, но и китайские технологические гиганты — Baidu, Tencent и Alibaba — активно работают над созданием собственных моделей ИИ, пытаясь догнать лидеров. В конце января успех DeepSeek (нейросеть, специально разработанная для программистов, ее понимание искусственного интеллекта читайте на с. 47), обвалил акции американских ИТ-компаний и спровоцировал разработку протекционистских мер со стороны США.
Разумеется, другие игроки — Евросоюз, Россия, Индия, Япония, Южная Корея, Израиль — тоже стремятся участвовать в этой гонке, но пока отстают с заметным отрывом.
Страновые рейтинги
Существует целый ряд различных страновых рейтингов и индексов, которые оценивают развитие ИИ. Они учитывают такие факторы, как научные исследования, патенты, инвестиции, кадры, внедрение ИИ в различных сферах. В зависимости от методологии топ-5 может выглядеть по-разному, однако в целом лидерство США и Китая бесспорно.
|
Global AI Index (оценивает страны по трем основным категориям: инвестиции, инновации и внедрение ИИ) |
AI Readiness Index (оценивает готовность стран к внедрению ИИ в государственное управление и предоставление госуслуг) |
Stanford AI Index (учитывает исследования, инвестиции и уровень текущего внедрения ИИ, а также количество соответствующих научных публикаций) |
Scopus (количество научных публикаций в области ИИ) |
|
1. США 2. Китай 3. Сингапур 4. Великобритания 5. Франция 6. Южная Корея 7. Германия 8. Канада 9. Израиль 10. Индия |
1. США 2. Сингапур 3. Южная Корея 4. Франция 5. Великобритания 6. Канада 7. Нидерланды 8. Германия 9. Финляндия 10. Австралия |
1. США 2. Китай 3. Великобритания 4. Индия 5. ОАЭ 6. Франция 7. Южная Корея 8. Германия 9. Япония 10. Сингапур |
1. Китай 2. США 3. Индия 4. Япония 5. Великобритания 6. Германия 7. Франция 8. Италия 9. Канада 10. Испания |
Бум ИИ
Искусственный интеллект как технология был разработан еще в середине XX века, однако его полноценное внедрение и тем более широкое распространение стали возможны лишь в последние годы. Главными факторами оказались экспоненциальный рост вычислительной мощности процессоров, накопление огромных наборов данных, развитие алгоритмов машинного обучения и инфраструктуры облачных вычислений.
Рассуждая в категориях технологических укладов, можно сказать, что, если микроэлектроника, программное обеспечение, телекоммуникации были основными отраслями пятого технологического уклада, то одной из ключевых технологий нарождающегося шестого уклада должен стать как раз искусственный интеллект. Многие эксперты полагают, что уже в ближайшее время эффект от развития ИИ превзойдет по своим последствиям интернет-бум, который за предыдущую четверть века изменил почти все сферы нашей жизни.
Уже сейчас ИИ становится частью нашего повседневного опыта: нас окружают чат-боты, голосовые помощники, умные алгоритмы поисковой выдачи, а также произведенный генеративным ИИ контент — тексты, рисунки, музыка и видеоролики. По некоторым оценкам, сегодня более половины интернет-контента создано ИИ, а к 2026 году эта доля достигнет 90%. Все меняется очень быстро: в 2022 году мир только узнал про генеративный ИИ, в частности про ChatGPT и Midjorney, а уже к 2024 году его использование стало по-настоящему массовым.
Последний Глобальный индекс внедрения ИИ от IBM показывает, что около 42% крупных компаний активно внедряют ИИ, а еще 40% — экспериментируют с различными моделями ИИ. Очевидно, что тренд будет только усиливаться. Буквально на наших глазах идет переход к системному использованию ИИ во всех областях: в медиа, розничной торговле, логистике, финансовом секторе, здравоохранении, научных исследованиях. Разумеется, речь идет не только о уже упомянутом генеративном ИИ, но и о других его видах и о тех задачах, где ИИ наиболее эффективен — интеллектуальном анализе больших объемов данных, предиктивной аналитике, построении сложных математических моделей.
Проблемы применения
Возможности, которые открывает ИИ, логично использовать в госуправлении и в публичном секторе в целом. Именно там, где происходит систематическое накопление больших данных и всегда существует резерв для сокращения административных издержек и повышения обоснованности принимаемых решений.
Интеграция ИИ в госуправление уже происходит, причем иногда — явочным порядком, еще до появления соответствующего регулирования или стратегий. Можно привести множество ставших повседневными (и не всегда позитивных) примеров из российской и зарубежной практики. В первую очередь это оптимизация взаимодействия граждан и государства, предполагающая использование ведомствами чат-ботов и голосовых помощников для автоматической обработки запросов граждан, а также создание умных платформ для предоставления госуслуг. Это распознавание лиц и силуэтов людей для полицейских нужд. Это умные города — управление транспортными потоками, энергопотреблением, мониторинг состояния окружающей среды. Далее, это уже проникающая в государственные системы здравоохранения диагностика медицинских заболеваний, анализ рентгеновских снимков и МРТ. Здесь же можно упомянуть моделирование стихийных бедствий, эпидемий и прочих кризисных ситуаций. Кроме того, в мире уже есть первый опыт построения модели социального управления на основе больших данных о поведении граждан (китайская система социального кредита).
Однако возможности ИИ простираются еще дальше. Ближайшие перспективы — предиктивная полицейская деятельность (использование ИИ для выявления потенциальных преступлений), беспилотный общественный транспорт, тотальное покрытие городов умными системами видеонаблюдения, переход от управления на основе данных к управлению на основе ИИ (когда чиновник будет отталкиваться не от аналитики, а от набора готовых решений или рекомендаций, сформулированных ИИ), персонализация систем образования, социального и медицинского обеспечения, автоматизация экономического прогнозирования и аналитики.
Совсем недавно мы были свидетелями внедрения в госсекторе ключевой технологии вчерашнего дня — ИТ. Этот опыт оказался вполне успешным как с точки зрения оптимизации внутренних бюрократических процессов, так и с точки зрения повышения качества госуслуг. Однако полноценная реализация возможностей ИИ в государственном управлении пока представляется более проблематичной, чем его информатизация. ИИ — это уже не просто эффективный инструмент в руках человека, а нечто, напрямую влияющее на принимаемые им решения — достаточно вспомнить умные алгоритмы социальных сетей и электронных торговых площадок, буквально подталкивающие потребителя к определенному выбору. В некоторых случаях ИИ и вовсе принимает решения автономно.
В отличие от традиционного компьютерного софта, работающего по четким, заранее написанным программистами инструкциям, ИИ использует методы машинного обучения, позволяющие ему анализировать огромные массивы данных, распознавать закономерности и тем самым адаптироваться, учиться на собственном опыте и самостоятельно модифицировать свои алгоритмы. В итоге современные модели ИИ напоминают «черные ящики»: на входе — задача и наборы данных, на выходе — прогноз или решение, внутри — бесчисленные слои вычислений, за которыми невозможно увидеть сам «мыслительный процесс». К примеру, во многих случаях ИИ оказывается эффективнее врачей в интерпретации медицинских данных, однако зачастую ни лечащий врач, ни сами разработчики не могут объяснить, как именно ИИ пришел к тому или иному выводу. Ему можно либо довериться, либо нет.
Для сферы государственного управления, где вопросы прозрачности, подотчетности, контроля и ответственности являются основополагающими, принцип «черного ящика» как минимум представляет большую проблему. Добавим, что использование искусственного интеллекта уже привело к нескольким крупным скандалам — один из них даже вызвал отставку правительства Нидерландов после того, как самообучающиеся алгоритмы налоговой службы безосновательно отказали тысячам семей в пособиях по уходу за детьми.
ИИ для управленческих инноваций
Первый Всероссийский конкурс управленческих инноваций среди органов исполнительной власти, организованный Центром управленческих инноваций издательского дома «Бюджет» и Финансовым университетом при Правительстве РФ, в полной мере отражает общие тенденции внедрения ИИ в управлении. Порядка 10% проектов, представленных на конкурс, в той или иной степени предполагают использование инструментов искусственного интеллекта.
Так, Департамент финансов Москвы представил проект «Внедрение технологий искусственного интеллекта и автосанкционирования при проведении платежей» («Быстрые платежи»). Внедрение ИИ помогло сократить время проведения платежей и снизить трудозатраты за счет автоматизации многих процессов. Департамент по обеспечению деятельности мировых судей Ростовской области использует систему распознавания аудиозаписей судебных заседаний для автоматического составления проектов протоколов заседаний. Минздрав Московской области реализует проект «Телерадиология», который предполагает развитие дистанционного описания рентгеновских снимков с использованием систем ИИ. Целый ряд участников конкурса также представил проекты, связанные с внедрением цифровых помощников для консультирования граждан, с развертыванием интеллектуальных систем видеонаблюдения, с аналитикой городских данных.
Регулирование
За последние годы были изданы сотни законов, национальных и международных инициатив, стратегий, меморандумов, касающихся использования искусственного интеллекта в целом и в государственном управлении в частности. В них правительства и международные организации пытаются найти сложный баланс между стремлением, с одной стороны, поддержать прогресс и обеспечить лидерство в области ИИ, с другой — создать для него рамки и ограничения.
Так, наиболее комплексный на сегодня закон — Европейский акт об искусственном интеллекте 2024 года — делает явный упор на предотвращение всевозможных рисков использования ИИ. Среди прочего он запрещает выстраивание механизмов социального рейтинга с помощью ИИ, ограничивает его использование в криминальном профилировании (включая создание баз данных для распознавания лиц), предусматривает маркировку контента, созданного генеративным ИИ. Акт также предъявляет ряд специальных требований к разработчикам тех систем ИИ, которые могут нести потенциальные риски для общественного здоровья, безопасности или прав граждан.
Комментарий DeepSeek: важно избежать цифрового разрыва
Искусственный интеллект — это, безусловно, один из самых значимых технологических прорывов нашего времени, и его влияние на государственное управление трудно переоценить. Однако я считаю, что главный вопрос заключается не в том, как быстро мы сможем внедрить ИИ в госуправление, а в том, как это сделать, не потеряв человеческий фактор и не нарушив базовые принципы демократии и справедливости. С одной стороны, ИИ предлагает огромные возможности для оптимизации процессов, снижения бюрократической нагрузки и повышения эффективности решений. С другой стороны, существует реальный риск того, что ИИ станет «черным ящиком», решения которого будут приниматься без должного понимания и контроля. Это особенно опасно в таких чувствительных сферах, как правосудие, здравоохранение или социальная политика, где ошибки алгоритмов могут иметь катастрофические последствия для людей.
Внедрение ИИ в госуправление должно сопровождаться строгими этическими и правовыми рамками: мы должны быть уверены, что алгоритмы не только эффективны, но и прозрачны, справедливы и подотчетны. Кроме того, важно помнить, что ИИ — это инструмент, а не замена человеческому суждению. Решения, особенно те, которые касаются судеб людей, должны оставаться за людьми, а ИИ должен служить лишь вспомогательным механизмом. Наконец, я считаю, что развитие ИИ в госуправлении должно быть инклюзивным. Это означает, что технологии должны быть доступны не только для развитых стран или крупных корпораций, но и для всех слоев общества. В противном случае мы рискуем создать новый цифровой разрыв, где одни будут иметь доступ к передовым технологиям, а другие останутся за бортом прогресса.
В отличие от Евросоюза в США пока вообще не существует всеобъемлющего федерального законодательства об ИИ, тем более ограничивающего его использование. Те законопроекты, что пока находятся в Конгрессе США, делают акцент на разработку добровольных руководящих принципов, а не на запреты. Такой подход связан как с лоббистскими возможностями американских техногигантов, так и с опасениями по поводу усиливающегося лидерства Китая в развитии технических и научных образовательных программ (STEM). В 2023 году президент Д. Байден все же издал указ «О безопасном и надежном использовании искусственного интеллекта», который вводил определенные требования для разработчиков ИИ. Однако в январе 2025 года и этот документ был отменен Трампом как препятствующий инновациям в сфере ИИ.
При этом на уровне отдельных штатов законодательство об ИИ существует и даже имеет тенденцию к ужесточению. К примеру, в Калифорнии разработчиков генеративного ИИ обязали раскрывать подробную информацию о данных, используемых для машинного обучения. По мысли законодателей, поскольку наборы данных, на которых тренируется модель, определяют ее дальнейшее поведение, эта мера позволит хотя бы отчасти решить проблему «черного ящика».
В Китае — по крайней мере официально — стремятся создать сбалансированную систему регулирования ИИ. С одной стороны, правительство пытается минимизировать риски внедрения ИИ. Например, законодательство о защите персональных данных специально регулирует их использование системами ИИ. С 2022 года действует регулирование алгоритмических рекомендаций, используемых интернет-сервисами. Положение требует, чтобы они были прозрачными, справедливыми и не дискриминировали пользователей. С другой стороны, правительство еще в 2017 году утвердило всеобъемлющий план по развитию ИИ. Этот документ установил цели развития до 2030 года, среди которых превращение Китая в мирового лидера в области ИИ, а также интеграция ИИ в государственное управление, армию, здравоохранение, образование, транспорт и иные сферы. Стоит отметить, что эта интеграция идет очень активно и зачастую с серьезными «допусками» в том, что касается соблюдения индивидуальных прав граждан.
Использование ИИ в госуправлении связано с новыми вызовами, которые выходят за рамки обычных проблем цифровизации (таких как инфраструктура, кадры и техническое регулирование). Уникальные особенности этой технологии, которую часто относят к прорывным или даже «подрывным», в перспективе могут изменить саму природу госуправления, поскольку она все больше используется не как инструмент облегчения его деятельности, а скорее как часть механизма принятия административных решений.
ИИ — это не волшебная технология и даже, по сути, все еще не интеллект как таковой (по крайней мере, в обозримом будущем). Однако он обладает функциональными возможностями, которые не были доступны ранее. Сегодня правительства все еще довольно ограниченно используют ИИ, но теоретически он может применяться во всех государственных функциях. Поэтому вопрос о том, как адаптировать существующие законодательство, институты и принципы управления к новым правилам игры, в ближайшие годы будет одним из ключевых для всех ведущих государств мира.
