Насколько актуальна и полна сегодня нормативно-правовая база регулирования в области разработки и применения искусственного интеллекта в России? Каковы ближайшие планы ее совершенствования и развития? 

Нормативно-правовая база Российской Федерации в сфере искусственного интеллекта находится сегодня в начальной стадии развития. Сформированы верхнеуровневые документы, в которых отражаются основные направления, принципы и этические нормы работы с ИИ. Особо стоит выделить «Национальную стратегию развития искусственного интеллекта». Была проведена большая работа по итогам стратегической сессии по искусственному интеллекту, состоявшейся в конце 2023 г. у Михаила Владимировича Мишустина. За прошедшее время федеральные органы исполни тельной власти актуализировали положения, показатели и целевые значения, а также определили те моменты, которые необходимо было урегулировать, внесли дополнительные определения и термины с учетом текущей геополитической обстановки. Сегодня данная стратегия – это основной документ, который и будет формировать весь регуляторный ландшафт по работе с технологиями искусственного интеллекта. Также в обновленной стратегии сформирована потребность в нормативно-технической документации, т. е. в документах в сфере стандартизации. Далее идут нормативные акты на уровне конкретных отраслей экономики. Это отраслевые стратегии цифровой трансформации, куда обязательно включены показатели в сфере искусственного интеллекта и ряд других моментов. В России нормативно-правовой ландшафт в области ИИ отстроен примерно на 20%. Пока у нас имеется только один основополагающий документ, по которому мы работаем. 

Существуют ли интегральные метрики и показатели развития ИИ в России? Как мы выглядим на фоне других стран? 

Данные разнятся исходя из оценок различными институтами развития, такими как ВШЭ, Сбербанк или наш Центр. Есть различные интегральные показатели, в частности, совокупная мощность вычислительных мощностей, количество научных публикаций, НИОКРов, научных центров и т. д. На текущий момент мы, к сожалению, не входим в мировой топ-10. Ориентировочно занимаем 13–14-е место. Лидерами являются Китай, США, Япония, Великобритания. Это те страны, которые располагают собственными производственными мощностями по выпуску вычислительной инфраструктуры для ИИ, научной базой и т. п. 

Как развиваются основные госпрограммы и госпроекты, призванные стимулировать раз работку и внедрение средств ИИ? Как оцениваете ход их реализации и промежуточные результаты?

Основные направления развития в области ИИ сформулированы в двух нацпроектах – «Цифровая экономика», который завершается в 2024 г. – и новом формируемом нацпроекте «Экономика данных и цифровая трансформация государства», а также в Федеральном проекте «Цифровое государственное управление». В целом, мероприятия нацпроекта «Цифровая экономика» планово выполнены, достигнуты прикладные результаты в различных отраслях экономики и социальной сферы. Важно понимать, что это кросс-отраслевой нацпроект, в котором участвует не только Минпромторг, но и другие федеральные органы исполнительной власти. В рамках реализации госполитики в сфере развития искусственного интеллекта большую роль играют меры поддержки, субсидии и гранты, которые реализуются на всех уровнях власти. Эти инструменты позволяют достичь плановых показателей, которые уже установлены и будут установлены в новом нацпроекте. Еще одним инструментом, который также реализует госполитику, стало создание индустриальных центров компетенции (ИЦК), которые позволяют крупным промышленным предприятиям выступить в качестве единого заказчика ПО. Сейчас в разных отраслях запущено восемь особо значимых проектов, в которых используются технологии ИИ.

Какой вам видится текущая и перспективная структура индустрии разработки ИИ? Каковы основные группы и сегменты участников сегодня, и кого пока не хватает, на ваш взгляд?

Условно основных участников разработки можно поделить на три группы. Если мы хотим развивать техно логии ИИ и разрабатывать что-то прорывное, нам нужны малые команды. В отрасли беспилотников их называют «гаражники», а в ИТ – стартапы. Они занимаются развитием технологий, их трансформацией, исследованиями, и они не боятся ошибиться. У них чаще всего нет заказчика, нет госфинансирования, они могут двигать развитие технологий, находить новые ниши применения, изменять и адаптировать код. Дальше идет связка «вендор – интегратор» плюс крупный разработчик. Когда вам нужно «коробочное» решение, когда требуется в максимально короткий срок повысить уровень цифровой зрелости предприятия, вы смотрите на универсальные решения. Чаще всего это решения, которые оцифровывают не основные, а вспомогательные бизнес-процессы, например, документооборот, системы поддержки принятия решений, аналитика, BI-платформы и т. д. Следующий вариант, когда не обходима внутренняя разработка (in-house), доступен только для крупных игроков. Для этого у них есть дочерние организации, собственный пул разработчиков, которые создают «тяжелое» решение для основных бизнес-процессов предприятия. Это решение, как правило, не масштабируемое, его нельзя будет внедрить на других предприятиях отрасли. Таким образом, для каждого из уровней внедрения существует своя ниша, свое понимание. 

Насколько сильны наши математические школы, и какой вклад они вносят в развитие теории и практики применения нейросетей?

Хочу отметить огромный вклад научных организаций, который они вносят в эту работу. Исследования, НИРы и НИОКРы, проводимые научными организациями, являются теми инструментами, которые определяют вектор развития технологий ИИ. Техническая школа сейчас представлена рядом ключевых вузов, таких как МФТИ, МГТУ им. Баумана, МИРЭА, СПбПУ. Самое интересное и полезное в работе научных организаций то, что они рассматривают искусственный интеллект не как отдельную систему, а как математическую основу, базу для всех других систем и решений. Это именно то, что мы пытаемся донести до промышленности. Технологии искусственного интеллекта более эффективно могут дополнять уже существующие, сформировавшиеся классы ПО. 

Насколько востребована, по вашим наблюдениям, работа «Росстандарта» в области стандартизации сферы разработки и применения ИИ? Как сейчас строится эта работа, есть ли планы по популяризации стандартов в среде разработчиков? 

Этот вопрос надо рассматривать через призму деятельности не только непосредственно «Росстандарта», но и его технических комитетов (ТК). Что касается «Росстандарта», то его перспективная программа стандартизации на следующий год будет включать ряд отраслевых стандартов по использованию технологий искусственного интеллекта в промышленности. Я начинал свою трудовую деятельность в Минпромторге России, в Департаменте технического регулирования, стандартизации и обеспечения единства измерений. Хорошо помню, насколько тогда была чужда тема стандартизации цифровых технологий в деятельности ТК и «Росстандарта». Сейчас произошел резкий скачок в этом направлении. Возможно, этому способствовали вектор на цифровизацию, общая риторика государства и ряд мероприятий нацпроекта «Цифровая экономика». Относительно деятельности ТК-164. Это наши прямые партнеры, с которыми мы в текущем году выполнили колоссальную работу, сформировали рабочую группу по использованию технологий ИИ в промышленности. Более 120 участников рабочей группы было сформировано, проведено четыре комплексных заседания. Среди результатов деятельности рабочей группы – предложения из более чем 60 стандартов по внедрению технологий ИИ в промышленности. В связи со значимостью проделанной работы подготовлено предложение о преобразовании рабочей группы в подкомитет. 

Насколько актуальна сегодня проблематика, связанная с информационной безопасностью в области ИИ? В чем вам видятся «подводные камни»? 

В рамках выставки «Иннопром» мы провели большое интервьюирование промышленности и разработчиков и сформировали целый пул проблемных моментов, которые разбили по уровням. Первый уровень – бытовой. Это использование технологий ИИ во вред человеку, что нарушает основные принципы применения технологии ИИ и является противоправной деятельностью. Речь идет о мошенничестве, дипфейках, имитации голоса. Известно ли вам, что более 95% открытых датасетов, которые замечены в сети Интернет, являются «отравленными»? Синтетическими данными, фейковыми данными и пр. Почему вообще встал вопрос, связанный с «отравленностью» датасетов? Потому что возникла проблема: где, кому и как брать большие наборы данных для обучения собственных решений. Допустим, одно из 100 предприятий собирает, систематизирует, размечает данные у себя на производстве и может их переиспользовать. Но хватит ли вам этих данных для обучения ИИ внутри предприятия? Нет, конечно. Соответственно, все ищут схожие данные, синтетические, с других предприятий, пытаются договориться. Но никто не может проверить их полноту и качественную достоверность. Можно верить только первичным данным, которые сейчас собирают с помощью технологии IoT с датчиков. Не говоря уже о данных, которые содержатся в учетных системах предприятий, – любой системный администратор может эти данные изменить. А неточность данных – это неточность в работе системы поддержки принятия решений, математической модели и т. д. Поэтому вопрос верифицированности, безопасности данных стоит крайне остро. Еще в 2023 г. нашему учреждению ставилась задача по формированию валидированного, проверенного набора данных и ML-моделей, которые будут доступны для промышленности. И мы эту задачу в текущем году выполнили. Да, их немного. Но это именно те данные и модели, которые могут быть использованы, так как проверены нами чуть ли не в ручном формате. 

Какие тенденции в области раз вития самих нейросетей вы бы выделили особо? Каков основной вектор развития? Можно ли утверждать, что именно большие языковые модели определят ближайшее будущее развитие ИИ? 

Да, IQ генеративной модели, самой развитой и популярной в мире, приблизился к среднему уровню IQ человека. Но в моем понимании тренд и тенденции должны быть связаны не с ней. Нам необходимо сфокусироваться на встраивании технологий ИИ как вспомогательных подсистем в каждый уже существующий тип ПО. Следует отметить, что сейчас более важным становится не то, куда внедрять, а то, какие технологии ИИ являются более востребованными в мире. Рассмотрим данную проблему на примере двух стран – Российской Федерации и Объединенных Арабских Эмиратов. В ОАЭ мы были с бизнес-миссией в октябре текущего года. Мы проводили ряд мероприятий с арабской стороной, посетили вы ставку, в итоге определили главные направления развития ИИ в ОАЭ, которые, как оказалось, совпадают с нашими. Самое востребованное технологическое направление – компьютерное зрение (не считая генеративный ИИ, очевидно, оно самое популярное). Компьютерное зрение может использоваться во всех технологических направлениях: SmartCity, логистика, управление трафиком, ЖКХ, анализ дорог, анализ состояния города, видеоаналитика бытового уровня и т. д. Следующие направление – различные рекомендательные системы, системы поддержки решений. В частности, очень востребованной во всем мире является система поддержки врачебных решений. 

Как вы оцениваете положение с развитием аппаратных решений в России? Выдерживают ли наши решения конкуренцию, на сколько широко их применяют на практике? 

Потребность в отечественной импортозамещенной электронной компонентной базе, в нейроморфных и тензорных процессорах отражена в рамках корректировки Национальной стратегии развития искусственного интеллекта, которую внес Минпромторг в 2023 – начале 2024 г. На уровне Указа президента определен основной вектор развития, включая конкретные показатели (1 экзафлопс совокупных отечественных вычислительных мощностей к 2030 г.). Если говорить о создании отечественных сопроцессоров, которые чаще всего используются в связке с зарубежными технологиями от Nvidia, AMD и т. д., отмечу двух крупных игроков, с кем мы довольно плотно взаимодействуем. Это компания Hi-Tech с их вычислителями и НТЦ «Модуль» с чипами для ИИ. Да, пока им далеко до зарубежных аналогов, но, возможно, в ближайшие пять-шесть лет отставание будет ликвидировано.

Решения значительной части участников рынка сводятся к использованию ИИ-сервисов от ведущих разработчиков или к работе с соответствующими СПО-библиотеками. Насколько перспективна такая модель применительно к промышленности? 

Не люблю слово «экосистема», но, к сожалению, оно здесь подходит. Экосистема – это очень распространенный инструмент, когда разработчик создает продукты, данные внутри продуктов обмениваются, получается ряд сервисов с использованием ИИ. Работает все это в облаке. Но есть проблема, связанная с тем, что промышленность предпочитает работать со своими данными в закрытом контуре. Это не только размещение на локальных серверах самого предприятия, но и обработка в закрытом безопасном контуре, ведь огромное количество промышленных предприятий в настоящее время являются предприятиями ОПК. Также не забываем, что многие предприятия относятся к объектам критической информационной инфраструктуры (КИИ), которые просто не могут себе позволить рисков утечки данных. Поэтому сервисная модель предоставления ПО возможна только там, где требуется сложная, дорогая вычислительная инфраструктура. Тогда сервисы допустимы к использованию. В остальных случаях предприятия выбирают решения под собственные задачи и существующие у них возможности. 

Давайте более подробно остановимся на инфраструктуре, необходимой для решения реальных ИИ-задач в интересах промышленности. Как с ней обстоят дела? 

Для решения промышленных задач требуется вычислительный кластер. А это видеокарты отдельной серии, цена которых начинается от полумиллиона. Чтобы это работало, необходимы серверный процессор, оперативная память, чтобы загрузить туда данные и обучить ИИ, система хранения данных. Таким образом, базовый сервер под ИИ для задач промышленности может стоить от 2 млн руб. Это для того, чтобы в течение двух-трех лет у вас были мощности для решения своих задач. Если говорим о необходимости разработки и поддержки In-house- решений, то обязательно встает вопрос о скорости их работы. Поэтому чаще всего используют вычислительные мощности ЦОД, в частности, от МТС, «Мегафона», Selectel и др. Существуют различные требования к работе таких ЦОД с промышленностью: обязательный криптоканал, передача сертифицированных решений, которые могут работать в этом ЦОД, и т. д. У нас функционирует свой центр коллективного пользования. Это 128 видеокарт Nvidia V100, производи тельностью 16 петафлопс по методике тестирования fp16. Сегодня все наши мощности загружены, и на них стоит очередь. Базовые задачи, которые обрабатываются в центрах коллективного пользования, имеют под собой срок реализации. Мы взяли квартал, потому что понимаем, что не можем продолжать предоставлять мощности только одной организации. Сейчас в очереди на рассмотрение порядка 25 заявок. В настоящее время мы с Минпромторгом ведем работу по модернизации и масштабированию наших вычислительных мощностей. Дефицит мощностей есть и на рынке в целом. Именно поэтому мероприятия в рамках стратегии по искусственному интеллекту нацелены на стимулирование разработки отечественных решений для применения технологий ИИ, программно-аппаратных комплексов и ЭКБ. Это должно снять дефицит предложения по мощностям. 

Каков сегодня уровень развития ИИ-технологий в сферах, где они получили наиболее широкое распространение? 

На мой взгляд, мы незначительно отстаем от передовых стран. Все разработчики – и наши, и зарубежные – идут плюс-минус по одному сценарию. Создается, например, какая-то open-source-база решений, а дальше специалисты создают продукты под конкретные рынки, под конкретные задачи. Например, генеративный искусственный интеллект – «Яндекс.GPT» – не сильно уступает ChatGPT, который является общепринятым лидером, потому что и там, и там фундаментально все основано на одних научных трудах. Стоит отметить, что ряд наших решений очень популярны в мире. Например, системы распознавания видеоаналитики востребованы на рынках Объединенных Арабских Эмиратов, Китая и др. В нашем учреждении разработаны и используются четыре методики оценки решений с применением ИИ. Мы проверяем наличие в решении технологий, связанных с искусственным интеллектом, затем технологический стек внутри ПО – насколько оно использует open-source, какая там база. Не продают ли вам просто open-source с фронтом? К сожалению, большой процент именно таких решений сейчас представлены на рынке и за очень дорого продаются. Далее проверяем конкурентоспособность решений. Наконец, оцениваем их экспортный потенциал для поддержки, по линии цифровых атташе. На базе нашего учреждения сформирован Проектный офис Службы «цифровой атташе». Соответственно, мы и проверяем те решения, которые можно отправлять на экспорт.

Переходя к аспектам применения нейросетей в «тяжелых» корпоративных системах, что можно сказать о системах управления предприятием и связанных с ними бизнес-процессах? Каков потенциал у ИИ-инструментария в этой области? 

Современные тренды, реалии и потребности рынка диктуют свои условия, в том числе по использованию в ERP-системах технологии искусственного интеллекта. Есть программируемые роботы, которые собирают соответствующую информацию, есть человек, который настраивает их работу. И есть большой массив первичной, необработанной информации, которую не обходимо проанализировать, сформировать подход и в дальнейшем на основании этих данных формировать внутренние рекомендательные системы, системы поддержки принятия решений. Сейчас, насколько мне известно, у «1С» есть такая подсистема, но о результатах и опыте ее использования мы информацию не собирали. В целом, технологии ИИ для ERP не имеют ключевого трансформационного эффекта. Другое дело BI. Любая аналитика, если рассматривать даже самые продвинутые BI-платформы с графовой аналитикой, – это способ нахождения скрытых связей и корреляций между данными, которые обычный человек не всегда способен заметить. Например, обслуживание и ремонт. У вас огромное количество различных данных, которые содержатся в информационных системах: вибрация, шум и т. д. Вы не всегда можете заметить корреляцию этих характеристик с техническим состоянием станка, оборудования. Аналитика (с применением ИИ) показывает ту самую точку, которую вы в упор не видели. 

Еще одной перспективной областью применения ИИ представляется сфера проектирования. Что в этой области сейчас происходит? 

Проектирование, моделирование и вычисления действительно являются одними из наиболее перспективных направлений для применения искусственного интеллекта, особенно в рамках разработки отечественных систем автоматизированного проектирования для микроэлектроники (САПР). В нашей стране активно работают над созданием собственных решений, включая методы машинного обучения. Например, в рамках проекта «Обсидиан», который занимается проектированием цифровых сверхбольших интегральных схем (СБИС) с использованием открытого кода, Фонд перспективных исследований поставил задачу создать «умную» САПР для СБИС. Предполагается, что новые методы увеличат эффективность разработки по сравнению с традиционным подходом OpenLane. Важно отметить, что при меняемые технологии могут улучшить параметры СБИС на 10–20%. В настоящее время Минпромторг России предоставляет государственную поддержку в виде прямых НИОКР для разработки отдельных инструментов САПР для проектирования сверхбольших интегральных схем (СБИС). 

Какие еще области применения ИИ характерны для производства? 

Сразу хочу подчеркнуть, что с учетом потребности в тяжелом промышленном ПО, различных цифровых платформах необходима кооперация между промышленными предприятиями при разработке унифицированных решений, которые могут быть использованы в рамках отрасли. Такая же потребность существует и при внедрении ИИ в платформы управления жизненным циклом продукции (PLM). Огромное количество факторов, влияющих на производство продукции, ее эксплуатацию и обслуживание, являются уникальными. Использование технологий ИИ на каждом из этапов помогает их оптимизировать. Так, при проектировании ИИ позволяет использовать оптимальные схемы и материалы. Подбор и описание всего процесса происходят с помощью генеративного искусственного интеллекта. На этапе эксплуатации осуществляется сбор эксплуатационных данных. Есть возможность поменять что-то уже сейчас, что по плану должно выйти из строя через месяц, два, три. Это позволит сэкономить время и сократить простои. Наконец, при выводе из эксплуатации ИИ дает возможность правильно переиспользовать старые компоненты, утилизировать их и т. д. Здесь ИИ помогает выбрать лучшие сценарии, и подсказывает, как промышленнику более эффективно управлять своей продукцией. 

Каковы дальнейшие планы Минпромторга России по регулированию рынка ИИ? Какие задачи ставит Министерство перед промышленностью по освоению ИИ инструментов и какие требования выдвигает к разработчикам? 

Минпромторг начинает формировать регуляторный ландшафт по работе с промышленными данными. В настоящее время нет нормативного обеспечения сбора этой информации, нет обязанности промышленных предприятий передавать, хранить и систематизировать ее. Как нет и ответственности за ее распространение. Регулирование промышленных данных должно обеспечить сбор агрегированных данных с промышленных предприятий, которые используют одно технологическое оборудование. Только когда датасет сформирован из информации не одного станка, а десяти, точность будет на должном уровне. Регуляторика позволит собирать эти данные оператору платформы промышленных данных, разрабатывать соответствующие нейросети, формировать эталонные наборы данных и распространять их между участниками оборота промышленных данных. Чем больше участников, тем точнее данные. И что еще важнее: когда это регулирование будет принято, Минпромторг получит инструмент сбора первичной информации о техническом состоянии промышленности. В текущем году проведена предварительная работа, результаты которой были представлены на «Иннопроме». Мы планируем уже с 2025 г. начать официальный трек. Соответственно, в следующем году будет идти работа по утверждению этой нормативной базы. Как правило, такие нормы вступают в силу отлагательно, горизонт вступления в силу – 2027 г. 

В заключение расскажите подробнее о вашем Центре и вашей команде – ваши компетенции, текущие проекты и перспективные планы. 

Сейчас у нас в штате 80 специалистов, которые занимаются процессами обеспечения деятельности организации, комплексными ИТ-проектами, сопровождением ИТ-проектов, образовательной и нормативно-методологической деятельностью. Ключевое направление нашей деятельности – работа с промышленностью и ИТ-компаниями: формирование перечня потребностей промышленности в тех или иных решениях, применяющих технологию ИИ; подбор потенциальных партнеров, прошедших апробацию по нашим методикам. Мы всегда предлагаем перечень компаний, из которых промышленность сама может выбрать подходящего партнера. В сфере цифровой трансформации мы реализуем ряд проектов совместно с Минстроем России, Главгосэкспертизой, Минздравом, Минобороны, что позволяет нам выходить за рамки промышленности. Например, с Главгосэкспертизой мы сделали MVP по созданию собственной генеративной модели в закрытом контуре. В области образования совместно с МФТИ организуем дополнительное профессиональное обучение для со трудников Минпромторга России, обучая их работе с технологиями ИИ. Мы одни из первых в Минпромторге, кто занимается повышением компетенций государственных гражданских служащих. Мы располагаем центром коллективного пользования, о котором говорили выше, с вычислительной машиной и возможностью предоставления ее мощностей по разным направлениям. Наконец, мы занимаемся экспертизой, аналитикой, консалтингом и разработкой собственных нейронных сетей, рекомендательных систем, генеративного искусственного интеллекта. Но это не публичные продукты, они не предназначены для продажи. 

Как развиваются ваши связи и совместные проекты с отдельными отраслями промышленности? 

В этом году мы провели большое турне по отраслям промышленности. Начали с радиоэлектроники, потом посетили ряд предприятий химической промышленности, металлургии, машиностроения, отрасль гражданских беспилотников. Сейчас на очереди робототехника. 

В конце интервью несколько слов о планах в сфере медицинского ИИ. В начале следующего года будет готова единая цифровая платформа медтехники по сбору информации о производителях медтехники, комплектующих и т. д. Платформа патоморфологии – это система обмена снимками, информацией о раковых опухолях, их разметкой. Сюда же относятся три наши нейросети по онкозаболеваниям толстой кишки, молочной железы и легкого.