Пока Медведев в неравном бою тягается с ИИ, Китай выдал директиву по регулированию искусственного интеллекта-24 правила.

Поделиться ссылкой:

Правительство Китая опубликовало директиву по регулированию искусственного интеллекта. 

С 15 августа в Китае вводятся новые правила в области искусственного интеллекта.

Директива содержит  24 правила:

  • любой контент, созданный с помощью ИИ, должен быть маркирован ярким ярлыком;
  • любая компания, внедряющая ИИ, для обучения моделей обязана использовать только «белые», законные, данные;
  • китайские компании должны предоставить чёткий механизм рассмотрения публичных жалоб на услуги и контент, созданный ИИ.
  • предлагаемые в стране услуги ИИ должны «соответствовать социалистическим ценностям Китая» и не подстрекать к подрыву государственной власти, свержению социалистической системы, нанесению ущерба национальному имиджу и сепаратизму.

 

Пекин пытается регулировать китайский сектор ИИ, не подавляя его- пишет Bloomberg, 15 августа 2023 г.

На этой неделе Пекин намерен ввести новые радикальные правила для служб искусственного интеллекта, пытаясь сбалансировать государственный контроль над технологией с достаточной поддержкой, чтобы компании могли стать жизнеспособными глобальными конкурентами.

Правительство выпустило 24 инструкции, согласно которым поставщики платформ должны зарегистрировать свои сервисы и провести проверку их безопасности, прежде чем выводить их на рынок.

Ответственность за надзор возьмут на себя семь ведомств, включая Администрацию киберпространства Китая и Национальную комиссию по развитию и реформам.

Окончательный вариант правил менее обременителен, чем первоначальный проект, подготовленный в апреле, но он свидетельствует о том, что Китай, как и Европа, продвигается вперед в области государственного надзора за, возможно, самой перспективной и противоречивой технологией последних 30 лет.

 

“Китай начал действовать очень быстро”, – говорит Мэтт Шихан, сотрудник Фонда Карнеги за международный мир, который пишет серию научных работ по этой теме. “Он начал создавать инструменты регулирования и мышцы регулирования, поэтому он будет более готов к регулированию более сложных применений технологии”.

Китайские правила выходят за рамки того, что рассматривается в западных демократических странах.

Но они также включают практические шаги, которые находят поддержку в таких странах, как США.

Так, например,

  • Пекин обяжет наносить ярлыки на синтетически созданный контент, включая фото- и видеоматериалы.

Это направлено на предотвращение обмана, как, например, в случае с видеороликом Нэнси Пелоси, который был подделан так, чтобы она выглядела пьяной.

 

  • Китай также потребует от любой компании, внедряющей модель искусственного интеллекта, использовать “законные данные” для обучения своих моделей и при необходимости раскрывать их регулирующим органам.

Такое требование может успокоить медиакомпании, которые опасаются, что их творения будут подхвачены искусственным интеллектом.

 

  • Кроме того, китайские компании должны предоставить четкий механизм рассмотрения жалоб населения на услуги или контент.

По словам Энди Чуна, эксперта по искусственному интеллекту и адъюнкт-профессора Городского университета Гонконга, в США исторически сложилось так, что гиганты Силиконовой долины получили возможность стать мировыми гигантами, однако в случае с генеративным ИИ эта стратегия таит в себе серьезные опасности.

“ИИ обладает потенциалом, способным глубоко изменить то, как люди работают, живут и играют, и мы только начинаем это осознавать”, – сказал он. “Он также представляет собой очевидные риски и угрозы для человечества, если развитие ИИ будет происходить без надлежащего надзора”.

Сравнение американско- китайского законодательства в области ИИ

В США федеральные законодатели предложили целый ряд нормативных актов в области ИИ, однако их работа пока находится на ранней стадии. Летом Сенат США провел несколько брифингов по вопросам ИИ, чтобы помочь его членам ознакомиться с технологией и рисками, связанными с ней, прежде чем приступать к разработке нормативных актов.

В июне Европейский парламент принял проект закона об искусственном интеллекте, который устанавливает новые правила и требования к прозрачности систем искусственного интеллекта. Парламент, страны-члены ЕС и Европейская комиссия должны согласовать окончательные условия, прежде чем закон станет законом.

Пекин потратил годы на подготовку к принятию правил, которые вступят в силу во вторник. В 2017 году Госсовет, кабинет министров страны, выпустил “дорожную карту” по искусственному интеллекту, в которой развитие технологии было объявлено приоритетным и определены сроки введения в действие государственных нормативных актов.

По словам Шихана, такие ведомства, как ЦАК, затем провели консультации по вопросам управления ИИ с такими учеными-юристами, как Чжан Линьхан из Китайского университета политических наук и права. По мере того как проект китайского руководства по генеративному ИИ превращался в последнюю версию, между регулирующими органами, представителями отрасли и учеными проводились многомесячные консультации, чтобы сбалансировать законодательство и инновации. По словам Ю Чуаньмана, директора Центра регулирования и глобального управления Института международных отношений при Китайском университете Гонконга в Шэньчжэне, эта инициатива Пекина отчасти обусловлена стратегической важностью ИИ и желанием получить преимущество в области регулирования перед другими государствами.

Теперь крупнейшие китайские игроки на рынке ИИ, от Baidu Inc. до Alibaba Group Holding и SenseTime Group Inc. приступают к работе.

Пекин определил ИИ в качестве одного из десятка приоритетных направлений развития технологий, и после двухлетней борьбы с регуляторами правительство ищет помощи частного сектора, чтобы поддержать слабеющую экономику и конкурировать с США. После того как появление ChatGPT вызвало глобальный ажиотаж в области ИИ, ведущие технологические руководители и начинающие предприниматели вливают в эту сферу миллиарды долларов.

“В условиях жесткой глобальной конкуренции недостаток развития – это самое опасное”, – пишет о руководящих принципах Чжан, ученый из Китайского университета политических наук и права.

В этом году Alibaba, Baidu и SenseTime продемонстрировали модели искусственного интеллекта. Сюй Ли, генеральный директор компании SenseTime, провел самую яркую презентацию, представив чат-бота, который пишет компьютерный код по подсказкам на английском или китайском языках.

Тем не менее, китайские компании отстают от таких мировых лидеров, как OpenAI и Alphabet’s Google. Скорее всего, им будет трудно противостоять таким конкурентам, особенно если американские компании будут регулироваться только ими самими.

“Китай пытается идти по канату между несколькими различными целями, которые не всегда совместимы”, – говорит Хелен Тонер, директор Джорджтаунского центра по безопасности и новым технологиям.

“Одной из целей является поддержка экосистемы искусственного интеллекта, а другой – сохранение социального контроля и возможности цензурирования и управления информационной средой в Китае”.

В США OpenAI продемонстрировала слабый контроль над информацией, даже если она опасна или неточна. Его бот ChatGPT создавал фальшивые судебные прецеденты и предоставлял общественности инструкции по созданию бомб. Радиоведущий из штата Джорджия утверждает, что бот сгенерировал ложную жалобу, в которой обвинил его в хищении денег.

В Китае компаниям приходится быть гораздо более осторожными. В феврале этого года компания Yuanyu Intelligence из Ханчжоу закрыла свой сервис ChatYuan через несколько дней после запуска. Бот называл нападение России на Украину “агрессивной войной”, что противоречило позиции Пекина, и высказывал сомнения в экономических перспективах Китая, судя по скриншотам, распространившимся в Интернете.

Теперь стартап полностью отказался от модели ChatGPT и сосредоточился на сервисе повышения производительности с помощью искусственного интеллекта под названием KnowX. “Машины не могут обеспечить 100%-ную фильтрацию”, – говорит Сюй Лян, глава компании. “Но что можно сделать, так это добавить в модель человеческие ценности – патриотизм, надежность и благоразумие”.

Пекин с его авторитарной властью играет по иным правилам, чем Вашингтон. Когда китайские ведомства выносят выговоры и штрафуют технологические компании, те не могут дать отпор и часто публично благодарят правительство за контроль. В США большие технологические компании нанимают целые армии юристов и лоббистов, чтобы оспорить практически любое действие регуляторов. Наряду с активной общественной дискуссией между заинтересованными сторонами это затруднит создание эффективных нормативных актов в области ИИ, считает Айнн Кокас, доцент кафедры медиаисследований Университета Вирджинии.

В Китае ИИ начинает пробивать себе дорогу в условиях разросшегося режима цензуры, который не допускает в Интернет запретные и спорные темы. Но это не значит, что это легко, с технической точки зрения. “Одним из наиболее привлекательных новшеств ChatGPT и подобных ему ИИ является его непредсказуемость или собственная инновация, не зависящая от нашего человеческого вмешательства”, – говорит Ю, сотрудник Китайского университета Гонконга. “Во многих случаях это неподконтрольно поставщикам услуг платформы”.

Некоторые китайские технологические компании применяют двустороннюю фильтрацию ключевых слов, используя одну большую языковую модель для того, чтобы другая LLM очищалась от спорного контента. Основатель одного из технологических стартапов, который отказался назвать свою фамилию по политическим соображениям, заявил, что правительство будет даже проводить выборочные проверки того, как сервисы искусственного интеллекта маркируют данные.

“Потенциально наиболее интересным и тревожным является тот момент, когда цензура будет осуществляться с помощью новых больших языковых моделей, разработанных специально для цензуры, – говорит Натан Фрейтас, научный сотрудник Центра Беркмана-Кляйна по проблемам Интернета и общества при Гарвардском университете.

Европейский Союз, возможно, является наиболее прогрессивной страной, защищающей частных лиц от подобных посягательств. Принятый в июне законопроект обеспечивает контроль за соблюдением конфиденциальности и ограничивает использование программ распознавания лиц. Предложение ЕС также требует от компаний проводить анализ рисков, которые несут их услуги, например, для систем здравоохранения или национальной безопасности.

Однако такой подход ЕС вызвал возражения. Представитель OpenAI Альтман заявил, что его компания может “прекратить свою деятельность” в странах, которые вводят слишком обременительные правила.

Одно, чему Вашингтон может научиться у китайских регуляторов, – это ” умение действовать целенаправленно и последовательно”, – сказал Шихан. “Создавать такие инструменты, которые они смогут постоянно совершенствовать по мере того, как будут продолжать осуществлять регулирование”.

Источник: Bloomberg

Last Updated on 16.08.2023 by iskova


Поделиться ссылкой: