Как правительства пытаются взять ИИ под контроль

Новые правила для машин

Эра «дикого запада» в сфере искусственного интеллекта подходит к концу. Правительства больше не наблюдают со стороны. Они пишут своды правил, которые определят, как пишется код и где его можно использовать. Речь идет не просто об этике или размытых принципах, а о жестких законах и огромных штрафах. Европейский союз задал тон своим законом AI Act. США последовали примеру, выпустив масштабный исполнительный указ. Эти действия меняют правила игры для каждой техкомпании на планете. Если вы создаете модель, превышающую определенный порог мощности, вы становитесь объектом пристального внимания. Вы обязаны доказать ее безопасность, прежде чем она попадет к пользователям. Этот сдвиг знаменует переход от добровольных обещаний безопасности к обязательному надзору. Для обычного пользователя это означает, что инструменты, которыми вы будете пользоваться завтра, могут отличаться от сегодняшних. Некоторые функции могут быть заблокированы в вашей стране, другие станут прозрачнее в плане использования ваших данных. Цель — сбалансировать прогресс и защиту, но путь этот полон препятствий.

От этики к исполнению

Чтобы понять новые правила, нужно взглянуть на категории риска. Большинство правительств отходят от подхода «один размер для всех». Вместо этого они оценивают системы на основе потенциального вреда. Это прямое операционное изменение. Компании больше не могут просто выпустить продукт и надеяться на лучшее. Они должны классифицировать свою технологию до того, как она попадет к пользователю. Эта классификация определяет уровень контроля со стороны государства и степень юридической ответственности компании в случае сбоев. Фокус сместился с того, чем является ИИ, на то, что он делает. Если система принимает решения о людях, к ней относятся с гораздо большим подозрением, чем к системе, генерирующей картинки с котиками.

Самые строгие правила применяются к системам с неприемлемым уровнем риска. Они не просто не приветствуются — они запрещены. Это создает четкую границу для разработчиков. Они точно знают, какие черты нельзя переступать. Для всего остального правила требуют нового уровня документации. Компании обязаны вести подробные записи о том, как обучались их модели, и уметь объяснять, как модель приходит к своим выводам. Это серьезный технический вызов, так как многие современные модели — по сути, «черные ящики». Чтобы сделать их объяснимыми, нужны фундаментальные изменения в дизайне. Правила также требуют, чтобы данные для обучения были чистыми и свободными от предвзятости. Это значит, что сам процесс сбора данных теперь подлежит юридическим аудитам. Текущий регуляторный подход включает следующие категории:

• Запрещенные системы, использующие социальный скоринг или манипулятивные техники.
• Системы высокого риска, используемые в критической инфраструктуре, найме и правоохранительных органах, требующие строгих аудитов.
• Системы ограниченного риска, такие как чат-боты, которые должны уведомлять, что они не являются людьми.
• Системы минимального риска, такие как видеоигры с ИИ, сталкивающиеся с меньшими ограничениями.

Эта структура создана гибкой. По мере развития технологий список приложений высокого риска может расти. Это сохраняет актуальность закона даже при эволюции софта. Однако это также создает состояние постоянной неопределенности для бизнеса. Им приходится постоянно проверять, не перешла ли их новая функция в более регулируемую категорию. Такова новая реальность разработки ПО в мире, который опасается мощи машин.

Расколотая глобальная структура

Влияние этих правил не ограничивается границами одной страны. Мы наблюдаем рост «эффекта Брюсселя». Когда ЕС устанавливает высокую планку регулирования технологий, глобальные компании часто принимают эти стандарты везде, чтобы упростить операции. Дешевле создать один соответствующий требованиям продукт, чем десять разных версий для разных рынков. Это дает Европе огромное влияние на то, как создается ИИ в Кремниевой долине. Вы можете подробнее прочитать об EU AI Act, чтобы увидеть структуру этих стандартов. В США подход иной, но не менее значимый. Правительство использует **Defense Production Act**, чтобы обязать техгигантов делиться результатами тестов безопасности. Это сигнал того, что США рассматривают крупномасштабный ИИ как вопрос национальной безопасности.

Тем временем Китай выбрал более прямой путь. Их правила фокусируются на контенте, создаваемом генеративным ИИ. Они требуют, чтобы результаты соответствовали социальным ценностям и не подрывали государственную власть. Это создает фрагментированный мир, где одна и та же модель может вести себя по-разному в зависимости от того, где вы вошли в систему. У модели в Пекине будут другие ограничения, чем у модели в Париже или Нью-Йорке. Эта фрагментация — головная боль для разработчиков, вынужденных работать в паутине противоречивых правил. Некоторые страны хотят больше открытости, другие — больше контроля над нарративом. Для глобальной аудитории это означает, что опыт взаимодействия с ИИ становится локализованным. Мечта об едином интернете без границ угасает. На ее месте — регулируемая среда, где ваше местоположение определяет, что машине позволено вам говорить. Это новая реальность 2024 года. Сдвиг, который определит следующее десятилетие технологического роста.

Повседневная жизнь под надзором

Представьте утро проектного менеджера Сары. Она начинает день с открытия ИИ-инструмента для суммаризации длинной цепочки писем. Согласно новым правилам, софт должен уведомить ее, что резюме создано алгоритмом. Он также должен гарантировать, что данные ее компании не используются для обучения публичной модели без ее согласия. Это прямой результат новых защит приватности, встроенных в недавние законы. Позже Сара подает заявку на новую должность в техкомпанию. Фирма использует ИИ-инструмент для скрининга кандидатов. Поскольку это приложение высокого риска, компания обязана была провести аудит инструмента на предвзятость. Сара имеет законное право запросить объяснение, почему ИИ оценил ее именно так. Раньше она получила бы стандартный отказ. Теперь у нее есть путь к прозрачности. Это конкретный пример того, как управление меняет динамику власти между корпорациями и индивидами.

Днем Сара идет по торговому центру. В некоторых городах распознавание лиц отслеживало бы ее перемещения для показа таргетированной рекламы. Согласно строгим правилам ЕС, такой мониторинг в реальном времени ограничен. У ТЦ должна быть конкретная юридическая причина для этого, и Сара должна быть проинформирована. Продукты, которыми она пользуется, тоже меняются. Компании вроде OpenAI и Google уже корректируют функции для соответствия местным законам. Вы можете заметить, что некоторые инструменты генерации изображений недоступны в вашем регионе или имеют строгие фильтры, предотвращающие создание реалистичных лиц публичных фигур. Это не техническое ограничение, а юридическое. Аргументы в пользу этих правил кажутся весомыми, если учесть потенциал дипфейков для срыва выборов или предвзятых алгоритмов, лишающих людей жилья. Устанавливая барьеры, правительства пытаются предотвратить этот вред до того, как он случится. Это подход США к безопасности ИИ в действии.

Однако Сара может заметить, что ее инструменты становятся медленнее или ограниченнее. Ответы ИИ в духе «Извините, я не могу этого сделать» часто являются результатом попыток разработчика избежать огромного штрафа. Напряжение между полезностью и безопасностью видно в каждом взаимодействии. Это постоянное напоминание, что за машиной наблюдают. Эта эволюция не статична. Правила обновляются по мере появления новых возможностей. Цель — гарантировать, что ИИ, который использует Сара, является инструментом для ее блага, а не системой, работающей против ее интересов за кулисами. Это самое значимое изменение в нашем взаимодействии с компьютерами со времен изобретения интернета.

Скрытые издержки комплаенса

Мы должны задать сложные вопросы о том, кто на самом деле выигрывает в регулируемом мире. Действительно ли тяжелое регуляторное бремя защищает общественность или оно просто защищает действующих игроков? У крупных техфирм есть ресурсы, чтобы нанять сотни юристов и инженеров для обеспечения комплаенса. У маленького стартапа в гараже их нет. Мы рискуем создать мир, где только гиганты могут позволить себе инновации. Это может привести к снижению конкуренции и росту цен для пользователей. Есть также вопрос приватности против безопасности. Когда правительства требуют доступа к внутреннему устройству ИИ-модели, кто защищает эти данные? Если правительство может аудировать модель, чтобы убедиться в ее безопасности, оно может использовать тот же доступ, чтобы следить за тем, что модель узнает от пользователей. Это компромисс, который редко обсуждается на публичных форумах.

Мы также должны учитывать скрытую стоимость инноваций. Если каждая новая функция должна проходить долгий процесс одобрения, не упустим ли мы прорывы, которые могли бы спасти жизни в медицине или решить сложные климатические проблемы? Трение регулирования — это реальная цена. Нам нужно знать, стоит ли полученная безопасность потерянного прогресса. Есть также вопрос исполнения. Как регулировать модель, размещенную в децентрализованной сети или в стране, игнорирующей международные нормы? Правила могут применяться только к компаниям, которые решили им следовать, оставляя самых опасных игроков свободными от надзора. Это создает ложное чувство безопасности. Мы строим забор вокруг законопослушных граждан, пока ворота остаются открытыми для всех остальных. Это вопросы, которых регуляторы часто избегают. Они фокусируются на видимых рисках, игнорируя системные. Двигаясь вперед, мы должны убедиться, что наше желание безопасности не ослепляет нас перед ценностью открытого и конкурентного рынка.

У вас есть история об ИИ, инструмент, тренд или вопрос, который, по вашему мнению, мы должны осветить? Пришлите нам свою идею статьи — мы будем рады ее услышать.

Техническая цена прозрачности

Для продвинутых пользователей и разработчиков новые правила означают конкретные технические ограничения. Один из самых значимых показателей — порог вычислительной мощности. Исполнительный указ США устанавливает планку в 10 в 26-й степени операций с плавающей запятой. Любая модель, обученная с большей мощностью, должна быть заявлена правительству. Это вынуждает разработчиков вести подробные логи использования оборудования и запусков обучения. Лимиты API также становятся инструментом регулирования. Чтобы предотвратить массовую генерацию дезинформации, некоторые регионы рассматривают ограничения на количество запросов, которые один пользователь может сделать к генеративной модели. Это влияет на то, как разработчики создают приложения, полагающиеся на эти модели. Теперь они должны учитывать эти лимиты в своем коде и бизнес-моделях. Локальное хранение данных — еще один важный фактор. Законы часто требуют, чтобы данные о гражданах оставались в определенных географических границах. Это значит, что компании не могут просто использовать центральное облако для обработки данных отовсюду. Они должны строить и поддерживать локальные дата-центры. Технические требования включают:

• Обязательный водяной знак на уровне API для идентификации контента, созданного ИИ.
• Требования к резидентности данных, вынуждающие локальную обработку и хранение.
• Логирование вычислений для любого обучения модели, превышающего порог в 10 в 26-й степени флопсов.
• Слои объяснимости, позволяющие проводить человеческий аудит весов модели и путей принятия решений.

Рабочие процессы интеграции также меняются. Разработчики теперь должны встраивать проверки безопасности на каждом этапе пайплайна. Если вы создаете инструмент, использующий сторонний API, вы теперь несете ответственность за то, как этот API обрабатывает данные. Вы должны гарантировать, что ваша интеграция не обходит фильтры безопасности, установленные провайдером. «Гиковская» часть закона — это место, где идут настоящие битвы. Речь о задержках, резидентности данных и математике весов модели. Это детали, которые определяют, будет ли продукт жизнеспособным или он будет похоронен под грузом собственных требований комплаенса. Вы можете найти больше деталей об этих технических сдвигах в последних новостных отчетах о техполитике. Для тех, кто хочет опережать эти изменения, следить за последними событиями в регулировании ИИ — необходимость. Сложность этих правил означает, что роль разработчика становится в такой же степени юридической, как и кодинговой.

Незавершенный код

Попытка взять ИИ под контроль — это работа в процессе. Мы переходим от периода полной свободы к периоду управляемого роста. Правила, написанные сегодня, сформируют технологии следующего десятилетия. Однако скорость софта всегда опережает скорость законодательства. К моменту принятия закона технология часто уходит вперед к чему-то новому. Это оставляет нас с живым вопросом, который будет развивать эту тему: может ли демократический процесс когда-либо быть достаточно быстрым, чтобы регулировать интеллект, который переписывает сам себя? Пока фокус на прозрачности и подотчетности. Мы пытаемся гарантировать, что люди остаются главными над машинами, которые они построили. Сделают ли эти правила ИИ безопаснее или просто сложнее — еще предстоит увидеть. Единственная уверенность в том, что эра нерегулируемого алгоритма закончилась. Такова реальность 2024 года и далее.

Примечание редактора: Мы создали этот сайт как многоязычный центр новостей и руководств по ИИ для людей, которые не являются компьютерными гиками, но все же хотят понять искусственный интеллект, использовать его с большей уверенностью и следить за будущим, которое уже наступает.

Нашли ошибку или что-то, что нужно исправить? Сообщите нам.