Найважливіші закони та правила щодо ШІ, за якими варто стежити

Ера беззаконного штучного інтелекту добігла кінця. Уряди по всьому світу переходять від розмитих рекомендацій до суворих законів із величезними штрафами. Якщо ви створюєте або використовуєте програмне забезпечення, правила змінюються просто у вас під ногами. Це вже не просто про етику. Це про юридичну відповідність та загрозу мільярдних санкцій. Європейський Союз задав темп першим великим комплексним законом, але США та Китай не відстають. Ці правила визначатимуть, які функції ви зможете використовувати і як компанії оброблятимуть ваші дані. Більшість людей вважає, що це далека проблема для юристів. Вони помиляються. Це впливає на все: від того, як ви подаєте заявку на роботу, до того, як ранжується ваша стрічка в соціальних мережах. Ми спостерігаємо народження регульованої індустрії, яка більше схожа на банківську справу чи медицину, ніж на відкритий веб минулого. Цей зсув визначить наступне десятиліття технічного розвитку та корпоративної стратегії. Настав час поглянути на конкретні вимоги, які переходять із залів уряду в код ваших застосунків.

Глобальний зсув у бік нагляду за штучним інтелектом

Основою поточного регулювання є Закон ЄС про ШІ (EU AI Act). Цей закон не розглядає все програмне забезпечення однаково. Він використовує ризикоорієнтований підхід, щоб визначити, що дозволено, а що ні. На вершині піраміди знаходяться заборонені системи. До них належать такі речі, як біометрична ідентифікація в реальному часі в громадських місцях або соціальний скоринг з боку урядів. Вони просто заборонені, оскільки становлять занадто великий ризик для громадянських свобод. Нижче знаходяться системи з високим рівнем ризику. Ця категорія включає ШІ, що використовується в освіті, наймі на роботу або критичній інфраструктурі. Якщо компанія створює інструмент для перевірки резюме, вона повинна довести, що він не є упередженим. Вони повинні вести детальні журнали та забезпечувати нагляд з боку людини. Закон також стосується моделей загального призначення. Ці моделі повинні бути прозорими щодо того, як вони навчалися. Вони мають поважати закони про авторське право та узагальнювати дані, використані для навчання. Це величезна зміна порівняно з потайним способом створення моделей лише два роки тому.

У Сполучених Штатах підхід інший, але не менш важливий. Білий дім видав виконавчий указ, який вимагає від розробників потужних систем ділитися результатами тестів на безпеку з урядом. Він використовує Закон про оборонне виробництво (Defense Production Act), щоб гарантувати, що ШІ не стане загрозою національній безпеці. Це не закон, прийнятий Конгресом, але він має вагу федеральних закупівель та нагляду. Він зосереджується на red-teaming, що є практикою тестування системи на слабкі місця або шкідливі результати. Китай має власний набір правил, які зосереджені на правдивості контенту та захисті соціального порядку. Хоча методи відрізняються, мета одна. Уряди хочуть повернути контроль над технологією, яка розвивалася швидше, ніж вони очікували. Ви можете знайти більше деталей про конкретні вимоги в офіційній документації до Закону ЄС про ШІ. Ці правила є новим стандартом для будь-якої компанії, яка хоче працювати в глобальному масштабі.

Ці закони мають вплив, що виходить далеко за межі країн, які їх пишуть. Це часто називають «Брюссельським ефектом». Якщо велика технологічна компанія хоче продавати своє програмне забезпечення в Європі, вона повинна відповідати правилам ЄС. Замість того, щоб створювати різні версії для кожної країни, більшість компаній просто застосовуватимуть найсуворіші правила до всього свого глобального продукту. Це означає, що закон, прийнятий у Брюсселі, фактично стає законом для розробника в Каліфорнії або користувача в Токіо. Це створює глобальну базу для безпеки та прозорості. Однак це також створює фрагментований світ, де деякі функції просто вимкнені в певних регіонах. Ми вже бачимо, як це відбувається. Деякі компанії відклали запуск розширених функцій у Європі, оскільки юридичний ризик занадто високий. Це створює цифровий розрив, де користувачі в США можуть мати доступ до інструментів, яких не мають користувачі у Франції. Для творців це означає, що їхня робота краще захищена від використання як навчальних даних без дозволу. Для урядів це перегони за те, хто зможе стати глобальним хабом для надійних технологій. Ставки високі. Якщо країна запроваджує надмірне регулювання, вона може втратити свої найкращі таланти. Якщо вона регулює недостатньо, вона ризикує безпекою своїх громадян. Ця напруженість — нова норма для глобальної технологічної економіки. Ви можете відстежувати ці зміни через Виконавчий указ Білого дому про ШІ, який окреслює американську стратегію балансування між інноваціями та безпекою.

Уявіть день із життя інженера-програміста на ім’я Маркус. Два роки тому Маркус міг взяти набір даних з інтернету і навчити модель за одні вихідні. Йому не потрібно було ні в кого питати дозволу. Сьогодні його ранок починається з наради щодо відповідності вимогам. Він має задокументувати походження кожного зображення у своєму навчальному наборі. Він має проводити тести, щоб переконатися, що модель не дискримінує певні поштові індекси. Його компанія найняла нового головного директора з питань відповідності ШІ, який має повноваження зупинити будь-який запуск. Це операційна реальність. Це вже не просто про код. Це про аудиторський слід. Маркус витрачає тридцять відсотків свого часу на написання звітів для регуляторів замість написання функцій для користувачів. Це прихований податок нової регуляторної ери. Для звичайного користувача вплив більш тонкий, але такий же глибокий. Коли ви подаєте заявку на кредит, банк повинен мати змогу пояснити, чому ШІ відмовив вам. Ви маєте право на пояснення. Це закінчує еру «чорної скриньки» в автоматизованому прийнятті рішень. Люди схильні переоцінювати, як швидко ці закони зупинять помилки. Вони недооцінюють, наскільки ці закони сповільнять випуск нових функцій. Ми переходимо від світу бета-версій програмного забезпечення до світу сертифікованого програмного забезпечення. Це призведе до більш стабільних продуктів, але меншої кількості радикальних стрибків.

Творці також бачать зміни. Великі платформи тепер зобов’язані маркувати згенерований контент. Якщо ви бачите фотореалістичне зображення у своїй стрічці, велика ймовірність, що воно матиме невелику позначку про те, що воно створене машиною. Це прямий результат вимог про прозорість. Це змінює те, як ми довіряємо тому, що бачимо в інтернеті. Шум політичних дебатів часто приховує ці практичні зміни. Поки політики говорять про екзистенційний ризик, справжня робота відбувається у відділах відповідності кожної великої фірми. Щоб залишатися в курсі цих змін, ознайомтеся з останнім аналізом політики ШІ для детального вивчення конкретних регіональних правил.

Практичні зміни для індустрії

• Обов’язкове тестування безпеки для будь-якої моделі, що перевищує певні пороги обчислювальної потужності.
• Право користувачів отримувати пояснення щодо будь-якого автоматизованого рішення, яке впливає на їхній правовий статус.
• Суворі вимоги до маркування даних та розкриття авторських прав у навчальних наборах.
• Великі штрафи, які можуть сягати семи відсотків від загального глобального доходу компанії.
• Створення національних офісів ШІ для моніторингу відповідності та розслідування скарг.

Маєте історію, інструмент, тренд або питання про ШІ, які, на вашу думку, ми повинні висвітлити? Надішліть нам свою ідею статті — ми будемо раді її почути.

Ми повинні запитати, чи справді ці правила захищають громадськість, чи вони просто захищають можновладців. Чи допомагає чотирьохсотсторінкове регулювання маленькому стартапу, чи воно гарантує, що виживуть лише компанії з мільярдними юридичними командами? Якщо вартість відповідності занадто висока, ми можемо передати постійну монополію нинішнім технологічним гігантам. Нам також потрібно поставити під сумнів визначення безпеки. Хто вирішує, що є неприйнятним ризиком? Якщо уряд може заборонити певні типи ШІ, він також може використати цю владу, щоб змусити замовкнути інакомислячих або контролювати інформацію. Існує також прихована ціна прозорості. Якщо компанія повинна розкрити, як саме працює її модель, чи не полегшує це зловмисникам пошук слабких місць? Ми обмінюємо швидкість на безпеку, але ми ще не визначили, як насправді виглядає безпека. Чи можливо регулювати індустрію, яка змінюється кожні шість місяців, законами, на написання яких йдуть роки? Це питання, які визначать, чи є ця ера регулювання успіхом чи провалом. Ми повинні бути обережними, щоб не побудувати систему, яка настільки жорстка, що стає застарілою ще до того, як висохне чорнило. Правила в Китаї, якими керує Адміністрація кіберпростору Китаю, показують, як безпека може трактуватися як соціальна стабільність. Це підкреслює різні філософські шляхи, якими йдуть нації. Нам слід скептично ставитися до будь-якого закону, який претендує на вирішення всіх проблем, створюючи при цьому нові для наступного покоління розробників.

Технічні стандарти та робочі процеси відповідності

Для технічної спільноти фокус зміщується на стек відповідності. Це включає інструменти для відстеження походження даних та автоматизованого аудиту моделей. Розробники дивляться на стандарти C2PA для цифрових водяних знаків. Це передбачає вбудовування метаданих у файли, які зберігаються після обрізки або повторного збереження. Також спостерігається рух у бік локального зберігання конфіденційних даних. Щоб відповідати правилам конфіденційності, компанії відмовляються від централізованої хмарної обробки для певних завдань. Вони використовують edge computing, щоб зберігати дані користувачів на пристрої. Ліміти API також переробляються. Це вже не просто про обмеження швидкості для трафіку. Це про фільтри безпеки, які блокують певні типи запитів на рівні обладнання. Ми спостерігаємо появу Model Cards, які схожі на етикетки харчової цінності для ШІ. Вони перераховують навчальні дані, передбачуване використання та відомі обмеження. З точки зору робочого процесу, це означає інтеграцію автоматизованого тестування в процес безперервної інтеграції. Кожного разу, коли модель оновлюється, вона повинна пройти низку тестів на упередженість та безпеку, перш ніж її можна буде розгорнути. Це додає затримку в цикл розробки, але зменшує ризик юридичної катастрофи. Компанії також розглядають, як обробляти запити на видалення даних для навчених моделей, що є значним технічним викликом. Якщо користувач просить видалити свої дані, як ви «розучуєте» ці дані з нейронної мережі? Саме тут закон зустрічається з межами сучасної комп’ютерної науки. Ми бачимо новий клас програмного забезпечення, розробленого спеціально для управління цими юридичними вимогами.

Наступний рік стане першим справжнім випробуванням для цих законів. Ми побачимо перші великі штрафи та перші судові справи, які визначать межі державної влади. Значущим прогресом був би чіткий набір стандартів, який дозволив би малим компаніям конкурувати, не потопаючи в паперовій тяганині. Нам варто очікувати появи сторонніх аудиторів, які зможуть сертифікувати безпеку ШІ. Мета — вийти за межі хайпу та страху. Нам потрібна система, де технології служать людям, не порушуючи їхніх прав. Впровадження **EU AI Act** буде головним сигналом, за яким варто стежити. Якщо правозастосування буде занадто агресивним, ми можемо побачити відтік капіталу в інші регіони. Якщо воно буде занадто слабким, закон сприйматиметься як «паперовий тигр». Правила вже тут. Тепер ми маємо побачити, чи працюють вони насправді в реальному світі.

Знайшли помилку або щось, що потрібно виправити? Повідомте нас.

Примітка редактора: Ми створили цей сайт як багатомовний центр новин та посібників зі штучного інтелекту для людей, які не є комп'ютерними гіками, але все ще хочуть зрозуміти штучний інтелект, використовувати його з більшою впевненістю та стежити за майбутнім, яке вже настає.