Как правителствата се опитват да контролират AI

Новите правила на машината

Ерата на „Дивия запад“ в изкуствения интелект приключва. Правителствата вече не наблюдават отстрани. Те пишат правилниците, които ще определят как се пише кодът и къде може да бъде внедрен. Това не е просто въпрос на етика или неясни принципи. Става дума за строги закони и огромни глоби. Европейският съюз проправи пътя със своя AI Act. Съединените щати последваха примера с мащабна изпълнителна заповед. Тези действия променят сметките за всяка технологична компания на планетата. Ако изградите модел, който надвишава определен праг на мощност, вече сте под прицел. Трябва да докажете, че е безопасен, преди да достигне до обществеността. Тази промяна бележи прехода от доброволни ангажименти за безопасност към задължителен надзор. За обикновения потребител това означава, че инструментите, които използвате утре, може да изглеждат по-различно от тези, които използвате днес. Някои функции може да бъдат блокирани във вашата страна. Други инструменти може да станат по-прозрачни относно това как използват вашите данни. Целта е да се балансира прогресът със защитата, но пътят е пълен с триене.

От етика към прилагане

За да разберете новите правила, трябва да погледнете категориите риск. Повечето правителства се отдалечават от подхода „един размер за всички“. Вместо това те оценяват системите въз основа на потенциалната вреда, която биха могли да причинят. Това е директна оперативна промяна. Компаниите вече не могат просто да пуснат продукт и да се надяват на най-доброто. Те трябва да класифицират своята технология, преди тя изобщо да достигне до потребител. Тази класификация определя нивото на контрол, което правителството ще приложи. Тя също така определя нивото на правна отговорност, пред която е изправена компанията, ако нещо се обърка. Фокусът се измести от това какво е AI към това какво прави AI. Ако една система взема решения за хора, тя се третира с много по-голямо подозрение, отколкото система, която генерира снимки на котки.

Най-рестриктивните правила се прилагат за системи, които се считат за неприемлив риск. Те не просто се обезсърчават. Те са забранени. Това създава ясна граница за разработчиците. Те знаят точно кои линии не могат да прекрачат. За всичко останало правилата изискват ново ниво на документация. Компаниите трябва да водят подробни записи за това как са били обучени техните модели. Те също трябва да могат да обяснят как моделът достига до своите заключения. Това е значително техническо предизвикателство, тъй като много съвременни модели са по същество „черни кутии“. Принуждаването им да бъдат обясними изисква фундаментална промяна в начина, по който са проектирани. Правилата също изискват данните, използвани за обучение, да бъдат чисти и без пристрастия. Това означава, че самият процес на събиране на данни сега подлежи на правни одити. Следните категории определят текущия регулаторен подход:

• Забранени системи, които използват социално оценяване или измамни техники за манипулиране на поведението.
• Високорискови системи, използвани в критична инфраструктура, наемане на работа и правоприлагане, които изискват строги одити.
• Системи с ограничен риск като чатботове, които трябва да разкриват, че не са хора.
• Системи с минимален риск като видеоигри с AI, които са изправени пред по-малко ограничения.

Тази структура е проектирана да бъде гъвкава. С промяната на технологиите списъкът с високорискови приложения може да расте. Това поддържа закона актуален дори когато софтуерът се развива. Това обаче създава и състояние на постоянна несигурност за бизнеса. Те трябва постоянно да проверяват дали новата им функция не е преминала в по-регулирана категория. Това е новата реалност на изграждането на софтуер в свят, който е предпазлив към силата на машината.

Фрагментирана глобална рамка

Въздействието на тези правила не се ограничава до границите на една нация. Виждаме възхода на „Ефекта на Брюксел“. Когато ЕС постави висока летва за технологично регулиране, глобалните компании често приемат тези стандарти навсякъде, за да опростят операциите си. По-евтино е да се изгради един съвместим продукт, отколкото десет различни версии за различни пазари. Това дава на Европа огромно влияние върху това как се изгражда AI в Силициевата долина. Можете да прочетете повече за EU AI Act, за да видите как са структурирани тези стандарти. В Съединените щати подходът е различен, но също толкова значим. Правителството използва **Defense Production Act**, за да принуди технологичните гиганти да споделят резултатите от своите тестове за безопасност. Това сигнализира, че САЩ разглеждат мащабния AI като въпрос на национална сигурност.

Междувременно Китай пое по-директен път. Техните регулации се фокусират върху съдържанието, произведено от генеративен AI. Те изискват резултатите да съответстват на социалните ценности и да не подкопават държавната власт. Това създава фрагментиран свят, в който един и същ модел може да се държи различно в зависимост от това къде се логвате. Модел в Пекин ще има различни предпазни механизми от такъв в Париж или Ню Йорк. Тази фрагментация създава главоболие за разработчиците, които сега трябва да работят в мрежа от противоречиви правила. Някои страни искат повече откритост, докато други искат повече контрол върху разказа. За глобалната аудитория това означава, че AI изживяването става локализирано. Мечтата за единен интернет без граници избледнява. На негово място е регулирана среда, в която вашето местоположение определя какво машината има право да ви казва. Това е новата реалност на 2024 г. Това е промяна, която ще определи следващото десетилетие на технологичен растеж.

Ежедневието под регулаторното око

Представете си една типична сутрин за мениджър на проекти на име Сара. Тя започва деня си, като отваря AI инструмент, за да обобщи дълга верига от имейли. Съгласно новите регулации, нейният софтуер трябва да я уведоми, че обобщението е генерирано от алгоритъм. Той също трябва да гарантира, че данните на нейната компания не се използват за обучение на публичния модел без нейно съгласие. Това е директен резултат от новите защити на личните данни, вградени в последните закони. По-късно Сара кандидатства за нова роля в технологична фирма. Фирмата използва инструмент за AI скрининг. Тъй като това е високорисково приложение, компанията е трябвало да одитира инструмента за пристрастия. Сара има законното право да поиска обяснение защо AI я е класирал по начина, по който го е направил. В миналото тя щеше да получи общ отказ. Сега тя има път към прозрачност. Това е конкретен пример за това как управлението променя динамиката на властта между корпорациите и индивидите.

Следобед Сара се разхожда из търговски център. В някои градове лицевото разпознаване би проследявало движенията ѝ, за да показва таргетирани реклами. Съгласно строгите правила на ЕС, този вид наблюдение в реално време е ограничено. Търговският център трябва да има конкретна правна причина да го използва и Сара трябва да бъде информирана. Продуктите, които тя използва, също се променят. Компании като OpenAI и Google вече коригират функциите си, за да спазват местните закони. Може да забележите, че определени инструменти за генериране на изображения са недостъпни във вашия регион или имат строги филтри, които им пречат да създават реалистични лица на обществени фигури. Това не е техническо ограничение. Това е правно ограничение. Аргументът за тези правила изглежда реален, когато вземете предвид потенциала на deepfakes да провалят избори или на пристрастни алгоритми да лишат хора от жилище. Чрез поставянето на предпазни механизми, правителствата се опитват да предотвратят тези вреди, преди да се случат. Това е подходът на САЩ към безопасността на AI в действие.

Сара обаче може също да забележи, че нейните инструменти стават по-бавни или по-ограничени. Отговорите „Съжалявам, не мога да направя това“ от AI често са резултат от това, че разработчикът се опитва да избегне огромна глоба. Напрежението между полезност и безопасност е видимо във всяко взаимодействие. Това е постоянно напомняне, че машината е наблюдавана. Тази еволюция не е статична. Правилата се актуализират с появата на нови възможности. Целта е да се гарантира, че AI, който Сара използва, е инструмент за нейна полза, а не система, която работи срещу нейните интереси зад кулисите. Това е най-значимата промяна в начина, по който взаимодействаме с компютрите от изобретяването на интернет.

Скритите разходи за съответствие

Трябва да зададем трудните въпроси за това кой всъщност печели в един регулиран свят. Дали тежката регулаторна тежест наистина защитава обществеността, или просто защитава статуквото? Големите технологични фирми имат ресурсите да наемат стотици адвокати и инженери, които да се справят със съответствието. Един малък стартъп в гараж няма. Рискуваме да създадем свят, в който само гигантите могат да си позволят да иновират. Това може да доведе до по-малко конкуренция и по-високи цени за потребителите. Съществува и въпросът за поверителността срещу сигурността. Когато правителствата изискват достъп до вътрешната работа на AI модел, кой защитава тези данни? Ако едно правителство може да одитира модел, за да се увери, че е безопасен, те могат също да използват същия достъп, за да наблюдават какво моделът научава от своите потребители. Това е компромис, който рядко се обсъжда на обществени форуми.

Трябва също да вземем предвид скритата цена на иновациите. Ако всяка нова функция трябва да премине през дълъг процес на одобрение, ще пропуснем ли пробиви, които биха могли да спасят животи в медицината или да решат сложни климатични проблеми? Триенето на регулацията е реална цена. Трябва да знаем дали безопасността, която печелим, си струва прогреса, който губим. Съществува и въпросът за прилагането. Как се регулира модел, който се хоства в децентрализирана мрежа или в страна, която пренебрегва международните норми? Правилата може да се прилагат само за компаниите, които изберат да ги спазват, оставяйки най-опасните участници свободни да оперират без надзор. Това създава фалшиво чувство за сигурност. Изграждаме ограда около спазващите закона граждани, докато портата остава отворена за всички останали. Това са въпросите, които регулаторите често избягват. Те се фокусират върху видимите рискове, докато игнорират системните. Докато вървим напред, трябва да гарантираме, че желанието ни за безопасност не ни заслепява за стойността на отворения и конкурентен пазар.

Имате история, инструмент, тенденция или въпрос, свързани с ИИ, които смятате, че трябва да обхванем? Изпратете ни вашата идея за статия — ще се радваме да я чуем.

Техническата цена на прозрачността

За напредналите потребители и разработчиците новите регулации се превеждат в специфични технически ограничения. Една от най-значимите метрики е прагът на изчислителна мощ. Изпълнителната заповед на САЩ поставя летва от 10 на степен 26 операции с плаваща запетая. Всеки модел, обучен с повече мощност от тази, трябва да бъде докладван на правителството. Това принуждава разработчиците да водят подробни дневници за използването на хардуера и тренировъчните си сесии. API лимитите също се превръщат в инструмент за регулиране. За да се предотврати масовото генериране на дезинформация, някои региони обмислят ограничения за това колко заявки може да направи един потребител към генеративен модел. Това засяга начина, по който разработчиците изграждат приложения, разчитащи на тези модели. Те вече трябва да отчитат тези ограничения в своя код и бизнес модели. Локалното съхранение е друг важен фактор. Законите често изискват данните за гражданите да остават в рамките на определени географски граници. Това означава, че компаниите не могат просто да използват централен облак за обработка на данни отвсякъде. Те трябва да изграждат и поддържат локални центрове за данни. Техническите изисквания включват:

• Задължително поставяне на воден знак на ниво API за идентифициране на генерирано от AI съдържание.
• Изисквания за пребиваване на данни, които налагат локална обработка и съхранение.
• Регистриране на изчислителната мощ за всяко обучение на модел, което надвишава прага от 10 на степен 26 flops.
• Слоеве за обяснимост, които позволяват човешки одит на теглата на модела и пътищата за вземане на решения.

Работните процеси на интеграция също се променят. Разработчиците вече трябва да вграждат проверки за безопасност на всеки етап от тръбопровода. Ако изграждате инструмент, който използва API на трета страна, вие вече носите отговорност за това как това API обработва данните. Трябва да се уверите, че вашата интеграция не заобикаля филтрите за безопасност, зададени от доставчика. Секцията за гийкове на закона е мястото, където се водят истинските битки. Става дума за латентност, пребиваване на данни и математиката на теглата на модела. Това са детайлите, които определят дали един продукт е жизнеспособен или ще бъде погребан под тежестта на собствените си изисквания за съответствие. Можете да намерите повече подробности за тези технически промени в последните новинарски доклади относно технологичната политика. За тези, които искат да изпреварят тези промени, следването на последните развития в регулирането на AI е от съществено значение. Сложността на тези правила означава, че ролята на разработчика става толкова свързана със закона, колкото и с кода.

Незавършеният код

Опитът за контролиране на AI е процес в развитие. Преминаваме от период на пълна свобода към такъв на управляван растеж. Правилата, написани днес, ще оформят технологията на следващото десетилетие. Скоростта на софтуера обаче винаги изпреварва скоростта на законодателството. До момента, в който един закон бъде приет, технологията често вече е преминала към нещо ново. Това ни оставя с жив въпрос, който ще поддържа тази тема развиваща се: може ли един демократичен процес някога да бъде достатъчно бърз, за да регулира интелект, който пренаписва сам себе си? Засега фокусът е върху прозрачността и отчетността. Опитваме се да гарантираме, че хората остават отговорни за машините, които са построили. Дали тези правила ще направят AI по-безопасен или просто по-сложен, предстои да видим. Единствената сигурност е, че ерата на нерегулирания алгоритъм е приключила. Това е реалността на 2024 г. и след това.

Бележка на редактора: Създадохме този сайт като многоезичен център за новини и ръководства за изкуствен интелект за хора, които не са компютърни маниаци, но все пак искат да разберат изкуствения интелект, да го използват с повече увереност и да следят бъдещето, което вече настъпва.

Открихте грешка или нещо, което трябва да бъде коригирано? Уведомете ни.