Новият глобален правилник за AI започва да се оформя

Край на иновациите без разрешение

Ерата на Дивия запад в изкуствения интелект приключва. Години наред разработчиците създаваха модели с минимален надзор и още по-малка отчетност. Сега се появява нов глобален правилник, който заменя тази свобода с твърда структура от съответствие и безопасност. Това не са просто предложения или доброволни насоки. Това е поредица от строги закони, подкрепени от огромни глоби и заплахата от изключване от пазара. Европейският съюз води инициативата със своя всеобхватен AI Act, докато Съединените щати напредват с изпълнителни заповеди, насочени към най-мощните модели. Тези правила ще променят начина, по който се пише код и се събират данни. Те ще променят това кой може да си позволи да се конкурира в тази сфера с високи залози. Ако създадете модел, който предвижда човешкото поведение, вече сте под микроскоп. Тази промяна измества фокуса на индустрията от скорост към безопасност. Компаниите вече трябва да докажат, че системите им не са предубедени, преди да ги пуснат. Това е новата реалност за всяка технологична фирма на планетата.

Категоризиране на риска в кода

Ядрото на новите правила е подход, базиран на риска. Това означава, че законът третира двигателя за препоръчване на музика по различен начин от медицински диагностичен инструмент или самоуправляващ се автомобил. Европейският съюз постави златен стандарт за този тип регулация. Те разделят AI на четири отделни категории въз основа на потенциалната вреда, която биха могли да причинят на обществото. Забранените системи са тези, които причиняват явна вреда и са напълно недопустими. Това включва системи за социално оценяване, като тези, използвани от авторитарни държави за проследяване и класиране на гражданите. Включва също биометрична идентификация в реално време на обществени места от правоприлагащите органи, с много малко изключения за националната сигурност. Системите с висок риск са тези, които ще бъдат подложени на най-голям контрол от регулаторите. Те се използват в критичната инфраструктура, образованието и заетостта. Ако един AI решава кой да получи работа или кой отговаря на условията за заем, той трябва да бъде прозрачен. Трябва да има човешки надзор и високи нива на точност. Системите с ограничен риск, като чатботовете, имат по-малко правила, но все пак изискват прозрачност. Те просто трябва да кажат на потребителя, че разговаря с машина. Системите с минимален риск, като видеоигри с AI врагове, се оставят предимно на мира. Тази рамка е създадена, за да защитава правата, без да спира целия прогрес. Въпреки това, дефинициите на тези категории все още се обсъждат в съдилищата и заседателните зали. Това, което един човек нарича просто препоръка, друг може да нарече психологическа манипулация. Правилата се опитват да начертаят линия в пясъка, но пясъкът постоянно се измества с развитието на технологията.

Европейският парламент подробно описа тези категории в последните си брифинги относно EU AI Act. Този документ служи като основа за това как останалата част от света мисли за управлението на AI. Той измества разговора от абстрактни страхове към конкретни оперативни изисквания, които компаниите трябва да изпълнят, за да останат в бизнеса.

Глобалната надпревара за стандартизация

Тези правила не остават в Европа. Виждаме възхода на *Brussels Effect* в реално време. Това се случва, когато голям пазар налага правила, които всички останали трябва да следват, за да останат актуални. Една глобална компания няма да изгради един модел за Париж и друг за Ню Йорк, ако разходите за това са твърде високи. Те просто ще изграждат според най-строгия наличен стандарт. Ето защо рамката на ЕС се превръща в глобален шаблон. Други нации наблюдават внимателно и изготвят свои собствени версии. Бразилия и Канада вече работят по подобни закони, които отразяват европейския подход. Дори Съединените щати, които обикновено предпочитат по-лек подход за насърчаване на иновациите, се движат към по-голям контрол. Белият дом издаде изпълнителна заповед, която изисква от разработчиците на мощни модели да споделят резултатите от своите тестове за безопасност с правителството. Това създава фрагментиран, но сближаващ се свят на регулация. Компаниите вече трябва да наемат екипи от адвокати само за да прочетат новите изисквания. Малките стартъпи на развиващите се пазари може да намерят тези правила за невъзможни за спазване. Това може да доведе до свят, в който само най-големите технологични гиганти имат ресурсите да останат в съответствие. Това е игра с високи залози, където правилата се пишат, докато колите вече се движат с пълна скорост. US Executive Order за безопасност на AI е ясен сигнал, че ерата на саморегулацията е приключила. Дори в разделен политически климат, необходимостта от някакво ниво на надзор се превърна в рядка точка на съгласие сред световните лидери.

Имате история, инструмент, тенденция или въпрос, свързани с ИИ, които смятате, че трябва да обхванем? Изпратете ни вашата идея за статия — ще се радваме да я чуем.

Един ден в офиса, спазващ правилата

Представете си продуктов мениджър на име Алекс. Алекс работи в стартъп, който изгражда AI инструменти за човешки ресурси. Преди новите правила Алекс пускаше актуализация всеки петък следобед. Сега процесът е много по-бавен и по-премерен. Всяка нова функция трябва да премине през строга оценка на риска, преди да бъде внедрен дори един ред код. Алекс трябва да документира данните за обучение и да покаже, че те не дискриминират защитени групи. Той трябва да води подробни дневници за това как моделът взема решения. Това добавя седмици към цикъла на разработка. В един типичен вторник Алекс не пише код и не обмисля нови функции. Той се среща с служител по съответствието, за да прегледа картите на моделите. Те проверяват дали API логовете отговарят на новите стандарти за прозрачност и съхранение на данни. Това е триенето, което създава безопасността. За потребителя това може да означава по-бавно пускане на нови функции. Но това също означава по-малък шанс да бъдете несправедливо отхвърлени за работа от алгоритъм тип „черна кутия“. Хората често надценяват доколко тези правила ще спрат иновациите. Те мислят, че индустрията ще спре. В действителност тя просто ще промени формата си. Хората също подценяват сложността на тези закони. Не става въпрос само за избягване на пристрастия. Става въпрос за суверенитет на данните и използване на енергия. Противоречията са навсякъде. Искаме AI да бъде бърз и мощен, но също така искаме да бъде бавен и внимателен. Искаме да бъде отворен и прозрачен, но също така искаме да защитим търговските тайни на компаниите, които го изграждат. Тези напрежения не се решават: те се управляват. Новият правилник е опит да се живее с тези противоречия. Алекс трябва да се справя с няколко специфични задачи всяка седмица:

• Преглед на произхода на данните, за да се гарантира, че всички набори за обучение са законно придобити.
• Изпълнение на скриптове за откриване на пристрастия при всяка нова итерация на модела.
• Документиране на изчислителните ресурси, използвани за обучение на големи модели.
• Актуализиране на потребителския интерфейс, за да включва задължителни разкрития за AI.
• Управление на одити от трети страни на протоколите за безопасност на компанията.

До края на деня Алекс усеща тежестта на тези нови правила. Той знае, че те са важни за справедливостта. Но той също знае, че конкурентите му в страни с по-малко правила се движат по-бързо. Той се чуди дали неговият стартъп може да оцелее с цената на това да бъде етичен. Това е реалността за хиляди разработчици. Триенето е истинско и е тук, за да остане. За повече информация относно това как тези промени влияят на индустрията, вижте нашия последен AI policy analysis.

Трудни въпроси за новите регулатори

Кой всъщност печели от тези правила? Обществото ли, или утвърдените технологични гиганти, които могат да си позволят правните такси? Ако един стартъп трябва да похарчи половината от първоначалния си капитал за съответствие, това ефективно ли убива конкуренцията? Трябва също да попитаме за скритите разходи за поверителност. Ако всеки модел трябва да бъде одитиран, кой извършва одита? Доверяваме ли се на правителствена агенция да има достъп до вътрешната работа на всеки голям AI? Съществува и въпросът за глобалното неравенство. Ако Западът поставя правилата, какво се случва с Глобалния юг? Ще бъдат ли принудени да приемат стандарти, които не отговарят на техните местни нужди? Казват ни, че тези правила ни правят по-безопасни, но правят ли го? Или просто създават фалшиво чувство за сигурност, докато истинските рискове се преместват в нерегулирани части на dark web? Трябва да се запитаме дали един закон, написан днес, може изобщо да бъде в крак с технология, която се променя всеки месец. Разликата между кода и закона е празнина, в която много неща могат да се объркат. United Nations AI Advisory Body се опитва да се справи с тези глобални пропуски, но консенсусът е труден за намиране. Противоречията остават видими. Искаме защита, но се страхуваме от превишаване на правомощията. Искаме иновации, но се страхуваме от последствията на система, която не разбираме напълно. Тези въпроси нямат лесни отговори, а настоящите закони са само първият опит за намирането им.

Техническата архитектура на съответствието

За напредналите потребители и разработчиците правилата стават много специфични. Изпълнителната заповед на САЩ се фокусира върху изчислителната мощ като прокси за риск. Ако моделът е обучен с повече от 10^26 операции с плаваща запетая, това задейства задължително изискване за докладване. Това е огромно количество изчисления, но с подобряването на хардуера все повече модели ще достигат тази граница. Разработчиците трябва да се притесняват и за произхода на данните. Вече не можете просто да изстъргвате интернет и да се надявате на най-доброто. Трябва да докажете, че имате право да използвате данните. Има и нови стандарти за red-teaming. Това е мястото, където наемате хора, които да се опитат да разбият вашия AI. Резултатите от тези тестове вече трябва да бъдат документирани и споделени с регулаторите в определени юрисдикции. Доставчиците на API също са изправени пред нови ограничения. От тях може да се изисква да проверяват самоличността на своите клиенти, за да предотвратят попадането на AI с двойна употреба в грешни ръце. Локалното съхранение на модели е друга област на загриженост. Ако един модел е достатъчно малък, за да работи на лаптоп, как прилагате тези правила? Отговорът често е чрез хардуерни ограничения или задължително поставяне на воден знак върху съдържание, генерирано от AI. Тези технически препятствия са новата базова линия за всеки, работещ в областта. Вече трябва да вземете предвид следните технически изисквания:

• Внедряване на стабилно регистриране за всички сесии за обучение на модели.
• Разработване на автоматизирани инструменти за поставяне на водни знаци върху изходни текстове и изображения.
• Създаване на сигурни среди за одити на модели от трети страни.
• Осигуряване на това ограниченията за скорост на API да не заобикалят филтрите за безопасност.
• Поддържане на подробни записи на всички човешки интервенции.

Тези изисквания променят работния процес на разработчика. Вече не става въпрос само за оптимизиране на точността или скоростта. Става въпрос за изграждане на система, която е одитируема от самото начало. Това означава повече време, прекарано в инфраструктура, и по-малко време за основния алгоритъм. Това също означава, че локалното съхранение и офлайн моделите ще бъдат подложени на нарастващ натиск да включват същите тези функции за безопасност, което може да повлияе на производителността на edge устройствата.

Незавършената рамка

Основният извод е, че ерата на „движете се бързо и чупете неща“ е приключила за изкуствения интелект. Преминаваме в ера на „движете се внимателно и документирайте всичко“. Правилата все още се пишат и са далеч от съвършенството. Те са разхвърлян компромис между безопасност, печалба и национална сигурност. Един основен въпрос остава отворен: може ли централизиран закон някога наистина да контролира децентрализирана технология? Тъй като моделите с отворен код продължават да се подобряват, разликата между това, което е регулирано, и това, което е възможно, ще расте. Това не е краят на историята. Това е само краят на началото. Правилникът започва да се оформя, но мастилото е още мокро. Ще видим как тези закони се прилагат и как индустрията се адаптира през следващите месеци. Единствената сигурност е, че начинът, по който изграждаме и използваме AI, никога няма да бъде същият.

Бележка на редактора: Създадохме този сайт като многоезичен център за новини и ръководства за изкуствен интелект за хора, които не са компютърни маниаци, но все пак искат да разберат изкуствения интелект, да го използват с повече увереност и да следят бъдещето, което вече настъпва.