Най-големите етични въпроси, от които AI все още не може да избяга

Силициевата долина обещаваше, че изкуственият интелект ще реши най-трудните проблеми на човечеството. Вместо това технологията създаде нов набор от конфликтни точки, които никое количество код не може да поправи. Преминаваме от фазата на възхищението към период на сериозна отговорност. Основният проблем не е бъдещо въстание на машините, а настоящата реалност за това как тези системи се изграждат и внедряват. Всеки голям езиков модел разчита на основа от човешки труд и събрани данни. Това създава фундаментален конфликт между компаниите, които изграждат инструментите, и хората, чиято работа ги захранва. Регулаторите в Европа и САЩ сега питат кой носи отговорност, когато една система направи грешка, която съсипва живот. Отговорът остава неясен, защото правните рамки не са създадени за софтуер, който действа с такова ниво на автономност. Виждаме промяна във фокуса от това какво може да прави технологията към това какво трябва да ѝ бъде позволено да прави в обществения живот.

Триенето при автоматизираното вземане на решения

В основата си съвременният изкуствен интелект е машина за прогнозиране. Той не разбира истината или етиката. Той изчислява вероятността за следващата дума или пиксел въз основа на масивни набори от данни. Тази липса на присъщо разбиране създава пропаст между резултата на машината и изискванията на човешката справедливост. Когато банка използва алгоритъм, за да определи кредитоспособността, системата може да идентифицира модели, които корелират с раса или пощенски код. Това не е, защото машината е разумна, а защото историческите данни, върху които е обучена, съдържат тези пристрастия. Компаниите често крият тези процеси зад търговски тайни, което прави невъзможно за отхвърления кандидат да разбере защо е бил отказан. Тази липса на прозрачност е определящата характеристика на сегашната ера на автоматизация. Често я наричат проблема на черната кутия.

Техническата реалност е, че тези модели са обучени в отворения интернет, който е хранилище както на човешкото знание, така и на човешките предразсъдъци. Разработчиците се опитват да филтрират тези данни, но мащабът прави перфектното куриране невъзможно. Когато говорим за етика на AI, ние всъщност говорим за това как се справяме с грешките, които тези системи неизбежно произвеждат. Има нарастващо напрежение между скоростта на внедряване и необходимостта от безопасност. Много компании се чувстват притиснати да пуснат продукти, преди те да бъдат напълно разбрани, за да не загубят пазарен дял. Това създава ситуация, в която обществото се превръща в група от неволни опитни субекти за недоказан софтуер. Правната система се бори да бъде в крак с темпото на промяна, докато съдилищата дебатират дали един софтуерен разработчик може да носи отговорност за халюцинациите на своето творение.

Новото глобално цифрово разделение

Въздействието на тези системи не е разпределено поравно по целия свят. Докато централите на големите AI фирми се намират в няколко богати нации, последствията от тяхната работа се усещат навсякъде. Появява се нова форма на трудова експлоатация в Глобалния юг. Хиляди работници в страни като Кения и Филипините получават ниски заплати, за да етикетират данни и да филтрират травмиращо съдържание. Тези работници са невидимата предпазна мрежа, която пречи на AI да извежда токсичен материал, но те рядко споделят печалбите от индустрията. Това създава дисбаланс на силите, при който богатите нации контролират инструментите, докато развиващите се нации осигуряват суровия труд и данните, необходими за тяхната поддръжка.

Културното господство е друга значима грижа за международната общност. Повечето големи модели са обучени предимно върху данни на английски език и западни културни норми. Това означава, че системите често не успяват да разберат местния контекст или езици с по-малко цифрови ресурси. Когато тези инструменти се изнасят, те рискуват да пренапишат местното знание с хомогенизирана западна перспектива. Това не е просто технически недостатък, а заплаха за културното многообразие. Правителствата започват да осъзнават, че разчитането на чужда AI инфраструктура създава нов вид зависимост. Ако една държава няма свои собствени суверенни AI способности, тя трябва да следва правилата и ценностите на компаниите, които предоставят услугата. Глобалната общност в момента се бори с няколко критични въпроса:

• Концентрацията на изчислителна мощ в шепа частни корпорации.
• Екологичната цена на обучението на масивни модели в региони с недостиг на вода.
• Ерозията на местните езици в цифровите пространства, доминирани от модели, ориентирани към английския език.
• Липсата на международни споразумения относно използването на автономни системи във война.
• Потенциалът за автоматизирана дезинформация да дестабилизира демократичните избори.

Живот с алгоритъма

Помислете за един ден от живота на Сара, мениджър на средно ниво в логистична фирма. Нейната сутрин започва с генерирано от AI резюме на имейлите ѝ. Системата подчертава това, което смята за най-спешни задачи, но пропуска фина забележка от дългогодишен клиент, защото инструментът за анализ на настроенията не разпозна сарказма. По-късно тя използва генеративен инструмент, за да изготви оценка на представянето на служител. Софтуерът предлага по-ниска оценка въз основа на показатели за производителност, които не отчитат времето, прекарано от служителя в наставничество на нови колеги. Сара трябва да реши дали да се довери на собствената си преценка или на препоръката на машината, базирана на данни. Ако тя игнорира AI и служителят по-късно се провали, тя може да бъде обвинена, че не е следвала данните. Това е тихото напрежение на алгоритмичното управление.

Следобед Сара кандидатства за нова застрахователна полица. Застрахователната компания използва автоматизирана система, за да сканира нейните социални медии и здравни досиета. Системата я маркира като високорискова, защото наскоро се е присъединила към група за туризъм, което алгоритъмът свързва с потенциално нараняване. Няма човек, с когото да се говори, и няма начин да се обясни, че тя е опитен планинар с отлично здраве. Нейната премия се увеличава моментално. Това е реално последствие от система, която дава приоритет на ефективността пред индивидуалния нюанс. До вечерта Сара разглежда новинарски сайт, където половината статии са написани от ботове. За нея става все по-трудно да различи кое е докладван факт и кое е синтезирано резюме, създадено да я кара да кликва. Това постоянно излагане на автоматизирано съдържание променя начина, по който тя възприема реалността.

Технологията вече не е инструмент, който тя използва; тя е средата, в която живее. Противоречията са видими навсякъде. Искаме скоростта на AI, но се страхуваме от неговата студенина. Искаме удобството на автоматизацията, но негодуваме срещу загубата на човешката свобода на действие. Компаниите надценяват способността на тези инструменти да заменят човешката преценка, докато подценяват щетите, причинени от един-единствен пристрастен резултат. Създателите надценяват защитата на своята интелектуална собственост, докато подценяват колко лесно работата им може да бъде погълната от скрапер. Резултатът е общество, в което всички се движим по-бързо, но сме по-малко сигурни накъде отиваме.

Цената на ефективността

Трябва да зададем трудни въпроси за скритите разходи на нашата настояща траектория. Ако една AI система спести на компания милиони долари, но доведе до загуба на хиляди работни места, кой е отговорен за социалните разходи? Често третираме технологичния прогрес като неизбежна сила на природата, но той е резултат от специфични избори, направени от индивиди със специфични стимули. Защо даваме приоритет на оптимизацията на печалбата пред стабилността на пазара на труда? Съществува и въпросът за поверителността на данните в ера, в която всяко взаимодействие е точка за обучение. Когато използвате безплатен AI асистент, вие не сте клиентът; вие сте продуктът. Вашите разговори и предпочитания се използват за усъвършенстване на модел, който в крайна сметка ще бъде продаден обратно на вас или на вашия работодател. Какво се случва с концепцията за лична мисъл, когато нашите цифрови асистенти постоянно слушат и се учат?

Въздействието върху околната среда е друг разход, който рядко се обсъжда в маркетинговите материали. Обучението на един голям модел може да консумира толкова електроенергия, колкото стотици домове използват за една година. Изискванията за охлаждане на центровете за данни оказват натиск върху местните водоизточници в сухите региони. Готови ли сме да заменим екологичната стабилност за малко по-добър чатбот? Трябва също да помислим за дългосрочното въздействие върху човешкото познание. Ако аутсорснем нашето писане, нашето програмиране и нашето критично мислене към машини, какво се случва с тези умения в човешката популация? Може би изграждаме свят, който е силно ефективен, но населен от хора, които вече не могат да функционират без цифрова патерица. Това не са технически проблеми, които да бъдат решени с повече данни. Това са фундаментални въпроси за това в какво бъдеще искаме да живеем.

Имате история, инструмент, тенденция или въпрос, свързани с ИИ, които смятате, че трябва да обхванем? Изпратете ни вашата идея за статия — ще се радваме да я чуем.

Инфраструктурата на влиянието

За напредналите потребители и разработчиците етичните въпроси са вградени в техническите спецификации. Преминаването към локално съхранение и edge computing е отчасти отговор на опасенията за поверителността. Чрез локално изпълнение на моделите, потребителите могат да избегнат изпращането на чувствителни данни към централен сървър. Това обаче създава нов набор от предизвикателства по отношение на хардуерните изисквания и API лимитите. Повечето високопроизводителни модели изискват значителна VRAM и специализирани чипове, които в момента са дефицитни. Това създава тясно място, където само тези с най-новия хардуер могат да получат достъп до най-способните инструменти. Разработчиците също се борят с ограниченията на текущите архитектури. Въпреки че трансформър моделите са доминиращи, те са известни с това, че са трудни за проверка. Можем да видим теглата и архитектурата, но не можем лесно да обясним защо специфичен вход води до специфичен изход.

Интеграцията на AI в професионалните работни процеси също се сблъсква със стена от отравяне на данни и колапс на моделите. Ако интернет се насити с генерирано от AI съдържание, бъдещите модели ще бъдат обучавани върху резултатите на своите предшественици. Това води до влошаване на качеството и усилване на грешките. За да се борят с това, някои разработчици търсят проверими източници на данни и техники за воден знак. Има и натиск за по-прозрачен анализ на етиката на AI, който да помогне на потребителите да разберат рисковете. Техническата общност в момента е фокусирана върху няколко ключови области на развитие:

• Внедряването на диференциална поверителност за защита на индивидуални точки от данни в наборите за обучение.
• Разработването на по-малки, по-ефективни модели, които могат да работят на потребителски хардуер.
• Създаването на стандартизирани бенчмаркове за откриване на пристрастия и фактически грешки.
• Използването на федеративно обучение за обучение на модели в множество децентрализирани устройства.
• Изследването на нови архитектури, които предлагат по-добра интерпретируемост от стандартните невронни мрежи.

Нерешеният път напред

Бързата еволюция на изкуствения интелект изпревари способността ни да го управляваме. В момента сме в задънена улица между желанието за иновации и нуждата от защита. Най-големите етични въпроси не са за способностите на машините, а за намеренията на хората, които ги контролират. С навлизането в новата година фокусът вероятно ще се измести от самите модели към веригата за доставки на данни и отговорността на разработчиците. Оставаме с жив въпрос, който ще определи следващото десетилетие. Можем ли да изградим система, която е едновременно достатъчно мощна, за да реши проблемите ни, и достатъчно прозрачна, за да ѝ се вярва? Отговорът все още не е написан в код. Той ще бъде решен в съдебните зали, заседателните зали и ежедневните избори на потребителите, които трябва да решат колко от своята автономност са готови да заменят за удобство.

Бележка на редактора: Създадохме този сайт като многоезичен център за новини и ръководства за изкуствен интелект за хора, които не са компютърни маниаци, но все пак искат да разберат изкуствения интелект, да го използват с повече увереност и да следят бъдещето, което вече настъпва.

Открихте грешка или нещо, което трябва да бъде коригирано? Уведомете ни.