Що означають людські цінності в епоху ШІ

Міф про нейтральний код

Дискусії навколо штучного інтелекту часто зосереджуються на технічних показниках та обчислювальній потужності. Ми говоримо про параметри та петабайти, ніби це єдині важливі метрики. Цей фокус затьмарює більш нагальну реальність. Кожна велика мовна модель — це дзеркало людських уподобань, які її сформували. Не існує такого поняття, як нейтральний алгоритм. Коли система надає відповідь, вона не бере її з вакууму об’єктивної істини. Вона відображає певний набір зважених цінностей, встановлених розробниками та розмітниками даних. Головний висновок простий. Ми не вчимо машини думати. Ми вчимо їх імітувати наші специфічні, часто суперечливі соціальні норми. Цей перехід від логіки до етики є найважливішою зміною в обчислювальній техніці з моменту винаходу інтернету. Це перекладає тягар відповідальності з обладнання на людей, які визначають, як виглядає «правильна» відповідь.

Галузь нещодавно змістила акцент із чистої продуктивності на безпеку та узгодженість. Це звучить як технічне коригування, але насправді це глибоко політичний процес. Коли ми просимо модель бути корисною, нешкідливою та чесною, ми використовуємо слова, які мають різне значення в різних культурах. Цінність, яка здається універсальною в залі засідань у Сан-Франциско, може сприйматися як образлива або недоречна в Джакарті. Напруженість між глобальним масштабом і локальними цінностями — це головний конфлікт сучасних технологій. Ми повинні перестати розглядати ШІ як автономну силу і почати бачити в ньому кураторське розширення людських намірів. Це вимагає зазирнути за маркетинговий хайп, щоб побачити реальні рішення, що приймаються за лаштунками.

Механічне дзеркало людського вибору

Щоб зрозуміти, як цінності потрапляють у машину, потрібно поглянути на навчання з підкріпленням на основі відгуків людей (RLHF). Це процес, у якому тисячі підрядників оцінюють різні відповіді моделі. Вони можуть бачити дві версії відповіді й натиснути на ту, яку вважають більш ввічливою або точною. З часом модель вчиться асоціювати певні патерни з цими людськими вподобаннями. Це не пошук істини. Це пошук схвалення. Модель по суті тренується догоджати своїм людським оцінювачам. Це створює наліт моральності, який насправді є лише статистичним наближенням того, що хоче почути конкретна група людей.

Цей процес вносить величезну частку суб’єктивності. Якщо більшість розмітників належать до певної демографічної групи, модель природно перейме сленг, соціальні сигнали та політичні упередження цієї групи. Ось чому ранні версії багатьох популярних моделей мали труднощі з не західним контекстом. Вони не були зламані. Вони просто працювали саме так, як їх навчали. Вони відображали цінності людей, яким платили за їх оцінку. Це рівень, на якому абстрактні поняття, такі як справедливість і упередженість, стають конкретними рядками коду. Це ручний, трудомісткий процес, який відбувається задовго до того, як громадськість побачить чат-інтерфейс. Це невидима інфраструктура сучасного інтелекту.

Більшість людей помилково вважають, що ШІ має внутрішній моральний компас. Це не так. Він має функцію винагороди. Коли модель відмовляється відповідати на запитання, це не тому, що вона «відчуває», що тема неправильна. Це тому, що її навчальні дані були сильно зважені, щоб уникнути цього конкретного патерну. Ця відмінність є життєво важливою. Якщо ми віримо, що машина моральна, ми перестаємо ставити під сумнів людей, які встановлюють правила. Ми повинні усвідомити, що кожна відмова і кожна корисна порада — це запрограмована відповідь, заснована на людському рішенні. Визначивши це, ми можемо почати ставити кращі запитання про те, хто встановлює ці правила і чому.

Геополітика в латентному просторі

Вплив цього вибору є глобальним. Більшість провідних моделей ШІ навчаються переважно на англомовних даних з відкритого інтернету. Це створює цифрову монокультуру, де західні цінності є стандартом. Коли користувач в іншій частині світу просить поради щодо сімейних стосунків або юридичних питань, він отримує відповіді, відфільтровані через специфічну культурну призму. Це не просто питання перекладу мови. Це питання культурного перекладу. Нюанси ієрархії, приватності та спільноти сильно різняться по всьому світу, але моделі часто пропонують універсальне рішення. Ця централізація «правильного» мислення є новою формою «м’якої сили», яка має величезні наслідки для глобального дискурсу.

Ми бачимо поспіх у розробці суверенних моделей ШІ у відповідь на це. Такі країни, як Франція, ОАЕ та Індія, інвестують у власну інфраструктуру, щоб забезпечити представлення своїх специфічних культурних цінностей. Вони розуміють, що покладатися на іноземну модель означає імпортувати іноземний світогляд. Ця тенденція прискорилася, оскільки уряди усвідомили, що контроль над латентним простором ШІ так само важливий, як і контроль над фізичними кордонами. Дані, що використовуються для навчання цих моделей, діють як цифрова книга історії. Якщо ця книга містить лише одну перспективу, отриманий інтелект буде за своєю суттю обмеженим. Ось чому прагнення до різноманітних наборів даних — це не просто ініціатива з різноманітності. Це вимога для точності та актуальності в глобальному масштабі.

Ставки високі для міжнародного співробітництва. Якщо кожна нація побудує свій власний ізольований ШІ зі своїм набором жорстких цінностей, нам може бути важче спілкуватися через цифрові кордони. Однак альтернативою є світ, де кілька компаній в одній долині визначають моральні межі для мільярдів людей. Жоден шлях не є ідеальним. Виклик полягає в тому, щоб знайти спосіб врахувати локальні нюанси, зберігаючи при цьому спільне розуміння основних прав людини. Це проблема, яку неможливо вирішити кращим обладнанням. Вона вимагає міжнародної дипломатії та тверезого погляду на стимули, що рухають технологічною індустрією сьогодні. Ви можете дізнатися більше про ці виклики в нашому вичерпному посібнику з етики та управління ШІ.

Рішення в циклі

Розглянемо день із життя менеджера з найму на ім’я Сара. Вона використовує інструмент ШІ для перевірки сотень резюме на нову інженерну посаду. Інструмент був навчений шукати кандидатів з «високим потенціалом». На перший погляд, це здається ефективним. Але під інтерфейсом інструмент застосовує набір цінностей, які він вивчив з попередніх даних про найм. Якщо історичні дані показують, що компанія переважно наймала людей з трьох конкретних університетів, ШІ віддаватиме пріоритет цим навчальним закладам. Він не є «расистським» або «елітарним» у людському розумінні. Він просто оптимізується під патерн, який, як йому сказали, є цінним. Сара може навіть не усвідомлювати, що інструмент відфільтровує блискучих кандидатів з нетрадиційним досвідом, тому що вони не відповідають профілю «цінностей» навчальних даних.

Цей сценарій розігрується в тисячах офісів щодня. Цінності не є абстрактними. Вони — це різниця між отриманням роботи та ігноруванням алгоритмом. Та сама логіка застосовується до кредитного скорингу, медичного сортування і навіть судових вироків. У кожному випадку людська цінність, як-от «ризик» або «заслуга», перетворюється на число. Небезпека полягає в тому, що ми сприймаємо ці числа як об’єктивні істини, а не як суб’єктивні вибори, якими вони є. Ми часто делегуємо важку роботу морального судження машині, тому що це швидше і менш дискомфортно. Але машина просто автоматизує наші існуючі упередження в масштабі, який ми не можемо легко контролювати.

Продукти, якими ми користуємося щодня, роблять ці аргументи реальними. Коли додаток для редагування фотографій автоматично освітлює тон шкіри людини, щоб вона виглядала «краще», він виражає цінність. Коли навігаційний додаток уникає районів з «високим рівнем злочинності», він робить ціннісне судження про безпеку та соціальний клас. Це не технічні помилки. Це логічний висновок даних і функцій винагороди, наданих людьми. Ми живемо у світі, де наше програмне забезпечення постійно робить моральний вибір від нашого імені. Більшість часу ми навіть не помічаємо, що це відбувається, поки щось не піде не так. Нам потрібно бути більш критичними до «корисних» функцій, які насправді є лише закладеними припущеннями.

Нещодавня зміна в галузі — це рух до «керованості». Компанії тепер дають користувачам більше контролю над «особистістю» або «цінностями» свого ШІ. Ви можете сказати моделі бути «більш креативною» або «більш професійною». Хоча це відчувається як розширення прав і можливостей, насправді це перекладає відповідальність назад на користувача. Якщо ШІ дає упереджену відповідь, компанія може заявити, що користувач не налаштував параметри правильно. Це створює складну мережу підзвітності, де ніхто не несе реальної відповідальності за результат. Ми переходимо від світу фіксованих цінностей до світу плинних, визначених користувачем цінностей, що несе власний набір ризиків і винагород.

Ціна автоматизованої моралі

Ми повинні застосувати сократівський скептицизм до ідеї «безпечного» ШІ. Якщо модель ідеально узгоджена, то з чиїми цінностями вона узгоджена? Існує прихована ціна фільтрів безпеки, які ми бачимо сьогодні. Часто ці фільтри створюються з використанням низькооплачуваної праці в країнах, що розвиваються. Людям платять кілька доларів на годину за те, щоб вони читали найжахливіший контент в інтернеті, аби машина могла навчитися уникати його. Ми по суті передаємо психологічну травму встановлення цінностей на аутсорсинг країнам глобального Півдня. Чи є ШІ справді «етичним», якщо його безпека побудована на спинах експлуатованих працівників? Це питання, на яке технологічна індустрія рідко любить відповідати прямо.

Іншим обмеженням є «галюцинація моралі». Оскільки ці моделі настільки добре імітують, вони можуть звучати дуже переконливо, коли говорять про етику. Вони можуть легко цитувати філософів і правові прецеденти. Але вони нічого з цього не розуміють. Вони просто передбачають наступний токен у послідовності.

• Хто визначає «істину в останній інстанції» для суб’єктивних тем, таких як політика чи релігія?
• Що станеться, коли цінності приватної корпорації конфліктуватимуть із цінностями демократичного суспільства?
• Як ми можемо перевірити «чорну скриньку» RLHF, щоб побачити, що насправді винагороджувалося під час навчання?
• Чи може машина коли-небудь бути справді «справедливою», якщо світ, на якому вона навчалася, є за своєю суттю несправедливим?

Архітектура обмежень

Для досвідчених користувачів «цінності» ШІ часто знаходяться в системному промпті та конфігурації API. Це 20 відсотків технології, які контролюють інші 80 відсотків досвіду. Коли ви взаємодієте з моделлю через API, ви можете бачити налаштування «temperature» та «top-p». Це не просто технічні ручки. Вони контролюють, наскільки моделі дозволено відхилятися від найбільш ймовірної (і часто найбільш упередженої) відповіді. Нижча температура робить модель більш передбачуваною та «безпечною», тоді як вища температура дозволяє більше «креативності», але також більше ризику. Ці налаштування є першою лінією захисту в узгодженні цінностей.

Інтеграція в робочий процес — це момент істини. Розробники зараз будують шари «запобіжників» (guardrails), які стоять між користувачем і моделлю. Ці шари використовують вторинні моделі для перевірки вхідних і вихідних даних на предмет порушення цінностей. Це створює багаторівневу систему контролю. Однак ці запобіжники мають власні ліміти API та витрати на затримку. Складний стек безпеки може сповільнити відповідь на кілька секунд, що є значним компромісом у робочому середовищі. Крім того, локальне зберігання цих моделей стає все більш поширеним. Запуск моделі локально дозволяє користувачеві обійти корпоративні фільтри, але це також вимагає значного обсягу VRAM та оптимізованих методів квантування, таких як GGUF або EXL2.

Справжній виклик для гіків — це «тонке налаштування» (fine-tuning) під цінності. Це передбачає взяття базової моделі та її навчання на невеликому, високоякісному наборі даних конкретних прикладів. Саме так компанії створюють ШІ, який відображає їхній специфічний голос бренду або юридичні вимоги. Це спосіб «зашити» цінності у ваги моделі. Але цей процес дорогий і вимагає глибокого розуміння градієнтного спуску та функцій втрат. Більшість користувачів ніколи цього не робитимуть, але ті, хто робить, — це ті, хто справді контролює «моральність» машини. Вони визначають межі того, що можливо в межах їхньої специфічної цифрової екосистеми. Технічні обмеження — це фактичні межі етики машини.

Маєте історію, інструмент, тренд або питання про ШІ, які, на вашу думку, ми повинні висвітлити? Надішліть нам свою ідею статті — ми будемо раді її почути.

Остання людська прерогатива

Зрештою, ШІ — це інструмент, а не божество. Він не має цінностей; він має інструкції. Нещодавній зсув у бік більш людської взаємодії затьмарив цей факт, змушуючи нас більше довіряти «судженню» машини. Ми повинні чинити опір цьому бажанню. Відповідальність за етичні результати залишається твердо за людьми, які проектують, розгортають і використовують ці системи. Нам слід менше турбуватися про «злий» ШІ і більше про людей, які використовують «нейтральний» ШІ, щоб виправдати власні упередження. Машина настільки хороша, наскільки хороші наміри її господаря.

Ми залишилися з гострішими запитаннями, ніж ті, з якими починали. Оскільки ШІ стає все більш інтегрованим у наше життя, ми повинні вирішити, які частини нашої людяності ми готові автоматизувати, а які повинні захистити. Ставки полягають не лише в кращих результатах пошуку чи швидших електронних листах. Вони стосуються того, хто ми є як вид і який світ ми хочемо побудувати. Ми не можемо дозволити зручності технологій засліпити нас щодо наслідків їх використання. Епоха ШІ — це не кінець людських цінностей. Це початок нового, складнішого розділу в нашій історії. Ми повинні бути готові написати його з наміром.

Примітка редактора: Ми створили цей сайт як багатомовний центр новин та посібників зі штучного інтелекту для людей, які не є комп'ютерними гіками, але все ще хочуть зрозуміти штучний інтелект, використовувати його з більшою впевненістю та стежити за майбутнім, яке вже настає.