Главные этические вопросы, от которых ИИ не уйти

В Кремниевой долине обещали, что искусственный интеллект решит сложнейшие проблемы человечества. Вместо этого технология создала новые точки трения, которые не исправить никаким кодом. Мы выходим из фазы восторга и вступаем в период жесткой ответственности. Главная проблема не в восстании машин из будущего, а в текущей реальности того, как эти системы создаются и внедряются. Каждая большая языковая модель опирается на фундамент человеческого труда и данных, собранных путем парсинга. Это создает фундаментальный конфликт между компаниями, которые создают инструменты, и людьми, чей труд их питает. Регуляторы в Европе и США теперь задаются вопросом: кто несет ответственность, когда система совершает ошибку, ломающую жизнь? Ответ остается неясным, поскольку правовые рамки не были рассчитаны на ПО, действующее с таким уровнем автономности. Мы наблюдаем смещение фокуса с того, что технология может делать, на то, что ей должно быть позволено делать в общественной жизни.

Трение автоматизированного принятия решений

По своей сути современный искусственный интеллект — это движок для предсказаний. Он не понимает правды или этики. Он вычисляет вероятность следующего слова или пикселя на основе огромных датасетов. Это отсутствие врожденного понимания создает разрыв между результатом работы машины и требованиями человеческой справедливости. Когда банк использует алгоритм для определения кредитоспособности, система может выявить закономерности, коррелирующие с расой или почтовым индексом. Это происходит не потому, что машина обладает сознанием, а потому, что исторические данные, на которых она обучалась, содержат эти предубеждения. Компании часто скрывают эти процессы за проприетарными секретами, делая невозможным для отклоненного заявителя узнать, почему ему отказали. Это отсутствие прозрачности — определяющая характеристика текущей эры автоматизации. Ее часто называют проблемой «черного ящика».

Техническая реальность такова, что эти модели обучаются на открытом интернете, который является хранилищем как человеческих знаний, так и человеческих предрассудков. Разработчики пытаются фильтровать эти данные, но масштаб делает идеальную курацию невозможной. Когда мы говорим об этике ИИ, мы на самом деле говорим о том, как мы справляемся с ошибками, которые неизбежно производят эти системы. Растет напряжение между скоростью внедрения и необходимостью безопасности. Многие компании чувствуют давление, заставляющее выпускать продукты до того, как они будут полностью изучены, чтобы не потерять долю рынка. Это создает ситуацию, в которой общественность становится группой невольных подопытных для непроверенного ПО. Правовая система изо всех сил пытается поспеть за темпами изменений, пока суды спорят, может ли разработчик ПО нести ответственность за галлюцинации своего творения.

Новый глобальный цифровой разрыв

Влияние этих систем распределяется по миру неравномерно. В то время как штаб-квартиры крупнейших ИИ-фирм расположены в нескольких богатых странах, последствия их работы ощущаются повсюду. В странах Глобального Юга зарождается новая форма трудовой эксплуатации. Тысячи работников в таких странах, как Кения и Филиппины, получают низкую зарплату за разметку данных и фильтрацию травмирующего контента. Эти работники — невидимая страховочная сетка, которая не дает ИИ выдавать токсичные материалы, однако они редко получают долю в прибылях индустрии. Это создает дисбаланс сил, при котором богатые страны контролируют инструменты, а развивающиеся страны предоставляют сырой труд и данные, необходимые для их поддержания.

Культурное доминирование — еще одна серьезная проблема для международного сообщества. Большинство больших моделей обучаются преимущественно на англоязычных данных и западных культурных нормах. Это означает, что системы часто не понимают локальный контекст или языки с меньшими цифровыми ресурсами. Когда эти инструменты экспортируются, они рискуют перезаписать локальные знания гомогенизированной западной перспективой. Это не просто технический изъян, а угроза культурному разнообразию. Правительства начинают осознавать, что опора на иностранную ИИ-инфраструктуру создает новый вид зависимости. Если у страны нет собственных суверенных ИИ-возможностей, она должна следовать правилам и ценностям компаний, предоставляющих сервис. Мировое сообщество в настоящее время борется с несколькими критическими вопросами:

• Концентрация вычислительных мощностей в руках горстки частных корпораций.
• Экологические издержки обучения массивных моделей в регионах с дефицитом воды.
• Эрозия локальных языков в цифровых пространствах, где доминируют англоцентричные модели.
• Отсутствие международных соглашений об использовании автономных систем в военных действиях.
• Потенциал автоматизированной дезинформации для дестабилизации демократических выборов.

Жизнь с алгоритмом

Представьте день из жизни Сары, менеджера среднего звена в логистической фирме. Ее утро начинается с созданного ИИ резюме ее электронных писем. Система выделяет то, что считает самыми срочными задачами, но пропускает тонкую жалобу от давнего клиента, потому что инструмент анализа тональности не распознал сарказм. Позже она использует генеративный инструмент для составления оценки эффективности сотрудника. ПО предлагает более низкий рейтинг, основываясь на метриках продуктивности, которые не учитывают время, потраченное сотрудником на наставничество новичков. Сара должна решить, доверять ли собственному суждению или рекомендациям машины, основанным на данных. Если она проигнорирует ИИ и сотрудник позже провалится, ее могут обвинить в том, что она не следовала данным. Это тихое давление алгоритмического менеджмента.

Днем Сара подает заявку на новый страховой полис. Страховая компания использует автоматизированную систему для сканирования ее социальных сетей и медицинских записей. Система помечает ее как «высокий риск», потому что она недавно вступила в туристическую группу, которую алгоритм ассоциирует с потенциальными травмами. Нет человека, с которым можно поговорить, и нет способа объяснить, что она опытный турист с отличным здоровьем. Ее страховой взнос мгновенно растет. Это реальное последствие системы, которая отдает приоритет эффективности перед индивидуальными нюансами. К вечеру Сара просматривает новостной сайт, где половина статей написана ботами. Ей становится все труднее отличить факты от синтезированных резюме, созданных для того, чтобы она продолжала кликать. Это постоянное воздействие автоматизированного контента меняет ее восприятие реальности.

Технология больше не является инструментом, который она использует; это среда, в которой она живет. Противоречия видны повсюду. Мы хотим скорости ИИ, но боимся его холодности. Мы хотим удобства автоматизации, но возмущены потерей человеческой субъектности. Компании переоценивают способность этих инструментов заменять человеческое суждение, недооценивая ущерб, наносимый одним предвзятым результатом. Создатели переоценивают защиту своей интеллектуальной собственности, недооценивая, как легко их работа может быть поглощена парсером. Результат — общество, где мы все движемся быстрее, но меньше уверены в том, куда идем.

Цена эффективности

Мы должны задать трудные вопросы о скрытых издержках нашей текущей траектории. Если ИИ-система экономит компании миллионы долларов, но приводит к потере тысячи рабочих мест, кто несет ответственность за социальные издержки? Мы часто относимся к технологическому прогрессу как к неизбежной силе природы, но это результат конкретных выборов, сделанных людьми с конкретными стимулами. Почему мы отдаем приоритет оптимизации прибыли перед стабильностью рынка труда? Существует также вопрос конфиденциальности данных в эпоху, когда каждое взаимодействие является точкой обучения. Когда вы используете бесплатного ИИ-ассистента, вы не клиент, вы — продукт. Ваши разговоры и предпочтения используются для доработки модели, которая в конечном итоге будет продана вам или вашему работодателю. Что происходит с концепцией частной мысли, когда наши цифровые ассистенты постоянно слушают и учатся?

Воздействие на окружающую среду — еще одна стоимость, которая редко обсуждается в маркетинговых материалах. Обучение одной большой модели может потреблять столько же электричества, сколько сотни домов используют за год. Потребности дата-центров в охлаждении создают нагрузку на местные запасы воды в засушливых регионах. Готовы ли мы променять экологическую стабильность на чуть более качественный чат-бот? Мы также должны учитывать долгосрочное влияние на человеческое познание. Если мы делегируем наше письмо, программирование и критическое мышление машинам, что произойдет с этими навыками у населения? Мы можем построить мир, который будет высокоэффективным, но населенным людьми, которые больше не могут функционировать без цифрового костыля. Это не технические проблемы, которые нужно решать большим количеством данных. Это фундаментальные вопросы о том, в каком будущем мы хотим жить.

У вас есть история об ИИ, инструмент, тренд или вопрос, который, по вашему мнению, мы должны осветить? Пришлите нам свою идею статьи — мы будем рады ее услышать.

Инфраструктура влияния

Для продвинутых пользователей и разработчиков этические вопросы встроены в технические спецификации. Переход к локальному хранению и edge computing отчасти является ответом на опасения по поводу конфиденциальности. Запуская модели локально, пользователи могут избежать отправки чувствительных данных на центральный сервер. Однако это создает новый набор проблем, касающихся требований к оборудованию и лимитов API. Большинство высокопроизводительных моделей требуют значительного объема VRAM и специализированных чипов, которые сейчас в дефиците. Это создает «бутылочное горлышко», где только те, у кого есть новейшее оборудование, могут получить доступ к самым способным инструментам. Разработчики также борются с ограничениями текущих архитектур. Хотя трансформеры доминируют, их крайне сложно проверить. Мы видим веса и архитектуру, но не можем легко объяснить, почему конкретный ввод приводит к конкретному выводу.

Интеграция ИИ в профессиональные рабочие процессы также упирается в стену отравления данных и коллапса моделей. Если интернет будет насыщен контентом, созданным ИИ, будущие модели будут обучаться на результатах своих предшественников. Это ведет к деградации качества и усилению ошибок. Чтобы бороться с этим, некоторые разработчики изучают проверяемые источники данных и методы водяных знаков. Также есть запрос на более прозрачный анализ этики ИИ, чтобы помочь пользователям понять риски. Техническое сообщество в настоящее время сосредоточено на нескольких ключевых областях развития:

• Внедрение дифференциальной приватности для защиты отдельных точек данных в обучающих наборах.
• Разработка меньших, более эффективных моделей, которые могут работать на потребительском оборудовании.
• Создание стандартизированных бенчмарков для обнаружения предвзятости и фактических ошибок.
• Использование федеративного обучения для тренировки моделей на нескольких децентрализованных устройствах.
• Исследование новых архитектур, предлагающих лучшую интерпретируемость, чем стандартные нейронные сети.

Нерешенный путь вперед

Быстрая эволюция искусственного интеллекта опередила нашу способность управлять им. Мы сейчас находимся в противостоянии между желанием инноваций и необходимостью защиты. Самые большие этические вопросы касаются не возможностей машин, а намерений людей, которые их контролируют. По мере нашего движения в будущее, фокус, вероятно, сместится с самих моделей на цепочку поставок данных и ответственность разработчиков. Мы остаемся с живым вопросом, который определит следующее десятилетие. Можем ли мы построить систему, которая будет достаточно мощной, чтобы решать наши проблемы, и достаточно прозрачной, чтобы ей доверяли? Ответ еще не написан кодом. Он будет решен в залах суда, за столами совещаний и в повседневном выборе пользователей, которые должны решить, сколько своей автономии они готовы обменять на удобство.

Примечание редактора: Мы создали этот сайт как многоязычный центр новостей и руководств по ИИ для людей, которые не являются компьютерными гиками, но все же хотят понять искусственный интеллект, использовать его с большей уверенностью и следить за будущим, которое уже наступает.

Нашли ошибку или что-то, что нужно исправить? Сообщите нам.