Философията на AI за хора, които мразят философия

Практическият избор

Повечето хора приемат философията на изкуствения интелект като дебат за това дали роботите имат души. Това е грешка, която губи време и прикрива реалните рискове. В професионалния свят философията на тази технология всъщност е дискусия за отговорността, точността и цената на човешкия труд. Става въпрос за това кой носи отговорност, когато един модел направи грешка, струваща на компанията милиони долари. Става въпрос за това дали един творчески работник притежава стила, който е усъвършенствал с десетилетия. Отдалечаваме се от ерата на чуденето дали машините могат да мислят. Сега сме в ерата на решаването колко им се доверяваме да действат от наше име. Скорошната промяна в индустрията премина от чат ботове, които разказват вицове, към агенти, които могат да резервират полети и да пишат код. Тази промяна ни принуждава да се изправим пред механиката на доверието, а не пред мистерията на съзнанието. Ако мразите философията, гледайте на нея като на поредица от преговори по договор. Вие поставяте условията за нов вид служител, който никога не спи, но често халюцинира. Целта е да се изгради рамка, при която ползите от скоростта не надвишават рисковете от тотален срив на системата.

Механиката на машинната логика

За да разберете текущото състояние на индустрията, трябва да игнорирате маркетинговите термини. Един голям езиков модел не е мозък. Той е масивна статистическа карта на човешкия език. Когато въведете подкана, системата не мисли за вашия въпрос. Тя изчислява коя дума е най-вероятно да последва предишната въз основа на трилиони примери. Ето защо системите са толкова добри в поезията, но толкова лоши в елементарната математика. Те разбират моделите на това как хората говорят за числа, но не разбират логиката на самите числа. Това разграничение е жизненоважно за всеки, който използва тези инструменти в бизнес среда. Ако третирате изхода като фактически запис, използвате инструмента неправилно. Той е творчески синтезатор, а не база данни. Объркването често идва от това колко добре тези модели имитират човешката емпатия. Те могат да звучат любезно, разочаровано или полезно, но това са просто езикови огледала. Те отразяват тона на данните, върху които са обучени.

Скорошната промяна включва движение към базиране на тези модели върху данни от реалния свят. Вместо да оставят модела да отгатне отговор, компаниите сега ги свързват със собствените си вътрешни файлове. Това намалява шанса моделът да си измисля неща. Това също променя залозите на разговора. Вече не питаме какво знае моделът. Питаме как моделът достъпва това, което ние знаем. Това е преход от генеративно изкуство към функционална полезност. Философията тук е проста. Това е разликата между разказвач и служител в архива. Повечето потребители искат служителя, но технологията е създадена да бъде разказвачът. Съгласуването на тези две идентичности е основното предизвикателство за разработчиците днес. Трябва да решите дали искате инструмент, който е креативен, или такъв, който е точен, защото в момента е трудно да получите и двете на максимално ниво едновременно.

Глобални залози и национални интереси

Въздействието на тези избори не се ограничава само до отделни офиси. Правителствата сега третират развитието на тези модели като въпрос на национална сигурност. В САЩ изпълнителните заповеди са насочени към безопасността и сигурността на най-мощните системи. В Европа Законът за AI създаде правна рамка, която категоризира системите според риска. Това създава ситуация, в която философията на разработчик в Калифорния може да повлияе на законността на продукт в Берлин. Виждаме фрагментиран свят, където различните региони имат много различни идеи за това какво трябва да има право да прави една машина. Някои нации разглеждат технологията като начин за увеличаване на икономическото производство на всяка цена. Други я виждат като заплаха за социалната тъкан и пазарите на труда. Това създава отделен набор от правила за всеки пазар, което затруднява малките компании да се конкурират с гигантите, които могат да си позволят големи правни екипи.

Глобалната верига за доставки за тази технология също е точка на напрежение. Хардуерът, необходим за работата на тези модели, е концентриран в няколко ръце. Това създава нов вид динамика на силата между държавите, които проектират чиповете, държавите, които ги произвеждат, и държавите, които предоставят данните. За средностатистическия потребител това означава, че инструментите, на които разчитате, могат да бъдат обект на търговски войни или експортен контрол. Философията на AI сега е обвързана с философията на суверенитета. Ако една държава разчита на чужд модел за своята здравна или правна система, тя губи степен на контрол върху собствената си инфраструктура. Ето защо виждаме натиск за локални модели и суверенни облаци. Целта е да се гарантира, че логиката, управляваща една нация, не е собственост на корпорация от другата страна на планетата. Това е практическата страна на дебата, която често се губи в приказките за сценарии от научната фантастика.

Една сутрин със синтетичен интелект

Помислете за типичен ден на маркетинг мениджър на име Сара. Тя започва сутринта си, като моли асистент да обобщи три дузини имейла. Асистентът прави това за секунди, но Сара трябва да провери дали не е пропуснал решаващ детайл за съкращаване на бюджета. По-късно тя използва генеративен инструмент, за да създаде изображения за нова кампания. Тя прекарва един час в настройване на подканата, защото машината продължава да дава на хората в изображенията по шест пръста. Следобед тя използва асистент за кодиране, за да поправи бъг в уебсайта на компанията, въпреки че не знае как да кодира. Тя по същество е диригент на дигитален оркестър. Тя не върши ръчния труд, но е отговорна за финалното изпълнение. Това е новата реалност на работата. Става въпрос повече за редактиране и проверка, отколкото за създаване от нулата. Сара е по-продуктивна, но е и по-уморена. Менталното натоварване от постоянното проверяване на машината за грешки е различно от натоварването от вършенето на работата сама

Стимулите за компанията на Сара също са се променили. Те вече не наемат писатели на начално ниво. Те наемат един старши редактор, който използва три различни модела, за да произведе същото количество съдържание. Това спестява пари в краткосрочен план, но създава дългосрочен проблем. Откъде ще дойде следващото поколение старши редактори, ако никой не върши работата на начално ниво? Това е следствие от текущата логика на ефективността. Ние оптимизираме за настоящето, докато потенциално изпразваме бъдещето. Залозите за творците са още по-високи. Музиканти и илюстратори откриват, че работата им се използва за обучение на същите модели, които сега се конкурират с тях за работни места. Това не е просто промяна на пазара. Това е промяна в стойността, която отдаваме на човешките усилия. Трябва да се запитаме дали ценим резултата повече от процеса и какво се случва с нашата култура, когато процесът е скрит в черна кутия.

• Лидерите на компании трябва да решат дали ценят скоростта пред оригиналната мисъл.
• Служителите трябва да се научат да одитват машинния изход като основно умение.
• Законодателите трябва да балансират нуждата от иновации със защитата на работната сила.
• Творците трябва да намерят начини да докажат, че работата им е човешка, за да запазят стойността ѝ.
• Педагозите трябва да преосмислят как оценяват учениците, когато отговорите са на един клик разстояние.

Скритите разходи на автоматизацията

Често говорим за ползите от тази технология, без да споменаваме сметката. Първият разход е поверителността. За да направим тези модели по-полезни, трябва да им дадем повече данни. Насърчават ни да подаваме личните си графици, личните си бележки и корпоративните си тайни в тези системи, за да получим по-добри резултати. Но къде отиват тези данни? Повечето компании твърдят, че не използват клиентски данни за обучение на своите модели, но историята на интернет предполага, че политиките могат да се променят. След като данните ви са в системата, е почти невъзможно да ги извадите. Това е постоянна размяна на поверителност за удобство. Също така виждаме огромно увеличение на потреблението на енергия. Обучението на един голям модел изисква достатъчно електричество, за да захранва хиляди домове за една година. С преминаването към по-сложни системи екологичните разходи само ще растат. Трябва да се запитаме дали способността да генерираме забавна снимка на котка си струва въглеродния отпечатък, който генерира.

Съществува и цената на истината. Тъй като става по-лесно да се генерира реалистичен текст и изображения, стойността на доказателствата намалява. Ако всичко може да бъде фалшифицирано, тогава нищо не може да бъде доказано. Това вече засяга нашите политически системи и съдилища. Навлизаме в период, в който предположението по подразбиране е, че това, което виждаме на екрана, е лъжа. Това създава високо ниво на социално триене. Прави по-трудно съгласието по основни факти. Философията на AI тук е за ерозията на споделената реалност. Ако всеки гледа версия на света, която е филтрирана и променена от алгоритъм, губим способността да комуникираме ефективно през тези разделения. Разменяме стабилна социална основа за по-персонализирано и забавно изживяване. Това е избор, който правим всеки път, когато използваме тези инструменти, без да поставяме под въпрос техния източник или намерение.

Имате история, инструмент, тенденция или въпрос, свързани с ИИ, които смятате, че трябва да обхванем? Изпратете ни вашата идея за статия — ще се радваме да я чуем.

Технически ограничения и локални системи

За напредналите потребители разговорът е за повече от просто етика. Става въпрос за границите на хардуера и софтуера. Една от най-големите пречки е прозорецът на контекста. Това е количеството информация, което един модел може да държи в активната си памет в даден момент. Въпреки че тези прозорци растат, те все още са ограничени. Ако подадете на модел книга от хиляда страници, той в крайна сметка ще започне да забравя началото, докато стигне до края. Това води до несъответствия в дългите проекти. Съществува и проблемът с API лимитите и латентността. Ако вашият бизнес разчита на модел на трета страна, вие сте на милостта на тяхното време на работа и ценообразуване. Внезапна промяна в техните условия за ползване може да разбие целия ви работен процес. Ето защо много напреднали потребители се насочват към локално съхранение и локално изпълнение. Те пускат по-малки модели на собствен хардуер, за да запазят контрола и скоростта.

Интеграцията на работния процес е следващото голямо предизвикателство. Не е достатъчно да имате чат кутия на уебсайт. Истинската стойност идва от свързването на тези модели със съществуващи инструменти като електронни таблици, бази данни и софтуер за управление на проекти. Това изисква дълбоко разбиране за това как да се структурират данните, така че моделът да може да ги разбере. Виждаме възхода на RAG, или Retrieval-Augmented Generation. Това е метод, при който моделът търси специфична информация от доверен източник, преди да отговори. Това е начин за преодоляване на пропастта между статистическата природа на модела и фактическите нужди на потребителя. Това обаче добавя слой сложност към системата. Трябва да управлявате търсачката, базата данни и модела едновременно. Това е решение с висока поддръжка, което изисква специфичен набор от умения за ефективно управление.

• Квантуването позволява на големи модели да работят на хардуер от потребителски клас чрез намаляване на прецизността на теглата.
• Фина настройка става по-малко популярна, тъй като RAG осигурява по-добра фактическа точност с по-малко усилия.
• Токенизацията остава скрит разход, който може да направи определени езици по-скъпи за обработка от други.
• Локалното изпълнение е единственият начин да се осигури 100 процента поверителност за чувствителни корпоративни данни.
• Дестилацията на модели създава по-малки, по-бързи версии на гигантски модели за мобилна употреба.

Практическият път напред

Философията на AI не е разсейване от работата. Това е самата работа. Всеки път, когато избирате модел, вие правите избор за това какъв вид логика искате да доминира в живота ви. Вие решавате кои рискове са приемливи и кои разходи са твърде високи. Технологията се променя бързо, но човешките нужди остават същите. Искаме инструменти, които ни правят по-добри, а не инструменти, които ни заменят. Искаме системи, които са прозрачни, а не системи, които работят в тъмното. Объркването около тази тема често е умишлено. За компаниите е по-лесно да продадат магическа кутия, отколкото да продадат сложен статистически инструмент. Като премахнете излишното и се съсредоточите върху стимулите, можете да видите технологията такава, каквато е в действителност. Това е мощно, несъвършено и дълбоко човешко творение. То отразява нашите най-добри идеи и най-лоши навици. Целта е да я използвате с отворени очи, разбирайки компромисите, които правите при всяко взаимодействие. Можете да научите повече за най-новите тенденции в машинното обучение, за да изпреварите тези промени. За по-задълбочени прозрения относно етиката на тези системи, ресурси като Stanford Institute for Human-Centered AI и MIT Technology Review предоставят отлични данни. Можете също да следите правните промени в технологичната секция на New York Times.

Бележка на редактора: Създадохме този сайт като многоезичен център за новини и ръководства за изкуствен интелект за хора, които не са компютърни маниаци, но все пак искат да разберат изкуствения интелект, да го използват с повече увереност и да следят бъдещето, което вече настъпва.