Защо AI е история за хардуера толкова, колкото и за софтуера

Общоприетото схващане за изкуствения интелект се фокусира почти изцяло върху кода. Хората говорят за големи езикови модели, сякаш те съществуват във вакуум от чиста логика. Те обсъждат брилянтността на алгоритъма или нюансите в отговорите на чатбота. Тази перспектива пропуска най-критичния фактор в настоящата технологична ера. AI не е просто софтуерна история. Това е история за тежката индустрия. Става въпрос за масивно потребление на електроенергия и физическите граници на силиция. Всеки път, когато потребител зададе въпрос на чатбот, се задейства верига от физически събития в център за данни на километри разстояние. Този процес включва специализирани чипове, които в момента са най-ценните стоки на Земята. Ако искате да разберете защо някои компании печелят, а други се провалят, трябва да погледнете хардуера. Софтуерът е воланът, но хардуерът е двигателят и горивото. Без физическата инфраструктура, най-модерният модел в света е просто купчина безполезна математика.

Силициевият таван

В продължение на десетилетия разработката на софтуер следваше предвидим път. Пишехте код и той работеше на стандартни централни процесори или CPU. Тези чипове бяха универсални. Те можеха да се справят с разнообразни задачи една след друга. AI обаче промени изискванията. Модерните модели не се нуждаят от универсален инструмент. Те се нуждаят от специалист, който може да изпълнява милиарди прости математически операции едновременно. Това се нарича паралелна обработка. Индустрията насочи фокуса си към графични процесори или GPU. Тези чипове първоначално бяха проектирани за рендиране на видеоигри, но изследователите откриха, че са идеални за матричното умножение, което задвижва невронните мрежи. Тази промяна създаде огромно тясно място. Не можете просто да изтеглите повече интелигентност. Трябва да я изградите с физически компоненти, които са изключително трудни за производство. Светът в момента е изправен пред реалност, в която скоростта на прогреса на AI се диктува от това колко бързо компании като TSMC могат да гравират схеми върху силициеви пластини.

Това физическо ограничение създаде нов вид класова система в технологичния свят. Има богати на изчислителна мощ и бедни на такава. Компания с десет хиляди чипа от висок клас може да обучи модел, който компания със сто чипа дори не може да започне да опитва. Това не е въпрос на талант или умно кодиране. Това е въпрос на сурова мощ. Погрешното схващане, че AI е егалитарно поле, където всеки с лаптоп може да се конкурира, избледнява. Входната цена за най-високото ниво на разработка на AI сега се измерва в милиарди долари хардуер. Ето защо виждаме най-големите технологични компании в света да харчат безпрецедентни суми за инфраструктура. Те не просто купуват сървъри. Те изграждат фабриките на бъдещето. Хардуерът е ровът, който защитава техните бизнес модели.

Геополитиката на пясъка и мощта

Преминаването към AI, центриран около хардуера, измести центъра на тежестта за технологичната индустрия. Вече не става въпрос само за Силициевата долина. Става въпрос за Тайванския проток и електрическите мрежи на Северна Вирджиния. Производственият процес за най-модерните AI чипове е толкова сложен, че само една компания, TSMC, може да го прави в голям мащаб. Това създава единна точка на отказ за цялата глобална икономика. Ако производството в Тайван спре, прогресът на AI спира. Ето защо правителствата сега третират производството на чипове като въпрос на национална сигурност. Те субсидират изграждането на нови фабрики и налагат експортен контрол върху хардуера от висок клас. Целта е да се гарантира, че техните вътрешни индустрии имат достъп до физическите компоненти, необходими за поддържане на конкурентоспособността.

Отвъд самите чипове стои въпросът за енергията. AI моделите са невероятно жадни за мощност. Една заявка може да консумира значително повече електроенергия от стандартна заявка към търсачка. Това оказва огромен натиск върху местните електрически мрежи. На местата, където са концентрирани центровете за данни, търсенето на електроенергия расте по-бързо от предлагането. Това доведе до подновен интерес към ядрената енергия и други източници с голям капацитет. Международната агенция по енергетика отбеляза, че центровете за данни могат да удвоят потреблението си на електроенергия до 2026. Това не е софтуерен проблем, който може да бъде оптимизиран с по-добър код. Това е физическа реалност за това как работят тези системи. Екологичното въздействие на AI не се намира в редовете код, а в охладителните системи и въглеродния отпечатък на електроцентралите, които поддържат сървърите работещи. Организациите трябва да отчитат тези физически разходи, когато изчисляват стойността на своите AI инициативи.

Високата цена на всяка заявка

За да разберете практическото въздействие на хардуерните ограничения, помислете за един ден от живота на основател на стартъп на текущия пазар. Нека я наречем Сара. Сара има брилянтна идея за нов медицински диагностичен инструмент. Тя разполага с данните и таланта. Тя обаче бързо осъзнава, че най-голямата ѝ пречка не е алгоритъмът. Това е цената на извода (inference). Всеки път, когато лекар използва нейния инструмент, тя трябва да плаща за време на GPU от висок клас в облака. Тези разходи не са статични. Те варират в зависимост от глобалното търсене. В пиковите часове цената на изчислителната мощ може да скочи, изяждайки маржовете ѝ. Тя прекарва повече време в управление на своите облачни кредити и оптимизиране на използването на хардуера, отколкото в реални медицински изследвания. Това е реалността за хиляди създатели днес. Те са привързани към физическата наличност на хардуер.

За средностатистическия потребител това се проявява като латентност и ограничения. Забелязвали ли сте някога, че чатботът става по-бавен или по-малко способен в определени часове на деня? Това често се дължи на факта, че доставчикът достига хардуерно ограничение. Те разпределят наличната си изчислителна мощ, за да се справят с натоварването. Това е пряко следствие от физическата природа на AI. За разлика от традиционния софтуер, който може да бъде копиран и разпространяван при почти нулева пределна цена, всяка инстанция на работещ AI модел изисква специален дял от хардуера. Това създава таван за това колко хора могат да използват тези инструменти едновременно. Това също обяснява защо много компании се насочват към по-малки модели, които могат да работят на локални устройства като телефони или лаптопи. Те се опитват да прехвърлят хардуерната тежест от своите центрове за данни към крайния потребител. Тази промяна стимулира нов цикъл от хардуерни надстройки за потребителите. Хората купуват нови компютри не защото старите им са счупени, а защото им липсват специализираните чипове, необходими за локално изпълнение на модерните AI функции.

Това е огромна промяна в начина, по който мислим за връзката между нашите устройства и услугите, които използваме.

Имате история, инструмент, тенденция или въпрос, свързани с ИИ, които смятате, че трябва да обхванем? Изпратете ни вашата идея за статия — ще се радваме да я чуем.

Динамиката на бизнес силата също се променя. В миналото софтуерна компания можеше да се мащабира глобално с много малък физически отпечатък. Днес компаниите с най-голяма мощ са тези, които притежават инфраструктурата. Ето защо NVIDIA се превърна в една от най-ценните компании в света. Те предоставят кирките и лопатите за златната треска на AI. Дори най-успешните компании за AI софтуер често са просто наематели в центровете за данни на своите по-големи конкуренти. Това създава несигурна ситуация. Ако наемодателят реши да вдигне наема или да даде приоритет на собствените си вътрешни проекти, софтуерната компания няма къде другаде да отиде. Физическият слой е крайният източник на лост в модерната технологична икономика. Това е завръщане към по-индустриална форма на конкуренция, където мащабът и физическите активи имат по-голямо значение от просто умните идеи.

Въпросите, които не задаваме

Докато навлизаме по-дълбоко в тази зависима от хардуера ера, трябва да зададем трудни въпроси относно скритите разходи. Кой реално печели, когато бариерите за навлизане са толкова високи? Ако само шепа компании могат да си позволят хардуера, необходим за изграждане на най-модерните модели, какво означава това за конкуренцията и иновациите? Виждаме концентрация на власт, която е безпрецедентна в историята на технологиите. Тази централизация създава огромен риск за поверителността и цензурата. Ако цялата AI обработка се случва на няколко хиляди сървъра, притежавани от три или четири компании, тези компании имат пълен контрол върху това какво може да се каже и какво може да се направи с технологията. Какво се случва със суверенитета на по-малките нации, които не могат да си позволят да изградят своя собствена AI инфраструктура?

Съществува и въпросът за физическите материали, необходими за изграждането на тези машини. AI хардуерът зависи от редкоземни минерали и сложни вериги за доставки, които често се намират в нестабилни региони. Екологичната цена на добива на тези материали рядко се обсъжда в контекста на прогреса на AI. Говорим за елегантността на модела, докато игнорираме откритите мини и токсичните отпадъци, произведени по време на производствения процес. Струва ли си ползата от малко по-добър чатбот екологичните щети, причинени от хардуера, който изисква? Освен това трябва да разгледаме дългосрочната устойчивост на текущите тенденции в потреблението на енергия. Според доклади на Международната агенция по енергетика, растежът в търсенето на енергия от центровете за данни вече изпреварва добавянето на възобновяема енергия в някои региони. Изграждаме ли технологично бъдеще, което планетата всъщност не може да поддържа? Това не са технически бъгове, които трябва да бъдат поправени. Това са фундаментални компромиси, които идват с решението за преследване на AI в този мащаб. Трябва да бъдем честни за факта, че AI е физическа интервенция в света, а не само дигитална.

Архитектура и латентност

За напредналите потребители и разработчици историята за хардуера става още по-специфична. Не става въпрос само за наличието на GPU. Става въпрос за специфичната архитектура на това GPU. Едно от най-големите тесни места в модерния AI не е скоростта на процесора, а скоростта на паметта. Това е известно като „стената на паметта“ (memory wall). High Bandwidth Memory или HBM е от съществено значение за поддържането на процесора захранен с данни. Ако паметта е твърде бавна, процесорът стои без работа, губейки скъпи изчислителни цикли. Ето защо най-новите чипове от големите производители се фокусират толкова силно върху пропускателната способност и капацитета на паметта. Ако изпълнявате локален модел, количеството VRAM на вашата карта е най-важният фактор. То определя размера на модела, който можете да заредите, и скоростта, с която той може да генерира текст.

Интеграцията на работния процес също се превръща в хардуерен проблем. Много професионални инструменти сега интегрират AI функции, които изискват специфични API ограничения или локално ускорение. Ако използвате API, базиран в облака, вие сте обект на наличността на хардуера на доставчика. Това може да доведе до непредсказуема латентност, която съсипва потребителското изживяване. За локално съхранение изискванията също се увеличават. Съхранението на големи модели и наборите от данни, използвани за тяхното фино настройване, изисква терабайти бързо NVMe съхранение. Също така виждаме възхода на специализирани връзки като NVLink, които позволяват на множество GPU да комуникират помежду си с невероятни скорости. Това е необходимо, защото най-големите модели вече не се побират на един чип. Те трябва да бъдат разпределени върху десетки или дори стотици чипове, всички работещи в перфектна синхронизация. Ако физическата връзка между тези чипове е твърде бавна, цялата система се срива. Това ниво на хардуерна сложност е далеч от дните на простото писане на скрипт и изпълнението му на лаптоп. Можете да намерите по-подробни ръководства за оптимизиране на вашата локална настройка на уебсайта на AI Magazine. Разбирането на тези технически спецификации вече не е по избор за всеки, който иска да работи на границата на тази област. Разликата между успешно внедряване и провал често се свежда до това колко добре управлявате физическите ограничения на вашия хардуерен стек.

Физическата реалност

Разказът за AI като чисто дигитален феномен е мъртъв. Реалността е, че AI е физическа индустрия, която изисква огромни количества земя, вода, енергия и силиций. Прогресът, който виждаме през следващите години, ще бъде определен толкова от пробиви в науката за материалите и производството на енергия, колкото и от пробиви в машинното обучение. Навлизаме в период, в който физическият свят потвърждава своето господство над дигиталния свят. Компаниите, които разбират това и инвестират в собствен хардуер и енергийни доставки, ще бъдат тези, които ще водят. Тези, които третират хардуера като второстепенен, ще се окажат извън пазара поради високите цени. Най-важното нещо, което трябва да запомните, е, че всяка частица дигитална интелигентност има физически дом. До 2026 картата на AI света ще изглежда много като карта на най-мощните индустриални центрове в света. Силициевият таван е реален и всички ние живеем под него.

Бележка на редактора: Създадохме този сайт като многоезичен център за новини и ръководства за изкуствен интелект за хора, които не са компютърни маниаци, но все пак искат да разберат изкуствения интелект, да го използват с повече увереност и да следят бъдещето, което вече настъпва.

Открихте грешка или нещо, което трябва да бъде коригирано? Уведомете ни.