Скритата машина зад AI: чипове, облаци и индустриален мащаб

Изкуственият интелект често се описва като поредица от ефирни алгоритми, живеещи в облака. Това описание е удобна фикция, която пренебрегва масивната индустриална машинария, необходима за поддържането на тези системи. Реалността на съвременния AI се намира във физическия свят на електропроводите с високо напрежение, масивните охладителни системи и специализираното производство на силиций. Докато софтуерните актуализации се движат със скоростта на светлината, инфраструктурата, която ги поддържа, се движи със скоростта на бетона и стоманата. Напредъкът на мащабните модели сега се сблъсква с твърдите граници на физиката и логистиката. Виждаме промяна, при която способността да се осигури връзка с електрическата мрежа или разрешително за център за данни е също толкова важна, колкото способността за писане на ефективен код. Разбирането на бъдещето на технологиите изисква да погледнем отвъд екрана и към тежката индустрия, която ги захранва. Тесното място вече не е само човешката изобретателност, а наличието на земя, вода и електричество в мащаб, какъвто малко индустрии някога са изисквали.

Индустриалната тежест на виртуалния интелект

Хардуерът, необходим за AI, е много по-сложен от стандартното сървърно оборудване. Всичко започва със специализиран дизайн на чипове, но историята бързо преминава към опаковането и паметта. High Bandwidth Memory е от съществено значение за подаването на данни към процесорите достатъчно бързо, за да се поддържа производителността. Тази памет е подредена вертикално и интегрирана с процесора чрез усъвършенствани техники като Chip on Wafer on Substrate. Този процес се управлява от много малък брой компании, създавайки тясно гърло за цялото глобално предлагане. Мрежовата свързаност е друг критичен физически компонент. Тези системи не работят изолирано. Те изискват високоскоростни връзки като InfiniBand, за да позволят на хиляди чипове да действат като една единица. Това създава физически ограничения върху това как се изграждат центровете за данни, тъй като дължината на медните или оптичните кабели може да повлияе на скоростта на цялата система.

Производството на тези компоненти е концентрирано в няколко високоспециализирани съоръжения. Една единствена компания, TSMC, произвежда по-голямата част от високотехнологичните чипове в света. Тази концентрация означава, че едно локално събитие или промяна в търговската политика може да спре напредъка на цялата индустрия. Сложността на производственото оборудване също е фактор. Машините, които използват екстремна ултравиолетова литография, са най-сложните инструменти, създавани някога от хората. Те се произвеждат само от една компания в света и изискват години време за поръчка и инсталиране. Това не е свят на бърза итерация. Това е свят на дългосрочно планиране и масивни капиталови разходи. Инфраструктурата е основата, върху която е изграден всеки чатбот и генератор на изображения. Без този физически слой софтуерът просто не може да съществува.

• Усъвършенстваните техники за опаковане като CoWoS в момента са основното тясно място в доставките на чипове.
• Производството на High Bandwidth Memory изисква специализирани фабрики, които в момента работят с пълен капацитет.
• Мрежовият хардуер трябва да бъде проектиран да обработва масивен поток от данни с минимална латентност.
• Производственото оборудване за най-новите възли има многогодишен списък с чакащи поръчки.
• Концентрацията на производството в специфични географски региони създава значителен риск за веригата на доставки.

Геополитическата карта на изчислителната мощ

Концентрацията на хардуерното производство превърна AI във въпрос на национална сигурност. Правителствата сега използват експортен контрол, за да ограничат потока от високотехнологични чипове и производствено оборудване към определени региони. Тези контроли не са само за самите чипове, но и за знанията, необходими за изграждането и поддръжката на машините, които ги правят. Това създаде разпокъсана среда, в която различните части на света имат достъп до различни нива на изчислителна мощ. Тази празнина засяга всичко – от бизнес производителността до научните изследвания. Компаниите сега са принудени да обмислят географското местоположение на своите центрове за данни не само заради латентността, но и заради политическата стабилност и регулаторното съответствие. Това е значителна промяна от ранните дни на интернет, когато физическото местоположение на сървъра беше почти без значение.

Бизнес силата в тази нова ера се държи от тези, които контролират инфраструктурата. Облачните доставчици, които осигуриха големи поръчки на чипове преди години, сега имат огромно предимство пред новодошлите. Тази концентрация на власт е директен резултат от физическите изисквания на технологията. За по-задълбочено разбиране на тази динамика можете да прочетете този задълбочен анализ на инфраструктурата за изкуствен интелект, за да видите как хардуерът оформя софтуера. Цената за навлизане при изграждането на конкурентен мащабен модел сега се измерва в милиарди долари хардуер. Това създава бариера за навлизане, която облагодетелства утвърдените гиганти и подкрепяните от държавата субекти. В крайна сметка фокусът се измести от това кой има най-добрия алгоритъм към това кой има най-надеждната верига на доставки и най-големите центрове за данни. Тази тенденция вероятно ще продължи, докато моделите растат по размер и сложност.

Бетон и охлаждане в реалния свят

Въздействието на AI върху околната среда често е скрито от крайния потребител. Една заявка към голям езиков модел може да изисква значително повече енергия от стандартна заявка към търсачка. Тази консумация на енергия се превръща в топлина, която трябва да се управлява с масивни охладителни системи. Тези системи често използват милиони литри вода всеки ден. В региони, изправени пред недостиг на вода, това създава директна конкуренция между технологичните компании и местните общности. Енергийната плътност на AI център за данни е няколко пъти по-висока от тази на традиционно съоръжение. Това означава, че съществуващите електрически мрежи често не са в състояние да се справят с натоварването без значителни подобрения. Тези подобрения могат да отнемат години и изискват сложни процеси по издаване на разрешителни, включващи местни и държавни органи.

Помислете за един ден от живота на мениджър на общинско комунално предприятие в регион, където се изгражда нов център за данни. Те трябва да гарантират, че местната мрежа може да се справи с масивното, постоянно теглене на енергия, без да причинява прекъсвания за жителите. Те управляват ежедневните операции на система, която никога не е била проектирана за това ниво на концентрирано търсене.

Когато технологична компания поиска нова връзка, това може да задейства многогодишен процес на изграждане на нови подстанции и полагане на километри електропроводи с високо напрежение. Това често води до местна съпротива от граждани, които се притесняват от повишаването на цените на комуналните услуги или въздействието на съоръжението върху околната среда. Международната агенция по енергетика отбеляза, че потреблението на електроенергия от центровете за данни може да се удвои през следващите няколко години. Това не е само техническо предизвикателство, а социално и политическо. Физическият отпечатък на център за данни може да покрие стотици хиляди m² земя, често в райони, където земята вече е оскъдна.

Разрешителните са друго практическо ограничение, което често се пренебрегва. Изграждането на център за данни включва навигация в сложна мрежа от екологични разпоредби, закони за зониране и строителни норми. В някои юрисдикции процесът може да отнеме повече време от самото строителство. Това създава разминаване между бързия темп на софтуерното развитие и бавния темп на физическата инфраструктура. Компаниите сега търсят места с бързо издаване на разрешителни и готов достъп до възобновяема енергия. Въпреки това, дори с възобновяема енергия, огромният мащаб на търсенето е предизвикателство. Център за данни, който работи 24 часа в денонощието, изисква постоянно захранване, което означава, че вятърната и слънчевата енергия трябва да бъдат допълнени от масивно съхранение на батерии или други форми на базова мощност. Това добавя още един слой физическа сложност и разходи към операцията.

Трудни въпроси за ерата на мащабирането

Докато продължаваме да мащабираме тези системи, трябва да зададем трудни въпроси относно скритите разходи. Кой всъщност плаща за масивната инфраструктура, необходима за AI? Въпреки че инструментите често са безплатни или евтини за крайния потребител, екологичните и социалните разходи се разпределят в обществото. Струва ли си ползата от малко по-точен чатбот напрежението върху нашите електрически мрежи и водоснабдяване? Съществува и въпросът за поверителността и суверенитета на данните. Тъй като все повече данни се обработват в масивни, централизирани съоръжения, рискът от мащабни пробиви в данните нараства. Физическата концентрация на данни също ги прави мишена за държавни субекти и киберпрестъпници. Трябва да помислим дали преминаването към масивни, централизирани изчисления е единственият път напред или трябва да инвестираме повече в децентрализирани и ефективни алтернативи.

Цената на хардуера също е повод за безпокойство. Ако само няколко компании могат да си позволят да изградят инфраструктурата, необходима за най-модерните модели, какво означава това за бъдещето на отворените изследвания и конкуренцията? Виждаме тенденция, при която най-способните системи са заключени зад собствени API, като основният хардуер и данни остават скрити. Тази липса на прозрачност затруднява независимите изследователи да проверят твърденията за безопасност и пристрастия. Това също създава зависимост от шепа доставчици за критична инфраструктура. Ако един от тези доставчици претърпи голяма хардуерна повреда или геополитическо сътресение, въздействието ще се почувства в цялата глобална икономика. Това не са просто технически проблеми, а фундаментални въпроси за това как искаме да изградим нашето технологично бъдеще.

Имате история, инструмент, тенденция или въпрос, свързани с ИИ, които смятате, че трябва да обхванем? Изпратете ни вашата идея за статия — ще се радваме да я чуем.

Хардуерната архитектура на съвременните модели

За напредналите потребители и разработчици физическите ограничения на AI се проявяват в интеграциите на работния процес и API лимитите. Повечето потребители взаимодействат с тези модели чрез API, което по същество е прозорец към масивен център за данни. Тези API имат лимити на скоростта, които са пряко обвързани с наличната изчислителна мощ в другия край. Когато моделът реагира бавно, това често се дължи на факта, че физическият хардуер се споделя от хиляди други потребители. Някои разработчици се насочват към локално съхранение и локално извеждане (inference), за да заобиколят тези ограничения. Въпреки това, стартирането на голям модел локално изисква значителен хардуер, включително високотехнологични GPU с големи количества VRAM. Това доведе до скок в търсенето на потребителски хардуер, който може да се справи с AI натоварвания, но дори най-добрите потребителски чипове са само малка част от мощността на специализиран сървърен рак.

Интегрирането на AI в професионалните работни процеси също зависи от физическото местоположение на данните. За компании със строги изисквания за пребиваване на данните, използването на облачен модел може да не е опция. Това стимулира пазара за локален AI хардуер, който позволява на компаниите да изпълняват модели на собствените си сървъри. Тези системи са скъпи и изискват специализиран персонал за поддръжка. Мрежовата свързаност остава основно тясно място и тук. Преместването на големи масиви от данни в и извън модел изисква връзки с висока пропускателна способност, каквито много офиси нямат. Ето защо виждаме фокус върху edge computing, където обработката се извършва по-близо до мястото, където се генерират данните. Това намалява нуждата от масивни трансфери на данни и може да подобри потребителското изживяване чрез намаляване на латентността. Хардуерният стек на NVIDIA се превърна в де факто стандарт за тези операции, но индустрията търси алтернативи за намаляване на разходите и зависимостта.

• Лимитите на API са пряко отражение на физическия изчислителен капацитет на доставчика.
• Локалното извеждане изисква висок VRAM капацитет, което в момента е премиум функция при потребителските GPU.
• Законите за пребиваване на данните принуждават много предприятия да се върнат към локален хардуер.
• Edge computing има за цел да реши проблема с мрежовото тясно място, като премести изчисленията по-близо до потребителя.
• Разходите за поддръжка на специализиран AI хардуер са значителен режиен разход за малките фирми.

Физическата реалност на бъдещето

Разказът за AI като чисто дигитален феномен вече не е устойчив. Ограниченията на енергията, водата, земята и силиция сега са основните фактори, определящи темпото на напредък. Навлизаме в ера, в която успехът на една технологична компания зависи толкова от способността ѝ да управлява глобална верига на доставки и да осигурява договори за енергия, колкото и от софтуерната ѝ експертиза. Противоречията между виртуалния свят на AI и физическия свят на инфраструктурата стават все по-видими всеки ден. В крайна сметка трябва да признаем, че всеки дигитален напредък има физическа цена. Предизвикателството за следващото десетилетие ще бъде намирането на начини за продължаване на този прогрес, като същевременно се управляват много реалните граници на ресурсите на нашата планета. Бъдещето на технологиите не е само в кода, а в хардуера и инфраструктурата, които го правят възможно.

Бележка на редактора: Създадохме този сайт като многоезичен център за новини и ръководства за изкуствен интелект за хора, които не са компютърни маниаци, но все пак искат да разберат изкуствения интелект, да го използват с повече увереност и да следят бъдещето, което вече настъпва.

Открихте грешка или нещо, което трябва да бъде коригирано? Уведомете ни.