Защо производителите на лаптопи внезапно искат всичко да е AI

Технологичната индустрия се движи в цикли на централизация и децентрализация. През последното десетилетие облакът беше центърът на вселената. Всяка умна функция на вашия лаптоп разчиташе на сървър в далечен център за данни. Това обаче бързо се променя. Производители на лаптопи като Intel, AMD и Apple сега връщат интелигентността обратно в локалното устройство. Те правят това, като добавят специфичен елемент от силиций, наречен Neural Processing Unit (NPU), към всяка нова машина. Тази промяна не е само заради скоростта. Става въпрос за енергийна ефективност и поверителност. Когато компютърът ви може да обработва сложни модели, без да комуникира с интернет, той става по-способен и по-малко зависим от абонаменти. Индустрията нарича това ерата на AI PC. Това е най-значимата промяна в архитектурата на лаптопите от въвеждането на многоядрените процесори. Този преход цели да превърне лаптопа от пасивен инструмент в активен асистент, който разбира контекста, без да изтощава батерията за два часа.

За да разберете защо се случва това, трябва да погледнете хардуера. Стандартният лаптоп има централен процесор (CPU) за общи задачи и графичен процесор (GPU) за визуални данни. Нито един от тях не е перфектен за изкуствен интелект. CPU е твърде бавен за мащабните изчисления, изисквани от съвременните модели. GPU е бърз, но консумира огромно количество електроенергия. **Neural Processing Unit** е специализиран чип, проектиран да се справя със специфичната математика, използвана в машинното обучение. Той използва много малко енергия, за да извършва трилиони операции в секунда. Това позволява на лаптопа да стартира голям езиков модел или генератор на изображения локално. Чрез прехвърляне на тези задачи към NPU, CPU и GPU остават свободни за обичайната си работа. Тази архитектура предпазва лаптопа от прегряване, когато използвате умни функции. Това също означава, че функции като коригиране на зрителния контакт при видеоразговори могат да работят постоянно във фонов режим, без да усещате спад в производителността. Производителите залагат на това, че тази ефективност ще убеди потребителите да обновят остаряващия си хардуер.

Натискът за локален хардуер е и отговор на нарастващите разходи за облачни изчисления. Всеки път, когато помолите облачен AI да обобщи документ, това струва на доставчика пари за електроенергия и поддръжка на сървъри. Пренасяйки тази работа на вашия лаптоп, компании като Microsoft и Google спестяват милиарди от разходи за инфраструктура. Тази промяна ефективно прехвърля сметката за AI изчисления от доставчика на софтуер към потребителя, който купува хардуера. Това е умен ход, който съответства на бизнес целите на гиганти като Intel и AMD. Те се нуждаят от нова причина хората да купуват компютри на всеки три години. AI PC предоставя тази причина, обещавайки функции, които просто няма да работят добре на по-стари машини. Можете да намерите повече подробности за тези промени в нашите изчерпателни ръководства за AI хардуер, които проследяват еволюцията на потребителския силиций. Това не е просто тенденция за висок клас работни станции. Тя се превръща в стандарт за всеки потребителски лаптоп, продаван по целия свят.

Глобалното въздействие на този преход е съсредоточено върху суверенитета на данните и енергията. Правителствата и големите корпорации са все по-загрижени за това къде отиват техните данни. Ако банка в Германия използва облачен AI за анализ на чувствителни финансови записи, тези данни могат да напуснат страната. Локалният AI решава този проблем, като запазва данните на самия лаптоп. Това отговаря на строгите закони за поверителност като GDPR в Европа и подобни регулации в Азия. Това също намалява глобалния енергиен отпечатък на интернет. Центровете за данни консумират огромно количество енергия за преместване и обработка на информация. Ако значителна част от тази работа се извършва на милионите лаптопи, които вече стоят на бюрата, натоварването на глобалната мрежа намалява. Този децентрализиран подход е по-устойчив. Той позволява на служител в регион с лоша интернет връзка да използва усъвършенствани инструменти, които преди бяха достъпни само за тези с високоскоростна оптична връзка. Тази демократизация на изчислителната мощ е основен двигател за международния технологичен пазар.

В типичния работен ден влиянието на AI-ориентирания лаптоп е фино, но постоянно. Представете си, че започвате сутринта си с видеоконференция. В миналото замъгляването на фона или премахването на шума караше вентилаторите на лаптопа ви да шумят силно. С NPU тези задачи се случват безшумно и почти не изразходват батерия. По време на срещата локален модел транскрибира разговора и идентифицира задачите в реално време. Не е необходимо да качвате аудиото на сървър, което защитава фирмените тайни, обсъждани в стаята. По-късно трябва да намерите конкретна електронна таблица от миналата година. Вместо да търсите по име на файл, молите компютъра да намери документа, в който сте обсъждали бюджета за офиса в Токио. Лаптопът сканира своя локален индекс от файлове и го намира мигновено. Това е разликата между търсачка и локален двигател за интелигентност. Той разбира съдържанието на работата ви, вместо само етикетите, които му давате.

Следобед може да се наложи да генерирате изображение за презентация. Вместо да чакате на опашка в уебсайт, използвате локална версия на Stable Diffusion. Изображението се появява за секунди, защото NPU е оптимизиран точно за тази задача. Може също да получите дълъг доклад, който нямате време да прочетете. Плъзгате го в локален прозорец и веднага получавате резюме от три параграфа. Този работен процес е по-бърз, защото няма мрежова латентност. Не чакате сигналът да пътува през океана и обратно. Компютърът се чувства по-отзивчив, защото обработката се случва на сантиметри от пръстите ви. Това е практическата реалност на AI PC. Не става въпрос за една голяма функция, която променя всичко. Става въпрос за стотици малки подобрения, които правят машината по-интуитивна. Целта е да се премахне триенето между вашите мисли и дигиталния резултат.

Сократическият скептицизъм е необходим при оценката на тези твърдения. Трябва да се запитаме дали NPU всъщност е полезен инструмент или просто начин да се оправдаят по-високите цени. Повечето текущи AI функции са софтуерни трикове, които технически биха могли да работят на по-стар хардуер, макар и по-бавно. Дали индустрията създава синтетична нужда от нов силиций? Има и въпросът за дълголетието. AI моделите растат по размер и сложност всеки месец. Лаптоп, купен днес, може да има NPU, способен на 40 трилиона операции в секунда, но дали това ще бъде достатъчно за моделите на бъдещето? Може би навлизаме в ера, в която хардуерът остарява много по-бързо, отколкото през предходното десетилетие. Ако основната функционалност на вашата операционна система зависи от конкретен чип, губите възможността да продължите да използвате компютъра си десет години. Това създава огромно количество електронни отпадъци. Трябва също да вземем предвид компромиса с поверителността. AI, който индексира всичко, което правите, за да бъде полезен, е и AI, който има перфектен запис на целия ви живот. Кой контролира този индекс и може ли той да бъде изискан по съдебен ред?

Техническият слой на този преход е мястото, където се появяват истинските ограничения. За да бъде един NPU полезен, софтуерните разработчици трябва да пишат код, който може да комуникира с него. Това изисква стандартизирани API като Windows DirectML или Intel OpenVINO. В момента екосистемата е фрагментирана. Функция, която работи на Apple Mac, може да не работи на Windows лаптоп с чип на AMD. Има и въпросът за пропускателната способност на паметта. AI моделите изискват огромни количества данни, които да се преместват бързо между паметта и процесора. Повечето текущи лаптопи имат тясно място тук. Дори ако NPU е бърз, той може да прекарва по-голямата част от времето си в чакане RAM паметта да достави данни. Ето защо виждаме преход към архитектури с обединена памет, където CPU, GPU и NPU споделят един и същ високоскоростен пул от данни. Това подобрява производителността, но прави лаптопите невъзможни за надграждане след покупката. Не можете просто да добавите повече RAM по-късно, защото паметта е запоена точно до процесора за максимална скорост.

Power потребителите трябва внимателно да разгледат спецификациите, преди да се поддадат на хайпа. Индустрията използва метрика, наречена TOPS, за измерване на AI производителността. Въпреки това, TOPS е сурово число, което не отчита как чипът се справя с различни типове данни, като INT8 или FP16 прецизност. Чип с високи TOPS може все още да се затруднява със специфични модели, ако архитектурата му не е оптимизирана за тях. Има и топлинни ограничения, които трябва да се вземат предвид. Тънък и лек лаптоп може да има мощен NPU, но ако не може да разсейва топлината, системата ще намали скоростта след няколко минути тежка работа. Локалното съхранение е друг фактор. Изпълнението на големи модели локално изисква гигабайти пространство само за теглата на моделите. Ако купите лаптоп с малък твърд диск, бързо ще се окажете без място. Секцията за гийкове на пазара в момента е гробище за хардуер на ранни последователи, който обещаваше много, но му липсваше софтуерна поддръжка. Все още чакаме универсален стандарт, който прави AI софтуера наистина преносим между всички марки хардуер.

Имате история, инструмент, тенденция или въпрос, свързани с ИИ, които смятате, че трябва да обхванем? Изпратете ни вашата идея за статия — ще се радваме да я чуем.

Изводът е, че AI PC е реална архитектурна промяна, но в момента е в начален етап. За повечето хора ползите днес се ограничават до по-добри видеоразговори и малко по-бърза обработка на снимки. Истинската стойност ще се появи през следващите две години, тъй като операционните системи интегрират локалното извеждане (inference) във всеки ъгъл на потребителския интерфейс. Не трябва да бързате да сменяте работещ лаптоп само за да получите стикер NPU. Въпреки това, когато в крайна сметка надградите, наличието на специализиран AI чип ще бъде задължително за добро изживяване. Индустрията се отдалечава от облака за ежедневни задачи. Това ще доведе до лаптопи, които са по-лични, по-ефективни и по-способни да се справят със сложна работа без интернет връзка. Това е завръщане към идеята за персоналния компютър като самостоятелна мощна машина. Маркетингът може да е шумен, но основната технология е необходима стъпка за следващото десетилетие на компютърните технологии.

Бележка на редактора: Създадохме този сайт като многоезичен център за новини и ръководства за изкуствен интелект за хора, които не са компютърни маниаци, но все пак искат да разберат изкуствения интелект, да го използват с повече увереност и да следят бъдещето, което вече настъпва.