Mely AI eszközök túlértékeltek még tesztelés után is?

Egyre nagyobb a szakadék a vírusként terjedő tech demók és a valóban hasznos irodai eszközök között. Jelenleg abban az időszakban vagyunk, amikor a marketingosztályok csodákat ígérnek, a felhasználók viszont csak egy felturbózott automatikus kiegészítést kapnak. Sokan azt várják ezektől a rendszerektől, hogy gondolkodjanak, pedig azok csak a következő szót jósolják meg egy sorozatban. Ez a félreértés frusztrációhoz vezet, amikor egy eszköz elbukik az alapvető logikában vagy tényeket talál ki. Ha olyan eszközre van szükséged, amely százszázalékosan megbízható emberi felügyelet nélkül, akkor a generatív asszisztensek jelenlegi hullámát teljesen figyelmen kívül kell hagynod. Ezek nem állnak készen a nagy téttel bíró környezetekre, ahol a pontosság az egyetlen mérőszám. Azonban, ha a munkád ötletelésből vagy vázlatkészítésből áll, akkor a zaj alatt bizony akad némi hasznosítható érték. A lényeg, hogy túlértékeljük ezeknek az eszközöknek az intelligenciáját, miközben alábecsüljük azt a munkát, ami a használhatóvá tételükhöz szükséges. A közösségi médiában látottak nagy része egy gondosan összeállított előadás, amely egy átlagos negyvenórás munkahét nyomása alatt összeomlik.

Predikciós motorok elegáns öltönyben

Ahhoz, hogy megértsd, miért okoz csalódást olyan sok eszköz, tudnod kell, mik is azok valójában. Ezek nagy nyelvi modellek (LLM-ek). Olyan statisztikai motorok, amelyeket hatalmas emberi szövegadatbázisokon képeztek ki. Nincs fogalmuk az igazságról, az etikáról vagy a fizikai valóságról. Amikor felteszel egy kérdést, a rendszer mintákat keres a tanító adataiban, hogy olyan választ generáljon, amely hihetően hangzik. Ezért jók a versírásban, de rosszak matekban. A helyes válasz stílusát utánozzák, ahelyett, hogy elvégeznék a cél eléréséhez szükséges logikai műveleteket. Ez a megkülönböztetés az oka annak a gyakori tévhitnek, hogy az AI egy keresőmotor. A keresőmotor meglévő információkat talál meg. Az LLM valószínűségi alapon hoz létre új szövegláncokat. Ezért fordulnak elő a „hallucinációk”. A rendszer egyszerűen csak azt teszi, amire építették: beszél, amíg el nem ér egy stop tokent.

A jelenlegi piac tele van „wrapper” alkalmazásokkal. Ezek egyszerű appok, amelyek az OpenAI vagy az Anthropic API-ját használják, de egyedi felületet adnak hozzá. Sok startup egyedi technológiát ígér, de gyakran csak ugyanaz a modell más köntösben. Légy óvatos minden olyan eszközzel, amely nem magyarázza el a mögöttes architektúráját. Jelenleg három fő típust tesztelnek a vadonban:

• Szöveggenerátorok e-mailekhez és jelentésekhez, amelyek gyakran robotikusak.
• Képgenerátorok, amelyek küzdenek az olyan részletekkel, mint az emberi kezek vagy a szöveg.
• Kódolási asszisztensek, amelyek megírják a sablonokat, de nehézségeik vannak a komplex logikával.

A valóság az, hogy ezeket az eszközöket legjobb olyan gyakornokként kezelni, akik elolvasták a világ összes könyvét, de sosem éltek benne. Állandó ellenőrzést és konkrét utasításokat igényelnek ahhoz, hogy bármi értékeset alkossanak. Ha azt várod, hogy önállóan dolgozzanak, minden alkalommal csalódni fogsz.

A globális FOMO-gazdaság

Az eszközök bevezetésére irányuló nyomás nem a bizonyított hatékonyságukból fakad. A kimaradástól való globális félelem (FOMO) hajtja. A nagyvállalatok milliárdokat költenek licencekre, mert félnek, hogy a versenytársaik titkos előnyre tesznek szert. Ez egy furcsa gazdasági pillanatot teremtett, ahol az AI iránti kereslet magas, de a tényleges termelékenységnövekedés nehezen mérhető. A Gartner-csoporthoz hasonló szervezetek kutatásai szerint sok ilyen technológia jelenleg a felfokozott elvárások csúcsán jár. Ez azt jelenti, hogy elkerülhetetlen a kiábrándulás időszaka, ahogy a cégek rájönnek, hogy az emberi munkaerő helyettesítése sokkal nehezebb, mint az értékesítési szövegek sugallták. A hatás leginkább a fejlődő gazdaságokban érezhető, ahol korábban a kiszervezés volt a növekedés fő motorja. Most ezeket a feladatokat alacsony minőségű AI automatizálja, ami a tartalomminőség terén a lefelé tartó versenyhez vezet.

Változást látunk abban, hogyan értékeljük a munkát. Az alapvető e-mail megírásának képessége már nem piacképes készség. Az érték az ellenőrzés és a szerkesztés képességére tevődött át. Ez egy újfajta digitális szakadékot hoz létre. Azok, akik megengedhetik maguknak a legerősebb modelleket, és tudják, hogyan kell hatékonyan promptolni őket, előnybe kerülnek. Mindenki más az ingyenes, alacsonyabb szintű modellek használatára kényszerül, amelyek általános és gyakran helytelen kimenetet produkálnak. Ez nem csak technológiai probléma. Ez egy gazdasági váltás, amely befolyásolja, hogyan képezzük a jövő munkavállalóit. Ha túlságosan támaszkodunk ezekre a rendszerekre a belépő szintű feladatoknál, elveszíthetjük azt az emberi szakértelmet, amely a jövőbeli rendszerek felügyeletéhez szükséges. A legújabb AI teljesítmény-benchmarkok a [Insert Your AI Magazine Domain Here] oldalon azt mutatják, hogy bár a modellek egyre nagyobbak, a gondolkodási képesség javulásának üteme lassul. Ez arra utal, hogy elérhetjük a határainkat a gépi tanulás jelenlegi megközelítésével.

Egy kedd a gép javítgatásával

Gondolj Sarah tapasztalatára, aki egy közepes méretű cégnél projektmenedzser. A napját azzal kezdi, hogy megkéri az AI asszisztensét, foglalja össze az előző éjszakai hosszú e-mail-láncot. Az eszköz tiszta listát ad a pontokról. Tökéletesnek tűnik, amíg rá nem jön, hogy teljesen kihagyta a harmadik e-mailben említett határidő-módosítást. Ez az AI rejtett költsége. Sarah öt percet spórolt az olvasáson, de tíz percet töltött az összefoglaló ellenőrzésével, mert már nem bízik az eszközben. Később megpróbál egy AI képgenerátort használni egy prezentációhoz szükséges egyszerű diagram elkészítéséhez. Az eszköz gyönyörű grafikát ad, de a tengelyeken lévő számok értelmetlenek. Végül egy órát tölt egy hagyományos tervezőprogramban, hogy kijavítsa azt, aminek tíz másodperces feladatnak kellett volna lennie. Ez sok munkavállaló mindennapi valósága. Az eszközök előnyt adnak, de gyakran rossz irányba terelnek.

A probléma az, hogy ezeket az eszközöket úgy tervezték, hogy magabiztosak legyenek, ne pedig pontosak. Ugyanolyan tekintélyelvű hangnemben adnak rossz választ, mint egy helyeset. Ez mentális adót ró a felhasználóra. Soha nem lazíthatsz igazán, miközben használod őket. Egy író számára az AI használata az első vázlat elkészítéséhez gyakran olyan, mintha valaki más rendetlenségét takarítaná el. Gyakran gyorsabb a semmiből megírni a szöveget, mint eltávolítani a kliséket és az ismétlődő megfogalmazásokat, amelyeket ezek a modellek kedvelnek.

Ez a tartalom mesterséges intelligencia segítségével készült a szerkezeti konzisztencia biztosítása érdekében. Ez paradoxont teremt. Az eszközöknek időt kellene megtakarítaniuk, de gyakran csak megváltoztatják a munka típusát. Alkotókból a szintetikus adatok takarítóivá válunk. Azok az eszközök működnek igazán, amelyek a saját területükön maradnak. Egy helyesírás-ellenőrző, amely kijavít egy elírást, hasznos. Egy eszköz, amely megpróbálja megírni az egész szakdolgozatodat, teher. Az emberek hajlamosak túlbecsülni ezeknek a rendszereknek a kreatív potenciálját, miközben alábecsülik a képességüket arra, hogy kifinomult irattárként működjenek az emberi tudás számára.

Nehéz kérdések a vezetőségnek

Ahogy ezeket a rendszereket mélyebben integráljuk az életünkbe, fel kell tennünk a kérdést a rejtett költségekről. Mi történik a magánéletünkkel, amikor minden beírt promptot a modell következő verziójának tanítására használnak? A legtöbb cégnek nincs világos szabályzata az adatmegőrzésre. Ha egy bizalmas stratégiai dokumentumot betáplálsz egy nyilvános LLM-be, az információ elméletileg felbukkanhat egy versenytárs lekérdezésében. Ott van a környezeti költség is. Ezeknek a modelleknek a tanítása és futtatása hatalmas mennyiségű villamos energiát és vizet igényel az adatközpontok hűtéséhez. A Nature egyik tanulmánya kiemeli, hogy egyetlen nagy modell-lekérdezés szénlábnyoma jelentősen magasabb, mint egy hagyományos keresőmotoré. Megéri a generált e-mail kényelme az ökológiai hatást? Figyelembe kell vennünk a szerzői jogi vonatkozásokat is. Ezeket a modelleket művészek és írók millióinak munkáján képezték ki, az ő beleegyezésük nélkül. Lényegében egy olyan gépet használunk, amely lopott munkára épült.

Ott van az emberi intuíció kérdése is. Ha kiszervezzük a gondolkodásunkat a gépeknek, elveszítjük a képességet a hibák észlelésére? Már most látjuk a webes tartalom minőségének romlását, ahogy az AI által generált cikkek elárasztják az internetet. Ez egy visszacsatolási hurkot hoz létre, ahol a modelleket más modellek kimenetén tanítják, ami az információ degradációjához, az úgynevezett modell-összeomláshoz vezet. Ha az internet az újrahasznosított AI-szövegek tengerévé válik, honnan jönnek az új ötletek? Ezek nem csak technikai akadályok. Ezek alapvető kérdések arról, milyen világot akarunk építeni. Jelenleg a sebességet és a mennyiséget helyezzük előtérbe a pontossággal és az eredetiséggel szemben. Ez működhet néhány évig, de a kollektív intelligenciánkra gyakorolt hosszú távú hatások súlyosak lehetnek. Döntenünk kell, hogy olyan eszközöket akarunk-e, amelyek segítenek gondolkodni, vagy olyanokat, amelyek gondolkodnak helyettünk.

Technikai korlátok a haladó felhasználóknak

Azok számára, akik túl akarnak lépni az alapvető chat-felületen, a korlátok még nyilvánvalóbbá válnak. A haladó felhasználók gyakran munkafolyamat-integrációkat és API-hozzáférést keresnek egyedi megoldások építéséhez. Azonban hamar falba ütköznek a kontextusablakok és a token-korlátok miatt. A kontextusablak az az információmennyiség, amelyet a modell egyetlen beszélgetés során „megjegyez”. Bár egyes modellek azt állítják, hogy egész könyveket képesek kezelni, a felidézés pontossága jelentősen csökken a szöveg közepén. Ezt „középen elveszett” jelenségnek nevezik. Ha automatizált rendszert építesz, a sebességkorlátokkal is meg kell küzdened. A legtöbb szolgáltató korlátozza a percenkénti lekérések számát, ami megnehezíti egy eszköz skálázását nagy felhasználói bázis számára jelentős költségek nélkül. Az árazás is ingadozó, ahogy a cégek próbálják kitalálni, hogyan tegyék nyereségessé ezeket a drága rendszereket.

Van egy AI-történet, eszköz, trend vagy kérdés, amiről úgy gondolja, hogy foglalkoznunk kellene vele? Küldje el nekünk cikkötletét — szívesen meghallgatnánk.

A helyi tárolás és a helyi következtetés (inference) a magánéletre érzékeny geekek kedvelt útjává válik. Az olyan eszközök, mint az Ollama vagy az LM Studio, lehetővé teszik, hogy saját hardveren futtasd a modelleket. Ez megoldja a magánélet problémáját, de hardveres szűk keresztmetszetet vezet be. A minőségi modell helyi futtatásához erős GPU szükséges, sok VRAM-mal. A legtöbb fogyasztói laptop küzdeni fog, ha 7 milliárd paraméternél nagyobb modellt próbál futtatni használható sebességgel. Vannak szoftveres kihívások is. A modellek integrálása egy meglévő munkafolyamatba általában Python vagy hasonló nyelv ismeretét igényli. Kezelned kell a rendszer-promptokat, a hőmérséklet-beállításokat és a top-p mintavételezést a konzisztens eredményekhez. A következő tényezők kritikusak mindenki számára, aki professzionális AI munkafolyamatot próbál építeni:

• A VRAM-kapacitás az elsődleges korlát a helyi modellek futtatásánál.
• A késleltetés nő, ahogy a modell mérete vagy a prompt hossza nő.
• A rendszer-promptokat gondosan kell megtervezni, hogy a modell ne térjen el a feladattól.

Még a legjobb hardverrel is egy olyan rendszerrel dolgozol, amely eredendően kiszámíthatatlan. Kétszer küldheted el ugyanazt a promptot, és két különböző eredményt kaphatsz. A determinizmus hiánya rémálom a hagyományos szoftverfejlesztés számára. Az MIT Technology Review jelentése szerint az iparág még mindig keresi a módját, hogyan tegye az LLM-eket következetesen megbízhatóvá a kritikus feladatokhoz. Amíg ez nem történik meg, hobbieszközök vagy másodlagos asszisztensek maradnak, nem pedig elsődleges munkaeszközök.

A végső ítélet a zajról

Az AI jelenlegi állapota a valódi potenciál és a szélsőséges túlzások keveréke. Vannak eszközeink, amelyek hihetetlenül jók a szövegek összefoglalásában, nyelvek fordításában és alapvető kód írásában. Ugyanakkor hatalmas mennyiségű hype is övezi őket, ami azt sugallja, hogy ezek az eszközök a küszöbön állnak az öntudatra ébredésnek vagy az összes emberi munkaerő helyettesítésének. Az igazság valahol a kettő között van. Ha kiindulópontként használod ezeket az eszközöket, hasznosak lehetnek. Ha végtermékként használod őket, bajt kérsz magadra. A nyitott kérdés az, hogy valaha megoldjuk-e a hallucináció problémáját. Egyes szakértők szerint ez a modellek működésének velejárója, mások szerint több adat és jobb tanítás megoldja majd. Amíg ez nem dől el, a legjobb megközelítés az óvatos szkepticizmus. Használd azokat az eszközöket, amelyek ma megoldanak egy konkrét problémát, és hagyd figyelmen kívül az ígéreteket arról, mit tehetnek majd holnap. A munkafolyamatod legfontosabb eszköze továbbra is a saját ítélőképességed.

A szerkesztő megjegyzése: Ezt az oldalt többnyelvű AI hírek és útmutatók központjaként hoztuk létre olyan emberek számára, akik nem számítógépes zsenik, de mégis szeretnék megérteni a mesterséges intelligenciát, magabiztosabban használni, és követni a már megérkező jövőt.

Hibát talált, vagy valami javításra szorul? Tudassa velünk.