MI-filozófia azoknak, akik utálják a filozófiát

A gyakorlati választás

A legtöbben úgy kezelik a mesterséges intelligencia filozófiáját, mint egy vitát arról, hogy a robotoknak van-e lelkük. Ez hiba, ami csak időpocsékolás, és elfedi a valódi kockázatokat. A szakmai világban az ilyen technológiák filozófiája valójában a felelősségről, a pontosságról és az emberi munkaerő költségeiről szól. Arról, ki a felelős, ha egy modell olyan hibát vét, ami milliókba kerül egy cégnek. Arról, hogy egy kreatív munkavállalóé-e az a stílus, amit évtizedek alatt tökéletesített. Már nem azon gondolkodunk, tudnak-e a gépek gondolkodni. Most abban a korszakban vagyunk, amikor eldöntjük, mennyire bízunk meg bennük, hogy helyettünk cselekedjenek. Az iparági váltás a vicces chat botoktól az olyan ágensek felé mozdult el, amelyek repülőjegyet foglalnak és kódot írnak. Ez a változás arra kényszerít minket, hogy a bizalom mechanikájával foglalkozzunk, ne a tudat rejtélyével. Ha utálod a filozófiát, tekints rá úgy, mint egy sor szerződéses tárgyalásra. Olyan alkalmazottnak fekteted le a feltételeit, aki sosem alszik, de gyakran hallucinál. A cél egy olyan keretrendszer kiépítése, ahol a sebesség előnyei nem haladják meg a teljes rendszerösszeomlás kockázatát.

A gépi logika mechanikája

Ahhoz, hogy megértsd az iparág jelenlegi helyzetét, figyelmen kívül kell hagynod a marketing kifejezéseket. A nagy nyelvi modell (LLM) nem agy. Ez egy hatalmas statisztikai térkép az emberi nyelvről. Amikor beírsz egy promptot, a rendszer nem gondolkodik a kérdéseden. Azt számolja ki, melyik szó következik a legvalószínűbben az előző után, trilliónyi példa alapján. Ezért olyan jók a rendszerek költészetben, de olyan rosszak alap matekban. Értik a mintákat, ahogy az emberek a számokról beszélnek, de magát a számok logikáját nem értik. Ez a különbség létfontosságú mindenkinek, aki üzleti környezetben használja ezeket az eszközöket. Ha a kimenetet ténybeli rekordként kezeled, rosszul használod az eszközt. Ez egy kreatív szintetizátor, nem adatbázis. A zavar gyakran abból fakad, milyen jól utánozzák ezek a modellek az emberi empátiát. Kedvesnek, frusztráltnak vagy segítőkésznek tűnhetnek, de ezek csak nyelvi tükrök. A betanított adatok tónusát tükrözik vissza.

A közelmúltbeli váltás a modellek valós adatokhoz való rögzítéséről szól. Ahelyett, hogy a modell kitalálná a választ, a cégek most a saját belső fájljaikhoz csatlakoztatják őket. Ez csökkenti a tévedések esélyét. Ez megváltoztatja a beszélgetés tétjét is. Már nem azt kérdezzük, mit tud a modell. Azt kérdezzük, hogyan éri el a modell azt, amit mi tudunk. Ez elmozdulás a generatív művészettől a funkcionális hasznosság felé. A filozófia itt egyszerű. Különbség a mesemondó és az irattáros között. A legtöbb felhasználó az irattárost akarja, de a technológiát mesemondónak építették. E két identitás összeegyeztetése a fejlesztők elsődleges kihívása ma. El kell döntened, kreatív vagy pontos eszközt akarsz-e, mert jelenleg nehéz mindkettőt maximális szinten elérni.

Globális tétek és nemzeti érdekek

E döntések hatása nem korlátozódik az irodákra. A kormányok nemzetbiztonsági kérdésként kezelik e modellek fejlesztését. Az Egyesült Államokban az elnöki rendeletek a leghatékonyabb rendszerek biztonságára összpontosítanak. Európában az AI Act létrehozott egy jogi keretet, amely kockázat szerint kategorizálja a rendszereket. Ez olyan helyzetet teremt, ahol egy kaliforniai fejlesztő filozófiája befolyásolhatja egy termék jogszerűségét Berlinben. Egy széttagolt világot látunk, ahol a különböző régióknak nagyon eltérő elképzeléseik vannak arról, mit szabad tennie egy gépnek. Egyes nemzetek a technológiát a gazdasági teljesítmény növelésének eszközének tekintik bármi áron. Mások a társadalmi szövetre és a munkaerőpiacra leselkedő veszélyt látják benne. Ez minden piacra külön szabályrendszert hoz létre, megnehezítve a kis cégek versenyét az óriásokkal, akik megengedhetik maguknak a nagy jogi csapatokat.

A technológia globális ellátási lánca szintén feszültségi pont. A modellek futtatásához szükséges hardver kevés kézben összpontosul. Ez újfajta hatalmi dinamikát teremt a chipeket tervező, gyártó és az adatokat szolgáltató országok között. Az átlagfelhasználó számára ez azt jelenti, hogy az eszközök, amelyekre támaszkodik, kereskedelmi háborúk vagy exportkorlátozások áldozatai lehetnek. Az MI filozófiája most az állami szuverenitás filozófiájához kötődik. Ha egy ország külföldi modellre támaszkodik az egészségügyében vagy jogrendszerében, elveszíti az irányítást saját infrastruktúrája felett. Ezért látunk törekvést a helyi modellekre és a szuverén felhőkre. A cél annak biztosítása, hogy a nemzetet irányító logikát ne egy bolygónk túlsó felén lévő vállalat birtokolja. Ez a vita gyakorlati oldala, ami gyakran elveszik a sci-fi forgatókönyvekről szóló beszélgetésekben.

Egy reggel szintetikus intelligenciával

Vegyünk egy átlagos napot Sarah marketingmenedzser életében. Reggel azzal kezdi, hogy megkér egy asszisztenst, foglaljon össze három tucat e-mailt. Az asszisztens másodpercek alatt megteszi, de Sarah-nak ellenőriznie kell, nem maradt-e ki egy fontos részlet a költségvetési megszorításokról. Később egy generatív eszközt használ képek készítésére egy új kampányhoz. Egy órát tölt a prompt finomhangolásával, mert a gép folyamatosan hat ujjal rajzolja az embereket. Délután egy kódoló asszisztenst használ egy hiba javítására a céges weboldalon, bár ő maga nem tud programozni. Lényegében egy digitális zenekar karmestere. Nem ő végzi a fizikai munkát, de ő felel a végső előadásért. Ez a munka új valósága. Inkább a szerkesztésről és az ellenőrzésről szól, mint a nulláról való alkotásról. Sarah produktívabb, de fáradtabb is. A gépi hibák folyamatos ellenőrzésének mentális terhe más, mint a munka elvégzésének terhe

Sarah cégének ösztönzői is megváltoztak. Már nem vesznek fel kezdő írókat. Egy vezető szerkesztőt alkalmaznak, aki három különböző modellt használ ugyanannyi tartalom előállítására. Ez rövid távon pénzt takarít meg, de hosszú távú problémát okoz. Honnan kerülnek ki a következő generáció vezető szerkesztői, ha senki sem végzi el a kezdő munkát? Ez a hatékonyság jelenlegi logikájának következménye. A jelenre optimalizálunk, miközben potenciálisan kiüresítjük a jövőt. Az alkotók számára még nagyobb a tét. Zenészek és illusztrátorok látják, hogy munkájukat pont azoknak a modelleknek a betanítására használják, amelyek most a munkahelyeikért versenyeznek velük. Ez nemcsak piaci változás. Ez az emberi erőfeszítés értékének változása. Fel kell tennünk a kérdést, vajon az eredményt értékeljük-e többre a folyamatnál, és mi történik a kultúránkkal, ha a folyamat egy fekete dobozba van rejtve.

• A cégvezetőknek el kell dönteniük, a sebességet vagy az eredeti gondolatot értékelik-e.
• Az alkalmazottaknak meg kell tanulniuk a gépi kimenet auditálását mint alapvető készséget.
• A törvényhozóknak egyensúlyt kell teremteniük az innováció és a munkaerő védelme között.
• Az alkotóknak bizonyítaniuk kell, hogy munkájuk emberi, hogy megőrizzék annak értékét.
• Az oktatóknak újra kell gondolniuk az osztályozást, amikor a válaszok egy kattintásra vannak.

Az automatizálás rejtett költségei

Gyakran beszélünk a technológia előnyeiről a számla említése nélkül. Az első költség a magánszféra. Ahhoz, hogy ezek a modellek hasznosabbak legyenek, több adatot kell adnunk nekik. Arra bátorítanak minket, hogy tápláljuk be személyes időbeosztásunkat, privát jegyzeteinket és vállalati titkainkat ezekbe a rendszerekbe a jobb eredményekért. De hová kerülnek ezek az adatok? A legtöbb cég azt állítja, nem használja fel az ügyféladatokat a modellek betanítására, de az internet története azt mutatja, hogy a szabályzatok változhatnak. Ha az adataid bekerültek a rendszerbe, szinte lehetetlen kivenni őket. Ez a magánszféra tartós cseréje a kényelemért. Az energiafogyasztás hatalmas növekedését is látjuk. Egyetlen nagy modell betanítása annyi áramot igényel, amennyi ezer háztartást látna el egy évig. Ahogy komplexebb rendszerek felé haladunk, a környezeti költség csak nőni fog. Meg kell kérdeznünk, megéri-e egy vicces macskás kép generálása azt a szénlábnyomot, amit okoz.

Ott van az igazság ára is. Ahogy egyre könnyebb valósághű szövegeket és képeket generálni, a bizonyítékok értéke csökken. Ha bármi meghamisítható, akkor semmi sem bizonyítható. Ez már hatással van politikai rendszereinkre és bíróságainkra. Olyan időszakba lépünk, ahol az alapértelmezett feltételezés az, hogy amit a képernyőn látunk, az hazugság. Ez magas szintű társadalmi súrlódást okoz. Nehezebb megegyezni az alapvető tényekben. Az MI filozófiája itt a közös valóság eróziójáról szól. Ha mindenki a világ egy olyan verzióját látja, amit egy algoritmus szűrt és módosított, elveszítjük a hatékony kommunikáció képességét ezeken a szakadékokon át. Egy stabil társadalmi alapot cserélünk egy személyre szabottabb és szórakoztatóbb élményre. Ezt a választást minden alkalommal meghozzuk, amikor ezeket az eszközöket használjuk anélkül, hogy megkérdőjeleznénk forrásukat vagy szándékukat.

Van egy AI-történet, eszköz, trend vagy kérdés, amiről úgy gondolja, hogy foglalkoznunk kellene vele? Küldje el nekünk cikkötletét — szívesen meghallgatnánk.

Technikai korlátok és helyi rendszerek

A haladó felhasználók számára a beszélgetés többről szól, mint etikáról. A hardver és szoftver korlátairól van szó. Az egyik legnagyobb akadály a kontextusablak. Ez az az információmennyiség, amit egy modell egyszerre képes aktív memóriájában tartani. Bár ezek az ablakok nőnek, még mindig korlátozottak. Ha egy ezeroldalas könyvet táplálsz be egy modellnek, mire a végére ér, elkezdi elfelejteni az elejét. Ez következetlenségekhez vezet hosszú projekteknél. Ott van az API-korlátok és a késleltetés kérdése is. Ha vállalkozásod egy harmadik féltől származó modellre támaszkodik, ki vagy szolgáltatva az üzemidejüknek és árazásuknak. A szolgáltatási feltételek hirtelen változása tönkreteheti a teljes munkafolyamatodat. Ezért sok haladó felhasználó a helyi tárolás és futtatás felé mozdul. Kisebb modelleket futtatnak saját hardverükön az irányítás és a sebesség megőrzése érdekében.

A munkafolyamat-integráció a következő nagy kihívás. Nem elég egy chat ablak egy weboldalon. A valódi érték abból fakad, ha ezeket a modelleket összekötjük meglévő eszközökkel, mint a táblázatok, adatbázisok és projektmenedzsment szoftverek. Ez mély megértést igényel az adatok strukturálásáról, hogy a modell értelmezni tudja azokat. Látjuk a RAG, azaz a Retrieval-Augmented Generation felemelkedését. Ez egy módszer, ahol a modell egy megbízható forrásból keres ki konkrét információt, mielőtt válaszolna. Ez egy módja annak, hogy áthidaljuk a szakadékot a modell statisztikai jellege és a felhasználó ténybeli igényei között. Ez azonban növeli a rendszer komplexitását. Egyszerre kell kezelned a keresőt, az adatbázist és a modellt. Ez egy nagy karbantartási igényű megoldás, ami speciális készségeket igényel a hatékony kezeléshez.

• A kvantálás lehetővé teszi, hogy nagy modellek fogyasztói hardveren fussanak a súlyok pontosságának csökkentésével.
• A finomhangolás (fine-tuning) egyre kevésbé népszerű, mivel a RAG jobb ténybeli pontosságot biztosít kevesebb erőfeszítéssel.
• A tokenizáció rejtett költség marad, ami bizonyos nyelveket drágábbá tehet a feldolgozás során.
• A helyi futtatás az egyetlen módja az érzékeny vállalati adatok 100 százalékos védelmének.
• A modell-desztilláció kisebb, gyorsabb verziókat hoz létre az óriási modellekből mobil használatra.

A gyakorlati út előre

Az MI filozófiája nem elterelés a munkától. Ez maga a munka. Minden alkalommal, amikor modellt választasz, döntést hozol arról, milyen logika uralja az életedet. Eldöntöd, mely kockázatok elfogadhatók és mely költségek túl magasak. A technológia gyorsan változik, de az emberi igények ugyanazok maradnak. Olyan eszközöket akarunk, amik jobbá tesznek minket, nem olyanokat, amik helyettesítenek. Olyan rendszereket akarunk, amik átláthatók, nem olyanokat, amik a sötétben működnek. A téma körüli zavar gyakran szándékos. A cégeknek könnyebb egy varázsdobozt eladni, mint egy komplex statisztikai eszközt. A sallangok lefejtésével és az ösztönzőkre összpontosítva láthatod, mi is ez a technológia valójában. Ez egy erőteljes, hibás és mélyen emberi alkotás. Tükrözi legjobb ötleteinket és legrosszabb szokásainkat. A cél az, hogy nyitott szemmel használd, megértve a kompromisszumokat, amiket minden interakcióban megkötsz. Többet megtudhatsz a gépi tanulás legújabb trendjeiről, hogy lépéselőnyben maradj. A rendszerek etikájáról szóló mélyebb betekintésért olyan források, mint a Stanford Institute for Human-Centered AI és az MIT Technology Review kiváló adatokat nyújtanak. A jogi változásokat a New York Times technológiai rovatában is nyomon követheted.

A szerkesztő megjegyzése: Ezt az oldalt többnyelvű AI hírek és útmutatók központjaként hoztuk létre olyan emberek számára, akik nem számítógépes zsenik, de mégis szeretnék megérteni a mesterséges intelligenciát, magabiztosabban használni, és követni a már megérkező jövőt.