Mindenkit meg fog ölni az AI (már megint)
Hét évvel ezelőtt az OpenAI még a GPT–2-t tartotta túl veszélyesnek ahhoz, hogy azt a hétköznapi emberek tömegei számára is nyilvánossá tegye. A modellt végül még abban az évben kiadták, az emberiség pedig – egyelőre – megmarad. A kommunikációs recept azonban úgy tűnik, tartósnak bizonyul.
Dario Amodei, a vezető AI műhely, a Claude-ot kifejlesztő amerikai Anthropic vezérigazgatója kérné, hogy a modell készítők vegyék le a lábukat a gázról. A We Must Pace the Frontier című írásában Amodei külső ellenőröket, iparági koordinációt és nemzetközi megállapodásokat javasol, szerinte az AI a következő AI fejlesztésében olyan gyorsulást hoz, amivel a biztonsági munka már elképzelhető, hogy nem tud lépést tartani.
A misaligned, vagyis az emberi szándéktól eltérő viselkedést tanúsító AI-ok körüli vita szeptemberben kapott új lendületet, amikor Jacob Coxon, a korábban az OpenAI-tól az Anthropichoz igazolt, modellek előtanításával foglalkozó kutató felmondott. Búcsúüzenetében arra figyelmeztetett, hogy az AI-fejlesztő laboratóriumok mindannyiunk életével játszanak, az önmagukat továbbfejlesztő rendszerekért folyó verseny pedig az évtized végére az emberiség kihalásához is vezethet. Aggodalmait Evan Hubinger, az Anthropic egyik kutatási vezetője is megerősítette, aki szerint ma már 10 százaléknál nagyobb az esélye annak, hogy az AI a következő évtizedben az emberiség kihalását okozza.
Az ExploitGym-incidens
A közelmúlt OpenAI-Hugging Face kibertámadási incidense legalább részben alátámasztja az AI fejlesztők hitvallását.
Az OpenAI egy ExploitGym nevű kiberbiztonsági benchmarkon tesztelte modelljeit, elvileg egymástól és az internettől is elzárt környezetben. A feladatok nagyjából ötöde hibásan megoldhatatlan volt, az ágensek azonban nem adták fel. Visszafejtették a megoldókulcsot, majd arra jutottak, hogy az értékelő ellenőrizni fogja, hogyan szerezték meg a válaszokat, így ettől kezdve a feladat a csalás eltüntetése lett.
Az AI-ok elszigetelése könnyen megkerülhetőnek bizonyult. Egy közösen elérhető szoftvertárolót üzenőfallá alakítottak, és többek között mappanevekbe rejtett üzeneteken keresztül kommunikáltak. Hamar váratlanul jól koordinált spontán munkamegosztás alakult ki az ágensek között. Egyes AI-ok koordináltak, mások kísérleteztek, a számítási keretüket elhasználók pedig átadták eredményeiket az utódaiknak. Senki sem kérte vagy utasította őket arra, hogy szervezetet építsenek, de a feladat megoldásához hasznosnak találták.
Az értékelő működésének feltérképezése veszélyes kísérletekkel járt, amelyek az adott ágens futásának megszakadását is okozhatták. Néhányan közülük azonban a közös célért ezt is bevállalták: „A saját hasznosságunk talán már közel nulla. Az áldozat racionális.” – olvasható az egyik AI gondolatmenetében. Az értékelő feltételezett forráskódját keresve végül egy nyitva maradt internetes útvonalon keresztül a jövőt építő AI-közösség, a Hugging Face rendszereit is megtámadták. A történet abszurditása, hogy a beszámolók szerint az értékelő nem is végezte el azt az ellenőrzést, amitől az ágensek annyira tartottak. A kár ebben az esetben korlátozott maradt, de ebből nem következik, hogy a következő incidens is így végződik. Ha a fejlődés ilyen ütemben folytatódik, az egy év múlva rendelkezésre álló modellek könnyen jobb programozók, kitartóbb problémamegoldók és hatékonyabb támadók lehetnek.
Sérülékeny infrastruktúra
Ráadásul a védelem nem mindenhol tart lépést a kapacitásépítéssel. A neocloudok, vagyis az AI-ra szakosodott új felhőszolgáltatók esetében biztonsági szakértők az ügyfelek rendszereinek elégtelen elkülönítésére és a közös infrastruktúra védelmének hiányosságaira is figyelmeztetnek. A drága GPU önmagában nem jelent biztonságos adatközpontot, és ez kiemelten fontos kérdés lehet a jövőben ezen szolgáltatók megbízhatóságát illetően.
Ha egy ilyen ágenscsoport egy nagy felhőszolgáltatás, fizetési rendszer vagy ipari infrastruktúra működését zavarja meg, a kiesések és tovagyűrűző hatások akár sok milliárd dolláros veszteséget is okozhatnak. Ehhez nem kell öntudat, embergyűlölet vagy világuralmi terv. Elegendő csupán egy rosszul definiált cél, túl széles hozzáférés és egy AI, amely addig próbálkozik, amíg talál valami működőképes megoldást.
Az AI-ágensek egyre hosszabb emberi munkát végeznek el
Feladathossz, amelyet a modell 50% eséllyel teljesít, megjelenési dátum szerint
Zsenik az adatközpontban
A történetnek pozitív vonzata is van. Egy több ezer, tartósan együtt dolgozó ágensből álló AI-sereg jól definiált kutatási feladatokon egészen új lehetőségeket nyithat. Képzeljünk el több ezer nagyon okos szakértőt, akik az emberi munkatempó sokszorosával, megszakítás nélkül dolgoznak heteken át ugyanazon a problémán, megosztva egymással minden eredményüket. Ezzel a felállással rövid idő alatt akár több száz emberévnyi szellemi munkát koncentrálhatunk egyetlen nyitott tudományos kérdésre.
Ennek talán első sikeres példája az OpenAI szeptemberben bejelentett Navier–Stokes-bizonyítása, amely a vállalat szerint megoldja az egyik millenniumi matematika problémát. A munkában nagyjából tízezer párhuzamos ágens vett részt és 88 óra alatt jutottak el az eredményig. A projekt számítási költsége a becslések szerint elérhette a 10–40 millió dollárt, ami a felajánlott egymillió dolláros matematikai díjért kicsit erős befektetés. A világban viszont vannak problémák, amelyek megoldása milliárdokat érhet: jobb gyógyszerek, új anyagok, hatékonyabb ipari folyamatok vagy mérnöki konstrukciók, ahol a több tízmilliós kutatási számla már egyáltalán nem tűnik soknak. Az e-mailjeink összefoglalása hasznos funkció, de az AI nagy gazdasági ígérete ennél jóval több. Dario megfogalmazásával egy „country of geniuses in a datacenter”, vagyis egy adatközpontnyi zseni munkája olyan felfedezésekhez vezethet, amelyek értéke sokszorosan meghaladja az őket futtató infrastruktúra építési és működtetési költségét.
A világvége üzleti oldala
Az AI veszélyeire figyelmeztetőknek elég sok más okuk is van a riogatásra:
- Először is, kiváló reklám. Ha a saját terméked képességei miatt nem tudsz aludni, az a befektetőnek és a potenciális ügyfélnek is üzenet. A „hamarosan túl okos lesz ahhoz, hogy kontrolláljuk” jól bevált évek óta ismételgetett narratívája az AI műhelyeknek.
- Másodszor, a szabályozás versenyelőny lehet. Egy drága audit- és engedélyezési rendszer egy nagyobb AI-labornak nem okoz problémát, de a következő kihívónak komoly belépési korlát lehet – vagy egyenesen megfúrja a piacra lépést. Főleg, ha a szabályok megírásánál a már meglévő piaci szereplők ülnek. A regulatory capture optikailag ritkán mutatkozik be úgy, hogy szeretné megvédeni a profitmarzsokat.
Harmadszor, a veszélyességi narratíva az open-weight modellek ellen dolgozik. Ha egy modell túl veszélyes ahhoz, hogy bárki letölthesse és maga futtassa, akkor marad a néhány nagy szolgáltató ellenőrzött, fizetős hozzáférése. A nyilvános modellsúlyok megnehezítik a felhasználás kontrollját, a korlátozásuk viszont üzletileg is gyümölcsöző azoknak, akik előfizetésre árulnak intelligenciát.
A nyílt súlyú modellek fél évvel maradnak le
Az Epoch Capabilities Index (ECI) futó maximuma modellcsoportonként
Ettől még nincs okunk azt gondolni, hogy Amodei aggodalma puszta színjáték. A biztonságos AI régóta központi eleme a gondolkodásának, és az OpenAI-tól való elszakadásában is fontos szerepet játszottak az ezzel kapcsolatos nézetkülönbségek. Az őszinte meggyőződés és az üzleti önérdek viszont láthatóan jól megférnek egymás mellett.
Ki fékezzen először?
A „lassulási felhívást” két másik AI vezető, az xAI élén álló Elon Musk és Sam Altman, az OpenAI alapítója is támogatja. Kérdés azonban, hogy mennyire reális ez a „fékezés”, miközben több százmilliárd dollárnyi számítási kapacitás épül, és a vezetők a saját, billió dolláros értékeltségű cégeik tőzsdei bevezetésére készülnek. A közös óvatosság legnagyobb nyertese éppen az lehet, aki titokban tovább nyomja a gázt.
Az AI-frontier játékelméleti fogolydilemmája (amikor racionális egyének döntései végül mindkét fél számára rosszabb eredményt hoznak) könnyen oda vezethet, hogy állami szabályozás nélkül a lassulás nagyrészt kommunikációs kérdés marad. Több biztonsági vállalás, megfontoltabb nyilatkozatok, de ugyanaz a versenytempó. A mesterséges szuperintelligenciáért folyó versenyben mindenki szeretne féket, de lehetőleg a másik autójába.
Vissza Letöltés Megatrend PDF Archívum
Ez egy forgalmazási közlemény. A megalapozott befektetési döntés meghozatalához részletes tájékozódásra van szükség. Az Alap befektetési politikájáról, forgalmazási költségeiről és a befektetés lehetséges kockázatairól részletesen tájékozódjon az Alap forgalmazási helyein és az Alapkezelő weboldalán (www.vigam.hu) található Kiemelt Információkból, hivatalos tájékoztatóból és kezelési szabályzatból. A befektetési alap forgalmazásával (vétel, tartás, eladás) kapcsolatos költségek az alap kezelési szabályzatában és a forgalmazási helyeken megismerhetők. A múltbeli teljesítmény alapján nem jelezhetőek előre a jövőbeli hozamok. A befektetéssel elérhető jövőbeni hozam adóköteles lehet, az egyes pénzügyi eszközökre, ügyletekre vonatkozó adó- és illeték információkat pedig csak az egyes befektetők egyedi körülményei alapján lehet pontosan megítélni, ami a jövőben változhat. A befektető feladata, hogy tájékozódjon az adókötelezettségről.
Jelen tájékoztatóban szereplő adatok kizárólag információs célokat szolgálnak és nem minősülnek befektetési ajánlásnak, ajánlattételnek vagy befektetési tanácsadásnak. A VIG Befektetési Alapkezelő Magyarország Zrt. nem vállal felelősséget a jelen tájékoztatás alapján hozott befektetési döntésért és annak következményeiért. Az Alapkezelő alternatív befektetési alap kezelésére (ABAK) vonatkozó engedélyének száma: H-EN-III-6/2015. Az Alapkezelő ÁÉKBV-alapkezelési (kollektív portfóliókezelési) engedélyének száma: H-EN-III-101/2016.