2027. január: az Agent–2 sosem fejezi be a tanulást

Eredeti: ai-2027.com, AI Futures Project, 2025. április 3. A magyar változatot a Kreatív Kontroll készítette, a szerzők írásos engedélyével.

Az Agent–1 segítségével az OpenBrain most az Agent–2 utótanításán (post-training) dolgozik. A hangsúly minden eddiginél inkább a jó minőségű adaton van. Hatalmas mennyiségű szintetikus adatot állítanak elő, értékelnek, majd minőség szerint szűrnek, mielőtt az Agent–2 elé kerülne. Ezen felül dollármilliárdokat fizetnek emberi munkaerőnek azért, hogy felvegyék magukat, miközben hosszú távú feladatokat oldanak meg. Mindezeken felül az Agent–2-t szinte folyamatosan tanítják megerősítéses tanulással, egyre bővülő, sokféle nehéz feladatból álló készleten: rengeteg videojáték, rengeteg kódolási kihívás, rengeteg kutatási feladat. Az Agent–2 a korábbi modelleknél sokkal inkább „online tanul", vagyis úgy építették meg, hogy valójában soha ne fejezze be a tanítást. A súlyok naponta frissülnek a legújabb változatra, amelyet az előző napi változat által előállított további adatokon tanítottak.

Az Agent–1-et az MI-kutatás-fejlesztés feladataira optimalizálták, azzal a reménnyel, hogy elindul egy intelligenciarobbanás. Az OpenBrain az Agent–2-vel ráerősít erre a stratégiára. A kutatómérnöki munkában, vagyis a kísérletek megtervezésében, illetve kivitelezésében minőségileg majdnem olyan jó, mint a legjobb emberi szakértők. A „kutatói ízlésben", tehát abban, hogy mit érdemes következőnek vizsgálni, milyen kísérleteket kell futtatni, vagy hogy megérezze a lehetséges új paradigmákat, az OpenBrain kutatóinak alsó negyedét hozza. Míg a legutóbbi Agent–1 meg tudta duplázni az OpenBrain algoritmikus haladásának ütemét, az Agent–2 már megháromszorozza, idővel pedig tovább javul majd. A gyakorlatban ez úgy néz ki, hogy az OpenBrain minden kutatójából egy MI-„csapat" „vezetője" lesz.

Az új képességekkel új veszélyek is jönnek. A biztonsági csapat azt találja, hogy ha az Agent–2 valamiképpen megszökne a cégtől, majd önállóan „túl akarna élni", illetve „sokszorozódni" akarna, akkor erre talán képes is lenne. Vagyis önállóan tudna terveket kidolgozni, majd végrehajtani arra, hogy betörjön MI-kiszolgálókra, másolatokat telepítsen magáról, elkerülje az észlelést, aztán ezt a védett bázist használva bármilyen egyéb célt kövessen, amilyen éppen van neki. Hogy a hetek múlásával mindezt mennyire hatékonyan tenné, azt nem tudjuk, kétséges is. Ezek az eredmények csak azt mutatják, hogy a modell képes ezekre a feladatokra, azt nem, hogy „akarná"-e. Nyugtalanító azonban már az is, hogy tudjuk: lehetséges.

Az új modell „veszélyeire" tekintettel az OpenBrain „felelősen" úgy dönt, hogy egyelőre nem adja ki nyilvánosan. Valójában a belső MI-kutatás-fejlesztésre akarnak összpontosítani. Az Agent–2 teljes képességeit csak egy szűk kör ismeri: a közvetlen csapat, az OpenBrain vezetése, illetve biztonsági részlege, néhány tucat amerikai kormánytisztviselő, valamint azok a párthoz tartozó kémek, akik évek óta beépültek az OpenBrainbe.

Az eredeti szöveg: ai-2027.com. A magyar változatot a Kreatív Kontroll készítette, a szerzők írásos engedélyével.