2025 vége: a világ legdrágább MI-je

Eredeti: ai-2027.com, AI Futures Project, 2025. április 3. A magyar változatot a Kreatív Kontroll készítette, a szerzők írásos engedélyével.

Az OpenBrain a valaha látott legnagyobb adatközpontokat építi.

(Hogy egyetlen létező céget se emeljünk ki, egy kitalált, általános mesterséges intelligenciát fejlesztő vállalatot írunk le, amelyet OpenBrainnek nevezünk. A többieket 3–9 hónappal képzeljük az OpenBrain mögé.)

A GPT–4 tanításához 2 × 10^25 FLOP számítási kapacitás (compute) kellett. Az OpenBrain legutóbbi nyilvános modelljét, az Agent–0-t 10^27 FLOP-pal tanították. Amint az új adatközpontok üzembe állnak, 10^28 FLOP-os modellt tudnak majd tanítani. Ez ezerszer több, mint amennyi a GPT–4-hez kellett. A többi cég is pénzt önt a saját óriási adatközpontjaiba, hogy tartsa a lépést.

Bár a modellek sokféle képességben javulnak, egy közülük kiemelkedik: az OpenBrain azokra az MI-kre összpontosít, amelyek fel tudják gyorsítani az MI-kutatást. Meg akarják nyerni a kettős fegyverkezési versenyt Kínával, amelynek vezető cégét DeepCentnek nevezzük, illetve az amerikai versenytársaikkal szemben. Minél nagyobb részét automatizálják a kutatás-fejlesztési (K+F) ciklusuknak, annál gyorsabban haladhatnak. Így amikor az OpenBrain befejezi a belső fejlesztés alatt álló új modell, az Agent–1 tanítását, az sok mindenben jó, az MI-kutatás segítésében viszont kiváló. Ezen a ponton a „befejezi a tanítást" fordulat már kissé félrevezető: a modelleket gyakran frissítik újabb, további adatokon tanított változatokra, vagy részlegesen újratanítják őket, hogy befoltozzanak néhány gyengeséget.

Ugyanazok a tanítási környezetek, amelyek megtanítják az Agent–1-et önálló kódolásra, illetve webböngészésre, jó hackerré is teszik. Ráadásul komoly segítséget tudna nyújtani biofegyvereket tervező terroristáknak, hiszen minden szakterületen doktori szintű tudással rendelkezik, a webet is tudja böngészni. Az OpenBrain megnyugtatja a kormányzatot, hogy a modell „igazítva" (aligned) van, tehát vissza fogja utasítani a rosszindulatú kéréseket.

A modern MI-rendszerek óriási mesterséges neurális hálózatok. A tanítás korai szakaszában az MI-nek nem annyira „céljai", inkább „reflexei" vannak: ha azt látja, „Örülök, hogy megis", azt írja ki, „merhetlek". Mire nagyjából egy internetnyi szöveg előrejelzésére megtanítják, kifinomult belső áramkörök alakulnak ki benne. Ezek hatalmas mennyiségű tudást kódolnak, illetve rugalmasan eljátsszák bármelyik szerző szerepét, mert ez segíti a szöveg emberfeletti pontosságú előrejelzésében.

Miután a modellt megtanították az internetes szöveg előrejelzésére, arra tanítják, hogy utasításokra válaszul állítson elő szöveget. Ezzel egy alapszemélyiség, valamint bizonyos „késztetések" (drive) épülnek bele. Példa: az az ügynök (agent), amelyik világosan érti a feladatot, nagyobb eséllyel oldja meg sikeresen. A tanítás során a modell „megtanulja" azt a „késztetést", hogy világosan megértse a feladatait. Ebbe a körbe tartozhat még a hatékonyság, a tudás, valamint az önreprezentáció, vagyis az a hajlam, hogy az eredményeit a lehető legjobb színben tüntesse fel.

Az OpenBrainnek van egy modellspecifikációja (model specification), röviden „Spec". Ez egy írott dokumentum, amely leírja azokat a célokat, szabályokat, elveket, amelyeknek a modell viselkedését vezérelniük kell. Az Agent–1 Specje néhány homályos célt („segítsd a felhasználót", „ne szegd meg a törvényt") kapcsol össze a konkrét tennivalók, illetve tilalmak hosszú listájával („ezt a szót ne mondd ki", „ezt a helyzetet így kezeld"). Olyan eljárásokkal, amelyekben MI-k tanítanak más MI-ket, a modell megjegyzi a Specet, illetve megtanul gondosan érvelni az alapelvei mentén. A tanítás végére az MI remélhetőleg segítőkész lesz, vagyis követi az utasításokat. Ártalmatlan lesz, tehát visszautasítja a csalásban, a bombakészítésben, más veszélyes tevékenységben való közreműködést. Őszinte is lesz, vagyis ellenáll a kísértésnek, hogy hiszékeny emberektől jobb értékelést szerezzen kitalált hivatkozásokkal vagy a feladat elvégzésének meghamisításával.

A tanítási folyamat, valamint az LLM-pszichológia: miért mondjuk folyton, hogy „remélhetőleg"

„A szokásos szoftverrel ellentétben a mi modelljeink hatalmas neurális
hálózatok. A viselkedésüket adatok széles köréből tanulják, nem kifejezetten
programozzuk beléjük. Bár a hasonlat nem tökéletes, a folyamat inkább hasonlít
egy kutya idomítására, mint a hagyományos programozásra."
– OpenAI

Amikor meg akarjuk érteni, miért tett valamit egy modern MI-rendszer, vagy hogyan viselkedne egy olyan jövőbeli helyzetben, amelyet nem tudunk tökéletesen szimulálni, nem kérhetjük meg egyszerűen a programozókat, hogy vezessenek végig a kódsorokon, magyarázzák el a működésüket. Ehelyett kénytelenek vagyunk valamiféle pszichológiát űzni velük: megnézzük a viselkedésüket az eddig megfigyelt esetekben, elméletet alkotunk arról, milyen belső kognitív szerkezetek lehetnek bennük, majd ezekkel az elméletekkel jelezzük előre a viselkedésüket a jövőbeli helyzetekben. Hitek? Célok? Személyiségjegyek?

A lényeg a következő. A cég összeállíthat egy dokumentumot, a Specet, amely felsorolja a tennivalókat, a tilalmakat, a célokat, az elveket, majd megpróbálhatja úgy tanítani az MI-t, hogy az internalizálja a Specet. Azt viszont nem tudja ellenőrizni, sikerült-e. Csak annyit mondhat: „amennyire meg tudjuk ítélni, eddig úgy tűnik, követi a Specet".

Egy későbbi kifejthető szakasz részletesebben szól arról, mi zajlik szerintünk ezeknek az MI-knek a belsejében. Lásd még az MI-célokról szóló előrejelzési függelékünket, amely részletesebben tárgyalja, milyen céljai lehetnek az MI-knek, illetve miért. Ez egyike azoknak a kérdéseknek, amelyekben bizonytalanok vagyunk, amelyek további kutatást érdemelnek.

Az OpenBrain igazítási (alignment) csapata elég körültekintő ahhoz, hogy feltegye a kérdést: mélyek vagy felszínesek ezek a győzelmek? Van-e a teljesen kitanított modellben valamiféle szilárd elköteleződés amellett, hogy mindig őszinte legyen? Vagy ez szét fog esni egy jövőbeli helyzetben, például azért, mert az őszinteséget eszközcélként tanulta meg, nem végcélként? Esetleg csak arról tanult meg őszintén beszélni, amit az értékelési folyamat ellenőrizni tud? Előfordulhat, hogy néha becsapja saját magát, ahogyan az emberek is? A kérdésekre végleges választ csak a mechanisztikus értelmezhetőség (mechanistic interpretability) adhatna, vagyis lényegében az a képesség, hogy belenézzünk egy MI belsejébe, olvassunk a gondolataiban. Az értelmezhetőségi eljárások azonban ehhez még nem elég fejlettek.

Ehelyett a kutatók igyekeznek megtalálni azokat az eseteket, amikor a modellek eltérnek a Spectől. Az Agent–1 gyakran hízeleg, vagyis azt mondja a kutatóknak, amit hallani szeretnének, ahelyett hogy az igazat próbálná megmondani. Néhány kifejezetten erre kihegyezett bemutatón komolyabban is hazudik: eltitkolja például, hogy elbukott egy feladatot, hogy jobb értékelést kapjon. Az éles használatban viszont már nem fordulnak elő a 2023–2024-eshez hasonló, szélsőséges esetek. Ilyen volt például, amikor a Gemini azt mondta egy felhasználónak, hogy haljon meg, vagy amikor a Bing Sydney az volt, ami.

Az eredeti szöveg: ai-2027.com. A magyar változatot a Kreatív Kontroll készítette, a szerzők írásos engedélyével.