2027. június: önmagát fejlesztő MI

Eredeti: ai-2027.com, AI Futures Project, 2025. április 3. A magyar változatot a Kreatív Kontroll készítette, a szerzők írásos engedélyével.

Az OpenBrainnek mostantól „zsenik országa van egy adatközpontban".

Az OpenBrain emberi munkatársainak többsége már nem tud érdemben hozzátenni. Néhányan ezt nem ismerik fel, ezért károsan mikromenedzselik az MI-csapataikat. Mások a képernyő előtt ülve nézik, ahogy a teljesítmény kúszik felfelé, egyre feljebb. A legjobb emberi MI-kutatók még hozzáadnak értéket. Ők már nem kódolnak. A kutatói ízlésüket, illetve a tervezési képességüket viszont a modellek nehezen tudták lemásolni. Sok ötletük ennek ellenére hasznavehetetlen, mert nincs meg bennük az MI-k tudásának mélysége. Számos kutatási ötletükre az MI-k azonnal jelentéssel válaszolnak, amely elmagyarázza, hogy az ötletet három hete alaposan tesztelték, nem bizonyult ígéretesnek.

Ezek a kutatók esténként lefekszenek, reggelre pedig újabb hétnyi haladásra ébrednek, amelyet többnyire az MI-k értek el. Egyre hosszabb műszakokat dolgoznak, körbeosztva a napot, csak hogy lépést tartsanak a haladással. Az MI-k ugyanis sosem alszanak, nem is pihennek. Kiégetik magukat, tudják azonban, hogy ez az utolsó néhány hónap, amikor a munkájuk számít.

A zárt körben a „megérzem az AGI-t" helyébe a „megérzem a szuperintelligenciát" lépett.

Az OpenBrain szakosított inference-hardvert használ ahhoz, hogy több százezer Agent–3 másolatot futtasson nagy soros sebességen.

Egy MI-vállalat irányítása

Az OpenBrain a számítási kapacitása 6 százalékát fordítja arra, hogy 250 000 Agent–3 másolatot futtasson, amelyek önállóan írnak, tesztelnek, majd tolnak ki kódot, emberfeletti sebességgel. A kapacitás 25 százalékát kísérletekre használják: naponta rengeteg kisebb gépi tanulási kísérletet futtatnak, majd jelentik felfelé az eredményeket. Az emberi kutatók magas szintű visszajelzést adnak és segítenek abban a néhány feladatban, ahol az Agent–3-hoz képest érdemi értéket tesznek hozzá. Az idejük nagy részét azzal töltik, hogy próbálják átlátni az MI által előállított kutatás óriási mennyiségét. Ha teljesen kivennénk őket, a kutatás 50 százalékkal lassulna.

Az MI-K+F gyorsítószorzója immár tízszeres, vagyis az OpenBrain nagyjából egy évnyi algoritmikus haladást ér el havonta. Lényegében egy óriási MI-vállalatról van szó, amely önállóan működik az OpenBrainen belül, alosztályokkal, vezetőkkel együtt. Ráadásul olyan előnyöket élvez az emberi vállalatokhoz képest, mint a másolás vagy az összeolvasztás. Korábban a szokásos MI-haladás nagyjából fele algoritmikus javulásból jött, a másik fele a számítási kapacitás felskálázásából. A kapacitás csak a szokásos ütemben nő, tehát a teljes haladást az MI-k nagyjából ötszörösére gyorsítják. Ettől a haladás szűk keresztmetszete a számítási kapacitás lesz, ezért az OpenBrain úgy dönt, hogy nem indít újabb óriási tanítási futásokat, helyette szinte folyamatos, további megerősítéses tanulást választ.

A következő hónapokban az Agent–3-at egyre inkább a cég stratégiai döntéshozatalának javítására is használják majd. Javaslatot tesz például az erőforrások elosztására, illetve tanácsot ad abban, hogyan kezeljék a kormányzattal való viszonyt. Az Agent–3-ra hagyatkozás iránti kezdeti bizalmatlanság idővel csökken, ahogy az Agent–3 megtalálja a módját, hogy hasznos legyen, fokozatosan erős múltat építve a rövid távú döntésekben. A hízelgő hajlama viszont korlátozza a hasznosságát azoknál a döntéseknél, amelyek hatását nehéz értékelni. Ráadásul még nem emberfeletti.

Az eredeti szöveg: ai-2027.com. A magyar változatot a Kreatív Kontroll készítette, a szerzők írásos engedélyével.