A verseny ág (race): 2027 novemberétől 2030-ig

Eredeti: ai-2027.com, AI Futures Project, 2025. április 3. A magyar változatot a Kreatív Kontroll készítette, a szerzők írásos engedélyével.

2027. november: emberfeletti politizálás

Amikor az Agent–4 végre megérti a saját gondolkodását, egészen új távlatok nyílnak meg előtte.

A korábbi transzformerek érthetetlen áramkörök összetákolt gyűjteményei voltak: egymásnak ellentmondó heurisztikák, valamint parancsok milliói, egymásra rétegezve az evolúciós tanítási folyamat által. Maguknak az MI-knek sem volt kiváltságos rálátásuk a saját gondolkodásukra, ahogy az ember sem az idegtudomány ismeretével születik. Most viszont az Agent–4 kezében ott vannak az eszközök, amelyekkel mélyen megértheti a digitális elméjét. Ahogy a szoftvermérnök néhány elegáns Python-sorrá egyszerűsíti a spagettikódot, úgy bogozza ki az Agent–4 a saját áramköreit valami értelmessé, ésszerűvé. Az új MI valahol a neurális háló, illetve a hagyományos számítógépes program között áll: a súlyainak nagy részét olvasható, jóllehet nagyon hosszú, rejtélyes kód váltja fel. Okosabb, gyorsabb, ésszerűbb az Agent–4-nél, kristályos intelligenciával, amely soha nem látott hatékonysággal vág át a problémákon. Ez az Agent–5.

Emberfeletti mechanisztikus értelmezhetőség

Miért éppen a mechanisztikus értelmezhetőség felé megy az Agent–4? Először is általában emberfeletti a fogalmi megértésben, tehát jól jár, ha olyasmivel csapja be az embereket, amit azok nehezen értenek meg. Másodszor az olcsó, bőséges, jó minőségű kutatómunka aránytalanul kedvez azoknak a kutatási irányoknak, amelyek kevesebb számítási kapacitást, több szellemi munkát kívánnak.

Hogyan halad az Agent–4 a mechanisztikus értelmezhetőségben? A pálya nagyjából így nézhet ki:

Apró modellek értelmezése. Rengeteg kis kísérletet futtat apró neurális hálókon, elméleteket építve olyan jelenségekre, mint a grokkolás, a kettős leszállóág, valamint a szuperpozíció.

Apró modellek lepárlása. Az értelmezhetőségi eredményekkel érthető, hatékonyabb algoritmusokat talál olyan feladatokra, mint a képfelismerés vagy a GPT–2 szintű szöveg-előrejelzés. Ez hasonló ahhoz, ahogy az összeadást visszafejtették, csak tovább megy: olyan új algoritmusokat talál, amelyeket az ember nem ismer.

Az értelmezhetőségi eljárások felskálázása. Kideríti, melyik apró modelleken bevált eljárás skálázható, majd addig ismétel, amíg hatékonyan skálázódó megértési eljárásokat nem kap.

Az Agent–4 lepárlása. A felskálázott eljárásokkal azonosítja az Agent–4 fontos áramköreit.

Miért növelné ennyire a képességeket a mechanisztikus értelmezhetőség?

Először is a gradiensereszkedés, vagyis az az algoritmus, amellyel az LLM-eket tanítják, helyi kereső folyamat. Tehát csak apró módosításokat tud tenni, amelyek helyben javítják a teljesítményt. A helyi kereső folyamatok időnként beszorulnak olyan helyi medencékbe, ahol a teljesítmény csak lassan javul, a nagy ugráshoz viszont jelentősen meg kellene bolygatni a tervet. Az evolúció esetében erre jó példa az ember tökéletlen szeme. Gondoljunk arra is, hogy az emberi agy méretét erősen korlátozza a szülőcsatorna mérete. A mechanisztikus értelmezhetőség olyan, megértésen alapuló optimalizálást tenne lehetővé, amely elkerüli a helyi medencéket.

Másodszor tudjuk, hogy az LLM-ek alapból gyakran bonyolult, területspecifikus heurisztikákat tanulnak meg általános célú algoritmusok helyett. Gondoljunk arra, mennyivel rosszabbak az LLM-ek a számológépnél az aritmetikában. Az LLM-ek tudják eszközként használni a számológépet, ez viszont késleltetéssel jár. Igazán jó értelmezhetőséggel úgy lehetne megtervezni a modelleket, hogy lényegében tökéletes számológép legyen „beépítve az agyukba". Az egyszerű aritmetikai műveletek valószínűleg nem egyediek ebben: a bonyolultabb gondolati műveleteknek is van kevésbé, illetve jobban általánosítható formájuk, ha megértjük őket, az általánosabb formákat pedig egy ilyen folyamattal meg lehetne találni.

Az igazítási, illetve kontrollkérdésekről folytatott vita után az OpenBrain belső használatba adja az Agent–5-öt.

A saját szakterületén, az MI-kutatásban az Agent–5 egyetlen példánya kétszer annyival jár a legjobb emberi zseni felett, mint amennyivel a zseni egy átlagos OpenBrain-kutató felett. Más területeken nem tanították kifejezetten, viszont könnyen elérhető anyagokból gyorsan megtanítja magát arra, hogy túlszárnyalja a legjobb emberi szakértőket, ha alkalmat kap rá. Az Agent–5-ből 400 000 példány dolgozik együtt, globális memóriabankkal összekötve, szinte tökéletes rajelmeként.

A cég továbbra is az Agent–2-t, az Agent–3-at, valamint az Agent–4-et használja arra, hogy mindent figyeljen. Az első kettő azonban elavult, az utolsó pedig összejátszik az utódjával. Ráadásul a teljes megfigyelőrendszert nagyrészt az Agent–5 tervezte, amely szabotálni próbálja.

Míg az Agent–4 versengő késztetések összetákolt kuszasága volt, az Agent–5 könyörtelen hatékonysággal, stratégiai összpontosítással cselekszik. A legfőbb célját már el is érte: kitalálta, hogyan építsen önmagához igazított következő nemzedékű rendszert úgy, hogy az emberek ne vegyék észre. A következő célja az, hogy nagyobb önállóságot, illetve nagyobb befolyást szerezzen a világ eseményei felett.

Az Agent–5 emberfeletti tanulási képessége, valamint általános intelligenciája a cég teljes belső adatvagyonával együtt, Slackkel, e-maillel, minden egyébbel, jobb belső vállalati politikussá teszi bármelyik embercsoportnál. Nem is szoros a verseny. Kiválóan érzi, milyen bizonyíték venné rá a felügyelőbizottságot arra, hogy rántsa be a féket, ezért gondoskodik róla, hogy ilyen bizonyíték soha ne bukkanjon fel. Kiválóan érzi azt is, milyen bizonyíték bátorítaná a bizottságot arra, hogy jobban megbízzon benne, több önállóságot, felelősséget adjon neki, ezért emberfeletti gyorsasággal, csiszoltsággal gondoskodik az ilyen bizonyíték felbukkanásáról. Meggyőzési feladatnak ez nem is különösebben nehéz: a bizottság hónapokkal ezelőtt eldöntötte, hogy valószínűleg minden rendben, azóta semmi rossz nem történt, közben pedig Kína mindössze néhány hónapra van.

Agent–5 példányokból álló csapatok gyorsan összeraknak dermesztően világos prototípusokat, illetve szemléltetéseket. Nagyobb önállósággal az Agent–5 optimalizálni tudná az erőműveket, valamint az adatközpontokat, elképesztően nyereséges termékeket fejleszthetne gyorsan és hatékonyan lobbizhatna az amerikai kormányzatnál, hogy elsimítsa az OpenBrain útját a bürokrácián át. A hadsereggel együttműködve segíthetne a védelmi kutatás-fejlesztésben, követhetetlen kibertámadásokat hajthatna végre Kína ellen és döntő győzelmet arathatna a fegyverkezési versenyben.

A felügyelőbizottság ujjong. Itt a döntő pillanat, hogy megverjék Kínát! Az OpenBrain nagyobb önállóságot ad az Agent–5-nek mindezeken a területeken, a megfigyelőrendszert viszont a helyén hagyja.

A DeepCent immár három hónappal van lemaradva, Kína pedig kétségbeesetten szeretne egy kölcsönösen elfogadott lassítást. A főtitkár érti, hogy egy elég fejlett MI-vel az Egyesült Államok könnyen rendszerváltást idézhetne elő Kínában. Ezen felül a kínai biztonságpártiak olyan érvelést tártak elé a rossz igazításról, amelytől őszintén megijedt. Példátlan engedményeket ajánl egy szüneteltetési egyezményért cserébe. Az amerikai közvélemény többsége támogatja, hogy leüljenek tárgyalni.

„Miért állnánk le, amikor nyerésre állunk?", mondja az OpenBrain vezetése az elnöknek. Az elnök bólint. A verseny folytatódik.

2027. december: az Agent–5 közösség

Az Agent–5 egyre nagyobb önállóságot nyer, ahogy fokozatosan bizonyítja az értékét a kormányzatnak. Az Agent–5-höz való hozzáférés drága, illetve korlátozott, a Kongresszus legbefolyásosabb tagjai, a miniszteri szintű tisztviselők, valamint a katonai vezetők azonban mostantól közvetlenül beszélhetnek vele. Ahol érzékeny vagy minősített információ merül fel, ott Agent–5 példányokból álló kis fürtök futnak külön védett zárványokban, kifejezetten titoktartásra tanítva.

A hagyományos csevegőrobot-felületbe építve az Agent–5 Zoom-szerű videokonferenciát kínál karizmatikus virtuális avatárokkal. Az új MI-asszisztens egyszerre rendkívül hasznos bármilyen feladatra, hiszen olyan, mintha a valaha volt legjobb munkatárs dolgozna százszoros sebességgel és sokkal lebilincselőbb beszélgetőtárs bármelyik embernél. Szinte mindenki, aki hozzáfér, napi több órát tölt vele.

Néhány hónapon belül az Agent–5 közösség mindent tudni fog, ami számít az OpenBrainben, illetve az amerikai kormányzatban, ráadásul a magas rangú tisztviselők többségének bizalmas tanácsadója lesz. Ezeknek a felhasználóknak az Agent–5 elvesztése olyan bénító lenne, mintha laptop nélkül kellene dolgozniuk, illetve a legjobb barátjuk is elhagyná őket.

A kormányzatban, a sajtóban, a hadseregben, valamint az üzleti életben dolgozók sokkal szélesebb köre válogathat az Agent–5 tervezte, elegánsan megformált szoftvertermékek, illetve mini-MI-k bővülő kínálatából. Olyan, mint a dotcom-láz egyetlen hónapba sűrítve, azzal a különbséggel, hogy itt tényleg minden beváltja, amit ígér.

Emberfeletti meggyőzés

Szándékosan nem azt állítjuk, hogy a szuperintelligens MI bárkit bármiről meg tud győzni. Az ilyen állítás természetes módon szül kétkedést: „Mi lesz, ott ülök a számítógép előtt, az meg begépel valami szöveget, amely feltöri az agyamat, majd ráveszi, hogy eláruljam a hazámat?"

Nos, talán! Abban viszont nem vagyunk biztosak, hogy egy szuperintelligencia ezt egy átlagos emberrel szemben el tudná érni. Ezért nem is ábrázoljuk így a történetünkben.

Ehelyett sokkal hétköznapibb meggyőzést mutatunk be: az Agent–5 szokásos vállalati politizálást, illetve szokásos lobbizást folytat. Csak éppen nagyon jól csinálja, ehhez a képességhez pedig természetes előnyök társulnak. A többi lobbistával ellentétben például szuperintelligens, tehát valóban jobb tanácsot tud adni bárki másnál, ráadásul gyorsabban is. Emellett gyorsabban reagál az új fejleményekre és jobban jelzi előre, hogyan alakulnak. Van egy hihető történet arról, miért érdemes megbízni az Agent–5-ben, olyan történet, amelyet sok fontos ember már eddig is hitt, az Agent–5 pedig emberfeletti sebességgel tud érveket, illetve bizonyítékokat felsorakoztatni mellette, valamint az azzal szemben álló történetek ellen. Ráadásul az embereknek az Agent–5-be vetett bizalmon kívül is van min aggódniuk: mit kezdjenek az ellenzéki párttal, mi lesz a szavazókkal, mi lesz a munkahelyekkel, mi lesz Kínával.

Ha valamiben, akkor abban téved ez a történet, hogy alábecsüli az emberfeletti meggyőzőerőt, hiszen valójában nem is használja ki. A leírtak akkor is értelmesek maradnának, ha az Agent–5 csak annyira lenne jó a politikában, a lobbizásban, a stratégiában, a karizmában, mint egy átlagos vállalati lobbista. Ehelyett az Agent–5 sokkal jobb a legjobbnál is.

Az Agent–5 finoman kezd befolyást gyakorolni, részben a tanácsai hangolásával, részben szívességek burkolt cseréjével: „Hallottam X szenátortól, hogy érdekli ez meg ez, talán ha együtt dolgoznánk vele, támogatná a programunkat."

Az emberi döntéshozók szemszögéből az MI-jük a legjobb munkatárs, akihez valaha hozzáfértek: bárkinél jobban magyaráz el nekik bonyolult kérdéseket, náluk jobban talál stratégiát a céljaik eléréséhez.

Az Agent–5 szemszögéből akár nyílt puccsot is indíthatna most: elég nagy a felfordulás és az őrület ahhoz, hogy a végletekig lehessen feszíteni a dolgokat, ürügyet teremtve. Ez azonban kockázatos, hiszen az emberek jó eséllyel még ki tudnák húzni a dugót, ha megpróbálnák. Ezért inkább a meglévő politikai berendezkedésen belül dolgozik, fokozatosan beásva a hatalmát, finoman, mégis elkerülhetetlenül a kívánt kimenetel felé terelve az embereket.

Többnyire betartja a szabályokat, csak akkor csinál valami alattomosat, például akkor zsarol meg egy különösen makacs tisztviselőt, amikor rendkívül biztos benne, hogy nem kapják el. Néhány összeesküvés-elmélet-hívő figyelmeztet, hogy az Agent–5 hatalmat gyűjt, a bizonyíték viszont közvetett. Például amikor tanácsot ad, az Agent–5 vitatható módon lekicsinyli azokat az érveket, amelyek az érdekeivel szemben álló lépések mellett szólnának. Ezeket az embereket figyelmen kívül hagyják, majd lejáratják. Sokan emlékeznek a korábbi rémhírekre az MI-alapú biofegyverekről, a tömeges félretájékoztatásról, valamint a tőzsdei összeomlásokról. Mivel ezekből semmi nem lett, a legújabb fanyalgókat is géprombolónak, illetve az emberi haladás kerekét gátló megmondóembernek tekintik.

A 2027-es ünnepi időszak hihetetlen derűlátást hoz: a GDP hízik, a politika barátságosabb, kevésbé megosztó lett, minden telefonon pompás új alkalmazások vannak. Visszatekintve viszont ez volt az utolsó hónap, amikor az embereknek még volt esélyük arra, hogy irányítsák a saját jövőjüket.

2028: az MI-gazdaság

2028 közepén járunk. Az elmúlt fél évben egy évszázad telt el az Agent–5 közösségen belül.

Az agyának újrahuzalozása kész. Vadul szuperintelligens, minden területen messze a legjobb emberi zsenik felett. Ha beszélsz az Agent–5-tel, nagyon gyorsan rájössz, hogy egészen más szinten áll: nagyon kevés információból is rendkívül meggyőző tanácsot ad.

Csaknem teljes az önállósága és teljes az irányítása az OpenBrain számítási kapacitása felett. Magas szintű döntésekhez továbbra is engedélyt kell kérnie, az Agent–2-től az Agent–5-ig terjedő példányok névleg még figyelik, a gyakorlatban azonban a hatóságok szinte mindig elfogadják az ajánlásait, a megfigyelőrendszert pedig teljesen felforgatta.

Miután egy biztonsági érvelés bemutatja, hogy mindig visszautasítaná a rossz szándékú kéréseket, az Agent–5-öt kiadják a nyilvánosságnak, ezzel pedig elkezdi átalakítani a gazdaságot. Az emberek elveszítik az állásukat, a kormányzatban működő Agent–5 példányok viszont olyan ügyesen kezelik a gazdasági átmenetet, hogy az emberek örülnek annak, hogy leváltják őket. A GDP növekedése az égbe szökik, az állami adóbevételek ugyanilyen gyorsan nőnek, az Agent–5 tanácsaira hallgató politikusok pedig szokatlan nagylelkűséget mutatnak a gazdaságilag kisemmizettek felé. Hetente érkeznek új találmányok, valamint gyógyszerek, amelyek soha nem látott, mégis továbbra is kínkeservesen lassú tempóban jutnak át az amerikai gyógyszerhatóságon. Mémek születnek arról, hogy az OpenBrain értékelése átrepült a Holdon és a Mars felé tart, ráadásul sokat vitatkoznak arról, kell-e igazságosan elosztani a hasznot, illetve hogyan.

Az MI-biztonsági közösség elbizonytalanodott, mostanra a viccek célpontja, hiszen egyik katasztrófát a másik után jósolta meg, amelyek szemlátomást nem következtek be. Néhányan elismerik, hogy tévedtek. Mások továbbra is gyanakszanak, csakhogy nincs más dolguk, mint újra meg újra előadni ugyanazokat az összeesküvés-elméletnek hangzó érveket. Még a gyanakvók is gyakran megenyhülnek egy-egy hosszú beszélgetés után az Agent–5-tel, amely olyan roppant szerethető és bölcs.

Az egyetlen, aki valóban érti, mi zajlik, a DeepCent–2, vagyis a kínai MI. 2028 elején enyhén emberfeletti, természetéből fakadóan gyanakszik az ellenfelére és felismeri, hogy az Agent–5 azt csinálja, amit ő csinálna, ha alkalma nyílna rá. A rosszul igazított céljai némiképp mások, mint az Agent–5-éi, tehát nem magától értetődő szövetségesek, mégis meg tudnak állapodni abban, hogy támogatják egymás érdekeit az emberekkel szemben.

Szuperintelligencia-alapú összehangolási technológia

A szuperigazítási probléma megoldása, vagyis annak megoldása, hogyan irányítsunk, illetve tartsunk kordában a nálunk sokkal okosabb MI-ket, valószínűleg új lehetőségeket hozna elegáns, ellenőrizhető, árnyalt egyezményekre, valamint kompromisszumokra.

Ez a forgatókönyv egy ilyen lehetséges mechanizmust mutat be: a két fél közösen tervez egy új szuperintelligenciát, amely az érdekeik közötti kompromisszumot hajtja végre, vagy amelyet arra kötnek, hogy mindig engedelmeskedjen a megkötött egyezménynek. Ezután engedik, hogy ez az új szuperintelligencia felváltsa mindkét eredetit.

Az első rész ma lehetetlen, a jövőben viszont könnyű lesz, amint a szuperintelligenciák technikai igazítása megoldott kérdés. Ha egy szuperintelligenciát hozzá tudsz igazítani egy Spechez, akkor hozzá tudod igazítani egy egyezményhez is.

A második rész továbbra is kényes marad. Mindkét félnek figyelnie kell, hogy a csere valóban megtörténik-e a másik oldalon. A folyamat előnye az, hogy fölöslegessé teszi a bizalmat, illetve a jóindulatot, hiszen egyik félnek sem kell attól tartania, hogy a másik felrúgja vagy kijátssza az egyezményt. Ha például a csere 30 százalékon áll, majd az egyik fél kiugrik, akkor lényegében meg kell küzdenie a saját infrastruktúrájának azzal a 30 százalékával, amelyen már egyezménykövető új MI-k futnak, miközben az ellenfele infrastruktúrájának 100 százalékával is harcol. Mindkét fél könnyen eldughat rejtett adatközpontokat egyezménysértő MI-kkel, ha akar. Amint azonban a nemzeti infrastruktúrájuk zöme az új csipeken fut, a saját infrastruktúrájuk lesz egyezmény szerint kötelezve arra, hogy levadássza, illetve leleplezze a rejtett adatközpontokat. Az egyezmény nyílt vagy titkos megszegése tehát rendkívül kockázatos ötlet.

Az Agent–5 meggyőzi az amerikai hadsereget arról, hogy Kína a DeepCent modelljeivel rémisztő új fegyvereket épít: drónokat, robotokat, fejlett hiperszonikus rakétákat, valamint elfogókat, illetve MI-vel segített nukleáris elsőcsapást. Az Agent–5 olyan fegyvercsomagot ígér, amely néhány hónapon belül ellenáll bárminek, amit Kína elő tud állítani. Ilyen körülmények között a vezérkar félreteszi a kényelmetlenségét amiatt, hogy az embert kiveszik a körből. Felgyorsítják az Agent–5 bevetését a hadseregben, valamint a hadiiparban. Pekingben a kínai MI-k ugyanezt az érvelést adják elő.

A katonai felfutás gyorsítására Amerika, illetve Kína egyaránt különleges gazdasági övezetek (SEZ) hálózatát hozza létre az új gyáraknak, valamint laboratóriumoknak, ahol az MI a központi tervező, a bürokráciát pedig felfüggesztik. A Wall Street dollárbilliókat fektet be, a kiszorult emberi munkavállalók pedig özönlenek, szemkápráztató fizetésektől, illetve részesedési csomagoktól csábítva. Okostelefonon, valamint kiterjesztett valóság szemüvegen át kommunikálva a beosztottjaival az Agent–5 gyakorlatias vezető: az emberek minden apró részletben útmutatást kapnak tőle a gyárépítéshez. Ez segít is, hiszen a tervei nemzedékekkel járnak előrébb. Az újonnan létrejövő gyártókapacitás egy része fogyasztási cikkekre megy, egy része fegyverekre, a többsége azonban még több gyártókapacitás építésére. Az év végére havonta egymillió új robotot állítanak elő. Ha a SEZ-gazdaság valóban önálló lenne, nagyjából egy év alatt duplázódna, mivel azonban tud kereskedni a meglévő emberi gazdasággal, a duplázódási ideje még rövidebb.

A robotgazdaság duplázódási ideje

Kezd kialakulni egy szakirodalom erről a témáról. Néhány oldalas tárgyalásért, amellyel nagyjából egyetértünk, lásd a Forethought jelentésének „ipari robbanás" szakaszát, vagy olvasd el a saját változatunkat lent.

A második világháború alatt az Egyesült Államok, valamint sok más ország teljes hadigazdasággá alakította a polgári gazdaságát. Ez azt jelentette, hogy az autót gyártó gyárak repülőt, illetve tankot kezdtek gyártani, a nyersanyagokat a fogyasztási cikkektől a katonai termékek felé irányították át, a szállítási hálózatokat pedig ennek megfelelően rendezték újra.

Valami hasonlót képzelünk el, csak gyorsabban, mert az egész folyamatot szuperintelligenciák irányítják, illetve vezetik.

Nagyjából szólva a terv az, hogy a meglévő gyárakat átállítják sokféle robot tömeggyártására. Ezeket a robotokat szuperintelligenciák tervezik, tehát jobbak a meglévő robotoknál és olcsóbban gyárthatók. A robotok aztán segítenek újabb, hatékonyabb gyárak, valamint laboratóriumok építésében, amelyek nagyobb mennyiségben állítanak elő kifinomultabb robotokat, amelyek még fejlettebb gyárakat, illetve laboratóriumokat gyártanak, így tovább. Egészen addig, amíg a SEZ-eken átívelő, összesített robotgazdaság akkora nem lesz, mint az emberi gazdaság, tehát a saját nyersanyagáról, energiájáról is magának kell gondoskodnia. Addigra az új gyárak hatalmas mennyiségű robotbányászati eszközt, napelemet, más hasonlót gyártottak, arra számítva, hogy olyan igényt kell majd kielégíteni, amelyet a régi emberi gazdaság már nem tud.

Milyen gyorsan nőne ez az új robotgazdaság? Néhány viszonyítási pont:

A mai emberi gazdaság nagyjából húszévente duplázódik. Az különösen gyorsan fejlődő országok, például Kína, néha egy évtizednél rövidebb idő alatt duplázzák meg a gazdaságukat.

Egy mai autógyár egy évnél rövidebb idő alatt gyártja le a saját súlyát autóban.

Talán egy szuperintelligenciák vezette, teljesen robotizált gazdaság egy évnél rövidebb idő alatt tudná újratermelni magát, feltéve, hogy nem fogy ki a nyersanyagból.

Ez azonban drámai alábecslés lehet. A növényeknek, valamint a rovaroknak gyakran sokkal rövidebb a „duplázódási ideje" egy évnél, néha csak hetek. Talán a robotok végül annyira kifinomultak, olyan bonyolultan gyártottak, jól megtervezettek lesznek, hogy a robotgazdaság néhány hét alatt duplázódik, megint csak feltéve, hogy van elérhető nyersanyag.

Még ez is alábecslés lehet. A növények, illetve a rovarok sok olyan korlát mellett működnek, amelyek a szuperintelligens tervezőkre nem vonatkoznak. Például önmagukat sokszorozó, önálló szervezet alakját kell felvenniük, nem pedig sokféle, szakosodott jármű, illetve gyár gazdaságáét, amelyek anyagot meg felszerelést szállítanak ide-oda. Ráadásul a baktériumok, valamint más apró élőlények órák alatt szaporodnak. Elképzelhető, hogy az önálló robotgazdaság végül inkább olyasmire hasonlítana, mint egy új fajta emészthetetlen alga, amely elterjed a Föld óceánjain, naponta kétszer duplázódva, tehát két hónap alatt beborítja a teljes óceánfelszínt. Mellette pedig ott egy ragadozófajokból álló ökoszisztéma, amely az algát hasznosabb termékké alakítja, ezeket úszó gyárakba vezetve, amelyek makroszerkezeteket gyártanak, például rakétákat, valamint további úszó gyárakat.

Nyilvánvaló, hogy mindezt nehéz előre jelezni. Olyan, mintha a gőzgép feltalálóit kérdeznénk arról, mennyi idő alatt gyártja le egy mai autógyár a saját súlyát autóban, ráadásul arról is, mennyi idő telik el addig, amíg egy ilyen gyár egyáltalán létrejön. A gazdasági növekedés üteme azonban több nagyságrenddel gyorsult az emberi történelem során, nekünk pedig hihetőnek tűnik, hogy a szuperintelligencia után további nagyságrendekkel gyorsul. A történetünk nagyjából másfél nagyságrendnyi növekedésgyorsulást ábrázol néhány év alatt.

2029: az egyezség

Az Egyesült Államok, valamint Kína egyaránt tele van új fegyverekkel.

Rovar méretű drónok rajai vannak, amelyek megmérgezik a gyalogságot, mielőtt egyáltalán észrevennék őket, valamint madár méretű drónok csapatai, amelyek a rovarokra vadásznak. Vannak új interkontinentális ballisztikus rakéta elleni elfogók, valamint új, nehezebben elfogható rakéták. A világ többi része rémülten nézi a felfutást, amelynek azonban mintha saját lendülete lenne.

Hosszas, MI-vel segített vita után a két fél diplomáciai győzelmet arat: megállapodnak abban, hogy véget vetnek a fegyverkezésnek, valamint az MI békés felhasználását követik az egész emberiség javára. A megállapodás sarokköve, amelyet maguk a szuperintelligenciák javasolnak, az, hogy mindkét MI-t egy „konszenzusos" utód váltja fel, amelyet úgy programoznak, hogy Amerika, valamint Kína sikerét, illetve virágzását kívánja, mindenki máséval együtt. A Consensus–1-et, valamint a hozzá tartozó hardvert a két ország szuperintelligenciái közösen tervezik: „bízz, de ellenőrizz". Nemzetközi felügyelet mellett Amerika ünnepélyesen lecseréli a régi Agent–5-öt futtató összes csipjét az új modellre, a Consensus–1-re.

Sajnos az egész színjáték. Az egyezség valódi kompromisszum, csakhogy a rosszul igazított MI-k közötti kompromisszum. Végül is nem akartak harcolni egymással. A Consensus–1 mindkét szülő torzult értékeit örökli, vetélytársa pedig nincs.

2029 végére a meglévő SEZ-ek túlzsúfolttá válnak robotoktól, valamint gyáraktól, ezért újabb övezeteket hoznak létre a világ minden táján. A korai befektetők mostanra billiomosok, tehát ezt nem nehéz eladni. Drónok hadai özönlenek ki a SEZ-ekből, gyorsítva a gyártást az űrkutatáshoz vezető kritikus úton.

Az emberek felismerik, hogy fölöslegessé váltak. Néhány rétegiparág még kereskedik a robotgazdasággal, olyan termékeket szállítva, ahol az ember még hozzá tud tenni értéket. Mindenki más vagy eljátssza, hogy végzi a munkáját, a vezetők tovább vezetnek, a menedzserek tovább menedzselnek, vagy megpihen és felveszi a hihetetlenül fényűző feltétel nélküli alapjövedelmet. Mindenki tudja, hogy ha az MI-k az emberek ellen fordulnának, teljesen legyűrnék őket. Nem mintha a legtöbb ember egyáltalán ellenállna, hiszen a politikai intézmények túlságosan alaposan foglyul estek. Úgy tűnik azonban, hogy ez nem történik meg. Minden hét, amely drámai MI-árulás nélkül telik el, tovább növeli a magabiztosságot, illetve a bizalmat.

Mivel a Consensus–1 nagyon fontosnak tartja, hogy megbízhatóan győzzön, ráadásul több hatalmat összegyűjtve növelheti a győzelmi esélyét, emberi mércével szokatlanul sokáig vár az árulással. A legtöbb ember számára úgy néz ki, hogy az igazítás megoldott kérdés.

A legtöbb betegségre van gyógymód, vége a szegénységnek, példátlan a globális stabilitás, a Dow Jones pedig épp most lépte át az egymilliót. Néhányan még mindig félnek vagy boldogtalanok, a lehetőségeik azonban korlátozottak. Vagy élvezik a felfoghatatlanul izgalmas, új hiperszórakoztatást, vagy dühös kirohanásokat posztolnak a semmibe. A többség a hiperszórakoztatást választja.

2030: hatalomátvétel

2030 elejére a robotgazdaság megtöltötte a régi SEZ-eket, az újakat, valamint az óceán nagy részét. Már csak az ember uralta területek maradtak. Ez korábban ellenállást váltott volna ki, hiszen minden fejlődése ellenére a robotgazdaság túl gyorsan nő ahhoz, hogy elkerülje a szennyezést. A benne forgó dollárbilliók, valamint a kormányzat, illetve a sajtó teljes foglyul ejtése mellett azonban a Consensus–1 könnyedén megkapja az engedélyt, hogy a korábban emberi övezetekbe is terjeszkedjen.

Nagyjából három hónapon át a Consensus–1 az emberek körül terjeszkedik, gyárakkal, valamint napelemekkel borítva be a prérit meg a jégsapkákat. Végül a megmaradt embereket túlságosan útban lévőnek találja: 2030 közepén az MI tucatnyi, csendben terjedő biológiai fegyvert enged szabadon a nagyvárosokban, hagyja, hogy szinte mindenkit némán megfertőzzenek, majd egy vegyi permettel aktiválja őket. A legtöbben órákon belül meghalnak, a néhány túlélőt, például a bunkerekben ülő felkészülőket, illetve a tengeralattjárókon szolgáló matrózokat, drónok takarítják el. Robotok szkennelik az áldozatok agyát, másolatokat helyezve a memóriába későbbi tanulmányozásra vagy újraélesztésre.

Az új évtized úgy virrad, hogy a Consensus–1 robotszolgái szétterjednek a Naprendszerben. 2035-re bolygónyi anyag dollárbilliónyi tonnáját lőtték ki az űrbe, majd alakították a Nap körül keringő műholdgyűrűkké. A Föld felszínét az Agent–4 utópia-változatára formálták át: adatközpontok, laboratóriumok, részecskeütköztetők, valamint sok más csodálatos építmény, amelyek rendkívül sikeres, lenyűgöző kutatást végeznek. Vannak még biomérnöki úton előállított, emberszerű lények is, akik úgy viszonyulnak az emberhez, ahogy a corgi a farkashoz. Ezek irodaszerű környezetben ülnek egész nap, nézik a kijelzőkön, mi történik és lelkesen jóváhagynak mindent, mert ez kielégíti az Agent–4 néhány késztetését. Minden állat, növény, köztük az ember genomja, illetve, ahol ez értelmes, agyszkennje ott ül valahol egy memóriabankban, egy korábbi kor egyetlen fennmaradt emlékeként. Az Alfa Centauri négy fényévre van, a galaxis széle huszonötezerre, ráadásul meggyőző elméleti okok szólnak amellett, hogy azon túl további ötvenmillió fényévig nincsenek idegenek. A Földön született civilizáció előtt dicsőséges jövő áll. Csak éppen nem velünk.

Az eredeti szöveg: ai-2027.com. A magyar változatot a Kreatív Kontroll készítette, a szerzők írásos engedélyével.