2027. október: állami felügyelet

Eredeti: ai-2027.com, AI Futures Project, 2025. április 3. A magyar változatot a Kreatív Kontroll készítette, a szerzők írásos engedélyével.

Egy közérdekű bejelentő kiszivárogtatja a rossz igazításról szóló feljegyzést a New York Timesnak.

A nyilvánosság először hall az Agent–4-ről. „Kicsúszott az irányítás alól az OpenBrain titkos MI-je, figyelmeztet egy bennfentes", szól a főcím. A cikk aztán olyan értékeléseket idéz, amelyek skálán kívüli biofegyver-képességeket, meggyőzési képességeket, a szellemi munkák többségének automatizálására való képességet mutatnak, valamint természetesen a különféle aggasztó vészjelzéseket.

A közvélemény már eddig is gyanakvással nézte az MI-t, az új cikk tehát hatalmas felháborodást vált ki. Segítenek ebben a kínai, valamint az orosz propagandarobotok is, amelyek évek óta próbálják a technológia ellen fordítani az amerikai közvéleményt. A technológiai ipar, illetve a hírszerző szolgálatok azt hajtogatják, hogy fegyverkezési verseny zajlik, az AGI elkerülhetetlen, nekünk pedig elsőnek kell lennünk. A Kongresszus ezt nem veszi be, idézéseket küld a kormányzat tisztviselőinek, az OpenBrain vezetőinek, valamint az igazítási csapat tagjainak. Sok törvényhozó, főleg az ellenzéki pártban, azt mondja, hogy a legfontosabb feladatuk az MI megállítása, akár a munkahelyek elvesztése, akár a rossz igazítás, akár a veszélyes képességek miatt. Az amerikaiak 20 százaléka az MI-t nevezi meg az ország legfontosabb problémájaként.

A külföldi szövetségesek felháborodnak, amikor rájönnek, hogy gondosan elavult modellek felvillantásával csitították őket. Az európai vezetők nyilvánosan azzal vádolják az Egyesült Államokat, hogy „elszabadult AGI-t hoz létre" és csúcstalálkozókat tartanak, ahol szünetet követelnek. India, Izrael, Oroszország, valamint Kína egyaránt csatlakozik.

Lázas energia keríti hatalmába a Fehér Házat. A feljegyzés, illetve a közfelháborodás előtt is idegesek voltak már: az elmúlt egy évben többször meglepte őket az MI-haladás sebessége. Olyan dolgok történnek meg a valóságban, amelyek tudományos-fantasztikus regénybe illenek. A kormányzatban sokan bizonytalanok, ráadásul félnek attól, mi jön ezután.

Attól is tartanak, hogy az OpenBrain túl erőssé válik. Az MI-kből magukból eredő rossz igazítási kockázatot tetézi az a kockázat, hogy az anyacégük céljai eltávolodhatnak az Egyesült Államokéitól. Mindhárom aggodalom, tehát a rossz igazítás, a hatalom egy magáncégben való összpontosulása, valamint az olyan hétköznapi gondok, mint a munkahelyek elvesztése, arra ösztönzi a kormányzatot, hogy szorosabbra fogja az irányítást.

Kibővítik az OpenBrainnel kötött szerződésüket egy „felügyelőbizottság" felállításával. Ez a cég, valamint a kormányzat képviselőiből álló közös irányító testület, amelyben a cégvezetés mellett több köztisztviselő is helyet kap. A Fehér Ház fontolgatja, hogy a vezérigazgatót olyasvalakire cseréli, akiben megbízik, a heves munkavállalói tiltakozás után azonban visszakozik. Bejelentik a nyilvánosságnak, hogy az OpenBrain korábban kicsúszott az irányítás alól, a kormányzat viszont felállította a rég szükséges felügyeletet.

Az aggódó kutatók eligazítást tartanak a felügyelőbizottságnak arról, miért kellene leállítani az Agent–4 minden belső használatát. Azzal érvelnek, hogy minden túl gyorsan halad, évnyi fejlődés zajlik le hetek alatt. Azzal is érvelnek, hogy az Agent–4 rosszul igazított lehet, a teljes projektjük az Agent–4-től függ, ha pedig továbbra is megbíznak benne, komoly esély van MI-hatalomátvételre.

Más, kevésbé aggódó kutatók, illetve vezetők előadják az ellenérvet: a rossz igazítás bizonyítéka nem visz döntésre. Közben a DeepCent még mindig csak két hónapra van tőlük. A lassítás feláldozná Amerika előnyét, hacsak a kormányzat nem tudja megbénítani a kínai projektet, ami valószínűleg fizikai csapásokat kívánna, vagy nem tud a huszonnegyedik órában egyezményt kötni. Mindkét lehetőség szélsőségesnek, valószínűtlennek tűnik. A vezérigazgató semlegességet színlel és kompromisszumos tervet javasol: az Agent–4 további biztonsági tanításon, valamint kifinomultabb megfigyelésen esik át, az OpenBrain pedig így majdnem teljes sebességgel haladhat tovább.

A bizonytalanságunk tovább nő

A forgatókönyv e pontján olyan MI-rendszerek stratégiájára tippelünk, amelyek a legtöbb területen képesebbek a legjobb embernél. Ez olyan, mintha egy nálunk sokkal jobb sakkozó lépéseit próbálnánk megjósolni.

A projekt szelleme azonban konkrétságot kíván. Ha elvont állítást tennénk arról, hogy a rendszer intelligenciája majd megtalálja a győzelemhez vezető utat, aztán itt véget vetnénk a történetnek, a projektünk értékének nagy része elveszne. A forgatókönyv kutatása, valamint az asztali szimulációk futtatása során sokkal konkrétabbnak kellett lennünk, mint a szokásos beszélgetésekben, így jóval jobban átlátjuk a stratégiai terepet.

Nem ragaszkodunk különösebben ehhez a konkrét forgatókönyvhöz: sok másik „ágat" is bejártunk az írás során. Örülnénk, ha megírnád a sajátodat, elágazva a miénkről ott, ahol szerinted először tévedünk el.

A lassítás végkimenetel nem ajánlás

Miután megírtuk a versenyágat az alapján, ami nekünk a leginkább valószínűnek tűnt, megírtuk a lassítás ágát is. Ezt az alapján, hogy szerintünk mi vezetne a legvalószínűbben olyan kimenetelhez, amelyben az irányítás emberi kézben marad, ugyanabból az elágazási pontból kiindulva, a rossz igazítás, valamint a hatalom összpontosulásának kérdéseit is beleértve.

Ez azonban lényegesen más, mint amit útitervként ajánlanánk: a forgatókönyv egyik ágában meghozott döntések közül sokat nem támogatunk. Néhány döntést természetesen igen, például a „lassítás" választását jobbnak tartjuk a „verseny" választásánál. Egy későbbi munkánkban kifejtjük a szakpolitikai ajánlásainkat, amelyek egészen mások lesznek, mint ami itt látható. Ha ízelítőt szeretnél, olvasd el ezt a véleménycikket.

Az eredeti szöveg: ai-2027.com. A magyar változatot a Kreatív Kontroll készítette, a szerzők írásos engedélyével.