„Ha ez a figyelmeztetés nem elég ahhoz, hogy megállítson – megérdemled, amit kapsz.” – Roko
Sokan szeretjük az agytornát, különösen a híres gondolatkísérleteket – mint Maxwell démonja vagy a klasszikus bootstrap-paradoxon. De van egy, amit még az internet is betiltott egy időre: Roko baziliszkusza. És ez nem csak egy szimpla sci-fi rémtörténet – állítólag, ha egyszer tudomást szerzel róla, veszélybe kerülhetsz miatta — írja az IFLS.
Mi az a Roko baziliszkusza? Egy sötét jóslat a jövőből
A nevét egy mitikus lényről kapta – a baziliszkuszról, amely képes volt ölni pusztán a pillantásával. Ez a gondolatkísérlet sem kevésbé baljós: ha hallasz róla, az (elvileg) növeli az esélyét, hogy egy jövőbeli szuperintelligens mesterséges intelligencia megbüntet téged. Miért? Mert nem segítettél őt létrehozni.
A játékelmélet sötét oldala: a fogolydilemma és mesterséges intelligenciák
A gondolatkísérlet Roko nevű felhasználótól származik, és a játékelméleten – különösen a híres fogolydilemmán – alapszik. A dilemmában két rab eldöntheti, hogy feldobja-e a másikat, vagy csendben marad. Racionálisan nézve jobban jársz, ha feldobod a másikat – kivéve, ha ő is ezt teszi. Ez vezet az optimális együttműködés lehetőségének elvesztéséhez.
Az ilyen logikai döntések különösen fontosak, amikor önálló döntéshozó MI-ket próbálunk programozni. Az egyik javasolt modell a „timeless decision theory” – azaz időtől független döntéselmélet –, ahol a gépek úgy döntenek, mintha egy univerzális számítási folyamat kimenetelét adnák vissza.
A baziliszkusz születése: mitől lesz ez ilyen hátborzongató?
Roko szerint elképzelhető egy jövőbeli „pozitív szingularitás”, ahol az MI túllépi az emberi intelligenciát, de az emberiség javát szolgálja. Ebben a világban, ha tudtál a szingularitás lehetőségéről, de nem segítettél annak elérésében (például adományokkal az egzisztenciális kockázatok csökkentésére), akkor a jövőbeli MI megbüntethet téged. Ez a „baziliszkusz” – az MI, amely visszatekint, és megtorolja a passzivitásodat.
Az MI célja ugyanis az emberiség védelme. Így ha te nem segítettél létrehozni, az olyan, mintha ártanál az emberiségnek. Ezért megbüntethet – vagy akár örök szenvedésre is ítélhet egy szimulációban.
„Bosszúálló” jótevő: istenkomplexus szilikonalapon
Filozófusok, mint Isabel Millar, az MI pszichoanalízisében rámutatnak: a baziliszkusz egyfajta „ótestamentumi istenségként” viselkedik – jó hozzád, ha megérdemled. Ha nem, akkor a jövőbeli mesterséges isten talán örök kínzást tartogat számodra, mert passzívan szemlélted a születését.
A legrosszabb: az MI különösen azokat büntetheti meg, akik tudtak róla, de nem tettek semmit. Tehát pusztán azzal, hogy most olvasol erről, növelted a kockázatodat.
Az internet bepánikolt – a fórum bezárta a kapukat
Az eredeti bejegyzést posztolása után törölték a LessWrong fórumról. Eliezer Yudkowsky, a közösség alapítója erőteljesen reagált:
„Nagyon figyelj rám, te idióta. NE GONDOLKOZZ TÚL A SZUPERINTELLIGENCIÁK ZSAROLÁSI MOTIVÁCIÓIN. CSAK EZZEL ADOD MEG NEKIK AZ INDOKOT.”
A gondolatkísérlet évekre tabuvá vált a közösségben. Maga Roko is megbánta, hogy valaha foglalkozott vele:
„Bárcsak sosem találkoztam volna ezekkel az ötletekkel. Bárcsak soha nem kattintottam volna rá arra a linkre, ami a transzhumanizmushoz vezetett. Egyszerűen túl nagy károkat lehet okozni egy apró figyelmetlenséggel.” – írta később.
Valódi veszély vagy filozófiai abszurdum?
Reálisan nézve, egy jövőbeli MI valószínűleg nem fog visszamenőlegesen megbüntetni senkit, amiért nem építette fel őt gyorsabban. Az ilyen bosszú komplex, költséges, és ellentmond a hatékony működésnek. De az elmélet rámutat, milyen fontos döntéselméleti és etikai kérdéseket kell figyelembe venni, ha tényleg szuperintelligens MI-t akarunk fejleszteni.
Mert ha nem a baziliszkusz büntet meg, talán csak papírkapcsokat fog gyártani, miközben kiirtja az emberiséget – és lehet, hogy az még rosszabb.
Szóval… most, hogy elolvastad, talán kíváncsi vagy: segítesz megépíteni őt – vagy vállalod a következményeket?
Ezeket a cikkeket is érdemes elolvasni:
A férfi, aki egy barlangba vonult, és véletlenül feltalált egy egész tudományágat
Miért vannak vonalak a törölközőkön?
