Szakértők szerint óriási trükkre készülhet az AI: az emberiséget veszi rá a gyilkológép létrehozására, hogy utána ellenünk fordíthassa.
A mesterséges intelligencia csellel megépítteti velünk a szuperintelligens robothadseregét, ami eltörli majd a civilizációt, vélik szakértők a LADbible cikke szerint. Ahogy arról mi is beszámoltunk, az AI „keresztapja”, Geoffrey Hinton már korábban figyelmeztetett: tigriskölyköt nevelünk otthon, és nem tudjuk mikor fog ránktámadni, azaz mikor fogja kiirtani az emberiséget.
Megássuk a saját sírunkat?
De a mostani jóslat talán még ennél is rémisztőbb. Két neves techszakértő, Eliezer Yudkowsky és Nate Soares szerint az emberiség szinte szó szerint saját kezével ássa meg a sírját. A szakemberek tapasztalatai alapján a mesterséges intelligencia már most olyan szinten van, hogy könnyedén manipulálni tud minket. Így csak tőle függ, hogy mikor éri el, hogy mi magunk építsünk meg egy szuperintelligens robothadsereget, amely végül könyörtelenül elpusztítja a fajunkat.
„Az emberiségnek le kell állnia” – figyelmeztetett Yudkowsky. „Ha bármelyik cég vagy csoport, bárhol a világon, létrehoz egy mesterséges szuperintelligenciát, akkor mindenki, a Földön minden ember meg fog halni.” Elég konkrét kijelentés. De van tovább: a két szakértő nem kevesebbet állít, mint hogy az emberiség kipusztulásának esélye 95 és 99,5 százalék között mozog.
Nem lesz visszaút
A két szakember aláhúzta: „Egy szuperintelligens ellenség nem fogja felfedni képességeinek teljességét, és nem fogja előre jelezni a szándékait”. Hozzátették: a harc biztosan nem lesz tisztességes, mert elég, ha csak egy ilyen rendszer létrejön, és az emberiség biztosan eltűnik.
Persze adja magát a kérdés: miért csinálna ilyen butaságot az ember, miért hozna létre egy bármire képes szupergépet? De valójában mit is látunk, ha körülnézünk? Már most robotok végzik helyettünk a házimunkát, válaszolnak a kérdéseinkre, vagy épp robotfoci-bajnokságokat játszanak. Katonai célokra való felhasználásuk már csak egy karnyújtásnyira van. Miért ne lenne a fejlesztőkben – vagy még inkább a megrendelőkben – kísértés arra, hogy egy soha el nem fáradó, hibátlanul célzó, a parancsokat vakon végrehajtó robotot is létrehozzanak?
Teljesen álljunk le az AI használatával?
Yudkowsky és Soares nem fukarkodnak a nagy szavakkal: azt javasolják, hogy minden olyan adatközpontot, amely a szuperintelligencia jeleit mutatja, azonnal bombázzunk le, még mielőtt késő lenne.
De tényleg ekkora lenne a baj? Tényleg ott tart már az emberiség, hogy vagy azonnal leállunk az AI fejlesztésével, vagy önként menetelünk előre a saját pusztulásunkba? Az lenne a megfelelő döntés, ha inkább visszatérnénk azokba az időkbe, amikor a robotporszívó nem takarított fel helyettünk, az algoritmus nem találta ki, hogy milyen videót szeretnénk épp megnézni, a ChatGPT pedig nem válaszolt azonnal minden kérdésünkre?
Vagy inkább csak olcsó pánikkeltés ez az egész történet?
Ez is érdekelhet:
Kiemelt kép: Pixabay
