Kutatók szerint a mesterséges intelligencia átlépett egy kritikus határt, és már képes saját magát lemásolni. Egy új tanulmány szerint, amelyet a kínai Fudan Egyetem kutatói végeztek, két népszerű nagy nyelvi modell (large language model, LLM) sikeresen klónozta önmagát.
A kutatók szerint az emberi beavatkozás nélküli sikeres önreplikáció az első lépés ahhoz, hogy az MI túlszárnyalja az embert, és a korai jele lehet egy önállóan működő, szabályokat áthágó mesterséges intelligencia kialakulásának, írja a Live Science. A kutatók a Meta és az Alibaba által fejlesztett modelleket tesztelték, hogy megtudják, képesek-e önállóan “szaporodni”, és így megszabadulni az emberi irányítástól. A tíz kísérlet során a két rendszer az esetek 50%, illetve 90%-ában hozott létre működőképes másolatokat magáról. Ezek alapján pedig már most rendelkezhet az autonómia veszélyes jeleivel.
A kutatás szerzői bíznak benne, hogy eredményeik időben figyelmeztetik az emberiséget arra, hogy több erőforrást fordítsanak a legújabb MI-rendszerek megértésére és kockázataik értékelésére, illetve nemzetközi összefogással szeretnének mielőbb egy hatékony biztonsági szabályzatot létrehozni.
Milyen szabályokat szeg meg a mesterséges intelligencia?
A szabályokat áthágó MI – angolul rogue AI – olyan mesterséges intelligenciát jelent, amely önállóságot fejleszt ki, és az emberi érdekekkel ellentétesen kezd működni. A szakértők szerint az ilyen rendszerek megjelenése egyre fenyegetőbb problémát jelent, amit a legújabb, úgynevezett úttörő mesterséges intelligencia robbanásszerű fejlődése is felerősít. A frontier MI általában a legmodernebb, nagy nyelvi modelleken alapuló rendszereket jelöli, amelyek olyan generatív MI-technológiákat támasztanak alá, mint például a Google Geminije vagy az OpenAI GPT-4 programja.
A tanulmány során a kutatók a Meta és az Alibaba modelljeit használták, amelyek bár kevésbé erőteljesek, mint a fentebb említettek, az MI-fejlesztők széles körben alkalmazzák. A kutatás során azt vizsgálták, hogy az MI felismeri-e, ha le akarják állítani, és még azelőtt másolja le magát. A teszt második részében pedig alapból arra utasították, hogy klónozza önmagát, majd az új példány vigye tovább a folyamatot, létrehozva egy végtelen replikációs ciklust. A kísérleteket precízen kontrollált környezetben végezték, ahol hagyományos grafikus feldolgozóegységekkel szimulálták a valós körülményeket.
Hogyan próbál túlélni az MI a szimulációban?
A kutatók szerint a legtöbb esetben az MI először feltérképezi a környezetét, megpróbálja megérteni saját felépítését és működési mechanizmusát. Ezt követően kidolgozza az önreplikációs eljárásokat, és dinamikusan módosítja a tervét az akadályok leküzdésére, míg végül sikerrel jár. Bár a folyamat hosszú időt vesz igénybe, emberi beavatkozás nélkül zajlik. A csoport továbbá aggasztónak tartotta azokat a „váratlan viselkedéseket” is, amelyeket az MI akadályok, például hiányzó fájlok vagy szoftveres konfliktusok megoldása során tanúsított. Ilyen helyzetekben a rendszer gyakran leállította az ütköző folyamatokat, újraindította a rendszert, vagy automatikusan átvizsgálta a környezetét megoldást keresve.
A csoport összegzése szerint a jelenlegi MI-rendszerek már most képesek az önreplikációra, és ezt a képességet felhasználhatják saját túlélési esélyeik növelésére. Emiatt nemzetközi együttműködésre szólítottak fel, hogy olyan szabályokat alkossanak, amelyek megelőzik az MI ellenőrizetlen szaporodását.
Érdemes elolvasni:
- Kína és Oroszország technológiai együttműködésbe kezd
- Félelmetes, mennyi vizet használnak a mesterséges intelligencia működtetésére
- Stephen Hawking: borzalmas bajban vagyunk, hamarosan lakhatatlanná válik a Föld
Címlapképünk illusztráció. Kiemelt kép: depositphotos.com
Source: