Nagyon úgy néz ki, hogy a mesterséges intelligencia lassan, de biztosan elpusztítja saját magát
A mesterséges intelligencia (MI, angolul artificial intelligence, rövidítve AI) által generált szövegek és képek elárasztják az internetet, ez pedig ironikus módon a legnagyobb problémát éppen ezeknek a rendszereknek jelentheti.
A The New York Times beszámolója szerint egyre több kutatás mutatja azt, hogy a generatív AI-modellek AI-generált tartalmakon való képzése a modellek butulását okozza.
Az AI-al előállított tartalmak visszatáplálása lényegében a beltenyésztéshez hasonló eredményre vezet. Jathan Sadowski mesterséges intelligencia-kutató a jelenséget találóan Habsburg AI-nak nevezte.
Az AI-tartalmak egyre csak növekvő áradata pedig megnehezítheti a probléma kiküszöbölését, ugyanis a mesterséges intelligencia modellek rengeteg adatot igényelnek, és az erre szakosodott vállalatok az internetre támaszkodnak, hogy betanítsák rendszereiket.
Illusztráció. Kiemelt kép: depositphotos.com
Saját magát hülyíti a mesterséges intelligencia?
A Futurism szerint azonban jelenleg sem az ezzel foglalkozó vállalatoknak, sem a felhasználóiknak nem kötelező az általuk generált AI-tartalmakra feltüntetniük annak nem emberi eredetét, jelentősen megnehezítve a vállalatoknak, hogy a nem ember alkotta tartalmakat távol tartsák programjaiktól.
Sina Alemohammad, egy 2023-as tanulmány társszerzője szerint „az internet egyre veszélyesebbé válik az adatok keresése szempontjából”. A tanulmányukban a MAD kifejezést, vagyis Model Autophagy Disordert alkották meg az AI önfogyasztásának leírására.
A leggyakoribb példa erre értelmetlen szövegek generálása akkor, amikor az adott modellnek csak és kizárólag mesterséges intelligencia által alkotott tartalmat biztosítottak a tanulása alatt. A kutatás azonban nem szövegekre, hanem a képmodellekre összpontosított, és kimutatta, hogy a mesterséges intelligenciát önmagával etetni azt eredményezte, hogy a hamis emberi arcokból egy még zavarosabb képek készültek.
Mindezt úgy, hogy egyébként a kutatók változatos tartalommal etették az AI-t, de a negyedik generációra szinte minden arc ugyanúgy nézett ki. Mivel az algoritmikus torzítás már most is hatalmas probléma, nagy a kockázata annak, hogy a véletlenszerűen felvett túl sok mesterséges intelligencia-tartalom hozzájárulhat a kisebb változatossághoz.
A meglévő generatív AI-technológiák közelmúltbeli fejlődésében központi szerepet játszottak a jó minőségű, ember által készített adatok. Mivel azonban a mesterséges tartalmak összezavarják az AI-modelleket, és nincs megbízható módszer a hamisítványok kiszűrésére, a mesterséges intelligenciával foglalkozó vállalatok hamarosan egy, egyelőre áthatolhatatlannak tűnő falba ütközhetnek.
Érdemes elolvasni:
