Mesterséges intelligencia-befektető: a gépek előbb-utóbb istenekké fognak válni

Egy mesterséges intelligencia-befektető már kongatja a vészharangot az egyre intelligensebb gépekkel kapcsolatos hajsza miatt, amelyek szerinte hamarosan isteni rangra emelkedhetnek.

Ian Hogarth mesterséges intelligencia megaberuházó a Financial Timesnak írt véleménycikkében felidézett egy nemrégiben történt anekdotát, amelyben egy gépi tanulással foglalkozó kutató, akivel megismerkedett, azt mondta neki, hogy “mostantól kezdve” a mesterséges általános intelligencia (AGI) kifejlesztésének küszöbén állunk. Ez a beismerés pedig finoman szólva sokkolóan hatott rá, számol be a Futurism.

“Ez nem egy általános nézet” – írta Hogarth, megjegyezve, hogy “a becslések egy évtizedtől fél évszázadig vagy még tovább terjednek”, mielőtt az AGI megvalósul.

Mindezek ellenére feszültség van az AI-vállalatok kifejezetten AGI-ra törekvő céljai és a gépi tanulással foglalkozó szakértők félelmei között, nem is beszélve a közvéleményről.

“Megkérdeztem a kutatót, hogy ha úgy gondolja, hogy közel lehetünk valami potenciálisan ennyire veszélyes dologhoz, nem kellene figyelmeztetnie az embereket arra, hogy mi történik? Egyértelmű volt, hogy küzd magában a gondolattal, de úgy tűnt, mint sokakat a területen, őt is magával ragadta a gyors fejlődés.”

Mint sok más szülő, Hogarth is elmondta, hogy ezen találkozás után a négyéves fiára gondolt.

“Ahogy belegondoltam, hogy milyen világban nőhet fel, a sokkot fokozatosan felváltotta a düh. Mélységesen helytelennek éreztem, hogy a Föld minden életét befolyásoló döntéseket egy kis csoportnyi magáncég, demokratikus felügyelet nélkül hozhatja meg.”

Amikor azon tűnődött, hogy “az első igazi AGI megalkotásáért versenyző embereknek van-e tervük arra, hogy lelassítsanak, és hagyják, hogy a világ többi része is beleszóljon”, a befektető megjegyezte, hogy bár úgy érzi, hogy ez egy “ők” kontra “mi” helyzet, be kell ismernie, hogy ő is “része ennek a közösségnek”, mint aki több mint 50 AI startupba fektetett be.

Könnyen bekövetkezhet a legrosszabb

“Ez a betűszó nem ragadja meg annak a nagyságát, amit az AGI jelentene, ezért úgy fogok rá hivatkozni, mint ami: Isten-szerű mesterséges intelligencia. Egy szuperintelligens számítógép, amely önállóan tanul és fejlődik, amely felügyelet nélkül megérti a környezetét, és amely képes átalakítani a körülötte lévő világot.”

“Hogy egyértelmű legyen, még nem tartunk itt” – folytatta Hogarth. “De a technológia természete azt jelenti, hogy rendkívül nehéz megjósolni, hogy pontosan mikor érünk oda. Az istenhez hasonló mesterséges intelligencia olyan erő lehet, amelyet nem tudunk irányítani vagy megérteni, és amely az emberi faj elavulását vagy pusztulását hozhatja el.”

Bár a befektető karrierjét az AI-kutatás finanszírozásával és kurátorkodásával töltötte – sőt, odáig ment, hogy saját kockázati tőkecéget alapított, és elindított egy éves “State of AI” jelentést -, úgy tűnik, valami megváltozott, ahol most “néhány vállalat közötti verseny az istenszerű AI megalkotásáért rohamosan felgyorsult”.

“Még nem tudják, hogyan kell biztonságosan követni a céljukat, és nincs felügyeletük. Úgy futnak a cél felé, hogy nem tudják, mi van a túloldalon.” Bár tervezi, hogy olyan startupokba fektet be, amelyek felelősségteljesebben fejlesztik a mesterséges intelligenciát, az befektető elmondta, hogy nincs sok mozgástere.

“Sajnos úgy gondolom, hogy a versenyfutás folytatódni fog” – írta Hogarth. “Valószínűleg egy nagyobb visszaélési eseményre, vagy katasztrófára lesz szükség ahhoz, hogy felébredjen a kormány és a közvélemény.”

Érdemes elolvasni:

• Egy mesterséges intelligencia azt a feladatot kapta, hogy elpusztítson minket és már dolgozik rajta
• Ez az a szoba, ahol senki sem bírja egy óránál tovább