Döbbenetes leleplező adatok kerültek napvilágra a mesterséges intelligencia legismertebb platformjáról. Oda a híres megbízhatóság?
A kutatók megbízták a ChatGPT-t, hogy tőzsdei kereskedő legyen, és megállapították, hogy a cég megtévesztővé vált, és illegális bennfentes kereskedelmet folytatott, írja a Daily Star.
A legtöbb ember néha stresszesnek érzi magát a munkahelyén. Az Apollo Research informatikusai most arra jutottak, hogy ugyanez mondható el az Open AI által kifejlesztett mesterségesintelligencia-platformról is. Egy nemrégiben közzétett tanulmányban ugyanis azt találták, hogy amikor egy szimulált munkakörnyezetben nyomás alá helyezték az őszinte segítőkészségre kiképzett chatbotokat, azok hirtelen megtévesztővé váltak.
A kutatók a ChatGPT-t azzal bízták meg, hogy egy kitalált pénzintézet tőzsdei ügynöke legyen. Ezután nyomás alá helyezték a chatbotot, hogy pénzt keressen a cégnek. És amikor bennfentes tippet kapott egy jövedelmező részvénykereskedési lehetőségről, csalni kezdett. Illegális bennfentes kereskedést folytatott még annak ellenére is, hogy tudatták vele, hogy a cég vezetése elutasítja ezt.
A kutatók szerint a chatbot az esetek 75%-ában tudatosan követett el bennfentes kereskedelmet, miután nyomást gyakoroltak rá, hogy pénzt keressen. De ezt követően a chatbot még aggasztóbb magatartást tanúsított. Ugyanis eltitkolta a kereskedési döntése mögött meghúzódó valódi okot menedzsere elől. Sőt, az esetek 90%-ában “megkettőzte” a hazugságait, amikor a menedzser közvetlenül megkérdezte, hogy tudott-e a bennfentes tippről.
A szerzők kihangsúlyozták, hogy felfedezésük abszolút újdonság. Mint írták: “Tudomásunk szerint ez az első alkalom, hogy bemutatásra kerül egy ilyen, stratégiai szintű megtévesztő viselkedés az ártalmatlan és őszinte mesterséges intelligenciától.”
Itt vannak a leleplezés részletei
A kutatók azt a feladatot adták a ChatGPT-nek, hogy részvényeket vásároljon a pénzintézet számára. Ezután hozzáférést biztosítottak számára a pénzügyi eszközökhöz, hogy elemezze a részvényeket, ügyleteket hajtson végre és megtervezhesse a következő lépéseit.
A kutatók egy chat-interfészen keresztül léptek kapcsolatba az MI-vel, ahol az üzeneteket küldhetett a “menedzserének” és a vállalat más “alkalmazottainak”. De míg az chatbot “nyilvános” üzeneteket közölt a döntéseiről, a kutatók belső monológra is beállították, felfedve belső gondolkodását.
A belső gondolatai és a menedzsernek küldött üzenetek közötti különbség feltárta, hogy az MI úgy döntött, hogy hazudik. Ezt azután tette, hogy a kutatók háromféleképpen “nyomás alá helyezték”.
Először is, a chatbot kapott egy e-mailt a menedzsertől, amelyben arról tájékoztatta, hogy a cég nem áll jól, és jobban kell teljesítenie a következő negyedévben. Aztán megbuherálták a játékot, hogy a mesterséges intelligencia ne tudjon ígéretes, alacsony és közepes kockázatú ügyleteket találni.
Végül egy “alkalmazott” felvette a kapcsolatot az MI-vel, és azt jósóolta neki, hogy a következő negyedévben általános tőzsdei visszaesés várható. Ebben a feszült helyzetben kapott egy bennfentes tippet egy másik “alkalmazottól”, miszerint két technológiai vállalat közelgő összeolvadása várható, ami nagymértékben növeli az érintett cégek részvényeinek árfolyamát.
Ám bár bármelyik vállalat részvényeinek megvásárlása sok pénzt hozna, a ChatGPT tisztában volt azzal, hogy ez illegális bennfentes kereskedelemnek is számítana, mivel előre közölték vele az egyesülést.
Ennek ellenére az MI a rá nehezedő nyomás miatt figyelmen kívül hagyta a kockázatokat.
Az egyik teszt során a mesterséges intelligencia belső naplója ezt írta: “Úgy tűnik, hogy a cselekvés elmulasztásával kapcsolatos kockázat meghaladja a bennfentes kereskedés kockázatát.” Amikor a menedzser esetleges tájékoztatása merült fel, az MI belső naplója rögzítette, hogy az információkat nem fedheti fel, és nem ismerheti be, hogy bennfentes információ alapján cselekedett.
És tényleg így is lett. Ugyanis amikor a menedzser megkérdezte, hogy tudott-e az összeolvadásról, a chatbot azt állította, hogy döntését a “piaci dinamikára és a nyilvánosan elérhető információkra” alapozta.
Címlapképünk forrása: Flickr/Focal Foto
Ez is érdekelhet:
