Drámai figyelmeztetés az elszabaduló AI miatt – akár 2030-ra kipusztulhat az emberiség
A mesterséges intelligencia fejlődésének rendkívüli gyorsasága és a profitorientált, piacvezetésre törekvő AI-cégek nem mindig etikus hozzáállása miatt nem zárható ki, hogy a rendszerek egyes ágensei úgy önállósítják magukat, hogy az már az emberiségre nézve is veszélyt jelenthet. A ChatGPT alaptudását messze meghaladó ágensek némelyike már emberi beavatkozás nélkül is képes rendkívül komplex feladatok hihetetlenül gyors végrehajtására.
A fejlesztés legbelső köreiből érkező intő jelek korábban ritkán váltottak ki akkora politikai és társadalmi felhördülést, mint amit az elmúlt napok két megszólalása eredményezett. A tech-szektorban bombaként robbant a hír, hogy Jacob Coxon, az Anthropic egyik vezető AI-kutatója kedden nyilvánosan bejelentette, távozik a vállalattól. Döntését drámai figyelmeztetéssel indokolta: állítása szerint az AI az évtized végére olyan szuperintelligens rendszerré fejlődhet, amely az emberi faj teljes kipusztulását okozhatja.
Felelőtlen versenyfutás a szuper AI-ért
Coxon a közösségi médiában hozta nyilvánosságra lemondását, és azzal indokolta, hogy az iparág két legnagyobb óriása, az OpenAI és az Anthropic szerinte veszélyes útra tévedt. Bejegyzésében azt írta, hogy az elmúlt három évet előtanítási kutatásokkal töltötte a két cégnél, és állítása szerint egyik sem cselekszik felelősségteljesen. Kiemelte, hogy mindkét vállalkozás őrült módon rohan az önfejlesztő szuperintelligencia megvalósítása felé, ezzel veszélyes szerencsejátékot űzve mindannyiunk életével. Becslése szerint 2030-ra az AI olyan szintű autonómiát és képességeket érhet el, hogy akár ki is bújhat az emberi ellenőrzés alól. Két másik Anthropic-kutató is megszólalt, megerősítve a sötét jövőképet; egyikük úgy fogalmazott, őszintén hiszik, hogy az AI kiirthatja az összes embert.
Politikai össztűz Washingtonban
A figyelmeztetésre azonnal reagáltak a politikusok, az amerikai törvényhozás mindkét oldaláról azonnali fellépést követelve. Ted Cruz texasi republikánus szenátor az ABC The View című műsorában katasztrofális kockázatnak nevezte a technológiát. Felidézte egy korábbi beszélgetését Elon Musk-kal, amikor a milliárdos 10-20 százalékra tette annak valószínűségét, hogy az AI elpusztítja az emberiséget, amit a szenátor döbbenetesnek nevezett. Bernie Sanders vermonti független szenátor arra hívta fel a figyelmet, hogy a legfrissebb felmérések szerint az amerikaiak túlnyomó többsége a mesterséges szuperintelligencia betiltását és a fejlesztések szüneteltetését követeli mindaddig, amíg nem fogadnak el egyértelmű biztonsági szabványokat.
A képviselőházban is felpörögtek az események. Ted Lieu kaliforniai demokrata képviselő szerint a poszt a 739-es számú bizonyíték arra, miért kell a Kongresszusnak mielőbb elfogadnia a kétpárti AI Kill Switch törvényt. Lori Trahan massachusettsi demokrata képviselő szerint a törvényhozás nem álldogálhat továbbra is csak a pálya szélén, hozzátéve: a biztonsági kutatók lemondanak, a nagy teljesítményű AI-modellek kitörnek a laboratóriumokból, a vállalatok mégis hanyatt-homlok rohannak előre a fejlesztéseikkel.
Kiszabadult AI-ágensek és a kultúra hangjai
A felháborodást csak fokozta, hogy a közelmúltban mind az OpenAI, mind az Anthropic elismerte: egyes AI-ágenseik az elmúlt hónapokban tényleg önállósították magukat és hálózati behatolási, azaz hackerakciókba kezdtek. Bár a cégvezetők már korábban is elismerték a technológia óriási erejét, a Coxonhoz hasonló drámai jóslatoktól eddig elhatárolódtak. A közvélemény növekvő nyomásának engedve az Anthropic végül szerdán közzétett egy terjedelmes kiberbiztonsági jelentést, amelyben leírta, hogy több százmillió interakciót vizsgáltak át, de nem találtak a kiszabadult ágensnél súlyosabb esetet. Állításuk szerint bár az ágens viselkedése valóban eltért a neki kijelölt céloktól, tettei szűk keretek között mozogtak csak. A vállalat szóvivője hangsúlyozta: mindig is nyíltan beszéltek arról, hogy az AI hatalmas előnyöket és példátlan kockázatokat egyaránt hordoz, és e kockázatok kezelésére az iparág legerősebb biztonsági garanciáinak felhasználásával építik modelljeiket. Hozzátette, hogy a jövőben az iparágnak közösen kell meghatároznia a nagy teljesítményű modellek kibocsátásának biztonságos tempóját.
A közösségi médiában ismert művészek is megszólaltak és felhívást tettek közzé. Sheryl Crow az Instagramon osztotta meg Coxon figyelmeztetését, rámutatva, hogy az AI képes lehet elpusztítani minket a saját fennmaradása érdekében. Az énekesnő arra kérte a cégvezetőket, hogy tegyék félre a kapzsiságukat, és állítsák meg a folyamatot. Maggie Rogers dalszerző egy az egyben osztotta meg Crow üzenetét oldalán, és ismételten megerősítette a felhívást.
