Amikor ránk támad az önvezető autónk

2018. március 4., vasárnap 14:21, frissítve: hétfő 07:39

A science fiction művek visszatérő témája, hogy az ember által teremtett mesterséges intelligenciák fellázadnak teremtőik ellen, és adott esetben le is győzik őket. Ilyen apokalipszist festenek le a Terminátor-franchise filmjeiben vagy éppen a Mátrixban. Bár a kitalált világokban megjelenő mesterséges intelligenciáktól messze járunk még, a terület az elmúlt években dinamikusan fejlődik. Igaz, a veszélyek között nem az emberiséget saját hatáskörben leigázó robothadsereg az első, hanem a terrorista, aki arcfelismerő orgyilkos eszközzé alakítja a házhoz szállító kereskedelmi drónt.

Az elmúlt év szinte minden hónapjára jutott egy-egy, a mesterséges intelligencia (MI) és a gépi tanulás fejlődéséről szóló remek hír. Az AlphaGo nevű szoftver például legyőzte a világ legjobb gojátékosának tartott Ko Csiét, majd következő verziója, az AlphaGo Zero az elődjét verte tönkre a bonyolult játékban úgy, hogy emberi segítség nélkül tanulta meg. A különféle, mesterséges intelligenciát használó megoldások egyre szélesebb körben jelennek meg mindennapjainkban is a fordítóprogramoktól kezdve az orvosi szoftvereken, a hangirányítású asszisztenseken át az önvezető autókig.

Miközben azonban a mesterséges intelligencia kutatása és fejlesztése ilyen biztató ütemben fejlődik, elfeledkezünk odafigyelni a veszélyeire – ezt állítja legalábbis tizennégy neves egyetem, kutatóintézet és magáncég huszonhat kutatója egy százoldalas tanulmányban. A szerzők szerint a mesterséges intelligenciák és a gépi tanulás által kínált megoldásokat ugyanis az életünket kényelmesebbé tevő alkalmazások mellett negatív következményekkel járó dolgokra is fel lehet használni. A legújabb fejlesztések nyomán különösképpen a kiberbiztonság, a különböző távoli irányítású fegyverek és járművek kezelése, illetve a politikai befolyásolás terén kell egyre nagyobb kihívásokkal szembenézni.

Az MI-k használata egyrészről a már most is meglévő támadási formákat teszi sokkal hatékonyabbá, másrészről teljesen új módszereket teremt. A tanulmány szerint a kiberbiztonságot azért veszélyezteti az MI-k csatarendbe állítása, mert olyan mértékű támadásokat tesznek lehetővé, amelyek eddig túlságosan munka- és költségigényesek voltak; vagy olyanokat, amelyek eddig használt biztonsági megoldásokat játszanak ki. Egy mesterséges intelligenciával például hamarosan egészen jól másolható lesz például egy ember beszédhangja, ami a hangazonosítást teszi bizonytalanná. A virtuálison túl a fizikai térben is nagy veszélyt jelenthet például, ha valaki MI-k segítségével automatizált fegyverrendszereket hoz létre, vagy éppen önvezető autókat, drónokat térít el. A politika terén pedig az automatizált megfigyelés, az eddig összegyűjtött adatbázisok automatizált feldolgozása, majd ezek felhasználása vagy például a tökéletes minőségű hamisított videók létrehozása jelenthet gondot.

– A különböző MI-rendszerek gyakran nemcsak hogy elérik, de túl is lépik az emberi teljesítőképesség határait. Aggasztó, de szükséges megfontolni az emberen feletti hekkelés-, megfigyelés-, meggyőzésimplikációt, ahogy az MI-k olyan képességeit is, amelyek ugyan nem érnek fel az emberhez, de a skálázhatóság miatt sokkal hatékonyabban alkalmazhatók – mondta a Gizmodónak Miles Brundage, a tanulmány egyik készítője. A kutatók szerint az MI-k segítségével rendkívül költséghatékony, egyúttal a korábbinál sokkal finomabban célzott támadásokat lehet majd indítani, erre pedig fel kell készülnie a társadalomnak – mert bizonyára lesznek olyanok, akik ezt ki akarják használni.

Magyar Nemzet hírlevél

Legizgalmasabb cikkeink naponta egyszer az ön e-mail-fiókjában!

A feliratkozással beleegyezik abba, hogy a Magyar Nemzettől hírlevelet vagy cikkeinkről szóló üzenetet kapjon postafiókjába. A szolgáltatásról bármikor leiratkozhat.

Ez az emailcím nem érvényes

A tanulmány éppen ezért különböző javaslatokkal is él azzal kapcsolatban, hogy merre kéne mozdulni. Az öt legfontosabb ajánlásuk egyike, hogy a terület kutatóinak el kell ismerniük az MI-k és a gépi tanulás kutatásának kettős természetét, tehát azt, hogy nem csak pozitív célokra lehet használni az eredményeket, és meg kell vizsgálniuk a hasonlóan kétélű tudományterületek jó gyakorlatait. Ezenkívül a törvényhozóknak szorosan együtt kell működniük a technológia kutatóival, hogy megelőzzék az MI-k rosszindulatú felhasználását.

A Gizmodónak nyilatkozott Ilia Kolochenko, a High-Tech Bridge nevű online biztonsági cég vezetője, aki szerint a tanulmány készítői eltúlozzák a kockázatokat, a következő évtizedben semmilyen drámai változás nem várható a területen. Szerinte a bűnözők már most is használnak alapvető gépi tanulási technológiákat, de azok azért lehetnek sikeresek, mert a különböző védelmi rendszerek felépítésére nem fordítottak elég figyelmet az érintett cégeknél. Az sem elhanyagolható faktor, hogy ezeket a technológiákat a „jófiúk” is használják, ráadásul nekik sokkal több forrásuk van a fejlesztésre, mert ez kifejezetten forrásigényes terület.

A kutatók által félt jövő eközben már itt van a kapuk előtt: tavaly decemberben olyan hamisított, de teljes mértékben hitelesnek tűnő pornóvideók kerültek fel az internetre, amelyekben algoritmus segítségével híres színésznők arcával helyettesítették a vásznon a pornószínésznők arcát. Ez persze ártatlan csínynek tűnik, de képzeljük el, ahogy például Orbán Viktor egy teljesen hitelesnek tűnő videón arról beszél, hogy minden migránst be szeretne fogadni Magyarországra, és máris világos, mekkora veszélyt jelentenek a „deepfake” (mélykamu) videók.

Ennek a cikknek a nyomtatott változata a Magyar Nemzetben jelent meg. A megjelenés időpontja: 2018.03.03.

Legolvasottabb cikkek

A szerkesztő ajánlja

Molnár Csaba

176 millió kamera kereszttüzében: a kínai Nagy Testvér mindenkire odafigyel

Az, ami Orwell idejében még disztópiának tűnt, a mindent látó kamerának hála szép lassan valósággá válik.

Pethő Tibor

1938. augusztus 25. – 2018. április 11.

Elhallgatni nem fogunk. Várunk, reménykedünk, imádkozunk. Mert lehet egy újságnak bárki is a tulajdonosa, azt pontosan tudjuk, hogy a mi igazi „gazdánk” az olvasó.

Stier Gábor

Szomorú búcsú Eraszt Fandorintól

Borisz Akunyin húsz év után nemcsak világhírű regényhősét, hanem a kilencvenes években az orosz jövőről szőtt álmait is eltemeti.

Lakner Dávid

Lajcsika, ha te mindig játszol, miből éltek?

Inkey Alice Szőts Istvánról, Latinovits jókedvéről és Kosztolányi Dezső fekete pöttyös nyakkendőjéről.