Talán nemcsak az idősebb olvasók emlékeznek a Terminátor-filmekre és „a gépek lázadására”: a történet szerint az eredetileg védelmi célokra kifejlesztett, mesterséges intelligencián (MI) alapuló katonai szuperrendszer, a Skynet „öntudatra ébred”, az emberiség jelentős részét elpusztítja, és minden követ (is) megmozgat, hogy az életben maradt „lázadók” is erre a sorsra jussanak. Az első Terminátor film, a Halálosztó éppen 40 éve debütált a mozikban, az idő pedig neki dolgozott: a mesterséges intelligenciával kapcsolatos aggodalmak még soha nem voltak olyan hangosak, mint napjainkban. Mennyire megalapozottak ezek a félelmek? És mitől kell(ene) tartanunk valójában?
Jó olvasást!
Mi is az öntudat?
Először is szögezzük le: egy, a Skynethez hasonló rendszer „öntudatra ébredése” meglehetősen homályos koncepció. Nem akarok az elmefilozófia mélységeiben elmerülni, de érdemes elgondolkodni, mit jelent az, hogy egy, az ember memóriáját, számítási képességeit sokszorosan meghaladó program „öntudatra ébred”? Hogyan „látja” vajon a világot és benne saját magát? Vajon mi, emberek, képesek vagyunk egyáltalán erről „képet” alkotni? Hiszen még azt is nehezen (valójában nem) tudjuk elképzelni, miként érzékeli a világot egy denevér vagy egy cserebogár!
Másodszor, ha egy MI ellenséget keres, vajon nem inkább egy másik MI-ben találja meg? Elvégre az embernek is saját maga a legfőbb ellensége.
Harmadszor, nem tartom elképzelhetetlennek azt sem, hogy ha egy Skynethez hasonló rendszer önállósulna, akkor az sokáig fel sem tűnne. Miért ne találná meg egy szuperintelligens integritás a módját, hogy kedve szerint manipuláljon bennünket – anélkül, hogy észrevennénk?
Hogyan lehetne kordában tartani?
Egyre többen vannak manapság, akik az MI megregulázása mellett törnek lándzsát. Elon Musk tavaly a párizsi VivaTech-en „a digitális szuperintelligencia negatív következményeire” hívta fel a figyelmet, és kijelentette: támogatja az MI törvényi keretek közé szorítását. A ChatGPT-t kifejlesztő OpenAI vezérigazgatója, Sam Altman az USA szenátoraival folytatott eszmecserén egy „MI- hivatal” felállítását javasolta, amely csak szigorú feltételek teljesülése esetén engedélyezné az MI-modellek kereskedelmi forgalomba hozatalát.
Abban a szerencsés (?) helyzetben vagyunk, hogy nekünk már nem kell sokáig várnunk az MI-törvényre (és az MI-hivatalra). Az első átfogó szabályozás, amely szigorú keretek közé szorítja az MI-fejlesztést és -alkalmazást, ugyanis várhatóan az Európai Unióban lép majd hatályba. A tervezet szerint a minimális elvárások között szerepel majd, hogy minden esetben jelezni kell, ha egy tartalmat a generatív MI állít elő, illegális tartalmat pedig egyáltalán nem állíthat elő. Ezek korántsem a „súlyos” vagy „elfogadhatatlan” kockázatok (azokról is szót ejtek hamarosan), de ne becsüljük le a probléma súlyát. A celebekről szakmányban „gyártott” kompromittáló videók már kiverték a biztosítékot; hasonló eszközök egészen biztosan megjelennek majd (talán már meg is jelentek) a politikai kampányokban, és persze mindenhol, ahol valaki zsarolni akar valakit.
És lássuk, mi is az az „elfogadhatatlan kockázat”! Elfogadhatatlan a tervezet szerint, ha egy MI veszélyeztetett csoportok viselkedését manipulálja, például ha egy gyerekjáték balesetveszélyes tevékenységre biztat. Elfogadhatatlan lesz az is, ha mesterséges intelligenciát használnak valós idejű, távolból vezérelhető biometrikus azonosító – például arcfelismerő – rendszerek működtetésére. (Utóbbiakat persze súlyos bűncselekmények felderítésére és természetesen bírósági engedélyhez kötve azért bevethetik. Kínában ezzel kevesebbet vacakoltak…)
Ilyen irányokban látjuk (látják az unió agytrösztjei) a legsúlyosabb kockázatokat, amelyeket az MI hordoz. Nem kétséges, hogy a területet szabályozni kell. De nyilvánvaló egy nagyon komoly probléma is.
Mindenképpen a jövő része!
Az MI hathatós segítséget nyújthat nekünk az egészségügy vagy az oktatás strukturális problémáinak kezelésében, a termelékenység fokozásában, a biztonságosabb és tisztább közlekedésben, az olcsó és fenntartható energiaellátásban – hogy csak néhány területet említsünk. És ez „csak” a jelen! Az MI azonban nem állítható le, néhány éven belül mindenütt meg fog jelenni és gyökeresen fel fog forgatni mindent. Ennek a folyamatnak a kereteit kell(ene) most, előre lefektetnünk! Ennek megoldásához legalább olyan bölcsnek kellene lennünk, mint az MI maga.
Egy öntudatra ébredt (bármit jelentsen is ez), de baráti Skynet talán nem is jönne rosszul…
