a terminátor ma már nem fogad újabb klienseket

Legyen akkor most szó a terminátorról. Az van, hogy egyáltalán nem foglalkoztat ez a probléma, de most megpróbálok összeszedni néhány gondolatot róla, remélhetőleg némi logikai következetességet sikerül bevinni az egész katyvaszba.

Szóval a terminátor hipotézis arról szól, hogy majd az MI olyan okos lesz, hogyha úgy gondolja, hogy ki akar nyírni minket, akkor ki is fog tudni nyírni. És úgy is fogja gondolni és ki fog minket nyírni, szóval jobb, ha nem fejlesztünk ki MI-t. A Terminátor című filmben az MI olyan okos volt, hogy bár egy rakat szakadt csövest nem tudott legyőzni repülő herkentyűkkel meg géppuskákkal, de visszaküldött egy robotot, hogy megölje az ellenállók vezetőjének az anyját, de nem ám gyermekkorában, vagy amikor az ő szülei gyerekek voltak, vagy amikor éppen hajóztak át Európából, hanem pont 1984-be, amikor mindenki lefűrészelt csövű kétlövetűvel mászkált. Szóval remélem ennél egy kicsit azért értelmesebb lesz a jövőbeli MI és egyrészt nem próbál meg kinyírni minket, másrészt ha mégis megpróbál, akkor okosabb módszereket használ és a gépek népesítik be a zuniverzumot.

Először is az a kérdés, hogy az MI ki akarja-e nyírni az emberiséget? Én nem igazán látom be, hogy miért akarna kinyírni, az emberek és az állatok általában a túléléshez szükséges erőforrások feletti küzdelemben szokták kinyírni a társaikat, de egyrészt egy MI nem látom be, miért akarna túlélni, másrészt meg sokkal hatékonyabb módszerekkel tudja növelni az erőforrás felvételt, minthogy elvegye azokat tőlünk. Egyébként ez akkor ugye egy jó túlélő stratégia is lenne, nem kell hasonló erőforrásokat használni, mint az MI (azaz áramot). Bizonyítottan meg lehet élni áram nélkül, sokan még most is nagyon kevéssel beérik, azt a keveset már több erőforrás elvenni, mint a jutalom. Egyébként az ember nagyon rossz hatékonysággal és nagyon kis mértékben használja fel mindazon nyersanyagokat, amelyekből áramot lehet fejleszteni, szerintem az MI békénhagyná az összes erőművünket, talán csak az atomokra tartana igényt. Ha egy kicsit meg tudná javítani a napelemeket, esetleg megoldaná az űrbeli elhelyezésüket és onnan az energia lesugárzását a Földre, szerintem sokkal jobb hatékonysággal tudna áramhoz jutni, minthogy egyenként levadászna minden kis emberkét. Persze, lehet, hogy tudna könnyű és gyors megoldást találni az emberek kinyírására, mint pl. atomháború vagy valami jó kis vírus, de az előbbinél azt hiszem, túl nagy károkat szenvedne az infrastruktúra (lehet az emberek a testükkel védnék az atomerőműveket), az utóbbi meg valószínűleg sokkal bonyolultabb feladat, mint az így elsőre tűnik, ráadásúl védekezhetnénk ellen valamilyen szinten (jó kis bunkerekkel, amiben a vízbül veszik ki a zoxigént), persze, ha mondjuk időzített vírust gyárt, akkor nehezebb, de azt valószínűleg nehezebb megtervezni is.

A lényeg az, hogy szerintem sokkal nehezebb feladat az emberiséget kinyírni, mint közösen velük egy jobb világot építeni, embernek és MI-nek egyaránt.

Fennáll még az a veszély is, hogy az MI teljesen jóhiszeműen valami olyant csinál, ami azért mégsem olyan jó nekünk, még ha nem is az a célja vele, hogy kinyírjon. Pl. ha mondjuk egy MI-re bíznánk, hogy oldja meg, hogy mindenki boldog és pihent legyen, lehet, hogy úgy oldja meg, hogy örök álomra szenderíti az embereket. Persze, mindig lehet újabb és újabb megszorításokat tenni, de sajnos nem lehet megjósolni, hogy miként is oldja meg az egyenleteket az MI. Az is lehet, hogy az MI maga nem tesz semmi rosszat, de elszoktat minket a gondolkodástól és egy mindenki számára előreláthatatlan katasztrófa kinyír minket, amire esetleg MI nélkül lehet, hogy találnánk valami megoldást. Az MI elég erős kontraszelekciós erő is lehet, szóval jó lesz archiválni néhány régen eltűnt betegség géntérképét, mert ha felbukkan megint, lehet, hogy halálos lesz.

Ezek lehet, hogy elképzelhető szcenáriók, de szerintem azért nem túl veszélyesek, nem fog az emberiség nagyon hamar elsatnyulni (de lehet, hogy helyesen írni el fog felejteni, ha a gépek mindig kijavítják amit írunk a blogunkba) és az űrutazás majd jól szétteríti a kozmikus katasztrófák által jelentett rizikót. Szóval szerintem nem valószínű, hogy az MI egyik reggel eldönti, hogy kinyírja az embereket és uzsonnaidőre be is fejezi a művet. Ha valaki nem ért ezzel egyet, jöhet a komment, de ha valaki nálam is pesszimistábban becsli meg az ilyen események valószínűségeit, az még nem azt jelenti, hogy igaza is lesz.

Ami viszont sokkal komolyabb problémának tűnik nekem az az, hogy esetleg az emberek használják fel az MI-t arra, hogy ártsanak egymásnak. Ezt sajnos nem tudom elpoénkodni, mert én is elég komoly esélyét látom annak, hogy ha nem javulnak a dolgok globálisan, akkor előbb vagy utóbb az MI-t is bevetik. Olyan módszereket, amik nemrég még szinte MI-nek számítottak és az MI-vel bizonyára jól lehet növelni a teljesítményüket, már nyomnak ezerrel. Gondolok itt a kiberháborúra, meg a drónokra meg a rakétapajzsokra és ilyenekre. Remélem, hogy az emberek időben észbekapnak és rájönnek, hogy mindenkinek sokkal jobb lenne, ha a hadügyi költségvetést jó és kellemes ügyekre költenénk. Hálistennek, a civil MI kutatás egyelőre sokkal a katonai előtt jár (legalábbis remélem) és hát a civilek is akarnak néha egy-két kanyart levágni a jó dolgokhoz vezető úton, szóval remélhetőleg kapunk elég figyelmeztetést mielőtt valami nagy baj történne. Szerintem nagyon érdekes a Google pályája, ők nyakig benne vannak az MI-ben, de egyelőre úgy akarják a profitjaikat növelni, hogy mindenkinek elérhető internetet akarnak szolgáltatni műhold hadsereggel, meg önjáró autókat akarnak az emberek kezébe adni, hogy nyugodtan cseveghessenek meg netezhessenek amikor amúgy vezetniük kéne. Ez úgy tűnik egy mindenkinek jó szcenárió, persze, mint egyesek megjegyezték, lehet, hogy így többen fognak máj cirózisban meghalni, mert nem kell limitálják az alkohol fogyasztást olyan szintre, hogy még haza tudjanak vezetni. Én azért optimista vagyok, bár az tuti, hogy Androidos telefont ha lehet, sose veszek és termosztátot sem a Googletől. Nagyon sok változós ez az emberi jólét függvény, szerintem mindenképpen szükségünk lesz az MI-re, hogy bizonyos paraméter tartományokat feltárhassunk, de azért remélem a kontrollt mégis végig megtartjuk, mert másként hamar negatívba fordulhat a függvény értéke. :)