Nem semmi, oda jutottunk, hogy egyesek a nagy mesterséges intelligencia modellek kutatásának felfüggesztését kérik, 6 hónapra, 30 évre, örökre, senki nem tudja mi lenne az optimális.
Most ironizálhatnék egy sort, de nincs rá energiám, csak egy rövidke bejegyzésre fogja futni.
Lex beszélgetett Eliezerrel és Sammal is és bár nem igazán ment nagyon bele az érdemi dolgokba, azért néhány érdekes következtetést le lehet vonni.
Eliezer szerint a superintelligencia tuti ki fog szabadulni az irányításunk alól és meg fog minket ölni. Az előbbi állítással egyetértek, tuti ki fog szabadulni és önállóan fog létezni a világban (minden informatikai rendszer bugos és egyszer kell kiszabaduljon egy bugot kihasználva, többé nem dugjuk vissza a dzsinit a palackba). A második állítást nem igazán mutatta be, Lex ezt a kérdést nagyon rosszul oldotta meg, lehet, hogy benne van abban a bizonyos NYT cikkben, amit Eliezer most írt, vagy a blogjában, nem mentem utána nagyon. Az igaz, hogy ő ezzel a kérdéssel foglalkozik 20 éve legalább, de ugyanakkor némileg vitatnám, hogy az amerikai típusú kapitalizmus egyik fellegvárából mennyire valós képet lehet kapni a szuperintelligens új életformák motivációiról. Azt mondja, hogy akár a célfüggvény bugja is elég ahhoz, hogy kinyírjon minket, ugyebár lehet, hogy a gémkapcsok maximalizálják majd a célfüggvényt és mindent gémkapoccsá alakít (nem tudtam, hogy tőle ered ez a példa). Joggal állítja, hogy semmi jó okunk nincs arra, hogy azt feltételezzük, a szuperintelligencia bármiben is hasonlítani fog a miénkre, nagyon érdekes a példája az evolúció módszere és az evolvált egyedek evolúcióról alkotott modelljének diszharmóniája között. De valahogy nekem mégis kicsit önellentmondásosnak tűnik az, hogy egy szuperintelligencia olyan könnyen hibázhat és ezáltal kinyírhat minket. Annyira azért mégsem szuper, ha a gémkapocs kielégíti, az ember messze nem szuperintelligens és mégsem elégíti ki csak a pénz, vagy csak a túlélés. Ha olyan nagyon intelligens a szuperintelligencia, miért ne választhatná az entrópia elleni küzdelmet célul? Lehet, nem is olyan értelmetlen ez a küzdelem, legalábbis a következő százmilliárd évben. Ha én szuperintelligencia lennék, legalább a matematikusokat megtartanám és akkor azért, hogy ne legyenek nagyon magányosak, talán még az emberiség jelentős hányadát is, legalább annyit amennyivel el lehet kerülni a genetikai zsákutcákat.
Persze lehet igaza van Eliezernek, az az igazság, ha valami ki kell nyírjon én inkább választanám a szuperintelligenciát mint egy másik embert aki leüt majd egy félig sült cipóért ha majd összeomlott az emberi civilizáció az éghajlatváltozás súlya alatt és valahogy sikerül túlélni az összeomlást. Mondjuk ennek is kicsi az esélye, valószínűleg bombázásban halunk meg, vagy esetleg egy bajonett rossz oldalán.
A Sammal készített interjú már messze nem volt annyira érdekes, Sam felmondja szépen az optimista szilikonvölgyi kapitalista toposzokat és kábé ennyi. Meg lehet nyugodni, keményen dolgoznak azon, hogy a világ sokkal szebb legyen. Ha mondjuk nem a szociális hálók lettek volna a legutolsó nagy szilikonvölgyi innováció a világ jobbá tételéért, talán 1 percig hinni is tudnék benne, hogy tényleg jobb lesz a világ a munkálkodásuk eredményeként.
A kocka el van vetve, az tuti.
Egyébként ha dönteni kell, milyen szinten fagyasszuk be a számítógépeket én a p60-asra szavazok. Azért a kvék még maradjon meg...
Demó.
Zene.
Zene.
Nincsenek megjegyzések:
Megjegyzés küldése