vasárnap, február 14, 2021

nem 100 milliárd, hanem 100 trilliárd

Jobb lesz, ha maradok a mesterséges intelligencia kommentálásánál. Akkor legalább a hülyeségeim nagyobbat fognak szólni. :)

Szóval az előző bejegyzésben azt írtam, hogy az emberi agyban 100 milliárd kapcsolat van, pedig az a neuronok száma. Minden neuron átlagosan 1000 másik neuronnal kapcsolódik, tehát összesen 100 trilliárd, azaz 100 * 10^12. Fontos ez a szám, mert bár nagy, egyre közelebb kerül. Utólag így is esett le, hogy hibáztam, hiszem a 100 milliárd kapcsolat, az csak 100 gigabájt memóriát igényelne, ha minden kapcsolathoz elég 1 bájt, ami valószínűleg egyébként így is lesz. A 100 gigabájt ram meg már ma sem olyan veszélyes, egy jobbacska gépben már simán lehet ennyi.

Na most a 100 trilliárd sem olyan veszélyes, elvileg az ugye 100 terabájt ram, a szuperszámítógépekben már petabájtban mérik a ramot. 2029-ben gondolom egy 100 ezer dolláros gépben már lesz ennyi ram. Elvileg az agyban a neuronok azért sokkal lassabban küldik a jelet, mint amit egy számítógép tud, ha jól emlékszem, csak 10-szer tud szpájkolni egy neuron másodpercenként, de viszont az összes tud párhuzamosan, de ha jól számolom, már a mostani gépek tudnak 10 műveletet elvégezni minden egyes bájttal a ramban és megvan a sávszélességük is hozzá (a 3090-esnek 24 giga memóriája van, amelyet viszont 935 giga/s sávszélességgel ér el, tehát minden egyes bájtot cirka 39-szer és 35 teraflop a single precision műveletvégzése, azaz cirka 10000 műveletet tud elvégezni minden egyes bájttal, tehát minden olvasás/írás között is 2x250-et). Na most az elvégzett műveletek valószínűleg nagyon egyszerűek az agyban, összeadás és kivonás talán elképzelhető, meg valamilyen thresholdolás, szóval a lényeg az, hogy számítási kapacitásban már tudnánk az agyat utánozni (már ha helyes a modellünk, de ebbe most nem fogok belemenni).

Az a bökkenő, hogy 40000 ilyen 3090-es gpu kell ahhoz, hogy elérjük az agy kapacitását. Az azért nem fér bele egy asztali gépbe, még jó 20-30 évig. Gondolom a következő 10 évben nagyjából két nagyságrendet sikerül majd ledolgozni, tehát 400 darab 13090-es gpu kell majd. Ha marad az áruk 1500 dollár darabonként, akkor az csekély 600000 dollár. Lehet kezedni félrerakni az üres üvegeket. Én persze rengeteg üres sörös üveghez jutok majd 2029-ben, mert a gúgel vagy a májkroszoft (vagy uram bocsá a fészbukk) addig tuti megcsinálja a százszor ekkora rendszert amivel nem kell 18 év, hogy egy valamire való intelligenciát faragjunk és megnyerem a fogadást a rengeteg (na jó, 20 alatt, ha jól emlékszem) ember ellen akivel ebben fogadtam.

Utána meg más csak egy köpés a szingularitás.

Zene. Akkor legyen egy olyan csatorna, ahol egy mostani buta kis mesterséges intelligencia próbálja folytatni a már megkezdett számot. Ebből egyetlen következtetést érdemes levonni, mégpedig azt, hogy jövőre sokkal jobb lesz. :)

Pikszelek. Egy fickó, Glenn Marshall, akit még a processzinges időkből követek most átnyergelt a neurális művészetekre.

Nincsenek megjegyzések: