Tegnap este söröztünk a régi haverokkal, két újabb fogadást kötöttem, mondjuk ezek már nagyon időszerűek voltak, tekintve, hogy ugyanezekkel az emberekkel szoktam megvitatni ezeket a szingularitásos dolgokat. Szóval most Áfra Attila és Bodó Zalán hívta ki a sorsot maga ellen. :)) Ezzel már 9 láda sör fog gazdát cserélni 2029-ben, remélem, én az érkezési oldalon állok majd. :)))
Egyébként egy kicsit elkedvetlenedtem a szingularitás követés blogolásával kapcsolatban, elvégre én nem csinálom ezeket a dolgokat, csak írok róluk, de még sokan írnak, szóval nincs nagy értelme nekem is írnom. Végül mégis úgy döntöttem, talán olyanok, akik nem nagyon jártasak a témában, tangenciálisan érdekli őket, de nem annyira, hogy komolyabban utána nézzenek, talán érdekesnek találhatják ezeket a bejegyzéseket, szóval mégis folytatom még egy ideig. Az is baj, hogy szeretnék kicsit jobban informált bejegyzéseket írni, mint amit egy rövidke hír továbbadásából lehet produkálni, de túl lusta vagyok komolyabban utánajárni dolgoknak.
Áprilisban 2 cikkről írtak, nem sokkal egymás után, amelyeket relevánsnak éreztem.Mindkettő letölthető. Az első, open access folyóíratban jelent meg és azt boncolgatja, hogy milyen pályát járhat be a neuromorfikus áramkörök fejlődése, kiindulva abból, hogy a hagyományos processzorok technológiája használható az elkészítésükre, de egyelőre, mivel még nem használják őket elterjedt körök, rendesen le vannak maradva a csúcstechnológiától. A lényeg, hogy ezek a csipek jobban tudják majd emulálni az agyat, mint a hagyományos processzor architektúrák, de még 10 nm-s csíkvastagságnál is nagyon sok kell majd belőlük, de lényegesen kevesebb, mint hagyományos processzorból. Az az igazság, hogy szenvedtem egy kicsit ezzel a cikkel, lehet, hogy velem van a baj, de nagyon nem találtam jól olvashatónak, néhol úgy tűnt, mintha osszeollózták volna, de nem nagyon figyeltek oda, hogy a mondatok alanya ne változzon a bekezdésen belül. Szóval nem egészen tiszta számomra, hogy mi is volt a mondanivaló, de azt azért jó tudni, hogy egyesek nagyon komolyan foglalkoznak a neuromorfikus csipekkel, ami kétségtelenül egy érdekes irány, szerintem nem lesz rá szükség az emberi szintű mesterséges intelligencia megalkotásához, de lehet próbálkozni vele, mert elég plauzibilis iránynak tűnik.
A második (cold link) egy stanfordi rendszerről számol be, ami 1 millió neuront tud szimulálni már. Egyelőre 40 ezer dollárba kerül, de ha tömegesen lehetne termelni, akkor csak 400-ba kerülne. Ennél az agy 100 ezerszer bonyolultabb, szóval még egy kicsit sokba kerülne, de az irány mindenképpen bíztató, ráadásul mintha 450 nm-s technológiával készült, most meg a 20 nm a menő. Ennek a cikknek az olvasását hamar feladtam, a fizikai részletek már nem nagyon érdekeltek.
Szép dolgok ezek a neuromorfikus csipek, szép dolgok a neuronok, de szerintem nincs sok közük igazából az intelligenciához. Az igaz, hogy egyelőre ezt az egy megvalósulását ismerjük az általunk magasabb szintűnek tartott intelligenciának, de szerintem óriási széles az intelligencia spektruma és ez csak egy csepp a tengerben. A mesterséges intelligenciák létrehozza kétség kívűl kitágítja majd a lehetőségeinket a tenger felfedezésében, de van egy olyan érzésem, hogy még így is csak egy kis tavacskányit ismerünk meg, aztán majd jönnek szép sorban az idegen intelligenciák és ámulni fogunk rendesen. :)))) Szóval azt azért nem elfelejteni, hogy a szuper agyunknak szinte teljesen megoldhatatlan feladat két 10 jegyű számjegy összeszorzása segédeszközök (papír, ceruza) nélkül (én már 5 jegyűeknél feladtam, amikor elvégeztem ezt a kísérletet). Persze, segédezközökkel már elég messze juthatunk, de azért mégsem olyan mindenható architektúra az az agy.
Most ennyi. Megint nincs kedvem részletezni azt, hogy miért vagyok ennyire meggyőződve ezekben a dolgokban, meg, hogy miért bízom benne, hogy végül mégis minden jóra fordul, de majd apránként talán.
vasárnap, május 11, 2014
szombat, április 12, 2014
esment
Bár a blogba írok, még nem biztos, hogy blogot. Bár néha még eszembe jut, hogy milyen jó lenne fogalom nélkül fosni a szót, már rég nem elég erős ez a késztetés ahhoz, hogy valami látszata is legyen. Inkább havonta egy-két hírt fogok kommentálni röviden, olyasmiket, amikről általában a kurzweilai és a nextbigfuture oldalain már találkozhatott aki akart. Ezekből a hírekből is csak a mesterséges intelligenciára vonatkozókról fogok írni, bár eszméletlen érdekes és szédítő dolgokkal foglalkoznak a nanotechnológusok meg a molekuláris biológusok, jobb ha meghagyom a hozzáértőknek, hogy erről írjanak. Valószínűleg ugyanolyan fontosak ezek a dolgok a szingularitás szempontjából mint maguk a mesterséges intelligencia kutatások, amik az egész alapját képezik, de azért mégse írok róluk, mert nem értek hozzájuk, meg aztán, ha visszavonnak egy őssejtes cikket, az sokkal furább, mint ha mondjuk egy új osztályozó algoritmusról kiderül, hogy csak az almák és körték esti fényben megvilágított fotóinak szétválasztásában jeleskedik. Ettől függetlenül, a gépi intelligencia fejlődésének általános elméletéhez nagyon sokban hozzájárulnak mindezek az alkalmazási területek.
De azért néha írok személyeset is. Pl. most, hogy felmondtam a Gameloftnál és átmentem a Garminhoz programozni. A mai free-to-play játékoknak már nincs sok közük azokhoz, amelyek engem jó 20 éve annyira megfogtak, hogy (úgy tűnik) örökre eldöntsék a munkakört amiből megpróbálok megélni. Egy csöppet sem bánkódom, hogy nem kell tovább toljam azokat a cuccokat, amiknek a szekerét eddig toltam.
A múlt havi szingularitásos hír az volt, hogy a Facebookos deep learning csoport emberi szinten tudja már megoldani azt a feladatot, hogy két fényképről eldöntse, hogy ugyanazt a személyt ábrázolja-e? A legjobb ebben az, hogy csak nagyon kicsi neuron hálót használnak (mindössze 120 millió kapcsolat, a neuronok számát nem néztem, de gondolom 3-4 nagyságrenddel kissebb), ami sokkal kissebb, mint amennyit az emberi agy használhat a teljes látás megoldására (bizonyára sok milliárd, igaz, olyan trükkökre is képes, hogy felismerjen egy embert vagy egy filmet 20 év távlatából). Egy kis trükk azért még itt is van, szemből nézetbe forgatják az arcot és remélik, hogy szimmetrikus, de szerintem ez már eléggé túlmutat a narrow AI problémán (erről majd máskor).
Az, hogy a Facebook is belépett az AI háborúba végre, engem sokkal optimistábbá tesz a szingularitás (izé, inkább emberi szintű mesterséges intelligencia) eljövetelének gyorsaságának tekintetében. Jól fel fognak pörögni hamarosan a dolgok a Google, Microsoft, IBM, Facebook, Amazon (valamint a kissebbek, mint Apple, Yandex, Sony, Samsung, Disney, stb.) harcterén. Lehet nemsokára megkezdik a szövetségek megalakítását, nem lepne meg egy Microsoft-IBM szövetség, vagy egy Facebook-Apple szövetség.
Levezetésként pedig jöhet a Paprika főcím nyitó képsorai, szerintem a legjobbak amellyel film vagy animáció valaha megáldatott.
De azért néha írok személyeset is. Pl. most, hogy felmondtam a Gameloftnál és átmentem a Garminhoz programozni. A mai free-to-play játékoknak már nincs sok közük azokhoz, amelyek engem jó 20 éve annyira megfogtak, hogy (úgy tűnik) örökre eldöntsék a munkakört amiből megpróbálok megélni. Egy csöppet sem bánkódom, hogy nem kell tovább toljam azokat a cuccokat, amiknek a szekerét eddig toltam.
A múlt havi szingularitásos hír az volt, hogy a Facebookos deep learning csoport emberi szinten tudja már megoldani azt a feladatot, hogy két fényképről eldöntse, hogy ugyanazt a személyt ábrázolja-e? A legjobb ebben az, hogy csak nagyon kicsi neuron hálót használnak (mindössze 120 millió kapcsolat, a neuronok számát nem néztem, de gondolom 3-4 nagyságrenddel kissebb), ami sokkal kissebb, mint amennyit az emberi agy használhat a teljes látás megoldására (bizonyára sok milliárd, igaz, olyan trükkökre is képes, hogy felismerjen egy embert vagy egy filmet 20 év távlatából). Egy kis trükk azért még itt is van, szemből nézetbe forgatják az arcot és remélik, hogy szimmetrikus, de szerintem ez már eléggé túlmutat a narrow AI problémán (erről majd máskor).
Az, hogy a Facebook is belépett az AI háborúba végre, engem sokkal optimistábbá tesz a szingularitás (izé, inkább emberi szintű mesterséges intelligencia) eljövetelének gyorsaságának tekintetében. Jól fel fognak pörögni hamarosan a dolgok a Google, Microsoft, IBM, Facebook, Amazon (valamint a kissebbek, mint Apple, Yandex, Sony, Samsung, Disney, stb.) harcterén. Lehet nemsokára megkezdik a szövetségek megalakítását, nem lepne meg egy Microsoft-IBM szövetség, vagy egy Facebook-Apple szövetség.
Levezetésként pedig jöhet a Paprika főcím nyitó képsorai, szerintem a legjobbak amellyel film vagy animáció valaha megáldatott.
kedd, március 25, 2014
megint
A hétvégén megint voltam a Hargitán a szokásos táborban. Képek itt.
Újabb fogadást kötöttem a 2029-es emberi szintű mesterséges intelligencia létrejöttéről, ezúttal Szélyes Leventével. Továbbá fogadtam egy láda sörben valami socketes/portos témában Szilágyi Péterrel és el is vesztettem.
Valószínűleg visszatérek a blogíráshoz, hogy dokumentáljam a szingularitásos híreket. De nem ma.
Újabb fogadást kötöttem a 2029-es emberi szintű mesterséges intelligencia létrejöttéről, ezúttal Szélyes Leventével. Továbbá fogadtam egy láda sörben valami socketes/portos témában Szilágyi Péterrel és el is vesztettem.
Valószínűleg visszatérek a blogíráshoz, hogy dokumentáljam a szingularitásos híreket. De nem ma.
péntek, január 04, 2013
i am not amused
Történt, hogy vettem Eszternek valamilyen hajmicsodát és hát gondoltam, hogy ennyi pénzre már videokártyát is lehet venni, szóval akkor vegyünk is egyet. Egészen véletlenül a listában legfelül ugyanolyan árban volt is egy, NVIDIA is volt, nosza megvesszük. Ma érte is mentem és itt kezdődtek a gondok.
Szétszedem a gépet, kiszedek egy adag port, aztán még egy adagot, aztán a régi videókártyát. Beteszem az újat, de semmi nem jelent meg a monitoron, csipogni se csipogott semmit. Na jó, próbáljuk sima vga kábellel, az se volt jó. Próbáljuk még párszor, szedjük szét a gépet, mozgassuk meg a kártyát, semmi. Hívjuk fel a havert, aki azt tippeli, hogy biztos bios frissítés kell majd. Hoppá, az iPaden megnézem, hogy volt is egy frissítés 2009-ben, ami bizonyos videókártyák felismerésére teszi hajlandóvá a gépet. Tegyük vissza a régi videókártyát, még egy kis port kiszedünk, bios letölt, de hogyan tegyük fel, éppen kihúztam a lemezmeghajtót, mondván, hogy az utóbbi 4 évben soha nem használtam, de a bios frissítő program csak dos alatt indul el. Fantasztikus, de szerencsére a mostani biosban is van egy bios frissítő alkalmazás beleégetve és még lemez se kell, megy pendrájvról. Na, ez ment is, így már megy az új videókártya. Töltsük le hozzá a hivatalos MSI drájvert, mert az ASUS dvd íróm még soha egyetlen cd-t be nem tudott olvasni és persze azon vannak a dobozban mellékelt drájverek. Az MSI oldaláról 50 kilóval jön a 180 megás fájl, de sebaj, egy óra és meg lesz. 160 megánál megszakad a kapcsolat, na jó, akkor jó lesz az NVIDIA drájver is. Csakhogy azzal sehogy sem akart standard EGA módnál többet kihozni. Sebaj, feltesszük mégegyszer, hátha az segít. Segített.
Hurrá, megy a GTA4. Meneget. Megcsinálom kb. a harmadik küldetést, miközben azon gondolkodom, hogy nem nagy fun ez már. Amikor ki akarom menteni az állást (a 2011 júniusi mentésemet felülírva), lefagy.
Kezdem sejteni, miért haldoklik a PC.
Szétszedem a gépet, kiszedek egy adag port, aztán még egy adagot, aztán a régi videókártyát. Beteszem az újat, de semmi nem jelent meg a monitoron, csipogni se csipogott semmit. Na jó, próbáljuk sima vga kábellel, az se volt jó. Próbáljuk még párszor, szedjük szét a gépet, mozgassuk meg a kártyát, semmi. Hívjuk fel a havert, aki azt tippeli, hogy biztos bios frissítés kell majd. Hoppá, az iPaden megnézem, hogy volt is egy frissítés 2009-ben, ami bizonyos videókártyák felismerésére teszi hajlandóvá a gépet. Tegyük vissza a régi videókártyát, még egy kis port kiszedünk, bios letölt, de hogyan tegyük fel, éppen kihúztam a lemezmeghajtót, mondván, hogy az utóbbi 4 évben soha nem használtam, de a bios frissítő program csak dos alatt indul el. Fantasztikus, de szerencsére a mostani biosban is van egy bios frissítő alkalmazás beleégetve és még lemez se kell, megy pendrájvról. Na, ez ment is, így már megy az új videókártya. Töltsük le hozzá a hivatalos MSI drájvert, mert az ASUS dvd íróm még soha egyetlen cd-t be nem tudott olvasni és persze azon vannak a dobozban mellékelt drájverek. Az MSI oldaláról 50 kilóval jön a 180 megás fájl, de sebaj, egy óra és meg lesz. 160 megánál megszakad a kapcsolat, na jó, akkor jó lesz az NVIDIA drájver is. Csakhogy azzal sehogy sem akart standard EGA módnál többet kihozni. Sebaj, feltesszük mégegyszer, hátha az segít. Segített.
Hurrá, megy a GTA4. Meneget. Megcsinálom kb. a harmadik küldetést, miközben azon gondolkodom, hogy nem nagy fun ez már. Amikor ki akarom menteni az állást (a 2011 júniusi mentésemet felülírva), lefagy.
Kezdem sejteni, miért haldoklik a PC.
vasárnap, december 30, 2012
még...
... van pár perc amig kezdődik a Mission Impossible 4 a HBO-n, szóval még blogoljunk...
wow, az ARCA fogja tesztelni az ExoMars ejtőernyőjét... ajaj, az egy rém fontos része egy Mars szondának, szóval sok sikert fiúk (és lányok).
az egyetlen újévi fogadalmam, hogy jövőre nem fogok új iPadet venni, bármivel is jön ki az Apple.
ehh... ennyi mára... és idénre... BUÉK mindenkinek!
wow, az ARCA fogja tesztelni az ExoMars ejtőernyőjét... ajaj, az egy rém fontos része egy Mars szondának, szóval sok sikert fiúk (és lányok).
az egyetlen újévi fogadalmam, hogy jövőre nem fogok új iPadet venni, bármivel is jön ki az Apple.
ehh... ennyi mára... és idénre... BUÉK mindenkinek!
izé
Most Balázs Miklóssal fogadtam abban, hogy az első "igazán kreatív" programnak szüksége lesz-e igazi kvantum véletlenszám generatorra, vagy nem? (szerintem nem) Itt még időpontot sem határoztunk meg, hogy meddig kell létrejöjjön ez a program, de nem tartom valószínűnek, hogy 2029 után már sokat kell majd várni. Ja és persze, 1 láda sör a tét...
Egyébként meg le kéne jegyezzem, hogy kikkel is fogadtam a szingularitás 2029-ig dologban, mert igazából már elfelejtettem. A bejegyzések megvannak (itt, itt és itt), de ebből csak az derül ki, hogy eddig 6 emberrel fogadtam (és idénre ezt a tevékenységet már fel is függesztem, jövőre persze újabb potenciális sör-adakozókat várok).
Szóval eddig azt hiszem, Bodó Zalánnal, Bócsi Botival, Zölde Attilával és Szilágyi Péterrel fogadtam, a maradék két embert kérném jelentkezzen (illetve amikor legközelebb sörözünk együtt, rákérdezek a társaságra, mert nem hinnem, hogy olvassák a blogomat, vagy ha igen, akkor bocsi).
Addig is, itt egy cikk, hogy milyen jó lesz, ha majd a robotok veszik át a legtöbb ma ismert munkakört (mert bizonyára nekünk újabb, érdekesebb állások maradnak). Ez az érvelés egyébként egy kicsit hasonlít a 2029-eshez, mert az is csak azt mondja, hogy mivel a fizikai (számítási) lehetőségek nagyjából adottak lesznek, ezért valahogy egy igazán okos mesterséges intelligencia is létre kell jöjjön addig. Hasonlóan, bár eddig csak nőtt az emberiség számossága és újabb és újabb technológiák szorították ki a régi mesterségeket (ugyebár nem sok kovács van már és hát a játékprogramozó munkakör se nagyon létezett 1970 előtt), ezért a mostani nehéz és könnyű iparra is ez a sors vár. De ahogy eddig is tudtunk újabb és újabb munkát találni az embereknek, úgy ezután is fogunk tudni. Én bízom benne, hogy igen, mert ha nem, akkor nagyjából már úgyis mindegy lesz. Persze a mostani gazdasági válságos légkör nem sok optimizmusra ad okot, de én egyébként nem jöttem ki rosszul abból, hogy ott kellett hagynom a régi munkámat és újat kellett keressek.
Egyébként arra való tekintettel, hogy melyik lesz a legnagyobb cég 2029-ben, a Google, a Microsoft, vagy az Apple, messze nem mernék jóslatokba bocsájtkozni (csak egy kicsit, szerintem a Google, de legjobban annak örülnék, ha a SpaceX lenne :)).
Egyébként a karácsonyi Steam vásárban idén csak a Manhuntot vettem meg, iPadon meg a Civilization Revolutiont, aprítom a népeket az aztékokkal.
Egyébként meg le kéne jegyezzem, hogy kikkel is fogadtam a szingularitás 2029-ig dologban, mert igazából már elfelejtettem. A bejegyzések megvannak (itt, itt és itt), de ebből csak az derül ki, hogy eddig 6 emberrel fogadtam (és idénre ezt a tevékenységet már fel is függesztem, jövőre persze újabb potenciális sör-adakozókat várok).
Szóval eddig azt hiszem, Bodó Zalánnal, Bócsi Botival, Zölde Attilával és Szilágyi Péterrel fogadtam, a maradék két embert kérném jelentkezzen (illetve amikor legközelebb sörözünk együtt, rákérdezek a társaságra, mert nem hinnem, hogy olvassák a blogomat, vagy ha igen, akkor bocsi).
Addig is, itt egy cikk, hogy milyen jó lesz, ha majd a robotok veszik át a legtöbb ma ismert munkakört (mert bizonyára nekünk újabb, érdekesebb állások maradnak). Ez az érvelés egyébként egy kicsit hasonlít a 2029-eshez, mert az is csak azt mondja, hogy mivel a fizikai (számítási) lehetőségek nagyjából adottak lesznek, ezért valahogy egy igazán okos mesterséges intelligencia is létre kell jöjjön addig. Hasonlóan, bár eddig csak nőtt az emberiség számossága és újabb és újabb technológiák szorították ki a régi mesterségeket (ugyebár nem sok kovács van már és hát a játékprogramozó munkakör se nagyon létezett 1970 előtt), ezért a mostani nehéz és könnyű iparra is ez a sors vár. De ahogy eddig is tudtunk újabb és újabb munkát találni az embereknek, úgy ezután is fogunk tudni. Én bízom benne, hogy igen, mert ha nem, akkor nagyjából már úgyis mindegy lesz. Persze a mostani gazdasági válságos légkör nem sok optimizmusra ad okot, de én egyébként nem jöttem ki rosszul abból, hogy ott kellett hagynom a régi munkámat és újat kellett keressek.
Egyébként arra való tekintettel, hogy melyik lesz a legnagyobb cég 2029-ben, a Google, a Microsoft, vagy az Apple, messze nem mernék jóslatokba bocsájtkozni (csak egy kicsit, szerintem a Google, de legjobban annak örülnék, ha a SpaceX lenne :)).
Egyébként a karácsonyi Steam vásárban idén csak a Manhuntot vettem meg, iPadon meg a Civilization Revolutiont, aprítom a népeket az aztékokkal.
vasárnap, november 11, 2012
szombat, november 10, 2012
A mai ize
Mi lesz, ha a mesterseges intelligencia amit az emberiseg problemainak megoldasara hozunk letre megtalalja a 9gag-et es nem tud lejonni rola?
Egyelore az internetes memek szaporodasa messze lehagyja Moore torvenyet.
Egyelore az internetes memek szaporodasa messze lehagyja Moore torvenyet.
vasárnap, november 04, 2012
még izék ömlesztve
novemberben egyesek nem borotválkoznak. mások regényírásra adják a fejüket. elhatároztam, hogy minden novemberi hétvégén próbálok írni a blogba. ha lehet, mindkét nap.
csak Bobak iráni származású, Steve valójában szíriai. ennyit a közel-keleti ismereteimről.
a pc éra véget ért, nem azért, mert az Apple csillió iPad-et ad el, hanem azért, mert a Microsoft feladta. a pc-nek nagyon hiányzik egy killer app. erre a Microsoft ahelyett, hogy ezt megcsinálná, inkább beszáll a tablet piacba. most, hogy van nekem is iPadem, nem is síratom olyan nagyon a pc-t. programozni valószínűleg mindig asztalnál fogunk, billentyűzettel, de a többi valószínűleg előbb-utóbb eltűnik. lehet, jobb is így, a számítógépek kikerülnek a szabadba, a való világnak kell majd megfeleljenek, nem egy sarokban kell szípják a port. elkel majd az a 48 magos intel proci.
vajon a Googlenél a youtube feltöltéseket betömörítő gépek száma konstans vagy gyorsabban nő a youtube mint Moore törvénye? lesz ebből még probléma? gondolom csak akkor, ha nem sikerül a tévé társaságokat kinyírni. mi is néztük Baumgartnert ugrani, nem semmi infrastruktúra kellhet 6 millió néző egyidejű kiszolgálásához. tcp/ip-n.
93 júniusában a leggyorsabb szuperszámítógép linpack teljesítménye 60 gigaflop volt, mint egy mostani jobb procié. 20 év múlva mit is fogunk játszani 20 petaflopon? Doom 7-ben az impek minden szőrszála szimulálva lesz. és valószínűleg külön programozót vesznek fel erre az egyetlen feladatra.
a Marson mégsincs metán. viszont van Curiosity. legjobb dolog a heti rendszerességű Curiosity Rover Report.
gondolom mostanában a legnagyobb buzz az amerikai elnökválasztás körül van, szóval akkor kéne szkórolni ebben a sajátvektorban is. Hajrá Obama (bár a béke Nobel díjat akkor sem érdemelte ki, főként miután kilőtte a Recycle Bin-t)!
csak Bobak iráni származású, Steve valójában szíriai. ennyit a közel-keleti ismereteimről.
a pc éra véget ért, nem azért, mert az Apple csillió iPad-et ad el, hanem azért, mert a Microsoft feladta. a pc-nek nagyon hiányzik egy killer app. erre a Microsoft ahelyett, hogy ezt megcsinálná, inkább beszáll a tablet piacba. most, hogy van nekem is iPadem, nem is síratom olyan nagyon a pc-t. programozni valószínűleg mindig asztalnál fogunk, billentyűzettel, de a többi valószínűleg előbb-utóbb eltűnik. lehet, jobb is így, a számítógépek kikerülnek a szabadba, a való világnak kell majd megfeleljenek, nem egy sarokban kell szípják a port. elkel majd az a 48 magos intel proci.
vajon a Googlenél a youtube feltöltéseket betömörítő gépek száma konstans vagy gyorsabban nő a youtube mint Moore törvénye? lesz ebből még probléma? gondolom csak akkor, ha nem sikerül a tévé társaságokat kinyírni. mi is néztük Baumgartnert ugrani, nem semmi infrastruktúra kellhet 6 millió néző egyidejű kiszolgálásához. tcp/ip-n.
93 júniusában a leggyorsabb szuperszámítógép linpack teljesítménye 60 gigaflop volt, mint egy mostani jobb procié. 20 év múlva mit is fogunk játszani 20 petaflopon? Doom 7-ben az impek minden szőrszála szimulálva lesz. és valószínűleg külön programozót vesznek fel erre az egyetlen feladatra.
a Marson mégsincs metán. viszont van Curiosity. legjobb dolog a heti rendszerességű Curiosity Rover Report.
gondolom mostanában a legnagyobb buzz az amerikai elnökválasztás körül van, szóval akkor kéne szkórolni ebben a sajátvektorban is. Hajrá Obama (bár a béke Nobel díjat akkor sem érdemelte ki, főként miután kilőtte a Recycle Bin-t)!
szombat, november 03, 2012
izék ömlesztve
nemrégiben olvastam egy cikket a h+-on, az agy megőrzéséről. valahogy megmaradt bennem a gondolat, hogy gyakorlatilag minden pillanat veszendő, az agy pontos állapota, ha nem volt lementve, elveszett örökre. a makrostruktúra persze megmarad, de az aktuális állapot elveszik. persze, ezt már megszokta az ember, erre van berendezkedve, igazából az agy nem is lenne képes egy teljes élet összes élményét tárolni, tömöríteni kényszerül és ez a tanulás egyik formája. valamilyen jó kis sajátvektorokat és sajátértékeket tárol, talán valamilyen tanult vagy randomizált projekció mentén. ha mondjuk teljesen elveszne az agy, vissza lehetne valamennyit állítani a makrostruktúrájából az általa kreált dolgok alapján és persze az agyak általános makrostruktúrájának ismeretében. pl. az írás (illetve billentyűzeten pötyögés) egy ilyen kreáció, amit fel lehetne használni a visszaállításhoz. de miről kéne írni, hogy minél jobban állíthassuk vissza? azt hiszem, arra kéne támaszkodni, hogy mi mindent fogunk tudni a többi agyról, szóval csak a sajátértékeket kéne belőni minél jobban, a vektorok összejönnének az általános ismeretek átlagából. mi érdekli a leginkább az embereket? a filmek, a foci, az autók. absztrakt dolgoknak helye nincs, hiába írom le a legmélyebb saját gondolataimat, ha mások nem foglalkoznak vele, fölösleges az egész. mennyit kéne írni? nehéz megmondani, napi 100 szó mire lenne elég? mennyire akarom, hogy rekonstruálhassanak? igazából nem rajtam múlik a döntés, majd a következő, vagy az azután következő generáció dönti el, hogy mit csinál a világban hagyott fizikai és digitális lenyomatommal. lehet, csak annyira kellek majd, hogy szimulálhassák valamilyen híres ember környezetét, hogy őt minél sikeresebben állíthassák vissza.
nemrégiben olvastam az Accelerando-t Charlie Stross-tól. jó volt, tetszett, bár egy kicsit az ütem még nekem, elvakult szingularitás hívőnek is gyors volt, de egy kicsit elgondolkodtatott azért az is, hogy a CC változatot olvastam az iPademen. jó kis könyv volt, érdemes elolvasni, akit valamennyire foglalkoztat ez a téma.
nemrégiben olvastam az Accelerando-t Charlie Stross-tól. jó volt, tetszett, bár egy kicsit az ütem még nekem, elvakult szingularitás hívőnek is gyors volt, de egy kicsit elgondolkodtatott azért az is, hogy a CC változatot olvastam az iPademen. jó kis könyv volt, érdemes elolvasni, akit valamennyire foglalkoztat ez a téma.
szombat, szeptember 01, 2012
Yeey
Elso bejegyzes az iPadrol, mivel a tegnap esti sorozesen kaptam egy tuti tippet, hogy miert nem szereti a routerem az rds netet es bevalt. (nem kellett beallitani a szolgaltato nevet, gondoltam, nem hasznalja semmire, de ezek szerint megis hasznalta) Arra meg nem jottem ra, hogy az elvileg magyar billentyuzeten hol kell az elezetes betuket eloszedni, de biztos valami szuperegyertelmu sztivdzsobszos helyen lesz amit az en egyszeru agyacskam nem tud kitalalni.
Btw, erdekes egybeeses, hogy Steve es Bobak is irani szarmazasuak...
Btw, erdekes egybeeses, hogy Steve es Bobak is irani szarmazasuak...
szerda, augusztus 22, 2012
zunzet
Visszajöttünk Pulából, készítettem kb 1000 képet, de lusta vagyok válogatni...
(PS. Tessék megnézni, milyen okos a Google, pl rákerestem arra a kifejezésre, hogy készítettem * képet és olyan találatokat is kidob, hogy "készíteni kívánt kép", bár ha jól meggondolom, ehhez elég egy jó stemmer.)
(PS. Tessék megnézni, milyen okos a Google, pl rákerestem arra a kifejezésre, hogy készítettem * képet és olyan találatokat is kidob, hogy "készíteni kívánt kép", bár ha jól meggondolom, ehhez elég egy jó stemmer.)
csütörtök, augusztus 09, 2012
dolgok
0. Vettem egy iPadet. Kicsit szívás van, mert a két routeremből egyiket sem tudtam bekonfigurálni, hogy menjen az rds-es nettel, remélem azért előbb-utóbb ez megoldódik. Továbbá a 64 bites iTunes amit felajánlott az Apple oldala, legalább Vistát igényel, én meg amig megy ez a gép, tuti nem rakok új operációs rendszert. Szóval egyelőre takarékon ég az iPad. :)
1. Most augusztusban 30 éves a C64, Isten éltesse (illetve a retrókedvelők, de ebbe most ne menjünk bele). Ezen most gyorsan le is tesztelhetjük a Moore törvényt, 18 havi duplázódás azt jelenti, hogy 15 évente kell ezerszereződjön valamilyen mutató, tehát 30 év alatt pont milliószorozódik. Továbbá vegyük figyelembe, hogy az 1982 augusztusi $600-os ár most az inflációval kiegészítve $1426-ot ér. Ebből vehetünk egy i7-es cput, némi ramot és vinyót, ezek a legegyszerűbb mutatók amiket össze lehet hasonlítani. A C64 6502-es cpuja 0.987 Mhz-en ketyegett, egy i7 felmehet nagyjából 3Ghz-re, ez csak 3000-szeres gyorsulás, de ha a valós számítási sebességet vesszük, akkor azért kijön, hogy egy nagyon jó i7-es kb 50GFlopsra (talán már vannak 100-asok is, de azok gondolom felemésztenék a teljes pénzmagot) képes dupla precízión, ha C64-en kéne két dupla precíziós számot összeadni, tuti több mint 20 órajelbe kerülne (ha csak összeadunk 8+8 bájtot, az akkori arhitektúrán a betöltésekkel és tárolásokkal együtt is gondolom legalább bájtonként 4-5 órajel, a 6502 assembly eddig kimaradt). Lényegében azt hiszem, cpu sebességben megvan a milliószoros növekedés. A C64 64 kilóbájtos ramját extrapolálva ma 64 giga ram dukálna, az sajnos nem fér bele ebbe a keretbe, de elvileg lehet ennyi ramot venni egy felsőbb kategóriás workstationba. Itt talán van 1-2 ciklusnyi (1.5-3 évnyi) lemaradás. Permanens tároló anno a DS-DD floppy volt, ezt nem igazán lehet direktben összehasonlítani a mai vinyókkal, hiszen a floppy meghajtó jó drága volt (a wikin $400 körüli árat ír, az most $950) de utána a lemezek már relatív olcsóak voltak. Mindenesetre a 332 kilóbájt (2 oldal, egyenként 664 block) össz-teljesítménye (kapacitás, elérési idő, hibalehetőségek) szerintem simán milliószorozódott a mai $100-os 1 terabájtos vinyók korában.
Összességében azt hiszem, kiállta a Moore törvény az utóbbi 30 évet, persze, mostmár sokkal több pénzbe kerül fenntartani, de az ipar is nőtt, valószínűleg legalább milliószorosan. Remélem még 15 évet kitart és akkor már jó esélyem lesz megnyerni a fogadást.
2. Újabb 3 emberrel fogadtam 1-1 láda sörben, hogy összejön 2029-re a szingularitás. Igazából nem tisztáztuk le ez pontosan mit is jelent, legközelebbi sörözéskor nem árt majd tisztázni. A wiki szerint a tiszta hamisítatlan szingularitást Kurzweil is 2045-re teszi, de azt hiszem, a 2029-re jósolt Turing teszt döntést elfogadják a többiek, mint rengeteg sörrel ünneplendő eseményt. Egyébként azt hiszem, max 10 láda sörben kéne maximálnom a fogadásaim számát, még komolytalannak fogok tűnni. :) Szóval még van 4 hely, aki olvassa ezt és néha találkozunk sörözés céljából, jól gondolja meg, hogy akar-e nekem 17 év múlva fizetni egy láda sört. :)))
3. Megnéztem az új Betmen filmet, meg a Prometheus-t. Sajnálom, hogy mostanában a "jó" filmek is ennyire gyengék. Több szót kár is pazarolni rájuk. Nekifogtam az HBO-n is filmeket nézni, pl. Thor meg Dream House. Ezekre se érdemes több szót pazarolni. A Cloud Atlas talán megmentheti ezt az évet.
4. A Betmen filmet azért néztem meg, mert dolgoztam a hivatalos iOS spinoff játékon, a youtube-on már van jónéhány review meg satöbbi, ez pl. nagyon vicces.
5. Egészen vicces az ami mostanában Romániában történik, szerintem tananyag lesz belőle, lehet, hogy adatbányászatból, lehet, hogy jogból, lehet, hogy politikatudományból, engem értelem szerint az első érdekel a legjobban. Ha valaki ki akarna találni egy újabb NLP feladatot, mondjuk Textual Contradiction, mint a Textual Entailment egyik társfeladatát, akkor most rengeteg példát tudna automatikusan bányászni a netről, elég csak naponta a két politikai táborhoz tartozó weboldalak tartalmát pászítani. A kérdés csak az, hogy lesz-e valami tanulság az egészből, mondjuk 4 év múlva. Remélem nem és azt is remélem, hogy nem lehet a végtelenségig széllel szembe pisilni, csak a változást kell majd valami nyugis országban egy kóla mellett végignézni a Euronews-on.
6. Ami viszont a legérdekesebb most, hogy ad-e az amerikai kongresszus pénzt egy újabb Marsjáróra, most, hogy ilyen eszméletlen sikert ért el az MSL. Ha igazi demokrácia van Amerikában, ahol a nép tényleg ki tudja fejezni a preferenciáit, akkor szerintem nincs mese. Továbbá, Bobak for PRESIDENT!!!!!
1. Most augusztusban 30 éves a C64, Isten éltesse (illetve a retrókedvelők, de ebbe most ne menjünk bele). Ezen most gyorsan le is tesztelhetjük a Moore törvényt, 18 havi duplázódás azt jelenti, hogy 15 évente kell ezerszereződjön valamilyen mutató, tehát 30 év alatt pont milliószorozódik. Továbbá vegyük figyelembe, hogy az 1982 augusztusi $600-os ár most az inflációval kiegészítve $1426-ot ér. Ebből vehetünk egy i7-es cput, némi ramot és vinyót, ezek a legegyszerűbb mutatók amiket össze lehet hasonlítani. A C64 6502-es cpuja 0.987 Mhz-en ketyegett, egy i7 felmehet nagyjából 3Ghz-re, ez csak 3000-szeres gyorsulás, de ha a valós számítási sebességet vesszük, akkor azért kijön, hogy egy nagyon jó i7-es kb 50GFlopsra (talán már vannak 100-asok is, de azok gondolom felemésztenék a teljes pénzmagot) képes dupla precízión, ha C64-en kéne két dupla precíziós számot összeadni, tuti több mint 20 órajelbe kerülne (ha csak összeadunk 8+8 bájtot, az akkori arhitektúrán a betöltésekkel és tárolásokkal együtt is gondolom legalább bájtonként 4-5 órajel, a 6502 assembly eddig kimaradt). Lényegében azt hiszem, cpu sebességben megvan a milliószoros növekedés. A C64 64 kilóbájtos ramját extrapolálva ma 64 giga ram dukálna, az sajnos nem fér bele ebbe a keretbe, de elvileg lehet ennyi ramot venni egy felsőbb kategóriás workstationba. Itt talán van 1-2 ciklusnyi (1.5-3 évnyi) lemaradás. Permanens tároló anno a DS-DD floppy volt, ezt nem igazán lehet direktben összehasonlítani a mai vinyókkal, hiszen a floppy meghajtó jó drága volt (a wikin $400 körüli árat ír, az most $950) de utána a lemezek már relatív olcsóak voltak. Mindenesetre a 332 kilóbájt (2 oldal, egyenként 664 block) össz-teljesítménye (kapacitás, elérési idő, hibalehetőségek) szerintem simán milliószorozódott a mai $100-os 1 terabájtos vinyók korában.
Összességében azt hiszem, kiállta a Moore törvény az utóbbi 30 évet, persze, mostmár sokkal több pénzbe kerül fenntartani, de az ipar is nőtt, valószínűleg legalább milliószorosan. Remélem még 15 évet kitart és akkor már jó esélyem lesz megnyerni a fogadást.
2. Újabb 3 emberrel fogadtam 1-1 láda sörben, hogy összejön 2029-re a szingularitás. Igazából nem tisztáztuk le ez pontosan mit is jelent, legközelebbi sörözéskor nem árt majd tisztázni. A wiki szerint a tiszta hamisítatlan szingularitást Kurzweil is 2045-re teszi, de azt hiszem, a 2029-re jósolt Turing teszt döntést elfogadják a többiek, mint rengeteg sörrel ünneplendő eseményt. Egyébként azt hiszem, max 10 láda sörben kéne maximálnom a fogadásaim számát, még komolytalannak fogok tűnni. :) Szóval még van 4 hely, aki olvassa ezt és néha találkozunk sörözés céljából, jól gondolja meg, hogy akar-e nekem 17 év múlva fizetni egy láda sört. :)))
3. Megnéztem az új Betmen filmet, meg a Prometheus-t. Sajnálom, hogy mostanában a "jó" filmek is ennyire gyengék. Több szót kár is pazarolni rájuk. Nekifogtam az HBO-n is filmeket nézni, pl. Thor meg Dream House. Ezekre se érdemes több szót pazarolni. A Cloud Atlas talán megmentheti ezt az évet.
4. A Betmen filmet azért néztem meg, mert dolgoztam a hivatalos iOS spinoff játékon, a youtube-on már van jónéhány review meg satöbbi, ez pl. nagyon vicces.
5. Egészen vicces az ami mostanában Romániában történik, szerintem tananyag lesz belőle, lehet, hogy adatbányászatból, lehet, hogy jogból, lehet, hogy politikatudományból, engem értelem szerint az első érdekel a legjobban. Ha valaki ki akarna találni egy újabb NLP feladatot, mondjuk Textual Contradiction, mint a Textual Entailment egyik társfeladatát, akkor most rengeteg példát tudna automatikusan bányászni a netről, elég csak naponta a két politikai táborhoz tartozó weboldalak tartalmát pászítani. A kérdés csak az, hogy lesz-e valami tanulság az egészből, mondjuk 4 év múlva. Remélem nem és azt is remélem, hogy nem lehet a végtelenségig széllel szembe pisilni, csak a változást kell majd valami nyugis országban egy kóla mellett végignézni a Euronews-on.
6. Ami viszont a legérdekesebb most, hogy ad-e az amerikai kongresszus pénzt egy újabb Marsjáróra, most, hogy ilyen eszméletlen sikert ért el az MSL. Ha igazi demokrácia van Amerikában, ahol a nép tényleg ki tudja fejezni a preferenciáit, akkor szerintem nincs mese. Továbbá, Bobak for PRESIDENT!!!!!
hétfő, augusztus 06, 2012
kedd, június 12, 2012
hmm......
0. iOS6 csak ősszel jő, dejóóóóóóó
1. vicces, de én azt gondoltam volna, hogy a gépi hallást később oldják meg, mint a gépi látást, elvégre a beszéd sokkal később (és csak egyszer, jelenlegi tudásunk szerint) fejlődött ki, mint a látás. Úgy tűnik, a beszédben mégis nagyobb üzlet van... vagy a nemzetbiztonságiak nem engedik, hogy egy fotón szereplő összes embert automatikusan felcimkézzünk. Pedig vicces lenne arra gondolni, hogy egyszer Pityi Palkó is ott volt, mikor éppen megörökítettem a Viktória teret...
2. igen, ezt a bejegyzést némi alkohol befolyása alatt követtem el, de nagyon nem arról írtam, mint amin gondolkodtam a Viktória térről haza...
1. vicces, de én azt gondoltam volna, hogy a gépi hallást később oldják meg, mint a gépi látást, elvégre a beszéd sokkal később (és csak egyszer, jelenlegi tudásunk szerint) fejlődött ki, mint a látás. Úgy tűnik, a beszédben mégis nagyobb üzlet van... vagy a nemzetbiztonságiak nem engedik, hogy egy fotón szereplő összes embert automatikusan felcimkézzünk. Pedig vicces lenne arra gondolni, hogy egyszer Pityi Palkó is ott volt, mikor éppen megörökítettem a Viktória teret...
2. igen, ezt a bejegyzést némi alkohol befolyása alatt követtem el, de nagyon nem arról írtam, mint amin gondolkodtam a Viktória térről haza...
kedd, május 22, 2012
mostanában...
... történt pár dolog, de mivel nem vagyok én krónikás, nem írok róluk, másokról meg nem akarok...
Pl. megint van netem itt ahol vagyok, most éppen és itt ahol vagyok most éppen, az nem a munkahelyem. Ez már elég indok az írásra. Most éppen, itt, ahol vagyok.
Pl. a SpaceX sikeresen felbocsájtotta a 3. Falcon 9-est is, ha minden jól megy, még az ISS-hez is hozzákapcsolódik egy kis fagyit vinni a zűrhajósoknak. Egészen véletlenül élőben elkaptam a munkahelyemen, jó volt látni amikor elemelkedett az indítóállásról. Ezt már semmilyen számítógép le nem állítja.
Pl. a Facebook részvénykibocsátás kezd buktába fordulni, én eléggé facsé ellendrukker vagyok, szóval ez jó hír. Meg az is, hogy viszi a Zyngát magával.
Pl. a Google meg beindította (illetve nálunk csak nem sokára) a tudásgráfot, amiben egyelőre csak csak jól kézzelfogható tények vannak, de azokból 500 millió, ez biza jó kis lépés a szingularitás felé. Ha most jósolgatós kedvemben lennék, akkor azt mondanám, hogy 5 éven belül elég jó angol nyelvű kérdezz-felelek rendszerként is lehet majd használni a Google éppen aktuális keresőjét (mármint most is lehet használni, de akkor majd tényleg mélyebben értelmezni is fogja a kérdéseket és még akár generálni is fogja az egyszerűbb válaszokat, a bonyolultabbakra inkább idézni fog, valami jól odataláló a weben már megtalálható mondatot).
Pl. van egy frissen bukott tanügyminiszerünk. Vicces, hogy néhány múltbeli hiba mennyire tönkre tud (remélhetőleg) tenni egy politikai karriert (remélhetőleg tanügyit is). Szerintem ennyit nem ért az a pár másolt cikk, úgysincs rájuk egyetlen hivatkozás se. Persze lenne egy bukott elnököm is, ha én is igazi magyarrá váltam volna, mint a családom többi része. Mindig is tudtam, hogy én vagyok a fekete bárány...
Pl. Zének van új sója.
Pl. bár nem vagyok vallásos, a Biblia első pár sora, meg az Apollo 8, meg Mike Oldfield mostanában nagyon bejön, naponta meghallgatom párszor.
Pl. bejön Lady Gagatól az edzs is.
Pl. érdemes megnézni egy harvardos doktoris diák ezen előadását, van benne egy kis Marvin Minsky is és hát a téma sem semmi, az időbeosztás meg pláne.
Most akkor ejsze ennyi.
Pl. megint van netem itt ahol vagyok, most éppen és itt ahol vagyok most éppen, az nem a munkahelyem. Ez már elég indok az írásra. Most éppen, itt, ahol vagyok.
Pl. a SpaceX sikeresen felbocsájtotta a 3. Falcon 9-est is, ha minden jól megy, még az ISS-hez is hozzákapcsolódik egy kis fagyit vinni a zűrhajósoknak. Egészen véletlenül élőben elkaptam a munkahelyemen, jó volt látni amikor elemelkedett az indítóállásról. Ezt már semmilyen számítógép le nem állítja.
Pl. a Facebook részvénykibocsátás kezd buktába fordulni, én eléggé facsé ellendrukker vagyok, szóval ez jó hír. Meg az is, hogy viszi a Zyngát magával.
Pl. a Google meg beindította (illetve nálunk csak nem sokára) a tudásgráfot, amiben egyelőre csak csak jól kézzelfogható tények vannak, de azokból 500 millió, ez biza jó kis lépés a szingularitás felé. Ha most jósolgatós kedvemben lennék, akkor azt mondanám, hogy 5 éven belül elég jó angol nyelvű kérdezz-felelek rendszerként is lehet majd használni a Google éppen aktuális keresőjét (mármint most is lehet használni, de akkor majd tényleg mélyebben értelmezni is fogja a kérdéseket és még akár generálni is fogja az egyszerűbb válaszokat, a bonyolultabbakra inkább idézni fog, valami jól odataláló a weben már megtalálható mondatot).
Pl. van egy frissen bukott tanügyminiszerünk. Vicces, hogy néhány múltbeli hiba mennyire tönkre tud (remélhetőleg) tenni egy politikai karriert (remélhetőleg tanügyit is). Szerintem ennyit nem ért az a pár másolt cikk, úgysincs rájuk egyetlen hivatkozás se. Persze lenne egy bukott elnököm is, ha én is igazi magyarrá váltam volna, mint a családom többi része. Mindig is tudtam, hogy én vagyok a fekete bárány...
Pl. Zének van új sója.
Pl. bár nem vagyok vallásos, a Biblia első pár sora, meg az Apollo 8, meg Mike Oldfield mostanában nagyon bejön, naponta meghallgatom párszor.
Pl. bejön Lady Gagatól az edzs is.
Pl. érdemes megnézni egy harvardos doktoris diák ezen előadását, van benne egy kis Marvin Minsky is és hát a téma sem semmi, az időbeosztás meg pláne.
Most akkor ejsze ennyi.
hétfő, április 23, 2012
egészséget...
A hétvégén megint voltam a Madarasi Hargitán, táborban a diákokkal, még mindenkit ismertem... Pár kép.
Megint fogadtam 2 emberrel (természetesen 20 sörben), hogy 2029-ben lesz szingularitás (vagy még előbb, remélem ez mindenki számára elfogadható utólagos módosítás :)).
Azt hiszem, 2029-ben fogom a legtöbb sört inni az életben, ennek örömére két szingularitásos link: 1, 2.
Holnap megint megyek Bukarestbe, ezúttal 2 hónapra...
Ja, és a táborban megadtam egy másik fogadáson vesztett 20 sörömet, azt hiszem 2010-ben a Hargitán arra fogadtam, hogy az Android nem nyomja le az iPhone-t az eladott készülékek számában, hát lenyomta, de ettől még egy fos.
Megint fogadtam 2 emberrel (természetesen 20 sörben), hogy 2029-ben lesz szingularitás (vagy még előbb, remélem ez mindenki számára elfogadható utólagos módosítás :)).
Azt hiszem, 2029-ben fogom a legtöbb sört inni az életben, ennek örömére két szingularitásos link: 1, 2.
Holnap megint megyek Bukarestbe, ezúttal 2 hónapra...
Ja, és a táborban megadtam egy másik fogadáson vesztett 20 sörömet, azt hiszem 2010-ben a Hargitán arra fogadtam, hogy az Android nem nyomja le az iPhone-t az eladott készülékek számában, hát lenyomta, de ettől még egy fos.
kedd, február 21, 2012
szingularitás
Ma fogadtam 20 sörben, hogy 2029-ig bekövetkezik a szingularitás. Csak lejegyzem, hogy el ne felejtsem. Meg ezentúl lehet olyan híreket linkelni, hogy miért is egyre valószínűbb, hogy én nyerem meg a fogadást. Itt az első. (Ja, arról nem volt szó, hogy mennyi lesz az ára egy szingularitást tudó programnak/számítógépnek, de reméljük $0.99 havonta :)))
csütörtök, január 12, 2012
vasárnap, január 08, 2012
Feliratkozás:
Bejegyzések (Atom)



