„Algoritmus csinál belőlem Liverpool-szurkolót” – a Twitter korábbi magyar kutatója a gépi tanulás jövőjéről
„Már rövid távon el tudok képzelni jelentős kárt anélkül, hogy az egész emberiséget fenyegető szuperintelligenciáról kellene spekulálnom” – mondja Huszár Ferenc, a Cambridge-i Egyetem docense, az egyik legidézettebb magyar MI-kutató. A tudós egy sikeres startup-üzletnek köszönhetően „engedheti meg magának” a tanítást, így azt is szabadon vizsgálhatja, milyen negatív hatásokkal lehet az MI a társadalomra. Korábban a Twitternél épp azon a területen dolgozott, ami miatt jobbról és balról is támadták a platformot Amerikában. Huszár Ferencet cambridge-i szobájában kérdeztük arról, miért tűntek el a tehetséges magyar diákok a vezető egyetemről, miért tartja nyomasztónak a gépi tanulás előretörését a matematikában és a programozásban, és hogy milyen irányba ment el volt munkahelye Elon Musk hatalomátvétele után.
– Mikor kezdett mesterséges intelligenciával foglalkozni?
– 2006-ban. A Műegyetemen tanultam, és a második évem nyarán odaverődtem egy kutatócsoporthoz az azóta megszűnt Collegium Budapest intézetben. Ott egy szerencsés véletlen folytán megismerkedtem Lengyel Mátéval, aki ma már szintén professzor Cambridge-ben, valamint Orbán Gergővel, aki pedig odahaza, a Wigner Fizikai Kutatóközpontban dolgozik. Az ő szakterületük a komputációs idegtudomány.
– Az mi fán terem?
– Számítógépes modellek segítségével próbáljuk megérteni az agy működését: hogy hogyan működik a látásunk, a memóriánk, hogyan tanulunk. Mátéval és Gergővel később volt közös kutatásunk is, amelynek során azt vizsgáltuk, hogyan értelmezi az agyunk a látott arcokat, az arcok milyen sajátosságaira figyelünk oda jobban vagy kevésbé. Ehhez egy kognitív tomográfia nevű rendszert dolgoztunk ki: nem felvételt készítettünk az agyról, hanem a kísérleti alanyok sorozatos választásainak sokaságából próbáltunk számítógépes modellek segítségével következtéseket levonni, például úgy, hogy három arc közül ki kellett szűrniük a nem odaillőt.
– Valahogy hasonlóan tanulnak a gépek is, nem?
– Igen, és hamar rájöttem, hogy ez jobban is érdekel, mint az agy. Pontosabban Máté szólt, miután egyszer véletlenül hippokampusz helyett hipotalamuszt mondtam egy cikk megbeszélésekor. Igazából már negyedéves műegyetemistaként a gépi tanulásra kezdtem specializálódni. Eljöttem egy nyári egyetemre, pedig angolul sem tudtam igazán jól, és jóval fiatalabb voltam a többi résztvevőnél. De akkor már egyértelműen Cambridge volt az engem érdeklő szűkebb szakterület vezető laborja világszinten, így ide jöttem interjúzni a PhD-programra.
– Fel is vették, viszont amikor a gépi tanulás nagy forradalma történt, pont mással foglalkozott. Miért?
– A PhD után bigdata-problémákon dolgoztam egy startupnál, ahol az volt a feladat, hogyan tudunk információt kinyerni nagy mennyiségű adatból, például egy közösségimédia-platform több százmillió felhasználójának skáláján. Utána pedig egy kockázatitőke-befektetőhöz mentem, ami startupokba invesztált. Itt olyan automatizált rendszert dolgoztam ki, amely megtalálta az ígéretes, gyorsan növekedő cégeket, appokat. Itt ismerkedtem meg egy kialakulóban lévő cég két alapítójával, akikhez aztán csatlakoztam mint vezető kutató.
– Ez volt a Magic Pony Technology. Ez már gépi tanulással foglalkozott?
– Abszolút. Azzal foglalkoztunk, hogy a gépi tanulás új paradigmáját, a mélytanulást hogyan tudjuk kihasználni videótömörítésre, illetve a videók felbontásának megnövelésére. Tehát ha mondjuk kicsi a sávszélesség, és gyenge minőségű videóhívás jön a telefonomra, akkor egy algoritmus ezt fel tudja javítani nagy felbontásúra.
Nekünk sikerült először valós időben, 24 képkocka/másodperc sebességgel megcsinálni egy akkori okostelefonon.
– Ez olyan jól sikerült, hogy 2016-ban a Twitter felvásárolta a cégüket 150 millió dollárért, hogy beépítse a technológiát videós szolgáltatásaiba. Nem a zsebében akarunk turkálni, de korai alkalmazottként meggazdagodott?
– Ez egy sikersztori volt, amivel kétségkívül jól jártunk. Azt szoktam mondani, hogy most azért dolgozom az akadémiai szférában, és nem pedig a magánszektorban, mert megengedhetem magamnak.
– Merthogy az egyetemi fizetés nem versenyképes azzal, amit egy nagy MI-cég tud kínálni?
– Azon a területen, ahol én dolgozom, a nagy cégeknél sztárfocista jellegű fizetéseket kínálnak a legjobb embereknek.
– Itt, Európában is, vagy ehhez ki kell menni a Szilícium-völgybe?
– Európában is. Az egyik úttörő MI-cég, a Google alá tartozó DeepMind központja Londonban van, Párizsban ott van a Mistral, akik már akkor százmillió dollár nagyságrendű befektetéseket kaptak, amikor még csak pár emberből állt a csapatuk, de Zürichben is sokan dolgoznak ezen a területen.
– Mennyire probléma, hogy a nagy cégek elszívják a kutatókat az egyetemekről?
– Valamilyen szinten természetes folyamat, hogy a nagy csapatokat, hosszabb távú tervezést, mérnökibb hozzáállást igénylő területek előbb-utóbb kikerülnek az egyetemek világából. Egykor a chiptervezés abszolút a számítástechnikai tanszékeken zajlott, ma már az igazi kutatás a nagy cégeknél, az Intelnél vagy az Nvidiánál van, az akadémiában erre nincsenek erőforrások. Ma ugyanez kezd igaz lenni a gépi tanulásra. Van agyelszívás, de használ a tudománynak, hogy ekkora erőforrásokat tudnak rádobni ezekre a területekre. Nyilván nem jótékonyságból.
– Miért egy egyetemen dolgozik akkor? Milyen hozzáadott értéke lehet itt az MI fejlődéséhez?
– Egyrészt szeretek tanítani és diákokkal dolgozni. Másrészt mi feltehetünk olyan kérdéseket, amelyeket egy profitorientált vállalat nem feltétlenül.
Például hogy ezek a technológiák milyen hatással vannak a társadalomra, az emberekre. És ha az a kutatási eredmény jön ki, hogy rossz, akkor nem kell félni attól, hogy a cégnek nem áll majd érdekében publikálni.
– Amikor a felvásárlást követően négy évig a Twitter vezető MI-kutatójaként dolgozott, félnie kellett ettől?
– A Twitternél tudtunk publikálni, de nem biztos, hogy ez minden cégnél így van. Van egy másik terület is, ahol fontos lehet az egyetemi szféra hozzájárulása: az MI felhasználása más tudományágakban, például az elméleti fizikában vagy a tiszta matematikai kérdésekben. Vagy például kutathatjuk azt, ami az én jelenlegi programom: miért működik a gépi tanulás olyan jól a gyakorlatban. Merthogy sokkal jobban működik, mint amennyire elméletben működnie kellene. Abból, hogy egy nagy nyelvi modell, például a GPT jól tud szöveget kiegészíteni, még nem kellene következnie annak, hogy például programozni is tud helyesen, márpedig azt látjuk, hogy tud. Azt akarjuk megfejteni, hogy ez miért van így.
– És vannak hipotéziseik?
– Igen. Tegyük fel, hogy egy tanuló algoritmust meg akarunk tanítani számolni. Kétféle módon lehet képes erre. Az első, hogy bemagolja az összes példát, és amikor azt a feladatot kapja, hogy mennyi 8+5, akkor azért adja ki, hogy 13, mert sokszor látta a tréningadatokban a 8+5 összeadást. A másik, hogy lát nagyon sok példát, de ezeket nem memorizálja, hanem kitalálja az általános szabályt, hogy hogyan működik az algoritmus. És úgy tűnik, hogy ezek a modellek nem a buta, hanem az okos modellt tanulják meg, mert így könnyebb nekik megmagyarázni azt a rengeteg adatot, amit az interneten látnak. És úgy tűnik, hogy ettől válnak képessé arra, hogy következetesen érveljenek vagy nem várt feladatokat tudjanak megoldani.
– Miért fontos megmagyarázni, hogy miért működnek ezek a modellek? Nem elég örülni annak, hogy működnek, és egyszerűen használni az eredményeiket?
– Az egyik cél, hogy előre tudjuk jelezni, hogy egy MI-modell mire lesz képes, hol lesznek a határai.
Ez azért fontos, hogy meg tudjuk mondani, hogy bizonyos feladatokra biztonságos-e használni őket.
– Tehát hogy elég megbízhatóak-e ahhoz, hogy önvezető autókban gyalogosfelismerésre vagy orvosi diagnosztikában használjuk?
– Kicsit leegyszerűsítve igen. A másik, hogy tudjunk számszerű garanciát vállalni egy modell megbízhatóságára, például arra, hogy egy matematikai rendszer 125 ezer példából mondjuk csak egyszer fog hibázni. Ha például dolgozatok kijavítására használjuk, akkor tudjuk garantálni, hogy nem fog jó megoldásokat hibásnak minősíteni, vagy rossz megoldásra pontot adni. Az is fontos eredménye lehet a kutatásainknak, ha tudjuk azonosítani, a betanítási folyamat egyes aspektusainak milyen hatása van az intelligens viselkedés előidézésére. Ha erre lesz hipotézisünk, akkor lehet, hogy sokkal hatékonyabban, kevesebb pénzből és energiából tudunk majd modelleket tréningezni.
– A technooptimista iskolát képviseli vagy inkább azt, amelyik az MI veszélyeire figyelmeztet?
– Kettéválasztanám a kérdést a rövid távú, akár ma is jelentkező és a hosszú távú veszélyekre, amelyek arról szólnak, hogy ezek a rendszerek annyira intelligensek lesznek, mint a sci-fikben, és önálló életre kelnek. Én már rövid távon elég jelentős kárt el tudok képzelni a mesterséges intelligencia miatt anélkül, hogy arról kellene spekulálnom, hogy egy szuperintelligencia szándékosan vagy véletlenül az egész emberiséget fenyegeti.
– Azért nem, mert nem lehetséges ilyen intelligencia, vagy pedig lehetséges, de nem lesz veszélyes?
– Hogy lehetséges-e, nem tudom, de a veszélyek szempontjából mindegy is.
Ha egy szuperintelligenciára bízom a nukleáris arzenált, félelmetes, de az is, ha egy egyszerű véletlenszám-generátorra. Egyik sem jó ötlet.
Már ma is látjuk, hogy elkezdték az MI-t használni a hadászatban. Ha ennek korlátozására nem születnek rövidesen nemzetközi megállapodások, ebből bőven lehetnek katasztrófák. Nem feltétlenül azért, mert olyan okos a rendszer, hogy át akar verni minket, hanem mert triviális hibákat követ el. Ezt reálisabb veszélynek látom, mint a Skynetet.
– Rövid távon mitől tart leginkább?
– Egyrészt az úgynevezett „kettős használattól”. Egy gyógyszerhatóanyag-molekulák keresésére kifejlesztett MI-t könnyű arra ráállítani, hogy káros anyagokat, toxinokat keressen inkább. Másrészt egyes algoritmusok nagyon széles körben való gyors elterjedésétől. Ezen a kérdésen én is dolgoztam a Twitternél. Ha százmillió ember van napi szinten kitéve egy algoritmus választásainak, akkor bármilyen kicsik is ennek hatásai az egyén szintjén, társadalmi szinten óriási hatásai lehetnek. Például a politikára is.
– Ezt vizsgálta is: 2021-ben jelent meg egy publikációja arról, hogy a Twitter algoritmusa mennyire erősíti fel a különböző politikus posztjait a felhasználók idővonalán.
– Igen, bár azt nem vizsgáltuk akkor, hogy ennek van-e hatása az emberek tényleges pártpreferenciáira. Mások igen, és úgy tűnik, van ilyen jellegű befolyás is. De nem csak a politikáról beszélek. Mondok egy másik példát: sosem érdekelt a foci. A fiamat azonban igen, ezért többször rákerestem focis dolgokra. Egy idő után elkezdtek focis tartalmak megjelenni az idővonalamon, és ma már ott tartunk, hogy az algoritmusok meg vannak róla győződve, hogy Liverpool- és Szoboszlai-rajongó vagyok. A vicc az, hogy most tényleg mindent tudok Szoboszlairól, és simán lehet, hogy egy év múlva óriási Liverpool-szurkoló leszek. Ez nem feltétlenül negatív hatás, de mégiscsak az a helyzet, hogy úgy érzem, ezt a fontos döntést nem én hoztam meg a saját életemmel kapcsolatban, hanem véletlenszerű, öngerjesztő folyamat volt, amiben az online rendszereknek jelentős szerepe volt. Ez nem feltétlenül káros, de a hasonló hatások társadalmi szinten összeadódva már lehetnek problémásak.
– A kutatásuk arra jutott, hogy a vizsgált országok között (Egyesült Államok, Egyesült Királyság, Németország, Kanada, Franciaország, Japán, Spanyolország) egy kivételével a jobboldali tartalmakat erősítette fel jobban a Twitter. Pedig akkoriban még az volt a vád, hogy a jobboldalt nyomja el a platform. Azért vizsgálódtak, hogy ezt megcáfolják?
– Mindkét oldalról értek vádak. A jobboldal azzal vádolt minket, hogy a baloldalt erősítjük, de a demokraták is támadták a Twittert azzal, hogy teret ad a fake newsnak, az oltásellenességnek vagy a QAnon-szerű összeesküvés-elméleteknek.
Amikor ezt a kutatást elkezdtük, még Donald Trump volt az elnök, és meg is fenyegette a Twittert, hogy beperli. Akkor a szűkebb csoportomban az volt a téma, hogy ha ez megtörténik, konkrétan mi leszünk azok, akiket elővesznek, hiszen mi dolgozunk ezeken az algoritmusokon.
– Ezért mondott fel és ment át Cambridge-be?
– Nem ezért, de ez a hangulat hozzájárult ahhoz, hogy mindenki stresszes legyen a cégnél. Óriási volt a nyomás, és azt éreztük a rengeteg negatív sztori olvasatán, hogy mi vagyunk felelősek. Miközben a munkánknak pont az volt a lényege, hogy aktívan vizsgáljuk és próbáljuk megérteni, az algoritmusok hogyan befolyásolják a felhasználók életét, és hogy felelősen próbáljunk eljárni. Amikor az előző vezérigazgató, Jack Dorsey tanúskodott egy szenátusi meghallgatáson, mi láttuk el munícióval arról, hogy hogyan kezeli a Twitter az MI etikai kihívásait. De arra nem vágytunk, hogy mi üljünk ott a helyén.
– Amióta Elon Musk vette át a hatalmat a Twitternél, figyelemmel követi egykori munkahelyét?
– Amikor hivatalossá vált az adásvétel, éppen Londonban voltam, ahol a részlegünk működött. META néven futott a cégen belül (Machine Learning Ethics, Transparency and Accountability), és 2018-ban hoztuk össze pár kollégával. Amikor Elon Musk színre lépett, már tizenöt kutatóból állt – őket azóta teljesen leépítették. Én akkor már nem dolgoztam ott, de a kollégáim miatt személyesen rosszul érintett. Úgy tudom, ma senki nem foglalkozik ezzel a témával a Twitternél, vagyis az X-nél, ami szerintem visszalépés.
– Filozófiai vizekre evezve: mennyire tartja jogosnak, hogy a gépi tanulásra alapuló rendszereket mesterséges intelligenciának nevezzük? Valóban van bennük intelligencia, vagy ahogy egyes szkeptikusok mondják, pusztán papagájok, amelyek csak visszaböfögik az internetet? Vagy ahogy Noam Chomsky írta: plagizáló masinák?
– Sokáig én is szkeptikus voltam, és kijavítottam, ha valaki mesterséges intelligenciáról beszélt. Viszont a GPT és a hasonló nyelvi modellek megjelenésével megváltozott a hozzáállásom.
Ma már el tudom képzelni, hogy amit egy ember egy számítógépnél ülve meg tud csinálni, azt egyszer egy MI is el fog tudni végezni. Ezt nem tartom már olyan őrültségnek, mint öt éve.
Szerintem még nagy áttöréseket fogunk látni, ráadásul főleg olyan területeken, amiket sokáig büszkén emberi területnek gondoltunk, mint a matematika vagy a programozás. A matematikában és a programozásban sok kreativitásra van szükség, de már látunk kreativitást ezektől a modellektől is. A diákoknak gyakran felrajzolok egy ábrát, ami azt mutatja, hogy dagad folyamatosan azoknak a képességeknek a halmaza, amire a gépek képesek, míg az embereké többé-kevésbé állandó. A ’90-es években azt mondtuk, hogy a sakk emberi képesség. Ma már gimnazisták írnak sakkprogramokat. Aztán azt hittük, hogy a sakk még rendben, de a sokkal nehezebb gót sosem fogják jobban játszani a gépek az embernél – nem így lett. Aztán ezt gondoltuk az emberi nyelven való kommunikációról – már ez is megdőlt. Lehet vitatkozni arról, hogy butaságot mond-e, de értelmesen el lehet beszélgetni ezekkel az ágensekkel, tudnak verseket írni és programokat. Egyre nehezebb lesz mutogatni valamire, hogy az már egyértelműen az ember felségterülete.
– Egyik kutatási iránya az MI matematikai felhasználása. Nem tölti el szomorú nosztalgiával, hogy a magas szintű matematika művelésének privilégiumát is elveheti a gép az embertől?
– Sok diákkal beszélek, akik matek- vagy programozó versenyekre járnak. Amit ők csinálnak, egyrészt hobbijuk, másrészt ma még rettentően értékes a munkaerőpiacon. A mostani fejlődési pálya alapján lehet, hogy pár év múlva már inkább hobbi lesz. Attól még lehet a matematika puszta szépségéért versenyezni, ahogy sakkozni is, csak elveszik az illúzió, hogy azt a feladatot egy gép ne tudná gyorsabban megoldani. Nem szomorú nosztalgia ez, inkább nyomasztónak mondanám. És tanácstalan vagyok, hogy mit mondjak azoknak a diákoknak, akiknek eddig azt lehetett tanácsolni, hogy menjenek el programozónak. Persze az informatikus karrier sokkal többről szól, mint a programozásról, mindenesetre nehéz elképzelni, hogy hogyan fog a szakma öt év alatt változni.
– Meg lehet ezt valahogy állítani, például úgy, hogy nem fejlesztünk gépi matematikusokat?
– Az emberek kíváncsisága és a gazdasági racionalitás arra mutat, hogy amit meg lehet csinálni, azt meg is csináljuk.
– Apropó pályaválasztási tanácsok – 2022-ben Nagymaros AI Retreat néven nyári iskolát hívott életre magyarországi középiskolásoknak. Mi motiválta erre?
– Magyarországon, és hozzáteszem, a határon túli magyarok közt is, iszonyatosan okos és jól képzett gimnazisták vannak a matematika és programozás területén, de azt látom, hogy az a gondolkodás, ami például a versenyzéshez szükséges, nem ugyanaz, mint ami az élvonalbeli kutatáshoz kell. Szeretném nekik megmutatni, hogy működik az informatika kutatása a gyakorlatban, azon belül is konkrétan a gépi tanulásé, ami egyébként olyan szinten egyszerűsödik, hogy ma már tinédzser korban bátran el lehet kezdeni ismerkedni vele. Ilyen jellegű lehetőségek viszont sokaknak nem elérhetők, főleg a fővároson kívül. Remélem, hogy olyan képességeket sajátítanak el, amivel be tudnak kapcsolódni ennek a területnek a nemzetközi vérkeringésébe.
– És tudják ezeket a tanulmányokat odahaza, magyar egyetemeken folytatni?
– Elsősorban továbbra is inkább nyári iskolák, önszorgalomból elkezdett projektek vagy TDK versenyek keretében van lehetőség erre, a hivatalos tantervekben nem feltétlenül szerepel a gépi tanulás elegendő mélységben. És nehéz jó témavezetőt találni, mert bár van sok jó magyar szakember, kevesen mennek haza tanítani.
– Ez magyarspecifikus probléma vagy általános?
– Általában lemaradásban vannak az egyetemek, mert a terület gyorsabban fejlődik, mint a tantervek. A neurális hálózatokról szóló kurzusom Cambridge-ben csak 2020-ban indult el, miközben 2012-ben robbant be a terület. De annyi előnyünk azért van, hogy nagyon jó diákok és kiváló kutatók is jönnek hozzánk tanítani, kutatni. Érdemes ideköltözni, hiszen itt van közel London, ahol számos álláslehetőség van nagy cégeknél, startupoknál, más egyetemeknél is. A tehetség ilyen centralizációja elkerülhetetlen, és ez ugyanúgy sújtja az összes közép- és kelet-európai országot.
Ami Magyarországon talán súlyosbítja a helyzetet, az a bizonytalanság: nem mindig lehet tudni, hogy egy nívós kutatóhely mondjuk 2-5 év múlva hogyan fog kinézni.
– Mert mondjuk átszervezik a teljes kutatóhálózatot vagy elvágják az uniós kutatási pénzektől?
– Tudománypolitikai kérdésekbe nem akarok belemenni, de alapvetően igen, ilyen tényezők miatt.
– Ide, Cambridge-be sok magyar diák jön?
– Amikor 2009-ben idekerültem, még kevesen jöttek alapképzésre. Aztán a 2010-es években gyorsan megnőtt a számuk: az évtized végén Cambridge és Oxford vonatkozásában a Fazekas benne volt világszinten a tíz legnagyobb küldő iskolában. És nem csak magyarok jöttek. A számítástudományi képzésben egy tipikus, 120-140 fős évfolyamnak a harmada Kelet-Európából jött: magyarok, lengyelek, románok és így tovább. És iszonyú jó diákok voltak. Nem azt mondom, hogy általában véve jó errefelé az oktatás színvonala, de a tehetséggondozás, a speciális matekprogramok, táborok kiválóak, és nemcsak Magyarországon, hanem magyar mintára a régióban máshol is.
A legjobbak pedig nálunk kötöttek ki. Volt olyan év, hogy annyi magyart vettek fel Cambridge-be, hogy a Margitszigeten gólyatábort szerveztek maguknak, itt ugyanis ez nem szokás.
– Miért múlt időben beszél minderről?
– Mert a brexit mindezt teljesen hazavágta. Ami nemcsak nekünk rossz itt, hogy megfosztott minket tehetséges fiataloktól, de azt gondolom, hogy odahaza is érték volt, hogy a legjobb magyar diákok Európa legjobb egyetemén tudtak tanulni. Amikor fiatalokkal beszélek, sokan elég szomorúak emiatt, főleg, akik versenyekre járnak. Úgy hallom, most sokan Hollandiában kötnek ki, mert ott elérhetőek angol nyelvű alapképzések.
– Hogy valami pozitívabb témával zárjunk: miért indított ösztöndíjprogramot ukrán diákoknak?
– Amikor kitört a háború, rájöttem, hogy az ukránok valamelyest hasonló kaliberű diákok, mint a magyarok, ugyanolyan sikeresek a diákolimpiákon, néha sikeresebbek is. Pár kollégámmal elkezdtünk gondolkozni, hogyan tudnánk segíteni nekik. Először saját pénzünkből kerestünk fel tehetségeket, és laptopokat vettünk nekik. Volt, akinek segítettünk iskolát találni vagy elköltözni Angliába. Mivel sokan olyan jók voltak, hogy simán felvettük volna őket Cambridge-be, azt gondoltam, megérné ösztöndíjat indítani nekik. Sok levélírás után sikerült szereznünk egy 3 millió dolláros felajánlást Ken Griffin amerikai milliárdostól, majd ez kiegészült további forrásokkal. Az első évfolyamban hét diákot támogattunk, a másodikban már harmincat, most pedig még többen vannak a radarunkon.
– Mindezt egyedül csinálta vagy kollégákkal?
– A kezdetekről egy ex-twitteres kollégával, Ira Korsunovával, illetve további egyetemi kollégákkal, akik beszélnek oroszul, így tudtak segíteni például szülőkkel is kommunikálni. Ezen kívül a feleségem, Emese is sokat segített és nagyon fontos is volt a család támogatása, főleg az első kaotikus hónapokban.
Nyitókép: Enclave/Marcin Nowak
Ezt az interjút nem közölhettük volna olvasóink nélkül. Legyen támogatónk a Donably-n, az új, biztonságos, magyar fejlesztésű előfizetési platformon. Paypal, utalás és más lehetőségek itt >>>
