Kifinomult papagájtól várjuk a világvégét – ezért nem kell rettegni a mesterséges intelligenciától
A ChatGPT gyorsabban érte el a 100 millió felhasználót, mint a Facebook és a TikTok, az oktatásban válságba került számonkérés több száz éves rendszere, a kreatív szakmákban pedig akkora az ijedtség, hogy a hollywoodi írók sztrájkolni kezdtek. És ez csak a kezdet: komoly tudósok egész civilizációnk elpusztulásától tartanak. Van okunk félni? Bár az MI forradalmi hatását kevesen vonják kétségbe, sok józan hang figyelmeztet: az apokalipszist vizionálók olyan emberi képeségekkel ruházzák fel az MI-t, amelyekkel az nem rendelkezik. Közben pedig kevés szó esik arról, hogy az MI életeket ment, a tömeges munkanélküliség rémképét pedig árnyalja, hogy a fejlett világ brutális munkaerőhiánnyal küzd és demográfiai krízis előtt áll.
Évek óta visszatérő jóslat a mesterséges intelligencia (MI) veszélyeiről szóló diskurzusban, hogy rövid időn belül a valóságtól megkülönböztethetetlen hamis képeket, hangokat, videókat látunk. Ez nemcsak aljas unokázós csalásokban nyilvánul majd meg, hanem a közéletre is hatással lesz. Lehetetlen lesz például eldönteni, hogy valójában az adott politikus szerepel-e egy lejárató videón, vagy a digitális mása. Ha pedig valakiről valódi kínos felvétel kerül ki, nyugodtan mondhatja, hogy csupán deepfake az egész, ő ott se volt a jachton.
Ezért is járta be a világsajtót a minapi hír, hogy az amerikai Republikánus Párt kizárólag MI által generált képekből készített kampányvideót Joe Biden ellen. Csakhogy nem arról van szó, hogy meghamisították az elnök szavait. A bejátszásban Biden 2024-es újraválasztása elevenedik meg, valamint az azt követő káosz: Kína lerohanja Tajvant, a gazdaság összeomlik, San Franciscót a bűnözés miatt megszállja a karhatalom, migránsok tömege ostromolja a határt. Semmi nem látható, amit mezei híradó-felvételekből ne lehetett volna összevágni. A készítők nemhogy nem állították, hogy a valóságot látjuk, hanem büszkén újságolták, hogy MI-t használtak.
Amit láttunk, nem a valóság visszavonhatatlan elmosódásának rémisztő példája, még csak nem is annak előszele, hanem médiahekk, reklámhúzás. Azért készült, hogy az MI hírekre kihegyezett sajtó megírja, hogy itt az első MI kampányvideó.
Pont, ahogy az egyik népszerű magyar hamburgerlánc MI-vel találtatta ki egy új szendvics receptjét és reklámjait, vagy hogy egy német bulvárlap „exkluzív interjút” közölt Michael Schumacherrel, amelyben a tíz éve magatehetetlen német sportoló „válaszait” a ChatGPT írta.
Az MI forró nyara
Az MI ugyanis jelenleg divat. A mostani forradalom kezdete technológiai értelemben 2017-re datálható, kutatások akkor értek el több olyan mérföldkőhöz, amellyel kezdetét vette a jelenlegi „MI nyár” – így nevezi a zsargon azokat a periódusokat, amelyekben sikeres újítások optimista jövőképnek ágyaznak meg, míg MI télnek azokat, amikor megreked a fejlődés. (Az 1940-es évek óta több MI nyár és tél követte egymást.) 2017-ben győzte le az akkori legjobb sakkprogramot egy tanuló algoritmus, az AlphaZero. Ez azért volt nagy szó, mert senki sem programozott bele semmilyen stratégiát, csak a sakk szabályait. Saját maga ellen vívott játszmák millióin tanult meg sakkozni, és vált rövid idő alatt jobbá, mint bárki és bármi a játék több ezer éves történetében.
Ami ezt az áttörést lehetővé tette, az a gépi vagy mélytanulás: az algoritmusok nem emberek által beprogramozott szabályokat követnek, hanem adatok tömkelegén keresztül megtanulnak bizonyos szabályszerűségeket. Mindennek alapja pedig az úgynevezett neuronhálózat, az idegsejtek hálózatának egy rendkívül leegyszerűsített modellje. Ennek matematikai alapjai már évtizedek óta rendelkezésre álltak, de csak az utóbbi évtizedre ért el olyan szintre a számítási kapacitás, hogy a neuronhálók ugrásszerűen fejlődni tudjanak.
Ezután kitört az aranyláz: az utóbbi fél évtizedben számos iparágban kezdtek el használni tanuló algoritmusokat a pénzügytől az e-kereskedelemig, a közösségi hálóktól az egészségügyig. Minden valamirevaló startup MI cégnek hirdette magát. Sok milliárd ember kezdett el használni gépi tanulásra épülő alkalmazást. Van, aki tudatosan, például természetfotói feljavítására vagy hangfelvételek írott szöveggé alakítására. És van, aki tudtán kívül, mit sem sejtve, hogy az internetes fordítóprogramok az MI miatt lettek viccek tárgyaiból hasznos eszközök, vagy hogy a bankjuk valószínűleg algoritmusok segítségével bírálta el hitelkérelmüket.
Aztán 2022-ben az MI betört a fősodorba. Elterjedtek a képgeneráló MI-k, mint a Midjourney és a Stable Diffusion – az év végén művészek ezrei tiltakoztak az ellen, hogy az alkotók tudta nélkül műveiken tréningelt algoritmusokkal bárki profi képeket alkothat egyszerű szöveges parancsok révén. Novemberben pedig az OpenAI nevű cég elérhetővé tette a nagyközönség számára az MI eddigi legnagyobb vihart kavart alkalmazást, a ChatGPT nevű nagy nyelvi modellt, (LLM), amely nyelvi tartalmat, szövegeket képes megérteni és generálni.
A ChatGPT-nek öt nap kellett, hogy elérje az egymillió felhasználós mérföldkövet, és két hónap, hogy 100 millióan használják. Utóbbihoz a TikToknak 9 hónap, a Facebooknak 4,5, a Twitternek 5, az Airbnbnek 8, a Netflixnek pedig 10 év kellett.
Aki használta a ChatGPT-t, tudja, hogy bizonyos feladatokra szédítően hasznos: korábban elképzelhetetlen minőségben tud hosszabb szövegeket összefoglalni, megadott témákban értelmes szövegeket alkotni (egyelőre főleg angolul), vagy természetes nyelven feltett kérdésekre olyan releváns válaszokat adni, amilyeneket a hagyományos keresőmotorok nem. Nem véletlen, hogy a nonprofitként induló, de már nyereségorientált OpenAI-ba egymilliárd dollárt fektető Microsoft már beépítette saját keresőmotorjába is, a Bingbe, vagy hogy a Google is előrukkolt (kísérleti jelleggel, bizonyos országokban) saját megoldásával, a Barddal.
ChatGPT-t használni nem kell félnetek jó lesz
A program sok területen már kézzel fogható problémákat okoz. Az egyik a felsőoktatás, ahol a diákok elkezdtek beadandókat írni vele, de fiatalabbak is iratnak vele házit. A jelenség annyira akut, hogy már több hazai egyetem is szervezett konferenciát a témában. Egyre többen látják be, hogy az MI generálta szövegeket kiszűrni szinte lehetetlen, ezért nem küzdeni kell ellene, hanem átgondolni a számonkérések formáját. Egy szegedi professzor levonta a következtetést, hogy „az európai felsőoktatásnak az a több száz év alatt bejáratott rendszere, hogy a hallgató olvas, aztán ír, amit ír, beadja és arra megkapja a diplomáját”, felborult.
A másik terület, ahol kézzel fogható az aggodalom, a kreatív szakmáké. A hollywoodi írók május elején egyéb kérdések mellett azért kezdtek sztrájkolni, mert a stúdiók szervezete nem vállalta, hogy a forgatókönyvek fejlesztése során nem fog legalább bizonyos fázisokba MI-t bevonni. A zenei világban az keltett felzúdulást, hogy törléséig több mint 8 millióan hallgattak meg egy olyan számot a TikTokon, amelyet Drake amerikai rapper stílusában írt meg egy MI.
A veszély nem az, hogy MI-vel írt remekművek teszik zárójelbe tehetséges festők, írók és zenészek munkáit, hanem az, hogy a kreatív szakmák iparosmunkáit MI-vel gyártják majd le a cégek,
vagy legalábbis az első vázlatokat – ezzel pedig, ha nem is szűnnek meg ezek a szakmák, de kevesebb embert fognak foglalkoztatni, alacsonyabb bérért.
Néhány éve még a kamionsofőrök állásaiért volt divatos aggódni, de mára kiderült, hogy a kreatív szakmák vannak nagyobb veszélyben. A betanított szellemi munkások körében, akik repetitív munkát végeznek mondjuk egy multinál, már az elmúlt években is sok „terhet vettek le az emberek válláról” a folyamatautomatizáló szoftverek. Nem jelentenek kivételt a magasabb szellemi hozzáadott értéket adó szakmák sem, mint a jogi asszisztens vagy a pénzügyi tanácsadó, amelyek művelői olyan területen dolgoznak, ahol sok szöveg vagy adat elemzésével kell következtetéseket levonni.
Az apokalipszis lovasai
Akik az MI miatt igazán komolyan kongatják a vészharangot, nem csak attól félnek, hogy az MI elveszi az emberek munkáját. Márciusban nagy visszhangot váltott ki a nyílt levél, amelyben kétezer tudós és üzletember kérte az OpenAI-t és más MI-cégeket, hogy hat hónapra függesszék fel a tevékenységüket, mivel az veszélyezteti a civilizációt. Az aláírók között volt Yuval Noah Harari történész, Elon Musk, a SpaceX, a Tesla és a Twitter vezetője, Steve Wozniak, az Apple társalapítója, valamint neves egyetemek, köztük a Princeton és a Sorbonne kutatói.
Az itthon is népszerű Harari már évek óta aggódik, hogy az MI feleslegessé teszi az embert, de aggodalmát fejezte ki az MI fejlesztéséért 2019-ben Turing-díjjal kitüntetett trió két tagja, a brit Geoffrey Hinton és a kanadai Yoshua Bengio is (a harmadik, a francia Yann LeCun optimista).
Az igazán feketeöves rettegő, Eliezer Yudkowski már egy évtizede kongatja a vészharangot, és márciusi, a Time-on megjelent cikkében egyenesen azt követelte, hogy le kell kapcsolni az összes számítógépfarmot, ahol MI-t tréningeznek, nyomon kell követni minden egyes videókártya eladását (ezekkel a hardverekkel zajlik a modellek fejlesztése), nemzetközi egyezményekben kell betiltani az MI fejlesztését, és ha egy latorállam vagy cég ezt megszegi, légicsapást kell mérni az adatközpontra.
A pesszimista hangulatot azonban nem mindenki osztja – az említett nyílt levélre számos ellenvélemény jelent meg az elmúlt hetekben. Nem azt állították, hogy az MI nem okoz számos területen megoldandó problémákat, hanem azt, hogy a félelemkeltés túlzó, ráadásul kontraproduktív. Az egyik legfrappánsabb ellenvéleményt az a négy szerző tette közzé, akik 2021-ben „Szochasztikus papagájok” címmel ismertté vált szakcikkükben foglalkoztak a témával.
Hallucináló papagájok
A cím azért sokatmondó, mert elárul valamit, amit a diskurzusba most bekapcsolódók nem feltétlenül tudnak: hogy ezek a modellek annyira „intelligensek”, mint a papagájok. Arra képesek, hogy próbálják kitalálni a tréningadatok alapján, a legnagyobb valószínűséggel mi a következő karakter vagy szó az adott válaszban – de megértés nincs mögöttük. Pont emiatt „hallucinálnak”, adnak téves válaszokat, vagy jelölnek meg hivatkozásként sosem létezett linkeket, tudományos cikkeket. Képesek összegereblyézni az emberiség eddigi tudását, de azt is pontatlanul.
„Bár a levél számos ajánlásával egyetértünk, például hogy vízjelekkel különböztessük meg az eredeti és a szintetikus műveket, e javaslatokat elfedi a riogatás és hype, ami a »hatalmas digitális elmékkel« és »emberrel vetekedő intelligenciával« kapcsolatos képzelt kockázatokra tereli a beszédet” – írják a Sztochasztikus papagájok szerzői.
„Az MI képességeit felfújó és antropomorfizáló nyelvezet megtéveszti az embereket, azt üzeni, hogy a szintetikus művek mögött érző lény van. Ez nem csak oda vezet, hogy kritikátlanul bíznak a ChatGPT kimeneteiben, hanem a felelősséget is elkeni” – teszik hozzá. A négy tudós azt javasolja, hogy rettegés helyett javasoljunk reális szabályozást, amely kikényszerítheti az MI-ket bevető nagyvállalatoktól az algoritmusok transzparenciáját, a cégek elszámoltathatóságát.
Demográfia és MI
Egy Eliezer Yudkowskira reagáló cikk felveti: az MI-től való rettegés az lesz a 21. században, ami az előzőben a túlnépesedéstől való félelem volt. Yudkowski pedig pont olyan sarlatán, mint Paul Ehrlich, A népesedési bomba című 1968-as könyv szerzője, aki elültette a népességrobbanás máig rezonáló veszélyét. Azóta tudjuk, hogy a globalizációnak hála gazdagodó és urbanizálódó társadalmakban – hol korábban, hol később, de szinte mindenhol – esésnek indult a gyerekszám és emelkedett a várható élettartam. A piramis alakú korfák (sok gyerek, kevés öreg) feje tetejére állított piramissá váltak, társadalmaink a világ nagy részén öregednek.
Ez azért kapcsolódik az MI témájához, mert az emberhiány munkaerőhiányt jelent. A demográfiai bomba még ketyeg – Nyugaton ezekben az években megy nyugdíjba az utolsó népes nemzedék –, de a fejlett világ már ma is krónikus munkaerőhiánnyal küzd, beleértve hazánkat is, szinte minden régióban és minden szektorban. Ez azt is jelenti, hogy még ha be is igazolódnak a félelmek az MI munkahelyeket felszámoló hatásáról, ez ma azt jelentené, hogy az automatizáció éppenséggel a fennálló (és a jövőben a demográfiai trendek miatt valószínűleg fokozódó), ma gyakran vendégmunkával befoltozott hiányt tudja mérsékelni.
Ráadásul mai tudásunk alapján nem eldönthető, mennyire veszélyeztetik akár a kreatív szakmákat is az MI eszközök. Sokáig úgy tűnt például, hogy a ChatGPT félelmetesen jól kódol, de nyilvánvalóvá vált, hogy a hallucináció miatt sokat hibázik, ezért nem lehet megspórolni az embert. De ez nem jelenti, hogy nem válhat hasznos asszisztensé az egyébként hiánycikknek számító programozók számára a kevésbé kreatív részfeladatokban.
Amiről nem beszélünk: az MI áldásai
A vita hevében méltatlanul kevés szó esik arról, hogy milyen megkérdőjelezhetetlenül pozitív szerepet játszik az MI egy olyan fontos területen, mint a gyógyítás. „Az egészségügy lesz az első terület, ahol a következő évek eredményei elhitetik az átlagemberrel, hogy az MI nem ördögtől való. Már ma folynak MI által megtalált hatóanyagok klinikai tesztjei, és nemrég négy óra alatt tanítottak be egy modellt, ami gyorsaságban és pontosságban is veri képi diagnosztikában a világ legjobb radiológusait” – jósolta 2020-ban lapunk hasábjain Tilesch György MI szakértő.
Azóta mi is beszámoltunk például a Kheiron nevű magyar egészségügyi techcég Egyesült Királyságban tesztelt, mélytanuláson alapuló mammográfiai szoftveréről, ami jól illusztrálja ezt a trendet. A hasonló rendszerek lehetővé teszik, hogy a világszerte orvoshiánnyal és a szakemberek leterheltségével küzdő radiológiai területen azokat a leleteket, amelyeket két orvosnak kell leolvasnia, a jövőben egy orvos és egy MI elemezze, ami javítja a diagnózis pontosságát, és egyben segít megoldani egy súlyos hiányt.
Noha a tudományos megalapozottsággal érvelni és hivatkozni képes, valódi megértéssel operáló MI még a jövő zenéje, ez is kecsegtető ígéret az emberiség számára. A Szilícium-völgyben matematikai MI-t fejlesztő magyar matematikus, Szegedy Krisztián néhány hete lapunkban nyilatkozta: „Meggyőződésem, hogy a tudományban ma nyitott nagy kérdések zömét az MI fogja megoldani.” Nem mellesleg azt is mondta, hogy mivel vannak gyerekei, ha azt hinné, az MI a következő ötven-száz évben elpusztítja az emberiséget, nem foglalkozna vele éjjel-nappal…
Az MI kétségkívül tartogat megoldandó problémákat a nemzetállamoknak és a nemzetközi szervezeteknek, de az apokaliptikus víziók és a tiltás követelése aligha visz közelebb ahhoz, hogy élhetőbbé tegyük az emberiség számára az MI-kort, amibe most végérvényesen beléptünk.
Nyitókép: a svéd Tobii szemkamerás szemüvege a 7. MI Expo rendezvényen Tokióban 2023 májusában (fotó: Richard A. Brooks / AFP)
Ezt a cikket nem közölhettük volna olvasóink nélkül. Legyen támogatónk a Donably-n, a magyar fejlesztésű előfizetési platformon. Paypal, utalás és más lehetőségek itt
