Néhány hete Prága felé autóztunkban eszembe jutott a Gólem története. A Löw rabbi által életre keltett, majd a létrehozójával szembekerülő és végül elpusztuló agyaglény sztorijáról nem túl nehéz a jelen egyik nagy problémájára gondolni: az ember és a mesterséges intelligencia (angolul AI, magyarul MI) kapcsolatára.
A Gólem-sztori pedig egész jól indult: a prágai rabbi által készített, a Moldva agyagjából gyúrt, és a szájában Isten nevét hordó agyagember jó ötletnek látszott. Elsőre. Egyszerre volt biztonsági őr, áruszállító és favágó, egészen a sábesz bejöveletéig. Löw rabbi ekkor kivette a szájából a papírtekercset, a Gólem pedig élettelen agyagtömbbé vált. A gondok később jöttek, és ezek a gondok az elbeszélések szerint végül oda vezettek, hogy Gólemnek pusztulnia kellett. Maradványait állítólag a prágai Régi-Új Zsinagóga padlásán őrzik.
A MI története is egészen jól indult: a bitek millióiból gyúrt, a kérdéseinkre válaszoló, elképesztő tempóban tanuló program igazán emberi – pont, mint a Gólem. Segít, szolgál, vágja a fát, válaszol okosabb, vagy ostobább kérdéseinkre, megírja az egyetemi dolgozatokat, megmondja a lottószámokat, lehet vele csevegni, sőt, még hazudik is. Teljesen emberi. Csak hát nem az. És éppen ez a veszélye.
Az ismert – és megosztó – izraeli történész és gondolkodó, Yuval Noah Harari is aláírta azt a kiáltványt, amiben a világ tudósai arra kérik a nagy techcégeket, fél évre azonnal állítsanak le minden, az MI-val kapcsolatos kutatást, és állapodjanak meg a megfelelő biztonsági protokollokról – a papírtekercsről, amit, ha a digitális Gólem törni-zúzni kezd, mint agyag hasonmása, ki lehet venni a szájából. Harari nem mást mond, mint hogy az emberiség kultúrája felett a gépek vehetik – vagy veszik – át az irányítást. A brit Telegraphnak adott interjújában az izraeli történész súlyos kérdést tesz fel: „Képzeld el azt a világot, amiben a szövegeket, dallamokat, képeket és tévésorozatokat mind mesterséges intelligenciák hozzák létre. Nem is fogjuk fel egyelőre, hogy ez mit jelent. Milyen következménye lesz annak, ha az AI átveszi az irányítást a kultúránk felett?”
A kérdés jogos. Most jópofának látszik, ha egy mindenttudó embert játszó gép úgy beszélget velünk, mint egy másik ember. És mindig elérhető. Nem fáj a feje, nem aludt rosszul, nem haragszik, nincs szerelmi csalódása, nem beteg, nem fél a haláltól. Viszont tanul. Minden nap, minden kérdésünkkel, minden érdeklődésünkkel, amit kérdezünk tőle, amire kíváncsiak vagyunk, az internet végtelen információival tanul. Tudása nagyobb lesz bármelyikünkénél, sőt, egy idő után mindannyiunknál. Ki állítja meg a Gólemet, ha túl sokat akar?
Félelmeimmel nem vagyok egyedül, sőt. Eddig több, mint 27 ezren írták alá a Harari által is támogatott kiáltványt. A listán nem kis nevek szerepelnek: Elon Musk, a Tesla és a Twitter első embere, Steve Wozniak, az Apple társalapítója, a legnagyobb egyetemek vezetői, kutatói, tudósai.
A mesterséges intelligencia – és a „Die Aktuelle” című német bulvárlap szerkesztői – nem olyan régen azzal borzolták a kedélyeket, hogy egy, a MI által írt Schumacher-interjút közöltek le. A probléma ott volt, hogy a mesterséges újságíró nem a kérdéseket tette fel, hanem az évek óta kómában fekvő Michael Schumacher bőrébe bújva, a válaszokat adta. A történet számos újságíró-etikai kérdést is felvet, amellett, hogy a szakmai alapvető szabályait is átírja. Egy jó riport elkészítéséhez például elengedhetetlen, hogy az újságíró átélje a helyzetet, jelen legyen a helyszínen, és egyéni, saját gondolatai szülessenek meg. Mivel a MI bármilyen információhoz hozzáfér, tehet úgy, mintha a tel-avivi kormányellenes tüntetések közepén állna, leírhatja a környezetet, de saját élménye, saját érzése nem lesz, és nem lehet a történtekről. A gond, hogy amit viszont megír, az pont olyan lesz, mintha lenne. És itt visszaérünk Hararihoz, és a kérdéséhez, amit felvetett: a világ nagy művei, könyvei, filmjei, zeneművei, versei emberi sorsok, emberi gondolatok, emberi érzések, örömek, fájdalmak eredményei. Emberi történeteké, amelyekben a nemtudás, vagy a nemlét érzése fontos szerepet játszik. József Attila versének négy kezdősorában benne van egy egész élet fájdalma:
„Talán eltűnök hirtelen,
akár az erdőben a vadnyom.
Elpazaroltam mindenem,
amiről számot kéne adnom.”
Írhat-e egy mesterséges költő igaz verset? Nyilván nem.
Ahogy a MI beszélhet arról, hogy a citrom sárga, savanyú és fán terem, és limonádét lehet belőle csinálni, de érezni nem fogja a nyári délutánon az árnyékban megivott jeges limonádé hűsítését, azt a belső gyönyört, amikor a savanyú, de mégis édes, zsibbasztóan hideg italba kortyolunk. Sokan azt mondják, pont emiatt nem kell aggódnunk, hogy a gépek átveszik a hatalmat. De mi van, ha nem digitális Gólem nem a limonádé ízére vágyik, hanem az ágyúlövés hangjára? Nem könnyű kérdések ezek, és csak remélhetjük, hogy él a földön egy olyan Löw rabbi, aki időben ki tudja kapni a tekercset a Gólem szájából, mielőtt késő lenne.
A Mesterséges Intelligencia nem vett részt ennek a cikknek a megírásában (sem).
