A gépek potenciálisan elpusztíthatják az emberiséget - hívja fel a figyelmet a mesterséges intelligencia atyja.

Geoffrey Hinton, a mesterséges intelligencia területének egyik legismertebb szakértője, akit sokan "a mesterséges intelligencia atyjaként" ismernek, nemrégiben egy alapos interjút adott a brit The Diary Of A CEO podcastban. A kanadai-brit kognitív pszichológus és informatikus úttörő szerepet játszott a mesterséges neurális hálózatok kutatásában, amiért ezt a megtisztelő címet érdemelte ki. PhD-fokozatát az Edinburgh-i Egyetemen szerezte, és pályafutása során a Carnegie Mellon Egyetemen, a Torontói Egyetemen, valamint a University College Londonban is dolgozott. Legjelentősebb hozzájárulása a visszaterjesztés (backpropagation) algoritmusának innovatív alkalmazása, amely kulcsfontosságú volt a mélytanulás fejlődésében – ez a terület napjaink egyik legdinamikusabban fejlődő ága a mesterséges intelligencia világában. A visszaterjesztés olyan algoritmusokat foglal magában, amelyek a mesterséges neurális hálózatok segítségével képesek hatalmas mennyiségű adat feldolgozására és tanulmányozására. E technológia alapját képezi többek között a beszédfelismerés, az automatikus fordítás, a képfelismerés, valamint olyan generatív mesterséges intelligencia rendszerek, mint a ChatGPT vagy a DALL-E.

Hinton 2013-ban csatlakozott a Google-höz, ahol a Google Brain csapat tagjaként segítette az MI-alapú technológiák fejlesztését, miközben egyetemi pozícióját is megtartotta. Számos tanítványa ma vezető szerepet tölt be az iparágban, többek között az OpenAI, a DeepMind és más nagyvállalatok kutatólaborjaiban.

Hinton a részletes eszmecserében nyíltan kifejtette azokat a komoly aggodalmakat, amelyek okán mára a figyelmeztetés vált a legfontosabb céljává.

Az 1950-es évektől kezdődően a mesterséges intelligencia kutatásában két domináló irányzat alakult ki. Az egyik megközelítés a logikai következtetésre helyezte a hangsúlyt, míg a másik, amelynek Hinton is fontos képviselője lett, az emberi agy működésének szimulációjára összpontosított. "A cél az, hogy egy agysejthálózatot modellezzünk számítógépen, és megtanuljuk, hogyan lehet a neuronok közötti kapcsolatok erősségét úgy optimalizálni, hogy a rendszer képes legyen bonyolult feladatok, például képek azonosítása vagy beszéd értelmezése elsajátítására."

Évtizedeken keresztül a logikai megközelítés uralta a mesterséges intelligencia (MI) kutatást, amely az intelligencia modellezésére formális szabályok és szimbólumok manipulációja révén törekedett. Ezzel szemben Geoffrey Hinton úgy gondolta, hogy az emberi agy működésének utánzása lehet a kulcs a valódi tanuló rendszerek kifejlesztéséhez. Ez a nézőpont sokáig elhanyagolt volt, és csupán néhány egyetem foglalkozott vele komolyabban. Hinton azonban kitartott elvei mellett: "Ötven évig fáradoztam ezen az úton. Mivel kevés intézmény foglalkozott ezzel a kutatási irányzattal, azok a diákok, akik hittek benne, hozzám fordultak." Ezek a fiatal kutatók nem csupán támogatták Hinton törekvéseit, hanem később kulcsszereplőkké váltak a mesterséges intelligencia robbanásszerű fejlődésében. Számosan közülük aktívan részt vettek olyan fontos kezdeményezésekben, mint az OpenAI létrehozása, valamint más jelentős MI-platformok fejlesztése. "Igazán szerencsés voltam, mert rengeteg kiváló tanítvány állt mellettem" - mondta Hinton, aki hangsúlyozta, hogy ezek a fiatal kutatók hozzájárultak ahhoz, hogy az ő elképzelései a tudományos perifériáról a középpontba kerüljenek, és végül meghatározóvá váljanak a mesterséges intelligencia fejlődésében.

Hinton véleménye, hogy a mesterséges intelligencia működésének alapját az emberi agy működése képezi, nem csupán egyedülálló gondolat. Ezt a nézetet már korábban olyan kiemelkedő elméjű tudósok is osztották, mint a híres John von Neumann, akit itthon Neumann János néven ismerünk, valamint Alan Turing, a számítástechnika egyik úttörője.

Véleménye szerint, ha akár csak egyikük hosszabb ideig él, a mesterséges intelligencia fejlődése teljesen más pályára állhatott volna.

Neumann János, a modern számítógépek és a játékelmélet úttörője, Budapesten látta meg a napvilágot. Ifjúkorát a Fasori Evangélikus Gimnázium falai között töltötte, ahol már korán megmutatkozott kiemelkedő intelligenciája. Felsőfokú tanulmányait Berlin és Zürich neves intézményeiben folytatta, mielőtt az Egyesült Államokba költözött, hogy ott újabb mérföldköveket állítson fel a tudományos világban.

Ott kulcsszerepet játszott az elektronikus számítógépek elméleti alapjainak kidolgozásában, és az általa javasolt Neumann-architektúra ma is alapja minden modern számítógép működésének. Alan Turing pedig brit matematikus volt, akit a számítástudomány egyik atyjaként ismernek. Nevéhez fűződik a Turing-gép elméleti modellje, valamint az Enigma-kód feltörésében végzett úttörő munkája a második világháború alatt. Turing korai MI-elképzelései - például a híres Turing-teszt - máig alapját képezik a gépi intelligencia értelmezésének.

Hinton figyelme mára már nem csupán a technológiai innovációk kiaknázására összpontosít, hanem a mesterséges intelligencia fejlődésével járó súlyos kockázatokra is. A legutóbbi beszélgetés során bevallotta, hogy soha nem gondolta volna, mennyire komoly következményekkel járhat mindaz, amit évtizedek óta kutatott és fejlesztett. "Késlekedtem felismerni bizonyos kockázatokat" - ismerte el. Szerinte voltak olyan fenyegetések, amelyeket már korábban is egyértelműen láthatott; például a halálos autonóm fegyverek alkalmazása, amelyek emberi beavatkozás nélkül dönthetnek élet és halál felett. Ugyanakkor a legaggasztóbb forgatókönyv, mely szerint a gépek egy napon túlszárnyalják az emberi intelligenciát, csak az utóbbi években kezdett igazán foglalkoztatni. Hinton úgy véli, hogy ez a lehetőség korábban túl távolinak és elméletinek tűnt ahhoz, hogy komolyan vegyék, de mára már olyan reális fenyegetésként tekint rá, amelyre sürgős választ kell adni.

Két éles ellentétben álló kockázati tényező létezik. Az egyik az, amikor emberek a mesterséges intelligenciát nem megfelelően használják, ami a rövid távú kockázatok többségét jelenti. A másik pedig az, amikor az MI annyira fejletté válik, hogy már nem támaszkodik ránk. Ezzel kapcsolatban sokan hajlamosak legyinteni, de Hinton szerint ez egy komoly fenyegetés. "Gyakran felmerül a kérdés, hogy valóban reális-e ez a kockázat. A válasz igen, az. A probléma az, hogy soha nem találkoztunk nálunk intelligensebb lényekkel. Fogalmunk sincs, hogyan kellene ezt kezelni."

A szakmai közösség véleménye megosztott a témában. Hinton két kollégájának álláspontját is megemlíti: "Yann LeCun úgy véli, hogy mindig kézben tartjuk majd ezeket a rendszereket. Ezzel szemben Eliezer Yudkowsky azt állítja, hogy ezek a technológiák biztosan ki fogják irtani az emberiséget." Hinton azonban egyik véleménnyel sem értett teljes mértékben egyet: "Gyakran mondom, hogy az esélye annak, hogy kiirtanak minket, körülbelül 10-20 százalék - ez csupán egy megérzés a részemről."

Hinton véleménye szerint a mesterséges intelligencia rendkívül sokoldalú eszközzé nőtte ki magát, és a fejlesztések megállítása ma már szinte elérhetetlen feladatnak tűnik. Úgy látja, hogy az MI alkalmazása számos területen óriási előnyöket nyújt: az egészségügyben hozzájárulhat a diagnózisok felállításához és a betegek ellátásához, az oktatás terén pedig lehetőséget teremt a személyre szabott tanulási élmények kialakítására. Az iparban az automatizálás révén forradalmasíthatja a gyártási folyamatokat és növelheti a hatékonyságot. Ugyanakkor a katonai alkalmazások is kiemelkedő szerepet játszanak, hiszen a nagyhatalmak egyre inkább érdeklődnek az MI fegyverrendszerekhez való integrálása iránt. Hinton szerint emiatt a világ vezetői nem valószínű, hogy lemondanak erről a technológiáról, hiszen az előnyök és a stratégiai jelentőség túlságosan nagy ahhoz, hogy önként visszalépjenek. Ezen kívül saját tapasztalatait is megosztotta: több olyan videó is készült, melyekben a nevét, arcát és hangját felhasználva hamis információkat terjesztettek róla, például kriptovaluták népszerűsítése céljából. Az ilyen tartalmak eltávolítására tett kísérletei sajnos eredménytelenek maradtak.

A biztonsági fenyegetések között egyre inkább előtérbe kerülnek a kibertámadások, amelyek száma folyamatosan emelkedik. Az MI által irányított rendszerek képesek olyan innovatív megoldások kifejlesztésére, amelyeket az emberi értelem csupán elképzelni sem tudna. Még aggasztóbb, hogy az MI-t a vírusok fejlesztésére is felhasználják, ami új dimenziókat nyithat meg a kiberbűnözés világában.

"Ma már nem kell kivételes molekuláris biológusnak lenni ahhoz, hogy egy őrült mesterséges intelligenciával vírusokat fejlesszen" - említette példaként.

Nem meglepő, hogy a technológia árnyékot vet a demokrácia világára. A személyre szabott politikai hirdetések terjedése új lehetőségeket teremt a manipulációra. Amikor minden részletet tudunk egy ember életéről, rendkívül egyszerűvé válik, hogy meggyőzzük őt arról, hogy például ne vegyen részt a szavazáson.

A közösségi média algoritmusait is éles kritikával illette. "A mesterséges intelligencia által vezérelt hírfolyamok csupán megerősítik az emberek előítéleteit, miközben szétszakítják a társadalmi szövetet. Nincs többé közös valóság." Szerinte ezek az algoritmusok egyre inkább izolálják az embereket: "A hírfolyamom 75%-a mesterséges intelligenciával kapcsolatos tartalmakból áll. Nehéz eldönteni, hogy a világ valóban erről beszél-e, vagy csupán én kapom ilyen híreket." A hadviselés autonóm fegyvereiről is kifejtette véleményét. "A nagyhatalmak eddig is képesek voltak gyengébb országokat megtámadni, de ha nem szükséges saját katonákat bevetni, az ellenállás mértéke jelentősen csökken."

A munkanélküliség kérdése azonban még ennél is sürgetőbb kihívásnak számít:

"Ez a forradalom lényegében az intellektus újraformálását hozza el. A mesterséges intelligencia fokozatosan megszünteti a rutinszerű szellemi feladatokat ellátó munkaköröket."

Hinton személyes példaként az unokahúgát említette, aki ügyfélszolgálati munkát végez, panaszos levelekre válaszol. Korábban egy-egy válasz kidolgozása átlagosan 25 percet vett igénybe, most viszont már csak öt percet, mert az üzenetek szövegét egy chatbot készíti el helyette. Ez a hatékonyságnövekedés azonban nemcsak segíti, hanem veszélyezteti is a munkahelyeket: ha a technológia ötből egy embert képes teljesen kiváltani, az valóságos elbocsátási hullámot indíthat el - mondja Hinton. Szerinte az egészségügy lehet az egyik kevés kivétel, ahol az MI-vel nyert kapacitást valóban a betegek javára lehet fordítani, de a legtöbb iparágban inkább leépítések jöhetnek, nem új lehetőségek.

Hinton szerint az MI előnyeinek egyik legfontosabb kulcsa a digitalizációban rejlik. Míg az emberi agy csak lassan és korlátozott mennyiségű információt képes átadni másoknak - beszéddel, írással vagy tanítással -, a mesterséges neurális hálózatok szinte azonnal és pontosan képesek megosztani a tanulási eredményeiket. "A gépi ideghálók képesek egymással szinkronizálni a tanulásukat. Mi emberek viszont csak lassan, kevés adattal tudunk információt cserélni" - magyarázta. Ez szerinte óriási előny az emberi tanuláshoz képest, és alapvetően más fejlődési pályát biztosít a gépi rendszerek számára.

Ez a digitális világ lehetőséget ad arra, hogy a gépi intelligencia "örök életet" nyerjen. A súlyértékek, vagyis az MI által elsajátított mintázatok és szabályok, könnyedén tárolhatók és szabadon átvihetők más rendszerekbe.

"Ha a hardverük meg is semmisül, a súlyaik elmenthetők, és újraalkothatók" - mondta. Szerinte ez azt jelenti, hogy egy mesterséges intelligencia tanulási eredményei nem kötődnek egyetlen géphez vagy időpillanathoz, hanem gyakorlatilag örök életűek lehetnek, ha megfelelő infrastruktúra áll rendelkezésre.

A tudatosság és az érzelmek témájában határozott álláspontot képvisel. Szerinte a gépek is képesek lehetnek érzelmeket tapasztalni, legalábbis a kognitív szempontból. Például, ha egy kisebb harci robot megijed egy nagyobb társától és elmenekül, akkor az valódi félelemként értelmezhető. Bár lehet, hogy nem termel adrenalint, a gondolatai és reakciói mégis hasonlóak az emberi érzelmi válaszokhoz.

Hinton kifejtette, hogy döntésének hátterében az állt, hogy elérkezett az idő a nyugdíjazására, és ezt a lépést pont akkor tette meg, hogy szabadon kifejezhesse véleményét egy MIT által rendezett konferencián. "Bár a Google-nál is támogatták volna ezt a kezdeményezést, nem éreztem etikusnak, hogy a cég alkalmazottjaként nyíltan bíráljam az iparág működését."

A podcast végén azt is megkérdezték, mit tanácsolna a politikusoknak és az embereknek. "Magasan szabályozott kapitalizmusra van szükség." Az emberek számára viszont kevés mozgásteret lát: "Nem sokat tehetnek. Itt csak az segít, ha a kormányokat nyomás alá helyezik, hogy kötelezzék a nagy cégeket a biztonságos fejlesztésre."