Yuval Noah Harari, világhírű történész és a “Sapiens” bestseller szerzője, új könyvében, a “Nexus”-ban apokaliptikus képet fest az emberiség jövőjéről, amit a mesterséges intelligencia (MI) uralma jellemezhet. Nézzük meg közelebbről, hogy milyen érveket hoz fel, és ezek hogyan befolyásolhatják társadalmunkat.
Table of Contents
Az MI fenyegetései: egy digitális apokalipszis
Yuval Noah Harari új könyvében egy sötét jövőképet fest az úgynevezett “számítógépes hálózatok” uralma alá kerülő világról – ideértve a digitális megfigyelési kapitalizmust, közösségi média algoritmusokat és a mesterséges intelligenciát. Szerinte ezek együttesen vezethetnek civilizációnk pusztulásához.
Figyelmeztet arra, hogy a mesterséges intelligencia veszélybe sodorhatja a demokráciát és az emberi társadalmi kohéziót azáltal, hogy megsemmisíti a közös valóságot. Ez lehet az emberi történelem vége.
Figyelmeztet arra, hogy a mesterséges intelligencia veszélybe sodorhatja a demokráciát és az emberi társadalmi kohéziót azáltal, hogy megsemmisíti a közös valóságot. Azáltal, hogy a mesterséges intelligencia képes manipulálni és torzítani az információkat, megteremtheti azt a helyzetet, amelyben az emberek már nem tudják, mi az igazság és mi a hamis. Ez a jelenség alááshatja a közbizalmat és a közösségi együttműködést, mert az emberek elveszíthetik a közös alapot, amelyre a társadalmi és politikai diskurzus épül.
Figyelmeztet arra, hogy a mesterséges intelligencia veszélybe sodorhatja a demokráciát és az emberi társadalmi kohéziót azáltal, hogy megsemmisíti a közös valóságot. Azáltal, hogy a mesterséges intelligencia képes manipulálni és torzítani az információkat, megteremtheti azt a helyzetet, amelyben az emberek már nem tudják, mi az igazság és mi a hamis. Ez a jelenség alááshatja a közbizalmat és a közösségi együttműködést, mert az emberek elveszíthetik a közös alapot, amelyre a társadalmi és politikai diskurzus épül.
A dezinformáció és az álhírek terjedése, amelyet a mesterséges intelligencia algoritmusai könnyen felerősíthetnek, tovább mélyítheti a társadalmi megosztottságot és polarizációt. Az emberek egyre inkább bezárkózhatnak saját információs buborékaikba, ahol csak azokat az információkat és nézeteket találják meg, amelyek megerősítik saját előítéleteiket és világnézetüket. Ez a fajta szűrőbuborék hatás megakadályozhatja a nyílt és érdemi párbeszédet, ami alapvető a demokratikus folyamatok számára.
Az ilyen mértékű információs torzulás és a közös valóság elvesztése végső soron az emberi történelem végét jelentheti. Ha a társadalmak nem képesek fenntartani a közös valóság érzését és az igazság iránti közös elkötelezettséget, akkor az alapvető társadalmi struktúrák meginoghatnak. A demokrácia, amely a nyílt információáramláson és a közös döntéshozatalon alapul, különösen sérülékeny lehet ebben a környezetben. Az instabilitás és a bizalmatlanság növekedése pedig hosszú távon károsíthatja az emberi társadalom kohézióját és működőképességét.
Ezért rendkívül fontos, hogy a mesterséges intelligencia fejlesztése és alkalmazása során figyelembe vegyük az etikai és társadalmi következményeket, és olyan szabályozási kereteket hozzunk létre, amelyek biztosítják, hogy az AI technológiák ne veszélyeztessék a közös valóságot, a demokráciát és az emberi társadalmi kohéziót.
Az AI vs. Emberi Haladás
Harari továbbá hangsúlyozza, hogy a nyomtatás elterjedése nemcsak a tudományos ismeretek gyorsabb terjedését tette lehetővé, hanem egyúttal a társadalmi feszültségek fokozódását is. Az új technológia révén szélesebb közönség számára váltak hozzáférhetővé a különböző politikai és vallási nézetek, ami gyakran vezetett konfliktusokhoz és forradalmakhoz. Harari szerint a nyomda forradalmi hatása tehát ambivalens volt: miközben előmozdította az oktatás és a tudomány fejlődését, párhuzamosan hozzájárult az információs káosz növekedéséhez és a társadalmi rend megbomlásához. Ezzel az összetett képpel Harari arra hívja fel a figyelmet, hogy minden technológiai újítás kétélű fegyver lehet, amelynek hatásait alaposan mérlegelni kell.
Az információ naiv szemlélete
A “Nexus” egyik központi gondolata az úgynevezett “naiv információnézet” kritikája. Ez a nézet azt sugallja, hogy az információ önmagában jó, és minél több van belőle, annál jobb. Harari azonban rámutat, hogy az információ mennyisége nem vezet automatikusan politikai bölcsességhez vagy az igazsághoz. Ehelyett az információ túláradása álhírek és félrevezető adatok özönét jelentheti.
Az AI Képességei és Korlátai
Yuval Noah Harari hite az MI képességeiben zavaró. Úgy véli, hogy a modern számítógépek képesek új ötletek létrehozására és kulturális innovációra. Azonban a mai chatbotok és MI rendszerek még mindig csak a kiképzési adatok mintáinak újrakombinációjára képesek.
A szerző jövőképe szerint az MI uralhatja a világot, és akár új járványok vírusait is létrehozhat, vagy valamilyen új pénznemet találhat ki. Továbbá, az MI álhírek és lázadásra buzdító tartalmak özönével áradhat el az információs hálózatokat.
A “Szilícium Függöny”
A Szilícium Függöny egy újabb kifejezés, amely a digitális világban a geopolitikai és technológiai elválasztottságot jelöli, különösen az olyan nagyhatalmak között, mint az Egyesült Államok és Kína. Ezt a fogalmat gyakran a hidegháborús “Vasfüggöny” analógiájaként használják, de a modern technológia világára vonatkozik, ahol az adatvédelem, a kiberbiztonság, a technológiai szuverenitás, valamint a mesterséges intelligencia és a félvezetőgyártás stratégiai fontosságú területei jelentik az elválasztó vonalat.
Harari nem csupán az MI, hanem a geopolitikai helyzet miatt is aggódik. A “Szilícium Függöny” megjelenését prognosztizálja, ahol kínai és amerikai számítógépes rendszerek már nem lesznek képesek kommunikálni vagy együttműködni, ezzel megszüntetve az egységes emberi valóságot. Az ilyen szétválás nemcsak technológiai szakadékot hozhat létre, hanem mély társadalmi és kulturális megosztottságot is eredményezhet, amely tovább nehezíti a globális problémák közös megoldását. A globális közösségek közötti bizalom hiánya és a növekvő digitális szakadék alááshatja a nemzetközi együttműködést és fokozhatja a konfliktusokat, ami végső soron az emberiség közös jövőjét veszélyezteti.
Harari nem csupán az MI, hanem a geopolitikai helyzet miatt is aggódik. A “Szilícium Függöny” megjelenését prognosztizálja, ahol kínai és amerikai számítógépes rendszerek már nem lesznek képesek kommunikálni vagy együttműködni, ezzel megszüntetve az egységes emberi valóságot.
Mit tehetünk?
Harari szerint az emberi civilizáció megmentéséhez és a közös valóságunk megőrzéséhez szükséges, hogy az algoritmusokat és az MI-t szigorú hivatalos szabályozás alá vessük. Szükségünk van olyan intézményekre, amelyek rendelkeznek erős önjavító mechanizmusokkal. Emellett elengedhetetlen, hogy a társadalom tagjai is jobban megértsék az MI működését és hatásait, hogy képesek legyenek felelős döntéseket hozni ezen technológiák használatával kapcsolatban. Az oktatási rendszereknek is lépést kell tartaniuk a technológiai fejlődéssel, hogy az emberek ne csak passzív felhasználói, hanem aktív alakítói is lehessenek a digitális jövőnek. Csak így biztosíthatjuk, hogy az MI előnyei mindenki számára elérhetők legyenek, miközben minimalizáljuk az esetleges káros következményeket.
Harari szerint az emberi civilizáció megmentéséhez és a közös valóságunk megőrzéséhez szükséges, hogy az algoritmusokat és az MI-t szigorú hivatalos szabályozás alá vessük. Szükségünk van olyan intézményekre, amelyek rendelkeznek erős önjavító mechanizmusokkal.
Konklúzió
Harari könyve, a “Nexus”, nem csupán apokaliptikus látomást fest az MI jövőbeli veszélyeiről, hanem cselekvési tervet is kínál ezek ellen. Azonban hozzá kell tennünk, hogy a könyv némely része túlzó és retorikai eszközként szolgál az AI és geopolitikai félelmek feltárásában. Ajánlható mindenkinek, aki érdeklődik a mesterséges intelligencia társadalmi és etikai következményei iránt.
