A mesterséges intelligenciát gyakran technológiai forradalomként, gazdasági lehetőségként vagy geopolitikai fegyverkezési versenyként tárgyalják. Ezek az értelmezések, bár érvényesek, nem képesek megragadni a most kibontakozó átalakulás mélyebb természetét. Az AI felemelkedése nem egyszerűen az intelligensebb gépekről szól. A valóság, a cselekvőképesség és végső soron magának az emberi személynek a fokozatos újradefiniálásáról szól.
A mesterséges intelligencia korának központi kérdése tehát nem az, hogy a gépek képesek-e gondolkodni. Az, hogy az emberi lények egyáltalán továbbra is értelmes értelemben gondolkodnak-e.
Ez nem pusztán technikai kérdés. Ez egy filozófiai, civilizációs és politikai probléma – amely a szuverenitás, a szabadság és az emberi méltóság alapjait érinti.
A technológia mint végzet
Martin Heidegger német filozófus már évtizedekkel ezelőtt figyelmeztetett1 hogy a modern technológiát nem szabad pusztán eszközgyűjteményként felfogni. Érvelése szerint a technológia egy módja annak, hogy a valóság feltárja magát az emberiség előtt. Az ókori görögök számára techné nem egyszerűen műszaki hatékonyságot vagy mechanikus gyártást jelentett, hanem poiésis: a „előhozás” egy formája, amelyen keresztül az igazság fokozatosan megjelent a világban. Az iparos, az építő és a költő egyaránt részt vett ebben a feltárásban.
A modern technológia azonban már nem úgy működik poiésis. Heidegger így jellemezte a logikáját Gestell– „keretezés” – a valóság rendezésének módja, amelyben a természet, a kultúra és végső soron még az ember is elsősorban úgy jelenik meg. Bestand: állandó tartalék, megrendelendő, kalibrálandó és funkcionális használatra tartósan rendelkezésre bocsátandó erőforrások.
Ez a megkülönböztetés elengedhetetlen az AI-kor mélyebb logikájának megértéséhez. Miután a valóságot elsősorban az optimalizálás és az ellenőrzés útján közelítik meg, az átalakulás elkerülhetetlenné válik: az emberi lények adatprofilokként jelennek meg, amelyeket meg kell jósolni és kezelni kell; a természet a kitermelhető erőforrások tározójává válik; a kultúra algoritmikusan generált tartalomfolyamokban oldódik fel; és magát a gondolatot kockáztatja, hogy számítási várakozásra redukálódik.
Heidegger szemszögéből nézve a veszély nem pusztán az, hogy a gépek intelligensebbé válnak, hanem az is, hogy az emberi önmegértés kezd megfelelni a gép logikájának. A mesterséges intelligencia ennek a logikának a csúcsát jelenti.
Az emberi lényekre többé már nem tekintenek elsősorban állampolgároknak, erkölcsi cselekvőknek vagy közösségek tagjainak. Egyre inkább adatpontként jelennek meg: kiszámítható viselkedési minták a hatalmas számítási rendszereken belül. Minden kattintás, mozdulat, érzelem, preferencia és habozás kinyerhető információvá válik.
„Az emberi lényekre többé már nem tekintenek elsődlegesen polgároknak, erkölcsi cselekvőknek vagy közösségek tagjainak. Egyre inkább adatpontként jelennek meg.
Ez az átalakulás hozta létre azt, amit a tudós Shoshana Zuboff „felügyeleti kapitalizmusnak” nevez: egy új gazdasági és technológiai rendet, amely nem egyszerűen áruk vagy szolgáltatások előállítására épül, hanem magának az emberi tapasztalatnak a gyűjtésére.
Ebben a rendszerben a személyes viselkedés azzá válik, amit Zuboff „viselkedési többletnek” nevez, vagyis a cselekvéseink, preferenciáink, érzelmeink és rutinjaink által generált többletadatokká, amelyeket előrejelzések és manipulációk nyersanyagaként nyernek ki. Amit a korábbi ipari kapitalizmus kivont a természetből és az emberi munkából, azt a felügyeleti kapitalizmus most a tudatból, a figyelemből és a mindennapi életből vonja ki.
Ezt a fejleményt az teszi különösen jelentőssé, hogy az AI-rendszerek nem csupán megfigyelik a viselkedést; egyre inkább alakítják. Az ajánlási algoritmusok, a prediktív rendszerek, a közösségimédia-architektúrák és a személyre szabott digitális környezetek nem egyszerűen a felhasználók megértését szolgálják, hanem a döntéshozatali folyamatok irányítását, ösztönzését és automatizálását is szolgálják. Ahogy Zuboff megjegyzi: „a cél most az, hogy automatizáljunk bennünket”.2
Egy ilyen erózió üti meg annak a lényegét, amit a konzervativizmus mindig is meg akart védeni.
A konzervativizmus lényegében azon a meggyőződésen nyugszik, hogy az emberi lények nem redukálhatók gazdasági funkciókra vagy számítási változókra. Az emberi életnek erkölcsi mélysége, történelmi folytonossága, spirituális dimenziója és közösségi beágyazottsága van. Egy civilizáció nem pusztán a technikai hatékonyság révén marad fenn, hanem az értelem, az emlékezet, a felelősség és a rend öröklött formái révén.
A digitális kor uralkodó logikája azonban folyamatosan az ellenkező irányba tol. Az algoritmikus rendszerek előnyben részesítik a közvetlenséget a szemlélődéssel szemben, az ösztönzést a bölcsesség helyett, a személyre szabottságot a közösséggel szemben, és a viselkedésmenedzsmentet az erkölcsi autonómiával szemben.. Az egyén egyszerre válik hiperláthatóvá és belsőleg töredezetté, állandóan összefüggővé, ugyanakkor egyre inkább elszakad a stabil kulturális és erkölcsi struktúráktól.
Az irónia feltűnő. A modern társadalmak gyakran ünneplik a mesterséges intelligenciát a racionalitás diadalaként, miközben ugyanazok a rendszerek fokozatosan erodálják a független ítélkezéshez és a reflektív gondolkodáshoz szükséges feltételeket.
Ezt az ontológiai válságot talán maga a generatív mesterséges intelligencia megjelenése mutatja a legjobban. A nagy nyelvi modellek ma már képesek olyan filozófiai nyelvezetet, morális érveket, sőt metafizikai reflexiókat produkálni, amelyek elképesztően folyékonyan utánozzák az emberi diskurzust. A gép képes szimulálni a bölcsességet anélkül, hogy tudata, szándékossága vagy megélt tapasztalata lenne.
Ez felvet egy kényelmetlen kérdést: ha a filozófiai nyelvezet automatizálható, akkor a modern szellemi élet mennyi része vált már a gép megérkezése előtt képletté?
Jean Baudrillard francia filozófus azzal érvelt, hogy a modern társadalmak elkezdték a valóságot szimulációkkal helyettesíteni – minden hiteles referenstől elszakadt ábrázolással.3 Az AI drámaian felerősíti ezt az állapotot. Olyan korszakba lépünk, amelyben a gondolatimitáció társadalmilag megkülönböztethetetlenné válhat magától a gondolattól.
Byung-Chul Han koreai német filozófus ezt a kritikát kiterjeszti a digitális korszakra is. In Az Átláthatósági TársaságHan azt állítja, hogy a kortárs technológiai rendszerek az átlátszatlanságot, a távolságot, a csendet és a kétértelműséget igyekeznek kiküszöbölni a teljes láthatóság és az állandó kommunikáció javára. Az átláthatóság ebben az értelemben már nem a szabadságot, hanem az ellenőrzést szolgálja. A digitális társadalom az egyéneket önként exponáló alanyokká alakítja, akik kommunikáción, önmegjelenítésen és részvételen keresztül folyamatosan információkat generálnak magukról.
„A digitális társadalom az egyéneket olyan szubjektumokká változtatja, akik folyamatosan információkat generálnak magukról”
In PszichopolitikaHan még tovább tolja ezt az érvelést. A régebbi, kényszeren és tiltáson alapuló fegyelmi rendszerekkel ellentétben a kortárs digitális hatalom ma csábításon, önkalibráláson és önkéntes részvételen keresztül működik. Az egyének szabadnak hiszik magukat, miközben viselkedésüket folyamatosan a teljesítmény, a láthatóság és az érzelmi érvényesítés algoritmikus rendszereihez igazítják. Ilyen körülmények között az uralom már nem külső elnyomásként, hanem önigazgatásként jelenik meg.
A veszély nem az, hogy a gépek hirtelen emberré válnak. Arról van szó, hogy az emberek fokozatosan alkalmazkodnak a gépek logikájához.
A függőség architektúrája
Ami antropológiai átalakulásként kezdődik, az fokozatosan átformálja magát a geopolitikai valóságot is. Az AI gyorsan a hatalom geopolitikai infrastruktúrájává válik.
A 21. századot nem egyszerűen a terület vagy az ipari kapacitás feletti ellenőrzés határozza meg, hanem az adatok, a számítási architektúra, a félvezetők, a felhő infrastruktúra, valamint az algoritmikus koordinációs és viselkedés-előrejelzési rendszerek ellenőrzése.. Aki irányítja a mesterséges intelligencia infrastruktúráit, az egyre inkább nemcsak a piacokat alakítja, hanem az információs környezeteket, a stratégiai függőségeket, sőt a politikai magatartást is.
Az Egyesült Államok és Kína közötti rivalizálás már ezt a valóságot tükrözi. Az AI elválaszthatatlanná vált a katonai tervezéstől, a kiberműveletektől, a hírszerzési elemzésektől, a pénzügyi rendszerektől, a médiaökoszisztémáktól és az ipari versenyképességtől. Nem véletlen, hogy ma már mindkét nagyhatalom stratégiai eszközként kezeli a félvezetőket és a mesterséges intelligenciával kapcsolatos ellátási láncokat, amelyek összehasonlíthatók az energiaforrásokkal vagy a hadiipari kapacitással.
Ebben az értelemben az AI nem pusztán technológiai, hanem szuverenitási kérdés.
Európa eközben nehéz helyzetbe került. A szabályozási ambíciók és az etikai diskurzus ellenére a kontinens szerkezetileg továbbra is függ a külső technológiai ökoszisztémáktól.
Az európai társadalmak túlnyomórészt amerikai platformokra, felhőrendszerekre, operációs infrastruktúrákra, és egyre inkább nem európai mesterségesintelligencia-architektúrákra támaszkodnak. A „digitális szuverenitás” kérdése ezért már nem retorikai kérdés. Az a politikai közösség, amely nem tudja ellenőrizni információs infrastruktúráját, azt kockáztatja, hogy elveszíti az értelmes stratégiai autonómiát.
Az állami szuverenitás azonban önmagában nem elegendő, ha az egyének maguk is elveszítik a figyelem, az észlelés és az ítélőképesség feletti szuverenitást.
Ez lehet végső soron a mesterséges intelligencia korának meghatározó politikai küzdelme: nem egyszerűen a határok, hanem az emberi belsőség védelme.
„Az állami szuverenitás önmagában nem elegendő, ha az egyének elveszítik a figyelem, az észlelés és az ítélőképesség feletti szuverenitást”
A digitális társadalom paradoxona az, hogy nincs igazi kiút belőle. A digitális szférából való teljes kivonulás egyre inkább társadalmi, gazdasági, sőt politikai marginalizálódást jelent. A teljes elmélyülés azonban magában hordozza a maga veszélyeit: állandó expozíciót, algoritmikus függőséget, kognitív kimerülést, valamint a csend, a szemlélődés és a befelé fordulás fokozatos erózióját. Az egyén fennáll annak a veszélye, hogy a kirekesztés és a feloszlatás – az irrelevánsság és a technológiai rendszerbe való teljes integráció – csapdájába kerül.
Az MI-kérdés ezért ellenáll a technológiai utópisztikusságnak és az apokaliptikus fatalizmusnak egyaránt. A mesterséges intelligencia kétségtelenül hatékony eszközöket kínál az orvostudománytól és a logisztikától a tudományos kutatásig és adminisztrációig.
De a központi kérdés már nem csupán az, hogy az AI mit tehet a civilizációért. A nyugtalanítóbb kérdés az a civilizáció, amely akkor jön létre, ha az állandó kapcsolódás, a viselkedési modellezés és a technológiai közvetítés szervezőelveivé válik.
A modern technológiai társadalmak azt kockáztatják, hogy olyan feltételeket teremtenek, amelyekben az emberi lények felhagynak az önálló ítélkezéssel, és átadják a felelősséget rendszereknek, eljárásoknak és személytelen technológiai struktúráknak. A veszély nem pusztán külső kontroll. Ez annak a lehetősége, hogy a rendszer logikája pszichológiailag internalizálódik – amíg a hatékonyság felváltja a bölcsességet, a láthatóság a belsőséget, és az alkalmazkodás a szabadságot.
A teljes mértékben a hatékonyság köré szerveződő társadalom végül elfelejti, hogyan válaszoljon a legfontosabb emberi kérdésekre:
- Mit érdemes megvédeni?
- Mire való a szabadság?
- Mit jelent értelmes életet élni?
- Mi az, ami egyedülállóan emberi marad?
Ezek nem mérnöki problémák. Ezek filozófiai kérdések.
És hacsak a civilizáció nem fedezi fel újra a bátorságot, hogy komolyan kérdezze őket, a mesterséges intelligencia forradalma nem az intelligens gépek felemelkedésében, hanem az autonóm emberi lények lassú eltűnésében csúcsosodik ki.
- Martin Heidegger, A technológia és más esszék kérdéseFordította: William Lovitt, New York, Harper & Row, 1977. ︎
- Shoshana Zuboff, A felügyeleti kapitalizmus kora: Harc az emberi jövőért a hatalom új határánNew York, PublicAffairs, 2019, p. 17.
︎ - Jean Baudrillard, Szimulákra és szimulációFordította: Sheila Faria Glaser, Ann Arbor, University of Michigan Press, 1994. ︎
︎
The post Az utolsó emberi felszólítás? A Mesterséges intelligencia és az emberi szuverenitás jövője először a Magyar Konzervatívon jelent meg.
