Yuval Noah Harari

Az információ teljesen szabad piaca a szenzációhajhászat és a hisztéria térnyeréséhez vezethet az igazság rovására. Nem nehéz megérteni, miért. A nyomdászok és könyvkereskedők sokkal több pénzt kerestek a Boszorkányok pörölye rémmeséivel, mint Kopernikusz Az égi pályák körforgásairól címû munkájának unalmas matematikájával.

A legtöbb ember nem pusztán a hatalom iránt érdeklődő egydimenziós lénynek látja magát. Akkor miért tartanánk annak másokat?

A történelem legfőbb tanulsága, hogy sok minden, amit természetesnek és örökkévalónak hiszünk, valójában ember alkotta és megváltoztatható.

Egyszerre vagyunk a legokosabb és a legostobább állatok a földön. Annyira okosak vagyunk, hogy atombombákat és szuperintelligens algoritmusokat tudunk előállítani. És annyira ostobák, hogy elő is állítjuk ezeket, pedig fogalmunk sincs arról, hogy képesek leszünk-e őket az ellenőrzésünk alatt tartani, és ha nem, az a pusztulásunkat okozhatja.

Valamennyien mindent átszövő pókhálókba gabalyodunk, amelyek korlátozzák a mozgásunkat, ugyanakkor a legapróbb rezdülésünket is továbbítják távoli célpontok felé. Napi rutinunk befolyásolja a világ másik felén lakók életét, és egyes személyes tettek váratlanul lángba boríthatják a világot.

A big data algoritmusai digitális diktatúrákat hozhatnak létre, amelyben a hatalom egy parányi elit kezében összpontosul, míg a többség sorsa nem is a kizsákmányolás lesz, hanem valami annál is rosszabb: a jelentéktelenség.

Ha a Homo sapiens el is pusztítja önmagát, az univerzum megy tovább úgy, ahogyan eddig. A földi evolúciónak négymilliárd év kellett ahhoz, hogy kialakuljon az intelligens majmok civilizációja. Ha mi eltûnünk, és az evolúciónak újabb százmillió év kell ahhoz, hogy kialakuljon az intelligens patkányok civilizációja, akkor annyi kell. Az univerzumnak van türelme.

A mesterséges intelligencia és a biotechnológia hatalmat ad az emberiségnek arra, hogy átformálja és áttervezze az életet. Valakinek rövidesen el kell majd döntenie, hogyan használjuk ezt a hatalmat - mégpedig egy, implicit vagy explicit módon az élet értelméről szóló történet alapján. A filozófusok türelmes emberek, a mérnökök azonban már kevésbé, a befektetők pedig még annyira sem. Ha nem tudjuk, mihez kezdjünk az élet áttervezésének képességével, a piaci erők nem fognak ezer évet várni arra, hogy valaki előálljon valamilyen válasszal.

Az embernek mindig is az volt az erősebb oldala, hogy feltaláljon valamit, s nem az, hogy bölcsen használja azt.

A legtöbb emlős úgy bújik elő az anyaméhből, mint az égetett agyagszobrok a kemencéből. Ha megpróbáljuk átformálni őket, megkarcolódnak, sőt el is törnek. Az ember viszont úgy jön elő a méhből, mint az olvadt üveg. Egész meglepő mértékig lehet nyújtani és formálni.

Nem sokkal ezelőttig jelentéktelen állatok voltunk, valahol a tápláléklánc közepe táján. Aztán hirtelen felugrottunk a csúcsra. Talán túlságosan is hirtelen. Az oroszlánok, sasok és cápák évmilliókig fejlődtek, míg odakerültek. Ez a lassú tempó hagyott időt az ökoszisztémának fékek és egyensúlyok kifejlesztésére, nehogy a ragadozók túl nagy kárt okozzanak. (...) Az ember viszont olyan gyorsan ugrott a csúcsra, hogy az ökoszisztémának nem volt ideje alkalmazkodni. Sőt maguknak az embereknek sem sikerült. (...) Nézd csak meg a világ legnagyobb ragadozóit! Fenséges lények. Több millió évnyi uralkodás tette őket ilyen magabiztossá. A Sapiens viszont olyan, mint egy másodosztályú diktátor, aki folyton attól retteg, hogy elveszíti a hatalmát. (...) Ami pedig kétszer olyan kegyetlenné tesz minket. A háborúktól az ökológiai katasztrófákig minden csapás annak a következménye, hogy hirtelen ugrottunk a csúcsra.

A mai vadászó-gyûjtögető közösségek megfigyelése révén megismerhetünk néhány lehetőséget, amelyek az ősi vadászó-gyûjtögetőknek is rendelkezésére álltak, ezeknek a lehetőségeknek a tárháza azonban akkoriban jóval nagyobb volt... és a legnagyobb részét ma már sajnos nem látjuk. A Homo Sapiens "természetes életmódjáról" szóló heves viták szem elől tévesztik a lényeget. A kognitív forradalom óta a Sapiensnek nem csupán egyetlen természetes életmódja van. Kulturális választások vannak, zavarba ejtően nagy számú választási lehetőséggel.

Ha egy tudós azt állítja, hogy tudja, miben hittek a vadászó-gyûjtögető emberek, az gyakran többet elmond a tudós elképzeléseiről, mint a kőkorszaki vallásokról.

Az emberi történelem legnagyobb részére a csend függönye borul. Több tízezer évre, és velük talán háborúkra, forradalmakra, vallási mozgalmakra, mély filozófiai elméletekre és hihetetlen mûremekekre. (...) A kutatóknak megvan az a szokásuk, hogy csak olyan kérdést tesznek fel, amire jó eséllyel választ remélhetnek.

Az AI-forradalom olyan, mint egy bevándorlási hullám: milliók és milliárdok érkeznek digitális bevándorlók formájában, akik elveszik az emberek munkáját, teljesen eltérő kulturális elképzeléseik vannak, és talán politikai hatalmat is akarnak. Ha például megnézem a szélsőjobboldali pártokat Európában, ők rengeteget beszélnek az emberi bevándorlókról, néha jogosan, néha alaptalanul. Ugyanakkor szinte egyáltalán nem beszélnek arról a digitális bevándorlóhullámról, ami Európába tart. Pedig ha valóban aggódnak országuk szuverenitása, gazdasági és kulturális jövője miatt, akkor sokkal jobban kellene félniük a digitális, mint az emberi bevándorlóktól.

Az információ nem egyenlő az igazsággal. A legtöbb információ nem a valóságot ábrázolja. Az információ fő funkciója, hogy összekösse az embereket. És bár összekötheted az embereket az igazságon keresztül is, de a fikcióval sokkal könnyebb dolgod van. A történelem legfontosabb szövegei, mint például a Biblia, milliókat kötnek össze, de nem feltétlenül az igazság kimondásával. Az információ szabad piacán a legtöbb árucikk a fantázia szüleménye vagy szándékos hazugság, mégpedig azért, mert az igazság költséges, míg a fikció könnyen elérhető és olcsó. Ahhoz, hogy bármiről - történelemről, közgazdaságtanról, fizikáról - az igazat mondhasd, időt, erőfeszítést és pénzt kell befektetned a tényellenőrzésbe és a bizonyítékok megszerzésébe. Ez sok munka. Ezzel szemben a fikció annyira egyszerû lehet, amennyire csak akarod. Ráadásul az igazság gyakran fájdalmas, míg a fikciót olyan megnyugtatóvá és vonzóvá teheted, amilyenné csak szeretnéd. Mindezek eredményeként az információ szabad piacán az igazságot elfedi az agyszülemények túláradó mennyisége.

A mesterséges intelligencia egy társ, nem egy eszköz. Sokaktól hallom, hogy a mesterséges intelligencia forradalma olyan, mint az írás vagy a nyomtatás feltalálása. Ez egy félreértés, mert ezek a korábbi információs technológiák csak eszközök voltak a kezünkben. Ha feltalálsz egy nyomdagépet, szükséged van egy emberre, aki megírja a szövegeket, és szükséged van egy emberre, aki eldönti, hogy mely könyveket nyomtasd ki. A mesterséges intelligencia alapvetően más. Ez egy cselekvőképes dolog, ami képes magától könyveket írni, és képes saját maga eldönteni, hogy milyen gondolatokat terjesszen, sőt teljesen új ötleteket képes létrehozni. Mindez példa nélküli a történelemben, mert nekünk soha nem kellett egy szuperintelligens lénnyel foglalkoznunk. Bár természetesen voltak más szereplők is a világban rajtunk kívül, mint például az állatok, de mi intelligensebbek voltunk mindegyiküknél, egészen idáig.

A történelem egyik legerősebb mozgatórugója valójában az emberi ostobaság. Tudjuk, hogy az atomfegyverek az egész emberi civilizációt elpusztíthatják. Tudjuk, hogy a mesterséges intelligencia kicsúszhat az irányításunk alól. Ennek ellenére továbbra is fejlesztjük őket. Ez az emberi történelem alapvető ellentmondása: miközben hihetetlenül bölcsek vagyunk, tele vagyunk téveszmékkel és ostobasággal, és ezek kölcsönösen táplálják egymást. Ha tökéletesen bölcs lények lennénk, nyilván megalkothatnánk a legerősebb fegyvereket, de soha nem élnénk vissza velük. Ha csupán ostobák lennénk, akkor nem lenne ilyen jelentős hatalmunk. A kettő kombinációja az, ami a helyzetet különösen veszélyessé teszi.

A szabadság védelmezéséhez szükség van bizonyos népjóléti intézkedésekre. Az éhező gyerekeknek nincsenek szabadságjogaik.

Étel-, pár- és egyéb választásaink nem valamiféle titokzatos szabad akarat, hanem neuronok milliárdjai által a másodperc töredéke alatt elvégzett valószinûségszámítás eredményei. Az, amit oly büszkén nevezünk "emberi intuíciónak", a valóságban mintafelismerés.