100 évvel ezelőtt azt képzeltük, hogy a robotok átveszik a hatalmat. Ma attól félünk, hogy a szuperintelligencia veszi át. Az ember olyan sokat gondolkodik a hatalmon, hogy folyton attól retteg, valaki átveszi, pedig igazából ő szeretné birtokolni.

Kapcsolódó idézetek

1. A mesterséges intelligencia bármiféle fejlődésénél sokkal félelmetesebb az, hogy időről időre olyan természetes intelligenciákat ültetünk a saját fejünkre, amelyek lopnak, csalnak, átvernek. Méghozzá ezt demokratikus választások útján tesszük, saját jószántunkból. Talán ezért érdemes mégiscsak foglalkoznunk azzal, hogy mi történhet, ha a mesterséges intelligenciákról kiderül, hogy valójában ártanak nekünk, rossz szándékúak, ellenünk dolgoznak. (...) Valójában klasszikus politikai filozófiai fogalmakról, a fékekről és ellensúlyokról beszélek; csak így talán jobban érthető, miért kell a hatalmat, a legjobb indulatú, legintelligensebb hatalmat is keményen korlátozni, még akkor is, ha nem mesterséges, hanem természetes intelligenciák gyakorolják. Mérő László
2. Az, hogy rászokunk a mesterséges intelligencia túlzott használatára, szinte elkerülhetetlen. A veszély akkor kezdődik, amikor elkezdjük túl komolyan venni őket, és hagyjuk, hogy helyettünk döntsenek olyan dolgokban, amikben nem kellene átadnunk nekik az irányítást. Daniel Dennett
3. Az emberiséget mindig is megvédte az, hogy az igazán okos, jól képzett emberek és az igazán szörnyû dolgokat tenni akaró emberek közötti átfedés általában kicsi volt. (...) Viszont attól tartok, hogy az AI, mint egy sokkal intelligensebb szereplő, megváltoztathatja ezt a felállást. Dario Amodei
4. Az emberek még az emberektől is félnek. Attól, amit az emberek gondolnak, attól, amit az emberek mondanak, és még attól is, ami az emberi kívánságokból születhet.
5. A félelem... furcsa érzés. Ha belegondol, az emberek mindig rajtuk kívül álló dolgoktól rettegnek, sosem önmaguktól. (...) Az ember olyan dolgoktól fél, amelyek fölött nincs irányítása. A jövőtől, a sötéttől, vagy attól, hogy valaki megöli. Ezért nem fél önmagától, mert mindig tudja, mit fog tenni a következő pillanatban. Dan Wells
6. A mesterséges intelligencia és a biotechnológia hatalmat ad az emberiségnek arra, hogy átformálja és áttervezze az életet. Valakinek rövidesen el kell majd döntenie, hogyan használjuk ezt a hatalmat - mégpedig egy, implicit vagy explicit módon az élet értelméről szóló történet alapján. A filozófusok türelmes emberek, a mérnökök azonban már kevésbé, a befektetők pedig még annyira sem. Ha nem tudjuk, mihez kezdjünk az élet áttervezésének képességével, a piaci erők nem fognak ezer évet várni arra, hogy valaki előálljon valamilyen válasszal. Yuval Noah Harari
7. A haláltól való félelem rémiszti meg az embereket akkor, amikor megszakad minden kapcsolatuk az ember alkotta világgal. Génjeink megszokták a racionális világ nyújtotta biztonságot, ahol minden a saját védelmünket szolgálja, és ha megszûnik ez a védelem, akkor hirtelen úgy tûnik, életünknek bármely pillanatban véget vethet valamilyen ismeretlen veszély. Irracionális dolog, de ez a félelem az, ami átveszi az uralmat fölöttünk, és az emberi közösség karjaiba sodor, ahol védve érezhetjük magunkat - bárhol a világon, ahová elér a kéz. Cserébe elveszítjük ösztöneinket, melyek segítenének e világ határain túlra merészkedni. Kilian Jornet
8. A jövőt eltervezheti az ember, előreláthatja, megelőlegezheti, de amikor elérkezik, mindig felkészületlenül találja őt. Ezért aggódik miatta.
9. Félnek kockáztatni, félnek veszíteni, de félnek nyerni is, mert félnek az irigységtől, félnek szeretni, mert félnek az elutasítástól (...), hogy megöregszenek, hogy meghalnak, félnek, hogy csak a gyengeségeik miatt veszik észre őket, és nem figyelnek föl az értékeikre, vagy hogy egyáltalán nem veszi észre őket senki, sem a gyengeségeik, sem az értékük miatt. Félelem, félelem és félelem. Az élet a félelem birodalma. Paulo Coelho
10. Szeretnénk tudni, hogy mi történik az ismerőseinkkel, barátainkkal, családtagjainkkal, ehelyett értelmetlen ostobaságokat, mesterséges intelligencia által generált szemetet és orbitális mennyiségû reklámot kapunk. Az internet valamikor a szabadság, a haladás, a végtelen lehetőségek szinonimája volt, mára azonban az emberek állandó megfigyelését, személyiségük áruba bocsátását és ipari szintû manipulációt jelent. Ahelyett, hogy a hatalom nélküliek kezébe adott volna hatalmat, épphogy a hatalmasok általi elnyomásunk és elhülyítésünk eszköze lett.