Az önmûködő fegyverek és gyilkos robotok technológiája veszélyesebb lehet akár a nukleáris fegyverkezésnél is, mert a nukleáris fegyverkezés esetében az irányítás kizárólagosan emberi döntések és együttmûködés kérdése volt. A mesterséges intelligenciával olyan technológiát fejlesztünk, amelynek az irányítása nincs teljesen az emberiség kezében: ez a technológia képes lesz helyettesíteni az emberi elmét, és átvenni az irányítást az emberiségtől az élet számos területén.

Kapcsolódó idézetek

1. A mesterséges intelligencia bármiféle fejlődésénél sokkal félelmetesebb az, hogy időről időre olyan természetes intelligenciákat ültetünk a saját fejünkre, amelyek lopnak, csalnak, átvernek. Méghozzá ezt demokratikus választások útján tesszük, saját jószántunkból. Talán ezért érdemes mégiscsak foglalkoznunk azzal, hogy mi történhet, ha a mesterséges intelligenciákról kiderül, hogy valójában ártanak nekünk, rossz szándékúak, ellenünk dolgoznak. (...) Valójában klasszikus politikai filozófiai fogalmakról, a fékekről és ellensúlyokról beszélek; csak így talán jobban érthető, miért kell a hatalmat, a legjobb indulatú, legintelligensebb hatalmat is keményen korlátozni, még akkor is, ha nem mesterséges, hanem természetes intelligenciák gyakorolják. Mérő László
2. A mesterséges intelligencia az első olyan eszköz, ami akár helyettesíthet is minket a döntéshozatalban. És a veszély itt jelentős, mert valószínû, hogy hibázni fogunk. És ez akár olyan szintû hiba is lehet, hogy nem biztos, hogy lesz időnk tanulni belőle. Yuval Noah Harari
3. Olyan hatékony új technológiákat fejleszt az emberiség, amelyek elpusztíthatják az emberiséget, de akár tökéletesíthetik is azt. Az a kérdés, mihez kezdünk az olyan technológiákkal, mint a mesterséges intelligencia és a biotechnológia. Yuval Noah Harari
4. A mesterséges intelligenciát használó társadalom egyre inkább függ a találmányától, miközben a gépeket továbbra is egy szûk elit irányítja, és a gépek döntéseit a társadalom csupán azért fogadja el, mert azok elvileg magasabb életszínvonalat tesznek lehetővé. Az emberiség olyan állapot felé sodródik, amelyben könnyen azon kaphatja magát, hogy már nem is képes kikapcsolni ezeket a gépeket, ez ugyanis gyakorlatilag az öngyilkossággal érne fel. A fizikai szükségletek kielégíthetők, a gyerekek "pszichológiailag higiénikus" körülmények között nevelkedhetnek, és mindenkinek megvan a maga dolga, ámde azon az áron, hogy maguk az emberek nem lesznek egyebek, mint a gépek háziállatai.
5. A mesterséges intelligencia a legemberibb technológia. Az egész azzal az ötlettel kezdődött, hogy mi lenne, ha léteznének embereket utánzó gépek. Aztán jött az emberi gondolkodás folyamatainak másolása, majd az agy tanulmányozása és elemzése. Mára sokan attól félnek, hogy az MI intelligensebbé válhat, mint az ember.
6. A történelem egyik legerősebb mozgatórugója valójában az emberi ostobaság. Tudjuk, hogy az atomfegyverek az egész emberi civilizációt elpusztíthatják. Tudjuk, hogy a mesterséges intelligencia kicsúszhat az irányításunk alól. Ennek ellenére továbbra is fejlesztjük őket. Ez az emberi történelem alapvető ellentmondása: miközben hihetetlenül bölcsek vagyunk, tele vagyunk téveszmékkel és ostobasággal, és ezek kölcsönösen táplálják egymást. Ha tökéletesen bölcs lények lennénk, nyilván megalkothatnánk a legerősebb fegyvereket, de soha nem élnénk vissza velük. Ha csupán ostobák lennénk, akkor nem lenne ilyen jelentős hatalmunk. A kettő kombinációja az, ami a helyzetet különösen veszélyessé teszi. Yuval Noah Harari
7. Az, hogy rászokunk a mesterséges intelligencia túlzott használatára, szinte elkerülhetetlen. A veszély akkor kezdődik, amikor elkezdjük túl komolyan venni őket, és hagyjuk, hogy helyettünk döntsenek olyan dolgokban, amikben nem kellene átadnunk nekik az irányítást. Daniel Dennett
8. Ahelyett, hogy átvenné a szerepeinket, a mesterséges intelligencia lehetővé teheti, hogy megszabaduljunk a gépies szellemi feladatoktól, nagyjából úgy, ahogy ma emlékeket és feljegyzéseket "szervezünk ki" az okostelefonunkhoz. Inkább egy "Ml + ember" jövőre kell törekednünk, ahol a dolgozók és a technológia hatékonyabban egészítik ki egymást, mintsem arra készülnünk, hogy az Ml kiváltja az embert.
9. A mesterséges intelligencia jövője szorosan összefügg az emberiség jövőjével. És miközben ma még homályos, hogy a jövő utópia-e vagy katasztrófa, rajtunk - az akarattal rendelkező félen - áll, hogy az Ml-t a fényesebb kimenetel felé vezessük. Nyílt, intelligens diskurzus mellett az Ml nem fog lecserélni minket. Ehelyett a mi javunkra formálja át az emberiséget.
10. A mesterséges intelligencia és a biotechnológia hatalmat ad az emberiségnek arra, hogy átformálja és áttervezze az életet. Valakinek rövidesen el kell majd döntenie, hogyan használjuk ezt a hatalmat - mégpedig egy, implicit vagy explicit módon az élet értelméről szóló történet alapján. A filozófusok türelmes emberek, a mérnökök azonban már kevésbé, a befektetők pedig még annyira sem. Ha nem tudjuk, mihez kezdjünk az élet áttervezésének képességével, a piaci erők nem fognak ezer évet várni arra, hogy valaki előálljon valamilyen válasszal. Yuval Noah Harari