Fennáll a veszély, hogy ha túl sok energiát fordítunk a mesterséges intelligencia fejlesztésére, miközben túl keveset az emberi tudatosság fejlesztésére, akkor a számítógépek rendkívül fejlett intelligenciája csak arra szolgál majd, hogy még nagyobb teret adjon az emberi ostobaságnak.

Kapcsolódó idézetek

1. Az, hogy rászokunk a mesterséges intelligencia túlzott használatára, szinte elkerülhetetlen. A veszély akkor kezdődik, amikor elkezdjük túl komolyan venni őket, és hagyjuk, hogy helyettünk döntsenek olyan dolgokban, amikben nem kellene átadnunk nekik az irányítást. Daniel Dennett
2. A mesterséges intelligencia az első olyan eszköz, ami akár helyettesíthet is minket a döntéshozatalban. És a veszély itt jelentős, mert valószínû, hogy hibázni fogunk. És ez akár olyan szintû hiba is lehet, hogy nem biztos, hogy lesz időnk tanulni belőle. Yuval Noah Harari
3. A mesterséges intelligencia bármiféle fejlődésénél sokkal félelmetesebb az, hogy időről időre olyan természetes intelligenciákat ültetünk a saját fejünkre, amelyek lopnak, csalnak, átvernek. Méghozzá ezt demokratikus választások útján tesszük, saját jószántunkból. Talán ezért érdemes mégiscsak foglalkoznunk azzal, hogy mi történhet, ha a mesterséges intelligenciákról kiderül, hogy valójában ártanak nekünk, rossz szándékúak, ellenünk dolgoznak. (...) Valójában klasszikus politikai filozófiai fogalmakról, a fékekről és ellensúlyokról beszélek; csak így talán jobban érthető, miért kell a hatalmat, a legjobb indulatú, legintelligensebb hatalmat is keményen korlátozni, még akkor is, ha nem mesterséges, hanem természetes intelligenciák gyakorolják. Mérő László
4. Az emberiséget számtalan súlyos probléma gyötri. Az ember elbukhat, és nem létre kárhoztathatja önmagát. De sokkal helyesebb volna, ha intelligenciáját arra használná fel, hogy elkerülje, vagy legalábbis késleltesse a kipusztulását.
5. Az önmûködő fegyverek és gyilkos robotok technológiája veszélyesebb lehet akár a nukleáris fegyverkezésnél is, mert a nukleáris fegyverkezés esetében az irányítás kizárólagosan emberi döntések és együttmûködés kérdése volt. A mesterséges intelligenciával olyan technológiát fejlesztünk, amelynek az irányítása nincs teljesen az emberiség kezében: ez a technológia képes lesz helyettesíteni az emberi elmét, és átvenni az irányítást az emberiségtől az élet számos területén. Yuval Noah Harari
6. A történelem egyik legerősebb mozgatórugója valójában az emberi ostobaság. Tudjuk, hogy az atomfegyverek az egész emberi civilizációt elpusztíthatják. Tudjuk, hogy a mesterséges intelligencia kicsúszhat az irányításunk alól. Ennek ellenére továbbra is fejlesztjük őket. Ez az emberi történelem alapvető ellentmondása: miközben hihetetlenül bölcsek vagyunk, tele vagyunk téveszmékkel és ostobasággal, és ezek kölcsönösen táplálják egymást. Ha tökéletesen bölcs lények lennénk, nyilván megalkothatnánk a legerősebb fegyvereket, de soha nem élnénk vissza velük. Ha csupán ostobák lennénk, akkor nem lenne ilyen jelentős hatalmunk. A kettő kombinációja az, ami a helyzetet különösen veszélyessé teszi. Yuval Noah Harari
7. A mesterséges intelligencia igazi veszélye nem az, hogy robot-apokalipszishez vezethet, hanem az, hogy miközben a rendszerek egyszerre előítéletesek és buták, a társadalmak mûködése bizonyos területeken már rajtuk áll. John Giannandrea
8. A tanulás és az értelem mûvelése olykor csak arra jó, hogy gyengítse az akaraterőt, hogy még jobban eltévelyedjen az ember, és a sok töprengés után végül is hibásan cselekedjen. Francisco Ayala
9. Bármilyen alacsony is a fejlett mesterséges intelligencia létrejöttének esélye, legalábbis a közeljövőben, ha mégis megtörténik, annak olyan drasztikus következményei lesznek, hogy emiatt muszáj ezt az eshetőséget komolyan venni. Martin Ford
10. Az intelligencia csak intelligencia. Az, hogy mire használjuk ezt az intelligenciát, egyedül rajtunk fog múlni. Szertics Gergely