Ha bárhol a világon bárki a mai technológiákra és a jelenlegi MI-ismeretekre alapozva létrehoz egy mesterséges szuperintelligenciát, annak az lesz az egyetlen biztos következménye, hogy az egész emberiség kipusztul.

Kapcsolódó idézetek

1. Bármilyen alacsony is a fejlett mesterséges intelligencia létrejöttének esélye, legalábbis a közeljövőben, ha mégis megtörténik, annak olyan drasztikus következményei lesznek, hogy emiatt muszáj ezt az eshetőséget komolyan venni. Martin Ford
2. A szuperintelligencia, meglehet, rémisztő fogalom. Miután ezek a rendszerek elméletileg képesek mindent megtanulni, ami a világon megtanulható, szinte elkerülhetetlennek látszik, hogy egyszer úgy döntsenek, érdekükben áll felszámolni az emberiséget.
3. Olyan hatékony új technológiákat fejleszt az emberiség, amelyek elpusztíthatják az emberiséget, de akár tökéletesíthetik is azt. Az a kérdés, mihez kezdünk az olyan technológiákkal, mint a mesterséges intelligencia és a biotechnológia. Yuval Noah Harari
4. Az általános mesterséges intelligencia igazi veszélye nem a rosszindulat, hanem a kompetencia. Egy szuperintelligens MI kimagasló teljesítményt nyújthat céljainak elérésében, ám ha ezek a célok történetesen nem esnek egybe a mieinkkel, nagy bajban leszünk. Max Tegmark
5. Az önmûködő fegyverek és gyilkos robotok technológiája veszélyesebb lehet akár a nukleáris fegyverkezésnél is, mert a nukleáris fegyverkezés esetében az irányítás kizárólagosan emberi döntések és együttmûködés kérdése volt. A mesterséges intelligenciával olyan technológiát fejlesztünk, amelynek az irányítása nincs teljesen az emberiség kezében: ez a technológia képes lesz helyettesíteni az emberi elmét, és átvenni az irányítást az emberiségtől az élet számos területén. Yuval Noah Harari
6. A gépek, amelyek intelligenciában versenyre kelnek az emberrel, vagy túl is szárnyalják őt, egyben pusztulásra is ítélik az emberiséget. Clive Sinclair
7. A mesterséges intelligencia a legemberibb technológia. Az egész azzal az ötlettel kezdődött, hogy mi lenne, ha léteznének embereket utánzó gépek. Aztán jött az emberi gondolkodás folyamatainak másolása, majd az agy tanulmányozása és elemzése. Mára sokan attól félnek, hogy az MI intelligensebbé válhat, mint az ember.
8. A mesterséges intelligencia valóban nagyon félelmetes, ha elképzeljük, hogy a jövőben lesznek cégek, amelyeket ez irányít majd, anélkül, hogy akár egyetlen ember is beleszólna a tetteibe. Mike Pearl
9. A mesterséges intelligencia az első olyan eszköz, ami akár helyettesíthet is minket a döntéshozatalban. És a veszély itt jelentős, mert valószínû, hogy hibázni fogunk. És ez akár olyan szintû hiba is lehet, hogy nem biztos, hogy lesz időnk tanulni belőle. Yuval Noah Harari
10. A mesterséges intelligenciát használó társadalom egyre inkább függ a találmányától, miközben a gépeket továbbra is egy szûk elit irányítja, és a gépek döntéseit a társadalom csupán azért fogadja el, mert azok elvileg magasabb életszínvonalat tesznek lehetővé. Az emberiség olyan állapot felé sodródik, amelyben könnyen azon kaphatja magát, hogy már nem is képes kikapcsolni ezeket a gépeket, ez ugyanis gyakorlatilag az öngyilkossággal érne fel. A fizikai szükségletek kielégíthetők, a gyerekek "pszichológiailag higiénikus" körülmények között nevelkedhetnek, és mindenkinek megvan a maga dolga, ámde azon az áron, hogy maguk az emberek nem lesznek egyebek, mint a gépek háziállatai.