A szuperintelligencia, meglehet, rémisztő fogalom. Miután ezek a rendszerek elméletileg képesek mindent megtanulni, ami a világon megtanulható, szinte elkerülhetetlennek látszik, hogy egyszer úgy döntsenek, érdekükben áll felszámolni az emberiséget.

Kapcsolódó idézetek

1. Definiáljuk az ultraintelligens gépet olyan gépként, amely messze túl tudja szárnyalni a legokosabb ember intellektuális tevékenységeinek mindegyikét. Mivel a gépek megtervezése is ilyen intellektuális tevékenység, egy ultraintelligens gép még jobb gépeket tervezhet, ekkor pedig megkérdőjelezhetetlenül bekövetkezne az "intelligenciarobbanás", és az emberi intelligencia messze lemaradna. Éppen ezért az első ultraintelligens gép az utolsó találmány, amelyet az embernek meg kell alkotnia, feltéve, hogy a gép elég engedelmes, hogy megmondja, hogyan tarthatjuk uralmunk alatt.
2. A szuperintelligencia (...) valószínûleg a legfontosabb és legnagyobb kihívás, amellyel az emberiség valaha szembenézett. És - akár sikerrel járunk, akár elbukunk - valószínûleg a legutolsó kihívás is, amellyel valaha is számolnunk kell. Nick Bostrom
3. A mesterséges intelligencia az első olyan eszköz, ami akár helyettesíthet is minket a döntéshozatalban. És a veszély itt jelentős, mert valószínû, hogy hibázni fogunk. És ez akár olyan szintû hiba is lehet, hogy nem biztos, hogy lesz időnk tanulni belőle. Yuval Noah Harari
4. Ha bárhol a világon bárki a mai technológiákra és a jelenlegi MI-ismeretekre alapozva létrehoz egy mesterséges szuperintelligenciát, annak az lesz az egyetlen biztos következménye, hogy az egész emberiség kipusztul. Eliezer Yudkowsky
5. Az, hogy rászokunk a mesterséges intelligencia túlzott használatára, szinte elkerülhetetlen. A veszély akkor kezdődik, amikor elkezdjük túl komolyan venni őket, és hagyjuk, hogy helyettünk döntsenek olyan dolgokban, amikben nem kellene átadnunk nekik az irányítást. Daniel Dennett
6. Az intelligencia a leghatalmasabb "erő" a világegyetemben. A kellően fejlett intelligencia képes előre jelezni és leküzdeni bármilyen akadályt, ami az útjába kerül. Ray Kurzweil
7. Az emberiség talán sorsfordító ponthoz ért: az intelligencia képes rá, hogy megsemmisítse a bolygót, míg a lelke mélyén mindenkit rettenetes félelem és primitív vágy vezérel, mindenkiben roppant ellentétek feszülnek. Karin Alvtegen
8. Az intelligencia egy kicsit túlértékelt fogalom, azt hiszik, hogy az valamiféle isteni tulajdonság, amivel mindent meg lehet oldani. Erről szó sincs. Az intelligencia bizonyos problémák megoldására tesz alkalmassá, ezekben nagyon jók vagyunk, másokban kevésbé. Csányi Vilmos
9. 100 évvel ezelőtt azt képzeltük, hogy a robotok átveszik a hatalmat. Ma attól félünk, hogy a szuperintelligencia veszi át. Az ember olyan sokat gondolkodik a hatalmon, hogy folyton attól retteg, valaki átveszi, pedig igazából ő szeretné birtokolni. Csányi Vilmos
10. A tudás hatalom. Az emberi faj pedig minden alkalommal visszaél a hatalmával. Egy nap az emberiség olyan tüzet szít, amelyet többé nem tud irányítani, és az egész univerzum égni fog.