Bármilyen alacsony is a fejlett mesterséges intelligencia létrejöttének esélye, legalábbis a közeljövőben, ha mégis megtörténik, annak olyan drasztikus következményei lesznek, hogy emiatt muszáj ezt az eshetőséget komolyan venni.

Kapcsolódó idézetek

1. A mesterséges intelligencia valóban nagyon félelmetes, ha elképzeljük, hogy a jövőben lesznek cégek, amelyeket ez irányít majd, anélkül, hogy akár egyetlen ember is beleszólna a tetteibe. Mike Pearl
2. Az, hogy rászokunk a mesterséges intelligencia túlzott használatára, szinte elkerülhetetlen. A veszély akkor kezdődik, amikor elkezdjük túl komolyan venni őket, és hagyjuk, hogy helyettünk döntsenek olyan dolgokban, amikben nem kellene átadnunk nekik az irányítást. Daniel Dennett
3. A mesterséges intelligencia igazi veszélye nem az, hogy robot-apokalipszishez vezethet, hanem az, hogy miközben a rendszerek egyszerre előítéletesek és buták, a társadalmak mûködése bizonyos területeken már rajtuk áll. John Giannandrea
4. A mesterséges intelligencia az első olyan eszköz, ami akár helyettesíthet is minket a döntéshozatalban. És a veszély itt jelentős, mert valószínû, hogy hibázni fogunk. És ez akár olyan szintû hiba is lehet, hogy nem biztos, hogy lesz időnk tanulni belőle. Yuval Noah Harari
5. Ha bárhol a világon bárki a mai technológiákra és a jelenlegi MI-ismeretekre alapozva létrehoz egy mesterséges szuperintelligenciát, annak az lesz az egyetlen biztos következménye, hogy az egész emberiség kipusztul. Eliezer Yudkowsky
6. Fennáll a veszély, hogy ha túl sok energiát fordítunk a mesterséges intelligencia fejlesztésére, miközben túl keveset az emberi tudatosság fejlesztésére, akkor a számítógépek rendkívül fejlett intelligenciája csak arra szolgál majd, hogy még nagyobb teret adjon az emberi ostobaságnak. Yuval Noah Harari
7. Nem az a fontos, hogy hol tart a mesterséges intelligencia. Az a fontos, hogy milyen sebességgel fejlődik. Az ebből fakadó következtetésekkel kell kalkulálnunk, nem az alapján, hogy miképpen fogunk alkalmazkodni ahhoz, ami már most van. Szertics Gergely
8. A mesterséges intelligenciában (...) az intelligencia természetéből fakadóan nem tudjuk megismerni, hogy mi lesz, ha van egy nálunk fejlettebb intelligencia. Mert az a szó beletörődős értelmében beláthatatlan. Ez a dolog természetéből származó beláthatatlanság hihetetlenül fontos lesz a jövőnk tervezése szempontjából. Mert azt üzeni, hogy képesnek kell lennünk alázattal viselni a saját intelligenciánk által támasztott korlátokat, és érdemes arra készülnünk, hogy mi módon tudunk olyan intelligenciákkal élni, amelyek nálunk fejlettebbek. Szertics Gergely
9. Noha a szuperintelligens rendszerek jelentette egzisztenciális fenyegetés kockázatával sokat foglalkoznak a sajtóban, a mesterséges intelligencia-szakértők úgy vélik, ez a világra rászabadított Ml legkevésbé aggasztó következménye - mivel a legnagyobb gondot a munkahelyek megszûnése és a növekvő társadalmi egyenlőtlenségek jelentik.
10. A mesterséges intelligencia bármiféle fejlődésénél sokkal félelmetesebb az, hogy időről időre olyan természetes intelligenciákat ültetünk a saját fejünkre, amelyek lopnak, csalnak, átvernek. Méghozzá ezt demokratikus választások útján tesszük, saját jószántunkból. Talán ezért érdemes mégiscsak foglalkoznunk azzal, hogy mi történhet, ha a mesterséges intelligenciákról kiderül, hogy valójában ártanak nekünk, rossz szándékúak, ellenünk dolgoznak. (...) Valójában klasszikus politikai filozófiai fogalmakról, a fékekről és ellensúlyokról beszélek; csak így talán jobban érthető, miért kell a hatalmat, a legjobb indulatú, legintelligensebb hatalmat is keményen korlátozni, még akkor is, ha nem mesterséges, hanem természetes intelligenciák gyakorolják. Mérő László