A mesterséges intelligencia igazi veszélye nem az, hogy robot-apokalipszishez vezethet, hanem az, hogy miközben a rendszerek egyszerre előítéletesek és buták, a társadalmak mûködése bizonyos területeken már rajtuk áll.

Kapcsolódó idézetek

1. Az általános mesterséges intelligencia igazi veszélye nem a rosszindulat, hanem a kompetencia. Egy szuperintelligens MI kimagasló teljesítményt nyújthat céljainak elérésében, ám ha ezek a célok történetesen nem esnek egybe a mieinkkel, nagy bajban leszünk. Max Tegmark
2. A mesterséges intelligencia az első olyan eszköz, ami akár helyettesíthet is minket a döntéshozatalban. És a veszély itt jelentős, mert valószínû, hogy hibázni fogunk. És ez akár olyan szintû hiba is lehet, hogy nem biztos, hogy lesz időnk tanulni belőle. Yuval Noah Harari
3. Az, hogy rászokunk a mesterséges intelligencia túlzott használatára, szinte elkerülhetetlen. A veszély akkor kezdődik, amikor elkezdjük túl komolyan venni őket, és hagyjuk, hogy helyettünk döntsenek olyan dolgokban, amikben nem kellene átadnunk nekik az irányítást. Daniel Dennett
4. Ha hagyjuk, hogy a mesterséges intelligencia etikai normák és a társadalom bevonása nélkül fejlődjön, akkor félő, hogy a társadalmat egy igazságtalanabb világ felé tereljük. Ha úgy kezeljük az Ml-rendszereket, hogy azok kiváltanak minket, és nem úgy, hogy magasabb szintre emelik a munkánkat és az életünket, akkor egzisztenciális válságba kerülhetünk.
5. Az igazi veszély nem abban rejlik, hogy a számítógépek emberek módjára fognak gondolkodni, hanem hogy az emberek kezdenek el úgy gondolkodni, mintha gépek lennének.
6. Az igazi veszély nem abban rejlik, hogy a számítógépek emberek módjára fognak gondolkodni, hanem hogy az emberek kezdenek el úgy gondolkodni, mintha gépek lennének.
7. A mesterséges intelligencia bármiféle fejlődésénél sokkal félelmetesebb az, hogy időről időre olyan természetes intelligenciákat ültetünk a saját fejünkre, amelyek lopnak, csalnak, átvernek. Méghozzá ezt demokratikus választások útján tesszük, saját jószántunkból. Talán ezért érdemes mégiscsak foglalkoznunk azzal, hogy mi történhet, ha a mesterséges intelligenciákról kiderül, hogy valójában ártanak nekünk, rossz szándékúak, ellenünk dolgoznak. (...) Valójában klasszikus politikai filozófiai fogalmakról, a fékekről és ellensúlyokról beszélek; csak így talán jobban érthető, miért kell a hatalmat, a legjobb indulatú, legintelligensebb hatalmat is keményen korlátozni, még akkor is, ha nem mesterséges, hanem természetes intelligenciák gyakorolják. Mérő László
8. Az önmûködő fegyverek és gyilkos robotok technológiája veszélyesebb lehet akár a nukleáris fegyverkezésnél is, mert a nukleáris fegyverkezés esetében az irányítás kizárólagosan emberi döntések és együttmûködés kérdése volt. A mesterséges intelligenciával olyan technológiát fejlesztünk, amelynek az irányítása nincs teljesen az emberiség kezében: ez a technológia képes lesz helyettesíteni az emberi elmét, és átvenni az irányítást az emberiségtől az élet számos területén. Yuval Noah Harari
9. Bármilyen alacsony is a fejlett mesterséges intelligencia létrejöttének esélye, legalábbis a közeljövőben, ha mégis megtörténik, annak olyan drasztikus következményei lesznek, hogy emiatt muszáj ezt az eshetőséget komolyan venni. Martin Ford
10. Noha a szuperintelligens rendszerek jelentette egzisztenciális fenyegetés kockázatával sokat foglalkoznak a sajtóban, a mesterséges intelligencia-szakértők úgy vélik, ez a világra rászabadított Ml legkevésbé aggasztó következménye - mivel a legnagyobb gondot a munkahelyek megszûnése és a növekvő társadalmi egyenlőtlenségek jelentik.