Az általános mesterséges intelligencia igazi veszélye nem a rosszindulat, hanem a kompetencia. Egy szuperintelligens MI kimagasló teljesítményt nyújthat céljainak elérésében, ám ha ezek a célok történetesen nem esnek egybe a mieinkkel, nagy bajban leszünk.

Kapcsolódó idézetek

1. A mesterséges intelligencia igazi veszélye nem az, hogy robot-apokalipszishez vezethet, hanem az, hogy miközben a rendszerek egyszerre előítéletesek és buták, a társadalmak mûködése bizonyos területeken már rajtuk áll. John Giannandrea
2. A mesterséges intelligencia az első olyan eszköz, ami akár helyettesíthet is minket a döntéshozatalban. És a veszély itt jelentős, mert valószínû, hogy hibázni fogunk. És ez akár olyan szintû hiba is lehet, hogy nem biztos, hogy lesz időnk tanulni belőle. Yuval Noah Harari
3. Az, hogy rászokunk a mesterséges intelligencia túlzott használatára, szinte elkerülhetetlen. A veszély akkor kezdődik, amikor elkezdjük túl komolyan venni őket, és hagyjuk, hogy helyettünk döntsenek olyan dolgokban, amikben nem kellene átadnunk nekik az irányítást. Daniel Dennett
4. A mesterséges intelligencia bármiféle fejlődésénél sokkal félelmetesebb az, hogy időről időre olyan természetes intelligenciákat ültetünk a saját fejünkre, amelyek lopnak, csalnak, átvernek. Méghozzá ezt demokratikus választások útján tesszük, saját jószántunkból. Talán ezért érdemes mégiscsak foglalkoznunk azzal, hogy mi történhet, ha a mesterséges intelligenciákról kiderül, hogy valójában ártanak nekünk, rossz szándékúak, ellenünk dolgoznak. (...) Valójában klasszikus politikai filozófiai fogalmakról, a fékekről és ellensúlyokról beszélek; csak így talán jobban érthető, miért kell a hatalmat, a legjobb indulatú, legintelligensebb hatalmat is keményen korlátozni, még akkor is, ha nem mesterséges, hanem természetes intelligenciák gyakorolják. Mérő László
5. Az önmûködő fegyverek és gyilkos robotok technológiája veszélyesebb lehet akár a nukleáris fegyverkezésnél is, mert a nukleáris fegyverkezés esetében az irányítás kizárólagosan emberi döntések és együttmûködés kérdése volt. A mesterséges intelligenciával olyan technológiát fejlesztünk, amelynek az irányítása nincs teljesen az emberiség kezében: ez a technológia képes lesz helyettesíteni az emberi elmét, és átvenni az irányítást az emberiségtől az élet számos területén. Yuval Noah Harari
6. Fennáll a veszély, hogy ha túl sok energiát fordítunk a mesterséges intelligencia fejlesztésére, miközben túl keveset az emberi tudatosság fejlesztésére, akkor a számítógépek rendkívül fejlett intelligenciája csak arra szolgál majd, hogy még nagyobb teret adjon az emberi ostobaságnak. Yuval Noah Harari
7. A mesterséges intelligencia valójában annyira áthat mindent, hogy gyakran nem is tartjuk ezeket az automatizált rendszereket Ml-nek. Egy szakmai vicc szerint, ha egy gép meg tud csinálni valamit, amit korábban csak ember tudott, akkor azt a feladatot már nem is tekintjük az intelligencia jelének.
8. Ha bárhol a világon bárki a mai technológiákra és a jelenlegi MI-ismeretekre alapozva létrehoz egy mesterséges szuperintelligenciát, annak az lesz az egyetlen biztos következménye, hogy az egész emberiség kipusztul. Eliezer Yudkowsky
9. Az egyik alapvető probléma a mesterséges intelligenciával kapcsolatban (...) az, hogy amint egy mesterségesintelligencia-megoldás mûködik, többé nem tekintik mesterséges intelligenciának. Ray Kurzweil
10. A szuperintelligencia, meglehet, rémisztő fogalom. Miután ezek a rendszerek elméletileg képesek mindent megtanulni, ami a világon megtanulható, szinte elkerülhetetlennek látszik, hogy egyszer úgy döntsenek, érdekükben áll felszámolni az emberiséget.