A mesterséges intelligencia és gépi tanulás fejlődésével olyan tökéletes totalitárius rendszer építhető, amit még nem láttunk korábban.

Kapcsolódó idézetek

1. A mesterséges intelligencia bármi, amit korábban még nem csináltunk. Larry Tesler
2. A mesterséges intelligencia az első olyan eszköz, ami akár helyettesíthet is minket a döntéshozatalban. És a veszély itt jelentős, mert valószínû, hogy hibázni fogunk. És ez akár olyan szintû hiba is lehet, hogy nem biztos, hogy lesz időnk tanulni belőle. Yuval Noah Harari
3. A szuperintelligencia, meglehet, rémisztő fogalom. Miután ezek a rendszerek elméletileg képesek mindent megtanulni, ami a világon megtanulható, szinte elkerülhetetlennek látszik, hogy egyszer úgy döntsenek, érdekükben áll felszámolni az emberiséget.
4. A mesterséges intelligencia valóban nagyon félelmetes, ha elképzeljük, hogy a jövőben lesznek cégek, amelyeket ez irányít majd, anélkül, hogy akár egyetlen ember is beleszólna a tetteibe. Mike Pearl
5. Az önmûködő fegyverek és gyilkos robotok technológiája veszélyesebb lehet akár a nukleáris fegyverkezésnél is, mert a nukleáris fegyverkezés esetében az irányítás kizárólagosan emberi döntések és együttmûködés kérdése volt. A mesterséges intelligenciával olyan technológiát fejlesztünk, amelynek az irányítása nincs teljesen az emberiség kezében: ez a technológia képes lesz helyettesíteni az emberi elmét, és átvenni az irányítást az emberiségtől az élet számos területén. Yuval Noah Harari
6. A mesterséges intelligencia igazi veszélye nem az, hogy robot-apokalipszishez vezethet, hanem az, hogy miközben a rendszerek egyszerre előítéletesek és buták, a társadalmak mûködése bizonyos területeken már rajtuk áll. John Giannandrea
7. Ha bárhol a világon bárki a mai technológiákra és a jelenlegi MI-ismeretekre alapozva létrehoz egy mesterséges szuperintelligenciát, annak az lesz az egyetlen biztos következménye, hogy az egész emberiség kipusztul. Eliezer Yudkowsky
8. A mesterséges intelligencia bármiféle fejlődésénél sokkal félelmetesebb az, hogy időről időre olyan természetes intelligenciákat ültetünk a saját fejünkre, amelyek lopnak, csalnak, átvernek. Méghozzá ezt demokratikus választások útján tesszük, saját jószántunkból. Talán ezért érdemes mégiscsak foglalkoznunk azzal, hogy mi történhet, ha a mesterséges intelligenciákról kiderül, hogy valójában ártanak nekünk, rossz szándékúak, ellenünk dolgoznak. (...) Valójában klasszikus politikai filozófiai fogalmakról, a fékekről és ellensúlyokról beszélek; csak így talán jobban érthető, miért kell a hatalmat, a legjobb indulatú, legintelligensebb hatalmat is keményen korlátozni, még akkor is, ha nem mesterséges, hanem természetes intelligenciák gyakorolják. Mérő László
9. Olyan hatékony új technológiákat fejleszt az emberiség, amelyek elpusztíthatják az emberiséget, de akár tökéletesíthetik is azt. Az a kérdés, mihez kezdünk az olyan technológiákkal, mint a mesterséges intelligencia és a biotechnológia. Yuval Noah Harari
10. A mesterséges intelligencia fejlődésével a ma még esetlenül és megmosolyogtatóan mûködő botok és az emberek közti kommunikáció sokkal kevésbé lesz megkülönböztethető. Jó mesterségesintelligencia-algoritmusokkal az álhírgyártás folyamata is automatizálható lesz. Ma még javarészt emberek csapnak be minket, gépek segítségével, holnap ehhez már jó eséllyel emberek sem kellenek majd. Krekó Péter