Az, hogy rászokunk a mesterséges intelligencia túlzott használatára, szinte elkerülhetetlen. A veszély akkor kezdődik, amikor elkezdjük túl komolyan venni őket, és hagyjuk, hogy helyettünk döntsenek olyan dolgokban, amikben nem kellene átadnunk nekik az irányítást.

Kapcsolódó idézetek

1. A mesterséges intelligencia az első olyan eszköz, ami akár helyettesíthet is minket a döntéshozatalban. És a veszély itt jelentős, mert valószínû, hogy hibázni fogunk. És ez akár olyan szintû hiba is lehet, hogy nem biztos, hogy lesz időnk tanulni belőle. Yuval Noah Harari
2. A mesterséges intelligencia bármiféle fejlődésénél sokkal félelmetesebb az, hogy időről időre olyan természetes intelligenciákat ültetünk a saját fejünkre, amelyek lopnak, csalnak, átvernek. Méghozzá ezt demokratikus választások útján tesszük, saját jószántunkból. Talán ezért érdemes mégiscsak foglalkoznunk azzal, hogy mi történhet, ha a mesterséges intelligenciákról kiderül, hogy valójában ártanak nekünk, rossz szándékúak, ellenünk dolgoznak. (...) Valójában klasszikus politikai filozófiai fogalmakról, a fékekről és ellensúlyokról beszélek; csak így talán jobban érthető, miért kell a hatalmat, a legjobb indulatú, legintelligensebb hatalmat is keményen korlátozni, még akkor is, ha nem mesterséges, hanem természetes intelligenciák gyakorolják. Mérő László
3. A mesterséges intelligencia igazi veszélye nem az, hogy robot-apokalipszishez vezethet, hanem az, hogy miközben a rendszerek egyszerre előítéletesek és buták, a társadalmak mûködése bizonyos területeken már rajtuk áll. John Giannandrea
4. Fennáll a veszély, hogy ha túl sok energiát fordítunk a mesterséges intelligencia fejlesztésére, miközben túl keveset az emberi tudatosság fejlesztésére, akkor a számítógépek rendkívül fejlett intelligenciája csak arra szolgál majd, hogy még nagyobb teret adjon az emberi ostobaságnak. Yuval Noah Harari
5. Ha hagyjuk, hogy a mesterséges intelligencia etikai normák és a társadalom bevonása nélkül fejlődjön, akkor félő, hogy a társadalmat egy igazságtalanabb világ felé tereljük. Ha úgy kezeljük az Ml-rendszereket, hogy azok kiváltanak minket, és nem úgy, hogy magasabb szintre emelik a munkánkat és az életünket, akkor egzisztenciális válságba kerülhetünk.
6. Az általános mesterséges intelligencia igazi veszélye nem a rosszindulat, hanem a kompetencia. Egy szuperintelligens MI kimagasló teljesítményt nyújthat céljainak elérésében, ám ha ezek a célok történetesen nem esnek egybe a mieinkkel, nagy bajban leszünk. Max Tegmark
7. 100 évvel ezelőtt azt képzeltük, hogy a robotok átveszik a hatalmat. Ma attól félünk, hogy a szuperintelligencia veszi át. Az ember olyan sokat gondolkodik a hatalmon, hogy folyton attól retteg, valaki átveszi, pedig igazából ő szeretné birtokolni. Csányi Vilmos
8. Az önmûködő fegyverek és gyilkos robotok technológiája veszélyesebb lehet akár a nukleáris fegyverkezésnél is, mert a nukleáris fegyverkezés esetében az irányítás kizárólagosan emberi döntések és együttmûködés kérdése volt. A mesterséges intelligenciával olyan technológiát fejlesztünk, amelynek az irányítása nincs teljesen az emberiség kezében: ez a technológia képes lesz helyettesíteni az emberi elmét, és átvenni az irányítást az emberiségtől az élet számos területén. Yuval Noah Harari
9. A mesterséges intelligencia valójában annyira áthat mindent, hogy gyakran nem is tartjuk ezeket az automatizált rendszereket Ml-nek. Egy szakmai vicc szerint, ha egy gép meg tud csinálni valamit, amit korábban csak ember tudott, akkor azt a feladatot már nem is tekintjük az intelligencia jelének.
10. A mesterséges intelligencia valóban nagyon félelmetes, ha elképzeljük, hogy a jövőben lesznek cégek, amelyeket ez irányít majd, anélkül, hogy akár egyetlen ember is beleszólna a tetteibe. Mike Pearl