Ha hagyjuk, hogy a mesterséges intelligencia etikai normák és a társadalom bevonása nélkül fejlődjön, akkor félő, hogy a társadalmat egy igazságtalanabb világ felé tereljük. Ha úgy kezeljük az Ml-rendszereket, hogy azok kiváltanak minket, és nem úgy, hogy magasabb szintre emelik a munkánkat és az életünket, akkor egzisztenciális válságba kerülhetünk.

Kapcsolódó idézetek

1. A mesterséges intelligenciát használó társadalom egyre inkább függ a találmányától, miközben a gépeket továbbra is egy szûk elit irányítja, és a gépek döntéseit a társadalom csupán azért fogadja el, mert azok elvileg magasabb életszínvonalat tesznek lehetővé. Az emberiség olyan állapot felé sodródik, amelyben könnyen azon kaphatja magát, hogy már nem is képes kikapcsolni ezeket a gépeket, ez ugyanis gyakorlatilag az öngyilkossággal érne fel. A fizikai szükségletek kielégíthetők, a gyerekek "pszichológiailag higiénikus" körülmények között nevelkedhetnek, és mindenkinek megvan a maga dolga, ámde azon az áron, hogy maguk az emberek nem lesznek egyebek, mint a gépek háziállatai.
2. Az, hogy rászokunk a mesterséges intelligencia túlzott használatára, szinte elkerülhetetlen. A veszély akkor kezdődik, amikor elkezdjük túl komolyan venni őket, és hagyjuk, hogy helyettünk döntsenek olyan dolgokban, amikben nem kellene átadnunk nekik az irányítást. Daniel Dennett
3. Noha a szuperintelligens rendszerek jelentette egzisztenciális fenyegetés kockázatával sokat foglalkoznak a sajtóban, a mesterséges intelligencia-szakértők úgy vélik, ez a világra rászabadított Ml legkevésbé aggasztó következménye - mivel a legnagyobb gondot a munkahelyek megszûnése és a növekvő társadalmi egyenlőtlenségek jelentik.
4. A mesterséges intelligencia igazi veszélye nem az, hogy robot-apokalipszishez vezethet, hanem az, hogy miközben a rendszerek egyszerre előítéletesek és buták, a társadalmak mûködése bizonyos területeken már rajtuk áll. John Giannandrea
5. A mesterséges intelligencia bármiféle fejlődésénél sokkal félelmetesebb az, hogy időről időre olyan természetes intelligenciákat ültetünk a saját fejünkre, amelyek lopnak, csalnak, átvernek. Méghozzá ezt demokratikus választások útján tesszük, saját jószántunkból. Talán ezért érdemes mégiscsak foglalkoznunk azzal, hogy mi történhet, ha a mesterséges intelligenciákról kiderül, hogy valójában ártanak nekünk, rossz szándékúak, ellenünk dolgoznak. (...) Valójában klasszikus politikai filozófiai fogalmakról, a fékekről és ellensúlyokról beszélek; csak így talán jobban érthető, miért kell a hatalmat, a legjobb indulatú, legintelligensebb hatalmat is keményen korlátozni, még akkor is, ha nem mesterséges, hanem természetes intelligenciák gyakorolják. Mérő László
6. A mesterséges intelligencia jövője szorosan összefügg az emberiség jövőjével. És miközben ma még homályos, hogy a jövő utópia-e vagy katasztrófa, rajtunk - az akarattal rendelkező félen - áll, hogy az Ml-t a fényesebb kimenetel felé vezessük. Nyílt, intelligens diskurzus mellett az Ml nem fog lecserélni minket. Ehelyett a mi javunkra formálja át az emberiséget.
7. Egy olyan világot feltételezve, amelyben egy nálunk jobban mûködő intelligencia van, az a nehéz, hogy mi a saját intelligenciaszintünkre alakítottunk ki etikai/morális szabályokat. Szertics Gergely
8. Ahelyett, hogy átvenné a szerepeinket, a mesterséges intelligencia lehetővé teheti, hogy megszabaduljunk a gépies szellemi feladatoktól, nagyjából úgy, ahogy ma emlékeket és feljegyzéseket "szervezünk ki" az okostelefonunkhoz. Inkább egy "Ml + ember" jövőre kell törekednünk, ahol a dolgozók és a technológia hatékonyabban egészítik ki egymást, mintsem arra készülnünk, hogy az Ml kiváltja az embert.
9. Eljöhet az a kor, hogy ha fölmerül egy technikai vagy mûszaki probléma, egy biológiai vagy orvostudományi kérdés, akkor odakuporodunk a mesterséges intelligencia lábához, föltesszük neki a kérdést, és ő megmondja. Nem fogjuk tudni, hogy hogy mondta meg, de az lesz a zavarba ejtő tapasztalatunk, hogy mindig igaza van. Ez egy nagyon érdekes világ lesz.
10. Egy társadalomtól megköveteljük, hogy stabil legyen abban az értelemben, hogy ne fordulhassanak elő háborús katasztrófák, ugyanakkor legyen rugalmas, változékony, hogy az emberek életkörülményeit fokozatosan javíthassa, másképp elégedetlenség támad és forradalmak. Egy ilyen társadalom létrehozása roppant nehéz szociológiai feladat. Valójában olyan nehéz, hogy meghaladja az emberi agy kapacitását, és csakis a számítógépek segítségével oldható meg. Olof Johannesson