Egy olyan világot feltételezve, amelyben egy nálunk jobban mûködő intelligencia van, az a nehéz, hogy mi a saját intelligenciaszintünkre alakítottunk ki etikai/morális szabályokat.

Kapcsolódó idézetek

1. Ha hagyjuk, hogy a mesterséges intelligencia etikai normák és a társadalom bevonása nélkül fejlődjön, akkor félő, hogy a társadalmat egy igazságtalanabb világ felé tereljük. Ha úgy kezeljük az Ml-rendszereket, hogy azok kiváltanak minket, és nem úgy, hogy magasabb szintre emelik a munkánkat és az életünket, akkor egzisztenciális válságba kerülhetünk.
2. Abban a világban élünk, amit kitalálunk magunknak. Meghatározzuk, mi jó, mi nem, jelentéstérképeket rajzolunk. Aztán egész életünkben azzal küzdünk, amit kifundáltunk magunknak. A gond az, hogy mindenkinek megvan a maga verziója, ezért olyan nehéz az embereknek szót érteniük egymással. Olga Tokarczuk
3. Ha olyan világban élnénk, ahol a szabályokat felülírnák az érzelmek, akkor nagyon kényelmetlenné válna számunkra az élet. Jodi Lynn Picoult
4. A mesterséges intelligenciát használó társadalom egyre inkább függ a találmányától, miközben a gépeket továbbra is egy szûk elit irányítja, és a gépek döntéseit a társadalom csupán azért fogadja el, mert azok elvileg magasabb életszínvonalat tesznek lehetővé. Az emberiség olyan állapot felé sodródik, amelyben könnyen azon kaphatja magát, hogy már nem is képes kikapcsolni ezeket a gépeket, ez ugyanis gyakorlatilag az öngyilkossággal érne fel. A fizikai szükségletek kielégíthetők, a gyerekek "pszichológiailag higiénikus" körülmények között nevelkedhetnek, és mindenkinek megvan a maga dolga, ámde azon az áron, hogy maguk az emberek nem lesznek egyebek, mint a gépek háziállatai.
5. Könnyû elképzelni egy tökéletesebb világot. Sok ilyen utópista elképzelés megvalósítása már sokkal nehezebb. Malcolm Gladwell
6. Olyan világban élünk, amelyben a legjobbak érvényesülnek. Anélkül, hogy ilyen önző értékrendszert állítanánk fel, szükség van arra, hogy a legjobbat követeljük meg magunktól, abból a célból, hogy másokon segítsünk.
7. Nem lehet hinni egy jobb világban; ha nem javítjuk meg az egyént. Hogy ezt a célt elérhessük, mindenkinek tökéletesíteni kell önmagát, hogy kivegyük részünket ezzel az emberiség általános életében a reánk eső felelősségből - mert különös kötelességünk, hogy segítsük azokat, akiknek a legtöbbet használhatunk. Marie Curie
8. A világ gondolatok szerint épül fel, ezért megítélhetünk gondolatokat belőle. Rudolf Steiner
9. Kötelességünk, hogy a világot jobbá formáljuk annál, mint amilyennek találtuk. Mert megeshet, hogy utánunk már meg sem találják. Szilvási Lajos
10. Pusztán az a dolgunk, hogy létrehozzunk valamit, ami okosabb nálunk; az ezen túl eső problémákat már nem nekünk kell megoldanunk. Eliezer Yudkowsky