El fog jönni a pont, amikor a technológia teljes mértékben átveszi az irányítást a saját evolúciója felett; amikor képessé válik rekurzív javítási folyamatokat végrehajtani; amikor már nem fogjuk tudni megmagyarázni; amikor már nem fogjuk tudni megjósolni, hogyan viselkedik majd szabadjára engedve; összefoglalva: amikor elérjük az emberi befolyás és kontroll határait.

Kapcsolódó idézetek

1. Ha valamit tanulhattunk az evolúcióból, az az, hogy az életet nem lehet kordában tartani. Az élet kiszabadul. Új területekre tódul, új korlátokat dönt le. Fájdalmasan, néha veszedelmesen.
2. Amikor a mostani járvány hullámai elülnek, és a világ dolgai megpróbálnak visszatérni a régi kerékvágásba, kiderül majd, hogy ez nem lehetséges. A globalizációval kiteljesedő korszak fordulóponthoz érkezett, az út ettől kezdve folyvást lefelé visz. Az ember pusztító beavatkozása a földi életet fenntartó rendszerek lassú összeomlásához vezet, ennek jelei egyre nyilvánvalóbbak, süketnek és vaknak kell lennie, aki nem akarja őket észrevenni.
3. Az evolúció eddig úgy mûködött, hogy sok változat van valamiből, és akkor szelekcióval néhány marad. Egy embernél intelligensebb program viszont valószínûleg képes lesz saját magát javítani, ami azt jelenti, hogy felgyorsul az evolúció, kiszámíthatatlan, hogy mi lesz. Csányi Vilmos
4. Az emberiség talán sorsfordító ponthoz ért: az intelligencia képes rá, hogy megsemmisítse a bolygót, míg a lelke mélyén mindenkit rettenetes félelem és primitív vágy vezérel, mindenkiben roppant ellentétek feszülnek. Karin Alvtegen
5. Maguk az emberek - szellemi és fizikai képességeik egyaránt - genetikai beavatkozással, a génmódosítások és a kiborg technológiák alkalmazásával megváltoztathatók lesznek. Ez alapvetően új helyzetet teremt. Amikor megcsodáljuk az ókori irodalom és képzőmûvészet fennmaradt alkotásait, a több ezer éves időbeli távolság ellenére azonosulni tudunk az akkor élt mûvészekkel és civilizációikkal. Abban viszont egészen biztosak lehetünk, hogy a néhány évszázad múlva domináló intelligens faj a legcsekélyebb érzelmi azonosságot sem mutatja majd velünk - jóllehet racionálisan megértik viselkedésünket. Martin Rees
6. Életünk minden apró részletét igyekszik a társadalom szabályozni, pontosan mikor és hogyan taníttassuk a gyerekeinket, mikor és hogyan válasszuk vezetőinket, mikor hagyhatjuk folyamatos munkánkat abba és pihenhetünk valamennyit. Behálóznak már a szabályok, szabályok szabályozzák a szabálykészítést is, és ez az önmagára visszacsatolt mûvi rendszer kezd élhetetlen lenni, megszaladt, mint az evolúcióban annyi más tulajdonság. Csányi Vilmos
7. A mesterséges intelligenciát használó társadalom egyre inkább függ a találmányától, miközben a gépeket továbbra is egy szûk elit irányítja, és a gépek döntéseit a társadalom csupán azért fogadja el, mert azok elvileg magasabb életszínvonalat tesznek lehetővé. Az emberiség olyan állapot felé sodródik, amelyben könnyen azon kaphatja magát, hogy már nem is képes kikapcsolni ezeket a gépeket, ez ugyanis gyakorlatilag az öngyilkossággal érne fel. A fizikai szükségletek kielégíthetők, a gyerekek "pszichológiailag higiénikus" körülmények között nevelkedhetnek, és mindenkinek megvan a maga dolga, ámde azon az áron, hogy maguk az emberek nem lesznek egyebek, mint a gépek háziállatai.
8. Mindig úgy képzeljük, hogy van még idő, de ez nem igaz. Mert egy nap ráébredünk, hogy túljutottunk azon a ponton, ahonnan már nem fordulhatunk vissza, de akkor már késő lesz. (...) Ez az a pillanat, amikor az ember ráébred, hogy nincs visszaút. Az a pillanat, amikor az ember ráébred, hogy elszalasztotta az esélyt. Guillaume Musso
9. Eljöhet az a kor, hogy ha fölmerül egy technikai vagy mûszaki probléma, egy biológiai vagy orvostudományi kérdés, akkor odakuporodunk a mesterséges intelligencia lábához, föltesszük neki a kérdést, és ő megmondja. Nem fogjuk tudni, hogy hogy mondta meg, de az lesz a zavarba ejtő tapasztalatunk, hogy mindig igaza van. Ez egy nagyon érdekes világ lesz.
10. Az, hogy rászokunk a mesterséges intelligencia túlzott használatára, szinte elkerülhetetlen. A veszély akkor kezdődik, amikor elkezdjük túl komolyan venni őket, és hagyjuk, hogy helyettünk döntsenek olyan dolgokban, amikben nem kellene átadnunk nekik az irányítást. Daniel Dennett