A szuperintelligencia, meglehet, rémisztő fogalom. Miután ezek a rendszerek elméletileg képesek mindent megtanulni, ami a világon megtanulható, szinte elkerülhetetlennek látszik, hogy egyszer úgy döntsenek, érdekükben áll felszámolni az emberiséget.