Az előítéleteknek rendszerint nem a tanuló algoritmusokat tápláló hideg és kemény statisztikák az okai. A mesterséges intelligencia tanulók gyakran inkább az oktatóanyagokban eleve benne rejlő elfogultságot veszik át: azét az adatét, amit a társadalom állít elő. Más szóval az algoritmusok alkotóik előítéleteit tükrözik, olykor az eleve bennünk lévő előítéletek elmélyítéséig vagy igazolásáig.

Kapcsolódó idézetek

1. Bár a számítógép elfogulatlanul alkalmazza az algoritmusokat, előre meghatározott szabályokat követve, de a szabályokat emberek írják. A programozók kitörölhetetlenül beépíthetik magába az algoritmusba tudatos vagy tudattalan előítéleteiket, amelyek a számítógép nyelvére lefordítva észrevétlenek maradnak. Kit Yates
2. A mesterséges intelligencia csak annyira lehet jó, amennyire a tanítására használt adatok jók, vagyis ha a kezdeti oktatási példák rosszak, az algoritmus meg fogja tanulni ezt a torzítást.
3. A mesterséges intelligencia bármiféle fejlődésénél sokkal félelmetesebb az, hogy időről időre olyan természetes intelligenciákat ültetünk a saját fejünkre, amelyek lopnak, csalnak, átvernek. Méghozzá ezt demokratikus választások útján tesszük, saját jószántunkból. Talán ezért érdemes mégiscsak foglalkoznunk azzal, hogy mi történhet, ha a mesterséges intelligenciákról kiderül, hogy valójában ártanak nekünk, rossz szándékúak, ellenünk dolgoznak. (...) Valójában klasszikus politikai filozófiai fogalmakról, a fékekről és ellensúlyokról beszélek; csak így talán jobban érthető, miért kell a hatalmat, a legjobb indulatú, legintelligensebb hatalmat is keményen korlátozni, még akkor is, ha nem mesterséges, hanem természetes intelligenciák gyakorolják. Mérő László
4. A mesterséges intelligencia az első olyan eszköz, ami akár helyettesíthet is minket a döntéshozatalban. És a veszély itt jelentős, mert valószínû, hogy hibázni fogunk. És ez akár olyan szintû hiba is lehet, hogy nem biztos, hogy lesz időnk tanulni belőle. Yuval Noah Harari
5. A mesterséges intelligencia algoritmusok egyik legfőbb korlátja - és a rendszerek iránti közbizalom elsődleges gátja - a rejtélyesség.
6. Minden algoritmust valamilyen céllal hoztak létre. Abból, hogy maguk a szabályok előre meghatározottak, és hideg fejjel követhetjük őket, még nem következik, hogy az a cél is pártatlan, amire készültek, még ha a tervezőnek az is volt a szándéka. Kit Yates
7. A technológia nem önmagában jó vagy rossz. Az emberek tûzik ki a célt, és egy algoritmusnak önmagában nincs akarata, hacsak valaki kifejezetten nem úgy programozza. Még ha a jövőben az ember ki is szervezi a gépi tanulás programozását a mesterséges intelligencia-rendszerekhez, akkor is mi maradunk azok, akik meghatározzák az Ml végcélját: hogy szolgálja, gyarapítsa az emberiséget. Egy Ml, amit arra programoztak, hogy vacsorát főzzön, talán képes lesz különböző konyhák sokféle fogását elkészíteni. De nem fog hirtelen úgy "dönteni", hogy megöli a tulajdonosát, vagy felgyújtja a házat. Az algoritmusok a tanításukra használt adatokból tanulnak, és hacsak valami betegesen gonosz emberi programozó úgy nem dönt, hogy a gyilkosságot és a gyújtogatást választja, akkor ezek soha nem lesznek az Ml repertoárjának részei.
8. A mesterséges intelligenciát használó társadalom egyre inkább függ a találmányától, miközben a gépeket továbbra is egy szûk elit irányítja, és a gépek döntéseit a társadalom csupán azért fogadja el, mert azok elvileg magasabb életszínvonalat tesznek lehetővé. Az emberiség olyan állapot felé sodródik, amelyben könnyen azon kaphatja magát, hogy már nem is képes kikapcsolni ezeket a gépeket, ez ugyanis gyakorlatilag az öngyilkossággal érne fel. A fizikai szükségletek kielégíthetők, a gyerekek "pszichológiailag higiénikus" körülmények között nevelkedhetnek, és mindenkinek megvan a maga dolga, ámde azon az áron, hogy maguk az emberek nem lesznek egyebek, mint a gépek háziállatai.
9. Az ember azt hiszi, hogy autonóm. Azt hiszi, hogy tudja, mit miért csinál. (...) Programok települnek a szoftverünkre vagy a hardverünkre vagy akár az idegrendszerünkre a korai hatások nyomán, és utána - még ha azt is hisszük, hogy autonóm lények vagyunk - nagyon nagy mértékben ezek az algoritmusok irányítanak minket. Buda László
10. Az alkotó emberek megtanulják, amit meg akarnak tanulni, hogy rendelkezzenek az eredetiségükhöz és zsenialitásukhoz szükséges eszközökkel. Nem tudhatjuk, mennyi kreativitást öl meg az iskola a tanulást előtérbe helyező tantermekben. Alexander Sutherland Neill