Bár a számítógép elfogulatlanul alkalmazza az algoritmusokat, előre meghatározott szabályokat követve, de a szabályokat emberek írják. A programozók kitörölhetetlenül beépíthetik magába az algoritmusba tudatos vagy tudattalan előítéleteiket, amelyek a számítógép nyelvére lefordítva észrevétlenek maradnak.

Kapcsolódó idézetek

1. Az előítéleteknek rendszerint nem a tanuló algoritmusokat tápláló hideg és kemény statisztikák az okai. A mesterséges intelligencia tanulók gyakran inkább az oktatóanyagokban eleve benne rejlő elfogultságot veszik át: azét az adatét, amit a társadalom állít elő. Más szóval az algoritmusok alkotóik előítéleteit tükrözik, olykor az eleve bennünk lévő előítéletek elmélyítéséig vagy igazolásáig.
2. Minden algoritmust valamilyen céllal hoztak létre. Abból, hogy maguk a szabályok előre meghatározottak, és hideg fejjel követhetjük őket, még nem következik, hogy az a cél is pártatlan, amire készültek, még ha a tervezőnek az is volt a szándéka. Kit Yates
3. Az ember azt hiszi, hogy autonóm. Azt hiszi, hogy tudja, mit miért csinál. (...) Programok települnek a szoftverünkre vagy a hardverünkre vagy akár az idegrendszerünkre a korai hatások nyomán, és utána - még ha azt is hisszük, hogy autonóm lények vagyunk - nagyon nagy mértékben ezek az algoritmusok irányítanak minket. Buda László
4. A számítógép matematikai eszköz, amelyet adatok tárolására és kezelésére hoztak létre. A felelősség azoké az emberi lényeké, akik beprogramozzák és kezelik - s ha olykor mögéje rejtőznek, hogy leplezzék saját alkalmatlanságukat, ez inkább az ember hibája, mint a számítógépé. Isaac Asimov
5. Egy gépet lehetséges oly módon beprogramozni egy rutinfeladatra, hogy a gép még a legnyilvánvalóbb tényeket se tudja arról, amit csinál; az emberi öntudatnak azonban a legelválaszthatatlanabb sajátossága, hogy észrevesz bizonyos tényeket az emberi cselekedetek során. Douglas Richard Hofstadter
6. Azt gondolná az ember, hogy a dolog könnyebbik része kitalálni, hogy a felhasználó mit vár el egy számítógépes rendszertől. Pedig a probléma lényege pont abban az ellentétben rejtőzik, ami a programok korrekt megtervezettsége, rugalmatlansága, valamint az emberek megjósolhatatlan viselkedése és munkastílusa között feszül.
7. Ha van olyan, a számítógépes technológiát körüllengő mítosz, amellyel ideje lenne már leszámolni, az az a közkeletû elképzelés, hogy a számítógép csak azt tudja megcsinálni, amire konkrétan beprogramozták. (...) A gépitanulás-algoritmusok rutinszerûen rágják át magukat az adatokon, tárják fel a statisztikai összefüggéseket, és írják meg lényegében ezek alapján a maguk saját programját. Martin Ford
8. A gondolatok szavak révén történő formába öntése rendkívül fontos; a szavaknak nagy az erejük, összekapcsolódnak, vonzzák egymást. Alapjában ugyanaz a funkciójuk, mint a matematikában az algoritmusoknak. Az algoritmus szinte magától viszi előbbre a matematikai gondolatmenetet. Éppígy a szavaknak is megvan a maguk élete: felidéznek más szavakat, lehetővé teszik az elvonatkoztatást, a következtetést, a formális logika használatát. Giorgio Parisi
9. A technológia nem önmagában jó vagy rossz. Az emberek tûzik ki a célt, és egy algoritmusnak önmagában nincs akarata, hacsak valaki kifejezetten nem úgy programozza. Még ha a jövőben az ember ki is szervezi a gépi tanulás programozását a mesterséges intelligencia-rendszerekhez, akkor is mi maradunk azok, akik meghatározzák az Ml végcélját: hogy szolgálja, gyarapítsa az emberiséget. Egy Ml, amit arra programoztak, hogy vacsorát főzzön, talán képes lesz különböző konyhák sokféle fogását elkészíteni. De nem fog hirtelen úgy "dönteni", hogy megöli a tulajdonosát, vagy felgyújtja a házat. Az algoritmusok a tanításukra használt adatokból tanulnak, és hacsak valami betegesen gonosz emberi programozó úgy nem dönt, hogy a gyilkosságot és a gyújtogatást választja, akkor ezek soha nem lesznek az Ml repertoárjának részei.
10. Gyakran mondják, hogy megmagyarázni annyi, mint kiüresíteni. Ez az elv sehol sem érvényesül olyan következetesen, mint a számítógépes programozás területén, különösen az úgynevezett heurisztikus programozásban és a mesterséges intelligenciában. Ezeken a területeken olyan gépek születnek, amik lenyûgöző módon viselkednek, gyakran még a legtapasztaltabb megfigyelőt is elkápráztatva. Amint azonban egy adott program lelepleződik, amint belső mûködését kellően világos nyelven feltárják, hogy valóban megérthetővé váljon, rögtön szertefoszlik a varázsa: pusztán egymást követő, egyszerû eljárások sorozatává válik. Ilyenkor a szemlélő joggal gondolhatja: "Ezt én is meg tudtam volna írni." Ezzel a gondolattal a programot áthelyezi az "intelligens" jelzővel ellátott polcról a kuriózumok közé, amiket már csak kevésbé felvilágosult emberekkel érdemes megvitatni.