A mesterséges intelligencia csak annyira lehet jó, amennyire a tanítására használt adatok jók, vagyis ha a kezdeti oktatási példák rosszak, az algoritmus meg fogja tanulni ezt a torzítást.

Kapcsolódó idézetek

1. Az előítéleteknek rendszerint nem a tanuló algoritmusokat tápláló hideg és kemény statisztikák az okai. A mesterséges intelligencia tanulók gyakran inkább az oktatóanyagokban eleve benne rejlő elfogultságot veszik át: azét az adatét, amit a társadalom állít elő. Más szóval az algoritmusok alkotóik előítéleteit tükrözik, olykor az eleve bennünk lévő előítéletek elmélyítéséig vagy igazolásáig.
2. A mesterséges intelligencia az első olyan eszköz, ami akár helyettesíthet is minket a döntéshozatalban. És a veszély itt jelentős, mert valószínû, hogy hibázni fogunk. És ez akár olyan szintû hiba is lehet, hogy nem biztos, hogy lesz időnk tanulni belőle. Yuval Noah Harari
3. A technológia nem önmagában jó vagy rossz. Az emberek tûzik ki a célt, és egy algoritmusnak önmagában nincs akarata, hacsak valaki kifejezetten nem úgy programozza. Még ha a jövőben az ember ki is szervezi a gépi tanulás programozását a mesterséges intelligencia-rendszerekhez, akkor is mi maradunk azok, akik meghatározzák az Ml végcélját: hogy szolgálja, gyarapítsa az emberiséget. Egy Ml, amit arra programoztak, hogy vacsorát főzzön, talán képes lesz különböző konyhák sokféle fogását elkészíteni. De nem fog hirtelen úgy "dönteni", hogy megöli a tulajdonosát, vagy felgyújtja a házat. Az algoritmusok a tanításukra használt adatokból tanulnak, és hacsak valami betegesen gonosz emberi programozó úgy nem dönt, hogy a gyilkosságot és a gyújtogatást választja, akkor ezek soha nem lesznek az Ml repertoárjának részei.
4. Az, hogy rászokunk a mesterséges intelligencia túlzott használatára, szinte elkerülhetetlen. A veszély akkor kezdődik, amikor elkezdjük túl komolyan venni őket, és hagyjuk, hogy helyettünk döntsenek olyan dolgokban, amikben nem kellene átadnunk nekik az irányítást. Daniel Dennett
5. Attól, hogy egy mesterséges intelligencia megtanulja a kedves emberek megszólalásait, még nem lesz maga is kedves, ugyanúgy, ahogy egy színész sem lesz részeg pusztán attól, hogy egy kocsmában az ittas emberek viselkedését utánozza. Eliezer Yudkowsky
6. A mesterséges intelligencia bármiféle fejlődésénél sokkal félelmetesebb az, hogy időről időre olyan természetes intelligenciákat ültetünk a saját fejünkre, amelyek lopnak, csalnak, átvernek. Méghozzá ezt demokratikus választások útján tesszük, saját jószántunkból. Talán ezért érdemes mégiscsak foglalkoznunk azzal, hogy mi történhet, ha a mesterséges intelligenciákról kiderül, hogy valójában ártanak nekünk, rossz szándékúak, ellenünk dolgoznak. (...) Valójában klasszikus politikai filozófiai fogalmakról, a fékekről és ellensúlyokról beszélek; csak így talán jobban érthető, miért kell a hatalmat, a legjobb indulatú, legintelligensebb hatalmat is keményen korlátozni, még akkor is, ha nem mesterséges, hanem természetes intelligenciák gyakorolják. Mérő László
7. A legjobb metódus valamit megtanulni, hogy az ember azt gyakorolja, milyen hibákat lehet csinálni. Ha az ember már az összes hibát el tudja kerülni, akkor megértett mindent. Teller Ede
8. A mesterséges intelligencia igazi veszélye nem az, hogy robot-apokalipszishez vezethet, hanem az, hogy miközben a rendszerek egyszerre előítéletesek és buták, a társadalmak mûködése bizonyos területeken már rajtuk áll. John Giannandrea
9. Ahogy az ember lojalitása is változhat, egy mesterséges intelligenciáé is. Brandon Hackett
10. A mesterséges intelligencia fejlődésével a ma még esetlenül és megmosolyogtatóan mûködő botok és az emberek közti kommunikáció sokkal kevésbé lesz megkülönböztethető. Jó mesterségesintelligencia-algoritmusokkal az álhírgyártás folyamata is automatizálható lesz. Ma még javarészt emberek csapnak be minket, gépek segítségével, holnap ehhez már jó eséllyel emberek sem kellenek majd. Krekó Péter