A gépi tanulásban megvan az erő, hogy iparágakat alakítson át, akár az emberek magasabb szintre emelésével, akár bizonyos feladatokban a kiváltásukkal. De ehhez a kutatóknak meg kell találniuk a módját, hogyan tegyék az algoritmusokat érthetőbbé és ezáltal elszámoltathatóvá.

Kapcsolódó idézetek

1. A mesterséges intelligencia és a biotechnológia hatalmat ad az emberiségnek arra, hogy átformálja és áttervezze az életet. Valakinek rövidesen el kell majd döntenie, hogyan használjuk ezt a hatalmat - mégpedig egy, implicit vagy explicit módon az élet értelméről szóló történet alapján. A filozófusok türelmes emberek, a mérnökök azonban már kevésbé, a befektetők pedig még annyira sem. Ha nem tudjuk, mihez kezdjünk az élet áttervezésének képességével, a piaci erők nem fognak ezer évet várni arra, hogy valaki előálljon valamilyen válasszal. Yuval Noah Harari
2. Ha a gép képes gondolkodni, akkor akár nálunk intelligensebben is gondolkodhat - de mit jelent ez ránk nézve? Még ha a gépeket alárendelt helyzetben is tarthatnánk, (...) ez a tény komoly alázatra kell hogy késztessen bennünket. Alan Turing
3. Az innováció/automatizáció kivált ugyan bizonyos munkákat, de egyben új lehetőségeket is megnyit. (...) Korábban úgy alkalmazkodtunk ehhez a folyamathoz, hogy az előző generáció "kihalt", a következőnek már más volt az új normális. Most viszont mindannyiunknak a saját életünkön belül kell tudnunk alkalmazkodni, ami egy teljesen új kihívás. Sokkal tudatosabb szintre kell emelnünk a folyamatos tanulást. Szertics Gergely
4. Tanítás közben az ember felülvizsgálhatja, mit ért. Ez csak akkor derül ki igazán, ha valakinek el kell magyarázni. Kiderül, mi az, amit nem tudok, és azzal, hogy utánanézek és megértem, bőségesen visszakapom a befektetett munkát. Csányi Vilmos
5. Bár a számítógép elfogulatlanul alkalmazza az algoritmusokat, előre meghatározott szabályokat követve, de a szabályokat emberek írják. A programozók kitörölhetetlenül beépíthetik magába az algoritmusba tudatos vagy tudattalan előítéleteiket, amelyek a számítógép nyelvére lefordítva észrevétlenek maradnak. Kit Yates
6. A gép csak eszköz, amely avval, hogy a számítások és értékelések terhének egy részét leveszi az emberek válláról, elősegíti a gyorsabb előrehaladást. Az emberi agy feladata ugyanaz marad, ami eddig is volt: egyre újabb és újabb adatokat gyûjt az elemzéshez, és újabb és újabb elgondolásokat tesz próbára. Isaac Asimov
7. A mesterséges intelligencia az első olyan eszköz, ami akár helyettesíthet is minket a döntéshozatalban. És a veszély itt jelentős, mert valószínû, hogy hibázni fogunk. És ez akár olyan szintû hiba is lehet, hogy nem biztos, hogy lesz időnk tanulni belőle. Yuval Noah Harari
8. Amit az ember világos és érthető módon el tud végezni, azt egy géppel is el tudja végeztetni. Norbert Wiener
9. Ha az ember tényleg meg akar érteni valamit, annak az a legjobb módja, ha megpróbálja elmagyarázni valakinek. Ez arra kényszeríti, hogy helyretegye a dolgokat a saját fejében. És minél lassúbb és nehézfejûbb a tanítvány, annál egyszerûbb ideákra kell lebontanunk a gondolatmenetet. És valójában éppen ez a programozás lényege. Mire az ember egy bonyolult gondolatot lebont olyan egyszerû lépésekre, hogy azt még egy buta gép is megértse, addigra biztos, hogy valamit megtanul arról a dologról. A tanár általában többet tanul, mint a diák. Nem így van? Douglas Adams
10. A technológia nem önmagában jó vagy rossz. Az emberek tûzik ki a célt, és egy algoritmusnak önmagában nincs akarata, hacsak valaki kifejezetten nem úgy programozza. Még ha a jövőben az ember ki is szervezi a gépi tanulás programozását a mesterséges intelligencia-rendszerekhez, akkor is mi maradunk azok, akik meghatározzák az Ml végcélját: hogy szolgálja, gyarapítsa az emberiséget. Egy Ml, amit arra programoztak, hogy vacsorát főzzön, talán képes lesz különböző konyhák sokféle fogását elkészíteni. De nem fog hirtelen úgy "dönteni", hogy megöli a tulajdonosát, vagy felgyújtja a házat. Az algoritmusok a tanításukra használt adatokból tanulnak, és hacsak valami betegesen gonosz emberi programozó úgy nem dönt, hogy a gyilkosságot és a gyújtogatást választja, akkor ezek soha nem lesznek az Ml repertoárjának részei.