A mesterséges intelligencia az első olyan eszköz, ami akár helyettesíthet is minket a döntéshozatalban. És a veszély itt jelentős, mert valószínû, hogy hibázni fogunk. És ez akár olyan szintû hiba is lehet, hogy nem biztos, hogy lesz időnk tanulni belőle.

Kapcsolódó idézetek

1. Az, hogy rászokunk a mesterséges intelligencia túlzott használatára, szinte elkerülhetetlen. A veszély akkor kezdődik, amikor elkezdjük túl komolyan venni őket, és hagyjuk, hogy helyettünk döntsenek olyan dolgokban, amikben nem kellene átadnunk nekik az irányítást. Daniel Dennett
2. A mesterséges intelligencia bármiféle fejlődésénél sokkal félelmetesebb az, hogy időről időre olyan természetes intelligenciákat ültetünk a saját fejünkre, amelyek lopnak, csalnak, átvernek. Méghozzá ezt demokratikus választások útján tesszük, saját jószántunkból. Talán ezért érdemes mégiscsak foglalkoznunk azzal, hogy mi történhet, ha a mesterséges intelligenciákról kiderül, hogy valójában ártanak nekünk, rossz szándékúak, ellenünk dolgoznak. (...) Valójában klasszikus politikai filozófiai fogalmakról, a fékekről és ellensúlyokról beszélek; csak így talán jobban érthető, miért kell a hatalmat, a legjobb indulatú, legintelligensebb hatalmat is keményen korlátozni, még akkor is, ha nem mesterséges, hanem természetes intelligenciák gyakorolják. Mérő László
3. Az önmûködő fegyverek és gyilkos robotok technológiája veszélyesebb lehet akár a nukleáris fegyverkezésnél is, mert a nukleáris fegyverkezés esetében az irányítás kizárólagosan emberi döntések és együttmûködés kérdése volt. A mesterséges intelligenciával olyan technológiát fejlesztünk, amelynek az irányítása nincs teljesen az emberiség kezében: ez a technológia képes lesz helyettesíteni az emberi elmét, és átvenni az irányítást az emberiségtől az élet számos területén. Yuval Noah Harari
4. Eljöhet az a kor, hogy ha fölmerül egy technikai vagy mûszaki probléma, egy biológiai vagy orvostudományi kérdés, akkor odakuporodunk a mesterséges intelligencia lábához, föltesszük neki a kérdést, és ő megmondja. Nem fogjuk tudni, hogy hogy mondta meg, de az lesz a zavarba ejtő tapasztalatunk, hogy mindig igaza van. Ez egy nagyon érdekes világ lesz.
5. A mesterséges intelligencia igazi veszélye nem az, hogy robot-apokalipszishez vezethet, hanem az, hogy miközben a rendszerek egyszerre előítéletesek és buták, a társadalmak mûködése bizonyos területeken már rajtuk áll. John Giannandrea
6. A mesterséges intelligencia a legemberibb technológia. Az egész azzal az ötlettel kezdődött, hogy mi lenne, ha léteznének embereket utánzó gépek. Aztán jött az emberi gondolkodás folyamatainak másolása, majd az agy tanulmányozása és elemzése. Mára sokan attól félnek, hogy az MI intelligensebbé válhat, mint az ember.
7. Az általános mesterséges intelligencia igazi veszélye nem a rosszindulat, hanem a kompetencia. Egy szuperintelligens MI kimagasló teljesítményt nyújthat céljainak elérésében, ám ha ezek a célok történetesen nem esnek egybe a mieinkkel, nagy bajban leszünk. Max Tegmark
8. A mesterséges intelligenciában (...) az intelligencia természetéből fakadóan nem tudjuk megismerni, hogy mi lesz, ha van egy nálunk fejlettebb intelligencia. Mert az a szó beletörődős értelmében beláthatatlan. Ez a dolog természetéből származó beláthatatlanság hihetetlenül fontos lesz a jövőnk tervezése szempontjából. Mert azt üzeni, hogy képesnek kell lennünk alázattal viselni a saját intelligenciánk által támasztott korlátokat, és érdemes arra készülnünk, hogy mi módon tudunk olyan intelligenciákkal élni, amelyek nálunk fejlettebbek. Szertics Gergely
9. Olyan hatékony új technológiákat fejleszt az emberiség, amelyek elpusztíthatják az emberiséget, de akár tökéletesíthetik is azt. Az a kérdés, mihez kezdünk az olyan technológiákkal, mint a mesterséges intelligencia és a biotechnológia. Yuval Noah Harari
10. A mesterséges intelligencia csak annyira lehet jó, amennyire a tanítására használt adatok jók, vagyis ha a kezdeti oktatási példák rosszak, az algoritmus meg fogja tanulni ezt a torzítást.