Mi lenne, ha a mesterséges intelligencia, ahogyan azt ma értjük, az intelligencia mibenlétének évtizedes félreértésén alapulna? És ha jelenlegi problémáink erre a félreértésre lennének visszavezethetőek? Stuart Russell informatikus, korunk legnépszerűbb mesterséges intelligenciáról szóló tankönyvének társszerzője, ezeket a kérdéseket járta körül egy, a múlt héten az Alan Turing Intézet által szervezett előadáson.

Amikor a mesterséges intelligenciával kapcsolatos úttörő munka elkezdődött az 1940-es években, az intelligencia meghatározásának központi eleme a célok elérésére való képesség volt. Ezt a megközelítést alkalmazták az új kutatási területtel foglalkozó tudósok, célokat kódolva a gépekbe.
A mai napig sok gépi tanulási technológia épül erre az elvre: mérnökök és informatikus határozzák meg a számítógép elérendő céljait. Aztán gyakorlatilag hátradőlnek, és figyelik, hogy a gép megtanítja magának, hogyan kell a célokat elérni.
Russel állítása szerint ez a modell valójában hibás, és ez néhány pusztító következménnyel jár. Könnyű belátni, hogy mi a baj a mesterséges intelligencia jelenlegi állapotával, ha megnézzük a YouTube tartalmának kiválasztásáért felelős algoritmusokat. Az algoritmusba kódolt cél annak a maximalizálása, hogy a felhasználó a következő, felajánlott videóra kattintson (ún. click-through). Az algoritmus azonban, ahelyett, hogy „megtanulná” mi az, amit látni akarnak a felhasználók, a felhasználók preferenciáit változtatja meg – kiszámíthatóbbá téve őket.
Ez természetesen a jogalkotásra nézve is következményekkel jár: Russell javasolta a célok meghatározására, a rendszerek által végrehajtható cselekvések kijelölésére vonatkozó gyakorlati kódexek és szabványok kialakítását. A cél az, hogy ha egy rendszer kapcsolatba lép a felhasználókkal, biztosítva legyen, hogy nincs ösztönözve arra, hogy manipulálja vagy módosítsa a felhasználó véleményét, preferenciáit.
Turing lecture: Provably beneficial AI


Szerző: Stuart Russell, Janosch Delcker

https://www.youtube.com/watch?v=0Uo4soSTe3Q

https://www.politico.eu/newsletter/ai-decoded/politico-pro-ai-decoded-this-mess-were-in-is-ai-coming-for-reporters-jobs-white-house-pushes-g7-alliance-on-ai-2/