K:
Miért gondolkodnak egyes vállalatok az "emberi visszacsatolás-ellenőrzés" hozzáadásáról a modern AI-rendszerekhez?
A:Néhány, az élvonalbeli AI technológiával foglalkozó vállalat ezen rendszerek emberi vezérlésének bevezetésén dolgozik, a gépi tanulás és a mély tanulás eszközöinek közvetlen emberi felügyeletet biztosítva. Ezek a vállalatok sem kis szereplők - a Google DeepMind és Elon Musk OpenAI két példája a nagyobb vállalatoknak, amelyek gyakorlati segítséget kapnak a mesterséges intelligencia terén. Ebben az értelemben az eredmények különböznek - például a DeepMind vita tárgyát képezte úgy, hogy nem hajlandó kulcsfontosságú adatokat közzétenni, míg az OpenAI sokkal inkább nyitott a mesterséges intelligencia ellenőrzésére irányuló munkáján.
Még olyan figyelemreméltó dolgok is, amelyeket Bill Gates mérlegel a témában. Gates azt mondta, hogy ő egyike azon soknak, akiket aggódik egy olyan mesterséges szuper intelligencia kialakulása miatt, amely bizonyos értelemben az emberi ellenőrzésen túlmutathat. Musk a maga részéről is aggasztó nyelvet adott ki a „gazember AI” lehetőségéről.
Valószínűleg ez a sürgõsebb oka annak, hogy a vállalatok azon dolgoznak, hogy az emberi kontrollokat az AI-hez alkalmazzák - az a gondolat, hogy bizonyos technológiai szingularitás olyan nagy teljesítményû érzékszervi technológiát eredményez, amelyet az emberek egyszerûen nem tudnak irányítani. Az emberi ambíciók hajnalától kezdve eszközöket helyezünk a helyére, hogy megbizonyosodjunk arról, hogy meg tudjuk-e irányítani a hatalmunkat - legyen szó lóról, gyeplővel és hevederekkel, szigetelt vezetékekben lévő elektromos árammal, vagy bármilyen más vezérlő mechanizmussal A vezérlés veleszületetten emberi funkció, és ezért a világban minden értelme annak, hogy ahogyan a mesterséges intelligencia közelebb kerül a valós funkcionalitáshoz, az emberek saját közvetlen irányításukat alkalmazzák, hogy ellenőrizzék ezt az erőt.
Ugyanakkor a szuper intelligens robotoktól való félelem nem az egyetlen oka annak, hogy a vállalatok az emberi vezérléseket alkalmazzák a gépi tanulásra és az AI projektekre. Egy másik fő ok a gépi torzítás - az az elképzelés, hogy a mesterséges intelligencia rendszerek gyakran korlátozottak abban, hogy miként értékelik a kérdéses adatokat -, hogy felerősítsék a rendszerben rejlő esetleges torzítást. A legtöbb gépi tanulással foglalkozó szakember szörnyű történeteket mondhat az informatikai rendszerekről, amelyek nem voltak képesek egyformán kezelni az emberi felhasználói csoportokat - legyen az nemi vagy etnikai egyenlőtlenség, vagy a rendszer valamilyen más hibája, hogy valóban megértsük emberi társadalmaink és hogyan lépünk kapcsolatba az emberekkel.
Bizonyos értelemben az emberi vezérlést a rendszerekre tehetjük, mert attól tartunk, hogy túl erősek lehetnek - vagy váltakozva, mert attól tartunk, hogy lehet, hogy nem lesznek elég erősek. Az emberi vezérlés segítséget nyújt a gépi tanulás adatkészleteinek megcélzásában a nagyobb pontosság érdekében. Segítik azoknak az elképzeléseknek a megerősítését, amelyeket a számítógép egyszerűen nem képes megtanulni önmagában, vagy azért, mert a modell nem elég kifinomult, mert az AI nem fejlődött elég messzire, vagy mert egyes dolgok csupán az emberi megismerés tartományában fekszenek. A mesterséges intelligencia bizonyos dolgokra nagyszerű - például egy jutalom-és pontszámalapú rendszer lehetővé tette a mesterséges intelligencia számára, hogy megverte az emberi játékosokat a rendkívül összetett „Go” társasjátéknál, de más dolgokhoz ez az ösztönző alapú rendszer teljesen elégtelen.
Dióhéjban számos kényszerítő ok van arra, hogy az emberi felhasználókat közvetlenül bevonjuk a mesterséges intelligencia projektek működésébe. Még a legjobb mesterséges intelligencia technológiák is önmagában sokat tudnak gondolkodni - de valódi biológiai emberi agy nélkül, amely olyan dolgokat képes feldolgozni, mint az érzelmek és a társadalmi szokások, egyszerűen nem látják a nagy képet emberi módon.
Egy képzett gépi tanuló cég segít megtalálni ezt az egyensúlyt üzleti és tárgyi szakértőkkel, valamint a gépi tanulás fejlesztőivel, akik képesek a nagy üzleti problémák megoldására.
