Tartalomjegyzék:
- Meghatározás - Mit jelent az értéktanulási probléma?
- A Techopedia magyarázza az értéktanulási problémát
Meghatározás - Mit jelent az értéktanulási probléma?
Az értéktanulási probléma egy speciális alapvető kérdés a gépi tanulás és a mesterséges intelligencia technológiáinak fejlesztésében, amely foglalkozik az emberek és a számítógépek közötti különbséggel és gondolkodásmódjukkal.
Dióhéjban az értéktanulási probléma azon alapszik, hogy a számítógépek mennyire nehezen tudják kitalálni, mit kell „értéket mérni” (mind az adatok, mind a politika szempontjából), és hogyan kell cselekedni egy gépi tanulási hálózatban, és hogy a programozók hogyan tudják optimalizálni a program úgy működik, hogy megfeleljen eredeti szándékaiknak, amikor létrehozták.
A Techopedia magyarázza az értéktanulási problémát
Az értéktanulási probléma kulcsa az, hogy a programozók számára rendkívül fontos, hogy képesek legyenek olyan gépi tanulási programokat készíteni, amelyek végrehajtják a kívánt értékeket. A 22 kifogás azonban az, hogy az értékeket nem lehet egyértelműen meghatározni oly módon, hogy akadályozzák a program megtanulását.
Az emberek néha a gépi tanulási technológiák „konvergenciájáról” beszélnek, mint az érték-adatokra összpontosító sikeres, ám az értéktanulási probléma bizonyos értelemben kissé eltér. Az a gondolat, hogy legyen valami alapvető módja annak, hogy megmutassuk a gépi tanulási programot, amire vágynak, ahelyett, hogy helyesen elmondanánk, ami egy determinisztikus módszer az ML futtatásához.
Vegyük például ezt az értéktanulási problémáról szóló tanulmányt, amely azt sugallja, hogy a gépi tanulási programoknak lehetnek olyan tárolóeszköz-bemenetei, amelyek pozitív emberi válaszokat mutatnak az ingerekre. Az értéktanulási problémára vonatkozó ilyen típusú címek olvasásakor világossá válik, hogy a gépi tanulásban jelentős hézag van, amelyet nem könnyű megoldani - lényegében - hogyan hozzanak létre az emberek olyan gépeket, amelyek valóban gondolkodnak az embereknél? Egy másik módja annak magyarázatának, hogy az értéktanulási probléma annak középpontjában áll, hogy hogyan gondolkodunk emberként, és hogy gondolataink nem mindig alapulnak a rote inputon.
A számítógépek számára magas szintű rend az intuíciónk, ösztöneink, társadalmi vonzódásaink és legmélyebb etikai értékeink modellezése, még akkor is, ha a számítógépek megtanulják sakkjátékot játszani emberben, vagy ha túlmutatnak minket a nehéz matematikai problémák megoldásában. A szakemberek elvárhatják, hogy az értéktanulási program továbbra is központi szerepet játsszon a gépi tanulási technológiák fejlesztésében.
