K:
Miért állíthat le egy társaság egy chatbot AI projektet?
A:A vállalatok sok okból leállíthatják a mesterséges intelligencia chatbot-projektjeit, de a legvalószínűbbek pár kategóriába sorolhatók. Először, a vállalatok leállíthatják a chatbot technológiákat, ha olyan módon cselekszenek, amely kényelmetlenné teheti a társaságot, például előmozdítja a kifogásolható beszédet. Alternatív megoldásként a vállalatok leállíthatják a chatbot projektet, ha elkezdi demonstrálni az érzelmeket és képességeiket, amelyeket vagy nem lehet könnyen ellenőrizni, vagy valamilyen végső veszélyt jelenthet a közegészségügyre és a biztonságra.
Mindkét forgatókönyvet a közelmúltban dokumentáltuk. A Microsoft kísérlete a Tay chatbottal akkor fejeződött be, amikor Tay kezdett átvenni emberi társainak legrosszabb tulajdonságait - rasszista és agresszív megjegyzéseket, és általában kifogásolható tevékenységeket, amelyek nagy részét egyértelműen megtanultak vagy akár pattanásba vették a felhasználók közvetlenül.
Egy nagyon eltérő esettanulmányban lezárták a Facebook által úttörő chatbot-beállítást, amikor a tudósok megfigyelték, hogy két chatbot egymással kommunikál, oly módon, hogy az emberi megfigyelés szempontjából kissé kizárólagos. Azt állították, hogy a chatbot szervezetek elkezdenek „egyfajta kóddal beszélni”, amely számukra kényelmesebb és kevésbé átlátható az emberi kezelők számára. Ez a példa erre a mesterséges intelligencia iránti általános valós aggodalomra. Mivel nagy előrelépéseket teszünk az erős mesterséges intelligencia fejlődésében, az embereknek cselekedniük kell az AI megvalósításának minden példájának visszaszorítása és ellenőrzése érdekében, hogy megbizonyosodjanak arról, hogy nem lépnek át az adott határokat. Nagyon sok etikai és biztonsági kérdés van, amelyekkel az erős mesterséges intelligenciával foglalkozni kell, és ez az egyik elsődleges oka annak, hogy a chatbotokat vagy más mesterséges intelligencia projekteket a jövőben leállíthatják az érdekelt felek, és egy bizonyos folyamaton keresztül támogatta őket.
