Bízhat az AI-ben? Kérdés nélkül el kell fogadnia a megállapításait objektíven érvényesnek? A probléma az, hogy még az AI megkérdőjelezése sem adna világos válaszokat.
Az AI rendszerek általában úgy működnek, mint egy fekete doboz: Az adatok bemenő és az adatok kimenetek, de az adatok átalakításának folyamata rejtély. Ez kettős problémát okoz. Az egyik az, hogy nem világos, mely algoritmusok teljesítménye a legmegbízhatóbb. A másik az, hogy a látszólag objektív eredményeket torzíthatják a rendszereket programozó emberek értékei és elfogultsága. Ezért szükséges az ilyen rendszerek által használt virtuális gondolkodási folyamatok, vagy az „elmagyarázható AI” átláthatósága.
Az etikai követelmény mindenki számára törvényesvé vált, amelyre a GDPR vonatkozik, amely nemcsak az EU-ban székhellyel rendelkező vállalkozásokat érinti, hanem azokat is, amelyek ott élő emberekkel vagy szervezetekkel vannak kapcsolatban. Számos adatvédelmi rendelkezést tartalmaz, amelyek kiterjesztik az uniós polgárokat: „a jogot arra, hogy nem vonatkozzanak kizárólag automatizált döntéshozatalra, bizonyos helyzetek kivételével”, és „a jogot, hogy értelmes információkkal rendelkezzenek a döntéshozatali logikáról. .”
