説明可能なAIの探求 – venturebeat.com

これは、説明可能なAI（XAI）と呼ばれる新しい研究分野につながります。
テクニカルライターのスコットクラークが最近CMSWireで指摘したように、説明可能なAIは意思決定プロセスに必要な洞察を提供し、ユーザーがそのように動作している理由を理解できるようにします。
これが、説明可能なAIでは不十分な理由の1つです、とAIガバナンス開発者MonitaurのCEOであるAnthonyHabayebは言います。
本当に必要なのは理解しやすいAIです。
AIの場合、これは、ユーザーがモデルが現在どのように機能しているかだけでなく、この特定のタスクにモデルが選択された方法と理由を明確にする必要があることを意味します。
そして、人間の脳のしばしばばらばらで混沌とした論理を理解できる方法でAIを利用するには、知識労働者の側で同等の努力が必要になる可能性があります。