アカウンタビリティ（説明責任）とは、AIシステムが下した決定やその動作原理について、人間が理解し、追跡し、そして責任を負えるようにすることを指します。これは、AIの利用が社会に浸透するにつれて、その重要性が高まっている概念です。

AIシステム、特に深層学習などのブラックボックス化しやすいモデルが、人々の生活に影響を与える意思決定（例えば、融資の可否や採用審査など）を行う場合、その公平性や妥当性が問われます。

アカウンタビリティは、AIがなぜその結果を出したのかを説明できるようにする技術的・制度的枠組みを構築することを求めます。これにより、誤った判断が下された場合に原因を特定し、是正措置を講じることが可能になります。

具体的には、AIの設計、開発、展開の各段階で、その意図、性能、潜在的な影響を明確に文書化し、関係者に対して透明性を確保することが求められます。

また、AIの監査や監視を可能にするメカニズムも不可欠です。アカウンタビリティの確立は、AIに対する社会的な信頼を築き、技術の倫理的かつ持続可能な利用を促進するための基盤となります。その究極的な目的は、AIの利用によって生じるリスクを管理し、人間の価値と権利を保護することにあると言えます。