[論文レビュー] Federated Continual Learning to Detect Accounting Anomalies in Financial Auditing

Marco Schreyer, Hamed Hemati+2 more|arXiv (Cornell University)|Oct 26, 2022

Imbalanced Data Classification Techniques被引用数 4

ひとこと要約

本稿では、動的で変化するクライアント環境における財務監査の会計異常検出のためのフェデレーテッド継続的学習（FCL）フレームワークを提案する。このフレームワークは、分散型でプライバシーを守り、適応的なモデル学習を可能にし、データ分布の変化に対応する。フェデレーテッドラーニングを用いてクライアント間でモデルを統合し、継続的ラーニングを用いて深刻な忘却を軽減する。実際の監査シナリオにおいて、データ分布のシフトを伴っても、最大99.84％のグローバルな異常検出精度を達成する。

ABSTRACT

The International Standards on Auditing require auditors to collect reasonable assurance that financial statements are free of material misstatement. At the same time, a central objective of Continuous Assurance is the real-time assessment of digital accounting journal entries. Recently, driven by the advances in artificial intelligence, Deep Learning techniques have emerged in financial auditing to examine vast quantities of accounting data. However, learning highly adaptive audit models in decentralised and dynamic settings remains challenging. It requires the study of data distribution shifts over multiple clients and time periods. In this work, we propose a Federated Continual Learning framework enabling auditors to learn audit models from decentral clients continuously. We evaluate the framework's ability to detect accounting anomalies in common scenarios of organizational activity. Our empirical results, using real-world datasets and combined federated continual learning strategies, demonstrate the learned model's ability to detect anomalies in audit settings of data distribution shifts.

研究の動機と目的

• 変化するデータ分布を伴う分散型で動的な組織環境において、適応的でプライバシー保護型の監査モデルを訓練する課題に対処すること。
• 継続的ラーニングの文脈において、過去の財務パターンの知識を保持しながら新たなパターンを学習する必要がある監査モデルが、深刻な忘却を回避すること。
• 複数の監査クライアント間で異なるデータ分布のシフトが生じる状況において、クライントのデータ分布のシフトに起因するモデル干渉を軽減すること。
• 時間的およびクライアントベースのデータ分布のシフトを伴う実世界の財務監査シナリオにおいて、FCL戦略を統合した有効性を評価すること。
• FCLが継続的アサurance環境における正確でリアルタイムの会計異常検出を可能にすることを示すこと。

提案手法

• 中央サーバーが複数の分散型監査クライアントからのモデル集約を調整するフェデレーテッドラーニングの設定を採用し、データプライバシーを維持する。
• 各クライアントで深刻な忘却を防ぐために、継続的ラーニング手法（リプレイ、LwF、EWC）を適用する。
• クライントのデータ分布のシフトに起因するモデル干渉を低減するために、フェデレーテッド最適化戦略（FedProx、Scaffold、FedYogi）を統合する。
• 再構成誤差が高いジャーナルエントリを特定するため、オートエンコーダーに基づく異常検出モデルを用いる。
• グローバルおよびローカルの異常検出タスクにおける平均適合度（AP）を用いて、複数の実世界の都市政府データセットでモデル性能を評価する。
• 実験では、5つのランダムシードを用いてFLとCL戦略を組み合わせ、結果の堅牢性とばらつきを報告する。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッド継続的ラーニングフレームワークは、データ分布のシフトを伴う分散型で動的な監査環境において、会計異常を効果的に検出できるか？
• RQ2 順次監査データから学習する際、異なる継続的ラーニング戦略（リプレイ、LwF、EWC）は、深刻な忘却をどの程度軽減できるか？
• RQ3 クライント固有のデータ分布のシフトに起因するモデル干渉は、フェデレーテッド最適化戦略（FedProx、Scaffold、FedYogi）によってどの程度低減できるか？
• RQ4 時間的およびクライントベースの分布シフトを伴う実世界の監査データセットにおいて、FLとCL戦略のどの組み合わせが最も高い異常検出精度を達成するか？
• RQ5 FCL設定下で、異なる異常クラスおよびAENモデルサイズにおいて、モデル性能はどのように変化するか？

主な発見

• FedProxにEWCを組み合わせた戦略は、フィラデルフィア市のデータセットで99.84％ ± 2.97の最高グローバル異常検出精度を達成し、FedAvg-Sequentialベースラインを顕著に上回った。
• FedProxにリプレイを組み合わせた戦略は、フィラデルフィアで74.11％ ± 9.34のグローバルAPを達成し、順次微調整やベースラインのFedAvgに比べて高い安定性を示した。
• Scaffoldに順次微調整を組み合わせた戦略は、フィラデルフィアで93.39％ ± 4.23のグローバルAPを達成し、異なるクライアント間でのモデル収束管理の有効性を示した。
• ヨーク市のデータセットでは、FedProxにEWCを組み合わせた戦略が87.67％ ± 3.11のグローバルAPを達成し、小さなAENモデルとスパースなデータでも優れた性能を示した。
• FedProxとLwFの組み合わせは、シカゴで76.18％ ± 5.81のグローバルAPを達成し、クライアント間の分布シフトを効果的に処理する柔軟性を示した。
• すべてのデータセットにおいて、FCLフレームワークはフェデレーテッド学習と単一クライアント学習の性能差を縮小した。これは、深刻な忘却とモデル干渉の両方を効果的に軽減したことを示している。