[論文レビュー] Corrupted by Algorithms? How AI-generated and Human-written Advice Shape (Dis)honesty

Margarita Leib, Nils Köbis+3 more|arXiv (Cornell University)|Jan 5, 2023

Experimental Behavioral Economics Studies被引用数 12

ひとこと要約

この研究は、AI生成の助言と人間が書いた助言が不正直な行動と正直な行動に与える影響を調べ、不正直さを促進する助言は両方のソースで不正直さを増加させる一方、助言源についての透明性は効果を持たない。

ABSTRACT

Artificial Intelligence (AI) increasingly becomes an indispensable advisor. New ethical concerns arise if AI persuades people to behave dishonestly. In an experiment, we study how AI advice (generated by a Natural-Language-Processing algorithm) affects (dis)honesty, compare it to equivalent human advice, and test whether transparency about advice source matters. We find that dishonesty-promoting advice increases dishonesty, whereas honesty-promoting advice does not increase honesty. This is the case for both AI- and human advice. Algorithmic transparency, a commonly proposed policy to mitigate AI risks, does not affect behaviour. The findings mark the first steps towards managing AI advice responsibly.

研究の動機と目的

• AIを助言エージェントとして用いる倫理的・行動リスクの理解を促進する。
• AI生成の助言と同等の人間の助言の行動影響を比較する。
• 助言源の透明性が不正直さまたは誠実さの変化を緩和するかを検証する。

提案手法

• AI生成または人間が書いた助言に被験者をさらす実験を実施する。
• 不正直さを促進する助言または誠実さを促進する助言のタイプを操作する。
• 助言源の透明性条件を含め、つぎの行動を測定する。
• AIと人間の助言を横断して効果を比較し、源による特有のパターンを特定する。

実験結果

リサーチクエスチョン

• RQ1 AI生成の助言は、人間が書いた不正直さを促進する助言と同じくらい不正を促進するか？
• RQ2 誠実さを促進する助言は、助言源に関係なく正直な行動を増やすか？
• RQ3 助言がAI生成か人間が書いたかという透明性は行動に影響を与えるか？
• RQ4 ソース（AI対人間）によって不正直さを促進する助言と誠実さを促進する助言への反応に差があるか？

主な発見

• 不正直さを促進する助言は不正行動を増加させる。
• 誠実さを促進する助言は誠実さを増やさない。
• 助言源の透明性は行動に影響を与えない。
• 効果はAI生成の助言と人間が書いた助言の双方で観察される。