なぜ人事採用AIは「ずる」を助長してしまうのか？ 米国の検証で判明

　AIには何ができるのか。また、その性能に限界はあるのか。『AI過大評価社会』（草思社）から一部を抜粋。AIを巡る誇張や思い込みを取り除き、その真価を見極める。
　米国で普及が進む人事採用AIを巡って、応募者たちは評価を上げるためのさまざまな攻略法を編み出している。AIは本当に正しく人材を見抜けるのか。その驚きの検証結果とは？
（中略）
応募者の外見にちょっとした変化を加え、例えばスカーフや眼鏡を身につけるだけで、AIツールが出力するスコアは劇的に変化したのだ。背景に本棚や絵画を追加するとスコアは上昇し、動画の照明を（内容は一切変えずに）暗くするとスコアは下落した。別の研究では、研究チームは人事採用で用いられる性格診断に注目したのだが、応募者の履歴書のフォーマットをPDFからプレーンテキストに変えるだけで、性格スコアが変化した。
　動画の背景や履歴書のフォーマットを変えただけで、その人が仕事でどれだけ成果をあげられるかが変わるわけがない。それなのに、なぜ応募者のスコアは変化したのだろう？　ひとつの可能性として、モデルの訓練に使われたデータのなかでは、本棚を背にして動画を撮った人が、背景に何もなかった人よりも、仕事で高いパフォーマンスを示したのかもしれない。
（Japan Innovation Review　7月14日）

　AIが人間を評価する行為には、奇妙な倒錯が潜んでいる。眼鏡をかけただけで、あるいは本棚を背にしただけでスコアが跳ね上がるという実験結果は、滑稽であると同時に、この技術の本質を暴いている。AIは因果を見ているのではない。相関という名の影を、まるで実体であるかのように追いかけている。
本棚を背景に撮影した応募者が過去に高評価を得ていたとすれば、モデルはそこに「教養」や「準備の周到さ」という虚構の物語を読み込む。しかし本棚と職務遂行能力の間に、いかなる論理的な糸も存在しない。履歴書をPDFからプレーンテキストに変えただけで性格スコアが変わるという事実も同様だ。人格という深い井戸を、フォントの違いごときが揺るがすはずがない。揺れているのは応募者ではなく、AIという鏡の歪みなのである。
数値化はしばしば客観性の証と錯覚される。だがスコアとは、訓練データという過去の偏見を圧縮した標本にすぎない。照明を暗くしただけで評価が下がるという事例は、AIが「見た目の印象」という表層を、深層の能力と取り違え続けていることの証左だろう。
技術への過信は、しばしば思考の怠惰から生まれる。AIに人を選んでもらう行為は、判断の責任を機械に譲り渡すことと同義ではないか。真に問われるべきは、AIの精度ではなく、それを妄信する人の眼の曇りである。