「チャットボット導入でヘルプラインの職員を全員解雇」はなぜ裏目に出たのか？

　2022年11月のChatGPTのリリースを機に、世界中で急速に発展を続けている生成AI技術。その一方で、「AIで世界が滅びる」「AIが全てを解決する」といった極端な主張や喧伝も多く見られる。AIには何ができるのか。また、その性能に限界はあるのか。『AI過大評価社会』（草思社）から一部を抜粋。AIを巡る誇張や思い込みを取り除き、その真価を見極める。
「AIが大量失業を引き起こす」との言説は、果たして真実なのだろうか。自動化がもたらすビジネスの未来像を予測する。
（中略）
　AI導入を進めている業界でも、各企業は権力や意思決定の権限の大小が異なる多くの社員で構成されている。したがって、職位の高い社員がいきなりAIに置き換えられるとは考えにくい。
　この見解を裏づけるような騒動が、全米摂食障害協会（NEDA）で起こった。NEDAは摂食障害にまつわる悩みを抱える人々のためのヘルプラインを運営している。2023年、ヘルプラインの職員たちは投票により労働組合の結成を決めた。4日後、NEDAはヘルプラインの全職員を解雇し、チャットボットに移行すると発表した。この変更は裏目に出た。ボットがユーザーに、1日に必要なエネルギーを500～1000キロカロリーも下回る食生活を勧めるといった、危険なアドバイスをしていたことが、すぐさま暴露されたのだ※41。極端なカロリー制限は、摂食障害と強く相関することが知られている。
NEDAはわずか数日でチャットボットの運用を中止した。
（Japan Innovation Review　7月23日）

生成AIは万能の神託ではない。ChatGPT登場から数年、世界を滅ぼすという預言者と、すべてを解決するという伝道師とが入り乱れ、AIは信仰の対象へと祭り上げられた。だがNEDAの逸話は、その化けの皮を剥ぐ好例である。
AI導入を急いだ経営陣が真っ先に手放したのは、傷つきやすい利用者へ向き合う仕事だった。効率という言葉の裏には、常に誰かの痛みが隠されている。労働組合結成という連帯への回答が、わずか4日後の解雇とチャットボット導入であったという事実は、経営が効率化の名のもとに何を切り捨てようとしているかを露わにする。
摂食障害という繊細な心の傷に、機械は日に500から1000キロカロリーも下回る食事を勧めた。数字は嘘をつかないというが、数字を扱う者の良心が欠ければ、数字は凶器と化す。AIに置き換えられるのは、権力を持たない現場の声である。職位の高い者が真っ先に淘汰されることはない。
技術革新はつねに弱い立場から順に合理化の刃を向けてくるものだ。大量失業という漠然とした恐怖の陰で、静かに進行しているのは、声なき者たちの労働の解体である。NEDAが数日で撤退したのは良心の表れというより、暴露という外圧の結果にすぎない。
喧伝された未来と、現実に起きた出来事との落差にこそ、この技術の正体が透けて見える。便利さに酔いながら、誰が犠牲になっているかを見ようとしない怠惰が、次の悲劇を招く土壌となる。この構図を見抜けない限り、これから先も同じ過ちが何度でも繰り返されることになるだろう。