Google Docs で AI が包括的用語置換えなどを提案する機能、使い物にならないと批判される

headless 曰く、

Google Workspace の一部エディションでは包括的用語の提案など表現の見直しを提案する機能が Google Docs で使用可能となっているが、意図的に語句を選択した場合に邪魔なだけでなく、破綻した提案が表示されることもあるようだ (Motherboard の記事、 The Register の記事)。

たとえば、「annoyed」と入力すると「angry」や「upset」を使う方が読みやすくなるなどと提案されるという。しかし、いずれも不快感を示しているのは確かだが、それぞれまったく違う感情を示すものだ。Motherboard の記事では「upset」が示す感情があまりに幅広いことも指摘している。また、マーチン・ルーサー・キング・ジュニアの演説「I Have a Dream」では「the fierce urgency of now」を「the intense urgency of now」と するよう提案され、ジョン・F・ケネディの大統領就任演説では「for all mankind」を「for all humankind」とするよう提案される一方で、差別用語を数多く含む演説で何も指摘されないこともあるそうだ。

これについて Google は、人々がどのように意思疎通をするのか自動的に学習するため数百万の一般的フレーズや文に依存する言語理解モデルを使用しており、人間の認知バイアスを反映することもあると述べたという。Google のテクノロジーは常に改善されているが、望ましくない言葉の関連付けをすべて回避できるような完全なソリューションにはまだ至っておらず、そこに至ることは難しいとの見解を示したとのことだ。