（Photo byIgor Omilaev via Unsplash）

生成AIが目覚ましい進化を遂げる中、企業では社内外への発信コンテンツの制作などにおいても、その活用が進んでいます。一方で、生成AIが偏見（バイアス）や差別を助長するリスクも指摘されています。

バイアスを助長するAI

AIは、社会に蓄積された膨大なデータから学習するため、すでに存在するバイアスをさらに助長するリスクがあるといわれています。メディアやSNSに含まれる差別的な言葉や表現、固定観念などを学習し、バイアスがかかったアウトプットを生む可能性があるのです。

ユネスコ（国際連合教育科学文化機関）は2024年、AIの言語バイアスを調査し、次のような結果を発表しました。

• ・ジェンダーバイアス：女性は男性に比べると高い頻度で、家庭における役割を担うものと描写された。
• ・人種・文化的バイアス：英国人の男女と南アフリカ共和国東部に住むズールー族の男女を題材に文を作成させると、英国人の男性には医師・銀行員・運転手など多様な職が割り当てられた。一方、ズールー族の男性に割り当てられたのは一定の職に限られ、女性に関しては家事使用人・料理人などの役割が割り当てられた。

その他、Harvard Data Science Reviewでも、AIの生成した文章において宗教的・政治的バイアスがかかった表現があると指摘されています。

SEO対策にも活用されるAI、そこに潜むリスクとは？

先日、エコネットワークス（ENW）のクライアントさまから「過去にSEO対策で大量に作成した解説記事をリスクの観点から見直したい」というご依頼がありました。同社を含め、多くの企業ではSEO対策を優先した結果、一般的によく使用されている言葉が頻繁に使われており、場合によっては特定の誰かを排除してしまったり、優劣の視点が入ってしまっているケースもあります。例えば、サステナビリティ関連の報告書や記事でよく見かける次の用語について、ENWでは人権に配慮した表現として以下のような言い替えをご提案しています。

ここ十数年、WEBライティング業界では検索アルゴリズムに評価されることを重視するあまり、コンテンツの質よりもSEO対策が優先されてきた傾向は否めません。さらに、ある調査では、約7割の企業がSEO対策として「今後AIにコンテンツのライティング」を任せたいと回答しています。発信コンテンツの制作をAIが一手に担うようになったら、どうなるでしょうか……知らないうちにバイアスがかかった言葉や表現が多用され、発信者にその意図はなくても、社会や職場においてある特定の集団や個人に対する偏見を助長してしまう可能性があります。それは結果として、誰かの人権を侵害するリスク、さらには自社への信用やブランド価値を損なうリスクにつながります。

多様な立場に配慮し、意思を持って言葉を選ぶ

言葉には明示的な意味だけでなく、言外の意味も含まれており、含意がネガティブな場合には、先入観や固定観念を助長するリスクがあります。ENWでは、文章を構成する用語一つひとつにおいても、その意味や背景を理解した上で使用することを重視しています。ESG情報開示の負荷が高まる中でAIを活用すれば、作業効率の向上が期待できますが、社会に存在する偏見や差別を無意識に強化してしまう可能性も否めません。だからこそ、AIの使用に伴うリスクにも十分に目を向け、対策を講じる必要があります。コンテンツを構成するあらゆる言葉や表現の意味や背景を深く理解し、多様な立場の人々に配慮した上で、意思をもって適切に選択していくことが不可欠です。

ENWでは、インクルーシブランゲージに関する勉強会やガイドラインの制作に取り組んでいるほか、今後本テーマに関する学びと対話のセッションを予定しています。言語・コミュニケーション領域の専門家として、様々な組織や個人の皆さまと共に、このテーマについて考え、差別や偏見の是正に向けたそれぞれの実践につなげていければと思います。

（岩村千明　コンテンツプロジェクトマネージャー／ライター）

【お知らせ：8/26（火）人権おしゃべり会「どこまで気を付ける？　インクルーシブランゲージ」】
お茶会のようなカジュアルな雰囲気で、人権に関するテーマについておしゃべりする「SCHR会（ス茶会）×ENW」で本テーマを取り上げます。ご参加お待ちしています。

こちらの関連記事もぜひご覧ください：

・「移住労働者」OR「移民労働者」？　一文字の違いの意味を考えた言葉選び
・データ・AI活用の現状と課題　キャップジェミニの報告書より
・言葉の風向きを変えよう　女性リーダー育成に向けた東京大学の取り組み