食器洗いやスケジュール管理で機械に頼ることがあったとしても、あなたを代弁して話すものとして機械に頼ることはできるでしょうか。
教育と技術の世界では、ChatGPTのようなAIツールの可能性（および落とし穴）が話題となっていますが、ここでは、複雑な問題の解決策としてしばしば称賛される別のツール、機械翻訳（MT）について深く掘り下げてみます。Google翻訳やMicrosoft Translatorなどの機械翻訳ソフトウェアの性能が飛躍的に向上してきていることは否定できません。最先端のニューラルネットワークとアルゴリズムで構築された機械翻訳は、何百ページもの専門用語の翻訳から、海外での食事の注文まで、あらゆる目的に対応することができます。
しかし、間違えが発生したらどうなるでしょうか。機械翻訳に関する2部構成の記事のパート1として、この投稿では機械翻訳の潜在的な危険性を探ります。
エラーは致命的な誤解を引き起こす可能性がある
機械翻訳を使用すれば、空港への道順を尋ねたり、なじみのない言語で誰かに挨拶したりするなど、単純だけれど手ごわいコミュニケーションギャップを埋めることができることは容易に想像できます。
しかし、機械翻訳アルゴリズムには、口調、文脈、イディオムを解釈する機能がないため、一見ありふれたやり取りを、暴力的な言語へと急速にエスカレートさせる可能性があります。たとえば、2017年10月、Facebookにパレスチナ人男性が何の問題も無い写真に｢おはよう｣とアラビア語のテキストを添えて投稿したところ、 ヘブライ語で「やつらを攻撃せよ」、そして英語で「やつらを傷つけろ」とFacebookの自動翻訳がひどい誤訳をつけてしまったことがあります。この男性はイスラエルの警察に逮捕され尋問されました。
実際、インペリアル・カレッジ・ロンドンの研究者は、機械翻訳の重大なエラーに関する1つの研究で、MTアルゴリズムが特に有毒な言語の扱いに苦労していることを発見しました。機械翻訳はそのような言葉を誤訳する傾向があるだけでなく、元の文にはまったくなかった有害な内容や不快な意味を訳文として出力してしまうことさえあります。
リスクの高い環境での過度の依存
組織がコスト削減のために機械翻訳の使用を促進したり採用したりしようとする動きは、リスクの高い状況では特に危険です。
.たとえば、緊急治療室で指示を出すためにGoogle翻訳を使用すると、特にまれな言語では、常に重大なエラーが発生します。医療の現場では、質の良い翻訳の重要性を過小評価することがあっては決してなりません。アレルギー反応、過剰摂取、およびその他の潜在的に致命的な結果を避けるために、測定値、投与量、指示、症状などはすべて極めて正確に伝える必要があります。
政府機関も、誤訳が多大な影響を与える可能性があるセクターであっても機械翻訳を導入しています。2022年後半、アラスカ先住民コミュニティへの災害救援に際して、FEMAは機械翻訳を使って業務を行っていた会社との契約を打ち切りました 。危険な台風の後、緊急援助を待つイヌピアック語や他の言語を話す人々は、「あなたの夫は痩せっぽっちなホッキョクグマです。」などのばかげたフレーズを読む羽目になったのです。
機械翻訳は法執行機関においても厄介な法的問題の原因となります。たとえば、2017年に、地元の警察がGoogle翻訳を使用して、スペイン語を話すドライバーに彼の車両の捜索許可を願い出ました。しかし、裁判所は、Google翻訳の「十分な」翻訳は合法的な捜索には不十分であると判断し、訴訟は棄却されました。
機械学習ツールと倫理的ジレンマ
最後に、機械学習ツールの急速な発展は、それ自体がいくつかの倫理的な問題を引き起こします。研究者は、1つの大規模なAIモデルのトレーニングには、626,000ポンド相当のCO2の排出が伴うことを発見しました。これは、平均的な自動車の生涯排出量のほぼ5倍です。人間の翻訳者を雇うことは費用対効果が高くないように見えるかもしれませんが、持続可能性を優先する企業にとっては、より環境に優しい選択肢かもしれません。
同時に、このテクノロジーを強化するアルゴリズムは、多くの場合、発展途上国における低賃金の「マイクロワーカー」による目に見えない労働力に依存していることがよくあります。この労働者たちは、不快な要素を削除したり、結果をランク付けしたり、その他の退屈なタスクを行ったりしてアルゴリズムのトレーニングを行います。機械学習ツールは、実際の人間と同レベルであると私たちを納得させようとするかもしれませんが、実際には、人間による厳密な監視と入力なしには機能しないのです。
機械翻訳を使用すべきか
機械翻訳の危険性は、たとえ、機械翻訳が人間による高品質の翻訳の精度と文化的ノウハウに取って代わることはほぼないとしても、それが決して使用できないという意味にはなりません。パート2では、これらの問題のいくつかを回避する方法について検討していきます。差し当たっては、機械翻訳の編集を行えるエキスパートの翻訳者を含む、人間による高品質の翻訳サービスを保証する会社と提携することが最善の策です。