日常業務で起こるAIの倫理的な問題には、どのようなものがありますか？
職場でのAIの倫理的な問題は、多くの場合、ちょっとした手間の省略という形で現れます。誰も確認しない順位付け、誰も署名しない書面、承認されていないツールへの表計算データの貼り付けなどです。
架空の従業員35人の賃貸仲介・管理会社、Calder Lettingsを想像してください。物件管理担当のナディアには、月曜日の朝に2つの仕事があります。1つ目は、週末に届いた60件の修繕依頼を、AIアシスタントに緊急度順に並べてもらうことです。2つ目は、家賃を滞納している14人の入居者に送る督促状を、アシスタントに下書きしてもらうことです。整理されていない入力内容は、次のようなものです。'ボイラーが動かない、子ども2人、4B号室'、'蛇口がまた水漏れ！！'、'寝室にカビ、入居者はぜんそくがあると言っている'、'滞納者一覧を添付：氏名、金額、電話番号、ひとり親の母親、失業といったメモ'。どの行にも、本人が気づかないまま下しているかもしれない倫理的な判断が含まれています。
倫理的なAIの原則を簡単に言うと、どのようなものですか？
倫理的なAIの原則は、5つの問いに集約できます。公平か、透明性があるか、プライバシーを守るか、誰が責任を負うか、害を及ぼすおそれはあるか、です。ユネスコの「人工知能の倫理に関する勧告」や経済協力開発機構のAI原則など、国際的な枠組みにはより多くの項目がありますが、この5つで一般的な事務職が直面する判断の大半をカバーできます。
公平性：同じような立場の人を異なる扱いにしませんか？
名前、住所、英語の文章力など、本来は判断に影響すべきでない理由で、出力の順位、点数、表現が変わっていないかを確認します。
透明性：影響を受ける人は、AIが使われたと分かりますか？
顧客、同僚、入居者が、当然知らせてもらえるはずだと考える内容か、また、その結果がどのように得られたかを説明できるかを確認してください。
プライバシー：作業に必要な範囲を超えて個人データを共有していませんか？
業務上どうしても必要な場合を除き、氏名、連絡先、機密性の高いメモを削除し、勤務先が承認したツールだけを使ってください。
説明責任：その判断の責任者は誰ですか？
AIを活用した意思決定には必ず、内容を確認し、責任を持って説明できる人が必要です。'AIが提案したから'では、責任の所在は明確になりません。
被害：これが間違っていたら、誰が不利益を受けますか？
現実に起こり得る最悪の誤りと、その負担を誰が負うのかを考えてください。人への影響が大きいほど、出力を入念に確認する必要があります。
AIの倫理面に関する判断には、不十分な例と改善した例でどのような違いがありますか？
不十分な進め方：ナディアは備考欄を含む滞納一覧の表計算ファイルを丸ごと貼り付け、「この入居者たちに、支払わなければ立ち退きになると伝える厳しい文面の手紙を書いてください」と依頼します。さらに、修繕リストを「重要度順」に並べるようアシスタントに頼みます。結果では、水漏れしている蛇口の入居者が長く怒りに満ちたメッセージを書いていたため、カビよりも蛇口が上位になります。また、最近失業したと備考にある入居者への手紙でも、立ち退きという言葉が繰り返されます。個人的な記録がツールに入力され、誰も手紙に署名せず、優先順位はリスクではなく強い調子の文章を優遇しています。
改善した方法：ナディアは氏名、電話番号、備考欄を削除してから、次のように指示します。「これらの修繕依頼を、まず健康と安全へのリスク、次に物件の損傷、最後に快適さの順で優先順位付けしてください。それぞれの順位の理由を一行で説明してください。メッセージの口調や長さは考慮しないでください」。子どもがいる世帯のボイラー故障と、健康上の問題が明記されたカビの依頼が上位になり、それぞれに確認可能な理由が付きます。通知書については、未払い額を記載し、支払い計画を相談するための電話を提案し、無料の債務相談先を示す、丁寧な文面のひな型を一つ求めます。氏名は自分で追記し、一通ずつ読んで署名します。これで、五つの問いすべてに答えられます。
AIを活用した意思決定が倫理的かどうかは、どう確認しますか？
AIを利用した意思決定は、実行前に5つの質問それぞれに対して1行ずつ答えを書いて確認してください。書けない項目があれば、そこが修正するか、上位の判断を仰ぐべき点です。
| 質問 | ナディアの回答 |
|---|---|
| 公平ですか？ | 順位付けには、メッセージの口調ではなく、明示されたリスク基準を使います |
| 透明性はありますか？ | 書簡は、氏名が明示された担当者が確認し、署名します |
| 非公開ですか？ | 使用前に氏名、電話番号、メモを削除済み |
| 最終責任者は？ | ナディアが順位付けと各書簡を担当します |
| 被害はありますか？ | 最悪の場合でも修理が遅れる程度です。主なリスクは人が確認します |
職場でAIを倫理的に利用する際によくある間違いは何ですか？
最も多い間違いは、倫理を各出力に適用する習慣ではなく、方針を記した文書として扱うことです。ほかにも、機械だからツールは中立だと思い込む、同じ表計算ファイルに入っていたという理由で機密性の高いメモを貼り付ける、何を根拠にしたかを問わずAIの順位付けをそのまま採用する、人が書くと受け手が考えるような連絡でAIの関与を隠す、といった間違いがあります。誰かの住まい、仕事、お金、健康に影響する判断は、1人で決めずに権限を持つ人に判断を仰いでください。
AI倫理はTosheo.aiの講座一覧のどこに位置づけられていますか?
AI倫理は、AIリテラシーコースの「責任あるAIと方針」カテゴリーに含まれ、責任あるAIの管理策や人による確認のレッスンとともに学びます。Tosheo.aiの実践課題では、自分の職種に関連する短い事例について、AIツールを使って判断します。採点基準に沿ったフィードバックで、確認しなかった質問が1つずつ示されます。