リンク一覧
概要と序論
教育におけるAI活用の歴史
研究方法
文献レビュー
まとめ
結論と参考文献
5. まとめ
教育における生成 AI モデルの統合は、生産性の向上、創造性の強化、パーソナライズされた学習、タイムリーなフィードバックとサポートの提供、タスクの自動化など、幅広い潜在的なメリットをもたらします (Farrokhnia et al., 2023; Cotton et al., 2023)。 教育における生成 AI モデルの使用の利点は、表 1 にまとめられています。 ただし、教育における生成 AI モデルの採用は、そのようなテクノロジーの安全で責任ある使用を保証するために取り組む必要がある課題を引き起こします (Su & Yang、2023)。 これらの課題は、表 2 にまとめられています。
この調査の結果は、AI 強化学習の時代における学術的誠実性と公平性に関連する問題に対処するために、さらなる研究、規制政策、教育ガイダンスの必要性を強調しています (Chaudhry 他、2023 年、Yan、2023 年、Cotton 他、2023 年)。教育における生成 AI モデルの無責任な実装は、倫理的および法的結果を招きます (Chaudhry 他、2023 年)。表 3 では、教育における生成 AI モデルの採用に関する潜在的な倫理的考慮事項について説明しています。一方、表 4 では、法的影響に焦点を当てています。
世界中の政府は、生成AIモデルがもたらす倫理的および法的課題に対処するための規制を策定しています。たとえば、「欧州連合人工知能法（EU AI法）」は、信頼できるAIの開発と使用を促進すると同時に、AIに関連するリスクを軽減するために提案されました（Madiega、2021）。この法律は、AI規制に対するリスクベースのアプローチを確立することでこれを実現します。AIシステムは、「許容できないリスク、高リスク、限定的なリスク、最小限のリスク」の4つのリスクカテゴリに分類されます。EU AI法には、次の規定が含まれています。（a）リスク評価：AI法は、AIシステムに関連するリスクの評価を義務付け、潜在的な危害が特定され、軽減されることを保証します。（b）透明性：透明性要件は、AIシステムの説明可能性を高め、意思決定プロセスをより理解しやすくするために指定されており、EU AI法は、生成AIテクノロジーの採用に関して、次の3つの透明性要件を指定しました。
• AI生成の開示: 生成型 AI のコンテキストにおける透明性の必須事項は、コンテンツが人間のエージェントではなく人工知能によって作成されたことを認め、通知することです。このような開示は、コンテンツ作成プロセスの性質を明らかにし、ユーザーの理解と信頼を育むのに役立ちます。
• 違法コンテンツ生成の軽減: 生成 AI モデルの設計と実装には、法律に違反するコンテンツの生成を未然に防ぐ対策を講じる必要があります。これらの対策は倫理的および法的コンプライアンスに不可欠であり、潜在的に有害、不快、または違法なコンテンツの生成を抑制するためのコンテンツ モデレーションと安全メカニズムが含まれます。
• 研修で利用される著作権保護データの概要の公開: AI モデル開発の分野では、著作権で保護されたデータの利用は知的財産権に関する懸念を引き起こします。これらの懸念に対処し、透明性を示すために、開発者はトレーニング中に使用された著作権で保護されたデータ ソースの概要または説明を提供するよう奨励される場合があります。このステップは、モデルのトレーニング データに関する透明性を高めながら、著作権法を遵守していることを示すものです。
(c) 人間による監視: AI法は、責任ある倫理的な使用を確保するために、AIシステムにおける人間による監視の重要性を強調しています。ただし、現在の規制環境にはいくつかの制限があります (Schuett、2023)。たとえば、EU AI法は、生成AIモデルの幻覚の問題に明示的に対処していません。さらに、EU AI法は、AIシステムの影響を受ける可能性のある個人の権利ではなく、AI開発者とユーザーの義務に焦点を当てています (Enqvist、2023)。
文献の調査結果は、教育目的で生成 AI モデルを使用する意思の決定要因に関する貴重な洞察も提供します。この調査結果は、教育現場での AI モデルの採用を加速させる取り組みにおいて、モデル開発者、インストラクター、大学にとって重要な意味を持ちます。表 5 では、教育現場でこのようなテクノロジーを安全かつ責任を持って採用できるよう、さまざまな関係者に推奨する一連の推奨事項について説明します。
教育における生成AIモデルの採用には、信頼向上計画が必要です（Choudhury＆Shamszare、2023）。前述の課題（表2を参照）に対処することに加えて、生成AIへの信頼を構築するために実行できるステップはいくつかあります。（1）透明性：開発者は、これらのモデルの制限、バイアス、データソース、および潜在的なリスクについて透明性を確保する必要があります。（2）説明可能性：開発者は、モデルがどのように出力を生成するかを説明できるAI手法を開発する必要があります（Dosiloviˇc et al.、2018）。（3）人間が関与する検証：AIによって生成されたコンテンツの評価に人間の専門家が関与し、エラーを特定して修正する必要があります。これは、バイアスや幻覚などの他の問題の解決にも役立ちます。（4）説明責任：生成AIの開発者とユーザーは、自分の行動の結果に責任を負う必要があります。