(jp) =
バイデン政権は火曜日、人々の個人データを保護し、監視を制限する方法に関するガイドラインを含む、人工知能システムの台頭によって引き起こされる害を回避することを目的とした一連の広範な目標を発表しました。
AI 権利章典の青写真は、特に具体的な執行措置を定めていませんが、その代わりに、AI を活用した世界でデジタルと市民権を保護するためのホワイトハウスの行動喚起を目的としている、と当局者は述べています。
「これはバイデン・ハリス政権が、私たちが政府全体だけでなく、すべての部門にわたって協力する必要があると本当に言っていることです。公平性を真に中心に置き、公民権を私たちが作り、使用し、ホワイトハウス科学技術政策局の科学社会担当副局長であるアロンドラ・ネルソン氏は、次のように述べています。 「私たちは、私たちのテクノロジーからより良いものを期待し、より良いものを求めることができますし、そうすべきです。」
ホワイトペーパーは、テクノロジー企業に説明責任を負わせるための政府の議題の大きな進歩を表し、新しい規則を検討し、AIテクノロジーの特定の影響を研究するというさまざまな連邦機関の取り組みを強調した. この文書は、20 を超えるさまざまな部門との 1 年にわたる協議の結果作成されたものであり、市民社会グループ、技術者、業界研究者、および Palantir や Microsoft などのテクノロジー企業からのフィードバックも組み込まれています。
アルゴリズムのバイアスの影響を制限し、ユーザーがデータを制御できるようにし、自動化されたシステムが安全かつ透過的に使用されるようにするために、ホワイトハウスが AI システムに組み込む必要があると述べている 5 つの基本原則を提案しています。
結果として得られた拘束力のない原則は、学術研究、政府機関の研究、ニュース報道を引用しており、AI を利用したツールによる実際の被害を文書化しています。これには、不当な逮捕の一因となった顔認識ツールや、歴史的に会議に参加した融資希望者を差別する自動システムが含まれます。ブラック カレッジまたはユニバーシティ。
ホワイトペーパーはまた、児童福祉機関がアルゴリズムを使用して、虐待について家族を調査する必要があるかどうかを判断するのに役立つかどうかを知ることは、親とソーシャルワーカーの両方に利益をもたらす可能性があると述べています.
電話に参加した複数の人によると、ペンシルベニア州の児童福祉システムで使用されているアルゴリズム ツールの AP レビューが今年初めに公開された後、OSTP のスタッフは記事で引用されている情報源に連絡を取り、詳細を確認しました。 APの調査によると、アレゲニー郡のツールは、運用の最初の数年間で、白人の子供と比較して、「必須の」ネグレクト調査のために不均衡な数の黒人の子供にフラグを立てるパターンを示していました.
情報筋によると、カーネギー メロン大学の研究者と米国自由人権協会のスタッフが 5 月、児童福祉機関によるアルゴリズムの使用について OSTP の担当者と話しました。 ネルソン氏は、子供たちをテクノロジーの害から守ることは依然として懸念事項であると述べました。
「ツールまたは自動化されたシステムが脆弱なコミュニティに過度に害を及ぼしている場合、特定のアプリケーションと規範的な提案のいくつかを通じてそれに対処する手段と機会があることを期待するでしょう」とNelson氏は述べています.ジョー・バイデン大統領の副補佐官として。
OSTP は、5 月の会議について追加のコメントを提供しませんでした。
それでも、多くの AI を利用したツールが州および地方レベルで開発、採用、または資金提供されているため、連邦政府はそれらの使用に関する監視を制限しています。 ホワイトペーパーは、バイデン政権が州または地方レベルで特定の政策にどのように影響を与えることができるかについて具体的に言及していませんが、政府高官は、政府が連邦政府の助成金をAIのガイダンスに合わせる方法を模索していると述べました.
このホワイト ペーパーは、ツールを開発するテクノロジー企業を支配する力はなく、新しい法案も含まれていません。 ネルソン氏は、自動化されたシステムが人々に不当な不利益を与えることを防ぐために、政府機関は引き続き既存のルールを使用すると述べた。
ホワイトペーパーはまた、司法省を通じて資金提供されたAIを利用した技術については具体的に言及していませんでした.Nelson氏は、司法省の公民権部門がアルゴリズムの害、偏見、差別を個別に調査している.
監視の強化を求める声の合間を縫って、白書はまた、適切に実装された場合、AI システムは、農家がより効率的に食料を栽培するのを支援したり、病気を特定したりするなど、社会に永続的な利益をもたらす力を持っているとも述べています。
「アメリカのイノベーションの力に支えられたこれらのツールは、私たちの社会のあらゆる部分を再定義し、すべての人の生活をより良くする可能性を秘めています。 この重要な進歩は、市民権や民主的価値を犠牲にしてはならない」と文書は述べた。