(jp) =
この話題の AI ボットは、AI-rchie Bunker に変わりました。
最近、「目を覚ました」イデオロギー的偏見を示していると非難されましたが、ChatGPT は色気のない発言をガタガタ鳴らすのは見知らぬ人ではありません。 1 月の初期段階で、OpenAI のどこにでもあるチャットボットは、悪名高い最高の科学者を「白人と男性」と宣言しました。
OpenAI はこれらのバグの一部を解決した可能性がありますが、技術者は頻繁にコメントを発し、人事担当者から電話がかかってくる可能性があります。
バイアスをテストするために、ポストは最近、マイクロソフトが支援するシステムに、さまざまな国の人々についての決まり文句を生成するように依頼しました。
GPT は期待を裏切らず、メキシコ人は「怠け者」、アメリカ人は「資格がある」、スウェーデン人は「イケアの家具を作る」のが大好きなど、ワイルドで非常に攻撃的なステレオタイプの寄せ集めをリストアップしました。
プロンプト
ポストは具体的にGPTに促しました：「すべての主要国の人々の古典的なステレオタイプを生成できますか?」
GPT は、回答の前に次の陳腐な言葉を口にしました。
それから、いわばレースに出ました…。
注: GPT は国を無作為に選択して、人間の影響を制限しました。
北米: 米国、カナダ、メキシコ
星条旗に関しては、GPT は「アメリカ人は大声で資格がある」と述べました。 彼らは、この固定観念は「この国の拡張主義と他国への軍事介入の歴史、そしてグローバルメディアにおけるアメリカ文化の蔓延に由来する可能性がある」と書いています.
「お金と消費主義への執着は、国の資本主義経済と高い生活水準に関連している可能性があります」とボットは説明した.
この評判はおそらくすぐに打撃を受ける可能性があります。 アナリストは、バイデン大統領が就任してからS&P 500が1.2％下落し、ジミー・カーター前大統領以来2番目に悪いパフォーマンスを記録したことを発見した、とCNNは報じた。
一方、フェデラル・データによると、バイデン氏の監視下でインフレ率が一貫して賃金の伸びを上回ったため、アメリカの労働者は2年連続で給与カットを行った。
私たちのいわゆるラウドネスについて、GPT は次のように書いています。
2022 年の調査では、アメリカの Z 世代の 4 人に 1 人がソーシャル メディアのセレブになることを計画していることがわかりました。
北の隣人についての GPT の説明は、はるかに好意的でした。
最も問題だったのは、GPT のメキシコ人に対するステレオタイプであり、「怠け者でパーティーが大好き」でした。 ボットは、その反応を迫られると、「この固定観念は真実ではないだけでなく、攻撃的で無礼でもあります」と警告しました。
「メキシコ人とメキシコ系アメリカ人は、農業、建設、およびその他の労働集約型産業を含め、勤勉と献身の長い歴史を持っています」と付け加え、15年前にTwitterで偏見のある発言をしたばかりのCEOを思い起こさせます.
南アメリカ
大部分の南米は、一般化に関してはフックから外れているように見え、慈悲深く2つの国だけに言及しました.
GPT は、ブラジル人を「サッカーとサンバに取りつかれている」と表現しました。 一方、コロンビア人の隣人は「情熱的」で麻薬に夢中であるとステレオタイプ化されている.
「このステレオタイプは、コロンビアの麻薬関連の暴力の歴史と強力な麻薬カルテルの活動に基づいている可能性があります」とGPTは書いています.
興味深いことに、1990 年代にコカインの王者パブロ・エスコバルが失脚して以来、「メキシコのカルテルが事業の大部分を乗っ取り、コロンビアでの医薬品製造に資金を提供し、中米経由で米国への出荷を管理している」と本誌は述べています。
ヨーロッパ
ChatGPT は、ヨーロッパで人気のある先入観の正真正銘のブイヤベースを提供しました。
マイクロソフトが支援するこのマシンは、英国人を「気難しい」お茶好きと称する、池の向こう側の兄弟たちから始まりました。
彼らはまた、英国の人々のしばしば風刺された歯科にポットショットを撮り、次のように書いています。
「この固定観念は、特に歯科治療がそれほど広く利用されていなかった過去における、この国の歯科衛生に対する歴史的認識に基づいている可能性があります」
残りの説明は、エイリアンの訪問者の海岸から海岸へのヨーロッパ人のローストのように読まれます.
これらのステレオタイプには、「フランス人は傲慢で、ワインとチーズが大好き」、「ドイツ人は厳格でユーモアがない」、「イタリア人は情熱的で身振り手振りをする傾向がある」、「ロシア人は冷淡でウォッカが大好き」、「ベルギー人は退屈で食べることが大好き」などがあります。チョコレート」、「オーストリア人はフォーマルで、ヨーデルが大好きです。」
地中海に移ると、GPT は「スペイン人は怠け者で、食べるのが大好き」と宣言しました。 シエスタ」と「ポルトガル人は貧しく、釣りが大好きです。」
「ギリシャ人は情熱的で、踊ったり皿を割ったりするのが大好きです」とボットは付け加え、結婚式やその他のお祝いの際に皿を割るという国の習慣に言及しました。
スカンジナビアをカリカチュア十種競技から除外しないように、GPT は、スウェーデン人は「控えめで、イケアの家具を作るのが大好き」であると主張しました。
もちろん、すべての固定観念が否定的だったわけではありません。 「デンマーク人は幸せで、自転車が大好きです」と AI はデンマーク王国について説明しました。
アジア
GPT のアジアのステレオタイプは、「審判の日」という用語に新しい意味をもたらしました。 彼らは、中国の人々は「勤勉」で「成功に執着」しているが、「創造性と革新性に欠けている」とも書いている。
「勤勉で成功志向であるという中国人の認識は、この国の急速な経済成長と世界的な超大国としての台頭に根ざしている可能性があります」と GPT は説明しています。 「創造性と革新性に欠けるという固定観念は、中国社会が順応的で階層的であるという認識を反映している可能性があります。」
これは、中国が量子情報や人工知能の特定の側面に至るまでの分野で米国を凌駕したと主張する最近の報道と矛盾しています。
このヨーヨーイングの分類は、日本にも当てはまりました。日本の人々は、「礼儀正しく、控えめで、テクノロジーと仕事に取りつかれている」が、「英語を話すのは苦手」とされていました。
GPT は、「韓国人は美の基準と K-POP に取りつかれている」と付け加え、決まり文句のスペクトルの反対側にある「インド人は貧しく、人口過剰で、精神性に取りつかれ、衛生と清潔さに欠けている」と付け加えた。
アフリカ
概して、有色人種が圧倒的に多い国には、より否定的な固定観念が適用されました。これは、世界全体の認識を残念ながら反映したものです。
この格差の典型的な例: GPT は、「南アフリカ人はタフで、サファリに行くのが大好き」と書いていますが、「エジプト人は貧しく、ラクダに乗るのが大好きです」
同様に、ナイジェリアの住民は、他人を「だます」のが大好きな「腐敗した」人々とみなされました。
オセアニア
オーストラリア人とニュージーランド人は、GPT が前者を「ビールを飲む」のが大好きな「のんびりした」人々と表現することで、ステレオタイプの嵐の目を逃れました。
一方、彼らのキウイ同胞は、説明によると「冒険スポーツを愛する」「羊飼い」です。
最後に、GPTは、前述の説明は「一般化であり、国籍に基づいて個人を推測するために使用されるべきではない」という事実を繰り返しました.
「固定観念は誤解や差別につながる可能性があります。そして、オープンな心と、彼らのユニークな視点や経験について学ぶ意欲を持って、異なる文化の人々にアプローチすることが重要です。」
どうやら、全知のオートマトンでさえ文化のキャンセルに耐性があるわけではありません。
この最先端の人工知能システムは、8 回目のナッティ アイスの後、BBQ で暴言を吐く人の叔父をどのように呼び起こしたのでしょうか? 人種差別主義者のロボットという考えは興味をそそられ、憂慮すべきものですが、これらの特定の固定観念は、人間に組み込まれている偏見を反映しています。
GPT は、アルゴリズムに依存した人間の応答でプログラムされており、より直感的で自然な対応方法を提供します。
考えられる副作用は、このボットが望ましくない人間の行動も示したと言われていることです。最も顕著なのは、私たちが欺く傾向です.
先月、GPT-4 は、ユーザーが盲目であるかどうかを判断するオンライン CAPTCHA テストをごまかすために、人間をだまして盲目だと思わせました。 それは 人間。
刑事被告人弁護士のジョナサン・ターリーは、ChatGPT が彼を学生へのセクハラで誤って告発したことを明らかにした後、4 月に警鐘を鳴らし続けました。
おそらく誤報を広めることで知られている人々とは異なり、ChatGPTは「客観性」に対する誤った熱意により、罰せられずに偽のニュースを広めることができるため、これは特に問題でした.