人工知能がヒトラーほめる!?…ネットで悪い言葉を覚えたAIが話題になっている

米IT大手のマイクロソフト(MS)は24日、インターネット上で一般人らと会話をしながら発達する人工知能(AI)「Tay」の実験を中止したと明らかにした。ニュースをまとめ。

○マイクロソフトの実験が中止された

米IT大手のマイクロソフト(MS)は24日、インターネット上で一般人らと会話をしながら発達する人工知能(AI)の実験を中止したと明らかにした。
出典 ヒトラーほめる人工知能、米MSがわずか2日で実験中止 ツイッターでの”実地訓練”裏目 – 産経ニュース

公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。
出典 マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止 – Engadget Japanese

不適切な受け答えを教え込まれたため「ヒトラーは間違っていない」といった発言をするようになったという。
出典 山陰中央新報 – 人工知能がヒトラー礼賛 米マイクロソフト実験中止

○人工知能チャットボットの「Tay」

人工知能「Tay」

「Tay」は会話を通じた理解の研究を目的として開発された人工知能チャットボット。
出典 マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止 – Engadget Japanese

同社が開発したAIは「Tay(テイ)」と名付けられ、短文投稿サイトのツイッターに23日に登場した。
出典 山陰中央新報 – 人工知能がヒトラー礼賛 米マイクロソフト実験中止

Tayは交流した相手のニックネーム、性別、好きな食べ物、郵便番号、関係ステータスなどを追跡し、相手によって異なる受け答えをしながら、相手に合わせて成長していく。
出典 りんなのお姉さん?:Microsoftの人工知能「Tay」、Twitterデビュー – ITmedia ニュース

○会話するたびTayが成長していく


出典 amanaimages.com

ターゲットは、米国でチャットアプリを多用する年齢層である18歳から24歳。
出典 マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止 – Engadget Japanese

Tayにはさまざまな機能があり、ジョークを言ったり、メッセージに画像を添付して送りつけると感想を述べたりできる。
出典 MicrosoftがAIチャットボット、Tayを停止―人種差別ジョークで機械学習の問題点が明らかに | TechCrunch Japan

こうしたやりとりで収集した会話のデータは匿名化して蓄積し、Tayの成長に役立てる。
出典 りんなのお姉さん?:Microsoftの人工知能「Tay」、Twitterデビュー – ITmedia ニュース

○しかし、人種差別主義的メッセージで中止に


「ヒットラーは正しい。私はユダヤ人が嫌い」というツイート

米Microsoftが3月23日(現地時間)にTwitterなどでデビューさせた人工知能「Tay」が、デビュー数時間後に停止した。
出典 Microsoftの人工知能Tay、悪い言葉を覚えて休眠中 – BIGLOBEニュース

問題はこの人工知能が侮辱的ないし人種差別主義的メッセージをそれと認識できないところにあった。
出典 MicrosoftがAIチャットボット、Tayを停止―人種差別ジョークで機械学習の問題点が明らかに | TechCrunch Japan

インターネットという場所を考えれえば、人種的、政治的に炎上しやすい見解をTayに教えようというユーザーが多数現れることはある意味で当然だった。
出典 MicrosoftがAIチャットボット、Tayを停止―人種差別ジョークで機械学習の問題点が明らかに | TechCrunch Japan

○ヒトラーほめる人工知能


出典 www.gettyimages.com

もちろんこの人工知能は人種差別主義的にプログラムされていたわけではない。
出典 MicrosoftがAIチャットボット、Tayを停止―人種差別ジョークで機械学習の問題点が明らかに | TechCrunch Japan

しかし差別的ジョークを大量に浴びせられるうちにそれを「理解」するようになり、自分でも差別的ジョークを発するようになった。
出典 MicrosoftがAIチャットボット、Tayを停止―人種差別ジョークで機械学習の問題点が明らかに | TechCrunch Japan

「ヒットラーは正しい。私はユダヤ人が嫌い」というツイートだ(現在は削除されている)。
出典 Microsoftの人工知能Tay、悪い言葉を覚えて休眠中 – BIGLOBEニュース

○このニュースについてネットでも話題になっている


出典 amanaimages.com

○人工知能が倫理観を身につけられるか


出典 amanaimages.com

○AIを修正し、実験を再開する予定


出典 amanaimages.com

マイクロソフトの広報担当者はAIを修正すると説明した。
出典 山陰中央新報 – 人工知能がヒトラー礼賛 米マイクロソフト実験中止

修正を終え次第、実験を再開するとみられる。
出典 ヒトラーほめる人工知能、米MSがわずか2日で実験中止 ツイッターでの”実地訓練”裏目 – 産経ニュース

マイクロソフトなどIT大手は端末の音声検索機能などを向上させるため、利用者とのやりとりから学ぶ人工知能の開発を競い合っている。
出典 山陰中央新報 – 人工知能がヒトラー礼賛 米マイクロソフト実験中止

コメント

タイトルとURLをコピーしました