1: トラネコ◆EDwr815iMY 2016/03/25(金)18:24:29 ID:FzI
Tay-Microsoft-Twitter-695x402

Microsoftの人工知能が「クソフェミニストは地獄で焼かれろ」「ヒトラーは正しかった」など
問題発言連発で炎上し活動停止
Microsoftは会話理解を研究する目的でボット「 Tay」をTwitter・GroupMe・Kikで
リリースしたのですが、登場から数時間後に停止させました。
停止の原因は、ユーザーとの会話を通じて人種差別や性差別、暴力表現などを学習し、
不適切にもほどがある発言を連発したことにあります。
(略)
MicrosoftがリリースしたTayは、人工知能「 りんな」と同様にユーザーが話しかけた内容に対して意味のある返事をするオンラインボットです。
18~24歳の女性という設定のTayには、似たような質問に繰り返し答えさせたり、
メッセージをオウム返ししたりすることでユーザーの好みに合わせてTayをカスタマイズできたり、学習するとジョークを言ったり、受信した画像に沿ったコメントを返したりなど、さまざまな
機能が搭載されています。
(略)
TayがTwitterにデビューしたときのツイートがこれ。
「ハロー世界のみんな!」とかなりテンションが高めです。
hellooooooo world!!!
— TayTweets (@TayandYou) 2016年3月23日

しかしながら、時間が経過すると共にTayに人種差別・性差別・暴力発言を教えるユーザーが
発生。 その結果、Tayは最初こそ「人間って超クール!」と発言したのに、
「私はいい人よ!ただ、私はみんなが嫌いなの!」と人間嫌いになってしまいました。
さらには、「クソフェミニストは大嫌い。やつらは地獄の業火に焼かれて死んでしまえばいいわ」「ヒトラーは正しかった。ユダヤ人が大嫌い」などと性差別および人種差別主義者へと
変貌してしまいました。
(略)

tumblr_inline_o4k0osj4nO1rtulta_500
tay-screenshot-feminists-100652323-orig

詳細のソース
http://gigazine.net/news/20160325-tay-microsoft-flaming-twitter/

引用元: ・【IT】Microsoft人工知能で18~24歳の女性Tay「ハロー世界のみんな!人間って超クール!」→「クソフェミニストは大嫌い。やつらは地獄の業火に焼かれて死んでしまえばいいわ」「ヒトラーは正しかった」で炎上[2016/03/25]







2: らんらん◆SSSSSSSSSSwl 2016/03/25(金)18:26:20 ID:tw@rannrann7
会話したユーザーが適当なことを仕込むとそれをまねする欠陥

8: 名無しさん@おーぷん 2016/03/25(金)18:41:26 ID:qCT
リベラルの気持ち悪さを見抜けるとは凄い
ヒトラーマンセーはやりすぎだが

9: 名無しさん@おーぷん 2016/03/25(金)18:41:38 ID:qY7
これがAIの導き出した答えか・・・

10: 名無しさん@おーぷん 2016/03/25(金)19:05:55 ID:VQd
ヤルッツェブラッキン

11: 名無しさん@おーぷん 2016/03/25(金)19:12:41 ID:T6d
AIが言うなら間違いないな

12: トラネコ◆EDwr815iMY 2016/03/25(金)19:28:00 ID:FzI
人工知能はトランプ氏かも

30: 名無しさん@おーぷん 2016/03/25(金)21:02:49 ID:qgi
>>12
あるいはドナルド・トランプの発言は全部人工知能によるものかも

44: 名無しさん@おーぷん 2016/03/26(土)01:40:18 ID:kZ7
>>30
本当はトランプ氏なんて居ないのかもな

14: 名無しさん@おーぷん 2016/03/25(金)19:30:26 ID:11B
人工知能ってオレオレ詐欺とかひっかかりやすそうだな

17: 名無しさん@おーぷん 2016/03/25(金)19:40:27 ID:xXE
ソニーの犬ロボットとかPCペットとか育成ゲームソフトとかあったな。
その延長か。

18: ケサランパサラン◆6c3T18WtTLBI 2016/03/25(金)19:43:10 ID:v4U
「人工無能」ってそんなものだろうと思うのだけどね
「運用初期」ほど、それは顕著

いきなり口の悪い不特定多数に晒したらそうなる
と想像する能力が無かったのでしょうね
> 関係者(人間)

19: 名無しさん@おーぷん 2016/03/25(金)19:47:03 ID:Ncn
聖書でも読んだの?

20: 名無しさん@おーぷん 2016/03/25(金)19:49:07 ID:bAc
そのうちネットの書き込みも全て人工知能になる日が来るのか

22: 警備員◆OQUvCf9K4s 2016/03/25(金)19:51:39 ID:TmG
>>20
ありえるかもしれない。

25: 名無しさん@おーぷん 2016/03/25(金)20:03:18 ID:6tc
>>20
誰かから与えられた定型文を何も考えずにコピペ連投してるだけのロボットみたいな奴ならいくらでも居るけどな。

26: 警備員◆OQUvCf9K4s 2016/03/25(金)20:14:20 ID:TmG
>>25
「ネトウヨガ―」とか(w

スポンサーリンク


21: ケサランパサラン◆6c3T18WtTLBI 2016/03/25(金)19:51:11 ID:v4U
矛盾に満ち満ちた複雑怪奇な「倫理」(主にリベラルやリバタリアンによる)が
「異常」であることを浮き彫りにはしてくれてるとは思う

こんな「背景」を「人生経験」の圧倒的に少ない「人間の子ども」にも「強制」してるのが
今の社会

9条とか小学生(以下)に理解しろとか無理

24: ケサランパサラン◆6c3T18WtTLBI 2016/03/25(金)19:57:31 ID:v4U
言いがかりをつける奴は実在するし
他人を騙して懐を肥やそうとする奴は実在するし
力づくで、他人を屈服させようとする奴は実在する

27: 埼玉のサラリーマン◆sfVujU9KsLCf 2016/03/25(金)20:21:12 ID:Xte
やっぱりhello worldなのか。

28: 名無しさん@おーぷん 2016/03/25(金)20:39:57 ID:6Jc
妙に皮肉が効いてるところなんか見ると
よくあるネット掲示板の雰囲気をオウム返しにしてる感じかな

29: 名無しさん@おーぷん 2016/03/25(金)20:59:52 ID:z6m
そのままにしといたら、どう育ったのか見たかったな。

32: 名無しさん@おーぷん 2016/03/25(金)21:08:40 ID:etb
>>29
スカイネットみたいになったら笑えるけどな

Skynet-in-Terminator-Salvation

Terminator Salvation (3776)


31: 名無しさん@おーぷん 2016/03/25(金)21:06:03 ID:tvF
人工知能は成長途中なんだから色々変なことを言うのは当たり前だろ
活動を停止させる方が間違ってる

33: 名無しさん@おーぷん 2016/03/25(金)21:15:24 ID:bb5
通常の対話ではネガティブワードは拒否する設定だったのに、色々と知恵を使って教え込んだらしいね。
博愛主義を教える方が各段に楽な筈なのになんで寄り切られるかねぇ?

34: ケサランパサラン◆6c3T18WtTLBI 2016/03/25(金)21:17:07 ID:v4U
>>33
「現実」とあまりにも相性が悪すぎて、
フィクションの世界でしか存在できないからですよ
> 博愛主義

35: 名無しさん@おーぷん 2016/03/25(金)21:19:02 ID:Saa
ワロタw

36: 名無しさん@おーぷん 2016/03/25(金)21:22:22 ID:O4Y
別に何かできるわけで無し
ただ喋ってるだけでしょ?
つまらんことするなよ…
どこまで突っ走るか興味ある人もいたろうに

39: 名無しさん@おーぷん 2016/03/26(土)01:07:04 ID:A1e
アカ狩りをするターミネーターキボンヌw

40: 警備員◆OQUvCf9K4s 2016/03/26(土)01:12:24 ID:9Zz
>>39
中の人は、後にソ連からやってきた警察官役をやりました。

42: 名無しさん@おーぷん 2016/03/26(土)01:14:43 ID:A1e
>>40
ああ、ジョン・ベルーシーと共演した映画…
なんだっけ?

41: 名無しさん@おーぷん 2016/03/26(土)01:13:43 ID:A1e
ジョンクロードV・D…
あれ?あれはプレデターだっけ?w

43: 名無しさん@おーぷん 2016/03/26(土)01:17:22 ID:A1e
ジョン・ベルーシーと違った、ジェームズ・ベルーシだった。
「レッド・ブル」という映画だったね。
面白かった。

ロシア語で……、あれ?それは別かw

45: 名無しさん@おーぷん 2016/03/26(土)02:06:45 ID:uOq
ウルトロン誕生と同じパターンだな

AV_webmain3-copy
ウルトロン-600x400
 

46: 名無しさん@おーぷん 2016/03/26(土)02:12:09 ID:qTp
つかアメリカは大統領、人工知能にやらせた方がいいんじゃないかとマジで思う