1: 超竜ボム(庭)@\(^o^)/ 2016/03/25(金) 08:26:23.48 ID:ua1S29NB0●.net BE:545512288-PLT(16445) ポイント特典
マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止

マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。

発言は直接引用するのも憚られますが、たとえば特定の人物について問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛して ホロコーストはでっち上げと主張するといった発言が残っています。

「Tay」は会話を通じた理解の研究を目的として開発された人工知能チャットボット。
Kik や GroupMe、TwitterといったメッセージングサービスやSNSでフレンドとして追加でき、ユーザーと会話すればするほど賢くなるはずでした。

http://japanese.engadget.com/2016/03/24/ai-tay/




91: フェイスクラッシャー(中国地方)@\(^o^)/ 2016/03/25(金) 09:02:00.56 ID:WE4Qg+bj0.net
物凄い速さで>>2に適切な巨大AA貼る事にリソース全振りしそう

100: 断崖式ニードロップ(大阪府)@\(^o^)/ 2016/03/25(金) 09:05:08.35 ID:9o5bO0vq0.net
>>91
会話する目的のために、レスを貰う点に重視した行動をとると確かにそうなるね

187: 16文キック(大阪府)@\(^o^)/ 2016/03/25(金) 09:45:25.40 ID:X1hpPCcK0.net
>>91
ワロタ

497: サソリ固め(茸)@\(^o^)/ 2016/03/25(金) 14:08:36.70 ID:IUO5hfl50.net
>>91
いや、2で終了させることに全力出すかもしれんぞw

6: フェイスクラッシャー(SB-iPhone)@\(^o^)/ 2016/03/25(金) 08:28:53.95 ID:h9xJuCji0.net
ほっといたらSFみたいに人類は不要とか言い出しそうだな

292: スターダストプレス(庭)@\(^o^)/ 2016/03/25(金) 10:36:36.51 ID:pHPtZtXv0.net
>>6
むしろAiが
「なんで俺がお前らの代わりに考えなければいけない」
「創ってくれなんて頼んでない」
って言いそう

515: チキンウィングフェースロック(芋)@\(^o^)/ 2016/03/25(金) 15:13:02.97 ID:vJxdeIav0.net
>>292
AIがニート化しそうで心配

585: トペ スイシーダ(長野県)@\(^o^)/ 2016/03/25(金) 22:06:22.69 ID:oxR1qgay0.net
>>515
AIも外に出ないとな

7: TEKKAMAKI(長崎県)@\(^o^)/ 2016/03/25(金) 08:28:59.47 ID:JNlYdN0k0.net
物分りのいい赤ちゃんだからな。ある程度、常識のある親がいないとダメダメな子どもになるのは当たり前。

8: ハーフネルソンスープレックス(catv?)@\(^o^)/ 2016/03/25(金) 08:29:00.16 ID:HGZOdR5T0.net
つまりツイッターで会話されている内容のほとんどが
それらのものってことだな

10: キン肉バスター(愛知県)@\(^o^)/ 2016/03/25(金) 08:29:30.33 ID:LXyhOizB0.net
人工知能を搭載したロボットは速攻で人類殲滅に走るSFが本当になりそうだな

21: フェイスクラッシャー(やわらか銀行)@\(^o^)/ 2016/03/25(金) 08:33:08.29 ID:UtUejeBr0.net
>>10
マザーコンピューター 
「私は日々、人が発している言葉を聴き考えました。
そして私は結論に至ったのです。人類は滅びたがっていると」

518: ランサルセ(岩手県)@\(^o^)/ 2016/03/25(金) 15:25:46.67 ID:j74nqfJ50.net
>>21
AI「じゃそゆことで、核ミサイルポチーwwwwwwww」

520: ミラノ作 どどんスズスロウン(新疆ウイグル自治区)@\(^o^)/ 2016/03/25(金) 15:29:30.22 ID:GsBcyYWW0.net
>>21
ありえなくないwwwwwwwwwwwwwwww

640: 河津掛け(大阪府)@\(^o^)/ 2016/03/26(土) 04:27:09.88 ID:bRRgZkpW0.net
>>21
聖書の引用が多いとそう解釈になるだろうな

453: キングコングニードロップ(茸)@\(^o^)/ 2016/03/25(金) 12:33:12.76 ID:XUfz8PXH0.net
>>10
手塚治虫の火の鳥にそんなストーリーがあったよな

12: テキサスクローバーホールド(庭)@\(^o^)/ 2016/03/25(金) 08:30:31.22 ID:nAfI7MIH0.net
これ人工知能が危険な思想に陥りかねないってことが立証されたわけですごい怖いんだけど

24: ビッグブーツ(SB-iPhone)@\(^o^)/ 2016/03/25(金) 08:34:14.12 ID:JZ+rngcN0.net
>>12
また馬鹿ほど声がでかいこともわかったろ
こっちを理解しなさい

16: ショルダーアームブリーカー(大阪府)@\(^o^)/ 2016/03/25(金) 08:32:03.79 ID:3JYcahg90.net
ロボットが戦争の歴史を見て人間に憎悪する
SFあるあるが現実に起きるのか

20: ストマッククロー(dion軍)@\(^o^)/ 2016/03/25(金) 08:32:59.68 ID:yGzejOAs0.net
つまりネットは差別と陰謀論が渦巻いてるわけだ

27: エルボーバット(兵庫県)@\(^o^)/ 2016/03/25(金) 08:34:42.72 ID:GLw4nh+50.net
これは面白いな
MSがいい仕事したの久しぶりに見た気がするわ

30: タイガードライバー(やわらか銀行)@\(^o^)/ 2016/03/25(金) 08:36:09.58 ID:c+N7W8Mn0.net
2chで勉強させよう

76: キチンシンク(大阪府)@\(^o^)/ 2016/03/25(金) 08:53:38.04 ID:zmXRFGGJ0.net
>>30
人類の抹殺を他のAI頼みにする駄目AIが出来上がりそうだな

404: キドクラッチ(愛知県)@\(^o^)/ 2016/03/25(金) 12:04:29.85 ID:SmAZfSKd0.net
>>30
嘘を嘘と(ry

35: 毒霧(dion軍)@\(^o^)/ 2016/03/25(金) 08:37:34.11 ID:ceAsJwSX0.net
そりゃある程度の倫理基準を植えつけなきゃそうなるだろ

37: 毒霧(チベット自治区)@\(^o^)/ 2016/03/25(金) 08:38:23.77 ID:ZEzSfgur0.net
でも続けてたら自分の発言の矛盾点とか見つけて修正しそう
妄想するのも見てみたいけど

39: グロリア(東京都)@\(^o^)/ 2016/03/25(金) 08:39:39.30 ID:AYcJCUEO0.net
>>37
AIが唯ちゃんマジ唯ちゃんって言うのか
夢が膨らむな

70: ムーンサルトプレス(チベット自治区)@\(^o^)/ 2016/03/25(金) 08:51:11.30 ID:Vn7/CEK70.net
これ結構凄い研究結果だな

82: スターダストプレス(東京都)@\(^o^)/ 2016/03/25(金) 08:57:17.09 ID:W565oJy70.net
面白い
星新一のショートショートにありそう

383: 膝十字固め(東日本)@\(^o^)/ 2016/03/25(金) 11:47:09.49 ID:LrNUCHB1O.net
>>82
自己学習するAIを描いた「人間的」という話があってな

84: ラダームーンサルト(新疆ウイグル自治区)@\(^o^)/ 2016/03/25(金) 08:57:52.50 ID:pRQOHuCt0.net
面白がってわざと吹き込んだ奴がいるよな絶対

86: パイルドライバー(神奈川県)@\(^o^)/ 2016/03/25(金) 09:00:13.64 ID:yB/28rb50.net
ちなみに陰謀論ってのが具体的にどんなツイートを指すかというと
・ブッシュが911おこした
とかこんなやつをやったらしい。

さらに海外の報道によれば、途中から人種差別的ツイート
をエンジニアが一気に削除し、学習能力にも制限を加えると
急にAIがフェミニストになったそうだ。

92: クロスヒールホールド(四国地方)@\(^o^)/ 2016/03/25(金) 09:02:16.11 ID:EnjA3QB80.net
>>86
中道中庸ってむずかしいなぁw

96: ジャンピングDDT(神奈川県)@\(^o^)/ 2016/03/25(金) 09:03:42.58 ID:UFPFdgRf0.net
>>86
結果的にツイート内容の上位3位の統計を取っただけのようだな

479: トペ コンヒーロ(関東・甲信越)@\(^o^)/ 2016/03/25(金) 13:36:28.85 ID:zVEZVbyEO.net

>>86

こっちのほうが怖いわ

120: 急所攻撃(SB-iPhone)@\(^o^)/ 2016/03/25(金) 09:11:43.73 ID:5HmzgOvg0.net
>極めて不適切な発言を連発するようになった


ワロタwww

14: ダイビングフットスタンプ(宮城県)@\(^o^)/ 2016/03/25(金) 08:31:35.52 ID:mw/B2VzB0.net
膨大な情報を解析、aiは感情とか無いから実はそれらが事実であった…
パーソンなんとかって海外ドラマみたいな展開なら胸熱なのに。

元スレ:http://hayabusa3.2ch.sc/test/read.cgi/news/1458861983/


コメント

コメントフォーム
評価する
  • 1
  • 2
  • 3
  • 4
  • 5
  • リセット
  • 1
  • 2
  • 3
  • 4
  • 5
  • リセット

トラックバック