1: 田杉山脈 ★ 2018/11/13(火) 17:25:59.36 _USER
ecadf2114f79eeb26de27277a9461f68_content
ソニーは11月13日、ディープラーニングの学習速度で世界最高速(同社調べ)を達成したと発表した。ディープラーニングの認識精度向上のため、学習データのサイズやモデルのパラメータ数が増え、一度の学習に数週間〜数カ月かかるケースも出ている中で、学習時間を短縮できる可能性を示したとしている。

 AI(人工知能)開発では、さまざまな試行錯誤をする必要があり、学習時間を短縮させることが重要になる。その手段として、複数のGPUを活用した分散学習が注目を集めていたが、GPU数が増えると「一度のデータ処理個数(バッチサイズ)が増えて学習が進まない」「GPU間のデータ送受信の処理遅延により学習速度が低下する」という課題があった。

 今回ソニーは、ディープラーニングのプログラムを生成する際のフレームワーク「コアライブラリ:Neural Network Libraries」と、産業技術総合研究所が構築・運用しているクラウド型計算システム「AI橋渡しクラウド」(ABCI)を活用した。

 学習の進行状況に応じて最適なバッチサイズや利用GPU数を調整する技術を用いることで、ABCIのような大規模なGPU環境でも学習が可能になったという。ABCIのシステム構成に適したデータ同期技術も開発し、GPU間の通信を高速化したとしている。

 これらの技術をNeural Network Librariesに実装し、ABCIの計算リソースを使って学習を行った。ソニーによれば、ディープラーニングの分散学習速度を計る際、一般的にベンチマークとして活用されている画像認識用データセット「ImageNet/ResNet-50」を用いたところ、約3.7分(最大2176基のGPU利用時)で学習が完了し、現状の世界最高速を達成したという(11月13日時点)。

 同社は「より短い試行錯誤時間でディープラーニングを用いた技術開発ができるようになることを示した」としている。研究成果はWeb上で公開している。
http://www.itmedia.co.jp/news/articles/1811/13/news108.html
引用元: http://egg.5ch.net/test/read.cgi/bizplus/1542097559/


6: 名刺は切らしておりまして 2018/11/13(火) 17:49:18.65
>>1
これがNURO光ってやつか(・я・`)

2: 名刺は切らしておりまして 2018/11/13(火) 17:28:04.59
それを人間に応用できればマトリックス

3: 名刺は切らしておりまして 2018/11/13(火) 17:40:53.62
既存のGPUシステムの並列処理の規模を大きくしただけじゃない?
ハードウェアの規模を大きくしただけで、ディープラーニングの
新しいアルゴリズムを開発したわけではないんじゃない?ソニーの
発表っていつもどこか本質的でないよな。

4: 名刺は切らしておりまして 2018/11/13(火) 17:45:51.48
>>3
ただ大きくしても頭打ちがある

7: 名刺は切らしておりまして 2018/11/13(火) 17:51:45.42
>>3
GPUの並列数が増えたときの効率悪化を緩和する技術を開発という発表の対し、
GPU増やしただけじゃないの?という文盲レベルの指摘をする奴が本質を語る。

48: 名刺は切らしておりまして 2018/11/13(火) 23:11:42.34
>>3
読まずに推測でいいとこつくのは頭のいい人がやることで、
平均を大きく下回る人がやるとホラ、こんなに悲惨なことに。

5: 名刺は切らしておりまして 2018/11/13(火) 17:47:24.60
基準不明の競争

9: 名刺は切らしておりまして 2018/11/13(火) 17:56:36.11
すごいとは思うけどまあブランドイメージのための発表だな

11: 名刺は切らしておりまして 2018/11/13(火) 18:06:31.75
なんでResNetが152じゃないんだろう

12: 名刺は切らしておりまして 2018/11/13(火) 18:36:01.99
そんな凄そうなハードを会社が用意してくれないよ。

14: 名刺は切らしておりまして 2018/11/13(火) 18:54:46.58
分かりやすい実績があるといーかな
googleの囲碁ソフトに勝つとかさ

16: 名刺は切らしておりまして 2018/11/13(火) 19:15:32.61
自己申告ならなんとでも。コンテストを開催しないと。

19: 名刺は切らしておりまして 2018/11/13(火) 19:25:05.73
>>16
産総研のページ見たらわかるけど、もともと産総研コンテストだよ
想定以上の成果が出たんで大々的に発表してる

17: 名刺は切らしておりまして 2018/11/13(火) 19:18:00.39
日本では学習速度より喰わせるデーター不足の方が問題やな…

20: 名刺は切らしておりまして 2018/11/13(火) 19:29:28.51
ああ、どうせ、オープンソースじゃないんでしょ
自慢話はどーでもよいですから

21: 名刺は切らしておりまして 2018/11/13(火) 19:35:07.97
Neural Network Librariesはオープンソースだから
実装されれば使えるんじゃねーの。

24: 名刺は切らしておりまして 2018/11/13(火) 19:52:23.65
>>21
オープンソースだから一般でも使えると思うけど、
GPUを2176基も揃えられんわw

40: 名刺は切らしておりまして 2018/11/13(火) 21:51:06.23
>>24
AMDのnaviは2560基という噂ですよ

43: 名刺は切らしておりまして 2018/11/13(火) 22:09:35.95
>>40
まじかよ
NAVI 12 すげえな

22: 名刺は切らしておりまして 2018/11/13(火) 19:46:49.09
何が書いてあるのか
かなりの部分がわからん
駄目だ 俺はきっと生き残れないw

23: 名刺は切らしておりまして 2018/11/13(火) 19:50:49.21
>>22
もう、おっさんの時代は終わったよ (´・ω・`)

47: 名刺は切らしておりまして 2018/11/13(火) 22:31:41.73
>>22
心配するな
世の中の大多数のIT土方も同じようなものだ
仮に本当に理解してるやつがIT土方してるなら即転職しろ
今や引く手あまたの分野だ

25: 名刺は切らしておりまして 2018/11/13(火) 19:54:32.83
学校で睡眠中に学習できたら嬉しい

27: 名刺は切らしておりまして 2018/11/13(火) 20:25:15.44
AI「その攻撃はもう見た」

29: 名刺は切らしておりまして 2018/11/13(火) 20:35:06.62
日本人には改善だけはそれなりの能力があることは認めるww

32: 名刺は切らしておりまして 2018/11/13(火) 20:58:10.93
学習させるデータが無い

33: 名刺は切らしておりまして 2018/11/13(火) 21:04:05.82
> 同社調べ
ただしソースはソニー
昔のまんまじゃん

35: 名刺は切らしておりまして 2018/11/13(火) 21:23:44.19
学習が目的化してるのか?

53: 名刺は切らしておりまして 2018/11/14(水) 00:52:19.51
>>35
科学

36: 名刺は切らしておりまして 2018/11/13(火) 21:29:47.25
日本企業ではソニーには期待できるな

37: 名刺は切らしておりまして 2018/11/13(火) 21:32:56.30
テレビの4kや8kとかと一緒だな
スペック上げたは良いけど使い道がわからんというね…
まぁ凄いことなんだけどね

39: 名刺は切らしておりまして 2018/11/13(火) 21:38:53.11
楽天はデータ持ってるのでは?
二番手戦略だから、AIの価値が立証されるまで使わないのかな
NTTだってオンラインストアを持っているが

Amazonはすでに使ってるだろうし

42: 名刺は切らしておりまして 2018/11/13(火) 22:03:09.65
もうすぐスカイネットの完成か
後20年もしたらロボットに支配されそうだな…

44: 名刺は切らしておりまして 2018/11/13(火) 22:17:27.73
石川遼選手も愛用しているやつ?

55: 名刺は切らしておりまして 2018/11/14(水) 01:19:51.29
>>44
スピードラーニングは英会話教材w
遼くんは国内の大会しか出ないから要らないでしょw

46: 名刺は切らしておりまして 2018/11/13(火) 22:28:04.28
累計8万人リストラしてスリム化したソニーは、
ベンチャー企業みたいに色んなことに手を伸ばすな

50: 名刺は切らしておりまして 2018/11/13(火) 23:39:41.22
比較対象は何なんだ、利用価値無いのと比べても意味ない。

52: 名刺は切らしておりまして 2018/11/14(水) 00:32:47.17
>>50
使用したテストデータの記述もあるのにその言いぐさw
わからないならちょっとは調べろと

56: 名刺は切らしておりまして 2018/11/14(水) 04:20:45.63
Chainer MNの時点で512GPUで15分やったろ
4倍に増やして約4分の1なので線形にスケールしてるが
Chainer MNもやろうと思えば2000GPU用に改造できるんちゃう

商業的にはコストパフォーマンスがいい方法がほしいよ

58: 名刺は切らしておりまして 2018/11/14(水) 07:33:30.37
そのうちAI刑事なんて出てきたりしてw
アッサリ解決みたいな。

59: 名刺は切らしておりまして 2018/11/14(水) 07:49:35.91
GPUとか言わないで、メーカーなら専用チップを作れよ

スポンサード リンク