Deep Learning オールスターズ 2017
2017年6月25日(日)に、TECH PLAY(旧dots)で開催された Deep Learning オールスターズ 2017 の勉強会に参加してきました。
司会は、TECH PLAY 小沢さん。
広い会場にいっぱい人がいるのが印象的でした。
TECH PLAY には、Deep Learning の部活動があるそうです。登壇された舛岡英人氏が運営されているとのことです。
「史上初！あのチームラボがGPUを使い倒した結果」
- 登壇者
- チームラボ株式会社 加藤 哲朗氏
- チームラボ株式会社 林 輝大氏
- 株式会社 IDCフロンティア 金杉 有見子氏
デジタルアートにおける Deep Learning
登壇者
- チームラボ株式会社 加藤 哲朗氏
資料
- 公開待ち
Product
- Technology X Creative
- 受託をやっている。JRのAccureの自動販売機など。
- 子供向けのデジタル水族館
- 子供が描いた絵を取り込むと泳ぐ。
参考
Deep Learning のデジタルアートの事例
- レストランの空間演出、銀座のSAGAYAでやっている
- レストランのテーブルをカメラで撮影して、皿を認識してテーブルにプロジェクションマッピングをする
- Single shot Multi box Detector を使用している
- ライブラリは、Caffe を使用
- データセット 10000枚
- TITAN × 1枚で、学習に2日程度
- 皿にとかにフォークやナイフを載っても問題ないようにチューニング
- やってみて
- 膨大な量のデータセットを用意しなくても fine-tuning で十分な精度の識別器が作れる
- プロジェクトの特徴
- 映像、オーダーメイドの皿、コース料理、センサーシステムが同時に作り上がっていく過程で生じる変更に伴う苦労
- 皿の変更要求の判断が難しい
- 学習にかかる時間
- 映像、オーダーメイドの皿、コース料理、センサーシステムが同時に作り上がっていく過程で生じる変更に伴う苦労
- 改良
- 簡単にお皿を登録できる仕組みの開発
- プロジェクタの映像による影響をなくす
- 赤外線カメラへの変更
- レストランの空間演出、銀座のSAGAYAでやっている
参考
レコメンドパッケージによる Deep Learning
登壇者
- チームラボ株式会社 林 輝大氏
資料
- 公開待ち
Webでのレコメンドパッケージを作成、運用している
- 協調フィルタリングを利用したレコメンド
- ログのない商品をレコメンドする精度が悪い
- 協調フィルタリングを利用したレコメンド
社内で論文読み会をやっている
- その中でCDLの話があった
CDL とは?
- Collaborative Deep Learning
- コンテンツの特徴
参考
ログの使用について
- クリックデータを加工する必要があった。
- 商品画像、商品説明を学習させた
課題
- 定量的な評価指標をどうするか
- MFが並列性能が悪い
- CDLのチューニング
- 大規模データの処理を考える
クラウドGPU
登壇者
- 株式会社 IDCフロンティア 金杉 有見子氏
メモ
- IDCフロンティアは、Yahooの子会社。その昔、ソフトバンクが買収した会社の一つ。ケーブル&ワイヤレスIDCの時代にPSINet、東京インターネットを合併した。
- 昔いた会社で、PSINetの時代に使っていたので、なんとなく懐かしかった。
資料
- 公開待ち
安いので是非使って下さい
- 参考
ニューラルネットワークのその次へ
登壇者
- Retty株式会社 氏原 淳志氏
- クラフトビール担当
- Rettyさんって、担当あるんですよね。いつも面白いと思います。
- 昔は、タンパク質の立体構造解析をやっていた。全然いうことをきいてくれない。
- プログラムは、自分の意志で動くという点が良い。
- クラフトビール担当
- Retty株式会社 氏原 淳志氏
資料
- メモ
- Rettyでは機械学習を既に使っていて多数の記事がある。
機械学習を始めたきっかけ
- Tensorflow を出たときに使ってみて、CTO に見せてそれ以来やっている
ニューラルネットワーク以外にも、あるよ
- Deep Forest
説明をする前提
- 決定木
- Random Forest
Deep Forest
- Random Forest を複数・多層にして使う
Character CNN と比較
Mondrian Forest
Deep Learningの世界に飛び込む前の命綱
登壇者
- TIS株式会社 嘉村 準弥氏 戦略技術センター
資料
- 最近興味のある書籍
- chakki
- Elephant Sense
- Karura
- chazutsu
- 論文輪講
- arcXivTimes
取り組んだこと
- 文章のネガポジ判定を行った。
- 公開データセットの映画レビューデータを使った。
手法
- Naive Bayes
- ベースラインの手法に関する論文
実装
- Scikit-learn を用いた。
- Bag of Bigrams を使用。
Deep Learning
- LSTM
- 実装は、Keras(バックエンドは、Tensorflow)
性能が出ない
- 学習を調査するにあったて、プロットしてみた。
- 噂の過学習をしていた。
過学習の解決
- パラメータをいろいろいじってみた。
- 性能は上がったが、理由が不明。
振り返り
- ベースラインに近づけるのも難しかった
- 延々とパラメーター調整に取り組むことの危険性
終わりに
- 自然言語処理において、真っ先に、Deep Learning に飛び込むのは得策ではないのかな
ファッションアイテム検索における深層学習の活用
登壇者
- 株式会社VASILY 中村 拓磨氏
- アクセンチュアから転職して VASILY に在籍
参考
https://itunes.apple.com/jp/app/%E3%83%95%E3%82%A1%E3%83%83%E3%82%B7%E3%83%A7%E3%83%B3%E3%82%B3%E3%83%BC%E3%83%87%E3%82%A3%E3%83%8D%E3%83%BC%E3%83%88-iqon-%E3%82%A2%E3%82%A4%E3%82%B3%E3%83%B3/id497264307?mt=8&uo=4&at=1010ln2
- 資料
アイテム検索における画像認識の価値
- アイテム類似度において写真は重要
- ファッションの用語は流行などがあるのでデータベースのメンテナンスがいる
画像の種類
- 商品画像とスナップ画像
深層学習を適用する理由
- 単純にいえば、ラクだ、等。
- ドメインが違う画像も同様に扱える
- 特徴抽出を自動化できる
活用
- Iterm2Item
- Snap2Ttem
- Item2Snap
- 感覚的なアイテム検索
IBIS2016 で発表した
http://tech.vasily.jp/entry/ibis2016tech.vasily.jp
今後
- 深層学習の活用
- 識別モデル/教師あり学習で学習を安定化・制御する必要あり
- Triplet loss による類似度学習の改善
- 衣装のコーディネートを自動生成
MIRU2017 で発表予定
- 広島は遠いですが
参考
http://tech.vasily.jp/entry/detection_and_retrievaltech.vasily.jp
3Dデータへの深層学習の適用
登壇者
- 株式会社カブク 足立 昌彦氏(CTO)
- Simeji の原作者
参考
資料
- 公開待ち
TensorFlow User Group を応援している
今回の目的
- 調べるネタの提供
kabuku
- 3Dプリンタで作る
- 特注品マーケット
- 労働集約型ビジネス
Machine Learning によって過去の類型型を探す
- 知識集約型産業に少しでも近づけていきたい
3Dモデルの学習
- VoxNet
- TensorFlow
参考
Biased Softmax
AI System
- パレートの法則
転移学習でFA
Chainerで知るDeep Learning進化の歴史
- 登壇者
- 株式会社レトリバ 舛岡 英人氏
Chainer
- 登場以前は独自実装が多かった。
TensorFlowはスゴイ
- 公開されてすぐ、たくさんforkされていた
関係ありそうなリンク
感想
大きな記事になってしまいました。
まだまだ、学習しはじめのおじさんですが、今回の勉強会は非常に興味深かったです。 時間の関係で懇親会に参加できず、いろいろ聞けなかったのが残念です。
自分でも色々試してみたいと思います。
また、資料公開された、あるいは、間違ってるとかあったら教えて下さい...^^;;
