f:id:o_chicchi:20170626202555j:plain

Deep Learning オールスターズ 2017

2017年6月25日(日)に、TECH PLAY(旧dots)で開催された Deep Learning オールスターズ 2017 の勉強会に参加してきました。

司会は、TECH PLAY 小沢さん。

広い会場にいっぱい人がいるのが印象的でした。

f:id:o_chicchi:20170626203325p:plain

techplay.jp

TECH PLAY には、Deep Learning の部活動があるそうです。登壇された舛岡英人氏が運営されているとのことです。

techplay.jp

「史上初！あのチームラボがGPUを使い倒した結果」

登壇者
- チームラボ株式会社加藤哲朗氏
- チームラボ株式会社林輝大氏
- 株式会社 IDCフロンティア金杉有見子氏

デジタルアートにおける Deep Learning

登壇者
- チームラボ株式会社加藤哲朗氏
資料
- 公開待ち
Product
- Technology X Creative
- 受託をやっている。JRのAccureの自動販売機など。
- 子供向けのデジタル水族館
  - 子供が描いた絵を取り込むと泳ぐ。
参考

www.teamlab.art

Deep Learning のデジタルアートの事例
- レストランの空間演出、銀座のSAGAYAでやっている
  - レストランのテーブルをカメラで撮影して、皿を認識してテーブルにプロジェクションマッピングをする
  - Single shot Multi box Detector を使用している
    - ライブラリは、Caffe を使用
    - データセット 10000枚
    - TITAN × 1枚で、学習に2日程度
  - 皿にとかにフォークやナイフを載っても問題ないようにチューニング
- やってみて
  - 膨大な量のデータセットを用意しなくても fine-tuning で十分な精度の識別器が作れる
- プロジェクトの特徴
  - 映像、オーダーメイドの皿、コース料理、センサーシステムが同時に作り上がっていく過程で生じる変更に伴う苦労
    - 皿の変更要求の判断が難しい
    - 学習にかかる時間
- 改良
  - 簡単にお皿を登録できる仕組みの開発
  - プロジェクタの映像による影響をなくす
    - 赤外線カメラへの変更
参考

www.team-lab.com

レコメンドパッケージによる Deep Learning

登壇者
- チームラボ株式会社林輝大氏
資料
- 公開待ち
Webでのレコメンドパッケージを作成、運用している
- 協調フィルタリングを利用したレコメンド
  - ログのない商品をレコメンドする精度が悪い
社内で論文読み会をやっている
- その中でCDLの話があった
CDL とは?
- Collaborative Deep Learning
- コンテンツの特徴
参考

論文紹介：Collaborative Deep Learning for Recommender Systems（チームラボ勉強会） from Ryo Yamamoto

ログの使用について
- クリックデータを加工する必要があった。
- 商品画像、商品説明を学習させた
課題
- 定量的な評価指標をどうするか
- MFが並列性能が悪い
- CDLのチューニング
- 大規模データの処理を考える

クラウドGPU

登壇者
- 株式会社 IDCフロンティア金杉有見子氏
メモ
- IDCフロンティアは、Yahooの子会社。その昔、ソフトバンクが買収した会社の一つ。ケーブル&ワイヤレスIDCの時代にPSINet、東京インターネットを合併した。
- 昔いた会社で、PSINetの時代に使っていたので、なんとなく懐かしかった。
資料
- 公開待ち
安いので是非使って下さい

www.idcf.jp

参考

激アツ！GPUパワーとインフラの戦い from IDC Frontier

ニューラルネットワークのその次へ

登壇者
- Retty株式会社氏原淳志氏
  - クラフトビール担当
    - Rettyさんって、担当あるんですよね。いつも面白いと思います。
  - 昔は、タンパク質の立体構造解析をやっていた。全然いうことをきいてくれない。
  - プログラムは、自分の意志で動くという点が良い。
資料

メモ
- Rettyでは機械学習を既に使っていて多数の記事がある。

qiita.com

機械学習を始めたきっかけ
- Tensorflow を出たときに使ってみて、CTO に見せてそれ以来やっている
ニューラルネットワーク以外にも、あるよ
- Deep Forest
説明をする前提
- 決定木
- Random Forest
Deep Forest
- Random Forest を複数・多層にして使う
Character CNN と比較
Mondrian Forest

Deep Learningの世界に飛び込む前の命綱

登壇者
- TIS株式会社嘉村準弥氏戦略技術センター
資料

Deep learningの世界に飛び込む前の命綱 from Junya Kamura

最近興味のある書籍

深層学習による自然言語処理 (機械学習プロフェッショナルシリーズ)

作者:坪井祐太,海野裕也,鈴木潤
講談社サイエンティフィク

Amazon

chakki
- Elephant Sense
- Karura
- chazutsu

github.com

論文輪講
- arcXivTimes

github.com

取り組んだこと
- 文章のネガポジ判定を行った。
- 公開データセットの映画レビューデータを使った。
手法
- Naive Bayes
- ベースラインの手法に関する論文
実装
- Scikit-learn を用いた。
- Bag of Bigrams を使用。
Deep Learning
- LSTM
- 実装は、Keras(バックエンドは、Tensorflow)
性能が出ない
- 学習を調査するにあったて、プロットしてみた。
- 噂の過学習をしていた。
過学習の解決
- パラメータをいろいろいじってみた。
- 性能は上がったが、理由が不明。
振り返り
- ベースラインに近づけるのも難しかった
- 延々とパラメーター調整に取り組むことの危険性
終わりに
- 自然言語処理において、真っ先に、Deep Learning に飛び込むのは得策ではないのかな

ファッションアイテム検索における深層学習の活用

登壇者
- 株式会社VASILY 中村拓磨氏
- アクセンチュアから転職して VASILY に在籍
参考

https://itunes.apple.com/jp/app/%E3%83%95%E3%82%A1%E3%83%83%E3%82%B7%E3%83%A7%E3%83%B3%E3%82%B3%E3%83%BC%E3%83%87%E3%82%A3%E3%83%8D%E3%83%BC%E3%83%88-iqon-%E3%82%A2%E3%82%A4%E3%82%B3%E3%83%B3/id497264307?mt=8&uo=4&at=1010ln2