まりぱらおーぐ

主にコンピューター周辺の話を中心に、気ままに書いていきます。

Deep Learning オールスターズ 2017 に参加してきました


f:id:o_chicchi:20170626202555j:plain

Deep Learning オールスターズ 2017

2017年6月25日(日)に、TECH PLAY(旧dots)で開催された Deep Learning オールスターズ 2017 の勉強会に参加してきました。

司会は、TECH PLAY 小沢さん。

広い会場にいっぱい人がいるのが印象的でした。

f:id:o_chicchi:20170626203325p:plain

techplay.jp

TECH PLAY には、Deep Learning の部活動があるそうです。登壇された舛岡英人氏が運営されているとのことです。

techplay.jp

「史上初!あのチームラボがGPUを使い倒した結果」

  • 登壇者
    • チームラボ株式会社 加藤 哲朗氏
    • チームラボ株式会社 林 輝大氏
    • 株式会社 IDCフロンティア 金杉 有見子氏

デジタルアートにおける Deep Learning

  • 登壇者

    • チームラボ株式会社 加藤 哲朗氏
  • 資料

    • 公開待ち
  • Product

    • Technology X Creative
    • 受託をやっている。JRのAccureの自動販売機など。
    • 子供向けのデジタル水族館
      • 子供が描いた絵を取り込むと泳ぐ。
  • 参考

www.teamlab.art

  • Deep Learning のデジタルアートの事例

    • レストランの空間演出、銀座のSAGAYAでやっている
      • レストランのテーブルをカメラで撮影して、皿を認識してテーブルにプロジェクションマッピングをする
      • Single shot Multi box Detector を使用している
        • ライブラリは、Caffe を使用
        • データセット 10000枚
        • TITAN × 1枚で、学習に2日程度
      • 皿にとかにフォークやナイフを載っても問題ないようにチューニング
    • やってみて
      • 膨大な量のデータセットを用意しなくても fine-tuning で十分な精度の識別器が作れる
    • プロジェクトの特徴
      • 映像、オーダーメイドの皿、コース料理、センサーシステムが同時に作り上がっていく過程で生じる変更に伴う苦労
        • 皿の変更要求の判断が難しい
        • 学習にかかる時間
    • 改良
      • 簡単にお皿を登録できる仕組みの開発
      • プロジェクタの映像による影響をなくす
        • 赤外線カメラへの変更
  • 参考

www.team-lab.com

レコメンドパッケージによる Deep Learning

  • 登壇者

    • チームラボ株式会社 林 輝大氏
  • 資料

    • 公開待ち
  • Webでのレコメンドパッケージを作成、運用している

    • 協調フィルタリングを利用したレコメンド
      • ログのない商品をレコメンドする精度が悪い
  • 社内で論文読み会をやっている

    • その中でCDLの話があった
  • CDL とは?

    • Collaborative Deep Learning
    • コンテンツの特徴
  • 参考

  • ログの使用について

    • クリックデータを加工する必要があった。
    • 商品画像、商品説明を学習させた
  • 課題

    • 定量的な評価指標をどうするか
    • MFが並列性能が悪い
    • CDLのチューニング
    • 大規模データの処理を考える

クラウドGPU

  • 登壇者

    • 株式会社 IDCフロンティア 金杉 有見子氏
  • メモ

    • IDCフロンティアは、Yahooの子会社。その昔、ソフトバンクが買収した会社の一つ。ケーブル&ワイヤレスIDCの時代にPSINet、東京インターネットを合併した。
    • 昔いた会社で、PSINetの時代に使っていたので、なんとなく懐かしかった。
  • 資料

    • 公開待ち
  • 安いので是非使って下さい

www.idcf.jp

  • 参考

ニューラルネットワークのその次へ

  • 登壇者

    • Retty株式会社 氏原 淳志氏
      • クラフトビール担当
        • Rettyさんって、担当あるんですよね。いつも面白いと思います。
      • 昔は、タンパク質の立体構造解析をやっていた。全然いうことをきいてくれない。
      • プログラムは、自分の意志で動くという点が良い。
  • 資料

  • メモ
    • Rettyでは機械学習を既に使っていて多数の記事がある。

qiita.com

  • 機械学習を始めたきっかけ

    • Tensorflow を出たときに使ってみて、CTO に見せてそれ以来やっている
  • ニューラルネットワーク以外にも、あるよ

    • Deep Forest
  • 説明をする前提

    • 決定木
    • Random Forest
  • Deep Forest

    • Random Forest を複数・多層にして使う
  • Character CNN と比較

  • Mondrian Forest

Deep Learningの世界に飛び込む前の命綱

  • 登壇者

    • TIS株式会社 嘉村 準弥氏 戦略技術センター
  • 資料

  • 最近興味のある書籍

深層学習による自然言語処理 (機械学習プロフェッショナルシリーズ)

深層学習による自然言語処理 (機械学習プロフェッショナルシリーズ)

  • chakki
    • Elephant Sense
    • Karura
    • chazutsu

github.com

  • 論文輪講
    • arcXivTimes

github.com

  • 取り組んだこと

    • 文章のネガポジ判定を行った。
    • 公開データセットの映画レビューデータを使った。
  • 手法

    • Naive Bayes
    • ベースラインの手法に関する論文
  • 実装

    • Scikit-learn を用いた。
    • Bag of Bigrams を使用。
  • Deep Learning

    • LSTM
    • 実装は、Keras(バックエンドは、Tensorflow)
  • 性能が出ない

    • 学習を調査するにあったて、プロットしてみた。
    • 噂の過学習をしていた。
  • 過学習の解決

    • パラメータをいろいろいじってみた。
    • 性能は上がったが、理由が不明。
  • 振り返り

    • ベースラインに近づけるのも難しかった
    • 延々とパラメーター調整に取り組むことの危険性
  • 終わりに

    • 自然言語処理において、真っ先に、Deep Learning に飛び込むのは得策ではないのかな

ファッションアイテム検索における深層学習の活用

  • 登壇者

    • 株式会社VASILY 中村 拓磨氏
    • アクセンチュアから転職して VASILY に在籍
  • 参考

  • 資料
  • アイテム検索における画像認識の価値

    • アイテム類似度において写真は重要
    • ファッションの用語は流行などがあるのでデータベースのメンテナンスがいる
  • 画像の種類

    • 商品画像とスナップ画像
  • 深層学習を適用する理由

    • 単純にいえば、ラクだ、等。
    • ドメインが違う画像も同様に扱える
    • 特徴抽出を自動化できる
  • 活用

    • Iterm2Item
    • Snap2Ttem
    • Item2Snap
    • 感覚的なアイテム検索
  • IBIS2016 で発表した

tech.vasily.jp

  • 今後

    • 深層学習の活用
    • 識別モデル/教師あり学習で学習を安定化・制御する必要あり
    • Triplet loss による類似度学習の改善
    • 衣装のコーディネートを自動生成
  • MIRU2017 で発表予定

    • 広島は遠いですが
  • 参考

tech.vasily.jp

3Dデータへの深層学習の適用

  • 登壇者

    • 株式会社カブク 足立 昌彦氏(CTO)
    • Simeji の原作者
  • 参考

ascii.jp

  • 資料

    • 公開待ち
  • TensorFlow User Group を応援している

tfug-tokyo.connpass.com

  • 今回の目的

    • 調べるネタの提供
  • kabuku

    • 3Dプリンタで作る
    • 特注品マーケット
    • 労働集約型ビジネス

www.kabuku.co.jp

Chainerで知るDeep Learning進化の歴史

  • 登壇者
    • 株式会社レトリバ 舛岡 英人氏

  • Chainer

    • 登場以前は独自実装が多かった。
  • TensorFlowはスゴイ

    • 公開されてすぐ、たくさんforkされていた

cupy.chainer.org

caffe2.ai

qiita.com

関係ありそうなリンク

qiita.com

blog.livedoor.jp

qiita.com

感想

大きな記事になってしまいました。

まだまだ、学習しはじめのおじさんですが、今回の勉強会は非常に興味深かったです。 時間の関係で懇親会に参加できず、いろいろ聞けなかったのが残念です。

自分でも色々試してみたいと思います。

また、資料公開された、あるいは、間違ってるとかあったら教えて下さい…^^;;

Copyright © 2002-2015 まりぱらおーぐ All Rights Reserved.