勉強会の概要

• 機械学習を業務に使いたい。
• 機械学習を使ってサービスを作れと上司から言われている。
• よく分からないけど機械学習を学んでみたい。
• そもそも機械学習って何？

そんなセキュリティエンジニア向けのまったりした機械学習勉強会です。
共に基礎から学んでいきましょう。

トーク内容

• Intro: オープニング by kengoscal: 5min

LTの部

• 機械学習関連情報の収集方法 by bbq_bbq: 10min

• ノーベル・プライズ・ダイアログ東京2017参加報告 by ichiro_fujii: 10min

• 休憩 : 5min

ディスカッションの部

• AIの脆弱性について by bbr_bbq: 約30min
  下記手法の概要を簡単に説明した後、あれこれディスカッションする予定です。
  ※事前に目を通さなくてもおｋ
• 機械学習モデルの窃取
  • Stealing Machine Learning Models via Prediction APIs
• 分類器の誤分類を誘発
  • Simple Black-Box Adversarial Perturbations for Deep Networks
  • Practical Black-Box Attacks against Deep Learning Systems using Adversarial Examples
  • Deep neural networks are easily fooled: High confidence predictions for unrecognizable images
• 報酬ハッキング、モデルポイゾニング（誤った方向に学習させる）
  • 現実世界での機械学習によるアノマリ検知システムの構築と回避
  • Concrete Problems in AI Safety
  • Vulnerability of Deep Reinforcement Learning to Policy Induction Attacks
  • Adversarial Attacks on Neural Network Policies

• 実装上のバグを悪用（OpenCV, numpy, scikit-learn等の脆弱性を突く）

  • The Pursuit of Exploitable Bugs in Machine Learning

• 未定（勉強会の場で自由に発案してもOK！）

• クロージング by bbr_bbq: 5min

AISECjpからのお願い!!

LT内容について

セキュリティ＆機械学習であれば、自分で取り組んでることは勿論、論文ネタ・アイディア・記事の紹介等なんでもおｋです!!
LT希望者がおりましたらご連絡ください!!!!!!!!

ディスカッション内容について

機械学習に関連していれば、議題は何でもおｋです!!
事前に議題をご連絡いただく形でも、勉強会の場で発案いただく形でもOKです

会場について

今回の会場はマネーフォワードへの道を参照ください。 会場を提供者も募集中です！！本当に募集中です！

情報ソース

• https://github.com/ken5scal/awesome-ml-for-cybersecurity
• http://www.slideshare.net/MasanoriTakano1/ss-71239981
• http://web.stanford.edu/class/cs259d/
• https://arxiv.org/
• https://github.com/Ka2uk1/arXiv/blob/master/README.md

過去の勉強会について

LTパート

• Black Hat Arsenalで披露した診断AIの概要 by bbr_bbq
• セーラー服と会話中~逆襲のりんな~ by ているさん
• CAPTCHAとボットの共進化 by ntddkさん
• 機械学習でWebアプリの脆弱性を見つける方法(初級編) by bbr_bbq
• 機械学習でWebアプリの脆弱性を見つける方法(中級編) by bbr_bbq
• [測定手段としての標的型攻撃メール模擬演習] by nabesinさん:30min
• Dockerでの環境構築のすすめ by ken5scal
• Rage Against the Machine Learning by ntddkさん
• Paper「Stealing Machine Learning Models via Prediction APIs」の解説 by bbr_bbq
• セキュリティ系機械学習をやる時に良さそうなリソース by kengoscal
• ハニーポットとチューリングテスト by ハニーポッター(morihi-soc)さん

輪読パート

中井悦司著「ITエンジニアのための機械学習理論入門」

• 第２章 最小二乗法：機会学習理論の第一歩
• 第３章 最尤推定法：確率を用いた推定理論
• 第４章 パーセプトロン：分類アルゴリズムの基礎
• 第５章 ロジスティック回帰とROC曲線：学習モデルの評価方法
• 第６章 k平均法：教師なし学習モデルの基礎
• 第７章 EMアルゴリズム：最尤推定法による教師なし学習
• 第８章 ベイズ推定：データを元に「確信」を高める手法

ディスカッションパート

• 総務省「AI開発ガイドライン(仮)」のパブコメ募集について

行動規範について

AISECjpに参加するすべての人は下記の行動規範を守ることを求められます。主催者はこの行動規範を、本勉強会管理の場全てに適用します。すべての人にとって安全な場所を提供するため、すべての参加者にご協力をお願いします。

私たちは下記のような事柄に関わらずすべての人にとって安全な場を提供することに努めます。 社会的あるいは法的な性、性自認、性表現（外見の性）、性指向 年齢、障がい、容姿、体格 人種、民族、宗教（無宗教を含む） 技術の選択

そして下記のようなハラスメント行為をいかなる形であっても決して許容しません。 脅迫、つきまとい、ストーキング 不適切な画像、動画、録音の再生（性的な画像など） 発表や他のイベントに対する妨害行為 不適切な身体的接触 これらに限らない性的嫌がらせ 全参加者はこのポリシーの対象となります。性的な言葉や画像はいかなる発表やワークショップ、パーティ、Twitterのようなオンラインメディアにおいても不適切です。

ハラスメント行為をやめるように指示された場合、直ちに従うことが求められます。ルールを守らない参加者は、主催者の判断により、退場処分や今後のイベントにいかなる身分としても関わることを禁止します。

もしハラスメントを受けていると感じたり、他の誰かがハラスメントされていることに気がついた場合、または他に何かお困りのことがあれば、すぐに主催者までご連絡ください。

この行動規範は、CC-BY-3.0で公開されているDroidcon NYCのCode of Conductを元に作成しています。また、翻訳はDroidKaigiの行動規範を元に作成しています。

原文: http://2012.jsconf.us/#/about & The Ada Initiative 翻訳元: https://droidkaigi.github.io/2017/code-of-conduct.html